视觉模型训练成本一年下降80%,中国AI厂商“掀起”全球算力降价潮

1年前 来源: 观看:170

  视觉模型训练成本一年下降80%,中国AI厂商“掀起”全球算力降价潮Xay即热新闻——关注每天科技社会生活新变化gihot.com

  2024年过去,AI又走过了狂奔的一年,大模型加速落地的热切、应用场景创新的火热和高投入、商业化缓慢带来的“下牌桌”焦虑同时处在这个行业。Xay即热新闻——关注每天科技社会生活新变化gihot.com

  回过头看来,过往行业共识的一些问题在2024年中被打上了问号,例如智能算力还是否短缺、中国AI企业的“算力焦虑”是必要的吗?Scaling Law(规模法则)还值得信仰吗?Xay即热新闻——关注每天科技社会生活新变化gihot.com

  辞旧迎新之际,中国AI行业的“拐点”时刻更受关注。不再统一的答案背后,值得关注的是,对中国AI企业来说,一些好的变化正在发生,也有更多挑战等待2025年去回答。Xay即热新闻——关注每天科技社会生活新变化gihot.com

  训练成本下降Xay即热新闻——关注每天科技社会生活新变化gihot.com

  2024年12月27日,海外社交媒体平台X被来自中国的大模型DeepSeek-V3刷屏,这一模型能力对标头部模型,但训练的预算却非常低,“2048个GPU、2个月、近600万美元”,相比之下,GPT-4o等模型的训练成本约为1亿美元,至少在万个GPU量级的计算集群上训练。Xay即热新闻——关注每天科技社会生活新变化gihot.com

  这是一项展现了极致性价比的训练成本数据。在已开源的论文中,幻方量化旗下AI公司深度求索(DeepSeek)强调了DeepSeek-V3训练成本较低――通过对算法、框架和硬件的优化协同设计,在预训练阶段,模型每训练1万亿token仅需要18万个GPU小时,即在团队配备2048个H800 GPU的集群上只需3.7天,也就是说,团队的预训练在不到2个月的时间完成。加上后训练,DeepSeek-V3完整训练消耗了278.8万个GPU小时。假设H800 GPU的租用价格为每块GPU 2美元/小时,DeepSeek-V3的全部正式训练成本总计仅为557.6万美元。Xay即热新闻——关注每天科技社会生活新变化gihot.com

  DeepSeek的成功并非个例,值得关注的是,在英伟达显卡等高端算力资源受限的情况下,2024年,许多中国AI企业正在找到降低训练成本的方法。Xay即热新闻——关注每天科技社会生活新变化gihot.com

  极佳科技联合创始人兼首席科学家朱政向第一财经记者透露,过去一年,极佳科技训练大模型的成本也在大规模下降。朱政介绍,之前极佳科技训练一个视觉模型大概需要500万美金,基本上是一个语言模型的1/10,但现在他们已经把这个成本降到了100万美金以下。Xay即热新闻——关注每天科技社会生活新变化gihot.com

  从训练成本的降低来看,朱政表示“方法有很多”,一方面,大模型公司正在关注与云厂商加强合作,通过做一些训练加速、通讯优化、设置优化等降低成本。同时,行业对数据优化也更为重视,之前行业用Scaling Law只是在对数据,但对完数据后并没有做非常多相应的优化,事实上数据优化带来的训练效率提升空间也很大。Xay即热新闻——关注每天科技社会生活新变化gihot.com

  中国AI企业的“抢卡”焦虑也因此有所缓解,朱政表示,例如英伟达最新发布的显卡还是要买,得买最新的架构的显卡,但随着训练效率的提升,需要的规模会下降。他同时表示,来到100万美金以下,未来进一步下探大模型的训练成本将是一件更困难的事情,可能不是一家企业能搞定的事情,可能需要训练框架的支持、编程语言的支持包括显卡算式的支持。Xay即热新闻——关注每天科技社会生活新变化gihot.com

  从全行业的角度来看,蚂蚁集团科技战略与执行部副总经理彭晋对第一财经记者表示,在采购先进算力有些困难的情况下,国内也在推进国产算力的替代,各大公司都在不断采购一些国产算力,从蚂蚁的实践来看,国产算力已经可以支撑很大规模,比如在千亿参数甚至以上规模的模型训练中国产算力是没有问题的。至于到下一步,例如说要建十万卡规模的集群,国产算力能否支撑有待进一步检验。Xay即热新闻——关注每天科技社会生活新变化gihot.com

  “远虑”仍存,但走过2024年,中国企业的“算力焦虑”正在回归理性。Xay即热新闻——关注每天科技社会生活新变化gihot.com

  未来趋势Xay即热新闻——关注每天科技社会生活新变化gihot.com

  2025年,中国AI行业会有哪些变化?Xay即热新闻——关注每天科技社会生活新变化gihot.com

  北京智源人工智能研究院在《2025十大AI技术趋势》报告中指出,从基础设施到产品应用,Scaling Law、基础模型、具身智能、超级应用、AI安全等AI发展的关键方向都可能在2025年迎来新的变化。Xay即热新闻——关注每天科技社会生活新变化gihot.com

Xay即热新闻——关注每天科技社会生活新变化gihot.com

  报告认为,AI4S驱动科学研究范式变革;具身智能领域具身大小脑和本体的协同进化;统一的多模态大模型实现更高效AI;Scaling Law扩展向RL + LLMs,模型泛化从预训练向后训练、推理迁移;世界模型加速发布,有望成为多模态大模型的下一阶段;合成数据成为大模型迭代与应用落地的重要催化剂;推理优化迭代加速,成为AI Native应用落地的必要条件;Agentic AI成为产品落地的重要模式;AI应用将迎来Super APP以及AI安全治理体系的持续完善将成为2025年AI技术发展的十大趋势。Xay即热新闻——关注每天科技社会生活新变化gihot.com

  不少中国自研的技术和产品让业内看到了这些趋势的到来。2024年9月,蚂蚁发布了支小宝、蚂小财等系列AI管家产品,探索更多服务类智能体形态,2024年10月,智源研究院发布了完全自研的基于自回归技术的原生多模态世界模型Emu3,实现了视频、图像、文本三种模态的统一理解和生成,2024年年底,豆包月活跃用户数达到了7116万,成为国内第一、全球第二的AI原生应用。Xay即热新闻——关注每天科技社会生活新变化gihot.com

  智能研究院行业研究组负责人倪贤豪提到,走过2024年全年来看,与2023年相比,国内AI整体的应用热度已明显升温,相比2023年第一季度,他所在的团队调研到,2024年第四季度,整个基础模型的垂直产业链以及其他赛道AI应用的成熟度已有了明显提升,例如AI在3D内容、AI硬件等场景的应用以及医疗文献处理等未来场景的探索中,都有了明显拓展。Xay即热新闻——关注每天科技社会生活新变化gihot.com

  从国内大模型公开中标项目的类型分布来看,2024年10月,大模型应用类项目数量首次超过了算力类项目,应用类大模型招标项目占比已达到56%,国产大模型在垂直行业实现了加速落地,或是在诸多中大型企业扮演中台性质的基础设施。Xay即热新闻——关注每天科技社会生活新变化gihot.com

  AI应用领域的Super APP能否在2025年出现同样受到业内关注。从C端的用户规模、交互频次、停留时长等维度来看,目前,国产AI应用尚未出现爆发式增长,倪贤豪表示,随着大模型推理成本的下降,包括开发工具的适配、框架的创新以及应用安全、决策的可解释性、鲁棒性等问题的解决,未来,推动Agent解决复杂问题的能力提升将变得更有可能也更关键。他认为,从用户视角切入,以需求反推技术或许能撬动AI应用的用户存量和增量市场,Super APP在2025年的诞生值得期待。Xay即热新闻——关注每天科技社会生活新变化gihot.com

  “当前,我们处在人工智能发展的新拐点,大模型的能力涌现加速通用人工智能时代的到来,原生统一多模态、具身智能、AI for Science,将进一步深化人工智能对世界的感知、理解与推理,连接数字世界与物理世界,驱动科学研究创新突破。”智源研究院院长王仲远表示。Xay即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-4-443-0.html视觉模型训练成本一年下降80%,中国AI厂商“掀起”全球算力降价潮

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:将于本月内生效!泰国颁布紧急法令打击电信网络诈骗

下一篇:失去始祖鸟代理权 三夫户外自救

为你推荐
全国2024年GDP公布的当日下午,上海就迫不及待地公布了全年数据:53926.71亿元,同比增长5.0%。不仅成功晋升为全国第一个五万亿城市,上...
01-21
[本站 资讯] 1月23日,阿维塔官方宣布启动“春节不打烊”用户服务,其通过线上、线下多渠道升级悦心服务。即日起至2月5日,阿维塔中心及钣喷中心将为车主提供免费专业的车...
01-24
[本站 资讯] 近日,小鹏汽车正式推送了AI天玑XOS 5.5.0版本,该版本的新功能,包含图灵AI智驾、智能泊车与出库、AI充电等实用功能。图灵AI智驾车位到车位(先锋版):双击拨杆可...
01-24
《难哄》温以凡被舅舅欺负了吗?他舅舅玷污他了吗?在《难哄》中,温以凡确实遭遇了舅舅车兴德的欺负。醉酒后的侵犯企图:温以凡暂住在大伯大伯母家时,大伯母的弟弟...
02-19
《余烬之上》那个老警察是谁?《余烬之上》中的老警察有罗斯。罗斯在剧中是一位经历丰富的警官,在最新更新的剧情里,廖思远曾与老警官罗斯有精彩对手戏,廖思远...
02-21
  记者1日从国家卫生健康委获悉,2025年至2027年被确定为“儿科和精神卫生服务年”,同时,国家卫生健康委公布了2025年全系统为民服务的八件实事。  据介绍,在2025年至2...
01-21
这里是《21健讯Daily》,欢迎与21世纪经济报道新健康团队共同关注医药健康行业最新事件!政策动向国家医保局预设“互联网首诊”价格项目日前,...
01-24
  大众网记者 司心鹏 报道  在12月13日至16日举办的第十七届山东省职业院校技能大赛(高职组)体育活动设计与实施赛项中,菏泽医学专科学校公共教学部体育教研室指导的参...
01-21
  大众网记者 王一刚 报道  “秦时明月汉时关,万里长征人未还。”一首《出塞》传诵千年,以举行“赤子心·家国情”主题画展及宣讲为驱动,一堂基于语文课标要求的跨学科...
01-21
  近年来,随着个人消费贷款需求不断增长,不法贷款中介、电信诈骗不法人员盯上了这块“蛋糕”。...
01-24
  新华社北京2月1日电(记者 李延霞)银行业理财登记托管中心近日发布的报告显示,截至2024年末,银行...
02-05
天蝎座的男生通常都有着神秘而深沉的个性,他们对于感情非常认真,但也很容易受到伤害。如...
01-22
金牛座的男生一向以稳重、务实而著称。他们对待感情也是如此,不喜欢花言巧语,更愿意用行...
01-22
chanel包包面料? chanel包包贵吗?chanel包包面料?一种很耐磨又挺刮的合成面料chanel包包贵吗?贵,正品的香奈儿包包非常美,仿的目前完全不能比,所以值这个价。大多都是两三万。正品...
02-07
西装衬衫搭配什么裤子?一、西装衬衫搭配什么裤子?以下是一些常见的衬衫搭配裤子的建议:1. 西裤:西裤是一种传统而正式的选择,适合较为正式的场合,如商务会议、正式晚宴或庄重的场...
02-22
网约车市场正在悄然发生变化,如同暴风雨来临前的宁静,让人恐惧。1、抖音上线打车服务抖音不仅能刷短视频,现在还能直接打车了。据Tech星球独家消息,抖音在近日上线了打车服务,入...
02-07
2月21日消息,盒马创始人侯毅宣布进军宠物食品零售领域,创立派特鲜生品牌,品牌启动暨战略合作伙伴大会今日召开,首店将于2月22日开业。侯毅透露,派特鲜生的目标是2025年3月在上海...
02-22
2月9日消息,京东汽车年货节战报出炉,年货节期间,京东平台上安全预警仪销量同比增长超150%,全景影像产品销量同比增长超100%,应急包商品成交金额同比增长15倍,而能保护孩子安全的安...
02-09
2月13日消息,蚂蚁集团发布《2024年消费者权益保护年报》。报告显示,2024年,蚂蚁集团发挥安全科技能力,预防、识别和应对各种风险,协助公安反诈部门保护35.6亿元资金;加速拥抱 AI ...
02-14
近来,交易领域的流行语不外乎是“技术”和“创新”。 虽然许多业内人士都在强调尖端解决方案,但本质上真正的进步是远非这些营销炒作所能比的。 名副其实的创新是能为交易者提...
01-21
AI领域再添新融资。1月22日,AI硬件公司未来智能完成数千万元人民币的Pre-A轮融资,由万物创投领投,初心资本跟投。这是未来智能继2021年种子轮融资、2023年天使轮融资后完成的第...
01-23
2K揭开了《WWE 2K25》的神秘面纱,今年3月14日该游戏发售后,玩家终于能在游戏中安排男女摔跤手进行性别混合对决——这在WWE赛事节目中本身就极少出现。 2K在一...
01-29
今日(2月5日),雅达利经典打砖块游戏《Breakout Beyond》Steam页面开放,发行日期待定,游戏暂不支持中文,感兴趣的玩家可以点击此处进入商店页面。 游戏介绍: 《Bre...
02-06
极目新闻记者 詹钘通讯员 潘庆芳 周皓2月4日,极目新闻记者从湖北省春运办了解到,春运前20天,该省全社会跨区域人员流动量累计3.07亿人次,占比达到全国的十六分之一。春运以来,省...
02-04
据西安头条2月5日消息,陕西省第十一届人大常委会副主任,陕西省政府原副省长,陕西省总工会原主席党组书记,著名作家白阿莹同志因病医治无效,于2025年2月5日9时56分在西安逝世,享年7...
02-06
1月20日有消息称,据荣耀内部公告,荣耀中国区CMO姜海荣将辞去相关职务。据悉,姜海荣曾在华为与荣耀工作超过20年,历任研发、市场等工作...
01-21
近年来,日本在人工智能应用方面积极探索,在制造业、农业、教育等诸多领域都涌现出一些创新案例。但整体而言,日本社会对AI科技的接受程度并不高。在全...
01-27
  2024年,我省全链条贯穿、全年无断线,做实高校毕业生等青年群体就业服务,人才回流态势持续保持,全省城镇...
01-23
注意了!2025年辽宁省事业单位集中面向社会公开招聘工作人员公告发布报名时间2025年2月19日9:00至2月25日...
02-18
SQL Error: select * from ***_ecms_news3 where id in(175,137,43,,279,199,235,193) limit 8
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮