视觉模型训练成本一年下降80%,中国AI厂商“掀起”全球算力降价潮

1年前 来源: 观看:149

  视觉模型训练成本一年下降80%,中国AI厂商“掀起”全球算力降价潮7Xo即热新闻——关注每天科技社会生活新变化gihot.com

  2024年过去,AI又走过了狂奔的一年,大模型加速落地的热切、应用场景创新的火热和高投入、商业化缓慢带来的“下牌桌”焦虑同时处在这个行业。7Xo即热新闻——关注每天科技社会生活新变化gihot.com

  回过头看来,过往行业共识的一些问题在2024年中被打上了问号,例如智能算力还是否短缺、中国AI企业的“算力焦虑”是必要的吗?Scaling Law(规模法则)还值得信仰吗?7Xo即热新闻——关注每天科技社会生活新变化gihot.com

  辞旧迎新之际,中国AI行业的“拐点”时刻更受关注。不再统一的答案背后,值得关注的是,对中国AI企业来说,一些好的变化正在发生,也有更多挑战等待2025年去回答。7Xo即热新闻——关注每天科技社会生活新变化gihot.com

  训练成本下降7Xo即热新闻——关注每天科技社会生活新变化gihot.com

  2024年12月27日,海外社交媒体平台X被来自中国的大模型DeepSeek-V3刷屏,这一模型能力对标头部模型,但训练的预算却非常低,“2048个GPU、2个月、近600万美元”,相比之下,GPT-4o等模型的训练成本约为1亿美元,至少在万个GPU量级的计算集群上训练。7Xo即热新闻——关注每天科技社会生活新变化gihot.com

  这是一项展现了极致性价比的训练成本数据。在已开源的论文中,幻方量化旗下AI公司深度求索(DeepSeek)强调了DeepSeek-V3训练成本较低――通过对算法、框架和硬件的优化协同设计,在预训练阶段,模型每训练1万亿token仅需要18万个GPU小时,即在团队配备2048个H800 GPU的集群上只需3.7天,也就是说,团队的预训练在不到2个月的时间完成。加上后训练,DeepSeek-V3完整训练消耗了278.8万个GPU小时。假设H800 GPU的租用价格为每块GPU 2美元/小时,DeepSeek-V3的全部正式训练成本总计仅为557.6万美元。7Xo即热新闻——关注每天科技社会生活新变化gihot.com

  DeepSeek的成功并非个例,值得关注的是,在英伟达显卡等高端算力资源受限的情况下,2024年,许多中国AI企业正在找到降低训练成本的方法。7Xo即热新闻——关注每天科技社会生活新变化gihot.com

  极佳科技联合创始人兼首席科学家朱政向第一财经记者透露,过去一年,极佳科技训练大模型的成本也在大规模下降。朱政介绍,之前极佳科技训练一个视觉模型大概需要500万美金,基本上是一个语言模型的1/10,但现在他们已经把这个成本降到了100万美金以下。7Xo即热新闻——关注每天科技社会生活新变化gihot.com

  从训练成本的降低来看,朱政表示“方法有很多”,一方面,大模型公司正在关注与云厂商加强合作,通过做一些训练加速、通讯优化、设置优化等降低成本。同时,行业对数据优化也更为重视,之前行业用Scaling Law只是在对数据,但对完数据后并没有做非常多相应的优化,事实上数据优化带来的训练效率提升空间也很大。7Xo即热新闻——关注每天科技社会生活新变化gihot.com

  中国AI企业的“抢卡”焦虑也因此有所缓解,朱政表示,例如英伟达最新发布的显卡还是要买,得买最新的架构的显卡,但随着训练效率的提升,需要的规模会下降。他同时表示,来到100万美金以下,未来进一步下探大模型的训练成本将是一件更困难的事情,可能不是一家企业能搞定的事情,可能需要训练框架的支持、编程语言的支持包括显卡算式的支持。7Xo即热新闻——关注每天科技社会生活新变化gihot.com

  从全行业的角度来看,蚂蚁集团科技战略与执行部副总经理彭晋对第一财经记者表示,在采购先进算力有些困难的情况下,国内也在推进国产算力的替代,各大公司都在不断采购一些国产算力,从蚂蚁的实践来看,国产算力已经可以支撑很大规模,比如在千亿参数甚至以上规模的模型训练中国产算力是没有问题的。至于到下一步,例如说要建十万卡规模的集群,国产算力能否支撑有待进一步检验。7Xo即热新闻——关注每天科技社会生活新变化gihot.com

  “远虑”仍存,但走过2024年,中国企业的“算力焦虑”正在回归理性。7Xo即热新闻——关注每天科技社会生活新变化gihot.com

  未来趋势7Xo即热新闻——关注每天科技社会生活新变化gihot.com

  2025年,中国AI行业会有哪些变化?7Xo即热新闻——关注每天科技社会生活新变化gihot.com

  北京智源人工智能研究院在《2025十大AI技术趋势》报告中指出,从基础设施到产品应用,Scaling Law、基础模型、具身智能、超级应用、AI安全等AI发展的关键方向都可能在2025年迎来新的变化。7Xo即热新闻——关注每天科技社会生活新变化gihot.com

7Xo即热新闻——关注每天科技社会生活新变化gihot.com

  报告认为,AI4S驱动科学研究范式变革;具身智能领域具身大小脑和本体的协同进化;统一的多模态大模型实现更高效AI;Scaling Law扩展向RL + LLMs,模型泛化从预训练向后训练、推理迁移;世界模型加速发布,有望成为多模态大模型的下一阶段;合成数据成为大模型迭代与应用落地的重要催化剂;推理优化迭代加速,成为AI Native应用落地的必要条件;Agentic AI成为产品落地的重要模式;AI应用将迎来Super APP以及AI安全治理体系的持续完善将成为2025年AI技术发展的十大趋势。7Xo即热新闻——关注每天科技社会生活新变化gihot.com

  不少中国自研的技术和产品让业内看到了这些趋势的到来。2024年9月,蚂蚁发布了支小宝、蚂小财等系列AI管家产品,探索更多服务类智能体形态,2024年10月,智源研究院发布了完全自研的基于自回归技术的原生多模态世界模型Emu3,实现了视频、图像、文本三种模态的统一理解和生成,2024年年底,豆包月活跃用户数达到了7116万,成为国内第一、全球第二的AI原生应用。7Xo即热新闻——关注每天科技社会生活新变化gihot.com

  智能研究院行业研究组负责人倪贤豪提到,走过2024年全年来看,与2023年相比,国内AI整体的应用热度已明显升温,相比2023年第一季度,他所在的团队调研到,2024年第四季度,整个基础模型的垂直产业链以及其他赛道AI应用的成熟度已有了明显提升,例如AI在3D内容、AI硬件等场景的应用以及医疗文献处理等未来场景的探索中,都有了明显拓展。7Xo即热新闻——关注每天科技社会生活新变化gihot.com

  从国内大模型公开中标项目的类型分布来看,2024年10月,大模型应用类项目数量首次超过了算力类项目,应用类大模型招标项目占比已达到56%,国产大模型在垂直行业实现了加速落地,或是在诸多中大型企业扮演中台性质的基础设施。7Xo即热新闻——关注每天科技社会生活新变化gihot.com

  AI应用领域的Super APP能否在2025年出现同样受到业内关注。从C端的用户规模、交互频次、停留时长等维度来看,目前,国产AI应用尚未出现爆发式增长,倪贤豪表示,随着大模型推理成本的下降,包括开发工具的适配、框架的创新以及应用安全、决策的可解释性、鲁棒性等问题的解决,未来,推动Agent解决复杂问题的能力提升将变得更有可能也更关键。他认为,从用户视角切入,以需求反推技术或许能撬动AI应用的用户存量和增量市场,Super APP在2025年的诞生值得期待。7Xo即热新闻——关注每天科技社会生活新变化gihot.com

  “当前,我们处在人工智能发展的新拐点,大模型的能力涌现加速通用人工智能时代的到来,原生统一多模态、具身智能、AI for Science,将进一步深化人工智能对世界的感知、理解与推理,连接数字世界与物理世界,驱动科学研究创新突破。”智源研究院院长王仲远表示。7Xo即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-4-443-0.html视觉模型训练成本一年下降80%,中国AI厂商“掀起”全球算力降价潮

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:将于本月内生效!泰国颁布紧急法令打击电信网络诈骗

下一篇:失去始祖鸟代理权 三夫户外自救

为你推荐
  眼下流感等呼吸道传染病正处于季节性流行期。如何正确服用抗流感药物奥司他韦、玛巴洛沙韦?  北京佑安医院感染综合科主任医师 李侗曾:从疗效上来说,其实是一样的。新...
01-21
继佛山狮山镇和北滘镇之后,广东第三个千亿镇出现了!1月15日上午,《2025年广东省政府工作报告》出炉,其中提到东莞长安镇迈入了GDP“千...
01-21
1 月 23 日消息,从国家市场监督管理总局获悉,我国联合德国、日本、韩国、英国等国共同研制的多项智能网联汽车国际标准提案在国际标准化组织(ISO)成功立项,包括 4 项驾驶...
01-24
1 月 24 日消息,奥迪(Audi)昨日(1 月 23 日)在 Facebook 上发布动态,展示了一款基于 Q6 Sportback e-tron 打造的越野概念车。这款概念车外观炫酷,配备了门式车桥和巨大的...
01-25
《韩国制造》第一季近期成为追剧党热议的话题,该剧在各大短视频平台上的热度持续攀升。这部备受期待的韩剧计划于2025年下半年与观众见面,因其强大的演员阵容...
02-22
在璀璨夺目的娱乐圈中,何炅以其非凡的主持才能与温文尔雅的气质,长久以来深受观众喜爱。更令人钦佩的是,他展现出的自律精神与健康体魄,成为了公众热议的话题。近日,这位知名主持...
02-22
这里是《21健讯Daily》,欢迎与21世纪经济报道新健康团队共同关注医药健康行业最新事件!政策动向国家药监局出台新规支持化妆品原料创新 2月6...
02-07
这里是《21健讯Daily》,欢迎与21世纪经济报道新健康团队共同关注医药健康行业最新事件!政策动向国家医疗保障局召开2025年全国医疗保障系统...
02-11
文|朱晓帆 前不久,小米创始人雷军带火了“武汉大学”羽绒服,让这款标价598元-65...
01-21
1月21日,记者从厦门大学了解到,该校能源学院卜令正副教授、郑志锋教授团队...
01-22
  阿里资产拍卖网络平台显示,1月11日,安邦集团持有的天津信托1.36%股权流拍。  二拍将于1月22...
01-22
  本报记者 冷翠华 见习记者 杨笑寒  2024年四季度偿付能力报告陆续披露,非上市财险公司的“...
02-11
每个人都有自己的星座,而星座之间的相互作用常常引起人们的好奇。其中,巨蟹男是一个温柔...
01-22
摩羯座和金牛座是两个土象星座,他们在很多方面都有相似之处,因此摩羯男对金牛女情有独钟...
01-22
魅力无限:帅气女明星带给我们的时尚风潮在当今娱乐圈,女明星们不仅仅是表演艺术的展现,更是时尚与个性的一种引领。在我看来,帅气女明星之所以吸引眼球,不仅在于她们的才华与美貌...
02-12
秋季时尚新宠:香奈儿双色鞋的魅力与搭配秘籍在这个秋天,香奈儿再次给我们带来了惊喜。双色鞋的设计不仅让人眼前一亮,更是成为了时尚界的一种潮流趋势。作为一名爱好时尚的编辑...
02-12
势不可挡,未来可期。1、霞湖世家爆火,登顶视频号不得不说,老板亲自下场直播带货,还是有点用的。这不,视频号上一个名为“霞湖世家”的男装品牌,在老板郭长棋的带领下火了,销售额可...
02-14
2月16日消息,2月以来,淘宝平台上中式香订单量环比增长280%,香薰炉、香插等工具订单量环比大涨480%。从地域来看,广东、江苏、浙江、山东和上海的消费者更爱买中式香。在成交金额...
02-17
2月19日消息,百度日前发布2024年第四季度及全年财报。财报发布后的电话会上,李彦宏表示,百度在自动驾驶技术领域已经投入了十多年,通过萝卜快跑确立了公司在自动驾驶技术领域的...
02-20
3月7日消息,途家民宿发布《2025途家民宿女性房东社区报告》。数据显示,途家平台女性房东占比近六成。从城市维度看,热门旅游城市女性房东数量更多,女性房东数量最多的城市TOP10...
03-09
由爱奇艺出品,新力量文化、新影方舟、老有影视联合出品,新力量文化承制,爱奇艺奇正工作室打造,惠楷栋执导,解嬿嬿编剧,谭卓、高叶、刘奕君领衔主演,林雨申特邀领衔出演,扈耀之、田小...
01-21
【#深圳大学等成立垂直起降飞行器创新中心公司# 注册资本1亿】天眼查App显示,近日,深圳垂直起降飞行器创新中心有限公司成立,法定代表人为杨军,注册资本1亿人民币,经营范围包括工...
02-09
《原子之心》DLC3“深海迷情(Enchantment Under the Sea)”现已上线,售价10美元,国区售价40元,自带简体中文和中文配音。截止发稿时,该DLC已收录55篇评价,好评率94%,为...
01-31
Too Kyo Games工作室宣布,旗下新游《百日战纪-最终防卫学园-》PC体验版将于2月19日登场,存档可继承到正式版,Switch版的试玩稍后发布,敬请期待。 《百日战纪-最终...
02-13
南部战区海军航空兵某团组织多架固定翼反潜巡逻机开展跨昼夜飞行训练,锤炼部队全时、全域航空反潜作战能力。(央广网·军事频道作者:秦钱江)...
02-06
随着人工智能技术的迅猛发展,AI大模型“深度求索 DeepSeek”凭借其突破性进展迅速走红,各种“培训课”马上就来了。学习人工智能一定要付费吗?消费者如何甄别纷繁的网课?有消费...
02-07
1月15日盘后,A股上市游企冰川网络(300533.SZ)披露了2024年年度业绩预告。预告显示,2024年,冰川网络预计归母净利润为亏损2.4亿元至3.4...
01-21
持续跳动的“心脏”、有代谢功能的“肝脏”、会呼吸的“肺”……在巴掌大小的芯片上,先“盖”出模拟人体环境的“房子”,再向其中引入相...
01-24
    2024年12月28日,韩国游客文鉉堣(左后)一家在上海外滩合影。他们在圣诞节来到上海并计划游...
01-21
  原标题:4%!连续两年高于全国  全省社会消费品零售总额连续两年高于全国平均水平;出口连续5个月保持...
01-23
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮