视觉模型训练成本一年下降80%,中国AI厂商“掀起”全球算力降价潮

1年前 来源: 观看:135

  视觉模型训练成本一年下降80%,中国AI厂商“掀起”全球算力降价潮QJO即热新闻——关注每天科技社会生活新变化gihot.com

  2024年过去,AI又走过了狂奔的一年,大模型加速落地的热切、应用场景创新的火热和高投入、商业化缓慢带来的“下牌桌”焦虑同时处在这个行业。QJO即热新闻——关注每天科技社会生活新变化gihot.com

  回过头看来,过往行业共识的一些问题在2024年中被打上了问号,例如智能算力还是否短缺、中国AI企业的“算力焦虑”是必要的吗?Scaling Law(规模法则)还值得信仰吗?QJO即热新闻——关注每天科技社会生活新变化gihot.com

  辞旧迎新之际,中国AI行业的“拐点”时刻更受关注。不再统一的答案背后,值得关注的是,对中国AI企业来说,一些好的变化正在发生,也有更多挑战等待2025年去回答。QJO即热新闻——关注每天科技社会生活新变化gihot.com

  训练成本下降QJO即热新闻——关注每天科技社会生活新变化gihot.com

  2024年12月27日,海外社交媒体平台X被来自中国的大模型DeepSeek-V3刷屏,这一模型能力对标头部模型,但训练的预算却非常低,“2048个GPU、2个月、近600万美元”,相比之下,GPT-4o等模型的训练成本约为1亿美元,至少在万个GPU量级的计算集群上训练。QJO即热新闻——关注每天科技社会生活新变化gihot.com

  这是一项展现了极致性价比的训练成本数据。在已开源的论文中,幻方量化旗下AI公司深度求索(DeepSeek)强调了DeepSeek-V3训练成本较低――通过对算法、框架和硬件的优化协同设计,在预训练阶段,模型每训练1万亿token仅需要18万个GPU小时,即在团队配备2048个H800 GPU的集群上只需3.7天,也就是说,团队的预训练在不到2个月的时间完成。加上后训练,DeepSeek-V3完整训练消耗了278.8万个GPU小时。假设H800 GPU的租用价格为每块GPU 2美元/小时,DeepSeek-V3的全部正式训练成本总计仅为557.6万美元。QJO即热新闻——关注每天科技社会生活新变化gihot.com

  DeepSeek的成功并非个例,值得关注的是,在英伟达显卡等高端算力资源受限的情况下,2024年,许多中国AI企业正在找到降低训练成本的方法。QJO即热新闻——关注每天科技社会生活新变化gihot.com

  极佳科技联合创始人兼首席科学家朱政向第一财经记者透露,过去一年,极佳科技训练大模型的成本也在大规模下降。朱政介绍,之前极佳科技训练一个视觉模型大概需要500万美金,基本上是一个语言模型的1/10,但现在他们已经把这个成本降到了100万美金以下。QJO即热新闻——关注每天科技社会生活新变化gihot.com

  从训练成本的降低来看,朱政表示“方法有很多”,一方面,大模型公司正在关注与云厂商加强合作,通过做一些训练加速、通讯优化、设置优化等降低成本。同时,行业对数据优化也更为重视,之前行业用Scaling Law只是在对数据,但对完数据后并没有做非常多相应的优化,事实上数据优化带来的训练效率提升空间也很大。QJO即热新闻——关注每天科技社会生活新变化gihot.com

  中国AI企业的“抢卡”焦虑也因此有所缓解,朱政表示,例如英伟达最新发布的显卡还是要买,得买最新的架构的显卡,但随着训练效率的提升,需要的规模会下降。他同时表示,来到100万美金以下,未来进一步下探大模型的训练成本将是一件更困难的事情,可能不是一家企业能搞定的事情,可能需要训练框架的支持、编程语言的支持包括显卡算式的支持。QJO即热新闻——关注每天科技社会生活新变化gihot.com

  从全行业的角度来看,蚂蚁集团科技战略与执行部副总经理彭晋对第一财经记者表示,在采购先进算力有些困难的情况下,国内也在推进国产算力的替代,各大公司都在不断采购一些国产算力,从蚂蚁的实践来看,国产算力已经可以支撑很大规模,比如在千亿参数甚至以上规模的模型训练中国产算力是没有问题的。至于到下一步,例如说要建十万卡规模的集群,国产算力能否支撑有待进一步检验。QJO即热新闻——关注每天科技社会生活新变化gihot.com

  “远虑”仍存,但走过2024年,中国企业的“算力焦虑”正在回归理性。QJO即热新闻——关注每天科技社会生活新变化gihot.com

  未来趋势QJO即热新闻——关注每天科技社会生活新变化gihot.com

  2025年,中国AI行业会有哪些变化?QJO即热新闻——关注每天科技社会生活新变化gihot.com

  北京智源人工智能研究院在《2025十大AI技术趋势》报告中指出,从基础设施到产品应用,Scaling Law、基础模型、具身智能、超级应用、AI安全等AI发展的关键方向都可能在2025年迎来新的变化。QJO即热新闻——关注每天科技社会生活新变化gihot.com

QJO即热新闻——关注每天科技社会生活新变化gihot.com

  报告认为,AI4S驱动科学研究范式变革;具身智能领域具身大小脑和本体的协同进化;统一的多模态大模型实现更高效AI;Scaling Law扩展向RL + LLMs,模型泛化从预训练向后训练、推理迁移;世界模型加速发布,有望成为多模态大模型的下一阶段;合成数据成为大模型迭代与应用落地的重要催化剂;推理优化迭代加速,成为AI Native应用落地的必要条件;Agentic AI成为产品落地的重要模式;AI应用将迎来Super APP以及AI安全治理体系的持续完善将成为2025年AI技术发展的十大趋势。QJO即热新闻——关注每天科技社会生活新变化gihot.com

  不少中国自研的技术和产品让业内看到了这些趋势的到来。2024年9月,蚂蚁发布了支小宝、蚂小财等系列AI管家产品,探索更多服务类智能体形态,2024年10月,智源研究院发布了完全自研的基于自回归技术的原生多模态世界模型Emu3,实现了视频、图像、文本三种模态的统一理解和生成,2024年年底,豆包月活跃用户数达到了7116万,成为国内第一、全球第二的AI原生应用。QJO即热新闻——关注每天科技社会生活新变化gihot.com

  智能研究院行业研究组负责人倪贤豪提到,走过2024年全年来看,与2023年相比,国内AI整体的应用热度已明显升温,相比2023年第一季度,他所在的团队调研到,2024年第四季度,整个基础模型的垂直产业链以及其他赛道AI应用的成熟度已有了明显提升,例如AI在3D内容、AI硬件等场景的应用以及医疗文献处理等未来场景的探索中,都有了明显拓展。QJO即热新闻——关注每天科技社会生活新变化gihot.com

  从国内大模型公开中标项目的类型分布来看,2024年10月,大模型应用类项目数量首次超过了算力类项目,应用类大模型招标项目占比已达到56%,国产大模型在垂直行业实现了加速落地,或是在诸多中大型企业扮演中台性质的基础设施。QJO即热新闻——关注每天科技社会生活新变化gihot.com

  AI应用领域的Super APP能否在2025年出现同样受到业内关注。从C端的用户规模、交互频次、停留时长等维度来看,目前,国产AI应用尚未出现爆发式增长,倪贤豪表示,随着大模型推理成本的下降,包括开发工具的适配、框架的创新以及应用安全、决策的可解释性、鲁棒性等问题的解决,未来,推动Agent解决复杂问题的能力提升将变得更有可能也更关键。他认为,从用户视角切入,以需求反推技术或许能撬动AI应用的用户存量和增量市场,Super APP在2025年的诞生值得期待。QJO即热新闻——关注每天科技社会生活新变化gihot.com

  “当前,我们处在人工智能发展的新拐点,大模型的能力涌现加速通用人工智能时代的到来,原生统一多模态、具身智能、AI for Science,将进一步深化人工智能对世界的感知、理解与推理,连接数字世界与物理世界,驱动科学研究创新突破。”智源研究院院长王仲远表示。QJO即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-4-443-0.html视觉模型训练成本一年下降80%,中国AI厂商“掀起”全球算力降价潮

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:将于本月内生效!泰国颁布紧急法令打击电信网络诈骗

下一篇:失去始祖鸟代理权 三夫户外自救

为你推荐
  近日,全国多地气温偏高,很多地区没有降水或降水稀少。中央气象台数据显示,19日又是雨雪非常稀少的一天,上午10时,只有6个国家级气象站降水量达到0.1毫米。为什么会出现这...
01-21
消费电子的风口,华强北每个都不曾错过。从上世纪90年代火柴盒大小的“BB机”,象征时髦的“大哥大”,20世纪初的功能手机,到近二十年来...
01-21
2 月 3 日消息,博主@孙少军09 今日发文分享了一张截图,其中提到了吉利银河 L6 EM-i 汽车相关销售信息,重点内容如下:L6 EM-i 已陆续到店,可以按照 8.98 万起的先享提车价...
02-04
“若前方无路,我便踏出一条路;若天理不容,我便扭转这乾坤。”电影《哪吒2》开年“王炸”,让人看到了哪吒打破命运,勇敢做自己,最终活出自我的过程。新年刚过,国内车市异常“开卷”,...
02-06
  《难哄》桑延和温以凡的爱情之路并不顺遂,桑延给足了温以凡偏爱和安全感,才让对方接受自己。《难哄》桑延温以凡什么时候在一起?桑延也曾经被温以凡拒绝过,但他并没有因此...
02-14
  记者 师悦  《哪吒之魔童闹海》热度节节攀升,相关电影周边也卖断了货,可谓一“吒”难求。非...
02-22
2月3日,小S(徐熙娣)经纪人向媒体证实,中国台湾知名女演员大S(徐熙媛)在日本旅游期间因患流感并发肺炎不幸离世。据报道,由于大S家人都在日本,因此...
02-04
21世纪经济报道记者李佳英 广州报道对多数患者来说,福斯曼的倒闭消息如晴天霹雳,突如其来。“广州齐遇口腔门诊部(福斯曼)总部出现经营困难,拖...
02-15
人民网北京12月3日电 (记者李昉)近日,教育部办公厅印发通知,2025年继续实施退役大学生士兵专项硕士研究生招...
01-21
  大众网记者 隋宜笑 报道  为培养适应新时代需求的全媒体新闻人才搭建更为广阔、坚实的平台,进一步深化校企合作,12 月 17 日,山东传媒职业学院新闻传播系于产教中心报...
01-21
  1月15日,曲靖金融监管分局行政处罚信息公示表显示,曲靖市麒麟区农村信用合作联社因贷款管理严...
01-22
  摘要  【特朗普打压国际油价大震荡!未来还有哪些新变数?】在美国总统特朗普的打压下,国际油...
01-27
水瓶座的男人通常具有独立、聪明、理性和创新的特点。他们对于自由和个人空间非常重视...
01-22
狮子座男生通常具有自信、热情和领导力,他们喜欢被关注和赞美。如果你想吸引一个狮子座...
01-22
花色衬衫如何搭配? 橘色衬衫怎么搭配?一、花色衬衫如何搭配?1、搭配一:深绿色花衬衫+灰蓝色九分雪纺裤深绿色是比较显气质的颜色,这件深绿色花衬衫事复古的风格,下身搭配一条灰蓝...
02-07
揭秘:那些女明星的美丽真相,谁才是最漂亮的?在娱乐圈中,美丽总是备受瞩目的话题。无论是红毯上的华丽暴击,还是荧屏上的绝美造型,女明星们常常成为众多目光的焦点。但问题来了,女明...
02-07
势不可挡,未来可期。1、霞湖世家爆火,登顶视频号不得不说,老板亲自下场直播带货,还是有点用的。这不,视频号上一个名为“霞湖世家”的男装品牌,在老板郭长棋的带领下火了,销售额可...
02-14
阿里电商要增长,扶持商家是第一优先级。据晚点LatePost消息,2月2日(大年初五),阿里电商事业群CEO蒋凡召开小范围高管会,明确了2025年淘宝天猫的第一件大事是通过扶持优质品牌和商...
02-20
2月13日消息,据Tech星球消息,饿了么将推出一项名为“筷马送水”的服务,用于桶装水、包装饮用水的配送,可能还会以加盟的方式邀请本地水站入驻,享受饿了么平台的流量扶持。该服务...
02-14
3月3日消息,智联招聘发布第四期《2025年春招市场行情周报》,盘点春节后一个月招聘求职趋势。节后第四周,企业招聘需求继续全面释放,招聘环比增速TOP10职业涵盖运动健身、家政/维...
03-04
作 者:罗拓 提到消费投资,加华资本的创始人宋向前是一个绕不开的人物。即使你不关注投资行业本身,或许你也听过他的言论。 过去数年,不少知名机构都在逃离消费投资。在消费投资...
01-21
全球性金融券商集团英国EBC Group平台始终致力于以领先生态,与全球交易者共塑交易的未来。 自第一届交易大赛起,为赤忱的热爱和卓越的才华提供舞台,在全球内寻找交易好手以赋能...
01-24
玩家们经常将《漫威争锋》与《守望先锋2》相比较,多数人认为《漫威争锋》比《守望先锋2》更有趣好玩。《漫威争锋》上线后,其Steam玩家数不断攀升,而《守望先锋2...
02-03
在最新一期的 PC Gamer 杂志中,《艾尔登法环:黑夜君临》总监石崎淳也接受了采访,并再次重申新作的肉鸽玩法是为了浓缩游戏的体验,并明确表示这不是为了“跟风”。 ...
02-04
极目新闻通讯员 龚轩 “我的车定速巡航功能失效了,刹车也踩不动,怎么办?”2月1日凌晨5时11分,湖北省公安厅高警总队六支队指挥中心民警石路接到群众报警求助。情况紧急,石路立即...
02-02
新华社记者谢希瑶商务部最新公布数据显示,2024年中国服务进出口总额7.5万亿元人民币,同比增长14.4%,规模再创历史新高。其中,服务出口、进口同比分别增长18.2%、11.8%。“这是中...
02-03
美国研究人员开发出一个新的人工智能模型,经过大量数据的训练后,该模型能精确预测各种人体细胞内部的基因表达情况,将为生物和医学研究带来便利。这个...
01-27
《自然》杂志1月15日介绍了一款人工智能(AI)模型,其宛如科幻小说里的“巴别鱼”,能直接“语音到语音”翻译多达101种语言的语音和文本。由Meta推出的这...
01-27
  根据省气象部门预报,预计1月26至27日辽宁将有一次强降雪、寒潮、大风天气过程,东部地区有大雪,局部暴...
01-24
    1月23日,大熊猫国家保护研究中心的两大组成机构——中国大熊猫保护研究中心(简称熊猫中心...
01-24
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮