视觉模型训练成本一年下降80%,中国AI厂商“掀起”全球算力降价潮

1年前 来源: 观看:159

  视觉模型训练成本一年下降80%,中国AI厂商“掀起”全球算力降价潮YM9即热新闻——关注每天科技社会生活新变化gihot.com

  2024年过去,AI又走过了狂奔的一年,大模型加速落地的热切、应用场景创新的火热和高投入、商业化缓慢带来的“下牌桌”焦虑同时处在这个行业。YM9即热新闻——关注每天科技社会生活新变化gihot.com

  回过头看来,过往行业共识的一些问题在2024年中被打上了问号,例如智能算力还是否短缺、中国AI企业的“算力焦虑”是必要的吗?Scaling Law(规模法则)还值得信仰吗?YM9即热新闻——关注每天科技社会生活新变化gihot.com

  辞旧迎新之际,中国AI行业的“拐点”时刻更受关注。不再统一的答案背后,值得关注的是,对中国AI企业来说,一些好的变化正在发生,也有更多挑战等待2025年去回答。YM9即热新闻——关注每天科技社会生活新变化gihot.com

  训练成本下降YM9即热新闻——关注每天科技社会生活新变化gihot.com

  2024年12月27日,海外社交媒体平台X被来自中国的大模型DeepSeek-V3刷屏,这一模型能力对标头部模型,但训练的预算却非常低,“2048个GPU、2个月、近600万美元”,相比之下,GPT-4o等模型的训练成本约为1亿美元,至少在万个GPU量级的计算集群上训练。YM9即热新闻——关注每天科技社会生活新变化gihot.com

  这是一项展现了极致性价比的训练成本数据。在已开源的论文中,幻方量化旗下AI公司深度求索(DeepSeek)强调了DeepSeek-V3训练成本较低――通过对算法、框架和硬件的优化协同设计,在预训练阶段,模型每训练1万亿token仅需要18万个GPU小时,即在团队配备2048个H800 GPU的集群上只需3.7天,也就是说,团队的预训练在不到2个月的时间完成。加上后训练,DeepSeek-V3完整训练消耗了278.8万个GPU小时。假设H800 GPU的租用价格为每块GPU 2美元/小时,DeepSeek-V3的全部正式训练成本总计仅为557.6万美元。YM9即热新闻——关注每天科技社会生活新变化gihot.com

  DeepSeek的成功并非个例,值得关注的是,在英伟达显卡等高端算力资源受限的情况下,2024年,许多中国AI企业正在找到降低训练成本的方法。YM9即热新闻——关注每天科技社会生活新变化gihot.com

  极佳科技联合创始人兼首席科学家朱政向第一财经记者透露,过去一年,极佳科技训练大模型的成本也在大规模下降。朱政介绍,之前极佳科技训练一个视觉模型大概需要500万美金,基本上是一个语言模型的1/10,但现在他们已经把这个成本降到了100万美金以下。YM9即热新闻——关注每天科技社会生活新变化gihot.com

  从训练成本的降低来看,朱政表示“方法有很多”,一方面,大模型公司正在关注与云厂商加强合作,通过做一些训练加速、通讯优化、设置优化等降低成本。同时,行业对数据优化也更为重视,之前行业用Scaling Law只是在对数据,但对完数据后并没有做非常多相应的优化,事实上数据优化带来的训练效率提升空间也很大。YM9即热新闻——关注每天科技社会生活新变化gihot.com

  中国AI企业的“抢卡”焦虑也因此有所缓解,朱政表示,例如英伟达最新发布的显卡还是要买,得买最新的架构的显卡,但随着训练效率的提升,需要的规模会下降。他同时表示,来到100万美金以下,未来进一步下探大模型的训练成本将是一件更困难的事情,可能不是一家企业能搞定的事情,可能需要训练框架的支持、编程语言的支持包括显卡算式的支持。YM9即热新闻——关注每天科技社会生活新变化gihot.com

  从全行业的角度来看,蚂蚁集团科技战略与执行部副总经理彭晋对第一财经记者表示,在采购先进算力有些困难的情况下,国内也在推进国产算力的替代,各大公司都在不断采购一些国产算力,从蚂蚁的实践来看,国产算力已经可以支撑很大规模,比如在千亿参数甚至以上规模的模型训练中国产算力是没有问题的。至于到下一步,例如说要建十万卡规模的集群,国产算力能否支撑有待进一步检验。YM9即热新闻——关注每天科技社会生活新变化gihot.com

  “远虑”仍存,但走过2024年,中国企业的“算力焦虑”正在回归理性。YM9即热新闻——关注每天科技社会生活新变化gihot.com

  未来趋势YM9即热新闻——关注每天科技社会生活新变化gihot.com

  2025年,中国AI行业会有哪些变化?YM9即热新闻——关注每天科技社会生活新变化gihot.com

  北京智源人工智能研究院在《2025十大AI技术趋势》报告中指出,从基础设施到产品应用,Scaling Law、基础模型、具身智能、超级应用、AI安全等AI发展的关键方向都可能在2025年迎来新的变化。YM9即热新闻——关注每天科技社会生活新变化gihot.com

YM9即热新闻——关注每天科技社会生活新变化gihot.com

  报告认为,AI4S驱动科学研究范式变革;具身智能领域具身大小脑和本体的协同进化;统一的多模态大模型实现更高效AI;Scaling Law扩展向RL + LLMs,模型泛化从预训练向后训练、推理迁移;世界模型加速发布,有望成为多模态大模型的下一阶段;合成数据成为大模型迭代与应用落地的重要催化剂;推理优化迭代加速,成为AI Native应用落地的必要条件;Agentic AI成为产品落地的重要模式;AI应用将迎来Super APP以及AI安全治理体系的持续完善将成为2025年AI技术发展的十大趋势。YM9即热新闻——关注每天科技社会生活新变化gihot.com

  不少中国自研的技术和产品让业内看到了这些趋势的到来。2024年9月,蚂蚁发布了支小宝、蚂小财等系列AI管家产品,探索更多服务类智能体形态,2024年10月,智源研究院发布了完全自研的基于自回归技术的原生多模态世界模型Emu3,实现了视频、图像、文本三种模态的统一理解和生成,2024年年底,豆包月活跃用户数达到了7116万,成为国内第一、全球第二的AI原生应用。YM9即热新闻——关注每天科技社会生活新变化gihot.com

  智能研究院行业研究组负责人倪贤豪提到,走过2024年全年来看,与2023年相比,国内AI整体的应用热度已明显升温,相比2023年第一季度,他所在的团队调研到,2024年第四季度,整个基础模型的垂直产业链以及其他赛道AI应用的成熟度已有了明显提升,例如AI在3D内容、AI硬件等场景的应用以及医疗文献处理等未来场景的探索中,都有了明显拓展。YM9即热新闻——关注每天科技社会生活新变化gihot.com

  从国内大模型公开中标项目的类型分布来看,2024年10月,大模型应用类项目数量首次超过了算力类项目,应用类大模型招标项目占比已达到56%,国产大模型在垂直行业实现了加速落地,或是在诸多中大型企业扮演中台性质的基础设施。YM9即热新闻——关注每天科技社会生活新变化gihot.com

  AI应用领域的Super APP能否在2025年出现同样受到业内关注。从C端的用户规模、交互频次、停留时长等维度来看,目前,国产AI应用尚未出现爆发式增长,倪贤豪表示,随着大模型推理成本的下降,包括开发工具的适配、框架的创新以及应用安全、决策的可解释性、鲁棒性等问题的解决,未来,推动Agent解决复杂问题的能力提升将变得更有可能也更关键。他认为,从用户视角切入,以需求反推技术或许能撬动AI应用的用户存量和增量市场,Super APP在2025年的诞生值得期待。YM9即热新闻——关注每天科技社会生活新变化gihot.com

  “当前,我们处在人工智能发展的新拐点,大模型的能力涌现加速通用人工智能时代的到来,原生统一多模态、具身智能、AI for Science,将进一步深化人工智能对世界的感知、理解与推理,连接数字世界与物理世界,驱动科学研究创新突破。”智源研究院院长王仲远表示。YM9即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-4-443-0.html视觉模型训练成本一年下降80%,中国AI厂商“掀起”全球算力降价潮

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:将于本月内生效!泰国颁布紧急法令打击电信网络诈骗

下一篇:失去始祖鸟代理权 三夫户外自救

为你推荐
1月21日中午,摩洛哥皇家航空公司AT230航班顺利降落北京大兴国际机场,标志着摩洛哥皇家航空正式复航北京大兴至卡萨布兰卡往返航线,这是自2023年初大兴机场恢复国际及地区航线以...
01-21
  近日,衡阳90后小伙夏汪辉从深圳步行回家过年,目前已走了11天。他一边赶路一边分享视频,引发大量关注。很多网友点赞他的毅力,也有人表示关心,问他是不是没买到车票,想顺道...
01-21
[本站 国内谍照] 1月18日,我们从相关渠道获取到了一组疑似吉利银河旗下全新轿车的路试谍照。从多处细节来看,该车或将归属星舰系列的全新插混车型,从而与星舰7 EM-i等车...
01-21
1 月 24 日消息,如果你正在犹豫是否选择电动汽车(EV)作为下一辆新车,安全性很可能是一个重要的考虑因素。与传统的燃油车(ICE)相比,电动汽车究竟更安全还是更具风险?澳大利...
01-25
《余烬之上》廖知白是好人吗?廖知白结局怎么样?在《余烬之上》中,廖知白很难简单地用好坏来定义。廖知白原本是天才少年侦探,有着幸福的家庭。但十年前的大火让...
02-21
《余烬之上》故事简介,余烬之上在哪个台播出?‌《余烬之上》主要讲述了主角廖思远在十年前的一场火灾中家破人亡,并因此催生出双重人格。十年后,他意外卷入一宗...
02-21
21世纪经济报道 唐唯珂 广州报道医院端经营的考验还在持续。本月,投资30亿元,开诊仅2.5年的重庆全域肿瘤医院在其官方公众号上发布了解除职...
01-21
这里是《21健讯Daily》,欢迎与21世纪经济报道新健康团队共同关注医药健康行业最新事件!政策动向国家药监局药审中心回应个别品种数据重复,系...
01-27
  大众网记者 司心鹏 通讯员 薛现伟 康宁 报道  12月8日,山东省职业院校技能大赛(高职组)“应用软件系统开发”赛项在山东工业职业学院举行,全省共57个参赛队,经过紧张角...
01-21
  向着了解历史的目标,我们来到张家堡党群服务中心的军事博物馆。这里地方不大,但陈列的每一件物品都很有意义。  我们随着队伍来到大厅。第一项活动是两位教官带领我们...
01-21
  近日,金融监管总局发布《保险公司监管评级办法》(简称《评级办法》),自2025年3月1日起施行。监...
01-21
  乌鲁木齐银行再次因股权拍卖引发市场关注。2025年1月19日,该行第三大股东深圳君豪集团有限公...
01-22
在恋爱中,有时候我们会发现水瓶男并不像其他星座的男生那样主动联系。这让很多女生感到...
01-22
每个人都希望找到一个与自己完美契合的伴侣,而星座匹配可以为我们提供一些有趣的线索。...
01-22
让人惊艳的女星:她们背后的故事与魅力当我们谈论最惊艳的女明星时,心中总会浮现出一系列光彩照人的面孔。她们不单是影视作品中的角色,更是现实生活中无法忽视的存在。你是否也...
02-07
引领潮流:2023年热门时尚服饰与包包选择潮流的魅力时尚,总是充满变幻与惊喜。每一年、每一个季节,都见证着不同的潮流风向。在2023年的时尚舞台上,服饰和包包更是不可忽视的主角...
02-12
小米集团市值冲上万亿赛道自蛇年开工以来,小米股价一路飙升,小米集团市值冲上万亿赛道,仅仅上市7年小米就实现了万亿的跨越,作为创始人的雷军也迎来了高光时刻。具体来看,2025年2...
02-09
2月12日消息,据复旦消费大数据实验室数据,网上年货节期间(1月7日至2月5日)广州市网上零售总额达956.4亿元,相比去年同期增长4.58%。各大电商平台推出丰富多彩的活动优惠,实现销售...
02-13
2月12日消息,美团旅行数据显示,2月第一周,“元宵灯会”搜索量同比上涨351%,“元宵灯谜”搜索量同比上涨超225%。2025年元宵十大热门灯会分别是:唐山南湖春节灯会、自贡国际恐龙灯...
02-13
2月19日消息,美团宣布,预计2025年第二季度开始逐步为全职及稳定兼职骑手缴纳社保。去年以来,美团就骑手缴纳养老保险等社保方案做了认真研究,选择了不同区域不同城市进行深入调...
02-20
岁月悠悠,转眼又是一年。回首2024,中国式现代化进程持续推进,高质量发展成为各行各业奋进的目标,时代巨变催促着各行各业加速转型。作为社会“稳定器”和经济“减震器”的保险业...
01-23
近日,华力创科学宣布完成数千万元A+轮融资,本轮融资由金属3D打印领域头部上市公司铂力特独家投资。据披露,本轮融资所募集的资金将专注于深挖高性能光学多模态感知技术,结合金属...
01-24
在今早的Xbox开发者直面会上,Xbox在直播过程中发布了《忍者龙剑传2》的发售宣传片,但网友发现直播的Xbox版预告遭到了和谐,本该露出性感女性的画面被无故掐掉,而PS...
01-27
在最新一期的 PC Gamer 杂志中,《艾尔登法环:黑夜君临》总监石崎淳也接受了采访,并再次重申新作的肉鸽玩法是为了浓缩游戏的体验,并明确表示这不是为了“跟风”。 ...
02-04
▲资料图:飞行安全无小事。图/新华社飞机上捡到鞭炮?据荔枝新闻报道,有网友反映自己1月31日乘坐山东航空SC2270由桂林飞厦门的航班时,疑似在座位下方捡到一小截儿鞭炮。对此,2月1...
02-02
人民日报记者2日从2025年综合运输春运工作专班获悉:预计2月2日(春运第20日,农历正月初五),全社会跨区域人员流动量31932万人次,其中,铁路客运量1450万人次,公路人员流动量30102万人...
02-02
新华社合肥1月20日电(记者徐海涛、陈诺)“998、999、1000……”大屏幕上的数字最终定格在1066,原本安静的控制大厅一片欢呼。1月20日,我国...
01-21
下一站,回家!无论是绿皮车的温暖情怀,还是高铁的高效快捷,回家的路,永远是最美的风景 下一站,回家!无论是绿皮车的温暖情怀,还...
01-21
  2月4日,春节假期即将落下帷幕。在线旅游平台飞猪发布的《2025年春节假期出游快报》显示,“追着非遗过...
02-05
  日前,国家统计局辽宁调查总队发布辽宁工业生产者出厂价格和购进价格变化情况。调查数据显示:1月份,辽...
02-13
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮