视觉模型训练成本一年下降80%,中国AI厂商“掀起”全球算力降价潮

2个月前 来源: 观看:19

  视觉模型训练成本一年下降80%,中国AI厂商“掀起”全球算力降价潮Ej3即热新闻——关注每天科技社会生活新变化gihot.com

  2024年过去,AI又走过了狂奔的一年,大模型加速落地的热切、应用场景创新的火热和高投入、商业化缓慢带来的“下牌桌”焦虑同时处在这个行业。Ej3即热新闻——关注每天科技社会生活新变化gihot.com

  回过头看来,过往行业共识的一些问题在2024年中被打上了问号,例如智能算力还是否短缺、中国AI企业的“算力焦虑”是必要的吗?Scaling Law(规模法则)还值得信仰吗?Ej3即热新闻——关注每天科技社会生活新变化gihot.com

  辞旧迎新之际,中国AI行业的“拐点”时刻更受关注。不再统一的答案背后,值得关注的是,对中国AI企业来说,一些好的变化正在发生,也有更多挑战等待2025年去回答。Ej3即热新闻——关注每天科技社会生活新变化gihot.com

  训练成本下降Ej3即热新闻——关注每天科技社会生活新变化gihot.com

  2024年12月27日,海外社交媒体平台X被来自中国的大模型DeepSeek-V3刷屏,这一模型能力对标头部模型,但训练的预算却非常低,“2048个GPU、2个月、近600万美元”,相比之下,GPT-4o等模型的训练成本约为1亿美元,至少在万个GPU量级的计算集群上训练。Ej3即热新闻——关注每天科技社会生活新变化gihot.com

  这是一项展现了极致性价比的训练成本数据。在已开源的论文中,幻方量化旗下AI公司深度求索(DeepSeek)强调了DeepSeek-V3训练成本较低――通过对算法、框架和硬件的优化协同设计,在预训练阶段,模型每训练1万亿token仅需要18万个GPU小时,即在团队配备2048个H800 GPU的集群上只需3.7天,也就是说,团队的预训练在不到2个月的时间完成。加上后训练,DeepSeek-V3完整训练消耗了278.8万个GPU小时。假设H800 GPU的租用价格为每块GPU 2美元/小时,DeepSeek-V3的全部正式训练成本总计仅为557.6万美元。Ej3即热新闻——关注每天科技社会生活新变化gihot.com

  DeepSeek的成功并非个例,值得关注的是,在英伟达显卡等高端算力资源受限的情况下,2024年,许多中国AI企业正在找到降低训练成本的方法。Ej3即热新闻——关注每天科技社会生活新变化gihot.com

  极佳科技联合创始人兼首席科学家朱政向第一财经记者透露,过去一年,极佳科技训练大模型的成本也在大规模下降。朱政介绍,之前极佳科技训练一个视觉模型大概需要500万美金,基本上是一个语言模型的1/10,但现在他们已经把这个成本降到了100万美金以下。Ej3即热新闻——关注每天科技社会生活新变化gihot.com

  从训练成本的降低来看,朱政表示“方法有很多”,一方面,大模型公司正在关注与云厂商加强合作,通过做一些训练加速、通讯优化、设置优化等降低成本。同时,行业对数据优化也更为重视,之前行业用Scaling Law只是在对数据,但对完数据后并没有做非常多相应的优化,事实上数据优化带来的训练效率提升空间也很大。Ej3即热新闻——关注每天科技社会生活新变化gihot.com

  中国AI企业的“抢卡”焦虑也因此有所缓解,朱政表示,例如英伟达最新发布的显卡还是要买,得买最新的架构的显卡,但随着训练效率的提升,需要的规模会下降。他同时表示,来到100万美金以下,未来进一步下探大模型的训练成本将是一件更困难的事情,可能不是一家企业能搞定的事情,可能需要训练框架的支持、编程语言的支持包括显卡算式的支持。Ej3即热新闻——关注每天科技社会生活新变化gihot.com

  从全行业的角度来看,蚂蚁集团科技战略与执行部副总经理彭晋对第一财经记者表示,在采购先进算力有些困难的情况下,国内也在推进国产算力的替代,各大公司都在不断采购一些国产算力,从蚂蚁的实践来看,国产算力已经可以支撑很大规模,比如在千亿参数甚至以上规模的模型训练中国产算力是没有问题的。至于到下一步,例如说要建十万卡规模的集群,国产算力能否支撑有待进一步检验。Ej3即热新闻——关注每天科技社会生活新变化gihot.com

  “远虑”仍存,但走过2024年,中国企业的“算力焦虑”正在回归理性。Ej3即热新闻——关注每天科技社会生活新变化gihot.com

  未来趋势Ej3即热新闻——关注每天科技社会生活新变化gihot.com

  2025年,中国AI行业会有哪些变化?Ej3即热新闻——关注每天科技社会生活新变化gihot.com

  北京智源人工智能研究院在《2025十大AI技术趋势》报告中指出,从基础设施到产品应用,Scaling Law、基础模型、具身智能、超级应用、AI安全等AI发展的关键方向都可能在2025年迎来新的变化。Ej3即热新闻——关注每天科技社会生活新变化gihot.com

Ej3即热新闻——关注每天科技社会生活新变化gihot.com

  报告认为,AI4S驱动科学研究范式变革;具身智能领域具身大小脑和本体的协同进化;统一的多模态大模型实现更高效AI;Scaling Law扩展向RL + LLMs,模型泛化从预训练向后训练、推理迁移;世界模型加速发布,有望成为多模态大模型的下一阶段;合成数据成为大模型迭代与应用落地的重要催化剂;推理优化迭代加速,成为AI Native应用落地的必要条件;Agentic AI成为产品落地的重要模式;AI应用将迎来Super APP以及AI安全治理体系的持续完善将成为2025年AI技术发展的十大趋势。Ej3即热新闻——关注每天科技社会生活新变化gihot.com

  不少中国自研的技术和产品让业内看到了这些趋势的到来。2024年9月,蚂蚁发布了支小宝、蚂小财等系列AI管家产品,探索更多服务类智能体形态,2024年10月,智源研究院发布了完全自研的基于自回归技术的原生多模态世界模型Emu3,实现了视频、图像、文本三种模态的统一理解和生成,2024年年底,豆包月活跃用户数达到了7116万,成为国内第一、全球第二的AI原生应用。Ej3即热新闻——关注每天科技社会生活新变化gihot.com

  智能研究院行业研究组负责人倪贤豪提到,走过2024年全年来看,与2023年相比,国内AI整体的应用热度已明显升温,相比2023年第一季度,他所在的团队调研到,2024年第四季度,整个基础模型的垂直产业链以及其他赛道AI应用的成熟度已有了明显提升,例如AI在3D内容、AI硬件等场景的应用以及医疗文献处理等未来场景的探索中,都有了明显拓展。Ej3即热新闻——关注每天科技社会生活新变化gihot.com

  从国内大模型公开中标项目的类型分布来看,2024年10月,大模型应用类项目数量首次超过了算力类项目,应用类大模型招标项目占比已达到56%,国产大模型在垂直行业实现了加速落地,或是在诸多中大型企业扮演中台性质的基础设施。Ej3即热新闻——关注每天科技社会生活新变化gihot.com

  AI应用领域的Super APP能否在2025年出现同样受到业内关注。从C端的用户规模、交互频次、停留时长等维度来看,目前,国产AI应用尚未出现爆发式增长,倪贤豪表示,随着大模型推理成本的下降,包括开发工具的适配、框架的创新以及应用安全、决策的可解释性、鲁棒性等问题的解决,未来,推动Agent解决复杂问题的能力提升将变得更有可能也更关键。他认为,从用户视角切入,以需求反推技术或许能撬动AI应用的用户存量和增量市场,Super APP在2025年的诞生值得期待。Ej3即热新闻——关注每天科技社会生活新变化gihot.com

  “当前,我们处在人工智能发展的新拐点,大模型的能力涌现加速通用人工智能时代的到来,原生统一多模态、具身智能、AI for Science,将进一步深化人工智能对世界的感知、理解与推理,连接数字世界与物理世界,驱动科学研究创新突破。”智源研究院院长王仲远表示。Ej3即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-4-443-0.html视觉模型训练成本一年下降80%,中国AI厂商“掀起”全球算力降价潮

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:将于本月内生效!泰国颁布紧急法令打击电信网络诈骗

下一篇:失去始祖鸟代理权 三夫户外自救

为你推荐
福建即将迎来一所新院校。 近日,据教育部网站消息,拟同意设置北京科技职业大学、淄博职业技术大学、酒泉职业技术大学等14所学校。...
01-21
  中新经纬1月20日电 国家发改委网站20日消息,国家发展改革委、国家数据局近日发布《关于建立公共数据资源授权运营价格形成机制的通知》(下称通知)。  通知明确定价范围...
01-21
[本站 新车上市] 1月12日,捷达品牌全新车型捷达VA7正式上市,新车定位紧凑型轿车,平台技术源于MQB,动力搭载1.4T发动机,车辆根据配置的不同,有3款车型可选,指导价区间为9.977...
01-21
1 月 27 日消息,特斯拉副总裁陶琳今日发文对焕新 Model Y 的空调系统进行了介绍,这款新车预计 3 月开始交付,后轮驱动首发版(593km 标准续航)26.35 万元,全轮驱动首发版(71...
01-28
《难哄》穆承允是一个什么角色?在《难哄》中,穆承允是一个男四号的配角。外在形象:长相俊秀,五官偏柔,有点男生女相,但身材高挑且强壮,整体给人一种清隽明朗的感觉...
02-19
《六姊妹》房子给了谁?六姊妹大结局介绍‌《六姊妹》的房产最终给了何家喜‌。在大结局时,母亲刘美心将老宅过户给了何家喜,起因是因为何家丽。刘美心在退休后...
02-22
  科技日报北京2月5日电(记者张梦然)一种无药物、微创的新型干预方法,可逆转脊髓性肌萎缩症(SMA)的...
02-06
21世纪经济报道记者 唐唯珂 广州报道Deepseek持续搅动全球AI格局重塑之下,应用产业端连锁反应也在深入。在医疗端应用展开的讨论同样热闹。...
02-08
  大众网记者 秦瑾 通讯员 祁凯丽 报道  12月20日,章丘区大中小学思政课一体化协同创新联盟成立暨大中小学思政课教学展示活动在齐鲁师范学院附属中学(章丘中学)报告厅...
01-21
随着全球变暖,野火发生的频率和强度显著增加,近日发生在美国洛杉矶的大火引起...
01-22
  中国证监会1月22日消息,近日,中央金融办等六部门联合印发的《关于推动中长期资金入市工作的实...
01-24
  或因禁止手工补息与非银同业存款利率自律管理倡议效果逐步显现,2024年多家银行出现存款规模...
01-24
狮子座男人通常自信、强势和有领导力,但是如果你想吸引他的注意并征服他的心,以下几招可...
01-22
天秤座的男人通常被认为是温和、理性、追求平衡的代表。他们对于爱情有着独特的追求和...
01-22
搭配,短袖女衬衫怎么搭配,短袖衬衫女?一、搭配,短袖女衬衫怎么搭配,短袖衬衫女?短袖女衬衫搭配短裙、运动鞋,或者中长裙高跟鞋,再有就是七分裤(牛仔裤)加运动鞋,不要穿西装短裤;另外就是...
02-17
ysl是什么牌子的包包? lv包包和ysl包包哪个?ysl是什么牌子的包包?圣罗兰 股票代码ISYSl,不过目前已经退市。YSL(Yves Saint laurent)的简称,中文译名圣罗兰,是法国著名奢侈品牌,由193...
02-17
2月13日消息,转转集团发布春节期间(1月5日-2月5日)旗下平台二手潮奢商品的交易数据。春节期间,转转集团旗下的转转APP和红布林APP二手潮奢商品累计交易量同比增长25%;五线城市的...
02-14
2月16日消息,春风送暖,甘蔗种植迎来关键时刻。中农网依托产业链优势,推动旗下广西易农通深入甘蔗种植环节,在南宁市武鸣区罗波镇板欧蔗区率先启动2025年5万亩甘蔗种植计划,通过数...
02-17
2月13日消息,蚂蚁集团发布《2024年消费者权益保护年报》。报告显示,2024年,蚂蚁集团发挥安全科技能力,预防、识别和应对各种风险,协助公安反诈部门保护35.6亿元资金;加速拥抱 AI ...
02-14
2月24日消息,飞猪数据显示,春运期间(1月14日-2月22日)出行的租车订单量再创新高,同比去年增长超40%,其中90后和00后占比约六成。三亚、海口、成都、昆明、广州等是春运期间租车消...
02-25
近日,华力创科学宣布完成数千万元A+轮融资,本轮融资由金属3D打印领域头部上市公司铂力特独家投资。据披露,本轮融资所募集的资金将专注于深挖高性能光学多模态感知技术,结合金属...
01-24
英伟达芯片“倒爷”们,开始不发朋友圈了。2023年大模型火热的时候,“倒爷”们朋友圈的画风是“欲购从速、30%定金,有实力的老板来!”到了2024年就变成...
02-07
近日Havock游戏引擎发布了重大更新,引入全新的动态破坏技术。Havock还发布新的技术视频,展示了使用该技术后的逼真动态画面,看起来很酷。 视频欣赏: 动态破坏技...
01-31
环球影业刚刚发布了《侏罗纪世界:重生》首支预告片,传奇动作巨星斯嘉丽·约翰逊领衔主演、突破性实力演员乔纳森·贝利与两届奥斯卡得主马赫沙拉·阿里倾情加盟,...
02-06
距离除夕只剩几天,“回家”成为大街小巷最热门的话题。窗前的红灯笼、热闹的年货市场、街头巷尾的新春歌曲……处处洋溢着喜庆的氛围。“我恭喜你发财,我恭喜你精彩,最好的请过...
02-02
极目新闻记者 詹钘通讯员 潘庆芳 周皓2月4日,极目新闻记者从湖北省春运办了解到,春运前20天,该省全社会跨区域人员流动量累计3.07亿人次,占比达到全国的十六分之一。春运以来,省...
02-04
海军054B护卫舰首舰漯河舰1月22日上午在山东青岛某军港交接入列。10时许,入列授旗仪式开始,全场高唱中华人民共和国国歌,五星红旗冉冉升起。仪仗礼兵...
01-23
  【带你一起看大展】  光明日报记者周洪双李晓东  随着悠扬的里拉琴在四川成都金沙遗址...
01-21
  新华社西安2月16日电(记者杨一苗)近期,有网民在社交平台发帖,称在西安博物院参观时,有导游讲解中...
02-18
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮