视觉模型训练成本一年下降80%,中国AI厂商“掀起”全球算力降价潮

9个月前 来源: 观看:109

  视觉模型训练成本一年下降80%,中国AI厂商“掀起”全球算力降价潮jXr即热新闻——关注每天科技社会生活新变化gihot.com

  2024年过去,AI又走过了狂奔的一年,大模型加速落地的热切、应用场景创新的火热和高投入、商业化缓慢带来的“下牌桌”焦虑同时处在这个行业。jXr即热新闻——关注每天科技社会生活新变化gihot.com

  回过头看来,过往行业共识的一些问题在2024年中被打上了问号,例如智能算力还是否短缺、中国AI企业的“算力焦虑”是必要的吗?Scaling Law(规模法则)还值得信仰吗?jXr即热新闻——关注每天科技社会生活新变化gihot.com

  辞旧迎新之际,中国AI行业的“拐点”时刻更受关注。不再统一的答案背后,值得关注的是,对中国AI企业来说,一些好的变化正在发生,也有更多挑战等待2025年去回答。jXr即热新闻——关注每天科技社会生活新变化gihot.com

  训练成本下降jXr即热新闻——关注每天科技社会生活新变化gihot.com

  2024年12月27日,海外社交媒体平台X被来自中国的大模型DeepSeek-V3刷屏,这一模型能力对标头部模型,但训练的预算却非常低,“2048个GPU、2个月、近600万美元”,相比之下,GPT-4o等模型的训练成本约为1亿美元,至少在万个GPU量级的计算集群上训练。jXr即热新闻——关注每天科技社会生活新变化gihot.com

  这是一项展现了极致性价比的训练成本数据。在已开源的论文中,幻方量化旗下AI公司深度求索(DeepSeek)强调了DeepSeek-V3训练成本较低――通过对算法、框架和硬件的优化协同设计,在预训练阶段,模型每训练1万亿token仅需要18万个GPU小时,即在团队配备2048个H800 GPU的集群上只需3.7天,也就是说,团队的预训练在不到2个月的时间完成。加上后训练,DeepSeek-V3完整训练消耗了278.8万个GPU小时。假设H800 GPU的租用价格为每块GPU 2美元/小时,DeepSeek-V3的全部正式训练成本总计仅为557.6万美元。jXr即热新闻——关注每天科技社会生活新变化gihot.com

  DeepSeek的成功并非个例,值得关注的是,在英伟达显卡等高端算力资源受限的情况下,2024年,许多中国AI企业正在找到降低训练成本的方法。jXr即热新闻——关注每天科技社会生活新变化gihot.com

  极佳科技联合创始人兼首席科学家朱政向第一财经记者透露,过去一年,极佳科技训练大模型的成本也在大规模下降。朱政介绍,之前极佳科技训练一个视觉模型大概需要500万美金,基本上是一个语言模型的1/10,但现在他们已经把这个成本降到了100万美金以下。jXr即热新闻——关注每天科技社会生活新变化gihot.com

  从训练成本的降低来看,朱政表示“方法有很多”,一方面,大模型公司正在关注与云厂商加强合作,通过做一些训练加速、通讯优化、设置优化等降低成本。同时,行业对数据优化也更为重视,之前行业用Scaling Law只是在对数据,但对完数据后并没有做非常多相应的优化,事实上数据优化带来的训练效率提升空间也很大。jXr即热新闻——关注每天科技社会生活新变化gihot.com

  中国AI企业的“抢卡”焦虑也因此有所缓解,朱政表示,例如英伟达最新发布的显卡还是要买,得买最新的架构的显卡,但随着训练效率的提升,需要的规模会下降。他同时表示,来到100万美金以下,未来进一步下探大模型的训练成本将是一件更困难的事情,可能不是一家企业能搞定的事情,可能需要训练框架的支持、编程语言的支持包括显卡算式的支持。jXr即热新闻——关注每天科技社会生活新变化gihot.com

  从全行业的角度来看,蚂蚁集团科技战略与执行部副总经理彭晋对第一财经记者表示,在采购先进算力有些困难的情况下,国内也在推进国产算力的替代,各大公司都在不断采购一些国产算力,从蚂蚁的实践来看,国产算力已经可以支撑很大规模,比如在千亿参数甚至以上规模的模型训练中国产算力是没有问题的。至于到下一步,例如说要建十万卡规模的集群,国产算力能否支撑有待进一步检验。jXr即热新闻——关注每天科技社会生活新变化gihot.com

  “远虑”仍存,但走过2024年,中国企业的“算力焦虑”正在回归理性。jXr即热新闻——关注每天科技社会生活新变化gihot.com

  未来趋势jXr即热新闻——关注每天科技社会生活新变化gihot.com

  2025年,中国AI行业会有哪些变化?jXr即热新闻——关注每天科技社会生活新变化gihot.com

  北京智源人工智能研究院在《2025十大AI技术趋势》报告中指出,从基础设施到产品应用,Scaling Law、基础模型、具身智能、超级应用、AI安全等AI发展的关键方向都可能在2025年迎来新的变化。jXr即热新闻——关注每天科技社会生活新变化gihot.com

jXr即热新闻——关注每天科技社会生活新变化gihot.com

  报告认为,AI4S驱动科学研究范式变革;具身智能领域具身大小脑和本体的协同进化;统一的多模态大模型实现更高效AI;Scaling Law扩展向RL + LLMs,模型泛化从预训练向后训练、推理迁移;世界模型加速发布,有望成为多模态大模型的下一阶段;合成数据成为大模型迭代与应用落地的重要催化剂;推理优化迭代加速,成为AI Native应用落地的必要条件;Agentic AI成为产品落地的重要模式;AI应用将迎来Super APP以及AI安全治理体系的持续完善将成为2025年AI技术发展的十大趋势。jXr即热新闻——关注每天科技社会生活新变化gihot.com

  不少中国自研的技术和产品让业内看到了这些趋势的到来。2024年9月,蚂蚁发布了支小宝、蚂小财等系列AI管家产品,探索更多服务类智能体形态,2024年10月,智源研究院发布了完全自研的基于自回归技术的原生多模态世界模型Emu3,实现了视频、图像、文本三种模态的统一理解和生成,2024年年底,豆包月活跃用户数达到了7116万,成为国内第一、全球第二的AI原生应用。jXr即热新闻——关注每天科技社会生活新变化gihot.com

  智能研究院行业研究组负责人倪贤豪提到,走过2024年全年来看,与2023年相比,国内AI整体的应用热度已明显升温,相比2023年第一季度,他所在的团队调研到,2024年第四季度,整个基础模型的垂直产业链以及其他赛道AI应用的成熟度已有了明显提升,例如AI在3D内容、AI硬件等场景的应用以及医疗文献处理等未来场景的探索中,都有了明显拓展。jXr即热新闻——关注每天科技社会生活新变化gihot.com

  从国内大模型公开中标项目的类型分布来看,2024年10月,大模型应用类项目数量首次超过了算力类项目,应用类大模型招标项目占比已达到56%,国产大模型在垂直行业实现了加速落地,或是在诸多中大型企业扮演中台性质的基础设施。jXr即热新闻——关注每天科技社会生活新变化gihot.com

  AI应用领域的Super APP能否在2025年出现同样受到业内关注。从C端的用户规模、交互频次、停留时长等维度来看,目前,国产AI应用尚未出现爆发式增长,倪贤豪表示,随着大模型推理成本的下降,包括开发工具的适配、框架的创新以及应用安全、决策的可解释性、鲁棒性等问题的解决,未来,推动Agent解决复杂问题的能力提升将变得更有可能也更关键。他认为,从用户视角切入,以需求反推技术或许能撬动AI应用的用户存量和增量市场,Super APP在2025年的诞生值得期待。jXr即热新闻——关注每天科技社会生活新变化gihot.com

  “当前,我们处在人工智能发展的新拐点,大模型的能力涌现加速通用人工智能时代的到来,原生统一多模态、具身智能、AI for Science,将进一步深化人工智能对世界的感知、理解与推理,连接数字世界与物理世界,驱动科学研究创新突破。”智源研究院院长王仲远表示。jXr即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-4-443-0.html视觉模型训练成本一年下降80%,中国AI厂商“掀起”全球算力降价潮

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:将于本月内生效!泰国颁布紧急法令打击电信网络诈骗

下一篇:失去始祖鸟代理权 三夫户外自救

为你推荐
  近年来,短小精悍、剧情跌宕的短剧,发展成网络影视的一种新业态,短剧出海也成为我国文化产业的一个新风向。  截至2024年8月,头部海外短剧App的地区数据中,美国的收入达1...
01-22
  中新经纬1月17日电 (袁媛)2025年,全球经济面临增长动力不强的挑战。面对外部环境的深刻变化,中国亟需通过创新驱动新旧动能转换,以确保未来的可持续增长。  科技创新成为...
01-21
1 月 21 日消息,理想汽车今日宣布“副驾下车卫士”已上线,有效预防“开门杀”,并上线了官方实测视频。据介绍,当副驾乘客解开安全带时,副驾屏可自动显示右后方盲区画面,辅...
01-22
2 月 3 日消息,法拉第未来今日发文官宣,公司计划于 2025 年 3 月 10 日正式更换纳斯达克股票代码为“FFAI”,并在 3 月 17 日举行“FF 开放 AI 日”公布公司 AI 战略的...
02-04
  1、《难哄》温以凡是在桑延生日的第二天向他表白的,和桑延合租的日子里她意识到自己仍然喜欢桑延。  2、桑延无微不至的照顾和守护,让温以凡重新鼓起了勇气,她想要追回...
02-20
最新播出的《重症外伤中心》在各个短视频平台上引起了广泛关注。许多观众对剧中角色白江赫为何加入“黑翼”组织感到好奇。白江赫曾是国际救援队的一员,因渴...
02-20
21世纪经济报道记者武瑛港 实习生张烁 李依浓 房思宇 北京报道近日,有医美业内人士告诉21世纪经济报道记者,1月14日左右已经有医美机构收到...
01-21
这里是《21健讯Daily》,欢迎与21世纪经济报道新健康团队共同关注医药健康行业最新事件!政策动向2025年版流感诊疗方案发布1月22日,国家卫生健...
01-24
为了进一步做好辽宁省普通高等学校专科层次起点升本科教育(以下简称“专升本”)考试招生工作,从2025年起,辽...
01-21
央广网北京10月29日消息(记者 吴佳怡)即将到来的十一月,有哪些需要关注的高考热点?近日,阳光高考信息平台对...
01-22
  《科创板日报》1月14日讯(记者 余诗琪)时隔3年,微医再次出现在港交所的IPO申请列表中。  这...
01-21
  原标题:中铁信托因股东损害公司债权人利益责任纠纷被告,5月27日在成都市武侯区人民法院审理 ...
01-22
射手座的男生通常都有一种独立自主、不拘小节的个性,他们喜欢追求自由和刺激。因此,如果...
01-22
双子座的男生天生具有机智聪慧、善于交际的特点,他们喜欢追求新鲜刺激的感觉,对待感情也...
01-22
T恤穿搭技巧? 男士t恤衫穿搭技巧?一、T恤穿搭技巧?01 T恤+吊带裙简约T恤与长款吊带连衣裙搭配,优雅大气,而且能凸显优美的身材曲线。手臂粗的姑娘们,可以选择袖子宽松的T恤,腰部较...
02-12
穿搭女小个子?1、高腰裤现在很流行高腰直筒裤,不要以为只有高个子可以穿,没关系,矮子一样可以穿,只要你掌握裤子的长度,我觉得就OK,只是要切忌,如果你想要你的比例看起来比较好的话,...
02-17
2月4日消息,淘宝天猫面向服饰商家发布新品利好政策。在新春开工之际,为了更好地帮助商家搭上“春季上新”的东风,淘宝商家后台将上线“新品超级橱窗”板块,并于2月5日开放报名入...
02-07
成也流量,败也流量。抖音安全中心发布公告称,近期徐熙媛(大S)女士逝世引发广泛关注,广大网友纷纷表达哀思悼念,希望逝者能够安息。但也有部分账号借机炒作,发布谣言,违背公序良俗和...
02-08
2月24日消息,智联招聘发布第三期《2025年春招市场行情周报》,继续围绕38个重点城市,洞察春节后第三周招聘求职趋势,快速呈现春招市场最新动态。智联招聘数据显示,节后第三周,交通/...
02-25
今年以来,金价屡次刷新历史新高。2月24日,现货黄金盘中价格突破2956美元/盎司,年内第十一次刷新历史新高。金价的上涨使得越来越多的...
03-04
2024年底,上海国拍携⼿MOJO FEST在⾸届MOJO FEST卡趣嘉年华上推出名⼈&名品拍卖会——MOJO AUCTION。拍卖会现场竞价热烈,其中一张稀有的宝可梦卡牌以全场最高价140万元成交...
01-23
全球性金融券商集团英国EBC Group平台始终致力于以领先生态,与全球交易者共塑交易的未来。 自第一届交易大赛起,为赤忱的热爱和卓越的才华提供舞台,在全球内寻找交易好手以赋能...
01-24
根据《毁灭战士:黑暗时代》Steam页面,这款FPS游戏将采用第三方DRM:D加密。考虑到《夺宝奇兵:古老之圈》没有使用D加密,因此这多少有点让人意外。 所以这意味着《毁...
01-31
曾为《上古卷轴》系列献声的资深游戏配音演员韦斯·约翰逊突发重病入院,其家人已在GoFundMe平台发起医疗费募捐。截至发稿时,该活动已筹得超5.2万美元(最初目标5...
01-31
△以色列外交部长萨尔(资料图)以色列外交部长萨尔5日说,以色列将不参加联合国人权理事会。萨尔当天在社交媒体上说,以色列欢迎美国总统特朗普关于美国退出联合国人权理事会的决...
02-06
极目新闻记者 陈凌燕收集整理2月7日晚,第九届亚冬会在哈尔滨开幕。关于这场冰雪盛会,这些“热知识”赶紧分享给你。哈尔滨冰雪大世界园区内的第九届亚冬会会徽冰建景观(新华社...
02-08
1月7日,哈电集团哈尔滨电气国际工程有限责任公司(以下简称“哈电集团国际公司”)、天津市河西区政府联合举办“三改联动”专题交流会。记者从会上获悉...
01-24
  近日,省商务厅发布《辽宁省手机、平板、智能手表(手环)购新补贴实施细则》(以下简称《实施细则》),明确补...
01-22
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮