视觉模型训练成本一年下降80%,中国AI厂商“掀起”全球算力降价潮

1年前 来源: 观看:138

  视觉模型训练成本一年下降80%,中国AI厂商“掀起”全球算力降价潮BdI即热新闻——关注每天科技社会生活新变化gihot.com

  2024年过去,AI又走过了狂奔的一年,大模型加速落地的热切、应用场景创新的火热和高投入、商业化缓慢带来的“下牌桌”焦虑同时处在这个行业。BdI即热新闻——关注每天科技社会生活新变化gihot.com

  回过头看来,过往行业共识的一些问题在2024年中被打上了问号,例如智能算力还是否短缺、中国AI企业的“算力焦虑”是必要的吗?Scaling Law(规模法则)还值得信仰吗?BdI即热新闻——关注每天科技社会生活新变化gihot.com

  辞旧迎新之际,中国AI行业的“拐点”时刻更受关注。不再统一的答案背后,值得关注的是,对中国AI企业来说,一些好的变化正在发生,也有更多挑战等待2025年去回答。BdI即热新闻——关注每天科技社会生活新变化gihot.com

  训练成本下降BdI即热新闻——关注每天科技社会生活新变化gihot.com

  2024年12月27日,海外社交媒体平台X被来自中国的大模型DeepSeek-V3刷屏,这一模型能力对标头部模型,但训练的预算却非常低,“2048个GPU、2个月、近600万美元”,相比之下,GPT-4o等模型的训练成本约为1亿美元,至少在万个GPU量级的计算集群上训练。BdI即热新闻——关注每天科技社会生活新变化gihot.com

  这是一项展现了极致性价比的训练成本数据。在已开源的论文中,幻方量化旗下AI公司深度求索(DeepSeek)强调了DeepSeek-V3训练成本较低――通过对算法、框架和硬件的优化协同设计,在预训练阶段,模型每训练1万亿token仅需要18万个GPU小时,即在团队配备2048个H800 GPU的集群上只需3.7天,也就是说,团队的预训练在不到2个月的时间完成。加上后训练,DeepSeek-V3完整训练消耗了278.8万个GPU小时。假设H800 GPU的租用价格为每块GPU 2美元/小时,DeepSeek-V3的全部正式训练成本总计仅为557.6万美元。BdI即热新闻——关注每天科技社会生活新变化gihot.com

  DeepSeek的成功并非个例,值得关注的是,在英伟达显卡等高端算力资源受限的情况下,2024年,许多中国AI企业正在找到降低训练成本的方法。BdI即热新闻——关注每天科技社会生活新变化gihot.com

  极佳科技联合创始人兼首席科学家朱政向第一财经记者透露,过去一年,极佳科技训练大模型的成本也在大规模下降。朱政介绍,之前极佳科技训练一个视觉模型大概需要500万美金,基本上是一个语言模型的1/10,但现在他们已经把这个成本降到了100万美金以下。BdI即热新闻——关注每天科技社会生活新变化gihot.com

  从训练成本的降低来看,朱政表示“方法有很多”,一方面,大模型公司正在关注与云厂商加强合作,通过做一些训练加速、通讯优化、设置优化等降低成本。同时,行业对数据优化也更为重视,之前行业用Scaling Law只是在对数据,但对完数据后并没有做非常多相应的优化,事实上数据优化带来的训练效率提升空间也很大。BdI即热新闻——关注每天科技社会生活新变化gihot.com

  中国AI企业的“抢卡”焦虑也因此有所缓解,朱政表示,例如英伟达最新发布的显卡还是要买,得买最新的架构的显卡,但随着训练效率的提升,需要的规模会下降。他同时表示,来到100万美金以下,未来进一步下探大模型的训练成本将是一件更困难的事情,可能不是一家企业能搞定的事情,可能需要训练框架的支持、编程语言的支持包括显卡算式的支持。BdI即热新闻——关注每天科技社会生活新变化gihot.com

  从全行业的角度来看,蚂蚁集团科技战略与执行部副总经理彭晋对第一财经记者表示,在采购先进算力有些困难的情况下,国内也在推进国产算力的替代,各大公司都在不断采购一些国产算力,从蚂蚁的实践来看,国产算力已经可以支撑很大规模,比如在千亿参数甚至以上规模的模型训练中国产算力是没有问题的。至于到下一步,例如说要建十万卡规模的集群,国产算力能否支撑有待进一步检验。BdI即热新闻——关注每天科技社会生活新变化gihot.com

  “远虑”仍存,但走过2024年,中国企业的“算力焦虑”正在回归理性。BdI即热新闻——关注每天科技社会生活新变化gihot.com

  未来趋势BdI即热新闻——关注每天科技社会生活新变化gihot.com

  2025年,中国AI行业会有哪些变化?BdI即热新闻——关注每天科技社会生活新变化gihot.com

  北京智源人工智能研究院在《2025十大AI技术趋势》报告中指出,从基础设施到产品应用,Scaling Law、基础模型、具身智能、超级应用、AI安全等AI发展的关键方向都可能在2025年迎来新的变化。BdI即热新闻——关注每天科技社会生活新变化gihot.com

BdI即热新闻——关注每天科技社会生活新变化gihot.com

  报告认为,AI4S驱动科学研究范式变革;具身智能领域具身大小脑和本体的协同进化;统一的多模态大模型实现更高效AI;Scaling Law扩展向RL + LLMs,模型泛化从预训练向后训练、推理迁移;世界模型加速发布,有望成为多模态大模型的下一阶段;合成数据成为大模型迭代与应用落地的重要催化剂;推理优化迭代加速,成为AI Native应用落地的必要条件;Agentic AI成为产品落地的重要模式;AI应用将迎来Super APP以及AI安全治理体系的持续完善将成为2025年AI技术发展的十大趋势。BdI即热新闻——关注每天科技社会生活新变化gihot.com

  不少中国自研的技术和产品让业内看到了这些趋势的到来。2024年9月,蚂蚁发布了支小宝、蚂小财等系列AI管家产品,探索更多服务类智能体形态,2024年10月,智源研究院发布了完全自研的基于自回归技术的原生多模态世界模型Emu3,实现了视频、图像、文本三种模态的统一理解和生成,2024年年底,豆包月活跃用户数达到了7116万,成为国内第一、全球第二的AI原生应用。BdI即热新闻——关注每天科技社会生活新变化gihot.com

  智能研究院行业研究组负责人倪贤豪提到,走过2024年全年来看,与2023年相比,国内AI整体的应用热度已明显升温,相比2023年第一季度,他所在的团队调研到,2024年第四季度,整个基础模型的垂直产业链以及其他赛道AI应用的成熟度已有了明显提升,例如AI在3D内容、AI硬件等场景的应用以及医疗文献处理等未来场景的探索中,都有了明显拓展。BdI即热新闻——关注每天科技社会生活新变化gihot.com

  从国内大模型公开中标项目的类型分布来看,2024年10月,大模型应用类项目数量首次超过了算力类项目,应用类大模型招标项目占比已达到56%,国产大模型在垂直行业实现了加速落地,或是在诸多中大型企业扮演中台性质的基础设施。BdI即热新闻——关注每天科技社会生活新变化gihot.com

  AI应用领域的Super APP能否在2025年出现同样受到业内关注。从C端的用户规模、交互频次、停留时长等维度来看,目前,国产AI应用尚未出现爆发式增长,倪贤豪表示,随着大模型推理成本的下降,包括开发工具的适配、框架的创新以及应用安全、决策的可解释性、鲁棒性等问题的解决,未来,推动Agent解决复杂问题的能力提升将变得更有可能也更关键。他认为,从用户视角切入,以需求反推技术或许能撬动AI应用的用户存量和增量市场,Super APP在2025年的诞生值得期待。BdI即热新闻——关注每天科技社会生活新变化gihot.com

  “当前,我们处在人工智能发展的新拐点,大模型的能力涌现加速通用人工智能时代的到来,原生统一多模态、具身智能、AI for Science,将进一步深化人工智能对世界的感知、理解与推理,连接数字世界与物理世界,驱动科学研究创新突破。”智源研究院院长王仲远表示。BdI即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-4-443-0.html视觉模型训练成本一年下降80%,中国AI厂商“掀起”全球算力降价潮

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:将于本月内生效!泰国颁布紧急法令打击电信网络诈骗

下一篇:失去始祖鸟代理权 三夫户外自救

为你推荐
河南省会,在2024年特别拼。最能体现的数据是汽车产量。根据日前郑州公布的消息,2024年1-11月,郑州新能源汽车实际下线52.9万辆、增速...
01-21
1月17日,为迎接中国农历蛇年的到来,重庆街头的蛇年新春装置亮相,呈现出浓浓年味。图为市民在巨型灯笼打造的新春装置处玩耍。中新社记者 周毅 摄  (新春走基层) 重庆...
01-21
[本站 资讯] 本站新闻团队策划了《2025新车大爆料》系列内容,我们将为大家盘点各个车企的最新动向,重点展望2025年新车。目前已经上线10篇内容,覆盖新势力品牌和中国品...
01-21
1 月 21 日消息,凯翼汽车宣布旗下“2024 款改款”凯翼昆仑 iHD插混SUV 现已上市,新车共推出 9 款车型,指导价格区间为 10.99 万-17.99 万元,整理具体定价信息如下:车型定...
01-22
《难哄》向朗喜欢钟思乔吗?向朗和钟思乔什么关系?在《难哄》中,向朗不喜欢钟思乔。向朗是温以凡和钟思乔的发小,他与钟思乔只是朋友关系,没有爱情方面的感情。向...
02-19
《树下有片红房子》播出后受到了观众的喜爱和追捧。剧中角色祁琪的情感走向成为了热议话题。祁琪心中充满了害羞与真诚,而宋丛则显得沉静且敏感。在一家古老...
02-22
  图①:1月1日凌晨,吉林大学白求恩第一医院妇产中心产科,助产士在为新生儿印脚印。  新华社记者 张 楠摄  图②:贵州黔西市文峰街道文峰社区珠海蓝逸贝贝托育园,孩...
01-21
  不少人都有“每逢佳节胖三斤”的经历。传统佳节将至,亲友聚会增多,外出餐饮频繁,如何在过好节...
01-21
  大众网记者 杨涛报道  9月22日,2024金砖国家职业技能大赛增材制造赛项全国选拔赛暨国内总决赛传来消息,青岛港湾职业技术学院参赛学生冯洋(指导老师曾显波)获得一等奖,...
01-21
1月12至14日,清华大学国家卓越工程师学院12名硕博士研究生来到沈阳开展研学实践活动。团沈阳市委有关负...
01-21
  1月21日上午10点,贵州亨特房地产开发有限公司(简称“亨特地产”)持有的贵州花溪农村商业银行股...
01-23
  原标题:又见共管保险箱被撬!浙金信托一产品爆雷后被监管认定存在四大问题  来源:界面新闻 ...
01-28
狮子座是十二星座中的一员,他们以自信、勇敢和领导能力著称。然而,有时候我们可能会遇到...
01-22
天蝎男是一个神秘而深沉的星座,他们对爱情有着极高的要求和期待。在选择伴侣时,天蝎男会...
01-22
打造个性与风格并存的军姐潮流服饰在如今这个追求个性与风格的时代,军姐潮流服饰无疑成为了一股新的时尚风潮。这种风格的流行,不仅仅是对军事元素的致敬,更是一种生活态度的表...
02-07
探索梦想职业:云南之玉珠宝有限公司诚邀你的加入在追寻职业梦想的道路上,选择一份让你热爱且能够施展才华的工作显得尤为重要。近期,云南之玉珠宝有限公司发布了招聘信息,热诚欢...
02-12
网约车市场正在悄然发生变化,如同暴风雨来临前的宁静,让人恐惧。1、抖音上线打车服务抖音不仅能刷短视频,现在还能直接打车了。据Tech星球独家消息,抖音在近日上线了打车服务,入...
02-07
2月20日消息,闲鱼数据显示,过去一年中,平台上的循环订单量同比增长近50%,覆盖手机数码、家具家电、服饰、图书等品类。在线上,超1亿人在闲鱼挂出闲置物品,每天都有超400万件闲置物...
02-21
2月4日消息,携程发布《2025年春节旅游总结报告》,报告显示,超半数游客集中在初五、初六返程,8天假期的灵活性也让不少游客选择延长旅途,节后错峰返程。跨境游整体订单同比去年增...
02-07
3月3日消息,由广州市科学技术局、广州市科技进步基金会指导,广州产业发展研究院联合广州科技金融集团主办的2025广州促进人工智能产业高质量发展交流会近日举行,并发布“2024广...
03-04
近日,华力创科学宣布完成数千万元A+轮融资,本轮融资由金属3D打印领域头部上市公司铂力特独家投资。据披露,本轮融资所募集的资金将专注于深挖高性能光学多模态感知技术,结合金属...
01-24
据公安部最新数据揭示,至2024年末,我国新能源汽车保有量已激增至3140万辆,占汽车总体比例的8.90%。2024年度,新注册登记的新能源汽车数量高达1125万辆,占比新注册汽车总量的41.83...
02-09
1月27日消息,RTX 50系列即将上市开卖,RTX 5090/5090D的评测已经出炉,但奇怪的是,这次全球媒体评测的样卡,没有一块和FE公版价格相同的标准版,也就是俗称的“丐版”。...
01-29
Midnight Society是由颇具争议的主播Dr Disrespect联合创立的游戏工作室。在进行大规模裁员四个月后,该工作室即将关门大吉。与此同时,谷歌宣布解除对Dr Disresp...
02-03
极目新闻记者 余渊 近日,有网友发视频称,湖南岳阳市平江县一辆警车连撞三辆车后,驾驶员逃离现场,此事引发关注。上述视频中,有人员声称:“一辆警车连撞三辆车后发生爆胎,随后驾驶员...
02-08
△幻影2000-5F战机(资料图)据俄新社9日报道,俄罗斯外交部发言人扎哈罗娃日前接受俄新社采访时说,西方向乌克兰提供法国“幻影-2000”战斗机只会让西方和乌克兰陷入更大僵局。扎...
02-10
1月20日有消息称,据荣耀内部公告,荣耀中国区CMO姜海荣将辞去相关职务。据悉,姜海荣曾在华为与荣耀工作超过20年,历任研发、市场等工作...
01-21
  1月26日18时至27日7时,我市普降大雪,局地暴雪,全市平均降雪量8.2毫米,四个国家站降雪量:营口市9.6毫米(...
01-28
2月11日,辽宁省盘锦市2024年第二批流通领域产品质量监督抽查情况公布。2024年,盘锦市市场监督管理局对电...
02-13
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮