视觉模型训练成本一年下降80%,中国AI厂商“掀起”全球算力降价潮

11个月前 来源: 观看:124

  视觉模型训练成本一年下降80%,中国AI厂商“掀起”全球算力降价潮fKC即热新闻——关注每天科技社会生活新变化gihot.com

  2024年过去,AI又走过了狂奔的一年,大模型加速落地的热切、应用场景创新的火热和高投入、商业化缓慢带来的“下牌桌”焦虑同时处在这个行业。fKC即热新闻——关注每天科技社会生活新变化gihot.com

  回过头看来,过往行业共识的一些问题在2024年中被打上了问号,例如智能算力还是否短缺、中国AI企业的“算力焦虑”是必要的吗?Scaling Law(规模法则)还值得信仰吗?fKC即热新闻——关注每天科技社会生活新变化gihot.com

  辞旧迎新之际,中国AI行业的“拐点”时刻更受关注。不再统一的答案背后,值得关注的是,对中国AI企业来说,一些好的变化正在发生,也有更多挑战等待2025年去回答。fKC即热新闻——关注每天科技社会生活新变化gihot.com

  训练成本下降fKC即热新闻——关注每天科技社会生活新变化gihot.com

  2024年12月27日,海外社交媒体平台X被来自中国的大模型DeepSeek-V3刷屏,这一模型能力对标头部模型,但训练的预算却非常低,“2048个GPU、2个月、近600万美元”,相比之下,GPT-4o等模型的训练成本约为1亿美元,至少在万个GPU量级的计算集群上训练。fKC即热新闻——关注每天科技社会生活新变化gihot.com

  这是一项展现了极致性价比的训练成本数据。在已开源的论文中,幻方量化旗下AI公司深度求索(DeepSeek)强调了DeepSeek-V3训练成本较低――通过对算法、框架和硬件的优化协同设计,在预训练阶段,模型每训练1万亿token仅需要18万个GPU小时,即在团队配备2048个H800 GPU的集群上只需3.7天,也就是说,团队的预训练在不到2个月的时间完成。加上后训练,DeepSeek-V3完整训练消耗了278.8万个GPU小时。假设H800 GPU的租用价格为每块GPU 2美元/小时,DeepSeek-V3的全部正式训练成本总计仅为557.6万美元。fKC即热新闻——关注每天科技社会生活新变化gihot.com

  DeepSeek的成功并非个例,值得关注的是,在英伟达显卡等高端算力资源受限的情况下,2024年,许多中国AI企业正在找到降低训练成本的方法。fKC即热新闻——关注每天科技社会生活新变化gihot.com

  极佳科技联合创始人兼首席科学家朱政向第一财经记者透露,过去一年,极佳科技训练大模型的成本也在大规模下降。朱政介绍,之前极佳科技训练一个视觉模型大概需要500万美金,基本上是一个语言模型的1/10,但现在他们已经把这个成本降到了100万美金以下。fKC即热新闻——关注每天科技社会生活新变化gihot.com

  从训练成本的降低来看,朱政表示“方法有很多”,一方面,大模型公司正在关注与云厂商加强合作,通过做一些训练加速、通讯优化、设置优化等降低成本。同时,行业对数据优化也更为重视,之前行业用Scaling Law只是在对数据,但对完数据后并没有做非常多相应的优化,事实上数据优化带来的训练效率提升空间也很大。fKC即热新闻——关注每天科技社会生活新变化gihot.com

  中国AI企业的“抢卡”焦虑也因此有所缓解,朱政表示,例如英伟达最新发布的显卡还是要买,得买最新的架构的显卡,但随着训练效率的提升,需要的规模会下降。他同时表示,来到100万美金以下,未来进一步下探大模型的训练成本将是一件更困难的事情,可能不是一家企业能搞定的事情,可能需要训练框架的支持、编程语言的支持包括显卡算式的支持。fKC即热新闻——关注每天科技社会生活新变化gihot.com

  从全行业的角度来看,蚂蚁集团科技战略与执行部副总经理彭晋对第一财经记者表示,在采购先进算力有些困难的情况下,国内也在推进国产算力的替代,各大公司都在不断采购一些国产算力,从蚂蚁的实践来看,国产算力已经可以支撑很大规模,比如在千亿参数甚至以上规模的模型训练中国产算力是没有问题的。至于到下一步,例如说要建十万卡规模的集群,国产算力能否支撑有待进一步检验。fKC即热新闻——关注每天科技社会生活新变化gihot.com

  “远虑”仍存,但走过2024年,中国企业的“算力焦虑”正在回归理性。fKC即热新闻——关注每天科技社会生活新变化gihot.com

  未来趋势fKC即热新闻——关注每天科技社会生活新变化gihot.com

  2025年,中国AI行业会有哪些变化?fKC即热新闻——关注每天科技社会生活新变化gihot.com

  北京智源人工智能研究院在《2025十大AI技术趋势》报告中指出,从基础设施到产品应用,Scaling Law、基础模型、具身智能、超级应用、AI安全等AI发展的关键方向都可能在2025年迎来新的变化。fKC即热新闻——关注每天科技社会生活新变化gihot.com

fKC即热新闻——关注每天科技社会生活新变化gihot.com

  报告认为,AI4S驱动科学研究范式变革;具身智能领域具身大小脑和本体的协同进化;统一的多模态大模型实现更高效AI;Scaling Law扩展向RL + LLMs,模型泛化从预训练向后训练、推理迁移;世界模型加速发布,有望成为多模态大模型的下一阶段;合成数据成为大模型迭代与应用落地的重要催化剂;推理优化迭代加速,成为AI Native应用落地的必要条件;Agentic AI成为产品落地的重要模式;AI应用将迎来Super APP以及AI安全治理体系的持续完善将成为2025年AI技术发展的十大趋势。fKC即热新闻——关注每天科技社会生活新变化gihot.com

  不少中国自研的技术和产品让业内看到了这些趋势的到来。2024年9月,蚂蚁发布了支小宝、蚂小财等系列AI管家产品,探索更多服务类智能体形态,2024年10月,智源研究院发布了完全自研的基于自回归技术的原生多模态世界模型Emu3,实现了视频、图像、文本三种模态的统一理解和生成,2024年年底,豆包月活跃用户数达到了7116万,成为国内第一、全球第二的AI原生应用。fKC即热新闻——关注每天科技社会生活新变化gihot.com

  智能研究院行业研究组负责人倪贤豪提到,走过2024年全年来看,与2023年相比,国内AI整体的应用热度已明显升温,相比2023年第一季度,他所在的团队调研到,2024年第四季度,整个基础模型的垂直产业链以及其他赛道AI应用的成熟度已有了明显提升,例如AI在3D内容、AI硬件等场景的应用以及医疗文献处理等未来场景的探索中,都有了明显拓展。fKC即热新闻——关注每天科技社会生活新变化gihot.com

  从国内大模型公开中标项目的类型分布来看,2024年10月,大模型应用类项目数量首次超过了算力类项目,应用类大模型招标项目占比已达到56%,国产大模型在垂直行业实现了加速落地,或是在诸多中大型企业扮演中台性质的基础设施。fKC即热新闻——关注每天科技社会生活新变化gihot.com

  AI应用领域的Super APP能否在2025年出现同样受到业内关注。从C端的用户规模、交互频次、停留时长等维度来看,目前,国产AI应用尚未出现爆发式增长,倪贤豪表示,随着大模型推理成本的下降,包括开发工具的适配、框架的创新以及应用安全、决策的可解释性、鲁棒性等问题的解决,未来,推动Agent解决复杂问题的能力提升将变得更有可能也更关键。他认为,从用户视角切入,以需求反推技术或许能撬动AI应用的用户存量和增量市场,Super APP在2025年的诞生值得期待。fKC即热新闻——关注每天科技社会生活新变化gihot.com

  “当前,我们处在人工智能发展的新拐点,大模型的能力涌现加速通用人工智能时代的到来,原生统一多模态、具身智能、AI for Science,将进一步深化人工智能对世界的感知、理解与推理,连接数字世界与物理世界,驱动科学研究创新突破。”智源研究院院长王仲远表示。fKC即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-4-443-0.html视觉模型训练成本一年下降80%,中国AI厂商“掀起”全球算力降价潮

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:将于本月内生效!泰国颁布紧急法令打击电信网络诈骗

下一篇:失去始祖鸟代理权 三夫户外自救

为你推荐
  (央视财经《经济半小时》)体验过智能头显的人都会了解一个新概念,虚拟现实技术。身临其境不仅仅是一种视觉体验,还会赋能各行各业,创造出更多的“现实”价值。  在北京,...
01-22
  中新经纬1月17日电 (薛宇飞)“这几年,捷克线上消费表现强劲,外卖和在线订单的比例显著上升。未来,要加强外卖业务,优化外卖包装和配送流程。同时,面对中高端餐饮市场的机会,我...
01-21
到底要不要贴车衣?刚刚入手新车的朋友常常发出这一疑问。作为保护车漆的第一道防线,车衣,正被越来越多的年轻车主钟情,他们该省省、该花花,买完新车、就贴车衣,用以保护爱车的车漆...
01-21
1 月 26 日消息,宝马首席开发官 Frank Webber 近日在接受 Motor Authority 采访时表示,iDrive X 的屏幕已经足够大,没有必要继续增大。“如果车内有太大的屏幕,会让你与...
01-27
《余烬之上》男主是谁啊?余烬之上背后的boss是谁?‌《余烬之上》的男主角是王子奇和孙阳。‌王子奇饰演的廖思远是一个天才破案少年,因童年创伤患上“解离性人...
02-21
近期,《树下有片红房子》备受关注,播出后引起了巨大的热度。在社交平台上,这部剧的相关资讯和剧情分析也十分丰富。为了让大家更全面深入地了解这部剧,以下整理...
02-21
  中国疾病预防控制中心病毒病预防控制所研究员王大燕1月17日表示,近期的流感高发属于正常的季节性流行,每年冬春季基本都会出现。最新一周监测数据显示,北方大部分省...
01-21
21世纪经济报道记者 闫硕 北京报道近日,上市连锁药店一心堂和健之佳发布了2024年业绩预告,净利润皆大幅下滑。根据公告,一心堂2024年归属于上...
01-21
  大众网记者 司心鹏 报道  12月24日上午,廉洁文化进学校暨“青春·清菏韵泽”廉洁文化馆开馆仪式在菏泽职业学院举行。市委常委、市纪委书记、市监委主任赵永强、市...
01-21
辽宁省2024年下半年全国大学英语四、六级考试(CET)和高等学校英语应用能力考试(AB级)将于12月14日和15日举...
01-21
  摘要  【碳酸锂价格节后维持“震荡”业内人士:今年一季度或上演“躁动”行情】对于锂行业...
02-06
  “春节后,豆粕一天一个价,今天就涨了300元(每吨)。”提及近期豆粕价格情况,广东一家中型饲料企业...
02-13
天蝎座的女生通常被认为是十分独立、自信和坚强的,但当她们感到自己的爱情受到威胁时,她...
01-22
摩羯男通常被认为是一个非常谨慎和保守的星座,他们对于信任需要时间来建立。如果你想要...
01-22
让人惊艳的女星:她们背后的故事与魅力当我们谈论最惊艳的女明星时,心中总会浮现出一系列光彩照人的面孔。她们不单是影视作品中的角色,更是现实生活中无法忽视的存在。你是否也...
02-07
秋季穿搭,怎么搭配才时尚有范儿?对于女性来说,秋冬季的衣服不用天天换。用一衣多穿的穿搭方式,搭配出时尚的感觉来。可同时一衣多穿还有很多搭配的小技巧,可以让你把一件普通平凡...
02-12
2月10日消息,天眼查显示,2月8日,与辉同行(北京)科技有限公司发生工商变更,原全资股东董宇辉退出股东行列,新增子三省(北京)科技有限公司为股东并全资持股,董宇辉由直接持股变更为间接...
02-11
阿里巴巴港股成交额突破440亿港元,创历史天量,盘中股价涨超15%。消息面上,阿里巴巴昨日发布2025财年第三财季业绩公告。财报显示,阿里巴巴第三财季收入2801.54亿元,同比增长8%;经...
02-22
2月13日消息,京东养车日前与杭州陆益嘉信息技术有限公司达成战略合作,双方将以独家授权的合作模式,共同推进浙江省五市京东养车连锁加盟门店的拓展。根据合作协议,双方将于三年...
02-14
国际金价在即将触及3000美元/盎司的关键心理关口时,突然遭遇重压,转而大幅下跌,跌至最近三周以来的最低点。 国内市场方面,沪金期货连...
03-04
2025年1月22日,达歌生物(以下简称“达歌”),一家专注于针对不可成药靶点开发分子胶新药的生物技术公司,今日宣布公司于2024年底成功完成了超2000万美元的A+轮融资。本轮融资...
01-23
12月3日消息,悦点科技宣布公司完成数千万人民币的天使轮融资。此次融资由云启资本独家投资,本轮融资将主要用于悦点科技在企业级GenAI应用平台的进...
02-07
由Rice Games Inc打造的日语学习主题RPG游戏《主人公(Shujinkou)》,现已在Steam平台推出试玩Demo。 本作中玩家将沉浸在这款JRPG冒险中,学习世界上最难的语言之...
01-27
1月27日消息,RTX 50系列即将上市开卖,RTX 5090/5090D的评测已经出炉,但奇怪的是,这次全球媒体评测的样卡,没有一块和FE公版价格相同的标准版,也就是俗称的“丐版”。...
01-29
2月9日,哈尔滨亚冬会短道速滑项目迎来了第二个金牌日的争夺。在男子5000米接力项目的决赛争夺中,由孙龙、林孝埈、刘少林、刘少昂组成的中国队遭遇韩国队阻挡犯规,最终遗憾无缘...
02-09
春节档电影《哪吒之魔童闹海》(以下称《哪吒2》)将在当地时间2月12日起于北美地区开启特别制式点映,2月14日正式上映。目前预售场次火爆,上座率达90%以上,多个热门场次均已售罄,一...
02-10
你胖吗?一份最新报告或许会改变你现在的答案。1月15日,《柳叶刀·糖尿病与内分泌学》发布重大报告。该报告由全球75个医疗组织支持,参与撰写的5...
01-21
美国布朗大学物理学家在一项新研究中观察到一种名为“分数激子”的新型量子粒子,既不属于玻色子,也不属于费米子,而是介于两者之间的粒子类型。这一发...
01-24
  近日,《辽宁省沿海港口布局规划(2024—2035年)》(以下简称《规划》)正式出台,我省是继2023年全国港口航道...
01-22
   1月20日,云南昆明,小白虎在户外活动。近日,云南野生动物园的两只孟加拉小白虎度过环境适应期...
01-23
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮