视觉模型训练成本一年下降80%,中国AI厂商“掀起”全球算力降价潮

7个月前 来源: 观看:92

  视觉模型训练成本一年下降80%,中国AI厂商“掀起”全球算力降价潮m1V即热新闻——关注每天科技社会生活新变化gihot.com

  2024年过去,AI又走过了狂奔的一年,大模型加速落地的热切、应用场景创新的火热和高投入、商业化缓慢带来的“下牌桌”焦虑同时处在这个行业。m1V即热新闻——关注每天科技社会生活新变化gihot.com

  回过头看来,过往行业共识的一些问题在2024年中被打上了问号,例如智能算力还是否短缺、中国AI企业的“算力焦虑”是必要的吗?Scaling Law(规模法则)还值得信仰吗?m1V即热新闻——关注每天科技社会生活新变化gihot.com

  辞旧迎新之际,中国AI行业的“拐点”时刻更受关注。不再统一的答案背后,值得关注的是,对中国AI企业来说,一些好的变化正在发生,也有更多挑战等待2025年去回答。m1V即热新闻——关注每天科技社会生活新变化gihot.com

  训练成本下降m1V即热新闻——关注每天科技社会生活新变化gihot.com

  2024年12月27日,海外社交媒体平台X被来自中国的大模型DeepSeek-V3刷屏,这一模型能力对标头部模型,但训练的预算却非常低,“2048个GPU、2个月、近600万美元”,相比之下,GPT-4o等模型的训练成本约为1亿美元,至少在万个GPU量级的计算集群上训练。m1V即热新闻——关注每天科技社会生活新变化gihot.com

  这是一项展现了极致性价比的训练成本数据。在已开源的论文中,幻方量化旗下AI公司深度求索(DeepSeek)强调了DeepSeek-V3训练成本较低――通过对算法、框架和硬件的优化协同设计,在预训练阶段,模型每训练1万亿token仅需要18万个GPU小时,即在团队配备2048个H800 GPU的集群上只需3.7天,也就是说,团队的预训练在不到2个月的时间完成。加上后训练,DeepSeek-V3完整训练消耗了278.8万个GPU小时。假设H800 GPU的租用价格为每块GPU 2美元/小时,DeepSeek-V3的全部正式训练成本总计仅为557.6万美元。m1V即热新闻——关注每天科技社会生活新变化gihot.com

  DeepSeek的成功并非个例,值得关注的是,在英伟达显卡等高端算力资源受限的情况下,2024年,许多中国AI企业正在找到降低训练成本的方法。m1V即热新闻——关注每天科技社会生活新变化gihot.com

  极佳科技联合创始人兼首席科学家朱政向第一财经记者透露,过去一年,极佳科技训练大模型的成本也在大规模下降。朱政介绍,之前极佳科技训练一个视觉模型大概需要500万美金,基本上是一个语言模型的1/10,但现在他们已经把这个成本降到了100万美金以下。m1V即热新闻——关注每天科技社会生活新变化gihot.com

  从训练成本的降低来看,朱政表示“方法有很多”,一方面,大模型公司正在关注与云厂商加强合作,通过做一些训练加速、通讯优化、设置优化等降低成本。同时,行业对数据优化也更为重视,之前行业用Scaling Law只是在对数据,但对完数据后并没有做非常多相应的优化,事实上数据优化带来的训练效率提升空间也很大。m1V即热新闻——关注每天科技社会生活新变化gihot.com

  中国AI企业的“抢卡”焦虑也因此有所缓解,朱政表示,例如英伟达最新发布的显卡还是要买,得买最新的架构的显卡,但随着训练效率的提升,需要的规模会下降。他同时表示,来到100万美金以下,未来进一步下探大模型的训练成本将是一件更困难的事情,可能不是一家企业能搞定的事情,可能需要训练框架的支持、编程语言的支持包括显卡算式的支持。m1V即热新闻——关注每天科技社会生活新变化gihot.com

  从全行业的角度来看,蚂蚁集团科技战略与执行部副总经理彭晋对第一财经记者表示,在采购先进算力有些困难的情况下,国内也在推进国产算力的替代,各大公司都在不断采购一些国产算力,从蚂蚁的实践来看,国产算力已经可以支撑很大规模,比如在千亿参数甚至以上规模的模型训练中国产算力是没有问题的。至于到下一步,例如说要建十万卡规模的集群,国产算力能否支撑有待进一步检验。m1V即热新闻——关注每天科技社会生活新变化gihot.com

  “远虑”仍存,但走过2024年,中国企业的“算力焦虑”正在回归理性。m1V即热新闻——关注每天科技社会生活新变化gihot.com

  未来趋势m1V即热新闻——关注每天科技社会生活新变化gihot.com

  2025年,中国AI行业会有哪些变化?m1V即热新闻——关注每天科技社会生活新变化gihot.com

  北京智源人工智能研究院在《2025十大AI技术趋势》报告中指出,从基础设施到产品应用,Scaling Law、基础模型、具身智能、超级应用、AI安全等AI发展的关键方向都可能在2025年迎来新的变化。m1V即热新闻——关注每天科技社会生活新变化gihot.com

m1V即热新闻——关注每天科技社会生活新变化gihot.com

  报告认为,AI4S驱动科学研究范式变革;具身智能领域具身大小脑和本体的协同进化;统一的多模态大模型实现更高效AI;Scaling Law扩展向RL + LLMs,模型泛化从预训练向后训练、推理迁移;世界模型加速发布,有望成为多模态大模型的下一阶段;合成数据成为大模型迭代与应用落地的重要催化剂;推理优化迭代加速,成为AI Native应用落地的必要条件;Agentic AI成为产品落地的重要模式;AI应用将迎来Super APP以及AI安全治理体系的持续完善将成为2025年AI技术发展的十大趋势。m1V即热新闻——关注每天科技社会生活新变化gihot.com

  不少中国自研的技术和产品让业内看到了这些趋势的到来。2024年9月,蚂蚁发布了支小宝、蚂小财等系列AI管家产品,探索更多服务类智能体形态,2024年10月,智源研究院发布了完全自研的基于自回归技术的原生多模态世界模型Emu3,实现了视频、图像、文本三种模态的统一理解和生成,2024年年底,豆包月活跃用户数达到了7116万,成为国内第一、全球第二的AI原生应用。m1V即热新闻——关注每天科技社会生活新变化gihot.com

  智能研究院行业研究组负责人倪贤豪提到,走过2024年全年来看,与2023年相比,国内AI整体的应用热度已明显升温,相比2023年第一季度,他所在的团队调研到,2024年第四季度,整个基础模型的垂直产业链以及其他赛道AI应用的成熟度已有了明显提升,例如AI在3D内容、AI硬件等场景的应用以及医疗文献处理等未来场景的探索中,都有了明显拓展。m1V即热新闻——关注每天科技社会生活新变化gihot.com

  从国内大模型公开中标项目的类型分布来看,2024年10月,大模型应用类项目数量首次超过了算力类项目,应用类大模型招标项目占比已达到56%,国产大模型在垂直行业实现了加速落地,或是在诸多中大型企业扮演中台性质的基础设施。m1V即热新闻——关注每天科技社会生活新变化gihot.com

  AI应用领域的Super APP能否在2025年出现同样受到业内关注。从C端的用户规模、交互频次、停留时长等维度来看,目前,国产AI应用尚未出现爆发式增长,倪贤豪表示,随着大模型推理成本的下降,包括开发工具的适配、框架的创新以及应用安全、决策的可解释性、鲁棒性等问题的解决,未来,推动Agent解决复杂问题的能力提升将变得更有可能也更关键。他认为,从用户视角切入,以需求反推技术或许能撬动AI应用的用户存量和增量市场,Super APP在2025年的诞生值得期待。m1V即热新闻——关注每天科技社会生活新变化gihot.com

  “当前,我们处在人工智能发展的新拐点,大模型的能力涌现加速通用人工智能时代的到来,原生统一多模态、具身智能、AI for Science,将进一步深化人工智能对世界的感知、理解与推理,连接数字世界与物理世界,驱动科学研究创新突破。”智源研究院院长王仲远表示。m1V即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-4-443-0.html视觉模型训练成本一年下降80%,中国AI厂商“掀起”全球算力降价潮

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:将于本月内生效!泰国颁布紧急法令打击电信网络诈骗

下一篇:失去始祖鸟代理权 三夫户外自救

为你推荐
  国内首个男性HPV疫苗上市,如何搅动百亿市场?国产疫苗有哪些布局?  男性也可以接种HPV疫苗了。  1月18日,默沙东在北京、上海、广州同时举行新闻发布会,宣布四价HPV(人乳...
01-21
  中国财政部督促注册会计师协会加强自律监督  中新社北京1月16日电 (记者 赵建华)中国财政部近日印发《关于进一步加强注册会计师协会自律监督工作的意见》(下称《意见...
01-21
1 月 26 日消息,GM Authority 披露了雪佛兰将在海外市场推出的全新车型“Spark”的实车图。该车定位小型电动跨界车,名为 Spark EUV,实质上是国内宝骏悦也 Plus 的海外...
01-27
2 月 2 日消息,上汽通用别克品牌宣布别克 GL8 陆尊 PHEV 八方来财版上市。该车以“八方来财”套件形式提供,GL8 陆尊 PHEV 全系款型均可免费选装(限量 888 辆)。作为比...
02-02
随着电视剧的热播,“难哄桑延和温以凡为什么分手”也逐渐引起了广大粉丝的关注。该剧播出后,凭借精彩的剧情、精良的制作和精心的演绎,受到了观众的一致好评,拿...
02-20
《余烬之上》谁在替凶手说谎?在《余烬之上》中,有多人为凶手说谎或提供误导性信息。马洛和荔枝:在努娜死亡案件中,马洛试图为廖思远辩解,称有案发当晚他不在场的...
02-21
据国家卫生健康委消息,1月22日,国家卫生健康委办公厅、国家中医药局综合司发布流行性感冒诊疗方案(2025年版)。国家卫生健康委表示,为进一步提...
01-23
21世纪经济报道记者 唐唯珂 广州报道随着全国生物药联盟集采的临近,生物类似药市场正面临一场重大变革。2025年1月14日,安徽省医保工作会议...
01-23
  大众网记者 张明明 报道  8月26日至30日,第七届全国高校青年教师教学竞赛决赛在上海交通大学举行。山东第一医科大学附属省立医院青年教师李毅荣获医科组二等奖,在31...
01-21
  大众网记者 王一刚 报道  在深化教育改革、全面提升教育质量的背景下,燕山小学教育集团积极响应国家号召,致力于探索并实施具有前瞻性和创新性的教育理念,以培养全面...
01-21
  眼下,国内农产品价格整体回暖引起了市场关注,其中,玉米表现较为“抢眼”,玉米期货主力合约价格...
01-23
  保险公司拿到了黄金市场的“入场券”。  2月7日,金融监管总局发布《关于开展保险资金投资...
02-13
金牛座的男生通常被认为是稳重、务实和可靠的人。他们对于过日子非常重视,因此选择伴侣...
01-22
水瓶座的男人通常具有独立、聪明、理性和创新的特点。他们对于自由和个人空间非常重视...
01-22
如何穿搭的小技巧?跟街拍达人学穿搭,做一个时尚的酷girls,你会发现更美的自己街拍是一种时尚文化,也是对潮流的诠释。每一位出现在摄影师镜头中的时尚专家都是时尚达人。他们的...
02-17
165男士成熟稳重穿搭攻略?一、165男士成熟稳重穿搭攻略?165男生穿衣搭配技巧:①:165男生在穿衣搭配方面要注意最好穿同色系的衣服、短款上衣,此外,不要穿的太花哨。总之,选择适合自...
02-17
1月26日消息,欧冶云商与宝武清能近日在上海签署技术合作协议,标志着双方正式开启在碳资产系统建设的深度合作。根据合作协议,双方将聚焦宝武碳资产服务平台的建设与升级,共同推...
02-07
2月20日消息,为帮助商家抓住微信电商增长机遇,微盟智慧零售与微商城解决方案已上线微盟小程序商城跳转微信小店能力,支持小程序“一键送礼”,实现流量高效转化。该功能旨在帮助...
02-21
3月4日消息,农历二月初二“龙抬头”,理发行业迎来生意开门红。美团数据显示,“龙抬头”当天,理发订单量较去年同期翻倍增长,理发订单预约量周同比增长270%,上午11时-12时、下午16...
03-05
3月8日消息,全国各地渐次入春,马蜂窝大数据显示,近一周,“赏花”热度环比上周大涨183%,苏州、杭州、重庆、广州、成都位居近日热度涨幅最快的赏花目的地前列。马蜂窝也推出“2025...
03-09
近年来,智能门锁已然成为智能家居领域的热门单品。然而,随着智能锁技术的快速迭代,老款产品逐渐难以满足人们日益增长的生活需求。众多用户虽有强烈的换新意愿,却在这一过程中遭...
01-21
近日,广州追光科技有限公司(简称“追光科技”)完成近亿元人民币A轮融资,本轮投资方为国家电投产业基金、毅达资本、穗开投资、广州开发区基金集团、北...
02-07
在美国,PS5主机的销量走势领先于PS4,而Xbox Series主机的销量则落后于Xbox One。 这一信息来自Circana(前身为NPD集团)的执行董事兼电子游戏行业分析师马特·皮斯...
01-27
快科技2月5日消息,据灯塔专业版实时数据,截至2月5日1时3分,影片《哪吒之魔童闹海》票房突破50亿。 《哪吒之魔童闹海》也正式杀入中国影史票房榜第五,而第四就是《...
02-05
来自2025年综合运输春运工作专班数据显示,2025年2月4日(春运第22日,农历正月初七),全社会跨区域人员流动量预计34611万人次。其中,铁路客运量1690万人次,公路人员流动量32556万人次...
02-04
新华社北京2月9日电 日前,中央层面整治形式主义为基层减负专项工作机制办公室会同中央纪委办公厅对3起整治形式主义为基层减负典型问题进行通报。具体如下:1.中国就业培训技术...
02-09
记者从中国载人航天工程办公室获悉,我国2025年计划发射神舟二十号、神舟二十一号两艘载人飞船和天舟九号货运飞船。1月20日,三次飞行任务的任务标识...
01-21
图源:pixabay1月17日晚间,思科瑞(688053.SH)发布公告称,公司收到四川证监局出具的《行政监管措施决定书》。据上述文件,思科瑞在2022年...
01-21
  中新网北京1月18日电(记者应妮)蛇年春节在即,记者18日从文化和旅游部非物质文化遗产司获悉,“...
01-21
  近日,多位网友发帖表示,数百位游客因天气原因滞留南极,无法乘飞机离开。记者联系上了几位滞留...
02-18
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮