视觉模型训练成本一年下降80%,中国AI厂商“掀起”全球算力降价潮

1年前 来源: 观看:163

  视觉模型训练成本一年下降80%,中国AI厂商“掀起”全球算力降价潮lGu即热新闻——关注每天科技社会生活新变化gihot.com

  2024年过去,AI又走过了狂奔的一年,大模型加速落地的热切、应用场景创新的火热和高投入、商业化缓慢带来的“下牌桌”焦虑同时处在这个行业。lGu即热新闻——关注每天科技社会生活新变化gihot.com

  回过头看来,过往行业共识的一些问题在2024年中被打上了问号,例如智能算力还是否短缺、中国AI企业的“算力焦虑”是必要的吗?Scaling Law(规模法则)还值得信仰吗?lGu即热新闻——关注每天科技社会生活新变化gihot.com

  辞旧迎新之际,中国AI行业的“拐点”时刻更受关注。不再统一的答案背后,值得关注的是,对中国AI企业来说,一些好的变化正在发生,也有更多挑战等待2025年去回答。lGu即热新闻——关注每天科技社会生活新变化gihot.com

  训练成本下降lGu即热新闻——关注每天科技社会生活新变化gihot.com

  2024年12月27日,海外社交媒体平台X被来自中国的大模型DeepSeek-V3刷屏,这一模型能力对标头部模型,但训练的预算却非常低,“2048个GPU、2个月、近600万美元”,相比之下,GPT-4o等模型的训练成本约为1亿美元,至少在万个GPU量级的计算集群上训练。lGu即热新闻——关注每天科技社会生活新变化gihot.com

  这是一项展现了极致性价比的训练成本数据。在已开源的论文中,幻方量化旗下AI公司深度求索(DeepSeek)强调了DeepSeek-V3训练成本较低――通过对算法、框架和硬件的优化协同设计,在预训练阶段,模型每训练1万亿token仅需要18万个GPU小时,即在团队配备2048个H800 GPU的集群上只需3.7天,也就是说,团队的预训练在不到2个月的时间完成。加上后训练,DeepSeek-V3完整训练消耗了278.8万个GPU小时。假设H800 GPU的租用价格为每块GPU 2美元/小时,DeepSeek-V3的全部正式训练成本总计仅为557.6万美元。lGu即热新闻——关注每天科技社会生活新变化gihot.com

  DeepSeek的成功并非个例,值得关注的是,在英伟达显卡等高端算力资源受限的情况下,2024年,许多中国AI企业正在找到降低训练成本的方法。lGu即热新闻——关注每天科技社会生活新变化gihot.com

  极佳科技联合创始人兼首席科学家朱政向第一财经记者透露,过去一年,极佳科技训练大模型的成本也在大规模下降。朱政介绍,之前极佳科技训练一个视觉模型大概需要500万美金,基本上是一个语言模型的1/10,但现在他们已经把这个成本降到了100万美金以下。lGu即热新闻——关注每天科技社会生活新变化gihot.com

  从训练成本的降低来看,朱政表示“方法有很多”,一方面,大模型公司正在关注与云厂商加强合作,通过做一些训练加速、通讯优化、设置优化等降低成本。同时,行业对数据优化也更为重视,之前行业用Scaling Law只是在对数据,但对完数据后并没有做非常多相应的优化,事实上数据优化带来的训练效率提升空间也很大。lGu即热新闻——关注每天科技社会生活新变化gihot.com

  中国AI企业的“抢卡”焦虑也因此有所缓解,朱政表示,例如英伟达最新发布的显卡还是要买,得买最新的架构的显卡,但随着训练效率的提升,需要的规模会下降。他同时表示,来到100万美金以下,未来进一步下探大模型的训练成本将是一件更困难的事情,可能不是一家企业能搞定的事情,可能需要训练框架的支持、编程语言的支持包括显卡算式的支持。lGu即热新闻——关注每天科技社会生活新变化gihot.com

  从全行业的角度来看,蚂蚁集团科技战略与执行部副总经理彭晋对第一财经记者表示,在采购先进算力有些困难的情况下,国内也在推进国产算力的替代,各大公司都在不断采购一些国产算力,从蚂蚁的实践来看,国产算力已经可以支撑很大规模,比如在千亿参数甚至以上规模的模型训练中国产算力是没有问题的。至于到下一步,例如说要建十万卡规模的集群,国产算力能否支撑有待进一步检验。lGu即热新闻——关注每天科技社会生活新变化gihot.com

  “远虑”仍存,但走过2024年,中国企业的“算力焦虑”正在回归理性。lGu即热新闻——关注每天科技社会生活新变化gihot.com

  未来趋势lGu即热新闻——关注每天科技社会生活新变化gihot.com

  2025年,中国AI行业会有哪些变化?lGu即热新闻——关注每天科技社会生活新变化gihot.com

  北京智源人工智能研究院在《2025十大AI技术趋势》报告中指出,从基础设施到产品应用,Scaling Law、基础模型、具身智能、超级应用、AI安全等AI发展的关键方向都可能在2025年迎来新的变化。lGu即热新闻——关注每天科技社会生活新变化gihot.com

lGu即热新闻——关注每天科技社会生活新变化gihot.com

  报告认为,AI4S驱动科学研究范式变革;具身智能领域具身大小脑和本体的协同进化;统一的多模态大模型实现更高效AI;Scaling Law扩展向RL + LLMs,模型泛化从预训练向后训练、推理迁移;世界模型加速发布,有望成为多模态大模型的下一阶段;合成数据成为大模型迭代与应用落地的重要催化剂;推理优化迭代加速,成为AI Native应用落地的必要条件;Agentic AI成为产品落地的重要模式;AI应用将迎来Super APP以及AI安全治理体系的持续完善将成为2025年AI技术发展的十大趋势。lGu即热新闻——关注每天科技社会生活新变化gihot.com

  不少中国自研的技术和产品让业内看到了这些趋势的到来。2024年9月,蚂蚁发布了支小宝、蚂小财等系列AI管家产品,探索更多服务类智能体形态,2024年10月,智源研究院发布了完全自研的基于自回归技术的原生多模态世界模型Emu3,实现了视频、图像、文本三种模态的统一理解和生成,2024年年底,豆包月活跃用户数达到了7116万,成为国内第一、全球第二的AI原生应用。lGu即热新闻——关注每天科技社会生活新变化gihot.com

  智能研究院行业研究组负责人倪贤豪提到,走过2024年全年来看,与2023年相比,国内AI整体的应用热度已明显升温,相比2023年第一季度,他所在的团队调研到,2024年第四季度,整个基础模型的垂直产业链以及其他赛道AI应用的成熟度已有了明显提升,例如AI在3D内容、AI硬件等场景的应用以及医疗文献处理等未来场景的探索中,都有了明显拓展。lGu即热新闻——关注每天科技社会生活新变化gihot.com

  从国内大模型公开中标项目的类型分布来看,2024年10月,大模型应用类项目数量首次超过了算力类项目,应用类大模型招标项目占比已达到56%,国产大模型在垂直行业实现了加速落地,或是在诸多中大型企业扮演中台性质的基础设施。lGu即热新闻——关注每天科技社会生活新变化gihot.com

  AI应用领域的Super APP能否在2025年出现同样受到业内关注。从C端的用户规模、交互频次、停留时长等维度来看,目前,国产AI应用尚未出现爆发式增长,倪贤豪表示,随着大模型推理成本的下降,包括开发工具的适配、框架的创新以及应用安全、决策的可解释性、鲁棒性等问题的解决,未来,推动Agent解决复杂问题的能力提升将变得更有可能也更关键。他认为,从用户视角切入,以需求反推技术或许能撬动AI应用的用户存量和增量市场,Super APP在2025年的诞生值得期待。lGu即热新闻——关注每天科技社会生活新变化gihot.com

  “当前,我们处在人工智能发展的新拐点,大模型的能力涌现加速通用人工智能时代的到来,原生统一多模态、具身智能、AI for Science,将进一步深化人工智能对世界的感知、理解与推理,连接数字世界与物理世界,驱动科学研究创新突破。”智源研究院院长王仲远表示。lGu即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-4-443-0.html视觉模型训练成本一年下降80%,中国AI厂商“掀起”全球算力降价潮

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:将于本月内生效!泰国颁布紧急法令打击电信网络诈骗

下一篇:失去始祖鸟代理权 三夫户外自救

为你推荐
  开年以来,多地将稳楼市作为重要工作。  1月14日,郑州市房协发出倡议书,倡议全市房企在“春节...
01-21
  中新经纬1月18日电 格力回应“董明珠被停职审查”传闻,称是恶意中伤。  18日,珠海格力电器股份有限公司文化传媒中心微博“格力文传”发布声明称,注意到微博用户“许韬de...
01-21
1 月 27 日消息,鸿蒙智行官方今日公布了旗下车型新年 OTA 升级详情,新版本将支持eAES 增强型自动紧急转向、新年主题 ADS App 等功能。附鸿蒙智行新年 OTA 升级详情如...
01-28
“若前方无路,我便踏出一条路;若天理不容,我便扭转这乾坤。”电影《哪吒2》开年“王炸”,让人看到了哪吒打破命运,勇敢做自己,最终活出自我的过程。新年刚过,国内车市异常“开卷”,...
02-07
  1、电视剧《滤镜》在腾讯视频播出,这是腾讯视频跟星莲影视出品的科幻爱情喜剧。  2、2月24日开始在腾讯全网独播,檀健次跟李兰迪领衔主演,讲述了由一个可以让人变幻容貌...
02-17
近期,台湾娱乐圈风波不断,先是大S的突然离世震惊各界,随后又传出陈妍希与陈晓婚变的消息,令人唏嘘不已。然而,事件并未平息,19日晚再传新动态,汪小菲即将抵台,预计将与S妈展开正面交...
02-23
21世纪经济报道记者 林昀肖 北京报道 春节假期过后,72家A股中药上市企业中已有30家企业发布2024年年报业绩预告。据Wind数据,这30家中药上...
02-07
21世纪经济报道记者 闫硕 北京报道HPV是一种易感染人体表皮和黏膜鳞状上皮的病毒,已被发现有两百多种型别,根据致癌性的不同分为高危型别和...
02-18
作者:王欢(西安交通大学党委副书记)国无防不立,民无防不安。国防教育是建设和巩固国防的基础,是增强民族凝聚...
01-22
他深耕法史,著书立说,让中国在世界法制史发展的进程中有了自己的声音。他严谨治学,开风气之先,为发展中国法...
01-23
  两年三度冲刺港交所上市,宜宾银行(02596.HK)终于圆梦,但并未引起资本市场过多兴趣。  第一财...
01-22
  “春节后,豆粕一天一个价,今天就涨了300元(每吨)。”提及近期豆粕价格情况,广东一家中型饲料企业...
02-13
射手座的男生通常是开朗、乐观、热情的,他们喜欢自由和冒险,对于感情也是如此。如果你想...
01-22
水瓶座的男生通常被认为是聪明、独立和有点神秘的人。他们喜欢自由和独处的时间,所以在...
01-22
170偏瘦男生穿搭? 170斤的男生穿搭?一、170偏瘦男生穿搭?建议以合身的休闲套装为主。大家都知道,男生身高170厘米,是属于中等身材,标准体重在120斤左右。如果这个男生偏瘦,则建议日...
02-17
牛皮掉皮了会怎样? 牛皮会掉皮吗?牛皮掉皮了会怎样?会掉一手皮。准备鸡蛋清和包包颜色相同的鞋油,将二者混合在一起,均匀涂抹在掉皮的部位,放在度通风处晾干,再用软毛巾擦干净,擦均...
02-17
1月25日消息,香港位元堂药业有限公司CEO陈杰文(Raymond Chan)近日率队访问怡亚通总部,双方围绕未来业务合作展开深入交流。最终,双方正式达成战略合作关系,致力于共同打造香港中成...
02-07
2月12日消息,山西会务富农供应链管理有限公司(以下简称:山西会务富农)董事长俞爱民近日到访冷链多多,涂多多高级副总裁、物流部总监安珅,冷链多多CEO梁豪对来访人员予以接待。双方...
02-13
2月4日消息,途家民宿数据显示,截至2月4日,春节期间持非中国护照游客的民宿预订量同比增长3.7倍,有51个乡镇第一次迎来了外国人的订单。从平台民宿预订情况看,大理连续三年蝉联第...
02-07
3月3日消息,京东互联网医院皮肤医院近日上线罕见病专区,包括用药绿色通道、疾病知识科普等服务。京东互联网医院皮肤医院利用AI技术实现精准分诊,用户在京东APP搜索“皮肤医院...
03-04
【#小鹏汽车在新疆成立销售服务公司# 注册资本1000万】天眼查App显示,近日,乌鲁木齐小鹏汽车销售服务有限公司成立,法定代表人为赵大武,注册资本1000万人民币,经营范围含新能源汽...
01-21
12月13日消息,深圳市光因科技有限公司(简称”光因科技”)近日完成数亿元A轮融资,本轮融资由徐州高新区产业投资母基金、梅花创投、科珹资本、神骐资本...
02-07
RTX 50系列显卡极度缺货,但第一批抢到的也不完全是幸运儿,网上已经有多起RTX 5090D/5090变砖的反馈,普遍和最新驱动有关,但目前尚无权威说法和官方回应,还得等后续...
02-06
随着AI的快速发展,部分科学家开始借助AI设计芯片,然而AI设计的部分芯片过于复杂,甚至超出人类的理解范畴。 普林斯顿大学Sengupta实验室的科学家团队主导了这项...
02-10
南部战区海军航空兵某团组织多架固定翼反潜巡逻机开展跨昼夜飞行训练,锤炼部队全时、全域航空反潜作战能力。(央广网·军事频道作者:秦钱江)...
02-06
极目新闻记者 陈倩摄影记者 刘中灿“我们军工人真不容易。他们(指黄旭华和同事们)是搞水下的,比我们更艰难。”2月9日,在吊唁黄旭华的现场,中船集团701所的退休职工许志同深有感...
02-09
  IT之家1月12日消息,近年来,英伟达(Nvidia)凭借其在人工智能和图形处理领域的领先地位,迅速崛起为...
01-21
英国曼彻斯特大学和法国斯特拉斯堡大学组成研究团队共同创造了一种新的人工微型电机。它的设计灵感来源于人体内的蛋白质,通过模仿“驱动生命”的自...
01-24
  2月5日记者从辽宁省交通运输厅了解到,截至2月4日24时,2025年春节假期全省公路、铁路、民航、水路营运...
02-06
  记者从辽宁省气象台了解到,从2月5日到2月14日,辽宁省西部地区降水量将较常年偏少5成以上,其他地区降水...
02-07
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮