视觉模型训练成本一年下降80%,中国AI厂商“掀起”全球算力降价潮

1年前 来源: 观看:153

  视觉模型训练成本一年下降80%,中国AI厂商“掀起”全球算力降价潮IMb即热新闻——关注每天科技社会生活新变化gihot.com

  2024年过去,AI又走过了狂奔的一年,大模型加速落地的热切、应用场景创新的火热和高投入、商业化缓慢带来的“下牌桌”焦虑同时处在这个行业。IMb即热新闻——关注每天科技社会生活新变化gihot.com

  回过头看来,过往行业共识的一些问题在2024年中被打上了问号,例如智能算力还是否短缺、中国AI企业的“算力焦虑”是必要的吗?Scaling Law(规模法则)还值得信仰吗?IMb即热新闻——关注每天科技社会生活新变化gihot.com

  辞旧迎新之际,中国AI行业的“拐点”时刻更受关注。不再统一的答案背后,值得关注的是,对中国AI企业来说,一些好的变化正在发生,也有更多挑战等待2025年去回答。IMb即热新闻——关注每天科技社会生活新变化gihot.com

  训练成本下降IMb即热新闻——关注每天科技社会生活新变化gihot.com

  2024年12月27日,海外社交媒体平台X被来自中国的大模型DeepSeek-V3刷屏,这一模型能力对标头部模型,但训练的预算却非常低,“2048个GPU、2个月、近600万美元”,相比之下,GPT-4o等模型的训练成本约为1亿美元,至少在万个GPU量级的计算集群上训练。IMb即热新闻——关注每天科技社会生活新变化gihot.com

  这是一项展现了极致性价比的训练成本数据。在已开源的论文中,幻方量化旗下AI公司深度求索(DeepSeek)强调了DeepSeek-V3训练成本较低――通过对算法、框架和硬件的优化协同设计,在预训练阶段,模型每训练1万亿token仅需要18万个GPU小时,即在团队配备2048个H800 GPU的集群上只需3.7天,也就是说,团队的预训练在不到2个月的时间完成。加上后训练,DeepSeek-V3完整训练消耗了278.8万个GPU小时。假设H800 GPU的租用价格为每块GPU 2美元/小时,DeepSeek-V3的全部正式训练成本总计仅为557.6万美元。IMb即热新闻——关注每天科技社会生活新变化gihot.com

  DeepSeek的成功并非个例,值得关注的是,在英伟达显卡等高端算力资源受限的情况下,2024年,许多中国AI企业正在找到降低训练成本的方法。IMb即热新闻——关注每天科技社会生活新变化gihot.com

  极佳科技联合创始人兼首席科学家朱政向第一财经记者透露,过去一年,极佳科技训练大模型的成本也在大规模下降。朱政介绍,之前极佳科技训练一个视觉模型大概需要500万美金,基本上是一个语言模型的1/10,但现在他们已经把这个成本降到了100万美金以下。IMb即热新闻——关注每天科技社会生活新变化gihot.com

  从训练成本的降低来看,朱政表示“方法有很多”,一方面,大模型公司正在关注与云厂商加强合作,通过做一些训练加速、通讯优化、设置优化等降低成本。同时,行业对数据优化也更为重视,之前行业用Scaling Law只是在对数据,但对完数据后并没有做非常多相应的优化,事实上数据优化带来的训练效率提升空间也很大。IMb即热新闻——关注每天科技社会生活新变化gihot.com

  中国AI企业的“抢卡”焦虑也因此有所缓解,朱政表示,例如英伟达最新发布的显卡还是要买,得买最新的架构的显卡,但随着训练效率的提升,需要的规模会下降。他同时表示,来到100万美金以下,未来进一步下探大模型的训练成本将是一件更困难的事情,可能不是一家企业能搞定的事情,可能需要训练框架的支持、编程语言的支持包括显卡算式的支持。IMb即热新闻——关注每天科技社会生活新变化gihot.com

  从全行业的角度来看,蚂蚁集团科技战略与执行部副总经理彭晋对第一财经记者表示,在采购先进算力有些困难的情况下,国内也在推进国产算力的替代,各大公司都在不断采购一些国产算力,从蚂蚁的实践来看,国产算力已经可以支撑很大规模,比如在千亿参数甚至以上规模的模型训练中国产算力是没有问题的。至于到下一步,例如说要建十万卡规模的集群,国产算力能否支撑有待进一步检验。IMb即热新闻——关注每天科技社会生活新变化gihot.com

  “远虑”仍存,但走过2024年,中国企业的“算力焦虑”正在回归理性。IMb即热新闻——关注每天科技社会生活新变化gihot.com

  未来趋势IMb即热新闻——关注每天科技社会生活新变化gihot.com

  2025年,中国AI行业会有哪些变化?IMb即热新闻——关注每天科技社会生活新变化gihot.com

  北京智源人工智能研究院在《2025十大AI技术趋势》报告中指出,从基础设施到产品应用,Scaling Law、基础模型、具身智能、超级应用、AI安全等AI发展的关键方向都可能在2025年迎来新的变化。IMb即热新闻——关注每天科技社会生活新变化gihot.com

IMb即热新闻——关注每天科技社会生活新变化gihot.com

  报告认为,AI4S驱动科学研究范式变革;具身智能领域具身大小脑和本体的协同进化;统一的多模态大模型实现更高效AI;Scaling Law扩展向RL + LLMs,模型泛化从预训练向后训练、推理迁移;世界模型加速发布,有望成为多模态大模型的下一阶段;合成数据成为大模型迭代与应用落地的重要催化剂;推理优化迭代加速,成为AI Native应用落地的必要条件;Agentic AI成为产品落地的重要模式;AI应用将迎来Super APP以及AI安全治理体系的持续完善将成为2025年AI技术发展的十大趋势。IMb即热新闻——关注每天科技社会生活新变化gihot.com

  不少中国自研的技术和产品让业内看到了这些趋势的到来。2024年9月,蚂蚁发布了支小宝、蚂小财等系列AI管家产品,探索更多服务类智能体形态,2024年10月,智源研究院发布了完全自研的基于自回归技术的原生多模态世界模型Emu3,实现了视频、图像、文本三种模态的统一理解和生成,2024年年底,豆包月活跃用户数达到了7116万,成为国内第一、全球第二的AI原生应用。IMb即热新闻——关注每天科技社会生活新变化gihot.com

  智能研究院行业研究组负责人倪贤豪提到,走过2024年全年来看,与2023年相比,国内AI整体的应用热度已明显升温,相比2023年第一季度,他所在的团队调研到,2024年第四季度,整个基础模型的垂直产业链以及其他赛道AI应用的成熟度已有了明显提升,例如AI在3D内容、AI硬件等场景的应用以及医疗文献处理等未来场景的探索中,都有了明显拓展。IMb即热新闻——关注每天科技社会生活新变化gihot.com

  从国内大模型公开中标项目的类型分布来看,2024年10月,大模型应用类项目数量首次超过了算力类项目,应用类大模型招标项目占比已达到56%,国产大模型在垂直行业实现了加速落地,或是在诸多中大型企业扮演中台性质的基础设施。IMb即热新闻——关注每天科技社会生活新变化gihot.com

  AI应用领域的Super APP能否在2025年出现同样受到业内关注。从C端的用户规模、交互频次、停留时长等维度来看,目前,国产AI应用尚未出现爆发式增长,倪贤豪表示,随着大模型推理成本的下降,包括开发工具的适配、框架的创新以及应用安全、决策的可解释性、鲁棒性等问题的解决,未来,推动Agent解决复杂问题的能力提升将变得更有可能也更关键。他认为,从用户视角切入,以需求反推技术或许能撬动AI应用的用户存量和增量市场,Super APP在2025年的诞生值得期待。IMb即热新闻——关注每天科技社会生活新变化gihot.com

  “当前,我们处在人工智能发展的新拐点,大模型的能力涌现加速通用人工智能时代的到来,原生统一多模态、具身智能、AI for Science,将进一步深化人工智能对世界的感知、理解与推理,连接数字世界与物理世界,驱动科学研究创新突破。”智源研究院院长王仲远表示。IMb即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-4-443-0.html视觉模型训练成本一年下降80%,中国AI厂商“掀起”全球算力降价潮

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:将于本月内生效!泰国颁布紧急法令打击电信网络诈骗

下一篇:失去始祖鸟代理权 三夫户外自救

为你推荐
SQL Error: select * from ***_ecms_news3 where id in(216,) limit 2
  日前,中国汽车流通协会发布的《2024年12月中国汽车保值率报告》(以下简称《报告》)显示,2024...
01-24
1 月 24 日消息,奥迪(Audi)昨日(1 月 23 日)在 Facebook 上发布动态,展示了一款基于 Q6 Sportback e-tron 打造的越野概念车。这款概念车外观炫酷,配备了门式车桥和巨大的...
01-25
  1、《难哄》桑延和《偷偷藏不住》的桑延本质上是同一个人,但是剧里面是由不同的演员饰演的。  2、桑延在《偷偷藏不住》剧中由马伯骞饰演,在《难哄》里是白敬亭饰演的...
02-17
  《难哄》温以凡明明是喜欢桑延的,却在高考后背弃了跟桑延的约定,还用言不由衷的借口拒绝了桑延。《难哄》温以凡到底经历了什么?她为什么要拒绝桑延?   温以凡本来跟桑延...
02-18
21世纪经济报道记者 唐唯珂 广州报道随着全国生物药联盟集采的临近,生物类似药市场正面临一场重大变革。2025年1月14日,安徽省医保工作会议...
01-23
  ――医保、药监部门就集采药品问题答记者问  本报记者 孙秀艳  今年1月,有专家认为某些集采药品可能存在“血压不降、麻药不睡、泻药不泻”质量风险,有关部门迅...
02-11
  大众网记者 秦瑾 通讯员 朱睿斌 报道  近日,济南市教育局公布了2024年度市校融合发展战略工程支持项目名单,齐鲁师范学院科学教育和基础学科创新后备人才培养市校共...
01-21
2025年是贯彻全国教育大会精神、落实教育强国建设规划纲要的关键之年,也是“十四五”收官和“十五五”谋...
01-21
  摘要  临近春节,聚酯产业链进入交货“扫尾期”,也出现了一些新情况。  炒股第一步,先开个...
01-21
  摘要  【“盘中异动赶紧锁仓”!锰硅全线大涨原因找到了?】银河期货大宗商品研究所黑色板块...
02-07
在恋爱中,有时候我们会发现水瓶男并不像其他星座的男生那样主动联系。这让很多女生感到...
01-22
天蝎座男生是十二星座中最神秘、深沉的一种类型,他们对感情非常认真,一旦喜欢上一个人,会...
01-22
探秘莆田珠宝产业园:璀璨背后的故事与机遇在中国东南沿海的莆田,有一个闪耀着珠宝光泽的地方,那就是莆田珠宝产业园。走进这个行业前景光明的园区,不仅能感受到璀璨的珠宝魅力,还...
02-07
ysl有中国官网吗? ysl官网买的哪里发货?ysl有中国官网吗?没有的吧,只有www.YSL.COMysl官网买的哪里发货?通常情况下YSL Beauty圣罗兰美国官网下单之后3-5天就会发货,但是大家要注...
02-17
2月14日消息,中农网近日正式发布面向实际工作场景的智能助手AI小易(内测版),并完成满血版DeepSeek-R1与智能助手AI小易的接入。经过多次训练,AI小易已经具备了多文体写作支持、数...
02-14
2月18日消息,京东宣布与学而思签订战略合作协议,明确了未来三年内,学而思在京东全渠道销售50亿元、覆盖超100万用户的目标。根据协议,双方将聚焦“人、货、场”的全面协同,通过产...
02-18
2月10日消息,四川省发展改革委(省数据局)公布2024年度四川省数字化转型促进中心名单,共有18家申报单位获得批复认定,四川合纵药易购医药股份有限公司入选名单。这是四川省新修订...
02-11
2月19日消息,京东宣布,自2025年3月1日起,京东将逐步为京东外卖全职骑手缴纳五险一金,为兼职骑手提供意外险和健康医疗险。继给快递小哥缴纳五险一金后,京东再次成为首个为外卖骑...
02-20
自去年底开始,黄金多头优势逐渐退却,国际现货黄金价格经历几次大跌后一度跌下2700关口,多空进入漫长的震荡周期,多头始终无法找到再度冲高的时机。  北京时间1月21日,国际现货...
01-24
【#中石油7.3亿在吉林成立新能源公司# 含新能源汽车相关业务】天眼查App显示,近日,中石油吉油(乾安)新能源有限公司成立,法定代表人为彭军,注册资本约7.3亿人民币,经营范围含发电业...
02-09
四川资中一小孩因燃放鞭炮引起的沼气燃爆,致使8辆汽车受损一事,引起网友热议。 因为受损车辆包括林肯、雷克萨斯、奥迪、保时捷等豪华品牌,事件发生后,网上出现多...
02-03
1月29日,暴雪宣布下个月将举办一场《守望先锋2》聚焦活动,旨在这款英雄射击游戏被《漫威对决》压制了约两个月后,公布其 “突破性的改动”。该公告还确认,作为活动...
02-03
据央视新闻报道,当地时间2月1日,美国联邦选举委员会年底的备案文件显示,埃隆·马斯克在2024年美国大选中的花费超过了2.9亿美元。马斯克 资料图(来源:环球网)文件表明,马斯克在年末...
02-02
2月8日,抖音发布《抖音关于打击无底线博流量行为的公告》,对“张兰·俏生活”、“张兰之箖玥甄选”、“汪小菲”等账号予以无限期封禁。公告称,近期,徐熙媛(大S)女士逝世引发广泛...
02-08
一项发表在《科学》杂志上的新研究,为脊髓损伤患者恢复复杂触觉感知带来了前所未有的希望。瑞典查尔姆斯理工大学研究团队首次推出一种可安装在椅子...
01-21
1月20日,我国首款起飞重量5.25吨、最大载重1.9吨的大型无人机鸿雁(HY100)在新疆石河子市天域航通石河子生产基地成功实现量产下线,其中3架顺利向客户完...
01-21
  近日,省商务厅发布《辽宁省手机、平板、智能手表(手环)购新补贴实施细则》(以下简称《实施细则》),明确补...
01-22
  中新社北京2月12日电(记者应妮)即将在全球多个国家和地区正式上映的动画电影《哪吒之魔童闹...
02-14
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮