AI算力价格调查:价格回归下的供需平衡术

4个月前 来源: 观看:13

  AI算力价格调查:价格回归下的供需平衡术0Em即热新闻——关注每天科技社会生活新变化gihot.com

  随着生成式AI浪潮翻涌,AI应用进一步落地,作为新型生产力的算力产业地位关键。0Em即热新闻——关注每天科技社会生活新变化gihot.com

  其中,擅长加速计算的GPU堪称AI时代的算力核心,又因其制造难度较高,一度因为供不应求而成为各大科技企业抢购的重点产品。0Em即热新闻——关注每天科技社会生活新变化gihot.com

  据Verified Market Research数据统计,2022年全球GPU市场规模达到448.3亿美元,预测2027年有望达到1853.1亿美元,年平均增速高达32.82%。0Em即热新闻——关注每天科技社会生活新变化gihot.com

  需求高企的同时,行业也在阶段性发生变化。从国内市场来看,今年以来,随着国内对算力供需关系平衡的预期,部分算力价格开始松动。一方面,有供应链的消息称,英伟达为了吸引客户,将H20单卡价格从12.5万下降至10万左右;另一方面,从AI服务器角度来看,当前也存在一定的价格回调。0Em即热新闻——关注每天科技社会生活新变化gihot.com

  目前AI算力真实的市场行情如何?这背后又折射出怎样的趋势?0Em即热新闻——关注每天科技社会生活新变化gihot.com

  芯片供需关系逐渐平衡0Em即热新闻——关注每天科技社会生活新变化gihot.com

  从需求来看,AI芯片本身在全球市场范围内都炙手可热。0Em即热新闻——关注每天科技社会生活新变化gihot.com

  IDC亚太区研究总监郭俊丽对21世纪经济报道记者表示,从全球市场来看,由于人工智能、深度学习及高性能计算的高速发展,全球GPU需求持续上升,比如对于英伟达推出的H100芯片的需求十分强劲。但尽管英伟达已在努力扩充产量,由于供应链方面的瓶颈,比如制造、封装产能有限,以及原材料短缺等因素,目前全球市场中GPU的供给量仍然无法完全满足市场需求。0Em即热新闻——关注每天科技社会生活新变化gihot.com

  回到中国市场来看,供不应求的问题也同样存在。郭俊丽指出,由于人工智能的快速发展,中国的数据中心仍然在建设,对GPU的需求也在增长。但是在供给方面,高性能的产品在依赖进口的同时又受到国外限制,进一步加剧了供应紧张的局面。0Em即热新闻——关注每天科技社会生活新变化gihot.com

  不过目前,这种供应紧张的状态正处于缓解的过程中。0Em即热新闻——关注每天科技社会生活新变化gihot.com

  TrendForce集邦咨询分析师龚明德告诉21世纪经济报道记者,目前来看,由于CoWoS(封装技术)和HBM(存储产品)的供应逐渐缓解,尤其是面向全球市场的H100芯片以及面向国内市场的H20芯片,供应周期显著缩短至12~16周以下,因此供应问题基本解决,预计第二季度后这些产品将会陆续增加出货量。0Em即热新闻——关注每天科技社会生活新变化gihot.com

  因受美国出口管制政策影响,英伟达针对中国市场推出新品H20芯片,但是多位业内人士向记者表示,由于其性能被大幅阉割,国内客户购买兴趣不足,选择转向国产AI芯片进行替代。0Em即热新闻——关注每天科技社会生活新变化gihot.com

  而英伟达为了吸引客户,选择了对H20芯片进行降价,有产业链人士告诉21世纪经济报道记者,英伟达的H20单卡价格从12.5万下降至10万左右。0Em即热新闻——关注每天科技社会生活新变化gihot.com

  但也有大模型厂商人士向记者指出,对于企业而言是否购买H20或者其他AI芯片,更重要的还是考量性价比,如果有一些性能需求相对低一点的应用契合,且采购成本合适,并不排斥购买。0Em即热新闻——关注每天科技社会生活新变化gihot.com

  而使用国产芯片还需要生态适配和迁移,同样需要时间来磨合。近期也有消息显示,英伟达H20芯片开始重新引起包括百度、阿里巴巴、腾讯和字节跳动等中国厂商的采购兴趣。0Em即热新闻——关注每天科技社会生活新变化gihot.com

  市调机构SemiAnalysis的最新预测数据报道也指出,英伟达今年将向中国市场运送超过100万颗新的NVIDIA H20芯片,预计每颗芯片成本在1.2万美元至1.3万美元之间,预计将为英伟达公司带来超过120亿美元的收入。0Em即热新闻——关注每天科技社会生活新变化gihot.com

  目前,国内的算力芯片在不断崛起,包括GPU、CPU、ASIC芯片等等。例如主营GPU的摩尔线程、天数智芯、燧原、壁仞;主营CPU的中科曙光、海光信息、飞腾;以及专攻AI芯片的各大厂,如华为、百度昆仑芯、寒武纪,以及阿里与腾讯等。有国内厂商向记者表示,目前价格方面没有明显的波动。0Em即热新闻——关注每天科技社会生活新变化gihot.com

  AI服务器价格回归0Em即热新闻——关注每天科技社会生活新变化gihot.com

  从AI服务器角度来看,当前确实存在一定的价格回调。有消息人士向21世纪经济报道记者指出,国内主力AI服务器价格波动约在10%上下。0Em即热新闻——关注每天科技社会生活新变化gihot.com

  多名业内人士对21世纪经济报道记者分析,AI服务器价格回调更多可以理解为是一种价格回归。0Em即热新闻——关注每天科技社会生活新变化gihot.com

  “个人认为,英伟达旗下GPU服务器因为外部政策限制影响,此前被过度炒作了。去年英伟达大算力的服务器价格已经完全失真,在中国大陆市场几乎脱离了常规商品的概念。”一名数据中心厂商人士对记者表示,如今随着供需关系有所改善,价格回归属于正常现象,相关产品价格也将逐步回到与海外类似的水位。0Em即热新闻——关注每天科技社会生活新变化gihot.com

  一名算力租赁行业从业者也对记者分析,算力价格的确有所下降,但更多是恢复到了正常状态。“ChatGPT刚推出时,很长一段时间算力服务器价格大涨,现在是逐渐恢复到了原有价格区间内。因此算力租赁价格有所下降,某种意义上属于正常现象。”0Em即热新闻——关注每天科技社会生活新变化gihot.com

  这一定原因在于应用场景不足。“目前虽然海内外头部厂商都在积极建设超大规模计算集群,但还没有特别多的应用场景,来支撑这些算力释放。这导致AI服务器价格无法形成足够支撑力。”前述人士表示。0Em即热新闻——关注每天科技社会生活新变化gihot.com

  从公开销售市场看,IDC中国分析师杜昀龙对记者分析道,考虑到A100在中国大陆市场禁售,价格无法统计。“我们统计发现,(公开市场)AI服务器均价下降主要是由于高端卡的限制导致。目前国内可以流通的芯片是H20,其单价低于H100。”0Em即热新闻——关注每天科技社会生活新变化gihot.com

  TrendForce集邦咨询分析师龚明德则表示,目前国内主力AI服务器主要搭载H20机种,价格因规模不同而有所浮动,估计波动约在10%上下,主要由于国内AI市场竞争日趋激烈。此外,上游供应紧缺问题逐渐缓解,使得英伟达Hopper系列供货较为顺畅,同时向新一代Blackwell平台推进,使价格有一定调整空间。0Em即热新闻——关注每天科技社会生活新变化gihot.com

  智算中心部署趋于谨慎0Em即热新闻——关注每天科技社会生活新变化gihot.com

  理论上说,在价格合理时会是数据中心部署的好时期。0Em即热新闻——关注每天科技社会生活新变化gihot.com

  “例如对于后发者来说,在当前服务器价格相对合理的时期,可以更好开展大模型训练。毕竟英伟达的软件生态有利于大模型厂商更快完成模型训练。”前述数据中心人士如此对记者分析。0Em即热新闻——关注每天科技社会生活新变化gihot.com

  但挑战在于行业环境。该人士指出,其所在的行业当前仍在复苏过程中,因此更考验决策层是否有足够的魄力,在现阶段进一步开展数据中心部署规划。“在大模型还没有形成核心换机动力的前提下,过早进行数据中心部署也会面临难以完成商业模式正向循环的担忧。”0Em即热新闻——关注每天科技社会生活新变化gihot.com

  也不可忽视政策因素的影响,主流在全球开展业务部署的公司,都会谨慎对待来自海外的限制销售政策,以免影响自身业务正常开展。0Em即热新闻——关注每天科技社会生活新变化gihot.com

  “我预判可能在今年底到明年初,会是数据中心部署的好时机。”他续称,届时随着包括苹果在内的头部科技厂商推出更多大模型用例,可能也将给市场带来新动力。现在会是观察行情波动的时机。“的确现在还没有到大模型应用爆发期,不过已经逐步有一些迹象了。”0Em即热新闻——关注每天科技社会生活新变化gihot.com

  一名大模型终端应用公司人士则对记者表示,即便英伟达服务器降价,对模型推理端的影响估计不大。“公司会按照原来的计划继续投入,对于没有做模型推理的部分业务,那么即便算力便宜一点也不会做的。”0Em即热新闻——关注每天科技社会生活新变化gihot.com

  但倘若从“被阉割版”英伟达H20角度看,杜昀龙认为,开展相应部署意味着价格降低但性能下降。0Em即热新闻——关注每天科技社会生活新变化gihot.com

  “目前对于AI算力还有需求,但如果需要达到原有规划的算力,可能会需要支出更高的成本来搭建。所以对于新部署的智算中心来说,费用会更高;或者算力类型会更多样化,不单纯依靠某一个品牌或者某一种卡。租赁业务也会需要提供多样性的算力给最终用户,让用户挑选适合自己并且性价比合适的算力租赁服务。”杜昀龙指出。0Em即热新闻——关注每天科技社会生活新变化gihot.com

  价格战加速大模型生态繁荣0Em即热新闻——关注每天科技社会生活新变化gihot.com

  作为算力产业链的重要一环,大模型厂商也在密切关注算力价格的变化。多位大模型厂商人士均向21世纪经济报道记者透露,今年以来,算力价格并没有太大浮动。0Em即热新闻——关注每天科技社会生活新变化gihot.com

  一位云厂商人士告诉记者,在同等参数下,模型推理成本没什么下降,它的核心还是与GPU的价格相关。但在同等效果下,随着模型效果提升,模型的参数量在逐步下降。0Em即热新闻——关注每天科技社会生活新变化gihot.com

  这意味着,相比过去的模型,现在可以用更少的参数训练出同样的效果,这相当于算力成本的下降。0Em即热新闻——关注每天科技社会生活新变化gihot.com

  某大模型创业公司的负责人也向记者表示,他们的模型训练成本今年在减少。原因是该公司专注于训练13B参数的大模型,没有去追求更大参数模型,因此在没有更多新增模型的情况下,模型训练需求及成本都相应减少。0Em即热新闻——关注每天科技社会生活新变化gihot.com

  在上游算力价格变化不大的情况下,各个大模型厂商的算力成本变化仍主要取决于模型参数量级。比如部分厂商今年将模型参数量级从千亿级提升至了万亿级,算力成本自然也随之提升。0Em即热新闻——关注每天科技社会生活新变化gihot.com

  然而,今年大模型领域突然掀起的一场价格战,直接大幅拉低了大模型的应用门槛。今年5月,多家云厂商相继宣布,下调旗下大模型价格,部分模型甚至免费。0Em即热新闻——关注每天科技社会生活新变化gihot.com

  金山办公助理总裁晁云告诉21世纪经济报道,大模型API接口降价对于AI发展肯定有很大推动作用。在token很贵的情况下,用户如果有一个40万字的文档要上传,他可能会拿出计算器算下要多少钱。0Em即热新闻——关注每天科技社会生活新变化gihot.com

  2022年下半年,晁云曾用电子表格做个计算,在用户很多常用的场景中,每使用一次大模型的价格都高得离谱。“这种情况下,用户使用大模型的意愿就很低,因为它要考虑这项能力值不值这么多钱。”晁云表示,但现在,如果大模型的成本趋近于零,那用户就可以毫无顾虑地去使用。0Em即热新闻——关注每天科技社会生活新变化gihot.com

  对于大模型的价格战,百川智能创始人兼CEO王小川向21世纪经济报道表示,云厂商这样卷价格,会加速整个大模型生态的繁荣。“去年大家都在拥抱大模型,每个企业都想自己训练一个,但市场其实不需要那么多模型提供方,现在随着模型开源以及闭源模型价格下降,会让更多企业清楚自己的定位。”0Em即热新闻——关注每天科技社会生活新变化gihot.com

  同时王小川认为,大模型目前推理成本的下降主要是受技术进步所推动。“大厂们应该也预期未来模型的成本会降低特别多,也许今天亏钱,但再过一年可能就不亏钱了。这种情况下,大厂考虑的不是短期亏损的问题,而是未来模型能不能降到足够的便宜。”0Em即热新闻——关注每天科技社会生活新变化gihot.com

  从过去数月的行业发展趋势来看,大模型应用生态正迅速崛起。不过一位资深行业人士也向记者表达了他的担忧,“大模型的价格战,短期来看可能是好事,但长期来说,对技术和商业模式都不见得是好事”。0Em即热新闻——关注每天科技社会生活新变化gihot.com

  该人士认为,技术的发展需要长期投入,如果打价格战打到大模型的产出价值都不够支付电费,那行业可能就走偏了。“从本质上来说,大模型是因为没有足够的差异化才导致价格战,所以大家最需要的是提高自己产品的区别度,而不是简单地打价格战,这是未来整个行业亟需突破的地方。”0Em即热新闻——关注每天科技社会生活新变化gihot.com

  骆轶琪,倪雨晴,白杨,实习生朱梓烨0Em即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-4-30277-0.htmlAI算力价格调查:价格回归下的供需平衡术

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:告别“沉闷”上半年 油价走出夏季行情

下一篇:世茂股份旗下估值160亿元项目两次流拍后,债权人申请抵债

为你推荐
“50年一遇!”渔民说,浙江象山港从来没有见过这么多海蜇。“赶紧多买点。”市民说,“以前价格都在5元/斤左右,现在只要1.5元/斤左右。”每天能捕数千斤已持续一个月9月8日上午8...
09-10
现在网络鱼龙混杂,请认准靠谱八年商家,金牌小帮手——小创(137-1300-8979可v可来电)(全年365天不掉线) 【羊小咩享花卡要怎样提现】【羊小咩享花卡怎么刷出来】【羊...
08-18
1 月 12 日消息,据网友反馈,特斯拉现已在国内推送 2023.44.30.8 车机更新。主要升级内容包括:OTA 召回对自动辅助转向功能进行改进。Autopilot 自动辅助驾驶不当使用暂...
01-13
  ■记者 柳青  1988年,北京人艺南下上海,演出五部大戏,《茶馆》压轴。时隔36年,北京人艺再度驻演上海,这一次,《茶馆》是头炮。  自从焦菊隐和夏淳导演、于是之主演的《...
10-28
《冥王星之恋》作为一部备受推崇的泰国电视剧,以其情节的波折和深刻的情感描绘吸引了大量观众。这部剧聚焦于一对命运大相径庭的双胞胎姐妹Ai-Oon和Aob-Oom...
10-14
美味的粥类食物是许多人都非常的喜欢吃的,当然,很多的粥类食物养生和保健功效都是非常不错的,尤其是到了春季以后,我们老年人更是应该多吃一些养生粥的,那么老年人在春季吃哪些养...
04-02
21世纪经济报道记者林昀肖 实习生马瑜欣 北京报道@关于医药上市公司预警:*ST目药公司及相关人员收到浙江证监局警示函;景峰医药收到法院对预...
02-08
凌水湖畔,春风拂面,书香四溢。在这个春意盎然的季节里,大连理工大学未来技术学院举办了一场别开生面的湖畔...
04-23
  摘要  【仔猪价格“腰斩”养殖补栏现分歧业内预期明年养猪仍盈利】仔猪行情最近几个月开...
09-25
扬州风控花呗白条套取秒到账:【181 181 43671微信同号】微信分付、抖音月付、支付宝信用购取消实体商家当面刷,本地一手超低费用没有中间商赚差价,所有信息已实名安全的很。十...
08-14
深圳风控花呗白条套取秒到账:【181 181 43671微信同号】微信分付、抖音月付、支付宝信用购取消实体商家当面刷,本地一手超低费用没有中间商赚差价,所有信息已实名安全的很。十...
08-22
南京风控花呗白条套取秒到账:【181 181 43671微信同号】微信分付、抖音月付、支付宝信用购取消实体商家当面刷,本地一手超低费用没有中间商赚差价,所有信息已实名安全的很。十...
08-21
21世纪经济报道记者王峰北京报道 暑期来临,火爆的暑期研学如约而至。头顶着烈日,李威(化名)领着读小学的女儿站在北京大学西门外的长队之中。...
07-12
南方财经全媒体记者高慧超 实习生周国锐 佛山报道6月28日,在佛山新质生产力投资并购大会上,佛山先进制造业金融集聚区公布一周年建设成绩单...
06-29
大连普兰店区本地当面套花呗京东白条VISA信用卡分付一手商家秒到账:【150 0062 3958 微信同号】一手当面靠谱!白条怎么套出来,大家在急用钱的时候肯定会想到京东白条或者京东金...
08-03
天津北辰区本地当面套花呗京东白条VISA信用卡分付一手商家秒到账:【150 0062 3958 微信同号】一手当面靠谱!白条怎么套出来,大家在急用钱的时候肯定会想到京东白条或者京东金条...
08-03
大连风控花呗白条套取秒到账:【181 181 43671微信同号】微信分付、抖音月付、支付宝信用购取消实体商家当面刷,本地一手超低费用没有中间商赚差价,所有信息已实名安全的很。十...
08-07
具体操作步骤如下: 1. 登录花呗APP,进入“提现”功能; 2. 选择提现银行卡,输入提现金额; 3. 确认提现信息,点击“提现”,完成操作,核对信息:确保提交的所有信息准确无误,如京东账户信...
08-06
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮