AI算力价格调查:价格回归下的供需平衡术

3个月前 来源: 观看:12

  AI算力价格调查:价格回归下的供需平衡术qWU即热新闻——关注每天科技社会生活新变化gihot.com

  随着生成式AI浪潮翻涌,AI应用进一步落地,作为新型生产力的算力产业地位关键。qWU即热新闻——关注每天科技社会生活新变化gihot.com

  其中,擅长加速计算的GPU堪称AI时代的算力核心,又因其制造难度较高,一度因为供不应求而成为各大科技企业抢购的重点产品。qWU即热新闻——关注每天科技社会生活新变化gihot.com

  据Verified Market Research数据统计,2022年全球GPU市场规模达到448.3亿美元,预测2027年有望达到1853.1亿美元,年平均增速高达32.82%。qWU即热新闻——关注每天科技社会生活新变化gihot.com

  需求高企的同时,行业也在阶段性发生变化。从国内市场来看,今年以来,随着国内对算力供需关系平衡的预期,部分算力价格开始松动。一方面,有供应链的消息称,英伟达为了吸引客户,将H20单卡价格从12.5万下降至10万左右;另一方面,从AI服务器角度来看,当前也存在一定的价格回调。qWU即热新闻——关注每天科技社会生活新变化gihot.com

  目前AI算力真实的市场行情如何?这背后又折射出怎样的趋势?qWU即热新闻——关注每天科技社会生活新变化gihot.com

  芯片供需关系逐渐平衡qWU即热新闻——关注每天科技社会生活新变化gihot.com

  从需求来看,AI芯片本身在全球市场范围内都炙手可热。qWU即热新闻——关注每天科技社会生活新变化gihot.com

  IDC亚太区研究总监郭俊丽对21世纪经济报道记者表示,从全球市场来看,由于人工智能、深度学习及高性能计算的高速发展,全球GPU需求持续上升,比如对于英伟达推出的H100芯片的需求十分强劲。但尽管英伟达已在努力扩充产量,由于供应链方面的瓶颈,比如制造、封装产能有限,以及原材料短缺等因素,目前全球市场中GPU的供给量仍然无法完全满足市场需求。qWU即热新闻——关注每天科技社会生活新变化gihot.com

  回到中国市场来看,供不应求的问题也同样存在。郭俊丽指出,由于人工智能的快速发展,中国的数据中心仍然在建设,对GPU的需求也在增长。但是在供给方面,高性能的产品在依赖进口的同时又受到国外限制,进一步加剧了供应紧张的局面。qWU即热新闻——关注每天科技社会生活新变化gihot.com

  不过目前,这种供应紧张的状态正处于缓解的过程中。qWU即热新闻——关注每天科技社会生活新变化gihot.com

  TrendForce集邦咨询分析师龚明德告诉21世纪经济报道记者,目前来看,由于CoWoS(封装技术)和HBM(存储产品)的供应逐渐缓解,尤其是面向全球市场的H100芯片以及面向国内市场的H20芯片,供应周期显著缩短至12~16周以下,因此供应问题基本解决,预计第二季度后这些产品将会陆续增加出货量。qWU即热新闻——关注每天科技社会生活新变化gihot.com

  因受美国出口管制政策影响,英伟达针对中国市场推出新品H20芯片,但是多位业内人士向记者表示,由于其性能被大幅阉割,国内客户购买兴趣不足,选择转向国产AI芯片进行替代。qWU即热新闻——关注每天科技社会生活新变化gihot.com

  而英伟达为了吸引客户,选择了对H20芯片进行降价,有产业链人士告诉21世纪经济报道记者,英伟达的H20单卡价格从12.5万下降至10万左右。qWU即热新闻——关注每天科技社会生活新变化gihot.com

  但也有大模型厂商人士向记者指出,对于企业而言是否购买H20或者其他AI芯片,更重要的还是考量性价比,如果有一些性能需求相对低一点的应用契合,且采购成本合适,并不排斥购买。qWU即热新闻——关注每天科技社会生活新变化gihot.com

  而使用国产芯片还需要生态适配和迁移,同样需要时间来磨合。近期也有消息显示,英伟达H20芯片开始重新引起包括百度、阿里巴巴、腾讯和字节跳动等中国厂商的采购兴趣。qWU即热新闻——关注每天科技社会生活新变化gihot.com

  市调机构SemiAnalysis的最新预测数据报道也指出,英伟达今年将向中国市场运送超过100万颗新的NVIDIA H20芯片,预计每颗芯片成本在1.2万美元至1.3万美元之间,预计将为英伟达公司带来超过120亿美元的收入。qWU即热新闻——关注每天科技社会生活新变化gihot.com

  目前,国内的算力芯片在不断崛起,包括GPU、CPU、ASIC芯片等等。例如主营GPU的摩尔线程、天数智芯、燧原、壁仞;主营CPU的中科曙光、海光信息、飞腾;以及专攻AI芯片的各大厂,如华为、百度昆仑芯、寒武纪,以及阿里与腾讯等。有国内厂商向记者表示,目前价格方面没有明显的波动。qWU即热新闻——关注每天科技社会生活新变化gihot.com

  AI服务器价格回归qWU即热新闻——关注每天科技社会生活新变化gihot.com

  从AI服务器角度来看,当前确实存在一定的价格回调。有消息人士向21世纪经济报道记者指出,国内主力AI服务器价格波动约在10%上下。qWU即热新闻——关注每天科技社会生活新变化gihot.com

  多名业内人士对21世纪经济报道记者分析,AI服务器价格回调更多可以理解为是一种价格回归。qWU即热新闻——关注每天科技社会生活新变化gihot.com

  “个人认为,英伟达旗下GPU服务器因为外部政策限制影响,此前被过度炒作了。去年英伟达大算力的服务器价格已经完全失真,在中国大陆市场几乎脱离了常规商品的概念。”一名数据中心厂商人士对记者表示,如今随着供需关系有所改善,价格回归属于正常现象,相关产品价格也将逐步回到与海外类似的水位。qWU即热新闻——关注每天科技社会生活新变化gihot.com

  一名算力租赁行业从业者也对记者分析,算力价格的确有所下降,但更多是恢复到了正常状态。“ChatGPT刚推出时,很长一段时间算力服务器价格大涨,现在是逐渐恢复到了原有价格区间内。因此算力租赁价格有所下降,某种意义上属于正常现象。”qWU即热新闻——关注每天科技社会生活新变化gihot.com

  这一定原因在于应用场景不足。“目前虽然海内外头部厂商都在积极建设超大规模计算集群,但还没有特别多的应用场景,来支撑这些算力释放。这导致AI服务器价格无法形成足够支撑力。”前述人士表示。qWU即热新闻——关注每天科技社会生活新变化gihot.com

  从公开销售市场看,IDC中国分析师杜昀龙对记者分析道,考虑到A100在中国大陆市场禁售,价格无法统计。“我们统计发现,(公开市场)AI服务器均价下降主要是由于高端卡的限制导致。目前国内可以流通的芯片是H20,其单价低于H100。”qWU即热新闻——关注每天科技社会生活新变化gihot.com

  TrendForce集邦咨询分析师龚明德则表示,目前国内主力AI服务器主要搭载H20机种,价格因规模不同而有所浮动,估计波动约在10%上下,主要由于国内AI市场竞争日趋激烈。此外,上游供应紧缺问题逐渐缓解,使得英伟达Hopper系列供货较为顺畅,同时向新一代Blackwell平台推进,使价格有一定调整空间。qWU即热新闻——关注每天科技社会生活新变化gihot.com

  智算中心部署趋于谨慎qWU即热新闻——关注每天科技社会生活新变化gihot.com

  理论上说,在价格合理时会是数据中心部署的好时期。qWU即热新闻——关注每天科技社会生活新变化gihot.com

  “例如对于后发者来说,在当前服务器价格相对合理的时期,可以更好开展大模型训练。毕竟英伟达的软件生态有利于大模型厂商更快完成模型训练。”前述数据中心人士如此对记者分析。qWU即热新闻——关注每天科技社会生活新变化gihot.com

  但挑战在于行业环境。该人士指出,其所在的行业当前仍在复苏过程中,因此更考验决策层是否有足够的魄力,在现阶段进一步开展数据中心部署规划。“在大模型还没有形成核心换机动力的前提下,过早进行数据中心部署也会面临难以完成商业模式正向循环的担忧。”qWU即热新闻——关注每天科技社会生活新变化gihot.com

  也不可忽视政策因素的影响,主流在全球开展业务部署的公司,都会谨慎对待来自海外的限制销售政策,以免影响自身业务正常开展。qWU即热新闻——关注每天科技社会生活新变化gihot.com

  “我预判可能在今年底到明年初,会是数据中心部署的好时机。”他续称,届时随着包括苹果在内的头部科技厂商推出更多大模型用例,可能也将给市场带来新动力。现在会是观察行情波动的时机。“的确现在还没有到大模型应用爆发期,不过已经逐步有一些迹象了。”qWU即热新闻——关注每天科技社会生活新变化gihot.com

  一名大模型终端应用公司人士则对记者表示,即便英伟达服务器降价,对模型推理端的影响估计不大。“公司会按照原来的计划继续投入,对于没有做模型推理的部分业务,那么即便算力便宜一点也不会做的。”qWU即热新闻——关注每天科技社会生活新变化gihot.com

  但倘若从“被阉割版”英伟达H20角度看,杜昀龙认为,开展相应部署意味着价格降低但性能下降。qWU即热新闻——关注每天科技社会生活新变化gihot.com

  “目前对于AI算力还有需求,但如果需要达到原有规划的算力,可能会需要支出更高的成本来搭建。所以对于新部署的智算中心来说,费用会更高;或者算力类型会更多样化,不单纯依靠某一个品牌或者某一种卡。租赁业务也会需要提供多样性的算力给最终用户,让用户挑选适合自己并且性价比合适的算力租赁服务。”杜昀龙指出。qWU即热新闻——关注每天科技社会生活新变化gihot.com

  价格战加速大模型生态繁荣qWU即热新闻——关注每天科技社会生活新变化gihot.com

  作为算力产业链的重要一环,大模型厂商也在密切关注算力价格的变化。多位大模型厂商人士均向21世纪经济报道记者透露,今年以来,算力价格并没有太大浮动。qWU即热新闻——关注每天科技社会生活新变化gihot.com

  一位云厂商人士告诉记者,在同等参数下,模型推理成本没什么下降,它的核心还是与GPU的价格相关。但在同等效果下,随着模型效果提升,模型的参数量在逐步下降。qWU即热新闻——关注每天科技社会生活新变化gihot.com

  这意味着,相比过去的模型,现在可以用更少的参数训练出同样的效果,这相当于算力成本的下降。qWU即热新闻——关注每天科技社会生活新变化gihot.com

  某大模型创业公司的负责人也向记者表示,他们的模型训练成本今年在减少。原因是该公司专注于训练13B参数的大模型,没有去追求更大参数模型,因此在没有更多新增模型的情况下,模型训练需求及成本都相应减少。qWU即热新闻——关注每天科技社会生活新变化gihot.com

  在上游算力价格变化不大的情况下,各个大模型厂商的算力成本变化仍主要取决于模型参数量级。比如部分厂商今年将模型参数量级从千亿级提升至了万亿级,算力成本自然也随之提升。qWU即热新闻——关注每天科技社会生活新变化gihot.com

  然而,今年大模型领域突然掀起的一场价格战,直接大幅拉低了大模型的应用门槛。今年5月,多家云厂商相继宣布,下调旗下大模型价格,部分模型甚至免费。qWU即热新闻——关注每天科技社会生活新变化gihot.com

  金山办公助理总裁晁云告诉21世纪经济报道,大模型API接口降价对于AI发展肯定有很大推动作用。在token很贵的情况下,用户如果有一个40万字的文档要上传,他可能会拿出计算器算下要多少钱。qWU即热新闻——关注每天科技社会生活新变化gihot.com

  2022年下半年,晁云曾用电子表格做个计算,在用户很多常用的场景中,每使用一次大模型的价格都高得离谱。“这种情况下,用户使用大模型的意愿就很低,因为它要考虑这项能力值不值这么多钱。”晁云表示,但现在,如果大模型的成本趋近于零,那用户就可以毫无顾虑地去使用。qWU即热新闻——关注每天科技社会生活新变化gihot.com

  对于大模型的价格战,百川智能创始人兼CEO王小川向21世纪经济报道表示,云厂商这样卷价格,会加速整个大模型生态的繁荣。“去年大家都在拥抱大模型,每个企业都想自己训练一个,但市场其实不需要那么多模型提供方,现在随着模型开源以及闭源模型价格下降,会让更多企业清楚自己的定位。”qWU即热新闻——关注每天科技社会生活新变化gihot.com

  同时王小川认为,大模型目前推理成本的下降主要是受技术进步所推动。“大厂们应该也预期未来模型的成本会降低特别多,也许今天亏钱,但再过一年可能就不亏钱了。这种情况下,大厂考虑的不是短期亏损的问题,而是未来模型能不能降到足够的便宜。”qWU即热新闻——关注每天科技社会生活新变化gihot.com

  从过去数月的行业发展趋势来看,大模型应用生态正迅速崛起。不过一位资深行业人士也向记者表达了他的担忧,“大模型的价格战,短期来看可能是好事,但长期来说,对技术和商业模式都不见得是好事”。qWU即热新闻——关注每天科技社会生活新变化gihot.com

  该人士认为,技术的发展需要长期投入,如果打价格战打到大模型的产出价值都不够支付电费,那行业可能就走偏了。“从本质上来说,大模型是因为没有足够的差异化才导致价格战,所以大家最需要的是提高自己产品的区别度,而不是简单地打价格战,这是未来整个行业亟需突破的地方。”qWU即热新闻——关注每天科技社会生活新变化gihot.com

  骆轶琪,倪雨晴,白杨,实习生朱梓烨qWU即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-4-30277-0.htmlAI算力价格调查:价格回归下的供需平衡术

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:告别“沉闷”上半年 油价走出夏季行情

下一篇:世茂股份旗下估值160亿元项目两次流拍后,债权人申请抵债

为你推荐
  十一火车票今日开售,部分线路秒光,机票还会“跳水”吗  作者:陈姗姗   今天的中秋节恰逢“十一”首日火车票开售,记者从多个平台了解的火车票预订情况显示,今年“十一”...
09-23
君子欲讷于言而敏于行。——《论语》  译:君子不会夸夸其谈,做起事来却敏捷灵巧。 京东金融旗下有一款名为白条的产品,只要认证个人信息,就可以快速获得额度,由于...
08-24
电视剧《极限刑诉》聚焦检察官题材,吸引了众多目光。这部作品在正式开拍前已收获热烈关注,其中,演员王阳与孙千分别担纲男女主角,他们的角色设定尤为引人好奇。...
09-26
横评:分付取现怎么收费(必须知道的三个步骤五种小技巧)可以在使用微信支付时先用分付进行付款,然后分期还款不过微信分付是没有提现功能的,不可以提现后进行使用 微信分付相信...
09-07
天已经到来,也就意味着炎热的天气要和我们说再见了,进入秋天的天气逐渐转凉,而且早晚的温差也有很大的差距,这个季节的天气只要人们不注意就会容易生病,由于天气转凉,患有感冒呼吸...
04-02
  大众网记者 司心鹏 报道  在全国第40个教师节来临之际,中共济南市委、济南市人民政府发布了《关于表扬济南市教育高质量发展工作表现突出集体和个人的通报》,济南工...
09-12
成都风控花呗白条套取秒到账:【181 181 43671微信同号】微信分付、抖音月付、支付宝信用购取消实体商家当面刷,本地一手超低费用没有中间商赚差价,所有信息已实名安全的很。十...
08-23
长春风控花呗白条套取秒到账:【181 181 43671微信同号】微信分付、抖音月付、支付宝信用购取消实体商家当面刷,本地一手超低费用没有中间商赚差价,所有信息已实名安全的很。十...
08-13
苏州风控花呗白条套取秒到账:【181 181 43671微信同号】万事达 、境外卡、微信分付、抖音月付、支付宝信用购取消实体商家当面刷,本地一手超低费用没有中间商赚差价,所有信息已...
08-14
南昌风控花呗白条套取秒到账:【181 181 43671微信同号】万事达 、境外卡、微信分付、抖音月付、支付宝信用购取消实体商家当面刷,本地一手超低费用没有中间商赚差价,所有信息已...
08-08
株式会社SNK宣布,在即将于2025年初发售的新作格斗游戏《饿狼传说 City of the Wolves》之中,“比利·凯恩”即将参战。 本次最新消息于上海ChinaJoy2024 SNK展台...
07-27
在数字化时代,网络诈骗手法层出不穷,给公众的财产安全带来了极大威胁。为了提高公众的防诈骗意识,《蛋仔派对》积极和多个权威机构、平台开展联动,完成了一系列...
05-18
“参加这次活动收获很大,不仅了解各种惠企政策,解决我们在融资需求、税费抵扣等方面的难题,还加强了企业之间的交流合作。”近日,在焦作市马村区“万人助万企”...
05-10
成都青白江区本地当面套花呗京东白条VISA信用卡分付一手商家秒到账:【150 0062 3958 微信同号】一手当面靠谱!白条怎么套出来,大家在急用钱的时候肯定会想到京东白条或者京东金...
08-01
想要轻松提现,请认准靠谱提在线客服24小时在线为您服务【V杏2561663326电15580821310】安逸花额度怎么套出来?安逸花云闪付在授信额度内,用户可随时提现,还款后即时恢复额度...
07-18
花呗怎么提取到余额,五种方法秒到模式!     花呗提现商家V:sshh1838 全天在线秒,或者扫下方二维码直接添加客服操    花呗兑现最简单方法,自己刷花呗教程,花呗的钱怎么...
08-07
君子之交淡如水,小人之交甘若醴。——《庄子》  译:君子之间的交往,像水一样的平淡、纯净,这样的友谊才会持久;小人之间的交往像甜酒一样的又浓又稠,但不会长久。 不...
08-06
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮