算力、算法双重变革?九章云极CEO方磊:GPU云将成AI基础设施新火种

8个月前 来源: 观看:92

AI新云(也称GPU云、智算云)是全球 AI 基础设施当下变革的注脚。fVD即热新闻——关注每天科技社会生活新变化gihot.com

过去一年,生成式AI及大语言模型集成企业应用加速生长,市场对训练 AI 模型的 GPU 专用计算需求激增。为满足该需求,GPU专用云服务平台不断涌现,这些云服务平台被称为 AI 新云( NeoCloud)。fVD即热新闻——关注每天科技社会生活新变化gihot.com

fVD即热新闻——关注每天科技社会生活新变化gihot.com

fVD即热新闻——关注每天科技社会生活新变化gihot.com

WechatIMG5127fVD即热新闻——关注每天科技社会生活新变化gihot.com

(九章云极CEO方磊 受访者供图)fVD即热新闻——关注每天科技社会生活新变化gihot.com

与提供广泛通用服务的传统通算云服务商不同,NeoCloud 专注为 AI 工作负载提供高性能基础架构。据Business Research预测,全球GPU专用云市场规模将由2024年的31.7亿美元快速增长至2033年472.4亿美元,增长近15倍,复合增长率约为35%。fVD即热新闻——关注每天科技社会生活新变化gihot.com

fVD即热新闻——关注每天科技社会生活新变化gihot.com

(数据来源:Business Research)fVD即热新闻——关注每天科技社会生活新变化gihot.com

为在这一蓝海中掌握先发优势,海内外企业皆摩拳擦掌。fVD即热新闻——关注每天科技社会生活新变化gihot.com

今年3月,被业内称作“英伟达亲儿子”的AI基础设施企业CoreWeave上市,这家依托英伟达GPU资源冲击新云市场的创企,市值在IPO后的两个月从230亿美元飙升至720亿美元。与CoreWeave颇为类似,另一家海外AI基础设施企业Crusoe也凭借其掌握的GPU资源成功转型云服务商。fVD即热新闻——关注每天科技社会生活新变化gihot.com

在这场AI算力淘金热中,中国同样参与者众多,其中不乏云服务商、利用云服务拓展业务的AI基础设施企业。fVD即热新闻——关注每天科技社会生活新变化gihot.com

今年第二季度,这些冲击AI新云计算的公司先后发布了自己的AI基础设施服务。如CoreWeave推出基于英伟达GB200的全新架构;阿里云基于 PAI-DLC 云原生分布式深度学习训练平台推出了 FlashMoE九章云极从AI计算底层革新出发,推出了基于Serverless+RL强化学习技术架构的九章智算云Alaya NeW Cloud。fVD即热新闻——关注每天科技社会生活新变化gihot.com

“相比海外企业以资本驱动实现规模化,中国AI新云更关注迭代速度、总体拥有成本等务实客户价值。”近日,九章云极CEO方磊在接受时代周报记者专访时表示,资本市场对以CoreWeave为代表的资源型企业的考察重点并非技术,而是其凭借卖资源打下的市场规模。相比而言,中国企业更关注技术本身的“用处”——业务范围既涵盖售卖资源,也包括应用在各种场景中的AI工具。他认为,这样的模式有助于维系长尾客户,而长尾客户往往是企业稳健发展的关键要素。fVD即热新闻——关注每天科技社会生活新变化gihot.com

九章云极DataCanvas于2013年成立,是国内AI基础设施的头部企业。此前,九章云极提出“一度算力包”概念,希望解决行业中算力结构性错配、服务非标准化、用户需求难以预测等问题。fVD即热新闻——关注每天科技社会生活新变化gihot.com

方磊是清华电子工程系毕业的博士,虽技术出身,但对商业的见解十分“接地气”。他表示,商业的本质是“卖货”,在交易与合作中,要理解货物本身的价值,也要清楚其边界,同时看到客户企业的能动性和创造力。fVD即热新闻——关注每天科技社会生活新变化gihot.com

“涉足AI新云业务的公司把所能提供的价值点押注在算力层而非工具链上,更有利于公司行稳致远。”方磊向时代周报记者解释道,GPU一旦“云化”,其规模和技术门槛会迅速提升。规模将会和电力一样巨大。就像微软从操作系统的软件公司涉足Office,GPU云企业也会克服算力、算法变迁带来的难题,在多元的生态位上找到自己的角色。fVD即热新闻——关注每天科技社会生活新变化gihot.com

算力:CPU云向GPU云的历史性迁移fVD即热新闻——关注每天科技社会生活新变化gihot.com

市场为什么会大力呼唤GPU专用云?fVD即热新闻——关注每天科技社会生活新变化gihot.com

方磊表示, 传统云架构的局限性逐渐凸显。传统CPU 云基于虚拟化技术的资源切片模式,主要针对互联网时代带宽密集型应用设计。但 AI 工作负载以计算密集型处理为核心,需要大规模并行计算能力,这与CPU的串行处理特性形成了根本性矛盾。fVD即热新闻——关注每天科技社会生活新变化gihot.com

简而言之,CPU的技术架构在训练和推理大型AI模型方面不够高效。那么,AI时代需要怎样的硬件设施?fVD即热新闻——关注每天科技社会生活新变化gihot.com

方磊向时代周报记者拆解道,硬件方面,GPU性能更强,资源利用方式更“聪明”。如英伟达最新的 H200 GPU 内存带宽达 4.8TB/s,约为传统 CPU 系统( 50GB/s) 的近百倍,在深度学习训练中,性能可提升 10-100 倍。同时,Multi-Instance GPU(MIG)技术能将单个 GPU 分割为最多7 个独立实例,即不同“GPU分身”可以同时工作,互不干扰,便于下游企业更灵活地分配计算资源,实现 GPU 的精细化管理。fVD即热新闻——关注每天科技社会生活新变化gihot.com

硬件迭代如同给AI研发装上了"涡轮增压",在带来高效计算的同时,也为业内玩家的商业模式带来与传统巨头同台竞技的底气。时代周报记者注意到,在传统 CPU 通算云向 GPU 智算云的架构迁移的过程中,传统云巨头面临了新势力的挑战——AWS、Google Cloud、Azure等企业虽推出 GPU 实例,但在定价和性能优化上未能即时适应新的市场需求。fVD即热新闻——关注每天科技社会生活新变化gihot.com

“一个数据中心,如果同时兼顾CPU和GPU的需求,就会变成‘四不像’。”方磊解释称,一方面,如果数据中心仅运行GPU,要比同时运行GPU和CPU的成本低廉。据市场信息,如亚马逊的GPU租赁价格为12美元/卡时,CoreWeave的价格则为6美元/卡时;另一方面,假如一个计算中心不是单纯为GPU高度优化的,也会影响GPU的性能。”fVD即热新闻——关注每天科技社会生活新变化gihot.com

相较传统云厂商“大象难起舞”,专用GPU云企业的成本与商业模式更显“普适性”。如CoreWeave 的 GPU 实例定价,相比传统云提供商有 50%-80% 的成本优势;九章云极智算云Alaya NeW Cloud的定价策略则抛去了传统裸金属租赁方式,提出“一度算力”按量计费模式,降低算力使用门槛,提升算力使用的灵活性。fVD即热新闻——关注每天科技社会生活新变化gihot.com

从 CPU 云到 GPU 云的迁移,不仅是技术升级,更是计算范式从通用向专用的根本转变,这种转变正重塑着整个云计算产业的竞争格局。fVD即热新闻——关注每天科技社会生活新变化gihot.com

算法:深度学习向强化学习跃迁fVD即热新闻——关注每天科技社会生活新变化gihot.com

算法层面的变革也在影响底层算力的跃迁。当前,AI 算法正从数据驱动的深度学习向经验学习转变,这一新的模型训练方式,对GPU专用云的效率提出了新要求。fVD即热新闻——关注每天科技社会生活新变化gihot.com

“用于训练大模型的高质量数据量接近天花板,难再有指数级增长。这一限制促使研究者转向强化学习,通过模型与环境交互生成训练数据,以经验反馈突破数据稀缺瓶颈,增强模型的推理能力。”方磊告诉时代周报记者,算法范式的变化会产生新的算力缺口。原因在于,强化学习的多模型架构大幅增加了训练资源需求。以 70B 参数模型为例,RLHF 阶段约需 48 个 A100 GPU 同时工作,计算需求比传统深度学习增加 1-2 个数量级。fVD即热新闻——关注每天科技社会生活新变化gihot.com

"这一数据的判断与英伟达计算芯片迭代的实际节奏高度吻合——与‘B系列’芯片相比,其‘R系列’芯片的推理性能实现了十倍乃至百倍的提高。”方磊补充道。fVD即热新闻——关注每天科技社会生活新变化gihot.com

如何提升GPU专用云的效率以应对算法的变革?不妨从云计算的发展史中汲取经验。fVD即热新闻——关注每天科技社会生活新变化gihot.com

近20年,云计算产业的发展出现了三个分水岭。一是以虚拟化为主要技术支撑的云计算正式登上历史舞台,应对高速扩张的移动互联网以及流媒体萌芽所带来的爆炸式计算需求;二是池化技术的变革,通过规模化的调度、编排,形成了超大规模的计算和存储资源池,继而形成亚马逊云、微软云、阿里云三强鼎立的格局;三是阿里云创新性地推出CIPU(云基础设施处理器)架构方式,该架构不仅能在数据中心内发挥效用,也能和系统内的软硬件深度适配,当计算资源、存储资源、网络资源接入CIPU后,就会被云化为虚拟算力进行调度编排,兼顾零损耗与高性能。fVD即热新闻——关注每天科技社会生活新变化gihot.com

前两次浪潮,使得CPU为核心的传统X86架构替代了大型机、小型机,满足了当时企业业务扩展带来的算力弹性需求,但他们的本质都是通过软件的优化,将越来越多的计算节点连接组合对外提供服务。时至第三次变革,软件的迭代已不足以应对当时的市场需求,架构的创新成为云厂商换道超车的新思路。fVD即热新闻——关注每天科技社会生活新变化gihot.com

同样地,于GPU专用云而言,“软硬一体化”的创新架构是应对当前算法变化的抓手。方磊告诉时代周报记者,九章智算云从底层技术架构出发,推动由虚拟技术向Serverless(无服务)+RL(Reinforcement Learning,强化学习)为主导的架构演变,支撑AI部署从“配置机器”转向“提交任务”,从而提高高密度算力需求下的GPU资源的利用率。fVD即热新闻——关注每天科技社会生活新变化gihot.com

Serverless+RL的核心是将传统后端服务拆解为更细粒度的函数或服务单元,由云平台自动管理资源、运维和扩展。就如解决饱腹问题,需求方原本需要建厨房、买食材甚至雇厨师,而现在只需要在外卖平台下单即可。fVD即热新闻——关注每天科技社会生活新变化gihot.com

“在CPU云时代,虚拟化技术通过切片资源让用户使用;GPU云时代,Serverless技术可以让用户更聚焦应用而非花太多代价去关注底层优化。让GPU云的提供者更关注如何做好AI优化、高密集AI计算等,让企业低成本实现他们的目标。”fVD即热新闻——关注每天科技社会生活新变化gihot.com

“与自动驾驶的AI训练系统类似,得益于Serverless 架构,九章云极AI新云平台DataCanvas Alaya NeW Cloud能自动完成环境配置、策略加载与任务监控,在强化学习训练中的端到端性能提升5倍。同时,Alaya-UI智能体采样速率提升5-10倍,GPU利用率提升2倍。”方磊认为,Serverless会成为GPU云的主要技术趋势。fVD即热新闻——关注每天科技社会生活新变化gihot.com

fVD即热新闻——关注每天科技社会生活新变化gihot.com

(九章云极智能计算论坛 受访者供图)fVD即热新闻——关注每天科技社会生活新变化gihot.com

fVD即热新闻——关注每天科技社会生活新变化gihot.com

中美AI新云分野fVD即热新闻——关注每天科技社会生活新变化gihot.com

在AI云服务的竞逐中,中美两国走出了截然不同的发展路径。fVD即热新闻——关注每天科技社会生活新变化gihot.com

美国AI云市场呈现出典型的资本集聚特征。CoreWeave通过与英伟达的深度合作,凭借数百亿美元的基础设施投入,构建起50-80%的成本优势;同样采用资本密集策略的Lambda Labs,则以每小时2.49美元的H100 GPU租赁价格快速占领学术市场。fVD即热新闻——关注每天科技社会生活新变化gihot.com

不过,上述两家企业的客户集中度较高,如CoreWeave超过60%的收入来自微软单一大客户。这种商业结构虽能保证短期收入快速增长,却也暗藏一定业务风险。fVD即热新闻——关注每天科技社会生活新变化gihot.com

中国企业则倾向于通过技术破局、围绕客户需求提供服务方案寻求增长。“我们优化后的GPU利用率可以超过95%,这个数字比很多客户自己优化的结果还要高,而行业平均GPU利用率通常为70%左右。” fVD即热新闻——关注每天科技社会生活新变化gihot.com

此外,中美AI云企业的市场定位也存在差异。美国的资本驱动模式聚焦大型企业客户,而中国的技术驱动模式则将目光投向长尾市场。在生态建设理念方面,前者追求规模与效率,后者更强调普惠与可持续发展。fVD即热新闻——关注每天科技社会生活新变化gihot.com

方磊认为,数百万企业、数千万个人开发者,都亟需弹性且高性价比的GPU云服务。他坦言,目前中国智能算力的短缺主要呈现结构性错配的特征。“如某厂商在某一地区设立了万卡集群,但当地的智能算力需求方可能需要在外地寻找服务器租用。目前公开市场上,大量AI计算芯片要么掌握在头部互联网厂商手中,要么以服务器(裸金属)的形式出租,市场化的、面向大众的、普惠的智能算力非常稀缺。”fVD即热新闻——关注每天科技社会生活新变化gihot.com

谈及发展目标,方磊表示,九章云极希望成为中国NeoCloud的定义者,"此前我们定义了'一度算力',未来希望探索出具备中国特色的AIDC运营模式”。他称,DeepSeek-R1的问世已表明,低成本投入能博取优质的模型能力。这也意味着,能否为数千万开发者提供普惠算力服务,将成为决定AI云企业竞争力的重要考核维度。fVD即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-2-2606-0.html算力、算法双重变革?九章云极CEO方磊:GPU云将成AI基础设施新火种

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:AG600飞机正式迈入批量生产阶段

下一篇:对手变战友!618前夕小红书牵手阿里、京东,估值或已创新高

为你推荐
随着人类探索太空的脚步迈得越来越大,在月球上,甚至在火星上驻留并建设基地成为可能。想在月球上居住和旅行,水、氧气等生存资源和交通工具就不可或缺...
01-21
1月16日,记者从宁波华仪宁创智能科技有限公司获悉,该公司研制的单细胞代谢物分析质谱仪近日入选浙江省经济和信息化厅、浙江省财政厅印发的《2024年...
01-21
  辽宁省统计局今天发布2024年全省经济运行情况。数据显示,攻坚之年,辽宁生产需求持续改善,居民收入稳步...
01-21
  从西安市区出发,驱车一个多小时便可来到位于秦岭脚下的鄠邑区栗峪口村。在社交平台上,栗峪口...
02-05
  中新经纬1月19日电 据中央纪委国家监委驻中国工商银行纪检监察组、青海省纪委监委消息:日前,中央纪委国家监委驻中国工商银行纪检监察组、西宁市监委对中国工商银行上海市...
01-21
  新春文旅消费图谱:出入境游“双向奔赴” 特色游持续“上新”  本报记者 谢 岚  见习记者 梁傲男  春节临近,大众出游热情高涨。综合各平台预订数据来看,新春旅游市...
01-21
1 月 29 日消息,特斯拉公司宣布,其 Cybertruck 车主现在可以在所有 V4 超级充电站享受更快的充电速度。此前,特斯拉于上个月开始逐步推出这一快速充电功能。1 月 28 日...
01-29
2 月 2 日消息,比亚迪腾势销售事业部总经理赵长江今日发布视频分享了腾势 N9 新车“九大爆料”,其中提到了该车的上市时间、发布节奏,以及部分车型的续航能力。整理赵...
02-02
《难哄》穆承允是一个什么角色?在《难哄》中,穆承允是一个男四号的配角。外在形象:长相俊秀,五官偏柔,有点男生女相,但身材高挑且强壮,整体给人一种清隽明朗的感觉...
02-19
在璀璨夺目的娱乐圈内,何炅凭借其出色的主持能力和温文尔雅的气质,早已赢得了众多粉丝的喜爱与尊敬。然而,近日,这位年过半百的知名主持人再度成为话题中心,原因竟是他那令人惊叹...
02-22
21世纪经济报道记者 韩利明 上海报道2月4日,默沙东公布2024年业绩,总营收641.68亿美元,同比增长7%。默沙东制药业务收入574.00亿美元,同比增长...
02-05
21世纪经济报道记者 唐唯珂 实习生 黄源轩 广州报道最近一段时间,众多从事体外诊断(IVD)的公司纷纷公布了2024年业绩预告。根据21世纪经济报...
02-11
  大众网记者 王一刚 报道  这个冬至,让我们和艺术撞个满怀……  为全面贯彻教育部发布的《关于全面实施学校美育浸润行动的通知》,“以美育浸润学生、以美育浸润教...
01-21
寒假第一天,沈阳医学院的辅导员们又踏上了家访路……这是沈阳医学院通过“辅导员百家行”进行爱心传递的...
01-21
  近年来,随着个人消费贷款需求不断增长,不法贷款中介、电信诈骗不法人员盯上了这块“蛋糕”。...
01-24
经济观察网 记者 胡群 在当前的转型和重塑关键时期,中国银行业面对低息差新常态和数字金融的快速发展,如何审慎评估和应对挑战与机遇?2023年,我国商业银行净利润增速放缓,平均资...
02-13
水瓶女是一个独立、聪明且有点神秘的星座,她们对感情的态度往往让人捉摸不透。如果你想...
01-22
天蝎座的男生通常以冷静、深沉而闻名。当他们遇到问题或者感到困惑时,他们往往需要一段...
01-22
日系穿搭特点?一、日系穿搭的特点在穿搭方面日系风简直把休闲做到了极致,要说亚洲潮流文化发祥地,原宿绝对是一大圣地这里除了有常见的时尚大牌,还有亲民的牌子,日系穿搭的主要特...
02-07
时尚与争议:女明星穿着暴露背后的故事在这个信息泛滥的时代,女明星的穿着往往成为我们热议的话题。她们在红毯上的一袭礼服或是出街时的休闲装,常常引发广泛讨论,尤其是那些选择...
02-17
2月18日消息,京东宣布与学而思签订战略合作协议,明确了未来三年内,学而思在京东全渠道销售50亿元、覆盖超100万用户的目标。根据协议,双方将聚焦“人、货、场”的全面协同,通过产...
02-18
黄峥:一个好的公司应该花力气去解决克服那些正确又难的问题,而不是四处捡一大堆芝麻。1.拼多多首页测试改版在电商行业中,变化一直是常态。日前,亿邦动力独家透露,拼多多App首页...
02-20
据中国铁路公众号消息,2025年铁路春运1月14日开始,至2月22日结束,为期40天,全国铁路预计发送旅客5.1亿人次,日均发送1275万人次,节前客...
02-08
紫锦城 图源:时代周报/摄  “金价涨疯了!2015年左右我们...
02-13
1月18日,游族网络2025年会“U-nite U-show——游秀之夜”在上海西岸穹顶艺术中心成功举办。本次年会主题意为“聚在一起,秀出自己”,一方面象征着这是以每位优秀的游族人为主角...
01-21
2024年末,一位科技创业者火了。作者 | 王思琪来源 | 投资家(ID:touzijias)2024年末,一位科技创业者火了。2025年初,这位创业者再度爆火。近日,中国科技行业因一位85后年轻人现身《...
01-24
发行商Hooded Horse近日宣布,中古时期策略游戏《庄园领主》销量已突破300万份,官方对玩家的支持表示了衷心感谢。 《庄园领主》最初于2024年4月26日在Steam上发...
02-10
韩国生活模拟游戏《inZOI》将于3月开放抢先体验版。游戏引入了独特元素,即角色死亡后可以作为幽灵出现,这一设定与《模拟人生4》市民死后世界相似。 近日inZOI...
02-13
昨天(1日),我国南方地区阴雨雪天气持续,河南、湖北、安徽等地局地出现大雪。今天(2日),南方大部地区仍被阴雨雪“控场”,湿冷感较为突出。此外,新疆、青海、甘肃以及东北地区有小雪或...
02-02
极目新闻记者 柯称 李碗容 张屏 庞正 马鑫人勤春来早对于人形机器人来说也许也是这样大年初八新春开工首日湖北10个型号的“楚才”系列人形机器人在洪山礼堂前集中亮相这是...
02-05
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮