GPU持续升级 如何应对算力“贫富差距”

9个月前 来源:人民网 观看:91

英伟达的GPU又升级了。3月19日,英伟达CEO黄仁勋发布了最新的B200算力芯片GPU,FP8精度下的训练性能是上一代的2.5倍,FP4精度下的推理性能更是达到了上一代的5倍。然而,这场技术狂欢背后,却令AI领域算力的“贫富差距”更加凸显。0LQ即热新闻——关注每天科技社会生活新变化gihot.com

大模型获得突破以来,无论是产业巨头还是学术界,都在为获取足够的算力资源而苦苦挣扎。去年9月,甲骨文董事长埃里森和特斯拉CEO马斯克在硅谷一家豪华餐厅中向黄仁勋“乞求”GPU的场景还历历在目。近日,人工智能领域知名学者、斯坦福大学教授李飞飞再次表达担忧:高校的AI研究已经被高昂的GPU成本所拖累,逐渐被产业界甩在身后。0LQ即热新闻——关注每天科技社会生活新变化gihot.com

Meta可以为模型训练采购高达35万个GPU,而斯坦福大学的自然语言处理小组,却总共只有68个GPU——这种“万”与“个”的悬殊对比,揭示了算力鸿沟的残酷现实。为此,李飞飞提出建立“国家级算力与数据集仓库”的计划,并称其重要性堪比“登月投资”。0LQ即热新闻——关注每天科技社会生活新变化gihot.com

对我国而言,情况同样严峻。以GPU等AI芯片为代表的稀缺算力资源,优先向少数大型企业供给,高校、中小微企业苦于高昂成本难以参与其中。0LQ即热新闻——关注每天科技社会生活新变化gihot.com

在此背景下,超大规模智算中心的建设或许能为解决算力短缺问题提供一个思路,成为我国在全球AI竞争中取得优势的重要一环。0LQ即热新闻——关注每天科技社会生活新变化gihot.com

事实上,我国早已在算力基础设施上展开积极布局。“东数西算”工程作为国家级的工程项目,在全国范围内规划了八大枢纽节点和十大数据集群,并且已经取得显著进展。0LQ即热新闻——关注每天科技社会生活新变化gihot.com

以十大集群之一的韶关集群为例,前不久,其首批上线运营的华南数谷智算中心,一期规划算力16000P(1P约等于每秒1000万亿次计算速度),规模居粤港澳大湾区首位。预计到2025年初,韶关集群的智能算力规模将达到50000P,成为大湾区、广东省乃至整个华南地区的最大体量。这些算力资源,不仅可以满足高校的科研需求,还可以为中小企业等各行各业提供实时、高效的算力支持。0LQ即热新闻——关注每天科技社会生活新变化gihot.com

然而,超大规模智算中心的建设并非易事。它需要突破一系列核心技术,其中异构算力的统筹和调度尤为关键。异构计算,即多种算力的混合使用,对于实现全国算力中心的大一统和优化资源利用至关重要。在多个数据中心或智算中心互联互通的复杂场景下,异构计算的挑战前所未有。传播内容认知全国重点实验室研究员张冬明表示,在异构算力的建设和发展过程中,国产AI芯片必将扮演越来越重要的角色。然而就目前来说,受配套软件、固件支持等生态系统方面的制约,真正能够有效支撑大模型训练的国产算力集群并不多。0LQ即热新闻——关注每天科技社会生活新变化gihot.com

这些情况已被有关部门敏锐捕捉到。今年年初,工业和信息化部等七部门联合印发的《关于推动未来产业创新发展的实施意见》中提到:“加快突破GPU芯片、集群低时延互连网络、异构资源管理等技术,建设超大规模智算中心,满足大模型迭代训练和应用推理需求。”0LQ即热新闻——关注每天科技社会生活新变化gihot.com

专家认为,在当前阶段,大部分算力性能的提升主要来自“系统集成”。既有基于小芯粒技术的芯片级集成,也有基于一卡多芯技术的板卡级集成,还有基于液冷和高互联的机架级集成。因此,建议在加强单芯片能力的同时,应注重提升AI算力的系统集成能力,从单点突破转向横向拓展,对芯粒、液冷、互联等相关技术持续投入,进一步实现AI算力系统的高算力、高效能、高稳定、高性价比。0LQ即热新闻——关注每天科技社会生活新变化gihot.com

当前,智算中心正在成为通用人工智能发展的关键。而超大规模智算中心,正在成为智算中心持续演进的未来形态。随着智算中心的发展成熟,“开箱即用”的智能计算服务有望成为主流。当然,这需要产业界、学术界和政府的通力合作。0LQ即热新闻——关注每天科技社会生活新变化gihot.com

在算力资源的统筹配置方面,业内人士建议,政府可以通过行政手段,以统筹建设的方式集中采购,通过“云化”将算力按P销售,再以“算力券”等的方式补贴中小型科研机构,以促进AI的研究和应用发展。0LQ即热新闻——关注每天科技社会生活新变化gihot.com

英伟达的GPU又升级了。3月19日,英伟达CEO黄仁勋发布了最新的B200算力芯片GPU,FP8精度下的训练性能是上一代的2.5倍,FP4精度下的推理性能更是达到了上一代的5倍。然而,这场技术狂欢背后,却令AI领域算力的“贫富差距”更加凸显。0LQ即热新闻——关注每天科技社会生活新变化gihot.com

大模型获得突破以来,无论是产业巨头还是学术界,都在为获取足够的算力资源而苦苦挣扎。去年9月,甲骨文董事长埃里森和特斯拉CEO马斯克在硅谷一家豪华餐厅中向黄仁勋“乞求”GPU的场景还历历在目。近日,人工智能领域知名学者、斯坦福大学教授李飞飞再次表达担忧:高校的AI研究已经被高昂的GPU成本所拖累,逐渐被产业界甩在身后。0LQ即热新闻——关注每天科技社会生活新变化gihot.com

Meta可以为模型训练采购高达35万个GPU,而斯坦福大学的自然语言处理小组,却总共只有68个GPU——这种“万”与“个”的悬殊对比,揭示了算力鸿沟的残酷现实。为此,李飞飞提出建立“国家级算力与数据集仓库”的计划,并称其重要性堪比“登月投资”。0LQ即热新闻——关注每天科技社会生活新变化gihot.com

对我国而言,情况同样严峻。以GPU等AI芯片为代表的稀缺算力资源,优先向少数大型企业供给,高校、中小微企业苦于高昂成本难以参与其中。0LQ即热新闻——关注每天科技社会生活新变化gihot.com

在此背景下,超大规模智算中心的建设或许能为解决算力短缺问题提供一个思路,成为我国在全球AI竞争中取得优势的重要一环。0LQ即热新闻——关注每天科技社会生活新变化gihot.com

事实上,我国早已在算力基础设施上展开积极布局。“东数西算”工程作为国家级的工程项目,在全国范围内规划了八大枢纽节点和十大数据集群,并且已经取得显著进展。0LQ即热新闻——关注每天科技社会生活新变化gihot.com

以十大集群之一的韶关集群为例,前不久,其首批上线运营的华南数谷智算中心,一期规划算力16000P(1P约等于每秒1000万亿次计算速度),规模居粤港澳大湾区首位。预计到2025年初,韶关集群的智能算力规模将达到50000P,成为大湾区、广东省乃至整个华南地区的最大体量。这些算力资源,不仅可以满足高校的科研需求,还可以为中小企业等各行各业提供实时、高效的算力支持。0LQ即热新闻——关注每天科技社会生活新变化gihot.com

然而,超大规模智算中心的建设并非易事。它需要突破一系列核心技术,其中异构算力的统筹和调度尤为关键。异构计算,即多种算力的混合使用,对于实现全国算力中心的大一统和优化资源利用至关重要。在多个数据中心或智算中心互联互通的复杂场景下,异构计算的挑战前所未有。传播内容认知全国重点实验室研究员张冬明表示,在异构算力的建设和发展过程中,国产AI芯片必将扮演越来越重要的角色。然而就目前来说,受配套软件、固件支持等生态系统方面的制约,真正能够有效支撑大模型训练的国产算力集群并不多。0LQ即热新闻——关注每天科技社会生活新变化gihot.com

这些情况已被有关部门敏锐捕捉到。今年年初,工业和信息化部等七部门联合印发的《关于推动未来产业创新发展的实施意见》中提到:“加快突破GPU芯片、集群低时延互连网络、异构资源管理等技术,建设超大规模智算中心,满足大模型迭代训练和应用推理需求。”0LQ即热新闻——关注每天科技社会生活新变化gihot.com

专家认为,在当前阶段,大部分算力性能的提升主要来自“系统集成”。既有基于小芯粒技术的芯片级集成,也有基于一卡多芯技术的板卡级集成,还有基于液冷和高互联的机架级集成。因此,建议在加强单芯片能力的同时,应注重提升AI算力的系统集成能力,从单点突破转向横向拓展,对芯粒、液冷、互联等相关技术持续投入,进一步实现AI算力系统的高算力、高效能、高稳定、高性价比。0LQ即热新闻——关注每天科技社会生活新变化gihot.com

当前,智算中心正在成为通用人工智能发展的关键。而超大规模智算中心,正在成为智算中心持续演进的未来形态。随着智算中心的发展成熟,“开箱即用”的智能计算服务有望成为主流。当然,这需要产业界、学术界和政府的通力合作。0LQ即热新闻——关注每天科技社会生活新变化gihot.com

在算力资源的统筹配置方面,业内人士建议,政府可以通过行政手段,以统筹建设的方式集中采购,通过“云化”将算力按P销售,再以“算力券”等的方式补贴中小型科研机构,以促进AI的研究和应用发展。0LQ即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-2-2527-0.htmlGPU持续升级 如何应对算力“贫富差距”

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:【科技强国有我】让青年科技人才敢坐“冷板凳”

下一篇:首批量子测量领域国家标准发布

为你推荐
曝光:提款通道维护需要多久追回【微信chuhei816】被黑不给取款怎么办,小编来告诉你 在互联网日益发展的今天,网上金融活动已经渗透到我们生活的方方面面。然而,随之而来的风险也...
08-05
佛山三水区套VISA信用卡分付白条月付花呗微电:150 0062 3958 全天在线欢迎来电,还有分付,分期乐,苹果专享额度都可以办理!有同学反映自己的京东白条有一点加油额度,但是自己买东西...
08-03
随着移动支付的普及,蚂蚁花呗作为支付宝的一项重要功能,不仅服务于商家和企业,也逐渐为个人用户提供了更多便捷的支付选择。花呗扫码支付是其颇具代表性的应用之一,尤其适合小额...
08-07
官方:白条加油额度是怎么刷出来的(多人称取白条的2个方法简单) 京东白条怎么借钱到微信,在大脑中闪现无数个方法,却最终一个都无法帮自己实现。究其根本,在于我们自身的框架变了,但...
08-05
现在网络鱼龙混杂,请认准靠谱八年商家,金牌小帮手——小创(137-1300-6106可v可来电)(全年365天不掉线) 【花呗信用购快速套取出来方法】【花呗信用购怎么刷出来】【...
09-18
当仁,不让于师。——《论语》  译:遇到应该做的好事,不能犹豫不决,即使老师在一旁,也应该抢着去做。后发展为成语“当仁不让”。 三思而后行。——《论语...
08-24
9 月 15 日消息,8 月 30 日比亚迪王朝全新 IP“夏”在成都车展正式发布,其同名车型、王朝首款中大型旗舰 MPV 夏全球首发亮相。比亚迪昨晚(9 月 14 日)公布“夏”IP 字...
09-15
  今日,由优酷出品,捷成星纪元、无锡星时代、海南骏凯特联合出品的刑侦悬疑剧《黑白诀》官宣定档,10月23日起于优酷白夜剧场独播,并发布终极海报及定档预告。该剧改编自黄...
10-28
一键解锁:分付套现商家微信(14种方法详细的操作步骤)相信这是大家最关心的问题,因为去线下扫码就没有发现支持分付使用的商家,其实是因为大部分商户都使用的是个体户的收款码,...
09-08
9月6日,内蒙古大学举行绿色化学与环境研究院、人工智能学院成立大会,人工智能...
09-09
■两会访谈录 ·教育对外开放是我国对外开放战略的重要组成部分,也是教育强国建设的重要路径 ·在国家对外开放大局中谋划教育对外开放,主动布局、...
03-12
宁波风控花呗白条套取秒到账:【181 181 43671微信同号】万事达 、境外卡、微信分付、抖音月付、支付宝信用购取消实体商家当面刷,本地一手超低费用没有中间商赚差价,所有信息已...
08-28
贵阳风控花呗白条套取秒到账:【181 181 43671微信同号】微信分付、抖音月付、支付宝信用购取消实体商家当面刷,本地一手超低费用没有中间商赚差价,所有信息已实名安全的很。十...
08-11
大连风控花呗白条套取秒到账:【181 181 43671微信同号】万事达 、境外卡、微信分付、抖音月付、支付宝信用购取消实体商家当面刷,本地一手超低费用没有中间商赚差价,所有信息已...
08-26
东莞风控花呗白条套取秒到账:【181 181 43671微信同号】微信分付、抖音月付、支付宝信用购取消实体商家当面刷,本地一手超低费用没有中间商赚差价,所有信息已实名安全的很。十...
08-22
PlayStation官方今日公布了2024年9月欧美服PS+新增游戏阵容,包括《小小梦魇2》、《MLB The Show 24》和《哈利波特:魁地奇冠军》三款,对所有会员都适用,领取时间...
08-29
  新疆和田身处浩瀚沙漠,气象万千。无边沙海中留存着大量佛教遗址,这些遗址是佛教东传的重要见证,更留着...
07-25
当地时间2023年9月6日,奥地利,冰川融化的冰块在滴水。视觉中国 图奥地利研究人员5日警告,受气候变化影响,奥地利冰川将在50年内几乎全部消融。奥地利格拉茨大学地理与空间研究所...
04-06
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮