当红炸子鸡DeepSeek,为何花心思自研存储?

1年前 来源:央广网 观看:150

这两天DeepSeek开源3FS并行文件系统的消息,犹如向AI基础设施领域投下一枚深水炸弹。3FS每秒能搬运6.6TB数据,相当于1秒钟传输完700部4K高清电影。还能自动调资源,国产芯片用了它,跟国际大牌的差距直接缩小到15%。x3F即热新闻——关注每天科技社会生活新变化gihot.com

这并非简单的技术迭代——当Llama3 70B模型单次训练需吞掉15PB数据(相当于连续播放250万小时4K视频)时,全球AI实验室突然意识到:决定大模型训练效率的不仅是GPU算力,存储系统正成为影响进度的一大瓶颈。x3F即热新闻——关注每天科技社会生活新变化gihot.com

当AI算力狂飙时,存储正在成为隐形战场x3F即热新闻——关注每天科技社会生活新变化gihot.com

2024年,某头部AI公司曾因存储带宽不足,导致2000张A100显卡的算力利用率长期低于40%,单日经济损失超百万美元。这暴露了AI时代的“木桶效应”——当GPU计算速度进入微秒级时,一次突发的存储抖动就可能导致整个训练任务崩溃,让数周的计算成果瞬间蒸发。这或许也是DeepSeek自研存储的原因。x3F即热新闻——关注每天科技社会生活新变化gihot.com

数据显示,存储优化可直接将175B参数模型的训练周期压缩30%,对应百万美元级的成本被填平。而在推理端,当10%的异常请求遭遇存储延迟波动时,P99响应时间会瞬间突破SLA红线,这正是某自动驾驶公司在线服务突发降级的根本诱因。x3F即热新闻——关注每天科技社会生活新变化gihot.com

DeepSeek之所以选择自研3FS的本质,正是发现了存储架构在AI应用中的重要性。《金融行业先进AI存力报告》中提到,在同样的GPU算力规模下,存储性能的高低可能造成模型训练周期数倍的差异。在算力竞赛的背后,一场关于存储性能密度的暗战悄然升级,自研存储显得尤为重要。x3F即热新闻——关注每天科技社会生活新变化gihot.com

5家头部厂商角逐AI存储,国产能否拔得头筹x3F即热新闻——关注每天科技社会生活新变化gihot.com

相比于传统AI的需求,大模型对存力需求场景具有数据量大、参数规模大、训练周期长等特点。x3F即热新闻——关注每天科技社会生活新变化gihot.com

为了提升大模型训练速度,需要对大规模数据集进行快速加载,且一般采用数百甚至上万张GPU构成计算集群进行高效的并行计算,需要高并发输入/输出(I/O)处理,而训练数据集呈现海量小文件的特点,文件量在几亿到几十亿量级,对应的带宽需求可能每秒要达到上TB,这就要求存储系统具备强大的数据管理能力,业界能达到该能力的仅寥寥几家。x3F即热新闻——关注每天科技社会生活新变化gihot.com

从国内外优秀的并行存储产品具体能力对比来看,IBM作为老牌存储品牌,其产品从HPC场景成功向AI场景演进。在全球AI场景得到广泛应用的DDN,多个读、写带宽等关键性能指标上表现突出,但DDN由于技术封闭性、专有化硬件等原因,导致用户建设成本过高。x3F即热新闻——关注每天科技社会生活新变化gihot.com

国产厂商DeepSeek 3FS虽然是开源的新产品,但相对老牌存储也有不错的表现,在读带宽能力上表现优异,单集群6.6TB/s,平均单节点36.7GB/s的读带宽。x3F即热新闻——关注每天科技社会生活新变化gihot.com

另一家国产厂商京东云云海,在这个专业领域同样表现出色,以单节点95GB/s的读带宽、60GB/s的写带宽,进一步拉低了国产存储与国际老牌厂商的差距。相较于DeepSeek的3FS,京东云云海在提供高性能的同时适用性更广,可以同时满足DeepSeek、ChatGPT、LLaMA等20余种主流大模型的存力需求。x3F即热新闻——关注每天科技社会生活新变化gihot.com

综上来看,随着大模型快速向纵深场景演进,对存储的要求也越来越高,DeepSeek 3FS、京东云云海等国产存储,显示出在处理大规模数据集时的优越性能。未来国产存储能否拔得头筹,让我们拭目以待。x3F即热新闻——关注每天科技社会生活新变化gihot.com

这两天DeepSeek开源3FS并行文件系统的消息,犹如向AI基础设施领域投下一枚深水炸弹。3FS每秒能搬运6.6TB数据,相当于1秒钟传输完700部4K高清电影。还能自动调资源,国产芯片用了它,跟国际大牌的差距直接缩小到15%。x3F即热新闻——关注每天科技社会生活新变化gihot.com

这并非简单的技术迭代——当Llama3 70B模型单次训练需吞掉15PB数据(相当于连续播放250万小时4K视频)时,全球AI实验室突然意识到:决定大模型训练效率的不仅是GPU算力,存储系统正成为影响进度的一大瓶颈。x3F即热新闻——关注每天科技社会生活新变化gihot.com

当AI算力狂飙时,存储正在成为隐形战场x3F即热新闻——关注每天科技社会生活新变化gihot.com

2024年,某头部AI公司曾因存储带宽不足,导致2000张A100显卡的算力利用率长期低于40%,单日经济损失超百万美元。这暴露了AI时代的“木桶效应”——当GPU计算速度进入微秒级时,一次突发的存储抖动就可能导致整个训练任务崩溃,让数周的计算成果瞬间蒸发。这或许也是DeepSeek自研存储的原因。x3F即热新闻——关注每天科技社会生活新变化gihot.com

数据显示,存储优化可直接将175B参数模型的训练周期压缩30%,对应百万美元级的成本被填平。而在推理端,当10%的异常请求遭遇存储延迟波动时,P99响应时间会瞬间突破SLA红线,这正是某自动驾驶公司在线服务突发降级的根本诱因。x3F即热新闻——关注每天科技社会生活新变化gihot.com

DeepSeek之所以选择自研3FS的本质,正是发现了存储架构在AI应用中的重要性。《金融行业先进AI存力报告》中提到,在同样的GPU算力规模下,存储性能的高低可能造成模型训练周期数倍的差异。在算力竞赛的背后,一场关于存储性能密度的暗战悄然升级,自研存储显得尤为重要。x3F即热新闻——关注每天科技社会生活新变化gihot.com

5家头部厂商角逐AI存储,国产能否拔得头筹x3F即热新闻——关注每天科技社会生活新变化gihot.com

相比于传统AI的需求,大模型对存力需求场景具有数据量大、参数规模大、训练周期长等特点。x3F即热新闻——关注每天科技社会生活新变化gihot.com

为了提升大模型训练速度,需要对大规模数据集进行快速加载,且一般采用数百甚至上万张GPU构成计算集群进行高效的并行计算,需要高并发输入/输出(I/O)处理,而训练数据集呈现海量小文件的特点,文件量在几亿到几十亿量级,对应的带宽需求可能每秒要达到上TB,这就要求存储系统具备强大的数据管理能力,业界能达到该能力的仅寥寥几家。x3F即热新闻——关注每天科技社会生活新变化gihot.com

从国内外优秀的并行存储产品具体能力对比来看,IBM作为老牌存储品牌,其产品从HPC场景成功向AI场景演进。在全球AI场景得到广泛应用的DDN,多个读、写带宽等关键性能指标上表现突出,但DDN由于技术封闭性、专有化硬件等原因,导致用户建设成本过高。x3F即热新闻——关注每天科技社会生活新变化gihot.com

国产厂商DeepSeek 3FS虽然是开源的新产品,但相对老牌存储也有不错的表现,在读带宽能力上表现优异,单集群6.6TB/s,平均单节点36.7GB/s的读带宽。x3F即热新闻——关注每天科技社会生活新变化gihot.com

另一家国产厂商京东云云海,在这个专业领域同样表现出色,以单节点95GB/s的读带宽、60GB/s的写带宽,进一步拉低了国产存储与国际老牌厂商的差距。相较于DeepSeek的3FS,京东云云海在提供高性能的同时适用性更广,可以同时满足DeepSeek、ChatGPT、LLaMA等20余种主流大模型的存力需求。x3F即热新闻——关注每天科技社会生活新变化gihot.com

综上来看,随着大模型快速向纵深场景演进,对存储的要求也越来越高,DeepSeek 3FS、京东云云海等国产存储,显示出在处理大规模数据集时的优越性能。未来国产存储能否拔得头筹,让我们拭目以待。x3F即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-2-1074-0.html当红炸子鸡DeepSeek,为何花心思自研存储?

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:“七星连珠”为何并非“罕见奇观”

下一篇:多地积极布局智慧养老 养老机器人已“上岗”

为你推荐
85后女董事长接班1年后,连续亏损的赛为智能要自救了?近日,赛为智能(300044.SZ)发布2024年度业绩预告。预告显示,赛为智能去年全年预计实...
01-23
1月10日,《2024中国大学、央企、城市海外网络传播力建设系列报告》发布会在北京师范大学举办。记者在会上了解到,2024年,我国部分中央企业通过将大语...
01-24
  湖南张家界荷花国际机场作为新增口岸之一,2024年出入境人员达到56.3万人次,同比增长1.5倍。免...
01-21
  2025年1月,多地纷纷迎来外国游客,“中国游”越来越热,“周五下班去中国”成为国际新热潮,入境游...
01-24
中新社香港1月21日电 国泰集团21日公布数据显示,2024年,国泰航空及香港快运全年共载客逾2800万人次,同比上升30.7%;国泰货运全年共运载150万吨货物,同比增长11%。据统计,2024年12...
01-22
新闻记者 潘锡珩通讯员陈默 龙慧芳近日,武汉市武昌区黄鹤楼街道读书社区的居民代表,为武钢江南燃气公司送上了一面锦旗,上面写着“踏实为民办实事,情暖人心暖寒冬”,以此表达对江...
01-22
1 月 24 日消息,岚图汽车 1 月 22 日宣布,岚图知音全球版开启海外交付,目前新车已经启程发运挪威,距离挪威、瑞典、芬兰三国同步上市发售仅 87 天。2024 年 12 月 19 日...
01-24
2 月 3 日消息,近年来随着汽车辅助驾驶技术的不断发展,越来越多的司机依赖这些系统来减轻驾驶负担,有些人甚至在某些情况下完全放手不管,然而这种行为相当危险,极易引发...
02-04
  1、《五福临门》中殷瑶的扮演者是黄灿灿,她在剧中演的角色是杨羡的义妹。  2、杨羡出海时全靠殷瑶的父亲帮助,他拜对方为义父,义父去世后把女儿托付给了杨羡。  3、黄...
02-14
最近播出的电视剧《我亲自出庭为儿子辩护》迅速吸引了大量观众的关注,成为许多人心中的最爱。该剧讲述了刚考上研究生的张小涛因救人被诬陷为杀人犯的故事。...
02-21
  不少网友在春节期间  开启了天天吃剩菜的生活  这样的“剩宴”安全吗?  哪些食物不适...
02-05
21世纪经济报道记者 韩利明 上海报道“白天还在上班,毫无预兆,下班到家就感觉头沉、没食欲,早早便睡下了。可夜里浑身发冷,头疼欲裂,吃了布洛芬...
02-13
  大众网记者 杨涛报道  日前,“外研社·国才杯”“理解当代中国”全国大学生外语能力演讲大赛(山东赛区高职组)成绩揭晓,青岛港湾职业技术学院的王淑珍同学凭借出色的表...
01-21
  1月15日,西安市第六中学北校区成功举办以“缓解压力 放飞心灵 赋能前行享受美好”为主题的教师团体心理活动。此次活动旨在缓解教师工作压力,增强团队凝聚力,为教师们的身...
01-21
  储蓄存款全员营销、对公拓户攻坚活动、旺季贵金属销售任务……每次看到行里的营销方案与考...
01-24
经济观察网 邢祺欣/文 6月19日,惠誉评级在北京举行的“2024惠誉看中国”会议上,发布《中国主权评级及宏观经济前景展望》报告。对中国政府近期采取的支持经济的措施,惠誉评级中...
02-13
狮子座男生通常是阳光、自信和热情的代表,当他们喜欢上一个人时,会展现出一系列明显的行...
01-22
天蝎座是十二星座中最神秘、复杂的一个星座。他们通常深思熟虑,善于隐藏自己的真实感受...
01-22
当红女星风采:近期绽放的璀璨之美在最近的娱乐圈中,无论是电影、电视剧,还是社交媒体,许多女明星的魅力时刻吸引着大家的注意。仿佛每一位女神都在绽放自己的光芒,成了各界瞩目的...
02-07
白色裤子搭配什么颜色衬衫好看?不要穿太紧身的服饰,夏季服装搭配,,‘’aircloset ‘’就是教你穿衣搭配的众号了,9.9元订购五套品牌女装和搭配全套衣服,服装色彩尽量明亮柔和,太深...
02-17
2月6日消息,沃尔玛加拿大公司近日宣布,将投资65亿加元(约45亿美元)用于门店和供应链的布局与扩张。该计划包括开设数十家门店,其中首批五家超级购物中心将于2027年前在安大略省和...
02-07
2月21日消息,盒马创始人侯毅宣布进军宠物食品零售领域,创立派特鲜生品牌,品牌启动暨战略合作伙伴大会今日召开,首店将于2月22日开业。侯毅透露,派特鲜生的目标是2025年3月在上海...
02-22
2025年家电购新补贴延续,对于家电消费市场而言可谓喜闻乐见。一方面,消费者能够用更优惠的价格添置高品质的新家电;另一方面,厂商能够...
02-07
3月3日消息,饿了么将正式启动“优店腾跃计划”:面向商家投入超过10亿元,在费率优惠、专项补贴、专属流量、数字化运营服务和硬件设施以及AI技术能力等多方面,持续加大对商家支持...
03-04
【#华油集团与五粮液集团合资公司登记成立# 注册资本3亿】天眼查App显示,近日,华油五粮(北京)供应链管理有限责任公司成立,法定代表人为杨金峰,注册资本3亿人民币,经营范围含供应链...
01-21
2025年,电影《哪吒2》爆火,一个河南85后成了最大赢家。作者 | 老高来源 | 投资家(ID:touzijias)2025年,电影《哪吒2》爆火,一个河南85后成了最大赢家。近日,“全球领先的潮流文化娱...
02-09
如今各种新时代类型诈骗层出不穷,日前BBC分享了一则经典诈骗案例,提醒广大民众注意,而且不仅仅是英国,估计全世界都已经被波及了。 ·据悉,一位70岁老太太去医院,...
02-04
育碧发布了截至2024 年 12 月 31 日的九个月财务报告,这家法国开发商和发行商重点介绍了即将推出的《刺客信条》游戏以及正在进行的成本削减计划,该计划已经导致...
02-15
新华社北京2月2日电 近日,在世界乒乓球职业大联盟(WTT)新加坡大满贯赛正赛开始前,中国乒乓球队、中国乒协围绕世界排名及WTT系列赛事的赛制,与国际乒联、WTT核心团队进行了交流。...
02-03
在2月9日的比赛中,中国代表团获得7金7银9铜。其中,中国短道速滑队以2金2银4铜收官。△点击图片,查看哈尔滨第九届亚冬会奖牌榜。2月10日,将决出7枚金牌。比赛有哪些精彩看点?一起...
02-10
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮