当红炸子鸡DeepSeek,为何花心思自研存储?

10个月前 来源:央广网 观看:110

这两天DeepSeek开源3FS并行文件系统的消息,犹如向AI基础设施领域投下一枚深水炸弹。3FS每秒能搬运6.6TB数据,相当于1秒钟传输完700部4K高清电影。还能自动调资源,国产芯片用了它,跟国际大牌的差距直接缩小到15%。imq即热新闻——关注每天科技社会生活新变化gihot.com

这并非简单的技术迭代——当Llama3 70B模型单次训练需吞掉15PB数据(相当于连续播放250万小时4K视频)时,全球AI实验室突然意识到:决定大模型训练效率的不仅是GPU算力,存储系统正成为影响进度的一大瓶颈。imq即热新闻——关注每天科技社会生活新变化gihot.com

当AI算力狂飙时,存储正在成为隐形战场imq即热新闻——关注每天科技社会生活新变化gihot.com

2024年,某头部AI公司曾因存储带宽不足,导致2000张A100显卡的算力利用率长期低于40%,单日经济损失超百万美元。这暴露了AI时代的“木桶效应”——当GPU计算速度进入微秒级时,一次突发的存储抖动就可能导致整个训练任务崩溃,让数周的计算成果瞬间蒸发。这或许也是DeepSeek自研存储的原因。imq即热新闻——关注每天科技社会生活新变化gihot.com

数据显示,存储优化可直接将175B参数模型的训练周期压缩30%,对应百万美元级的成本被填平。而在推理端,当10%的异常请求遭遇存储延迟波动时,P99响应时间会瞬间突破SLA红线,这正是某自动驾驶公司在线服务突发降级的根本诱因。imq即热新闻——关注每天科技社会生活新变化gihot.com

DeepSeek之所以选择自研3FS的本质,正是发现了存储架构在AI应用中的重要性。《金融行业先进AI存力报告》中提到,在同样的GPU算力规模下,存储性能的高低可能造成模型训练周期数倍的差异。在算力竞赛的背后,一场关于存储性能密度的暗战悄然升级,自研存储显得尤为重要。imq即热新闻——关注每天科技社会生活新变化gihot.com

5家头部厂商角逐AI存储,国产能否拔得头筹imq即热新闻——关注每天科技社会生活新变化gihot.com

相比于传统AI的需求,大模型对存力需求场景具有数据量大、参数规模大、训练周期长等特点。imq即热新闻——关注每天科技社会生活新变化gihot.com

为了提升大模型训练速度,需要对大规模数据集进行快速加载,且一般采用数百甚至上万张GPU构成计算集群进行高效的并行计算,需要高并发输入/输出(I/O)处理,而训练数据集呈现海量小文件的特点,文件量在几亿到几十亿量级,对应的带宽需求可能每秒要达到上TB,这就要求存储系统具备强大的数据管理能力,业界能达到该能力的仅寥寥几家。imq即热新闻——关注每天科技社会生活新变化gihot.com

从国内外优秀的并行存储产品具体能力对比来看,IBM作为老牌存储品牌,其产品从HPC场景成功向AI场景演进。在全球AI场景得到广泛应用的DDN,多个读、写带宽等关键性能指标上表现突出,但DDN由于技术封闭性、专有化硬件等原因,导致用户建设成本过高。imq即热新闻——关注每天科技社会生活新变化gihot.com

国产厂商DeepSeek 3FS虽然是开源的新产品,但相对老牌存储也有不错的表现,在读带宽能力上表现优异,单集群6.6TB/s,平均单节点36.7GB/s的读带宽。imq即热新闻——关注每天科技社会生活新变化gihot.com

另一家国产厂商京东云云海,在这个专业领域同样表现出色,以单节点95GB/s的读带宽、60GB/s的写带宽,进一步拉低了国产存储与国际老牌厂商的差距。相较于DeepSeek的3FS,京东云云海在提供高性能的同时适用性更广,可以同时满足DeepSeek、ChatGPT、LLaMA等20余种主流大模型的存力需求。imq即热新闻——关注每天科技社会生活新变化gihot.com

综上来看,随着大模型快速向纵深场景演进,对存储的要求也越来越高,DeepSeek 3FS、京东云云海等国产存储,显示出在处理大规模数据集时的优越性能。未来国产存储能否拔得头筹,让我们拭目以待。imq即热新闻——关注每天科技社会生活新变化gihot.com

这两天DeepSeek开源3FS并行文件系统的消息,犹如向AI基础设施领域投下一枚深水炸弹。3FS每秒能搬运6.6TB数据,相当于1秒钟传输完700部4K高清电影。还能自动调资源,国产芯片用了它,跟国际大牌的差距直接缩小到15%。imq即热新闻——关注每天科技社会生活新变化gihot.com

这并非简单的技术迭代——当Llama3 70B模型单次训练需吞掉15PB数据(相当于连续播放250万小时4K视频)时,全球AI实验室突然意识到:决定大模型训练效率的不仅是GPU算力,存储系统正成为影响进度的一大瓶颈。imq即热新闻——关注每天科技社会生活新变化gihot.com

当AI算力狂飙时,存储正在成为隐形战场imq即热新闻——关注每天科技社会生活新变化gihot.com

2024年,某头部AI公司曾因存储带宽不足,导致2000张A100显卡的算力利用率长期低于40%,单日经济损失超百万美元。这暴露了AI时代的“木桶效应”——当GPU计算速度进入微秒级时,一次突发的存储抖动就可能导致整个训练任务崩溃,让数周的计算成果瞬间蒸发。这或许也是DeepSeek自研存储的原因。imq即热新闻——关注每天科技社会生活新变化gihot.com

数据显示,存储优化可直接将175B参数模型的训练周期压缩30%,对应百万美元级的成本被填平。而在推理端,当10%的异常请求遭遇存储延迟波动时,P99响应时间会瞬间突破SLA红线,这正是某自动驾驶公司在线服务突发降级的根本诱因。imq即热新闻——关注每天科技社会生活新变化gihot.com

DeepSeek之所以选择自研3FS的本质,正是发现了存储架构在AI应用中的重要性。《金融行业先进AI存力报告》中提到,在同样的GPU算力规模下,存储性能的高低可能造成模型训练周期数倍的差异。在算力竞赛的背后,一场关于存储性能密度的暗战悄然升级,自研存储显得尤为重要。imq即热新闻——关注每天科技社会生活新变化gihot.com

5家头部厂商角逐AI存储,国产能否拔得头筹imq即热新闻——关注每天科技社会生活新变化gihot.com

相比于传统AI的需求,大模型对存力需求场景具有数据量大、参数规模大、训练周期长等特点。imq即热新闻——关注每天科技社会生活新变化gihot.com

为了提升大模型训练速度,需要对大规模数据集进行快速加载,且一般采用数百甚至上万张GPU构成计算集群进行高效的并行计算,需要高并发输入/输出(I/O)处理,而训练数据集呈现海量小文件的特点,文件量在几亿到几十亿量级,对应的带宽需求可能每秒要达到上TB,这就要求存储系统具备强大的数据管理能力,业界能达到该能力的仅寥寥几家。imq即热新闻——关注每天科技社会生活新变化gihot.com

从国内外优秀的并行存储产品具体能力对比来看,IBM作为老牌存储品牌,其产品从HPC场景成功向AI场景演进。在全球AI场景得到广泛应用的DDN,多个读、写带宽等关键性能指标上表现突出,但DDN由于技术封闭性、专有化硬件等原因,导致用户建设成本过高。imq即热新闻——关注每天科技社会生活新变化gihot.com

国产厂商DeepSeek 3FS虽然是开源的新产品,但相对老牌存储也有不错的表现,在读带宽能力上表现优异,单集群6.6TB/s,平均单节点36.7GB/s的读带宽。imq即热新闻——关注每天科技社会生活新变化gihot.com

另一家国产厂商京东云云海,在这个专业领域同样表现出色,以单节点95GB/s的读带宽、60GB/s的写带宽,进一步拉低了国产存储与国际老牌厂商的差距。相较于DeepSeek的3FS,京东云云海在提供高性能的同时适用性更广,可以同时满足DeepSeek、ChatGPT、LLaMA等20余种主流大模型的存力需求。imq即热新闻——关注每天科技社会生活新变化gihot.com

综上来看,随着大模型快速向纵深场景演进,对存储的要求也越来越高,DeepSeek 3FS、京东云云海等国产存储,显示出在处理大规模数据集时的优越性能。未来国产存储能否拔得头筹,让我们拭目以待。imq即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-2-1074-0.html当红炸子鸡DeepSeek,为何花心思自研存储?

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:“七星连珠”为何并非“罕见奇观”

下一篇:多地积极布局智慧养老 养老机器人已“上岗”

为你推荐
一项发表在《科学》杂志上的新研究,为脊髓损伤患者恢复复杂触觉感知带来了前所未有的希望。瑞典查尔姆斯理工大学研究团队首次推出一种可安装在椅子...
01-21
1月12日,以大语言模型为底座的健康体检报告智能主检系统在中南大学湘雅三医院全面启用。该系统由浙江禾连健康管理有限公司,联合中国人民解放军总医...
01-21
春节假期已经接近尾声不少小伙伴开始踏上返程的旅途为了您能安全返程请您收下这份高速公路的交通安全提...
02-03
  原标题:记者在现场丨“少跑了20多万公里”  “以前,我们办张采矿证,得来来回回往返凌源、朝阳、沈阳...
02-10
  中新经纬1月17日电 据文旅部网站消息,1月17日,文旅部办公厅发布《2025年“游购乡村”消费迎春活动的通知》(以下简称《通知》)。  《通知》显示,“游购乡村”活动时间为1...
01-21
  中新经纬1月17日电 (万可义)“今年打算继续扩大销售网点,线上线下实体一起打开欧洲其他国家市场。”谈及中国电动出行产品的海外销售,意大利福建侨商联合会会长刘振钢近日...
01-21
1月15日,阿维塔中心南京大明路店隆重开业,作为阿维塔大家庭中的新成员,南京大明路中心店集展示、销售、售后服务为一体,让众多热爱阿维塔品牌的朋友近距离感受阿维塔“与众不同...
01-21
1 月 22 日消息,特斯拉在去年推出了一款主打无人驾驶的 CyberCab出租车,这款小车取消了方向盘,座舱里只有一块中控屏,据称手动控制时需要类似于游戏手柄的控制器控制。...
01-23
  1、《树下有片红房子》景栖迟一开始喜欢过祁琪,但那也只是男生对漂亮女生的一种浅浅心动和好感罢了。  2、景栖迟真正知道喜欢是什么样的感觉,还是在认识陈欢尔之后,他...
02-18
《逆袭人生之情定大士院》的播出吸引了更多人对优秀演员、导演和编剧的关注,也让观众对剧情产生了浓厚的兴趣。许多网友纷纷上网搜寻相关信息,希望能找到满意...
02-21
  大众网记者 孙海燕 济南报道  2024年9月3日,国家卫健委等14部门联合发布《关于推进健康乡村建设的指导意见》,将健康乡村建设作为落实乡村振兴和健康中国两大国家...
01-21
21世纪经济报道记者 韩利明 上海报道 丙类药品目录的落地,已是箭在弦上。1月17日上午,在国家医保局“保障人民健康,赋能经济发展”的主题...
01-21
为进一步提升班主任管理水平,探索班级管理的新方法,营口市中等专业学校学生科和FF名班主任工作室于2024年...
01-21
作者:郑莉(首都师范大学音乐学院音乐教育系主任、教授)美育课程在高校通识教育中的重要作用毋庸置疑。要提...
01-22
  四川省首家省级法人城市商业银行,开年换帅。据“四川妇女儿童中心”公众号消息,省妇联与四川...
01-22
  中国证券报记者1月26日获悉,国家金融监督管理总局近日已批复开展第二批保险资金长期股票投资...
02-05
摩羯座的男生通常比较内敛和保守,不太擅长表达自己的感情。当他们对一个女生有意思时,往...
01-22
摩羯座的人通常比较内敛和保守,他们不太擅长表达自己的情感,因此要让摩羯座主动找你并不...
01-22
揭开潮流男装的神秘面纱:一次令人惊喜的开箱体验每当季节更替,潮流的风向标便会随之变动。作为一个对时尚充满热情的男士,我始终保持着对潮流服饰的敏感。最近,我收到了一个由新...
02-17
如何模仿男士头女明星的时尚装扮在当今时尚界,男士头女明星凭借其独特的风格和大胆的时尚表现,引领了许多潮流趋势。我作为一名时尚爱好者,尤其是喜欢从她们身上汲取灵感,尝试将...
02-17
2月7日消息,中国商业联合会今日发布2月份中国零售业景气指数(CRPI)。2月份,中国零售业景气指数(CRPI)为50.1%,环比下降1.0个百分点。分析认为,今年春节的大宗年货消费集中在1月份,CRP...
02-07
2月15日消息,段永平在美国管理的一个投资账户“H&H International Investment”提交的最新数据显示,截至2024年四季度,段永平持有8只美股,持仓市值145.16亿美元,约合人民币1053亿...
02-16
2月11日消息,“市象”公众号发文称,美团内部正在进行一场AI“大跃进”。有美团内部员工透露,今年年初定的大OP(目标计划)就是四个All in,分别是海外市场、下沉市场、无人机、AI。...
02-11
3月8日消息,同程旅行日前宣布,自主研发的旅游专属大模型“程心AI”正式完成与DeepSeek的技术融合,推出“AI+实时预订”服务。即日起,同程旅行APP面向首批10万用户开放智能行程规...
03-09
全球性金融券商集团英国EBC Group平台始终致力于以领先生态,与全球交易者共塑交易的未来。 自第一届交易大赛起,为赤忱的热爱和卓越的才华提供舞台,在全球内寻找交易好手以赋能...
01-24
近日,华力创科学宣布完成数千万元A+轮融资,本轮融资由金属3D打印领域头部上市公司铂力特独家投资。据披露,本轮融资所募集的资金将专注于深挖高性能光学多模态感知技术,结合金属...
01-24
《最终幻想7:重生》PC版即将于北京时间1月23日晚上10点解锁,该作PC版媒体评分现已解禁,M站目前共收到29个评论,均分90,其中22个好评、1个中评,6个暂未给出评分。另外...
01-24
根据《怪物猎人:荒野》日文官推透露,《怪物猎人:荒野》正式版仍然会像《怪物猎人:世界》一样,对玩家重新编辑角色外观进行收费。 在游戏发售时,官方会为为所有玩家免...
02-11
2月4日,泰国副总理兼国防部长普坦表示,将于当天下令对泰缅边境的缅甸地区断电,并警告如有怠慢者将被调职。△泰国副总理兼国防部长普坦(左)泰国总理佩通坦(中)此外,泰国政府当天举行...
02-04
新华社布宜诺斯艾利斯2月5日电(记者张铎)阿根廷政府5日宣布,阿总统米莱已决定该国退出世界卫生组织。阿根廷总统府发言人阿多尔尼当天在新闻发布会上说,阿根廷不允许任何国际组...
02-06
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮