当红炸子鸡DeepSeek,为何花心思自研存储?

5个月前 来源:央广网 观看:78

这两天DeepSeek开源3FS并行文件系统的消息,犹如向AI基础设施领域投下一枚深水炸弹。3FS每秒能搬运6.6TB数据,相当于1秒钟传输完700部4K高清电影。还能自动调资源,国产芯片用了它,跟国际大牌的差距直接缩小到15%。MT0即热新闻——关注每天科技社会生活新变化gihot.com

这并非简单的技术迭代——当Llama3 70B模型单次训练需吞掉15PB数据(相当于连续播放250万小时4K视频)时,全球AI实验室突然意识到:决定大模型训练效率的不仅是GPU算力,存储系统正成为影响进度的一大瓶颈。MT0即热新闻——关注每天科技社会生活新变化gihot.com

当AI算力狂飙时,存储正在成为隐形战场MT0即热新闻——关注每天科技社会生活新变化gihot.com

2024年,某头部AI公司曾因存储带宽不足,导致2000张A100显卡的算力利用率长期低于40%,单日经济损失超百万美元。这暴露了AI时代的“木桶效应”——当GPU计算速度进入微秒级时,一次突发的存储抖动就可能导致整个训练任务崩溃,让数周的计算成果瞬间蒸发。这或许也是DeepSeek自研存储的原因。MT0即热新闻——关注每天科技社会生活新变化gihot.com

数据显示,存储优化可直接将175B参数模型的训练周期压缩30%,对应百万美元级的成本被填平。而在推理端,当10%的异常请求遭遇存储延迟波动时,P99响应时间会瞬间突破SLA红线,这正是某自动驾驶公司在线服务突发降级的根本诱因。MT0即热新闻——关注每天科技社会生活新变化gihot.com

DeepSeek之所以选择自研3FS的本质,正是发现了存储架构在AI应用中的重要性。《金融行业先进AI存力报告》中提到,在同样的GPU算力规模下,存储性能的高低可能造成模型训练周期数倍的差异。在算力竞赛的背后,一场关于存储性能密度的暗战悄然升级,自研存储显得尤为重要。MT0即热新闻——关注每天科技社会生活新变化gihot.com

5家头部厂商角逐AI存储,国产能否拔得头筹MT0即热新闻——关注每天科技社会生活新变化gihot.com

相比于传统AI的需求,大模型对存力需求场景具有数据量大、参数规模大、训练周期长等特点。MT0即热新闻——关注每天科技社会生活新变化gihot.com

为了提升大模型训练速度,需要对大规模数据集进行快速加载,且一般采用数百甚至上万张GPU构成计算集群进行高效的并行计算,需要高并发输入/输出(I/O)处理,而训练数据集呈现海量小文件的特点,文件量在几亿到几十亿量级,对应的带宽需求可能每秒要达到上TB,这就要求存储系统具备强大的数据管理能力,业界能达到该能力的仅寥寥几家。MT0即热新闻——关注每天科技社会生活新变化gihot.com

从国内外优秀的并行存储产品具体能力对比来看,IBM作为老牌存储品牌,其产品从HPC场景成功向AI场景演进。在全球AI场景得到广泛应用的DDN,多个读、写带宽等关键性能指标上表现突出,但DDN由于技术封闭性、专有化硬件等原因,导致用户建设成本过高。MT0即热新闻——关注每天科技社会生活新变化gihot.com

国产厂商DeepSeek 3FS虽然是开源的新产品,但相对老牌存储也有不错的表现,在读带宽能力上表现优异,单集群6.6TB/s,平均单节点36.7GB/s的读带宽。MT0即热新闻——关注每天科技社会生活新变化gihot.com

另一家国产厂商京东云云海,在这个专业领域同样表现出色,以单节点95GB/s的读带宽、60GB/s的写带宽,进一步拉低了国产存储与国际老牌厂商的差距。相较于DeepSeek的3FS,京东云云海在提供高性能的同时适用性更广,可以同时满足DeepSeek、ChatGPT、LLaMA等20余种主流大模型的存力需求。MT0即热新闻——关注每天科技社会生活新变化gihot.com

综上来看,随着大模型快速向纵深场景演进,对存储的要求也越来越高,DeepSeek 3FS、京东云云海等国产存储,显示出在处理大规模数据集时的优越性能。未来国产存储能否拔得头筹,让我们拭目以待。MT0即热新闻——关注每天科技社会生活新变化gihot.com

这两天DeepSeek开源3FS并行文件系统的消息,犹如向AI基础设施领域投下一枚深水炸弹。3FS每秒能搬运6.6TB数据,相当于1秒钟传输完700部4K高清电影。还能自动调资源,国产芯片用了它,跟国际大牌的差距直接缩小到15%。MT0即热新闻——关注每天科技社会生活新变化gihot.com

这并非简单的技术迭代——当Llama3 70B模型单次训练需吞掉15PB数据(相当于连续播放250万小时4K视频)时,全球AI实验室突然意识到:决定大模型训练效率的不仅是GPU算力,存储系统正成为影响进度的一大瓶颈。MT0即热新闻——关注每天科技社会生活新变化gihot.com

当AI算力狂飙时,存储正在成为隐形战场MT0即热新闻——关注每天科技社会生活新变化gihot.com

2024年,某头部AI公司曾因存储带宽不足,导致2000张A100显卡的算力利用率长期低于40%,单日经济损失超百万美元。这暴露了AI时代的“木桶效应”——当GPU计算速度进入微秒级时,一次突发的存储抖动就可能导致整个训练任务崩溃,让数周的计算成果瞬间蒸发。这或许也是DeepSeek自研存储的原因。MT0即热新闻——关注每天科技社会生活新变化gihot.com

数据显示,存储优化可直接将175B参数模型的训练周期压缩30%,对应百万美元级的成本被填平。而在推理端,当10%的异常请求遭遇存储延迟波动时,P99响应时间会瞬间突破SLA红线,这正是某自动驾驶公司在线服务突发降级的根本诱因。MT0即热新闻——关注每天科技社会生活新变化gihot.com

DeepSeek之所以选择自研3FS的本质,正是发现了存储架构在AI应用中的重要性。《金融行业先进AI存力报告》中提到,在同样的GPU算力规模下,存储性能的高低可能造成模型训练周期数倍的差异。在算力竞赛的背后,一场关于存储性能密度的暗战悄然升级,自研存储显得尤为重要。MT0即热新闻——关注每天科技社会生活新变化gihot.com

5家头部厂商角逐AI存储,国产能否拔得头筹MT0即热新闻——关注每天科技社会生活新变化gihot.com

相比于传统AI的需求,大模型对存力需求场景具有数据量大、参数规模大、训练周期长等特点。MT0即热新闻——关注每天科技社会生活新变化gihot.com

为了提升大模型训练速度,需要对大规模数据集进行快速加载,且一般采用数百甚至上万张GPU构成计算集群进行高效的并行计算,需要高并发输入/输出(I/O)处理,而训练数据集呈现海量小文件的特点,文件量在几亿到几十亿量级,对应的带宽需求可能每秒要达到上TB,这就要求存储系统具备强大的数据管理能力,业界能达到该能力的仅寥寥几家。MT0即热新闻——关注每天科技社会生活新变化gihot.com

从国内外优秀的并行存储产品具体能力对比来看,IBM作为老牌存储品牌,其产品从HPC场景成功向AI场景演进。在全球AI场景得到广泛应用的DDN,多个读、写带宽等关键性能指标上表现突出,但DDN由于技术封闭性、专有化硬件等原因,导致用户建设成本过高。MT0即热新闻——关注每天科技社会生活新变化gihot.com

国产厂商DeepSeek 3FS虽然是开源的新产品,但相对老牌存储也有不错的表现,在读带宽能力上表现优异,单集群6.6TB/s,平均单节点36.7GB/s的读带宽。MT0即热新闻——关注每天科技社会生活新变化gihot.com

另一家国产厂商京东云云海,在这个专业领域同样表现出色,以单节点95GB/s的读带宽、60GB/s的写带宽,进一步拉低了国产存储与国际老牌厂商的差距。相较于DeepSeek的3FS,京东云云海在提供高性能的同时适用性更广,可以同时满足DeepSeek、ChatGPT、LLaMA等20余种主流大模型的存力需求。MT0即热新闻——关注每天科技社会生活新变化gihot.com

综上来看,随着大模型快速向纵深场景演进,对存储的要求也越来越高,DeepSeek 3FS、京东云云海等国产存储,显示出在处理大规模数据集时的优越性能。未来国产存储能否拔得头筹,让我们拭目以待。MT0即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-2-1074-0.html当红炸子鸡DeepSeek,为何花心思自研存储?

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:“七星连珠”为何并非“罕见奇观”

下一篇:多地积极布局智慧养老 养老机器人已“上岗”

为你推荐
1月13日,由浙江大学杭州国际科创中心(以下简称“科创中心”)人形机器人创新研究院联合镜识科技有限公司、杭州凯达尔焊接机器人股份有限公司研发的四...
01-21
1月7日,哈电集团哈尔滨电气国际工程有限责任公司(以下简称“哈电集团国际公司”)、天津市河西区政府联合举办“三改联动”专题交流会。记者从会上获悉...
01-24
  攻坚之年,辽宁战绩如何?社会各界十分关注。  1月19日,省政府新闻办召开的2024年全省经济运行情况新...
01-21
昨天4时至今天20时辽宁大部地区出现大雪到暴雪其中丹东地区局部出现大暴雪降雪总量实况  全省275个气...
01-28
  NFC是近场通信的简称,它是一种短距离的无线通信技术,能让电子设备在靠得很近的时候进行数据交换,这个距离一般在几厘米之内。  刷公交卡、移动支付、电子门禁……日常...
01-21
  2024年是房地产市场“政策大年”,也是历经3年左右调整后开始止跌企稳的一年。2024年9月26日,...
01-22
  原标题:新能源汽车成为中国制造“亮丽名片”多举措保障产业良好发展  在21日国务院新闻办...
01-24
2 月 5 日消息,新春伊始,绿地集团宣布成立新能源汽车出口公司,号称“打造百亿级新能源汽车出口平台”。同时,平台首个出口订单成功签约,将以全球热门车型为主,销往西亚、...
02-06
近日,多部新剧陆续推出,其中备受期待的《夜访吸血鬼第二季》也终于与观众见面。该剧上映后引起了广泛讨论,在各大社交平台上成为了热门话题。接下来将对《夜访...
02-20
最近打开社交app时,经常能看到关于“许食堂韩剧女主是谁演的”的讨论。《许食堂》是一部备受期待的韩剧,由EXY秋昭贞和金珉锡主演,讲述了一段奇幻又浪漫的喜剧...
02-20
这里是《21健讯Daily》,欢迎与21世纪经济报道新健康团队共同关注医药健康行业最新事件!政策动向今年的医保目录调整时间将提前1月17日,国家医...
01-21
21世纪经济报道记者季媛媛 上海报道 “复星医药私有化复宏汉霖”有了定论。1月22日,复星医药发布公告,控股子公司复星新药拟以现金及/或换...
01-23
  大众网记者 司心鹏 报道  12月25日,济南特殊教育中心与济南市公安局公共交通分局联动会议在自强楼会议室召开。  济南特殊教育中心的学校领导热情接待了来访的警...
01-21
  大众网记者 司心鹏 通讯员 薛现伟 康宁 报道  12月8日,山东省职业院校技能大赛(高职组)“应用软件系统开发”赛项在山东工业职业学院举行,全省共57个参赛队,经过紧张角...
01-21
  中央经济工作会议提出,要稳妥处置地方中小金融机构风险。近期金融监管总局召开的年度监管工...
01-23
  “春节后,豆粕一天一个价,今天就涨了300元(每吨)。”提及近期豆粕价格情况,广东一家中型饲料企业...
02-13
双鱼座的男生通常是浪漫而敏感的,他们善于表达情感,但有时也会因为过于理想化而迷失自己...
01-22
水瓶座的男生是一个非常独立和自由的人,他们对于爱情有着独特的看法和追求。他们喜欢与...
01-22
165男士成熟稳重穿搭攻略?一、165男士成熟稳重穿搭攻略?165男生穿衣搭配技巧:①:165男生在穿衣搭配方面要注意最好穿同色系的衣服、短款上衣,此外,不要穿的太花哨。总之,选择适合自...
02-17
加拿大户外运动品牌排行榜?1、TheNorthFace北面  品牌创立时间:1966年  北面是1966年创立于美国的全球知名户外运动品牌,专注于为全球户外运动爱好者提供户外服装、背包、...
02-17
2月4日消息,百果园日前发布2024年业绩预警公告,相较2023年财政年度的拥有人应占利润约3.62亿元,预期2024年财政年度公司拥有人应占亏损3.5亿元-4亿元。同时,公司预期于2024年财...
02-07
2月10日消息,消费者研究与零售监测公司尼尔森IQ(NIQ)近日宣布与京东超市达成战略合作,双方将就快消品类别进行数据合作,共建消费趋势洞察。此外,双方还将启动“扶摇计划”,共同探索...
02-11
2月6日消息,交通部门预计,今年春运期间,自驾出行预计达到72亿人次,约占全社会跨区域人员流动量的八成,高速公路车流量单日峰值或创历史新高。全球自驾游平台租租车数据显示,春节期...
02-07
听花酒又支棱起来了?近日,多名网友发帖称,看到听花酒投放的电视广告——广告画面简洁,宣传语为“听花酒,装在瓶子里的春天”,并附上咨询...
03-01
全球性金融券商集团英国EBC Group平台始终致力于以领先生态,与全球交易者共塑交易的未来。 自第一届交易大赛起,为赤忱的热爱和卓越的才华提供舞台,在全球内寻找交易好手以赋能...
01-24
当钟表的指针指向晚上8点,全世界的目光都聚焦在了中国的电视屏幕上,共同期待着一年一度的春晚盛宴。而今年的春晚,更因恰逢首个非遗新年而显得格外特别。一、春晚“清新奇迹”:...
02-09
5070是英伟达新50系更具性价比的主流显卡,根据欧洲零售商Proshop的曝光,NVIDIA的中端显卡GeForce RTX 5070 Ti预计将在2月20日发布。 这也意味着RTX 5070 Ti首次...
01-24
快科技2月5日消息,今天,华为董事长梁华透露了过去1年公司的成绩,还是相当不错的。 华为董事长梁华在广东省高质量发展大会上透露,2024年华为整体经营达到预期,全年...
02-06
据新华社报道,美国总统特朗普2月1日签署行政令,对进口自中国的商品加征10%的关税。美国的这一最新贸易保护措施在国际社会和美国国内遭到广泛反对。 商务部回应美对华加征关税...
02-02
△以色列外交部长萨尔(资料图)以色列外交部长萨尔5日说,以色列将不参加联合国人权理事会。萨尔当天在社交媒体上说,以色列欢迎美国总统特朗普关于美国退出联合国人权理事会的决...
02-06
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮