当红炸子鸡DeepSeek,为何花心思自研存储?

1年前 来源:央广网 观看:121

这两天DeepSeek开源3FS并行文件系统的消息,犹如向AI基础设施领域投下一枚深水炸弹。3FS每秒能搬运6.6TB数据,相当于1秒钟传输完700部4K高清电影。还能自动调资源,国产芯片用了它,跟国际大牌的差距直接缩小到15%。D0d即热新闻——关注每天科技社会生活新变化gihot.com

这并非简单的技术迭代——当Llama3 70B模型单次训练需吞掉15PB数据(相当于连续播放250万小时4K视频)时,全球AI实验室突然意识到:决定大模型训练效率的不仅是GPU算力,存储系统正成为影响进度的一大瓶颈。D0d即热新闻——关注每天科技社会生活新变化gihot.com

当AI算力狂飙时,存储正在成为隐形战场D0d即热新闻——关注每天科技社会生活新变化gihot.com

2024年,某头部AI公司曾因存储带宽不足,导致2000张A100显卡的算力利用率长期低于40%,单日经济损失超百万美元。这暴露了AI时代的“木桶效应”——当GPU计算速度进入微秒级时,一次突发的存储抖动就可能导致整个训练任务崩溃,让数周的计算成果瞬间蒸发。这或许也是DeepSeek自研存储的原因。D0d即热新闻——关注每天科技社会生活新变化gihot.com

数据显示,存储优化可直接将175B参数模型的训练周期压缩30%,对应百万美元级的成本被填平。而在推理端,当10%的异常请求遭遇存储延迟波动时,P99响应时间会瞬间突破SLA红线,这正是某自动驾驶公司在线服务突发降级的根本诱因。D0d即热新闻——关注每天科技社会生活新变化gihot.com

DeepSeek之所以选择自研3FS的本质,正是发现了存储架构在AI应用中的重要性。《金融行业先进AI存力报告》中提到,在同样的GPU算力规模下,存储性能的高低可能造成模型训练周期数倍的差异。在算力竞赛的背后,一场关于存储性能密度的暗战悄然升级,自研存储显得尤为重要。D0d即热新闻——关注每天科技社会生活新变化gihot.com

5家头部厂商角逐AI存储,国产能否拔得头筹D0d即热新闻——关注每天科技社会生活新变化gihot.com

相比于传统AI的需求,大模型对存力需求场景具有数据量大、参数规模大、训练周期长等特点。D0d即热新闻——关注每天科技社会生活新变化gihot.com

为了提升大模型训练速度,需要对大规模数据集进行快速加载,且一般采用数百甚至上万张GPU构成计算集群进行高效的并行计算,需要高并发输入/输出(I/O)处理,而训练数据集呈现海量小文件的特点,文件量在几亿到几十亿量级,对应的带宽需求可能每秒要达到上TB,这就要求存储系统具备强大的数据管理能力,业界能达到该能力的仅寥寥几家。D0d即热新闻——关注每天科技社会生活新变化gihot.com

从国内外优秀的并行存储产品具体能力对比来看,IBM作为老牌存储品牌,其产品从HPC场景成功向AI场景演进。在全球AI场景得到广泛应用的DDN,多个读、写带宽等关键性能指标上表现突出,但DDN由于技术封闭性、专有化硬件等原因,导致用户建设成本过高。D0d即热新闻——关注每天科技社会生活新变化gihot.com

国产厂商DeepSeek 3FS虽然是开源的新产品,但相对老牌存储也有不错的表现,在读带宽能力上表现优异,单集群6.6TB/s,平均单节点36.7GB/s的读带宽。D0d即热新闻——关注每天科技社会生活新变化gihot.com

另一家国产厂商京东云云海,在这个专业领域同样表现出色,以单节点95GB/s的读带宽、60GB/s的写带宽,进一步拉低了国产存储与国际老牌厂商的差距。相较于DeepSeek的3FS,京东云云海在提供高性能的同时适用性更广,可以同时满足DeepSeek、ChatGPT、LLaMA等20余种主流大模型的存力需求。D0d即热新闻——关注每天科技社会生活新变化gihot.com

综上来看,随着大模型快速向纵深场景演进,对存储的要求也越来越高,DeepSeek 3FS、京东云云海等国产存储,显示出在处理大规模数据集时的优越性能。未来国产存储能否拔得头筹,让我们拭目以待。D0d即热新闻——关注每天科技社会生活新变化gihot.com

这两天DeepSeek开源3FS并行文件系统的消息,犹如向AI基础设施领域投下一枚深水炸弹。3FS每秒能搬运6.6TB数据,相当于1秒钟传输完700部4K高清电影。还能自动调资源,国产芯片用了它,跟国际大牌的差距直接缩小到15%。D0d即热新闻——关注每天科技社会生活新变化gihot.com

这并非简单的技术迭代——当Llama3 70B模型单次训练需吞掉15PB数据(相当于连续播放250万小时4K视频)时,全球AI实验室突然意识到:决定大模型训练效率的不仅是GPU算力,存储系统正成为影响进度的一大瓶颈。D0d即热新闻——关注每天科技社会生活新变化gihot.com

当AI算力狂飙时,存储正在成为隐形战场D0d即热新闻——关注每天科技社会生活新变化gihot.com

2024年,某头部AI公司曾因存储带宽不足,导致2000张A100显卡的算力利用率长期低于40%,单日经济损失超百万美元。这暴露了AI时代的“木桶效应”——当GPU计算速度进入微秒级时,一次突发的存储抖动就可能导致整个训练任务崩溃,让数周的计算成果瞬间蒸发。这或许也是DeepSeek自研存储的原因。D0d即热新闻——关注每天科技社会生活新变化gihot.com

数据显示,存储优化可直接将175B参数模型的训练周期压缩30%,对应百万美元级的成本被填平。而在推理端,当10%的异常请求遭遇存储延迟波动时,P99响应时间会瞬间突破SLA红线,这正是某自动驾驶公司在线服务突发降级的根本诱因。D0d即热新闻——关注每天科技社会生活新变化gihot.com

DeepSeek之所以选择自研3FS的本质,正是发现了存储架构在AI应用中的重要性。《金融行业先进AI存力报告》中提到,在同样的GPU算力规模下,存储性能的高低可能造成模型训练周期数倍的差异。在算力竞赛的背后,一场关于存储性能密度的暗战悄然升级,自研存储显得尤为重要。D0d即热新闻——关注每天科技社会生活新变化gihot.com

5家头部厂商角逐AI存储,国产能否拔得头筹D0d即热新闻——关注每天科技社会生活新变化gihot.com

相比于传统AI的需求,大模型对存力需求场景具有数据量大、参数规模大、训练周期长等特点。D0d即热新闻——关注每天科技社会生活新变化gihot.com

为了提升大模型训练速度,需要对大规模数据集进行快速加载,且一般采用数百甚至上万张GPU构成计算集群进行高效的并行计算,需要高并发输入/输出(I/O)处理,而训练数据集呈现海量小文件的特点,文件量在几亿到几十亿量级,对应的带宽需求可能每秒要达到上TB,这就要求存储系统具备强大的数据管理能力,业界能达到该能力的仅寥寥几家。D0d即热新闻——关注每天科技社会生活新变化gihot.com

从国内外优秀的并行存储产品具体能力对比来看,IBM作为老牌存储品牌,其产品从HPC场景成功向AI场景演进。在全球AI场景得到广泛应用的DDN,多个读、写带宽等关键性能指标上表现突出,但DDN由于技术封闭性、专有化硬件等原因,导致用户建设成本过高。D0d即热新闻——关注每天科技社会生活新变化gihot.com

国产厂商DeepSeek 3FS虽然是开源的新产品,但相对老牌存储也有不错的表现,在读带宽能力上表现优异,单集群6.6TB/s,平均单节点36.7GB/s的读带宽。D0d即热新闻——关注每天科技社会生活新变化gihot.com

另一家国产厂商京东云云海,在这个专业领域同样表现出色,以单节点95GB/s的读带宽、60GB/s的写带宽,进一步拉低了国产存储与国际老牌厂商的差距。相较于DeepSeek的3FS,京东云云海在提供高性能的同时适用性更广,可以同时满足DeepSeek、ChatGPT、LLaMA等20余种主流大模型的存力需求。D0d即热新闻——关注每天科技社会生活新变化gihot.com

综上来看,随着大模型快速向纵深场景演进,对存储的要求也越来越高,DeepSeek 3FS、京东云云海等国产存储,显示出在处理大规模数据集时的优越性能。未来国产存储能否拔得头筹,让我们拭目以待。D0d即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-2-1074-0.html当红炸子鸡DeepSeek,为何花心思自研存储?

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:“七星连珠”为何并非“罕见奇观”

下一篇:多地积极布局智慧养老 养老机器人已“上岗”

为你推荐
近日,在中国空间站梦天实验舱航天基础试验机柜其中一个“太空抽屉”里,开展了地外人工光合作用技术试验,成功实现了高效二氧化碳转换和氧气再生新技术...
01-21
  科技日报记者 刘霞  美国加州大学伯克利分校和韩国高丽大学科学家携手,从变色龙身上获得灵...
01-24
  1月22日,腊月二十三,这一天是北方传统的小年,而南方传统的小年则在腊月二十四。小年到,甲辰龙年...
01-23
  近日,工业和信息化部公布了2024年度绿色制造名单,来自辽宁的45家工厂荣获国家级绿色工厂,2家园区荣获...
02-17
  去年12月中旬以来,广东省在内的华南多个沿海城市海边出现大量“球形棕囊藻”,同时引发赤潮。  赤潮是一种海洋生态灾害现象,通常由藻类等海洋浮游生物的大量繁殖引起,...
01-21
中新社香港1月21日电 国泰集团21日公布数据显示,2024年,国泰航空及香港快运全年共载客逾2800万人次,同比上升30.7%;国泰货运全年共运载150万吨货物,同比增长11%。据统计,2024年12...
01-22
1月16日,位于长江路上的劳斯莱斯南京全新视觉展厅焕新启幕,精心设计的典雅空间与匠心独运的艺术臻品相辅相成,为客户的非凡创想激发灵感。现场还有两款劳斯莱斯Bespoke高级定制...
01-21
  新加坡交通部陆路交通管理局近日公布的数据显示,2024年注册新车数量43022辆。其中,中国电动汽...
01-27
《余烬之上》廖思远有官配吗?廖思远结局是什么?《余烬之上》中廖思远有官配,他的官配是荔枝。剧中荔枝由丁笑滢饰演,她性格耿直、敢爱敢恨、坚定聪明,对廖思远情...
02-21
电视剧《余烬之上》中已死的角色有很多,以下是一些主要角色:廖知白:在剧中为了揭露真相、报仇雪恨,历经艰难险阻,最后和戚美华同归于尽。莱拉:为给闺蜜彩娜报仇,按...
02-21
21世纪经济报道记者闫硕 北京报道1月17日上午,由中国肥胖联盟和广东省二十一世纪教育基金会共同主办的关于《柳叶刀-糖尿病与内分泌学》重...
01-21
21世纪经济报道记者 韩利明 上海报道随着日前四价HPV疫苗佳达修®的多项新适应证获得国家药品监督管理局的上市批准,成为中国境内首个且目...
01-25
  大众网记者 隋宜笑 报道  为培养适应新时代需求的全媒体新闻人才搭建更为广阔、坚实的平台,进一步深化校企合作,12 月 17 日,山东传媒职业学院新闻传播系于产教中心报...
01-21
青岛科技大学 聂楠竹 贾可好随着新学期的开始,大学校园迎来了一批批满怀憧憬与梦想的新生。对于新生而...
01-22
  原标题:中铁信托因股东损害公司债权人利益责任纠纷被告,5月27日在成都市武侯区人民法院审理 ...
01-22
  摘要  【“盘中异动赶紧锁仓”!锰硅全线大涨原因找到了?】银河期货大宗商品研究所黑色板块...
02-07
双子座的男生一向以机智聪慧、善于交际而闻名,他们天生具备吸引人的魅力。当一个双子男...
01-22
天秤男是十二星座中最具有浪漫气质的一位,他们善于表达情感,对待爱情充满了热情和渴望。...
01-22
日系穿搭特点?一、日系穿搭的特点在穿搭方面日系风简直把休闲做到了极致,要说亚洲潮流文化发祥地,原宿绝对是一大圣地这里除了有常见的时尚大牌,还有亲民的牌子,日系穿搭的主要特...
02-07
加拿大户外运动品牌排行榜?1、TheNorthFace北面  品牌创立时间:1966年  北面是1966年创立于美国的全球知名户外运动品牌,专注于为全球户外运动爱好者提供户外服装、背包、...
02-17
赚钱,无孔不入。1.大小品牌挤进爆火直播间一切生意的本质都是流量,在抖音尤是如此。不知道大家有没有发现,从去年开始,大小品牌开始挤进抖音爆火直播间,通过砸钱给主播送礼物,以此...
02-11
2月13日消息,苏宁易购宣布全面启动“6000元以上手机补贴计划”,2月14日至3月16日期间,针对6000元以上机型追加250-1000元补贴,每人限购一台,苏宁易购全国直营店可用。2月14日零点...
02-14
2月11日消息,“市象”公众号发文称,美团内部正在进行一场AI“大跃进”。有美团内部员工透露,今年年初定的大OP(目标计划)就是四个All in,分别是海外市场、下沉市场、无人机、AI。...
02-13
2月28日消息,蚂蚁集团发布内部通知,宣布对两项薪酬政策进行调整,以提升员工薪酬收入的流动性和激励即时性。根据通知:17级及以下员工取消年底13薪,改为并入到每月基本工资中发放;1...
03-01
【#交银投资等在陕西成立航空航天股权基金# 出资额10亿】天眼查App显示,近日,陕西财金交汇航空航天新动能股权投资产业基金合伙企业(有限合伙)成立,执行事务合伙人为陕西空天宏远...
01-21
全球性金融券商集团英国EBC Group平台始终致力于以领先生态,与全球交易者共塑交易的未来。 自第一届交易大赛起,为赤忱的热爱和卓越的才华提供舞台,在全球内寻找交易好手以赋能...
01-24
曾为《上古卷轴》系列献声的资深游戏配音演员韦斯·约翰逊突发重病入院,其家人已在GoFundMe平台发起医疗费募捐。截至发稿时,该活动已筹得超5.2万美元(最初目标5...
01-31
今日(1月31日),米哈游官方公布《崩坏:星穹铁道》阿格莱雅角色PV——「致命浪漫」,我们会重逢的,朋友。无论你行向何处,奥赫玛的大门始终为英雄敞开。 宣传片: 中文CV...
02-03
极目新闻通讯员 李璐“太感谢你们了!这么短的时间,就帮我找回了背包,为我解决了大麻烦!”1月31日上午,张先生来到湖北枣阳市公安局北城派出所领回自己失而复得的背包,紧紧握住民警...
02-02
极目新闻通讯员 李展鹏春运过半,东航武汉以高效运行和暖心服务交出一份亮眼答卷,截至2月1日,累计执行航班3200余班,运输旅客超44万人次,较2024年同期分别增长6.59%、10.42%;平均客...
02-03
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮