当红炸子鸡DeepSeek,为何花心思自研存储?

1年前 来源:央广网 观看:142

这两天DeepSeek开源3FS并行文件系统的消息,犹如向AI基础设施领域投下一枚深水炸弹。3FS每秒能搬运6.6TB数据,相当于1秒钟传输完700部4K高清电影。还能自动调资源,国产芯片用了它,跟国际大牌的差距直接缩小到15%。Qk8即热新闻——关注每天科技社会生活新变化gihot.com

这并非简单的技术迭代——当Llama3 70B模型单次训练需吞掉15PB数据(相当于连续播放250万小时4K视频)时,全球AI实验室突然意识到:决定大模型训练效率的不仅是GPU算力,存储系统正成为影响进度的一大瓶颈。Qk8即热新闻——关注每天科技社会生活新变化gihot.com

当AI算力狂飙时,存储正在成为隐形战场Qk8即热新闻——关注每天科技社会生活新变化gihot.com

2024年,某头部AI公司曾因存储带宽不足,导致2000张A100显卡的算力利用率长期低于40%,单日经济损失超百万美元。这暴露了AI时代的“木桶效应”——当GPU计算速度进入微秒级时,一次突发的存储抖动就可能导致整个训练任务崩溃,让数周的计算成果瞬间蒸发。这或许也是DeepSeek自研存储的原因。Qk8即热新闻——关注每天科技社会生活新变化gihot.com

数据显示,存储优化可直接将175B参数模型的训练周期压缩30%,对应百万美元级的成本被填平。而在推理端,当10%的异常请求遭遇存储延迟波动时,P99响应时间会瞬间突破SLA红线,这正是某自动驾驶公司在线服务突发降级的根本诱因。Qk8即热新闻——关注每天科技社会生活新变化gihot.com

DeepSeek之所以选择自研3FS的本质,正是发现了存储架构在AI应用中的重要性。《金融行业先进AI存力报告》中提到,在同样的GPU算力规模下,存储性能的高低可能造成模型训练周期数倍的差异。在算力竞赛的背后,一场关于存储性能密度的暗战悄然升级,自研存储显得尤为重要。Qk8即热新闻——关注每天科技社会生活新变化gihot.com

5家头部厂商角逐AI存储,国产能否拔得头筹Qk8即热新闻——关注每天科技社会生活新变化gihot.com

相比于传统AI的需求,大模型对存力需求场景具有数据量大、参数规模大、训练周期长等特点。Qk8即热新闻——关注每天科技社会生活新变化gihot.com

为了提升大模型训练速度,需要对大规模数据集进行快速加载,且一般采用数百甚至上万张GPU构成计算集群进行高效的并行计算,需要高并发输入/输出(I/O)处理,而训练数据集呈现海量小文件的特点,文件量在几亿到几十亿量级,对应的带宽需求可能每秒要达到上TB,这就要求存储系统具备强大的数据管理能力,业界能达到该能力的仅寥寥几家。Qk8即热新闻——关注每天科技社会生活新变化gihot.com

从国内外优秀的并行存储产品具体能力对比来看,IBM作为老牌存储品牌,其产品从HPC场景成功向AI场景演进。在全球AI场景得到广泛应用的DDN,多个读、写带宽等关键性能指标上表现突出,但DDN由于技术封闭性、专有化硬件等原因,导致用户建设成本过高。Qk8即热新闻——关注每天科技社会生活新变化gihot.com

国产厂商DeepSeek 3FS虽然是开源的新产品,但相对老牌存储也有不错的表现,在读带宽能力上表现优异,单集群6.6TB/s,平均单节点36.7GB/s的读带宽。Qk8即热新闻——关注每天科技社会生活新变化gihot.com

另一家国产厂商京东云云海,在这个专业领域同样表现出色,以单节点95GB/s的读带宽、60GB/s的写带宽,进一步拉低了国产存储与国际老牌厂商的差距。相较于DeepSeek的3FS,京东云云海在提供高性能的同时适用性更广,可以同时满足DeepSeek、ChatGPT、LLaMA等20余种主流大模型的存力需求。Qk8即热新闻——关注每天科技社会生活新变化gihot.com

综上来看,随着大模型快速向纵深场景演进,对存储的要求也越来越高,DeepSeek 3FS、京东云云海等国产存储,显示出在处理大规模数据集时的优越性能。未来国产存储能否拔得头筹,让我们拭目以待。Qk8即热新闻——关注每天科技社会生活新变化gihot.com

这两天DeepSeek开源3FS并行文件系统的消息,犹如向AI基础设施领域投下一枚深水炸弹。3FS每秒能搬运6.6TB数据,相当于1秒钟传输完700部4K高清电影。还能自动调资源,国产芯片用了它,跟国际大牌的差距直接缩小到15%。Qk8即热新闻——关注每天科技社会生活新变化gihot.com

这并非简单的技术迭代——当Llama3 70B模型单次训练需吞掉15PB数据(相当于连续播放250万小时4K视频)时,全球AI实验室突然意识到:决定大模型训练效率的不仅是GPU算力,存储系统正成为影响进度的一大瓶颈。Qk8即热新闻——关注每天科技社会生活新变化gihot.com

当AI算力狂飙时,存储正在成为隐形战场Qk8即热新闻——关注每天科技社会生活新变化gihot.com

2024年,某头部AI公司曾因存储带宽不足,导致2000张A100显卡的算力利用率长期低于40%,单日经济损失超百万美元。这暴露了AI时代的“木桶效应”——当GPU计算速度进入微秒级时,一次突发的存储抖动就可能导致整个训练任务崩溃,让数周的计算成果瞬间蒸发。这或许也是DeepSeek自研存储的原因。Qk8即热新闻——关注每天科技社会生活新变化gihot.com

数据显示,存储优化可直接将175B参数模型的训练周期压缩30%,对应百万美元级的成本被填平。而在推理端,当10%的异常请求遭遇存储延迟波动时,P99响应时间会瞬间突破SLA红线,这正是某自动驾驶公司在线服务突发降级的根本诱因。Qk8即热新闻——关注每天科技社会生活新变化gihot.com

DeepSeek之所以选择自研3FS的本质,正是发现了存储架构在AI应用中的重要性。《金融行业先进AI存力报告》中提到,在同样的GPU算力规模下,存储性能的高低可能造成模型训练周期数倍的差异。在算力竞赛的背后,一场关于存储性能密度的暗战悄然升级,自研存储显得尤为重要。Qk8即热新闻——关注每天科技社会生活新变化gihot.com

5家头部厂商角逐AI存储,国产能否拔得头筹Qk8即热新闻——关注每天科技社会生活新变化gihot.com

相比于传统AI的需求,大模型对存力需求场景具有数据量大、参数规模大、训练周期长等特点。Qk8即热新闻——关注每天科技社会生活新变化gihot.com

为了提升大模型训练速度,需要对大规模数据集进行快速加载,且一般采用数百甚至上万张GPU构成计算集群进行高效的并行计算,需要高并发输入/输出(I/O)处理,而训练数据集呈现海量小文件的特点,文件量在几亿到几十亿量级,对应的带宽需求可能每秒要达到上TB,这就要求存储系统具备强大的数据管理能力,业界能达到该能力的仅寥寥几家。Qk8即热新闻——关注每天科技社会生活新变化gihot.com

从国内外优秀的并行存储产品具体能力对比来看,IBM作为老牌存储品牌,其产品从HPC场景成功向AI场景演进。在全球AI场景得到广泛应用的DDN,多个读、写带宽等关键性能指标上表现突出,但DDN由于技术封闭性、专有化硬件等原因,导致用户建设成本过高。Qk8即热新闻——关注每天科技社会生活新变化gihot.com

国产厂商DeepSeek 3FS虽然是开源的新产品,但相对老牌存储也有不错的表现,在读带宽能力上表现优异,单集群6.6TB/s,平均单节点36.7GB/s的读带宽。Qk8即热新闻——关注每天科技社会生活新变化gihot.com

另一家国产厂商京东云云海,在这个专业领域同样表现出色,以单节点95GB/s的读带宽、60GB/s的写带宽,进一步拉低了国产存储与国际老牌厂商的差距。相较于DeepSeek的3FS,京东云云海在提供高性能的同时适用性更广,可以同时满足DeepSeek、ChatGPT、LLaMA等20余种主流大模型的存力需求。Qk8即热新闻——关注每天科技社会生活新变化gihot.com

综上来看,随着大模型快速向纵深场景演进,对存储的要求也越来越高,DeepSeek 3FS、京东云云海等国产存储,显示出在处理大规模数据集时的优越性能。未来国产存储能否拔得头筹,让我们拭目以待。Qk8即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-2-1074-0.html当红炸子鸡DeepSeek,为何花心思自研存储?

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:“七星连珠”为何并非“罕见奇观”

下一篇:多地积极布局智慧养老 养老机器人已“上岗”

为你推荐
1月20日,哈尔滨第九届亚冬会火种采集仪式在哈尔滨太阳岛广场上举行。千年巨石太阳石后,连绵的群山造型冰雕在阳光照耀下晶莹剔透,冰雪工匠们以精湛技...
01-21
德国联邦物理技术研究院团队成功开发出一系列先进的光学原子钟,其中包括单离子时钟和光晶格时钟。这些新型时钟展示了前所未有的精度,可比现有的定义...
01-22
  2月13日,金杯汽车股份有限公司发布晚间公告称,公司董事会收到许晓敏先生的书面辞职报告,因其达到法定...
02-15
    敦煌研究院文物数字化保护团队在进行数字化采集。  敦煌研究院供图  2006年,敦煌研...
02-18
  今天(20日)各地正式实施手机、平板、智能手表(手环)等数码产品购新补贴政策,“国补”范围从家电、汽车向日常消费电子领域扩展。个人消费者购买单件销售价格不超过6000元...
01-21
新闻记者 康旭阳 通讯员 沈商轩实习生 何世银1月21日,全国手机、平板、智能手表(手环)购新补贴政策实施暨“年在荆楚 巳巳如意”湖北新春消费季启动仪式在武汉举行。新闻记者获...
01-22
[本站 资讯] 1月23日,阿维塔官方宣布启动“春节不打烊”用户服务,其通过线上、线下多渠道升级悦心服务。即日起至2月5日,阿维塔中心及钣喷中心将为车主提供免费专业的车...
01-24
1 月 24 日消息,比亚迪近日宣布,计划于 2025 年首次在日本推出插电式混合动力汽车,以扩大其在日本市场的影响力。该市场长期以来由本土汽车制造商主导。据日经亚洲报道...
01-25
  传统文化的时代化表达让古都西安的演艺市场迸发新活力,图为演员在历史舞台剧《赳赳大秦》中...
01-22
最近几天,几部新剧陆续播出,其中包括备受期待的《消失的厨神之阿呆拜寿》。该剧播出后反响热烈,热度持续攀升,在各大社交平台上频繁登上热搜。《消失的厨神之阿...
02-22
  近期,流感等呼吸道疾病进入高发期。全国流感病毒阳性率上升,尤以甲流多发。  中国疾控中心1...
01-21
21世纪经济报道记者武瑛港 实习生张烁 李依浓 北京报道近日多家医疗器械上市公司发布业绩预告,行业的“寒冬”似乎仍在持续。乐普医疗和春...
02-09
贵大新闻网讯(图文/徐恩宇)1月15日,为落实贵州省委省政府关于省外高水平大学...
01-21
央广网北京10月29日消息(记者 吴佳怡)即将到来的十一月,有哪些需要关注的高考热点?近日,阳光高考信息平台对...
01-22
  中国经济网北京1月21日讯 A股五大上市保险公司近日纷纷“晒”出2024年全年保费收入(指原保险...
01-21
  “年终奖刚发,本来打算去银行网点买定期存款,但利率实在太低。客户经理推荐了一款针对新客户...
01-22
双子座的男生天性活泼好动,喜欢追求新鲜刺激的感觉。他们往往对爱情持有一种轻松随意的...
01-22
天蝎座男性通常被认为是神秘、独立和富有魅力的人。如果你想让一个天蝎座男性对你死心...
01-22
穿搭化妆风格? 菲律宾穿搭风格?一、穿搭化妆风格?每个人的气质不同,在穿搭上有很多种风格,所以,妆容方面也是有很多风格的。那么,接下来我们一起来看看妆容有哪些风格吧!感兴趣的朋...
02-07
红色衬衫搭配什么外套?一、红色衬衫搭配什么外套?红色衬衫,可以搭配黑色西装,红与黑的搭配也比较经典好看,女生的话可以搭配相应颜色的针织开衫,也显得比较自信优雅百搭且好看。白...
02-17
2月10日消息,据香港01,小红书近日洽租香港铜锣湾时代广场写字楼,承租一个面积约7000平方英尺(约650平方米)的高层单位,作为香港办公室,成交租金每平方英尺约40港元。以此计算,小红书...
02-11
2月17日消息,抖音电商近日发布了关于打击网络水军的治理公告,从打击虚假流量的源头入手,保障消费者体验。公告显示,2024年,该平台共清理了160万个水军账号,日均拦截水军评论超250...
02-18
3月2日消息,京东健康旗下“京医千询”医疗大模型近日启动开源,成为国内医疗行业首个全面开源的垂类大模型。同时,在2月24日更新的MedBench评测榜单上,“京医千询”医疗大模型以...
03-03
京东阿里进一步开放合作。今年三八妇女节,“京东服务+”官方旗舰店正式入驻淘宝天猫。作为京东和淘宝天猫在该类目的首次合作,此举将进一步满足用户洗衣洗鞋、家纺清洗、家电...
03-09
2024年,全球宏观经济环境复杂多变,国内经济弱复苏背景下,固定收益市场成为投资者的重要选择。债券市场配置需求旺盛,收益率曲线平坦化,投资者对固定收益类基金的关注度显著提升。...
01-21
近日,宿迁时代储能科技有限公司(简称“宿迁时代储能”)完成A+轮数亿元融资。本轮融资由北京绿色能源基金领投,昌平能源智造基金、南京邦盛资本、北京...
02-07
大年初一,《真三国无双:起源》制作人庄知彦在X上发推,用中文“蛇年大吉,恭喜发财!”向中国玩家拜年,发布新年祝福。 他随后用日语再次向国内玩家恭贺新年,祝中国玩...
02-01
不知大家发现没有,我们在晚上做决定的时候,总会“大胆”很多,但第二天醒来不免会懊恼。这种到了晚上更易做出冲动决定的现象,在心理学上叫“深夜效应”。 白天大...
02-10
央视网消息:据网络平台实时数据,截至2月2日13时23分,2025年度电影总票房(含预售)突破85亿元。...
02-02
南极秦岭站是新时代我国建成的第一个常年科考站,今天(2月7日)是秦岭站开站一周年的日子。这座最新的考察站目前的建设进展怎么样?目前,中国第41次南极考察队已经高效完成了全部卸...
02-07
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮