当红炸子鸡DeepSeek,为何花心思自研存储?

3个月前 来源:央广网 观看:36

这两天DeepSeek开源3FS并行文件系统的消息,犹如向AI基础设施领域投下一枚深水炸弹。3FS每秒能搬运6.6TB数据,相当于1秒钟传输完700部4K高清电影。还能自动调资源,国产芯片用了它,跟国际大牌的差距直接缩小到15%。lPq即热新闻——关注每天科技社会生活新变化gihot.com

这并非简单的技术迭代——当Llama3 70B模型单次训练需吞掉15PB数据(相当于连续播放250万小时4K视频)时,全球AI实验室突然意识到:决定大模型训练效率的不仅是GPU算力,存储系统正成为影响进度的一大瓶颈。lPq即热新闻——关注每天科技社会生活新变化gihot.com

当AI算力狂飙时,存储正在成为隐形战场lPq即热新闻——关注每天科技社会生活新变化gihot.com

2024年,某头部AI公司曾因存储带宽不足,导致2000张A100显卡的算力利用率长期低于40%,单日经济损失超百万美元。这暴露了AI时代的“木桶效应”——当GPU计算速度进入微秒级时,一次突发的存储抖动就可能导致整个训练任务崩溃,让数周的计算成果瞬间蒸发。这或许也是DeepSeek自研存储的原因。lPq即热新闻——关注每天科技社会生活新变化gihot.com

数据显示,存储优化可直接将175B参数模型的训练周期压缩30%,对应百万美元级的成本被填平。而在推理端,当10%的异常请求遭遇存储延迟波动时,P99响应时间会瞬间突破SLA红线,这正是某自动驾驶公司在线服务突发降级的根本诱因。lPq即热新闻——关注每天科技社会生活新变化gihot.com

DeepSeek之所以选择自研3FS的本质,正是发现了存储架构在AI应用中的重要性。《金融行业先进AI存力报告》中提到,在同样的GPU算力规模下,存储性能的高低可能造成模型训练周期数倍的差异。在算力竞赛的背后,一场关于存储性能密度的暗战悄然升级,自研存储显得尤为重要。lPq即热新闻——关注每天科技社会生活新变化gihot.com

5家头部厂商角逐AI存储,国产能否拔得头筹lPq即热新闻——关注每天科技社会生活新变化gihot.com

相比于传统AI的需求,大模型对存力需求场景具有数据量大、参数规模大、训练周期长等特点。lPq即热新闻——关注每天科技社会生活新变化gihot.com

为了提升大模型训练速度,需要对大规模数据集进行快速加载,且一般采用数百甚至上万张GPU构成计算集群进行高效的并行计算,需要高并发输入/输出(I/O)处理,而训练数据集呈现海量小文件的特点,文件量在几亿到几十亿量级,对应的带宽需求可能每秒要达到上TB,这就要求存储系统具备强大的数据管理能力,业界能达到该能力的仅寥寥几家。lPq即热新闻——关注每天科技社会生活新变化gihot.com

从国内外优秀的并行存储产品具体能力对比来看,IBM作为老牌存储品牌,其产品从HPC场景成功向AI场景演进。在全球AI场景得到广泛应用的DDN,多个读、写带宽等关键性能指标上表现突出,但DDN由于技术封闭性、专有化硬件等原因,导致用户建设成本过高。lPq即热新闻——关注每天科技社会生活新变化gihot.com

国产厂商DeepSeek 3FS虽然是开源的新产品,但相对老牌存储也有不错的表现,在读带宽能力上表现优异,单集群6.6TB/s,平均单节点36.7GB/s的读带宽。lPq即热新闻——关注每天科技社会生活新变化gihot.com

另一家国产厂商京东云云海,在这个专业领域同样表现出色,以单节点95GB/s的读带宽、60GB/s的写带宽,进一步拉低了国产存储与国际老牌厂商的差距。相较于DeepSeek的3FS,京东云云海在提供高性能的同时适用性更广,可以同时满足DeepSeek、ChatGPT、LLaMA等20余种主流大模型的存力需求。lPq即热新闻——关注每天科技社会生活新变化gihot.com

综上来看,随着大模型快速向纵深场景演进,对存储的要求也越来越高,DeepSeek 3FS、京东云云海等国产存储,显示出在处理大规模数据集时的优越性能。未来国产存储能否拔得头筹,让我们拭目以待。lPq即热新闻——关注每天科技社会生活新变化gihot.com

这两天DeepSeek开源3FS并行文件系统的消息,犹如向AI基础设施领域投下一枚深水炸弹。3FS每秒能搬运6.6TB数据,相当于1秒钟传输完700部4K高清电影。还能自动调资源,国产芯片用了它,跟国际大牌的差距直接缩小到15%。lPq即热新闻——关注每天科技社会生活新变化gihot.com

这并非简单的技术迭代——当Llama3 70B模型单次训练需吞掉15PB数据(相当于连续播放250万小时4K视频)时,全球AI实验室突然意识到:决定大模型训练效率的不仅是GPU算力,存储系统正成为影响进度的一大瓶颈。lPq即热新闻——关注每天科技社会生活新变化gihot.com

当AI算力狂飙时,存储正在成为隐形战场lPq即热新闻——关注每天科技社会生活新变化gihot.com

2024年,某头部AI公司曾因存储带宽不足,导致2000张A100显卡的算力利用率长期低于40%,单日经济损失超百万美元。这暴露了AI时代的“木桶效应”——当GPU计算速度进入微秒级时,一次突发的存储抖动就可能导致整个训练任务崩溃,让数周的计算成果瞬间蒸发。这或许也是DeepSeek自研存储的原因。lPq即热新闻——关注每天科技社会生活新变化gihot.com

数据显示,存储优化可直接将175B参数模型的训练周期压缩30%,对应百万美元级的成本被填平。而在推理端,当10%的异常请求遭遇存储延迟波动时,P99响应时间会瞬间突破SLA红线,这正是某自动驾驶公司在线服务突发降级的根本诱因。lPq即热新闻——关注每天科技社会生活新变化gihot.com

DeepSeek之所以选择自研3FS的本质,正是发现了存储架构在AI应用中的重要性。《金融行业先进AI存力报告》中提到,在同样的GPU算力规模下,存储性能的高低可能造成模型训练周期数倍的差异。在算力竞赛的背后,一场关于存储性能密度的暗战悄然升级,自研存储显得尤为重要。lPq即热新闻——关注每天科技社会生活新变化gihot.com

5家头部厂商角逐AI存储,国产能否拔得头筹lPq即热新闻——关注每天科技社会生活新变化gihot.com

相比于传统AI的需求,大模型对存力需求场景具有数据量大、参数规模大、训练周期长等特点。lPq即热新闻——关注每天科技社会生活新变化gihot.com

为了提升大模型训练速度,需要对大规模数据集进行快速加载,且一般采用数百甚至上万张GPU构成计算集群进行高效的并行计算,需要高并发输入/输出(I/O)处理,而训练数据集呈现海量小文件的特点,文件量在几亿到几十亿量级,对应的带宽需求可能每秒要达到上TB,这就要求存储系统具备强大的数据管理能力,业界能达到该能力的仅寥寥几家。lPq即热新闻——关注每天科技社会生活新变化gihot.com

从国内外优秀的并行存储产品具体能力对比来看,IBM作为老牌存储品牌,其产品从HPC场景成功向AI场景演进。在全球AI场景得到广泛应用的DDN,多个读、写带宽等关键性能指标上表现突出,但DDN由于技术封闭性、专有化硬件等原因,导致用户建设成本过高。lPq即热新闻——关注每天科技社会生活新变化gihot.com

国产厂商DeepSeek 3FS虽然是开源的新产品,但相对老牌存储也有不错的表现,在读带宽能力上表现优异,单集群6.6TB/s,平均单节点36.7GB/s的读带宽。lPq即热新闻——关注每天科技社会生活新变化gihot.com

另一家国产厂商京东云云海,在这个专业领域同样表现出色,以单节点95GB/s的读带宽、60GB/s的写带宽,进一步拉低了国产存储与国际老牌厂商的差距。相较于DeepSeek的3FS,京东云云海在提供高性能的同时适用性更广,可以同时满足DeepSeek、ChatGPT、LLaMA等20余种主流大模型的存力需求。lPq即热新闻——关注每天科技社会生活新变化gihot.com

综上来看,随着大模型快速向纵深场景演进,对存储的要求也越来越高,DeepSeek 3FS、京东云云海等国产存储,显示出在处理大规模数据集时的优越性能。未来国产存储能否拔得头筹,让我们拭目以待。lPq即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-2-1074-0.html当红炸子鸡DeepSeek,为何花心思自研存储?

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:“七星连珠”为何并非“罕见奇观”

下一篇:多地积极布局智慧养老 养老机器人已“上岗”

为你推荐
年关将至,A股进入2024业绩预告披露的密集期,半导体行业也不例外。1月15日晚,乐鑫科技(688018.SH)发布业绩预告,公司2024年年度实现营业...
01-21
“国补减去500元,再加上旧手机以旧换新约抵扣600元,最后售价在4000元左右……”在广州某品牌手机销售门店内,店员正在帮消费者计算购...
01-24
①不少人聚会喜欢在冬日里围炉煮茶轻轻松松地聊聊天。周玉婷 摄②“上门代厨”满足了消费者在家聚餐解...
01-22
  1月8日,蜜丝佛陀的天猫和抖音官方旗舰店均已暂停营业并下架全部商品。蜜丝佛陀母公司科蒂集...
01-21
  今天(20日)各地正式实施手机、平板、智能手表(手环)等数码产品购新补贴政策,“国补”范围从家电、汽车向日常消费电子领域扩展。个人消费者购买单件销售价格不超过6000元...
01-21
▲1月20日,特朗普在美国第47任总统就职典礼上宣誓。图/新华社华盛顿权力中心最重要的位置终于换岗了。据新华社报道,美国东部时间1月20日中午,特朗普在国会大厦圆形大厅宣誓就...
01-21
1 月 23 日消息,据彭博社报道,大众集团表示,由于欧盟实施更严格的汽车排放标准,公司今年将面临 15 亿欧元(备注:当前约 113.7 亿元人民币)的损失。大众集团投资者关系主管...
01-24
  2024年已经尘埃落定,各大汽车制造商竞相揭晓年度销量成绩单,但多数报告倾向于报喜不报忧。在...
01-24
《难哄》穆承允的扮演者是谁?穆承允说桑延说了什么在电视剧《难哄》中,穆承允的扮演者是原野。穆承允说桑延说了什么在《难哄》中,穆承允并没有明确提及桑延说...
02-19
近日,多部新剧陆续推出,其中备受期待的《夜访吸血鬼第二季》也终于与观众见面。该剧上映后引起了广泛讨论,在各大社交平台上成为了热门话题。接下来将对《夜访...
02-20
编者按:一个人工智能(AI)机器人,在短短8天内独立完成了668项实验,合成了668种化合物,并成功研发出一种全新的化学催化剂。这一壮举令人赞叹。AI...
02-11
  节日期间大鱼大肉、黑白颠倒,原有的生活规律被打破,节后身体可能就好“闹脾气”,最常见的就是...
02-11
  大众网记者 司心鹏 报道  12月25日,济南特殊教育中心与济南市公安局公共交通分局联动会议在自强楼会议室召开。  济南特殊教育中心的学校领导热情接待了来访的警...
01-21
  大众网记者 司心鹏 报道  近日,教育部发布了《关于推荐国家特殊教育改革实验区的通知》,旨在适应特殊教育改革发展的新形势新要求,在全国范围内设立一批特殊教育改革...
01-21
  中国经济网北京1月21日讯 A股五大上市保险公司近日纷纷“晒”出2024年全年保费收入(指原保险...
01-21
  截至目前,已有51家信托公司通过银行间市场或上市平台披露了2024年未经审计的财务数据。  ...
01-22
水瓶座的男生通常被认为是聪明、独立和创新的人。他们对于自由和个人空间有着强烈的需...
01-22
水瓶座男生以其独特的个性和思维方式而闻名。他们聪明、创新、理性,善于思考和分析问题...
01-22
大家一般都喜欢什么潮流服饰品牌啊?大家一般都喜欢什么潮流服饰品牌啊?kenzo最近迷上这个牌子的衣服,虎头衬衫超级好看的。KENZO是由高田贤三在法国创立的品牌,结合了东方文化的...
02-12
紧身裤模特T台走秀:时尚界的惊艳瞬间每当我走进时尚秀场,看到模特们在T台上自信地步伐,我的心中总是涌起一种莫名的激动。尤其是当紧身裤作为一个重要的时尚单品登上T台时,那种...
02-17
2月8日消息,《微信小店带货账号体系管理规则》日前正式生效,该规则自2025年2月7日起施行。这份文档较以往视频号小店的要求,有了较大的变化,尤其是在账号绑定与关联账号两个方面...
02-08
2月15日消息,淘宝发布“情人节送礼榜”,护肤品、化妆品稳坐情人节礼物前排,淘宝天猫上的护肤类产品、唇部彩妆订单分别增长了124%、144%。口红、眼影、粉底液的“色号难题”,几...
02-16
2月17日消息,美团发布《2025春节景区消费数据报告》。报告显示,今年春节,旅游市场展现出显著的消费增长,特价团购门票表现亮眼。主题公园、自然景观、人文古迹、动物园和滑雪景...
02-18
国内心理咨询行业的发展历程并不长,2000年之后才真正进入高速发展阶段。复旦大学心理健康与教育中心心理咨询师陈倩对《消费者报道...
03-04
2025年1月21日中金公司发布了“全球Robotaxi第一股”文远知行的调研报告,这一报告引起了媒体的广泛关注。中金公司在财报中指出文远知行有着三大显著特点:1、自动驾驶行业的先...
01-23
近日,华力创科学宣布完成数千万元A+轮融资,本轮融资由金属3D打印领域头部上市公司铂力特独家投资。据披露,本轮融资所募集的资金将专注于深挖高性能光学多模态感知技术,结合金属...
01-24
5070是英伟达新50系更具性价比的主流显卡,根据欧洲零售商Proshop的曝光,NVIDIA的中端显卡GeForce RTX 5070 Ti预计将在2月20日发布。 这也意味着RTX 5070 Ti首次...
01-24
随着工作室将全力转向《质量效应5》,EA正在缩减BioWare的规模。 BioWare总经理Gary McKay在一篇博客文章中表示,在《龙腾世纪:影障守护者》于2024年底发售后,工作...
01-30
2025年春节是“春节——中国人庆祝传统新年的社会实践”列入联合国教科文组织人类非物质文化遗产代表作名录后的首个春节。文化和旅游部组织开展“欢欢喜喜过大年”春节主题...
02-05
记者从国铁集团了解到,2月6日,全国铁路发送旅客1514万人次;自1月14日春运启动至2月6日,已累计发送旅客3.1亿人次。今天(2月7日),全国铁路预计发送旅客1410万人次,计划加开列车1469列...
02-07
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮