当红炸子鸡DeepSeek,为何花心思自研存储?

8个月前 来源:央广网 观看:104

这两天DeepSeek开源3FS并行文件系统的消息,犹如向AI基础设施领域投下一枚深水炸弹。3FS每秒能搬运6.6TB数据,相当于1秒钟传输完700部4K高清电影。还能自动调资源,国产芯片用了它,跟国际大牌的差距直接缩小到15%。Yrn即热新闻——关注每天科技社会生活新变化gihot.com

这并非简单的技术迭代——当Llama3 70B模型单次训练需吞掉15PB数据(相当于连续播放250万小时4K视频)时,全球AI实验室突然意识到:决定大模型训练效率的不仅是GPU算力,存储系统正成为影响进度的一大瓶颈。Yrn即热新闻——关注每天科技社会生活新变化gihot.com

当AI算力狂飙时,存储正在成为隐形战场Yrn即热新闻——关注每天科技社会生活新变化gihot.com

2024年,某头部AI公司曾因存储带宽不足,导致2000张A100显卡的算力利用率长期低于40%,单日经济损失超百万美元。这暴露了AI时代的“木桶效应”——当GPU计算速度进入微秒级时,一次突发的存储抖动就可能导致整个训练任务崩溃,让数周的计算成果瞬间蒸发。这或许也是DeepSeek自研存储的原因。Yrn即热新闻——关注每天科技社会生活新变化gihot.com

数据显示,存储优化可直接将175B参数模型的训练周期压缩30%,对应百万美元级的成本被填平。而在推理端,当10%的异常请求遭遇存储延迟波动时,P99响应时间会瞬间突破SLA红线,这正是某自动驾驶公司在线服务突发降级的根本诱因。Yrn即热新闻——关注每天科技社会生活新变化gihot.com

DeepSeek之所以选择自研3FS的本质,正是发现了存储架构在AI应用中的重要性。《金融行业先进AI存力报告》中提到,在同样的GPU算力规模下,存储性能的高低可能造成模型训练周期数倍的差异。在算力竞赛的背后,一场关于存储性能密度的暗战悄然升级,自研存储显得尤为重要。Yrn即热新闻——关注每天科技社会生活新变化gihot.com

5家头部厂商角逐AI存储,国产能否拔得头筹Yrn即热新闻——关注每天科技社会生活新变化gihot.com

相比于传统AI的需求,大模型对存力需求场景具有数据量大、参数规模大、训练周期长等特点。Yrn即热新闻——关注每天科技社会生活新变化gihot.com

为了提升大模型训练速度,需要对大规模数据集进行快速加载,且一般采用数百甚至上万张GPU构成计算集群进行高效的并行计算,需要高并发输入/输出(I/O)处理,而训练数据集呈现海量小文件的特点,文件量在几亿到几十亿量级,对应的带宽需求可能每秒要达到上TB,这就要求存储系统具备强大的数据管理能力,业界能达到该能力的仅寥寥几家。Yrn即热新闻——关注每天科技社会生活新变化gihot.com

从国内外优秀的并行存储产品具体能力对比来看,IBM作为老牌存储品牌,其产品从HPC场景成功向AI场景演进。在全球AI场景得到广泛应用的DDN,多个读、写带宽等关键性能指标上表现突出,但DDN由于技术封闭性、专有化硬件等原因,导致用户建设成本过高。Yrn即热新闻——关注每天科技社会生活新变化gihot.com

国产厂商DeepSeek 3FS虽然是开源的新产品,但相对老牌存储也有不错的表现,在读带宽能力上表现优异,单集群6.6TB/s,平均单节点36.7GB/s的读带宽。Yrn即热新闻——关注每天科技社会生活新变化gihot.com

另一家国产厂商京东云云海,在这个专业领域同样表现出色,以单节点95GB/s的读带宽、60GB/s的写带宽,进一步拉低了国产存储与国际老牌厂商的差距。相较于DeepSeek的3FS,京东云云海在提供高性能的同时适用性更广,可以同时满足DeepSeek、ChatGPT、LLaMA等20余种主流大模型的存力需求。Yrn即热新闻——关注每天科技社会生活新变化gihot.com

综上来看,随着大模型快速向纵深场景演进,对存储的要求也越来越高,DeepSeek 3FS、京东云云海等国产存储,显示出在处理大规模数据集时的优越性能。未来国产存储能否拔得头筹,让我们拭目以待。Yrn即热新闻——关注每天科技社会生活新变化gihot.com

这两天DeepSeek开源3FS并行文件系统的消息,犹如向AI基础设施领域投下一枚深水炸弹。3FS每秒能搬运6.6TB数据,相当于1秒钟传输完700部4K高清电影。还能自动调资源,国产芯片用了它,跟国际大牌的差距直接缩小到15%。Yrn即热新闻——关注每天科技社会生活新变化gihot.com

这并非简单的技术迭代——当Llama3 70B模型单次训练需吞掉15PB数据(相当于连续播放250万小时4K视频)时,全球AI实验室突然意识到:决定大模型训练效率的不仅是GPU算力,存储系统正成为影响进度的一大瓶颈。Yrn即热新闻——关注每天科技社会生活新变化gihot.com

当AI算力狂飙时,存储正在成为隐形战场Yrn即热新闻——关注每天科技社会生活新变化gihot.com

2024年,某头部AI公司曾因存储带宽不足,导致2000张A100显卡的算力利用率长期低于40%,单日经济损失超百万美元。这暴露了AI时代的“木桶效应”——当GPU计算速度进入微秒级时,一次突发的存储抖动就可能导致整个训练任务崩溃,让数周的计算成果瞬间蒸发。这或许也是DeepSeek自研存储的原因。Yrn即热新闻——关注每天科技社会生活新变化gihot.com

数据显示,存储优化可直接将175B参数模型的训练周期压缩30%,对应百万美元级的成本被填平。而在推理端,当10%的异常请求遭遇存储延迟波动时,P99响应时间会瞬间突破SLA红线,这正是某自动驾驶公司在线服务突发降级的根本诱因。Yrn即热新闻——关注每天科技社会生活新变化gihot.com

DeepSeek之所以选择自研3FS的本质,正是发现了存储架构在AI应用中的重要性。《金融行业先进AI存力报告》中提到,在同样的GPU算力规模下,存储性能的高低可能造成模型训练周期数倍的差异。在算力竞赛的背后,一场关于存储性能密度的暗战悄然升级,自研存储显得尤为重要。Yrn即热新闻——关注每天科技社会生活新变化gihot.com

5家头部厂商角逐AI存储,国产能否拔得头筹Yrn即热新闻——关注每天科技社会生活新变化gihot.com

相比于传统AI的需求,大模型对存力需求场景具有数据量大、参数规模大、训练周期长等特点。Yrn即热新闻——关注每天科技社会生活新变化gihot.com

为了提升大模型训练速度,需要对大规模数据集进行快速加载,且一般采用数百甚至上万张GPU构成计算集群进行高效的并行计算,需要高并发输入/输出(I/O)处理,而训练数据集呈现海量小文件的特点,文件量在几亿到几十亿量级,对应的带宽需求可能每秒要达到上TB,这就要求存储系统具备强大的数据管理能力,业界能达到该能力的仅寥寥几家。Yrn即热新闻——关注每天科技社会生活新变化gihot.com

从国内外优秀的并行存储产品具体能力对比来看,IBM作为老牌存储品牌,其产品从HPC场景成功向AI场景演进。在全球AI场景得到广泛应用的DDN,多个读、写带宽等关键性能指标上表现突出,但DDN由于技术封闭性、专有化硬件等原因,导致用户建设成本过高。Yrn即热新闻——关注每天科技社会生活新变化gihot.com

国产厂商DeepSeek 3FS虽然是开源的新产品,但相对老牌存储也有不错的表现,在读带宽能力上表现优异,单集群6.6TB/s,平均单节点36.7GB/s的读带宽。Yrn即热新闻——关注每天科技社会生活新变化gihot.com

另一家国产厂商京东云云海,在这个专业领域同样表现出色,以单节点95GB/s的读带宽、60GB/s的写带宽,进一步拉低了国产存储与国际老牌厂商的差距。相较于DeepSeek的3FS,京东云云海在提供高性能的同时适用性更广,可以同时满足DeepSeek、ChatGPT、LLaMA等20余种主流大模型的存力需求。Yrn即热新闻——关注每天科技社会生活新变化gihot.com

综上来看,随着大模型快速向纵深场景演进,对存储的要求也越来越高,DeepSeek 3FS、京东云云海等国产存储,显示出在处理大规模数据集时的优越性能。未来国产存储能否拔得头筹,让我们拭目以待。Yrn即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-2-1074-0.html当红炸子鸡DeepSeek,为何花心思自研存储?

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:“七星连珠”为何并非“罕见奇观”

下一篇:多地积极布局智慧养老 养老机器人已“上岗”

为你推荐
1月16日,记者从宁波华仪宁创智能科技有限公司获悉,该公司研制的单细胞代谢物分析质谱仪近日入选浙江省经济和信息化厅、浙江省财政厅印发的《2024年...
01-21
核电站是将核能转化为电能的场所但是你知道吗?核电站现在还能有个副业那就是,产珍珠!又大又白的珍珠就是我国海南昌江核电站培育出来的昌江核电站不仅...
01-22
  至1月27日10时40分,经与交警部门协商,沈阳、葫芦岛、铁岭、锦州、大连、抚顺、盘锦、阜新、营口部分...
01-28
  辽宁省气象台2月10日16时发布大风蓝色预警:  预计11日白天,沈阳、大连、鞍山北部、抚顺、锦州、阜...
02-11
全国2024年GDP公布的当日下午,上海就迫不及待地公布了全年数据:53926.71亿元,同比增长5.0%。不仅成功晋升为全国第一个五万亿城市,上...
01-21
  中新经纬1月17日电 (薛宇飞)“这几年,捷克线上消费表现强劲,外卖和在线订单的比例显著上升。未来,要加强外卖业务,优化外卖包装和配送流程。同时,面对中高端餐饮市场的机会,我...
01-21
1 月 22 日消息,汽车媒体 ShortsCar 昨日(1 月 21 日)在 Instagram 上发布动态,抓拍到了现代 IONIQ 6 首批 P1 原型车的照片。这款流线型电动轿车改头换面,前脸重新设计,...
01-23
1 月 29 日消息,大众汽车旗下的 ID.7 车型在美国市场的命运似乎已经画上了句号。2023 年春季这款电动轿车在纽约亮相,当时计划于次年在美国市场推出。然而,这一计划最...
01-29
《星降奇缘》近期备受关注,播出后热度颇高,在各大社交平台上都能看到关于它的新闻和剧情分析。该剧的主演是王初伊和陈圣享,于每天14:00上线,属于女频甜宠题材,...
02-20
正在播出的《五十岚夫妇是伪装的陌生人》受到了观众们的喜爱,每一集的情节都引人入胜,人物角色也十分贴合故事情节的发展,让观众在观看过程中不断产生好奇心。...
02-22
21世纪经济报道记者武瑛港 北京报道近日,羟基磷灰石的使用问题在医美行业内快速升温。记者获悉,2025年1月21日,深圳市市场监督管理局、深圳市...
01-23
21世纪经济报道记者 唐唯珂 广州报道随着全国生物药联盟集采的临近,生物类似药市场正面临一场重大变革。2025年1月14日,安徽省医保工作会议...
01-23
  大众网记者 杨涛报道  日前,“外研社·国才杯”“理解当代中国”全国大学生外语能力演讲大赛(山东赛区高职组)成绩揭晓,青岛港湾职业技术学院的王淑珍同学凭借出色的表...
01-21
为提升辽宁省中职学校学生干部的能力素质,培养一支具有高度责任感、优秀管理能力和良好道德品质的学生干...
01-21
  财联社1月15日讯(编辑 李响)当前,信托行业正处于转型发展的关键时期,信托公司迎来了新一轮发展...
01-22
    2月11日,苹果期货主力2505合约收盘报7036元/吨,涨幅0.17%,日K线录得四连阳。分析人士普遍...
02-13
狮子座的男性通常以自信、热情和领导能力著称。然而,有时候他们可能会表现出一种被称为...
01-22
在恋爱中,有时候我们会发现水瓶男并不像其他星座的男生那样主动联系。这让很多女生感到...
01-22
秋季黑色长裙搭配鞋子指南:优雅与时尚的完美结合当金黄的秋天悄然来临,很多人开始为自己的衣橱增添新的单品,而黑色长裙无疑是这个季节不可或缺的时尚单品。如何搭配鞋子,使整体...
02-07
国际超模的璀璨舞台:T台走秀背后的故事在时尚界,国际超模的T台走秀一直是万众瞩目的焦点。每一次的走秀都像是一场艺术的盛会,不仅展现了设计师的创意与灵感,更是模特们风貌与气...
02-12
2月15日消息,2025年宝山区优化营商环境暨投资促进大会近日举办,向全社会释放宝山区优化营商环境、实干前行的鲜明信号,发出共享发展机遇、双向奔赴的盛情邀约。本次大会对2024...
02-15
2月16日消息,苏宁易购零售云携手海尔,于2月13日-14日期间,在济南、福州、成都三地举办“穿越云海,共赢未来”春季冰洗旺销启动会。在以旧换新国补的带动下,双方将通过丰富产品布...
02-17
2月12日消息,“非遗贺新春·DOU来徽物集”活动日前在安徽徽州古城举办。活动由黄山市委宣传部、黄山市委网信办、黄山市文化与旅游局、黄山市数据资源局、歙县人民政府主办,抖...
02-13
2月26日消息,飞猪近日密集新增和更新多个类目的治理规则,进一步优化平台治理。其中包括:针对酒店、门票、租车、包车、签证、接送机等类目新增系列违规处罚场景;针对酒店拒单、...
02-26
全球性金融券商集团英国EBC Group平台始终致力于以领先生态,与全球交易者共塑交易的未来。 自第一届交易大赛起,为赤忱的热爱和卓越的才华提供舞台,在全球内寻找交易好手以赋能...
01-24
在全球化的大背景下,中国品牌凭借自身实力与创新能力,在国际舞台上愈发耀眼。近日,来自拉丁美洲的一则消息引起了行业广泛关注:远大智能工业集团博林特电梯,成功中标哥伦比亚麦德...
02-09
Xbox负责人菲尔·斯宾塞早已表明,微软将全力投入第三方游戏发行,所以,一夜之间公布《极限竞速:地平线5》登陆PS5的消息,这虽早有传闻,但也并不令人意外。 当然,这一确...
02-04
2月14日,《如龙8外传》试玩Demo现已正式上线,适用于PS5、Xbox Series X|S和Steam,该体验版在夏威夷街道的基础上,以本作首次登场的秘密孤岛“狂热兰蒂斯”为舞台,供...
02-15
总台记者当地时间2月5日获悉,当天,日本埼玉县八潮市道路塌陷事故现场,救援人员使用水下无人机在下水管道内进行调查时,在塌陷现场下游100米至200米左右的下水管道中,发现了疑似货...
02-06
2月9日,哈尔滨亚冬会短道速滑项目迎来了第二个金牌日的争夺。在男子5000米接力项目的决赛争夺中,由孙龙、林孝埈、刘少林、刘少昂组成的中国队遭遇韩国队阻挡犯规,最终遗憾无缘...
02-09
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮