当红炸子鸡DeepSeek,为何花心思自研存储?

1年前 来源:央广网 观看:162

这两天DeepSeek开源3FS并行文件系统的消息,犹如向AI基础设施领域投下一枚深水炸弹。3FS每秒能搬运6.6TB数据,相当于1秒钟传输完700部4K高清电影。还能自动调资源,国产芯片用了它,跟国际大牌的差距直接缩小到15%。ox9即热新闻——关注每天科技社会生活新变化gihot.com

这并非简单的技术迭代——当Llama3 70B模型单次训练需吞掉15PB数据(相当于连续播放250万小时4K视频)时,全球AI实验室突然意识到:决定大模型训练效率的不仅是GPU算力,存储系统正成为影响进度的一大瓶颈。ox9即热新闻——关注每天科技社会生活新变化gihot.com

当AI算力狂飙时,存储正在成为隐形战场ox9即热新闻——关注每天科技社会生活新变化gihot.com

2024年,某头部AI公司曾因存储带宽不足,导致2000张A100显卡的算力利用率长期低于40%,单日经济损失超百万美元。这暴露了AI时代的“木桶效应”——当GPU计算速度进入微秒级时,一次突发的存储抖动就可能导致整个训练任务崩溃,让数周的计算成果瞬间蒸发。这或许也是DeepSeek自研存储的原因。ox9即热新闻——关注每天科技社会生活新变化gihot.com

数据显示,存储优化可直接将175B参数模型的训练周期压缩30%,对应百万美元级的成本被填平。而在推理端,当10%的异常请求遭遇存储延迟波动时,P99响应时间会瞬间突破SLA红线,这正是某自动驾驶公司在线服务突发降级的根本诱因。ox9即热新闻——关注每天科技社会生活新变化gihot.com

DeepSeek之所以选择自研3FS的本质,正是发现了存储架构在AI应用中的重要性。《金融行业先进AI存力报告》中提到,在同样的GPU算力规模下,存储性能的高低可能造成模型训练周期数倍的差异。在算力竞赛的背后,一场关于存储性能密度的暗战悄然升级,自研存储显得尤为重要。ox9即热新闻——关注每天科技社会生活新变化gihot.com

5家头部厂商角逐AI存储,国产能否拔得头筹ox9即热新闻——关注每天科技社会生活新变化gihot.com

相比于传统AI的需求,大模型对存力需求场景具有数据量大、参数规模大、训练周期长等特点。ox9即热新闻——关注每天科技社会生活新变化gihot.com

为了提升大模型训练速度,需要对大规模数据集进行快速加载,且一般采用数百甚至上万张GPU构成计算集群进行高效的并行计算,需要高并发输入/输出(I/O)处理,而训练数据集呈现海量小文件的特点,文件量在几亿到几十亿量级,对应的带宽需求可能每秒要达到上TB,这就要求存储系统具备强大的数据管理能力,业界能达到该能力的仅寥寥几家。ox9即热新闻——关注每天科技社会生活新变化gihot.com

从国内外优秀的并行存储产品具体能力对比来看,IBM作为老牌存储品牌,其产品从HPC场景成功向AI场景演进。在全球AI场景得到广泛应用的DDN,多个读、写带宽等关键性能指标上表现突出,但DDN由于技术封闭性、专有化硬件等原因,导致用户建设成本过高。ox9即热新闻——关注每天科技社会生活新变化gihot.com

国产厂商DeepSeek 3FS虽然是开源的新产品,但相对老牌存储也有不错的表现,在读带宽能力上表现优异,单集群6.6TB/s,平均单节点36.7GB/s的读带宽。ox9即热新闻——关注每天科技社会生活新变化gihot.com

另一家国产厂商京东云云海,在这个专业领域同样表现出色,以单节点95GB/s的读带宽、60GB/s的写带宽,进一步拉低了国产存储与国际老牌厂商的差距。相较于DeepSeek的3FS,京东云云海在提供高性能的同时适用性更广,可以同时满足DeepSeek、ChatGPT、LLaMA等20余种主流大模型的存力需求。ox9即热新闻——关注每天科技社会生活新变化gihot.com

综上来看,随着大模型快速向纵深场景演进,对存储的要求也越来越高,DeepSeek 3FS、京东云云海等国产存储,显示出在处理大规模数据集时的优越性能。未来国产存储能否拔得头筹,让我们拭目以待。ox9即热新闻——关注每天科技社会生活新变化gihot.com

这两天DeepSeek开源3FS并行文件系统的消息,犹如向AI基础设施领域投下一枚深水炸弹。3FS每秒能搬运6.6TB数据,相当于1秒钟传输完700部4K高清电影。还能自动调资源,国产芯片用了它,跟国际大牌的差距直接缩小到15%。ox9即热新闻——关注每天科技社会生活新变化gihot.com

这并非简单的技术迭代——当Llama3 70B模型单次训练需吞掉15PB数据(相当于连续播放250万小时4K视频)时,全球AI实验室突然意识到:决定大模型训练效率的不仅是GPU算力,存储系统正成为影响进度的一大瓶颈。ox9即热新闻——关注每天科技社会生活新变化gihot.com

当AI算力狂飙时,存储正在成为隐形战场ox9即热新闻——关注每天科技社会生活新变化gihot.com

2024年,某头部AI公司曾因存储带宽不足,导致2000张A100显卡的算力利用率长期低于40%,单日经济损失超百万美元。这暴露了AI时代的“木桶效应”——当GPU计算速度进入微秒级时,一次突发的存储抖动就可能导致整个训练任务崩溃,让数周的计算成果瞬间蒸发。这或许也是DeepSeek自研存储的原因。ox9即热新闻——关注每天科技社会生活新变化gihot.com

数据显示,存储优化可直接将175B参数模型的训练周期压缩30%,对应百万美元级的成本被填平。而在推理端,当10%的异常请求遭遇存储延迟波动时,P99响应时间会瞬间突破SLA红线,这正是某自动驾驶公司在线服务突发降级的根本诱因。ox9即热新闻——关注每天科技社会生活新变化gihot.com

DeepSeek之所以选择自研3FS的本质,正是发现了存储架构在AI应用中的重要性。《金融行业先进AI存力报告》中提到,在同样的GPU算力规模下,存储性能的高低可能造成模型训练周期数倍的差异。在算力竞赛的背后,一场关于存储性能密度的暗战悄然升级,自研存储显得尤为重要。ox9即热新闻——关注每天科技社会生活新变化gihot.com

5家头部厂商角逐AI存储,国产能否拔得头筹ox9即热新闻——关注每天科技社会生活新变化gihot.com

相比于传统AI的需求,大模型对存力需求场景具有数据量大、参数规模大、训练周期长等特点。ox9即热新闻——关注每天科技社会生活新变化gihot.com

为了提升大模型训练速度,需要对大规模数据集进行快速加载,且一般采用数百甚至上万张GPU构成计算集群进行高效的并行计算,需要高并发输入/输出(I/O)处理,而训练数据集呈现海量小文件的特点,文件量在几亿到几十亿量级,对应的带宽需求可能每秒要达到上TB,这就要求存储系统具备强大的数据管理能力,业界能达到该能力的仅寥寥几家。ox9即热新闻——关注每天科技社会生活新变化gihot.com

从国内外优秀的并行存储产品具体能力对比来看,IBM作为老牌存储品牌,其产品从HPC场景成功向AI场景演进。在全球AI场景得到广泛应用的DDN,多个读、写带宽等关键性能指标上表现突出,但DDN由于技术封闭性、专有化硬件等原因,导致用户建设成本过高。ox9即热新闻——关注每天科技社会生活新变化gihot.com

国产厂商DeepSeek 3FS虽然是开源的新产品,但相对老牌存储也有不错的表现,在读带宽能力上表现优异,单集群6.6TB/s,平均单节点36.7GB/s的读带宽。ox9即热新闻——关注每天科技社会生活新变化gihot.com

另一家国产厂商京东云云海,在这个专业领域同样表现出色,以单节点95GB/s的读带宽、60GB/s的写带宽,进一步拉低了国产存储与国际老牌厂商的差距。相较于DeepSeek的3FS,京东云云海在提供高性能的同时适用性更广,可以同时满足DeepSeek、ChatGPT、LLaMA等20余种主流大模型的存力需求。ox9即热新闻——关注每天科技社会生活新变化gihot.com

综上来看,随着大模型快速向纵深场景演进,对存储的要求也越来越高,DeepSeek 3FS、京东云云海等国产存储,显示出在处理大规模数据集时的优越性能。未来国产存储能否拔得头筹,让我们拭目以待。ox9即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-2-1074-0.html当红炸子鸡DeepSeek,为何花心思自研存储?

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:“七星连珠”为何并非“罕见奇观”

下一篇:多地积极布局智慧养老 养老机器人已“上岗”

为你推荐
1月20日,哈尔滨第九届亚冬会火种采集仪式在哈尔滨太阳岛广场上举行。千年巨石太阳石后,连绵的群山造型冰雕在阳光照耀下晶莹剔透,冰雪工匠们以精湛技...
01-21
  科技日报记者 刘霞  美国加州大学伯克利分校和韩国高丽大学科学家携手,从变色龙身上获得灵...
01-24
  【带你一起看大展】  光明日报记者李韵王笑妃  1月21日,记者走进中国国家博物馆北3展厅,...
01-23
  时至隆冬,恒力重工产业园建设生产热度和速度不减。各种船舶在码头岸边依次排开,或等待试航,或等待交付...
01-24
新闻通讯员 木子春运承载着亿万游子对家乡的眷恋与期盼,春节的脚步近了,归心似箭的人们纷纷踏上返乡之路。据交通运输等部门预计,今年春运全社会跨区域人员流动量将达到90亿人...
01-22
  中新经纬1月20日电 (闫淑鑫)0.5元一瓶的矿泉水,1元一瓶的冰红茶,1.8元一包的薯片……提起量贩零食,很多消费者的第一印象是“便宜”。  量贩零食是怎么把价格打下来的?商...
01-21
1 月 22 日消息,奇瑞星途汽车营销中心总经理黄招根在微博透露,奇瑞星途星纪元ES 增程版已向首批内测车主交付,计划 3 月初上市。作为参考,当前在售的 2025 款星纪元ES ...
01-23
  近日,各大车企发布2025年1月销量数据。传统车企中,比亚迪、吉利等增长强劲;新势力车企排名变化...
02-06
《难哄》向朗喜欢钟思乔吗?向朗和钟思乔什么关系?在《难哄》中,向朗不喜欢钟思乔。向朗是温以凡和钟思乔的发小,他与钟思乔只是朋友关系,没有爱情方面的感情。向...
02-19
《难哄》苏浩安官配是谁?苏浩安是和钟思乔在一起吗?在《难哄》中,苏浩安的官配是钟思乔。苏浩安是桑延的好兄弟,通过温以凡认识了钟思乔,两人是欢喜冤家,在相处过...
02-19
21世纪经济报道 记者季媛媛 广州 上海报道岁末年初,多家疫苗企业纷纷发布了2024年度业绩预告,从数据来看,“承压”成为一众国产疫苗巨头面临...
01-25
作者:衣晓蕾 上海市第六人民医院超声医学科公益科普支持:广东省二十一世纪教育基金会 “医生,我最近喉咙疼,还发热,是不是甲流啊?我好害怕啊!”“...
02-07
  大众网记者 杨涛报道  9月22日,2024金砖国家职业技能大赛增材制造赛项全国选拔赛暨国内总决赛传来消息,青岛港湾职业技术学院参赛学生冯洋(指导老师曾显波)获得一等奖,...
01-21
2025年全国硕士研究生招生考试在即。为严厉打击涉考违法违规行为,严肃考风考纪,维护考生合法权益,教育部会...
01-21
  8起违法违纪案件被通报,累计被罚超5800万,内控合规风险依然突出,营收净利双降的交通银行如何来...
01-24
  “春节后,豆粕一天一个价,今天就涨了300元(每吨)。”提及近期豆粕价格情况,广东一家中型饲料企业...
02-13
摩羯座和金牛座是两个土象星座,他们在很多方面都有相似之处,因此摩羯男对金牛女情有独钟...
01-22
摩羯男通常被认为是一个非常谨慎和保守的星座,他们对于信任需要时间来建立。如果你想要...
01-22
T恤穿搭技巧? 男士t恤衫穿搭技巧?一、T恤穿搭技巧?01 T恤+吊带裙简约T恤与长款吊带连衣裙搭配,优雅大气,而且能凸显优美的身材曲线。手臂粗的姑娘们,可以选择袖子宽松的T恤,腰部较...
02-12
揭晓那些令人惊艳的女明星,她们的魅力如何征服了观众说到女明星,很多人心中都会浮现出那些荧幕上的闪耀瞬间。她们不仅有着令人羡慕的外貌,更是集智慧与才华于一身。今天,我想和...
02-12
1.阿里开放数百AI招聘岗位阿里的野心彻底暴露了,其正以前所未有的力度抢占人才高地,全面加速在AI To C领域的布局步伐。近期,阿里AI To C业务开启大规模人员招聘,开放招聘岗位达...
02-20
拼多多发力商家直播。据亿邦动力,拼多多正在招募在抖音直播的商家入驻多多直播,开启双平台直播。目前,在拼多多双开直播,平台可为商家提供智能中控系统支持,商家不需要招募及配置...
02-20
春节,是阖家团圆的时刻,也是餐饮消费的旺季。今年春节期间,不少饭店悄然推出了“加收服务费”的举措,这一变化短时间内引发了消费者的...
02-07
2月6日消息,及时用车日前宣布,平台自2月3日起,全国统一上线“司机每日提现”权益,以解决司机资金周转难题,提升车辆运维效率,保障车辆资产安全。即日起,无论工作日还是节假日,司机师...
02-07
2025年恰逢中泰两国建交50周年,多年来,双方秉持“中泰一家亲”的深厚情谊,在政治、经济、文化等各领域合作不断深化,取得了丰硕成果。天丝集团是中泰友谊的见证者和参与者。蛇年...
02-09
【#合肥市创业投资引导基金公司增资至59亿# 增幅23%】天眼查App显示,近日,合肥市创业投资引导基金有限公司发生工商变更,注册资本由约48.2亿人民币增至约59.2亿人民币,增幅约23%...
02-09
2月6日,《电锯甜心RePOP》发布了1.09版本更新,适用于PS5、XBox SeriesX|S和PC,“照片模式”和新服装“哥特服”现已正式上线,PS4、Xbox One和Switch版更新将在准备...
02-07
近日暴雪游戏国服运营团队宣布,战网正式调整登录方式。用户需要使用网易通行证登录战网,但完全切换的时间稍作推迟,未来需要使用网易账号才能登录游戏。 暴雪游...
02-13
过去一年,鹊桥二号绕月搭桥,助力嫦娥六号实现了人类首次月球背面采样返回。随着嫦娥六号任务的圆满完成,嫦娥七号任务也已经被提上日程。按照计划,我国将在2026年发射嫦娥七号月...
02-03
极目新闻评论员 文清蔓“三亚发布”消息,2月4日,海南省委常委、三亚市委书记王祺扬,海南省副省长谢京,三亚市委副书记、市长陈希以“四不两直”方式调研春节期间三亚西岛海洋文...
02-05
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮