当红炸子鸡DeepSeek,为何花心思自研存储?

1年前 来源:央广网 观看:156

这两天DeepSeek开源3FS并行文件系统的消息,犹如向AI基础设施领域投下一枚深水炸弹。3FS每秒能搬运6.6TB数据,相当于1秒钟传输完700部4K高清电影。还能自动调资源,国产芯片用了它,跟国际大牌的差距直接缩小到15%。Tqd即热新闻——关注每天科技社会生活新变化gihot.com

这并非简单的技术迭代——当Llama3 70B模型单次训练需吞掉15PB数据(相当于连续播放250万小时4K视频)时,全球AI实验室突然意识到:决定大模型训练效率的不仅是GPU算力,存储系统正成为影响进度的一大瓶颈。Tqd即热新闻——关注每天科技社会生活新变化gihot.com

当AI算力狂飙时,存储正在成为隐形战场Tqd即热新闻——关注每天科技社会生活新变化gihot.com

2024年,某头部AI公司曾因存储带宽不足,导致2000张A100显卡的算力利用率长期低于40%,单日经济损失超百万美元。这暴露了AI时代的“木桶效应”——当GPU计算速度进入微秒级时,一次突发的存储抖动就可能导致整个训练任务崩溃,让数周的计算成果瞬间蒸发。这或许也是DeepSeek自研存储的原因。Tqd即热新闻——关注每天科技社会生活新变化gihot.com

数据显示,存储优化可直接将175B参数模型的训练周期压缩30%,对应百万美元级的成本被填平。而在推理端,当10%的异常请求遭遇存储延迟波动时,P99响应时间会瞬间突破SLA红线,这正是某自动驾驶公司在线服务突发降级的根本诱因。Tqd即热新闻——关注每天科技社会生活新变化gihot.com

DeepSeek之所以选择自研3FS的本质,正是发现了存储架构在AI应用中的重要性。《金融行业先进AI存力报告》中提到,在同样的GPU算力规模下,存储性能的高低可能造成模型训练周期数倍的差异。在算力竞赛的背后,一场关于存储性能密度的暗战悄然升级,自研存储显得尤为重要。Tqd即热新闻——关注每天科技社会生活新变化gihot.com

5家头部厂商角逐AI存储,国产能否拔得头筹Tqd即热新闻——关注每天科技社会生活新变化gihot.com

相比于传统AI的需求,大模型对存力需求场景具有数据量大、参数规模大、训练周期长等特点。Tqd即热新闻——关注每天科技社会生活新变化gihot.com

为了提升大模型训练速度,需要对大规模数据集进行快速加载,且一般采用数百甚至上万张GPU构成计算集群进行高效的并行计算,需要高并发输入/输出(I/O)处理,而训练数据集呈现海量小文件的特点,文件量在几亿到几十亿量级,对应的带宽需求可能每秒要达到上TB,这就要求存储系统具备强大的数据管理能力,业界能达到该能力的仅寥寥几家。Tqd即热新闻——关注每天科技社会生活新变化gihot.com

从国内外优秀的并行存储产品具体能力对比来看,IBM作为老牌存储品牌,其产品从HPC场景成功向AI场景演进。在全球AI场景得到广泛应用的DDN,多个读、写带宽等关键性能指标上表现突出,但DDN由于技术封闭性、专有化硬件等原因,导致用户建设成本过高。Tqd即热新闻——关注每天科技社会生活新变化gihot.com

国产厂商DeepSeek 3FS虽然是开源的新产品,但相对老牌存储也有不错的表现,在读带宽能力上表现优异,单集群6.6TB/s,平均单节点36.7GB/s的读带宽。Tqd即热新闻——关注每天科技社会生活新变化gihot.com

另一家国产厂商京东云云海,在这个专业领域同样表现出色,以单节点95GB/s的读带宽、60GB/s的写带宽,进一步拉低了国产存储与国际老牌厂商的差距。相较于DeepSeek的3FS,京东云云海在提供高性能的同时适用性更广,可以同时满足DeepSeek、ChatGPT、LLaMA等20余种主流大模型的存力需求。Tqd即热新闻——关注每天科技社会生活新变化gihot.com

综上来看,随着大模型快速向纵深场景演进,对存储的要求也越来越高,DeepSeek 3FS、京东云云海等国产存储,显示出在处理大规模数据集时的优越性能。未来国产存储能否拔得头筹,让我们拭目以待。Tqd即热新闻——关注每天科技社会生活新变化gihot.com

这两天DeepSeek开源3FS并行文件系统的消息,犹如向AI基础设施领域投下一枚深水炸弹。3FS每秒能搬运6.6TB数据,相当于1秒钟传输完700部4K高清电影。还能自动调资源,国产芯片用了它,跟国际大牌的差距直接缩小到15%。Tqd即热新闻——关注每天科技社会生活新变化gihot.com

这并非简单的技术迭代——当Llama3 70B模型单次训练需吞掉15PB数据(相当于连续播放250万小时4K视频)时,全球AI实验室突然意识到:决定大模型训练效率的不仅是GPU算力,存储系统正成为影响进度的一大瓶颈。Tqd即热新闻——关注每天科技社会生活新变化gihot.com

当AI算力狂飙时,存储正在成为隐形战场Tqd即热新闻——关注每天科技社会生活新变化gihot.com

2024年,某头部AI公司曾因存储带宽不足,导致2000张A100显卡的算力利用率长期低于40%,单日经济损失超百万美元。这暴露了AI时代的“木桶效应”——当GPU计算速度进入微秒级时,一次突发的存储抖动就可能导致整个训练任务崩溃,让数周的计算成果瞬间蒸发。这或许也是DeepSeek自研存储的原因。Tqd即热新闻——关注每天科技社会生活新变化gihot.com

数据显示,存储优化可直接将175B参数模型的训练周期压缩30%,对应百万美元级的成本被填平。而在推理端,当10%的异常请求遭遇存储延迟波动时,P99响应时间会瞬间突破SLA红线,这正是某自动驾驶公司在线服务突发降级的根本诱因。Tqd即热新闻——关注每天科技社会生活新变化gihot.com

DeepSeek之所以选择自研3FS的本质,正是发现了存储架构在AI应用中的重要性。《金融行业先进AI存力报告》中提到,在同样的GPU算力规模下,存储性能的高低可能造成模型训练周期数倍的差异。在算力竞赛的背后,一场关于存储性能密度的暗战悄然升级,自研存储显得尤为重要。Tqd即热新闻——关注每天科技社会生活新变化gihot.com

5家头部厂商角逐AI存储,国产能否拔得头筹Tqd即热新闻——关注每天科技社会生活新变化gihot.com

相比于传统AI的需求,大模型对存力需求场景具有数据量大、参数规模大、训练周期长等特点。Tqd即热新闻——关注每天科技社会生活新变化gihot.com

为了提升大模型训练速度,需要对大规模数据集进行快速加载,且一般采用数百甚至上万张GPU构成计算集群进行高效的并行计算,需要高并发输入/输出(I/O)处理,而训练数据集呈现海量小文件的特点,文件量在几亿到几十亿量级,对应的带宽需求可能每秒要达到上TB,这就要求存储系统具备强大的数据管理能力,业界能达到该能力的仅寥寥几家。Tqd即热新闻——关注每天科技社会生活新变化gihot.com

从国内外优秀的并行存储产品具体能力对比来看,IBM作为老牌存储品牌,其产品从HPC场景成功向AI场景演进。在全球AI场景得到广泛应用的DDN,多个读、写带宽等关键性能指标上表现突出,但DDN由于技术封闭性、专有化硬件等原因,导致用户建设成本过高。Tqd即热新闻——关注每天科技社会生活新变化gihot.com

国产厂商DeepSeek 3FS虽然是开源的新产品,但相对老牌存储也有不错的表现,在读带宽能力上表现优异,单集群6.6TB/s,平均单节点36.7GB/s的读带宽。Tqd即热新闻——关注每天科技社会生活新变化gihot.com

另一家国产厂商京东云云海,在这个专业领域同样表现出色,以单节点95GB/s的读带宽、60GB/s的写带宽,进一步拉低了国产存储与国际老牌厂商的差距。相较于DeepSeek的3FS,京东云云海在提供高性能的同时适用性更广,可以同时满足DeepSeek、ChatGPT、LLaMA等20余种主流大模型的存力需求。Tqd即热新闻——关注每天科技社会生活新变化gihot.com

综上来看,随着大模型快速向纵深场景演进,对存储的要求也越来越高,DeepSeek 3FS、京东云云海等国产存储,显示出在处理大规模数据集时的优越性能。未来国产存储能否拔得头筹,让我们拭目以待。Tqd即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-2-1074-0.html当红炸子鸡DeepSeek,为何花心思自研存储?

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:“七星连珠”为何并非“罕见奇观”

下一篇:多地积极布局智慧养老 养老机器人已“上岗”

为你推荐
记者从中国载人航天工程办公室获悉,我国2025年计划发射神舟二十号、神舟二十一号两艘载人飞船和天舟九号货运飞船。1月20日,三次飞行任务的任务标识...
01-21
中国第41次南极考察队 完成“环”国际合作计划航空调查当地时间1月19日,由自然资源部组织的中国第41次南极考察队顺利完成南极研究科学委员会(SCAR)南...
01-24
  1月14日,2025年除夕火车票正式开售。  2025年春节从1月28日(除夕)开始,至2月4日(正月初七)...
01-21
  我国铁路实行“实名购票”政策,旅客在购票、进站、乘车等环节都需要刷身份证。返程途中,旅客...
02-08
新闻记者 潘锡珩通讯员 苏杭 徐媛媛1月21日凌晨0时55分,1168名旅客从广州白云站搭乘G4554次“夜行高铁”踏上返回武汉的归程,虽已是深夜,但旅客们回家的热情满满。这是中国铁路...
01-22
  中新经纬1月17日电 据文旅部网站消息,1月17日,文旅部办公厅发布《2025年“游购乡村”消费迎春活动的通知》(以下简称《通知》)。  《通知》显示,“游购乡村”活动时间为1...
01-21
1 月 21 日消息,奇瑞捷途纵横今日连续发布旗下首款车型预告视频,全新序列将于明日(1 月 22 日)19:00 举行新品发布会。从官方视频可以看到,这款新车采用了硬派 SUV 设计,...
01-21
2 月 1 日消息,今日有多位博主分享海报,2025 年 2 月 1 日至 2 月 28 日期间支付定金购买蔚来,可享首付 20% 起,5 年 0 息特惠金融方案。还可叠加:10000 元选装基金20000...
02-01
  【文化评析】  作者:刘诚(中国社会科学院财经战略研究院研究员)  近年来,微短剧在我国迅猛...
01-24
《难哄》温以凡经历了什么事情?在《难哄》中,温以凡经历了许多事情家庭变故父亲离世:温以凡高二时父亲生病去世,家庭的顶梁柱崩塌,原本被父母宠爱的她失去了重要...
02-19
21世纪经济报道记者 闫硕 北京报道随着第十批国家组织药品集中带量采购结果的公布,关于集采导致原研药退出公立医院甚至退出中国市场的讨论...
01-27
2月3日,小S(徐熙娣)经纪人向媒体证实,中国台湾知名女演员大S(徐熙媛)在日本旅游期间因患流感并发肺炎不幸离世。据报道,由于大S家人都在日本,因此...
02-04
  大众网记者 司心鹏 报道  近日,教育部发布了《关于推荐国家特殊教育改革实验区的通知》,旨在适应特殊教育改革发展的新形势新要求,在全国范围内设立一批特殊教育改革...
01-21
中新网上海1月22日电(记者陈静)记者22日获悉,在中医“瘀血理论”指导下,结...
01-23
  近日,又有一家消费金融公司收到监管罚单。  根据国家金融监督管理总局四川监管局开出的罚...
01-22
  自营理财业务的主动关停或被动离场已成为众多中小银行不得不面对的现实。  “我已告别资...
01-22
巨蟹座的人通常被认为是温柔、体贴和善良的,他们对待感情非常认真。然而,有时候即使是最...
01-22
狮子座的男生通常都有一颗自信而强大的心,他们喜欢追求并征服那些吸引他们的人。当狮子...
01-22
穿貂怎么搭配围巾图片欣赏?一、穿貂怎么搭配围巾图片欣赏?个人觉得貂皮本身就有厚重感,搭配围巾不是很适合,可以搭配轻质的丝巾。搭配如果艳丽一点可以选择正红色;肤色白的话可以...
02-17
女明星穿搭解析:时尚潮流背后的秘密在这个视觉至上的时代,女明星的穿着打扮不仅仅是一种个人风格的展示,更是引领时尚潮流的一种体现。我们经常在红毯、活动以及社交媒体上看到...
02-17
2月11日消息,为加力推进农村电商、乡村旅游等乡村产业发展壮大,近日,农业农村部指导抖音等网络平台,开展“星乡村”“星农人”培育工作,以公益方式扶持培育一批有特色有潜力的乡...
02-11
阿里巴巴港股成交额突破440亿港元,创历史天量,盘中股价涨超15%。消息面上,阿里巴巴昨日发布2025财年第三财季业绩公告。财报显示,阿里巴巴第三财季收入2801.54亿元,同比增长8%;经...
02-22
2月12日消息,携程集团公告称,由百度集团提名任命的董事何俊杰已辞任公司董事职务,并于2025年2月11日生效。百度集团执行副总裁罗戎,已获委任于何俊杰离职后继任为携程集团董事。...
02-13
随着大众追求健康与环保的消费理念不断普及,有机棉卫生巾概念一经提出,其天然、无添加的特性便吸引了不少女性的眼球。然而,近期有不...
02-18
近年来,浙江晨丰科技股份有限公司(以下简称“晨丰科技”)在复杂多变的市场环境中,凭借敏锐的市场洞察力和果断的战略布局,积极投身新能源领域,成功实现了业务多元化发展,展现出强大...
01-23
2024年末,一位科技创业者火了。作者 | 王思琪来源 | 投资家(ID:touzijias)2024年末,一位科技创业者火了。2025年初,这位创业者再度爆火。近日,中国科技行业因一位85后年轻人现身《...
01-24
曾为《上古卷轴》系列献声的资深游戏配音演员韦斯·约翰逊突发重病入院,其家人已在GoFundMe平台发起医疗费募捐。截至发稿时,该活动已筹得超5.2万美元(最初目标5...
01-31
《逃离塔科夫》开发商 Battlestate Gaems 近日在社交媒体上确认,团队正在开发游戏的 DLSS 4 支持。 开发商写道:“我们正关注社区对DLSS 4 日益增长的兴趣。我...
02-13
当地时间2月5日,美国总统特朗普签署一项行政命令,禁止跨性别运动员参加女子体育赛事。该行政命令是特朗普及其政府推进限制跨性别权利的最新举措。特朗普在竞选时曾多次承诺,如...
02-06
极目新闻记者 张盼在仙桃白马救人事件后,再现“钓鱼侠”。2月6日,钓鱼博主“土豆张”在社交平台发布的一段视频,引发网友关注,视频中众人用鱼竿、渔网救起一名落水者,评论区纷纷...
02-09
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮