当红炸子鸡DeepSeek,为何花心思自研存储?

4个月前 来源:央广网 观看:58

这两天DeepSeek开源3FS并行文件系统的消息,犹如向AI基础设施领域投下一枚深水炸弹。3FS每秒能搬运6.6TB数据,相当于1秒钟传输完700部4K高清电影。还能自动调资源,国产芯片用了它,跟国际大牌的差距直接缩小到15%。06x即热新闻——关注每天科技社会生活新变化gihot.com

这并非简单的技术迭代——当Llama3 70B模型单次训练需吞掉15PB数据(相当于连续播放250万小时4K视频)时,全球AI实验室突然意识到:决定大模型训练效率的不仅是GPU算力,存储系统正成为影响进度的一大瓶颈。06x即热新闻——关注每天科技社会生活新变化gihot.com

当AI算力狂飙时,存储正在成为隐形战场06x即热新闻——关注每天科技社会生活新变化gihot.com

2024年,某头部AI公司曾因存储带宽不足,导致2000张A100显卡的算力利用率长期低于40%,单日经济损失超百万美元。这暴露了AI时代的“木桶效应”——当GPU计算速度进入微秒级时,一次突发的存储抖动就可能导致整个训练任务崩溃,让数周的计算成果瞬间蒸发。这或许也是DeepSeek自研存储的原因。06x即热新闻——关注每天科技社会生活新变化gihot.com

数据显示,存储优化可直接将175B参数模型的训练周期压缩30%,对应百万美元级的成本被填平。而在推理端,当10%的异常请求遭遇存储延迟波动时,P99响应时间会瞬间突破SLA红线,这正是某自动驾驶公司在线服务突发降级的根本诱因。06x即热新闻——关注每天科技社会生活新变化gihot.com

DeepSeek之所以选择自研3FS的本质,正是发现了存储架构在AI应用中的重要性。《金融行业先进AI存力报告》中提到,在同样的GPU算力规模下,存储性能的高低可能造成模型训练周期数倍的差异。在算力竞赛的背后,一场关于存储性能密度的暗战悄然升级,自研存储显得尤为重要。06x即热新闻——关注每天科技社会生活新变化gihot.com

5家头部厂商角逐AI存储,国产能否拔得头筹06x即热新闻——关注每天科技社会生活新变化gihot.com

相比于传统AI的需求,大模型对存力需求场景具有数据量大、参数规模大、训练周期长等特点。06x即热新闻——关注每天科技社会生活新变化gihot.com

为了提升大模型训练速度,需要对大规模数据集进行快速加载,且一般采用数百甚至上万张GPU构成计算集群进行高效的并行计算,需要高并发输入/输出(I/O)处理,而训练数据集呈现海量小文件的特点,文件量在几亿到几十亿量级,对应的带宽需求可能每秒要达到上TB,这就要求存储系统具备强大的数据管理能力,业界能达到该能力的仅寥寥几家。06x即热新闻——关注每天科技社会生活新变化gihot.com

从国内外优秀的并行存储产品具体能力对比来看,IBM作为老牌存储品牌,其产品从HPC场景成功向AI场景演进。在全球AI场景得到广泛应用的DDN,多个读、写带宽等关键性能指标上表现突出,但DDN由于技术封闭性、专有化硬件等原因,导致用户建设成本过高。06x即热新闻——关注每天科技社会生活新变化gihot.com

国产厂商DeepSeek 3FS虽然是开源的新产品,但相对老牌存储也有不错的表现,在读带宽能力上表现优异,单集群6.6TB/s,平均单节点36.7GB/s的读带宽。06x即热新闻——关注每天科技社会生活新变化gihot.com

另一家国产厂商京东云云海,在这个专业领域同样表现出色,以单节点95GB/s的读带宽、60GB/s的写带宽,进一步拉低了国产存储与国际老牌厂商的差距。相较于DeepSeek的3FS,京东云云海在提供高性能的同时适用性更广,可以同时满足DeepSeek、ChatGPT、LLaMA等20余种主流大模型的存力需求。06x即热新闻——关注每天科技社会生活新变化gihot.com

综上来看,随着大模型快速向纵深场景演进,对存储的要求也越来越高,DeepSeek 3FS、京东云云海等国产存储,显示出在处理大规模数据集时的优越性能。未来国产存储能否拔得头筹,让我们拭目以待。06x即热新闻——关注每天科技社会生活新变化gihot.com

这两天DeepSeek开源3FS并行文件系统的消息,犹如向AI基础设施领域投下一枚深水炸弹。3FS每秒能搬运6.6TB数据,相当于1秒钟传输完700部4K高清电影。还能自动调资源,国产芯片用了它,跟国际大牌的差距直接缩小到15%。06x即热新闻——关注每天科技社会生活新变化gihot.com

这并非简单的技术迭代——当Llama3 70B模型单次训练需吞掉15PB数据(相当于连续播放250万小时4K视频)时,全球AI实验室突然意识到:决定大模型训练效率的不仅是GPU算力,存储系统正成为影响进度的一大瓶颈。06x即热新闻——关注每天科技社会生活新变化gihot.com

当AI算力狂飙时,存储正在成为隐形战场06x即热新闻——关注每天科技社会生活新变化gihot.com

2024年,某头部AI公司曾因存储带宽不足,导致2000张A100显卡的算力利用率长期低于40%,单日经济损失超百万美元。这暴露了AI时代的“木桶效应”——当GPU计算速度进入微秒级时,一次突发的存储抖动就可能导致整个训练任务崩溃,让数周的计算成果瞬间蒸发。这或许也是DeepSeek自研存储的原因。06x即热新闻——关注每天科技社会生活新变化gihot.com

数据显示,存储优化可直接将175B参数模型的训练周期压缩30%,对应百万美元级的成本被填平。而在推理端,当10%的异常请求遭遇存储延迟波动时,P99响应时间会瞬间突破SLA红线,这正是某自动驾驶公司在线服务突发降级的根本诱因。06x即热新闻——关注每天科技社会生活新变化gihot.com

DeepSeek之所以选择自研3FS的本质,正是发现了存储架构在AI应用中的重要性。《金融行业先进AI存力报告》中提到,在同样的GPU算力规模下,存储性能的高低可能造成模型训练周期数倍的差异。在算力竞赛的背后,一场关于存储性能密度的暗战悄然升级,自研存储显得尤为重要。06x即热新闻——关注每天科技社会生活新变化gihot.com

5家头部厂商角逐AI存储,国产能否拔得头筹06x即热新闻——关注每天科技社会生活新变化gihot.com

相比于传统AI的需求,大模型对存力需求场景具有数据量大、参数规模大、训练周期长等特点。06x即热新闻——关注每天科技社会生活新变化gihot.com

为了提升大模型训练速度,需要对大规模数据集进行快速加载,且一般采用数百甚至上万张GPU构成计算集群进行高效的并行计算,需要高并发输入/输出(I/O)处理,而训练数据集呈现海量小文件的特点,文件量在几亿到几十亿量级,对应的带宽需求可能每秒要达到上TB,这就要求存储系统具备强大的数据管理能力,业界能达到该能力的仅寥寥几家。06x即热新闻——关注每天科技社会生活新变化gihot.com

从国内外优秀的并行存储产品具体能力对比来看,IBM作为老牌存储品牌,其产品从HPC场景成功向AI场景演进。在全球AI场景得到广泛应用的DDN,多个读、写带宽等关键性能指标上表现突出,但DDN由于技术封闭性、专有化硬件等原因,导致用户建设成本过高。06x即热新闻——关注每天科技社会生活新变化gihot.com

国产厂商DeepSeek 3FS虽然是开源的新产品,但相对老牌存储也有不错的表现,在读带宽能力上表现优异,单集群6.6TB/s,平均单节点36.7GB/s的读带宽。06x即热新闻——关注每天科技社会生活新变化gihot.com

另一家国产厂商京东云云海,在这个专业领域同样表现出色,以单节点95GB/s的读带宽、60GB/s的写带宽,进一步拉低了国产存储与国际老牌厂商的差距。相较于DeepSeek的3FS,京东云云海在提供高性能的同时适用性更广,可以同时满足DeepSeek、ChatGPT、LLaMA等20余种主流大模型的存力需求。06x即热新闻——关注每天科技社会生活新变化gihot.com

综上来看,随着大模型快速向纵深场景演进,对存储的要求也越来越高,DeepSeek 3FS、京东云云海等国产存储,显示出在处理大规模数据集时的优越性能。未来国产存储能否拔得头筹,让我们拭目以待。06x即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-2-1074-0.html当红炸子鸡DeepSeek,为何花心思自研存储?

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:“七星连珠”为何并非“罕见奇观”

下一篇:多地积极布局智慧养老 养老机器人已“上岗”

为你推荐
记者1月21日从中国农业科学院棉花研究所获悉,该所马雄风研究员团队成功构建了首个结合单细胞转录组、空间转录组及空间代谢组的棉花纤维起始发育图...
01-22
  本报讯 记者黄辉 1月18日,江西省数据资源公证登记平台应用展示会在南昌举行。记者从会上获悉...
01-23
  近日,我省多个在建高速公路项目陆续启动复工。高速路建设加速度,离不开近年来我省聚焦“交通强省”建...
02-17
  作者:本报记者李晓东《光明日报》(2025年02月16日05版)  乐山甜皮鸭。周艺珣绘  【至味人...
02-18
全国多个省份陆续进入“两会时间”。1月13日,黑龙江省第十四届人民代表大会第三次会议开幕。根据2025年黑龙江省政府工作报告,2025...
01-21
  当地时间20日,俄罗斯总统普京在联邦安全会议常务委员视频会议上表示,俄方对与美国新的行政当局就乌克兰冲突开展对话持开放立场。  普京表示,在调解乌克兰冲突中,最主...
01-22
2 月 4 日消息,从小米汽车获悉,2 月 5 日起,小米 SU7 Ultra 将在全国 42 城 112 店正式开放静态品鉴。全新专属产品专家“Ultra Master”将与用户联系,安排、服务品鉴。...
02-04
2 月 6 日消息,Jeep 昨日(2 月 5 日)发布公告,宣布推出 Wagoneer S Limited 版,配备了与 Launch Edition 相同的 400 伏、100 千瓦时电池组,支持在 20 分钟内通过 DC 快充...
02-06
最近几天,《漫城》这部备受期待的新剧终于开播,热度居高不下,在各大社交平台上频繁登上热搜。剧中讲述了禾蕊与白筱朵在繁华且充满竞争的城市中的友情故事,以及...
02-20
《逃命游戏:无限重启》播出后,许多观众对剧情发展和角色命运产生了浓厚兴趣。该剧由夏婧苒和宋旭主演,于每天上午10点更新,属于复仇题材,在汪汪剧场播出。故事讲...
02-21
  羊城晚报记者 薛仁政 通讯员 韩文青 王慧 白恬  春节期间,亲朋好友久别重逢,佳肴美酒不断,正当时令节气大寒,故而身体倦怠懒动,又因娱乐活动众多,情绪高涨难眠。从中...
02-02
  不少网友在春节期间  开启了天天吃剩菜的生活  这样的“剩宴”安全吗?  哪些食物不适...
02-05
  大众网记者 秦瑾 通讯员 李永添 报道  12月24日,德州学院董仲舒书院揭牌开班仪式在厚德楼第二报告厅举行。德州市人民政府原副市长、一级巡视员董绍辉,上海交通大学...
01-21
1月15日,正值习近平总书记考察皇姑区三台子街道牡丹社区三周年之际,辽宁大学纪检监察学院与皇姑区三台子...
01-21
  近日,多家消费金融公司围绕春节购物、出行、旅游等消费需求,打造多样化服务和优惠举措,推出满...
01-24
春节临近,各地返乡客流与出游人群交织,北京、深圳等城市的地铁站里人潮涌动,成为人们出行的关键枢...
01-27
天秤座的男生以他们温和、友善和迷人的个性而闻名。他们通常很受欢迎,因为他们擅长与人...
01-22
水瓶座的男生通常被认为是理性、独立和冷漠的代表,但当他们真正爱上一个人时,他们会展现...
01-22
她是当今最美的女明星,你同意吗?在娱乐圈,讨论“谁是最美的女明星”一直是个热门话题。从银幕上闪耀的光芒到红毯上的璀璨,每位女明星都有她独特的魅力和风格。但在这其中,究竟谁...
02-07
国际超模的璀璨舞台:T台走秀背后的故事在时尚界,国际超模的T台走秀一直是万众瞩目的焦点。每一次的走秀都像是一场艺术的盛会,不仅展现了设计师的创意与灵感,更是模特们风貌与气...
02-12
2月6日消息,A股电商SaaS第一股光云科技宣布,旗下快麦小智已接入并支持DeepSeek。据介绍,快麦小智是基于自然语言交互和个性化推荐技术搭建的对话式营销服务一体化智能客服机器...
02-07
2月17日消息,1688温州选品中心落户温州大象城开工盛典仪式日前举行,标志着温州市电商发展迈入新篇章。图源:1688商人圈公众号活动现场,1688温州选品中心合作链主林景乐表示,1688 ...
02-18
2月10日消息,美团外卖发布《年轻人春节送礼报告(2025)》,2025年春节期间,美团平台上“春节送礼”搜索量同比增速达165%,外卖餐饮礼券赠送量环比节前增长120%。其中95后消费者占比...
02-11
2月27日消息,抖音生活服务举办“服务体验与治理开放日”,发布《2024抖音生活服务消费者权益保护年度报告》,公布了过去一年在消费者权益保障与生态治理方面的措施和阶段性成果...
03-01
近期,山东正耀科技有限公司(以下简称“正耀集团”)完成了A轮融资,融资资金达2700万元人民币。本轮融资的投资方为中储北方投资管理有限公司(以下简称“...
02-07
2025年,电影《哪吒2》爆火,一个河南85后成了最大赢家。作者 | 老高来源 | 投资家(ID:touzijias)2025年,电影《哪吒2》爆火,一个河南85后成了最大赢家。近日,“全球领先的潮流文化娱...
02-09
在《GTA5》中为魅力主角之一崔佛配音的男演员史蒂文·奥格(Steven Ogg)希望能在《GTA6》中最后一次扮演这个疯子角色。史蒂文·奥格希望崔佛能在游戏早期的某个...
01-29
《刺客信条:影》未发布的故事及角色细节,通过一家成人卡通网站泄露了出去。 上周末,该游戏当前尚未发布的艺术设定集扫描件被发布在一个成人动漫网站上,随后被发行...
02-05
昨天(1日),我国南方地区阴雨雪天气持续,河南、湖北、安徽等地局地出现大雪。今天(2日),南方大部地区仍被阴雨雪“控场”,湿冷感较为突出。此外,新疆、青海、甘肃以及东北地区有小雪或...
02-02
随着寒潮影响结束,本周前期气温将上升,但之后冷空气又来制造降温,同时雨雪范围又将增大。本周气温先升后降 雨雪范围将增大中国气象局气象分析师 李宁:到了本周仍然会有冷空气活...
02-10
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮