当红炸子鸡DeepSeek,为何花心思自研存储?

11个月前 来源:央广网 观看:113

这两天DeepSeek开源3FS并行文件系统的消息,犹如向AI基础设施领域投下一枚深水炸弹。3FS每秒能搬运6.6TB数据,相当于1秒钟传输完700部4K高清电影。还能自动调资源,国产芯片用了它,跟国际大牌的差距直接缩小到15%。2bn即热新闻——关注每天科技社会生活新变化gihot.com

这并非简单的技术迭代——当Llama3 70B模型单次训练需吞掉15PB数据(相当于连续播放250万小时4K视频)时,全球AI实验室突然意识到:决定大模型训练效率的不仅是GPU算力,存储系统正成为影响进度的一大瓶颈。2bn即热新闻——关注每天科技社会生活新变化gihot.com

当AI算力狂飙时,存储正在成为隐形战场2bn即热新闻——关注每天科技社会生活新变化gihot.com

2024年,某头部AI公司曾因存储带宽不足,导致2000张A100显卡的算力利用率长期低于40%,单日经济损失超百万美元。这暴露了AI时代的“木桶效应”——当GPU计算速度进入微秒级时,一次突发的存储抖动就可能导致整个训练任务崩溃,让数周的计算成果瞬间蒸发。这或许也是DeepSeek自研存储的原因。2bn即热新闻——关注每天科技社会生活新变化gihot.com

数据显示,存储优化可直接将175B参数模型的训练周期压缩30%,对应百万美元级的成本被填平。而在推理端,当10%的异常请求遭遇存储延迟波动时,P99响应时间会瞬间突破SLA红线,这正是某自动驾驶公司在线服务突发降级的根本诱因。2bn即热新闻——关注每天科技社会生活新变化gihot.com

DeepSeek之所以选择自研3FS的本质,正是发现了存储架构在AI应用中的重要性。《金融行业先进AI存力报告》中提到,在同样的GPU算力规模下,存储性能的高低可能造成模型训练周期数倍的差异。在算力竞赛的背后,一场关于存储性能密度的暗战悄然升级,自研存储显得尤为重要。2bn即热新闻——关注每天科技社会生活新变化gihot.com

5家头部厂商角逐AI存储,国产能否拔得头筹2bn即热新闻——关注每天科技社会生活新变化gihot.com

相比于传统AI的需求,大模型对存力需求场景具有数据量大、参数规模大、训练周期长等特点。2bn即热新闻——关注每天科技社会生活新变化gihot.com

为了提升大模型训练速度,需要对大规模数据集进行快速加载,且一般采用数百甚至上万张GPU构成计算集群进行高效的并行计算,需要高并发输入/输出(I/O)处理,而训练数据集呈现海量小文件的特点,文件量在几亿到几十亿量级,对应的带宽需求可能每秒要达到上TB,这就要求存储系统具备强大的数据管理能力,业界能达到该能力的仅寥寥几家。2bn即热新闻——关注每天科技社会生活新变化gihot.com

从国内外优秀的并行存储产品具体能力对比来看,IBM作为老牌存储品牌,其产品从HPC场景成功向AI场景演进。在全球AI场景得到广泛应用的DDN,多个读、写带宽等关键性能指标上表现突出,但DDN由于技术封闭性、专有化硬件等原因,导致用户建设成本过高。2bn即热新闻——关注每天科技社会生活新变化gihot.com

国产厂商DeepSeek 3FS虽然是开源的新产品,但相对老牌存储也有不错的表现,在读带宽能力上表现优异,单集群6.6TB/s,平均单节点36.7GB/s的读带宽。2bn即热新闻——关注每天科技社会生活新变化gihot.com

另一家国产厂商京东云云海,在这个专业领域同样表现出色,以单节点95GB/s的读带宽、60GB/s的写带宽,进一步拉低了国产存储与国际老牌厂商的差距。相较于DeepSeek的3FS,京东云云海在提供高性能的同时适用性更广,可以同时满足DeepSeek、ChatGPT、LLaMA等20余种主流大模型的存力需求。2bn即热新闻——关注每天科技社会生活新变化gihot.com

综上来看,随着大模型快速向纵深场景演进,对存储的要求也越来越高,DeepSeek 3FS、京东云云海等国产存储,显示出在处理大规模数据集时的优越性能。未来国产存储能否拔得头筹,让我们拭目以待。2bn即热新闻——关注每天科技社会生活新变化gihot.com

这两天DeepSeek开源3FS并行文件系统的消息,犹如向AI基础设施领域投下一枚深水炸弹。3FS每秒能搬运6.6TB数据,相当于1秒钟传输完700部4K高清电影。还能自动调资源,国产芯片用了它,跟国际大牌的差距直接缩小到15%。2bn即热新闻——关注每天科技社会生活新变化gihot.com

这并非简单的技术迭代——当Llama3 70B模型单次训练需吞掉15PB数据(相当于连续播放250万小时4K视频)时,全球AI实验室突然意识到:决定大模型训练效率的不仅是GPU算力,存储系统正成为影响进度的一大瓶颈。2bn即热新闻——关注每天科技社会生活新变化gihot.com

当AI算力狂飙时,存储正在成为隐形战场2bn即热新闻——关注每天科技社会生活新变化gihot.com

2024年,某头部AI公司曾因存储带宽不足,导致2000张A100显卡的算力利用率长期低于40%,单日经济损失超百万美元。这暴露了AI时代的“木桶效应”——当GPU计算速度进入微秒级时,一次突发的存储抖动就可能导致整个训练任务崩溃,让数周的计算成果瞬间蒸发。这或许也是DeepSeek自研存储的原因。2bn即热新闻——关注每天科技社会生活新变化gihot.com

数据显示,存储优化可直接将175B参数模型的训练周期压缩30%,对应百万美元级的成本被填平。而在推理端,当10%的异常请求遭遇存储延迟波动时,P99响应时间会瞬间突破SLA红线,这正是某自动驾驶公司在线服务突发降级的根本诱因。2bn即热新闻——关注每天科技社会生活新变化gihot.com

DeepSeek之所以选择自研3FS的本质,正是发现了存储架构在AI应用中的重要性。《金融行业先进AI存力报告》中提到,在同样的GPU算力规模下,存储性能的高低可能造成模型训练周期数倍的差异。在算力竞赛的背后,一场关于存储性能密度的暗战悄然升级,自研存储显得尤为重要。2bn即热新闻——关注每天科技社会生活新变化gihot.com

5家头部厂商角逐AI存储,国产能否拔得头筹2bn即热新闻——关注每天科技社会生活新变化gihot.com

相比于传统AI的需求,大模型对存力需求场景具有数据量大、参数规模大、训练周期长等特点。2bn即热新闻——关注每天科技社会生活新变化gihot.com

为了提升大模型训练速度,需要对大规模数据集进行快速加载,且一般采用数百甚至上万张GPU构成计算集群进行高效的并行计算,需要高并发输入/输出(I/O)处理,而训练数据集呈现海量小文件的特点,文件量在几亿到几十亿量级,对应的带宽需求可能每秒要达到上TB,这就要求存储系统具备强大的数据管理能力,业界能达到该能力的仅寥寥几家。2bn即热新闻——关注每天科技社会生活新变化gihot.com

从国内外优秀的并行存储产品具体能力对比来看,IBM作为老牌存储品牌,其产品从HPC场景成功向AI场景演进。在全球AI场景得到广泛应用的DDN,多个读、写带宽等关键性能指标上表现突出,但DDN由于技术封闭性、专有化硬件等原因,导致用户建设成本过高。2bn即热新闻——关注每天科技社会生活新变化gihot.com

国产厂商DeepSeek 3FS虽然是开源的新产品,但相对老牌存储也有不错的表现,在读带宽能力上表现优异,单集群6.6TB/s,平均单节点36.7GB/s的读带宽。2bn即热新闻——关注每天科技社会生活新变化gihot.com

另一家国产厂商京东云云海,在这个专业领域同样表现出色,以单节点95GB/s的读带宽、60GB/s的写带宽,进一步拉低了国产存储与国际老牌厂商的差距。相较于DeepSeek的3FS,京东云云海在提供高性能的同时适用性更广,可以同时满足DeepSeek、ChatGPT、LLaMA等20余种主流大模型的存力需求。2bn即热新闻——关注每天科技社会生活新变化gihot.com

综上来看,随着大模型快速向纵深场景演进,对存储的要求也越来越高,DeepSeek 3FS、京东云云海等国产存储,显示出在处理大规模数据集时的优越性能。未来国产存储能否拔得头筹,让我们拭目以待。2bn即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-2-1074-0.html当红炸子鸡DeepSeek,为何花心思自研存储?

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:“七星连珠”为何并非“罕见奇观”

下一篇:多地积极布局智慧养老 养老机器人已“上岗”

为你推荐
美国物理学家阿瑟·阿什金因光镊操控技术获得2018年获诺贝尔物理学奖,让研究人员在微观世界中也可“抓得着”物体。这一研究为物理、生物和材...
01-21
近日,在中国空间站梦天实验舱航天基础试验机柜其中一个“太空抽屉”里,开展了地外人工光合作用技术试验,成功实现了高效二氧化碳转换和氧气再生新技术...
01-21
  据省交通运输厅预测,今年春节期间,省内自驾车出行量将创历史新高,国网辽宁电动汽车公司预测春节期间将...
01-22
  据网络平台数据  截至2月5日13时29分  2025年春节档上映新片(含春节档结束后)  总票房(...
02-06
  国家医保局今天(20日)表示,近日,上海市“两会”期间,有政协委员、医学专家反映某些集采药品可能存在质量风险等问题,国家医保局高度重视。  为切实接受民主监督,广泛听取...
01-21
  中新经纬1月17日电 (常涛)中新经纬获悉,17日下午,荣耀发布公告称,赵明因个人原因辞去公司董事、CEO等相关职务。董事会决定由李健接替赵明开展工作。  另据中新经纬了解,...
01-21
1 月 21 日消息,工业和信息化部副部长张云明今日在国新办新闻发布会上表示,新能源汽车产业面临国内竞争加剧、国际贸易壁垒高企等新形势新挑战。下一步,将围绕推动高质...
01-21
2 月 4 日消息,从小米汽车获悉,2 月 5 日起,小米 SU7 Ultra 将在全国 42 城 112 店正式开放静态品鉴。全新专属产品专家“Ultra Master”将与用户联系,安排、服务品鉴。...
02-04
《难哄》苏浩安谁演身份是什么?苏浩安喜欢谁?‌电视剧《难哄》中苏浩安的角色由陈昊森饰演‌。苏浩安在剧中是一个富二代,表面玩世不恭,但实际上内心柔软细腻。...
02-19
  1、《难哄》向朗喜欢温以凡,他对温以凡不仅仅是青梅竹马之谊,还有漫长的暗恋。  2、当年向朗出国之前本想送温以凡贵重的手链跟她表明心意的,但恰好当时是乔乔的生日,手...
02-22
21世纪经济报道记者林昀肖 实习生苏洋 北京报道春节假期已临近结束,而假期复工后往往会感觉容易疲倦、难以集中精神、心神不定、失眠、胃口...
02-04
21世纪经济报道记者 韩利明 上海报道医药领域关乎民生福祉。日前,最高人民检察院官网披露数据显示,2024年1月至11月,全国检察机关起诉医疗领...
02-15
  大众网记者 王一刚 报道  报纸王国欢迎您,纸不仅是孩子们熟知的事物,更是他们游戏,创作和探索的素材,在《报纸王国》主题活动中孩子们与报纸展开了一系列的活动,不知不...
01-21
  大众网记者 隋宜笑 报道  12月26日,山东政法学院党委委员、副校长胡晓清,山东政法学院传媒学院党总支书记徐永青,山东政法学院传媒学院副院长常洪卫等一行5人到访山东...
01-21
  新年伊始,锂电行业迎来一波产能扩张热潮,包括宁德时代、亿纬锂能、瑞浦兰钧在内的多家头部电...
01-21
  截至目前,已有51家信托公司通过银行间市场或上市平台披露了2024年未经审计的财务数据。  ...
01-22
双鱼座的男生常常以试探女生的方式来表达他们对她们的喜欢。这种试探往往伴随着一些虐...
01-22
双子座的男生天性活泼好动,喜欢追求新鲜刺激的感觉。他们往往对爱情持有一种轻松随意的...
01-22
当红女星风采:近期绽放的璀璨之美在最近的娱乐圈中,无论是电影、电视剧,还是社交媒体,许多女明星的魅力时刻吸引着大家的注意。仿佛每一位女神都在绽放自己的光芒,成了各界瞩目的...
02-07
矮个子男生穿搭? 155矮个子男生穿搭?一、矮个子男生穿搭?1.腰部高出5cm-7cm矮个子男生选择男士裤子时,腰部高出5cm-7cm是最好的。这样的选购小心机,对小个子男生来说很适用。2.脚...
02-17
2月19日消息,阿里云墨西哥数据中心今日正式启用,这是阿里云在拉美区域的第一座数据中心,为中国出海企业及当地客户提供产品及服务。阿里云墨西哥数据中心首批上线的产品涵盖弹...
02-20
2月20日消息,永辉超市2025年首期全国调改店长专项培训近日落幕。来自全国各地的167名店长学员顺利结业,这一成果标志着永辉超市“2025调改计划”人才培养体系落地,为全国门店调...
02-21
图片来源:图虫创意 掉队多年,曾经遥遥领先的鲁酒标杆在新帅...
02-23
2月26日消息,2月中旬以来,国内赏花游的热度如春潮般涌动,途牛截至目前最新预订数据显示,樱花、油菜花、桃花、杏花等春季限定赏花主题旅游产品预订热度提升显著。热门客源地方面...
02-27
近日,华力创科学宣布完成数千万元A+轮融资,本轮融资由金属3D打印领域头部上市公司铂力特独家投资。据披露,本轮融资所募集的资金将专注于深挖高性能光学多模态感知技术,结合金属...
01-24
全球性金融券商集团英国EBC Group平台始终致力于以领先生态,与全球交易者共塑交易的未来。 自第一届交易大赛起,为赤忱的热爱和卓越的才华提供舞台,在全球内寻找交易好手以赋能...
01-24
已经登陆多平台的奇幻背景建造主题RPG游戏《神箱 - Mythology of Cube -》(日版)官方宣布将推出国际版,预定1月30日登陆Steam、PlayStation5/4、Nintendo Switch平...
01-24
《绝地潜兵2》的开发商箭头游戏工作室在过去一年里,因其由游戏策划主导的剧情而备受关注。为纪念《绝地潜兵2》发布一周年,极为神秘的游戏策划J.O.E.L.首次在一...
02-10
2月5日正月初八,开工第一天,很多网友选择自驾返回自己工作的城市。临行前,后备箱被家人塞得满满当当,家乡特产,瓜果蔬菜,腊肉香肠馒头。很多网友在网络晒出自己的后备箱,并戏称有一...
02-06
南部战区海军航空兵某团组织多架固定翼反潜巡逻机开展跨昼夜飞行训练,锤炼部队全时、全域航空反潜作战能力。(央广网·军事频道作者:秦钱江)...
02-06
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮