当红炸子鸡DeepSeek,为何花心思自研存储?

7个月前 来源:央广网 观看:95

这两天DeepSeek开源3FS并行文件系统的消息,犹如向AI基础设施领域投下一枚深水炸弹。3FS每秒能搬运6.6TB数据,相当于1秒钟传输完700部4K高清电影。还能自动调资源,国产芯片用了它,跟国际大牌的差距直接缩小到15%。q2y即热新闻——关注每天科技社会生活新变化gihot.com

这并非简单的技术迭代——当Llama3 70B模型单次训练需吞掉15PB数据(相当于连续播放250万小时4K视频)时,全球AI实验室突然意识到:决定大模型训练效率的不仅是GPU算力,存储系统正成为影响进度的一大瓶颈。q2y即热新闻——关注每天科技社会生活新变化gihot.com

当AI算力狂飙时,存储正在成为隐形战场q2y即热新闻——关注每天科技社会生活新变化gihot.com

2024年,某头部AI公司曾因存储带宽不足,导致2000张A100显卡的算力利用率长期低于40%,单日经济损失超百万美元。这暴露了AI时代的“木桶效应”——当GPU计算速度进入微秒级时,一次突发的存储抖动就可能导致整个训练任务崩溃,让数周的计算成果瞬间蒸发。这或许也是DeepSeek自研存储的原因。q2y即热新闻——关注每天科技社会生活新变化gihot.com

数据显示,存储优化可直接将175B参数模型的训练周期压缩30%,对应百万美元级的成本被填平。而在推理端,当10%的异常请求遭遇存储延迟波动时,P99响应时间会瞬间突破SLA红线,这正是某自动驾驶公司在线服务突发降级的根本诱因。q2y即热新闻——关注每天科技社会生活新变化gihot.com

DeepSeek之所以选择自研3FS的本质,正是发现了存储架构在AI应用中的重要性。《金融行业先进AI存力报告》中提到,在同样的GPU算力规模下,存储性能的高低可能造成模型训练周期数倍的差异。在算力竞赛的背后,一场关于存储性能密度的暗战悄然升级,自研存储显得尤为重要。q2y即热新闻——关注每天科技社会生活新变化gihot.com

5家头部厂商角逐AI存储,国产能否拔得头筹q2y即热新闻——关注每天科技社会生活新变化gihot.com

相比于传统AI的需求,大模型对存力需求场景具有数据量大、参数规模大、训练周期长等特点。q2y即热新闻——关注每天科技社会生活新变化gihot.com

为了提升大模型训练速度,需要对大规模数据集进行快速加载,且一般采用数百甚至上万张GPU构成计算集群进行高效的并行计算,需要高并发输入/输出(I/O)处理,而训练数据集呈现海量小文件的特点,文件量在几亿到几十亿量级,对应的带宽需求可能每秒要达到上TB,这就要求存储系统具备强大的数据管理能力,业界能达到该能力的仅寥寥几家。q2y即热新闻——关注每天科技社会生活新变化gihot.com

从国内外优秀的并行存储产品具体能力对比来看,IBM作为老牌存储品牌,其产品从HPC场景成功向AI场景演进。在全球AI场景得到广泛应用的DDN,多个读、写带宽等关键性能指标上表现突出,但DDN由于技术封闭性、专有化硬件等原因,导致用户建设成本过高。q2y即热新闻——关注每天科技社会生活新变化gihot.com

国产厂商DeepSeek 3FS虽然是开源的新产品,但相对老牌存储也有不错的表现,在读带宽能力上表现优异,单集群6.6TB/s,平均单节点36.7GB/s的读带宽。q2y即热新闻——关注每天科技社会生活新变化gihot.com

另一家国产厂商京东云云海,在这个专业领域同样表现出色,以单节点95GB/s的读带宽、60GB/s的写带宽,进一步拉低了国产存储与国际老牌厂商的差距。相较于DeepSeek的3FS,京东云云海在提供高性能的同时适用性更广,可以同时满足DeepSeek、ChatGPT、LLaMA等20余种主流大模型的存力需求。q2y即热新闻——关注每天科技社会生活新变化gihot.com

综上来看,随着大模型快速向纵深场景演进,对存储的要求也越来越高,DeepSeek 3FS、京东云云海等国产存储,显示出在处理大规模数据集时的优越性能。未来国产存储能否拔得头筹,让我们拭目以待。q2y即热新闻——关注每天科技社会生活新变化gihot.com

这两天DeepSeek开源3FS并行文件系统的消息,犹如向AI基础设施领域投下一枚深水炸弹。3FS每秒能搬运6.6TB数据,相当于1秒钟传输完700部4K高清电影。还能自动调资源,国产芯片用了它,跟国际大牌的差距直接缩小到15%。q2y即热新闻——关注每天科技社会生活新变化gihot.com

这并非简单的技术迭代——当Llama3 70B模型单次训练需吞掉15PB数据(相当于连续播放250万小时4K视频)时,全球AI实验室突然意识到:决定大模型训练效率的不仅是GPU算力,存储系统正成为影响进度的一大瓶颈。q2y即热新闻——关注每天科技社会生活新变化gihot.com

当AI算力狂飙时,存储正在成为隐形战场q2y即热新闻——关注每天科技社会生活新变化gihot.com

2024年,某头部AI公司曾因存储带宽不足,导致2000张A100显卡的算力利用率长期低于40%,单日经济损失超百万美元。这暴露了AI时代的“木桶效应”——当GPU计算速度进入微秒级时,一次突发的存储抖动就可能导致整个训练任务崩溃,让数周的计算成果瞬间蒸发。这或许也是DeepSeek自研存储的原因。q2y即热新闻——关注每天科技社会生活新变化gihot.com

数据显示,存储优化可直接将175B参数模型的训练周期压缩30%,对应百万美元级的成本被填平。而在推理端,当10%的异常请求遭遇存储延迟波动时,P99响应时间会瞬间突破SLA红线,这正是某自动驾驶公司在线服务突发降级的根本诱因。q2y即热新闻——关注每天科技社会生活新变化gihot.com

DeepSeek之所以选择自研3FS的本质,正是发现了存储架构在AI应用中的重要性。《金融行业先进AI存力报告》中提到,在同样的GPU算力规模下,存储性能的高低可能造成模型训练周期数倍的差异。在算力竞赛的背后,一场关于存储性能密度的暗战悄然升级,自研存储显得尤为重要。q2y即热新闻——关注每天科技社会生活新变化gihot.com

5家头部厂商角逐AI存储,国产能否拔得头筹q2y即热新闻——关注每天科技社会生活新变化gihot.com

相比于传统AI的需求,大模型对存力需求场景具有数据量大、参数规模大、训练周期长等特点。q2y即热新闻——关注每天科技社会生活新变化gihot.com

为了提升大模型训练速度,需要对大规模数据集进行快速加载,且一般采用数百甚至上万张GPU构成计算集群进行高效的并行计算,需要高并发输入/输出(I/O)处理,而训练数据集呈现海量小文件的特点,文件量在几亿到几十亿量级,对应的带宽需求可能每秒要达到上TB,这就要求存储系统具备强大的数据管理能力,业界能达到该能力的仅寥寥几家。q2y即热新闻——关注每天科技社会生活新变化gihot.com

从国内外优秀的并行存储产品具体能力对比来看,IBM作为老牌存储品牌,其产品从HPC场景成功向AI场景演进。在全球AI场景得到广泛应用的DDN,多个读、写带宽等关键性能指标上表现突出,但DDN由于技术封闭性、专有化硬件等原因,导致用户建设成本过高。q2y即热新闻——关注每天科技社会生活新变化gihot.com

国产厂商DeepSeek 3FS虽然是开源的新产品,但相对老牌存储也有不错的表现,在读带宽能力上表现优异,单集群6.6TB/s,平均单节点36.7GB/s的读带宽。q2y即热新闻——关注每天科技社会生活新变化gihot.com

另一家国产厂商京东云云海,在这个专业领域同样表现出色,以单节点95GB/s的读带宽、60GB/s的写带宽,进一步拉低了国产存储与国际老牌厂商的差距。相较于DeepSeek的3FS,京东云云海在提供高性能的同时适用性更广,可以同时满足DeepSeek、ChatGPT、LLaMA等20余种主流大模型的存力需求。q2y即热新闻——关注每天科技社会生活新变化gihot.com

综上来看,随着大模型快速向纵深场景演进,对存储的要求也越来越高,DeepSeek 3FS、京东云云海等国产存储,显示出在处理大规模数据集时的优越性能。未来国产存储能否拔得头筹,让我们拭目以待。q2y即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-2-1074-0.html当红炸子鸡DeepSeek,为何花心思自研存储?

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:“七星连珠”为何并非“罕见奇观”

下一篇:多地积极布局智慧养老 养老机器人已“上岗”

为你推荐
  科技日报记者 张佳欣  昆虫即使在弱光条件下也能表现出极其优秀的敏捷性和反应能力。秘密...
01-21
随着人类探索太空的脚步迈得越来越大,在月球上,甚至在火星上驻留并建设基地成为可能。想在月球上居住和旅行,水、氧气等生存资源和交通工具就不可或缺...
01-21
  近日,辽宁省防减救灾办与相关成员单位进行会商,对近期全省自然灾害风险形势开展了研判分析,结合实际对...
01-24
  随着纽约时装周启动,2025年秋冬国际时装周(伦敦、米兰、巴黎)将在本周陆续拉开序幕。记者留意...
02-19
  开年以来,多地将稳楼市作为重要工作。  1月14日,郑州市房协发出倡议书,倡议全市房企在“春节...
01-21
  中新经纬1月18日电 近日,博通分析(咨询分析机构)发布了《非银支付行业企业数字化服务专题分析2024》(下称“报告”),中新经纬研究院受权发布。  ↓↓报告摘编如下↓↓ ...
01-21
1 月 28 日消息,据 Teslarati 报道,一项由电动汽车咨询平台 Electrifying.com 开展的调查显示,特斯拉首席执行官埃隆・马斯克(Elon Musk)的言行正在影响英国消费者对特斯...
01-29
2月4日,赛力斯发布2025年1月产销快报。数据显示,赛力斯新能源汽车1月销量达17906辆。问界M9系列1月交付12483辆,连续10个月蝉联中国豪华市场50万元以上豪华车销量第一,持续引领...
02-05
《六姊妹》有几个女婿‌《六姊妹》中有9个女婿‌。这九个女婿分别是:‌张建国‌:何家丽的大女婿,出身军人,孤儿身份,被何家当家人何常胜看中,成为何家丽的伴侣‌...
02-20
《余烬之上》男主是谁的孩子?男主是谁扮演的?《余烬之上》有双男主,廖思远和廖知白是兄弟,他们是廖氏夫妇的孩子。剧中,一场十年前的大火让廖氏兄弟廖知白和廖思...
02-21
  本报北京1月14日电(记者 白剑峰)国家卫生健康委等6部门日前发布《关于开展儿童友好医院建设的意见》提出,秉持儿童优先理念,从儿童视角出发,为儿童提供有情感、有温度...
01-21
21世纪经济报道记者林昀肖 实习生苏洋 北京报道近日,天力士公告表示,其收到华润三九发来的通知,华润三九已于近日收到中国华润有限公司转发的...
02-11
2025年辽宁省普通高等学校招生艺术类专业省统考考生须知  1.凡报考美术与设计类、书法类、音乐类、舞...
01-22
青岛科技大学 聂楠竹 贾可好随着新学期的开始,大学校园迎来了一批批满怀憧憬与梦想的新生。对于新生而...
01-22
  中国经济网北京2月6日讯 国家金融监督管理总局网站近日发布的国家金融监督管理总局重庆监管...
02-07
  中国经济网北京2月7日讯 国家金融监督管理总局网站日前发布的上海监管局行政处罚信息公开表...
02-08
在星座学中,摩羯男和金牛女是一个非常有趣的组合。两个土象星座的结合,他们之间有着相似...
01-22
双子座的男生善于交际,聪明机智,喜欢追求新鲜刺激的感觉。然而,有时候他们也会变得烦躁不...
01-22
追寻时尚:2018年夏季潮流服饰全景探秘炎炎夏日来临,作为时尚引领者的你是否已经准备好迎接这个季节的潮流服饰了呢?2018年的夏季潮流服饰,以其独特的设计、清新的色彩和个性化的...
02-12
小小模特的梦想舞台:CIP国际少儿模特T台走秀揭秘在璀璨的时尚界,模特的身影总是让人心驰神往。不过,当我们谈到模特时,脑海中浮现的往往是那些身材高挑的成年模特。在这里,我想分...
02-17
已经闹上法庭。1、三只羊公司被起诉过去了这么久,没等到小杨哥复出,却等来了三只羊的官司。近日,据天眼查消息,合肥三只羊网络科技有限公司、广州市美诚食品有限公司等新增一则...
02-13
马云回国,首站闲鱼。元宵节前一天,马云突然现身阿里巴巴西溪园区,首先来到了闲鱼办公区,向闲鱼的年轻员工们送上新年问候。期间,马云表示:闲鱼应用AI技术的重点,在于服务年轻用户体...
02-14
图源:图虫创意 编者按:春节,中国人心中最传统、最具仪式感的...
02-07
2月10日消息,滴滴出行近日宣布携手华住集团会员俱乐部“华住会”,推出联名会员,双方在既有会员权益基础上新增联名会员权益合作,为用户的出行、住宿提供多重优惠与专享体验,方便...
02-11
1月20日晚,游族网络发布2024年年度业绩预告,报告显示,2024年度预计营收13.8-14.6亿元 。报告期内,游族网络持续深耕全球化游戏研发与发行,保持在营产品长线运营的基础上,积极推动...
01-21
【#海尔生物等在天津成立生物医药产业基金# 出资额5600万】天眼查App显示,近日,天津协禾生物医药产业基金合伙企业(有限合伙)成立,执行事务合伙人为天津滨海创投投资管理有限公司...
02-09
在2024年1月,育碧推出了《波斯王子:失落的王冠》,尽管游戏广受好评,但育碧以销量不佳为由将其开发团队解散,开发人员则被分配到了育碧的其他项目中。而最近,通过一名...
02-02
今日(2月5日),关注焦虑情绪的2D互动叙事游戏《焦虑小狗》Steam页面开放,年内发售,游戏支持简繁体中文,感兴趣的玩家可以点击此处进入商店页面。 游戏介绍: 《焦虑...
02-06
受加美关税战影响,2月2日外汇市场上,加元对美元汇率大幅下跌至1加元兑换0.6789美元。多伦多道明银行首席经济学家贝亚塔·卡兰西(Beata Caranci)和高级经济学家詹姆斯·奥兰多(Ja...
02-03
△以色列外交部长萨尔(资料图)以色列外交部长萨尔5日说,以色列将不参加联合国人权理事会。萨尔当天在社交媒体上说,以色列欢迎美国总统特朗普关于美国退出联合国人权理事会的决...
02-06
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮