当红炸子鸡DeepSeek,为何花心思自研存储?

1年前 来源:央广网 观看:116

这两天DeepSeek开源3FS并行文件系统的消息,犹如向AI基础设施领域投下一枚深水炸弹。3FS每秒能搬运6.6TB数据,相当于1秒钟传输完700部4K高清电影。还能自动调资源,国产芯片用了它,跟国际大牌的差距直接缩小到15%。vU8即热新闻——关注每天科技社会生活新变化gihot.com

这并非简单的技术迭代——当Llama3 70B模型单次训练需吞掉15PB数据(相当于连续播放250万小时4K视频)时,全球AI实验室突然意识到:决定大模型训练效率的不仅是GPU算力,存储系统正成为影响进度的一大瓶颈。vU8即热新闻——关注每天科技社会生活新变化gihot.com

当AI算力狂飙时,存储正在成为隐形战场vU8即热新闻——关注每天科技社会生活新变化gihot.com

2024年,某头部AI公司曾因存储带宽不足,导致2000张A100显卡的算力利用率长期低于40%,单日经济损失超百万美元。这暴露了AI时代的“木桶效应”——当GPU计算速度进入微秒级时,一次突发的存储抖动就可能导致整个训练任务崩溃,让数周的计算成果瞬间蒸发。这或许也是DeepSeek自研存储的原因。vU8即热新闻——关注每天科技社会生活新变化gihot.com

数据显示,存储优化可直接将175B参数模型的训练周期压缩30%,对应百万美元级的成本被填平。而在推理端,当10%的异常请求遭遇存储延迟波动时,P99响应时间会瞬间突破SLA红线,这正是某自动驾驶公司在线服务突发降级的根本诱因。vU8即热新闻——关注每天科技社会生活新变化gihot.com

DeepSeek之所以选择自研3FS的本质,正是发现了存储架构在AI应用中的重要性。《金融行业先进AI存力报告》中提到,在同样的GPU算力规模下,存储性能的高低可能造成模型训练周期数倍的差异。在算力竞赛的背后,一场关于存储性能密度的暗战悄然升级,自研存储显得尤为重要。vU8即热新闻——关注每天科技社会生活新变化gihot.com

5家头部厂商角逐AI存储,国产能否拔得头筹vU8即热新闻——关注每天科技社会生活新变化gihot.com

相比于传统AI的需求,大模型对存力需求场景具有数据量大、参数规模大、训练周期长等特点。vU8即热新闻——关注每天科技社会生活新变化gihot.com

为了提升大模型训练速度,需要对大规模数据集进行快速加载,且一般采用数百甚至上万张GPU构成计算集群进行高效的并行计算,需要高并发输入/输出(I/O)处理,而训练数据集呈现海量小文件的特点,文件量在几亿到几十亿量级,对应的带宽需求可能每秒要达到上TB,这就要求存储系统具备强大的数据管理能力,业界能达到该能力的仅寥寥几家。vU8即热新闻——关注每天科技社会生活新变化gihot.com

从国内外优秀的并行存储产品具体能力对比来看,IBM作为老牌存储品牌,其产品从HPC场景成功向AI场景演进。在全球AI场景得到广泛应用的DDN,多个读、写带宽等关键性能指标上表现突出,但DDN由于技术封闭性、专有化硬件等原因,导致用户建设成本过高。vU8即热新闻——关注每天科技社会生活新变化gihot.com

国产厂商DeepSeek 3FS虽然是开源的新产品,但相对老牌存储也有不错的表现,在读带宽能力上表现优异,单集群6.6TB/s,平均单节点36.7GB/s的读带宽。vU8即热新闻——关注每天科技社会生活新变化gihot.com

另一家国产厂商京东云云海,在这个专业领域同样表现出色,以单节点95GB/s的读带宽、60GB/s的写带宽,进一步拉低了国产存储与国际老牌厂商的差距。相较于DeepSeek的3FS,京东云云海在提供高性能的同时适用性更广,可以同时满足DeepSeek、ChatGPT、LLaMA等20余种主流大模型的存力需求。vU8即热新闻——关注每天科技社会生活新变化gihot.com

综上来看,随着大模型快速向纵深场景演进,对存储的要求也越来越高,DeepSeek 3FS、京东云云海等国产存储,显示出在处理大规模数据集时的优越性能。未来国产存储能否拔得头筹,让我们拭目以待。vU8即热新闻——关注每天科技社会生活新变化gihot.com

这两天DeepSeek开源3FS并行文件系统的消息,犹如向AI基础设施领域投下一枚深水炸弹。3FS每秒能搬运6.6TB数据,相当于1秒钟传输完700部4K高清电影。还能自动调资源,国产芯片用了它,跟国际大牌的差距直接缩小到15%。vU8即热新闻——关注每天科技社会生活新变化gihot.com

这并非简单的技术迭代——当Llama3 70B模型单次训练需吞掉15PB数据(相当于连续播放250万小时4K视频)时,全球AI实验室突然意识到:决定大模型训练效率的不仅是GPU算力,存储系统正成为影响进度的一大瓶颈。vU8即热新闻——关注每天科技社会生活新变化gihot.com

当AI算力狂飙时,存储正在成为隐形战场vU8即热新闻——关注每天科技社会生活新变化gihot.com

2024年,某头部AI公司曾因存储带宽不足,导致2000张A100显卡的算力利用率长期低于40%,单日经济损失超百万美元。这暴露了AI时代的“木桶效应”——当GPU计算速度进入微秒级时,一次突发的存储抖动就可能导致整个训练任务崩溃,让数周的计算成果瞬间蒸发。这或许也是DeepSeek自研存储的原因。vU8即热新闻——关注每天科技社会生活新变化gihot.com

数据显示,存储优化可直接将175B参数模型的训练周期压缩30%,对应百万美元级的成本被填平。而在推理端,当10%的异常请求遭遇存储延迟波动时,P99响应时间会瞬间突破SLA红线,这正是某自动驾驶公司在线服务突发降级的根本诱因。vU8即热新闻——关注每天科技社会生活新变化gihot.com

DeepSeek之所以选择自研3FS的本质,正是发现了存储架构在AI应用中的重要性。《金融行业先进AI存力报告》中提到,在同样的GPU算力规模下,存储性能的高低可能造成模型训练周期数倍的差异。在算力竞赛的背后,一场关于存储性能密度的暗战悄然升级,自研存储显得尤为重要。vU8即热新闻——关注每天科技社会生活新变化gihot.com

5家头部厂商角逐AI存储,国产能否拔得头筹vU8即热新闻——关注每天科技社会生活新变化gihot.com

相比于传统AI的需求,大模型对存力需求场景具有数据量大、参数规模大、训练周期长等特点。vU8即热新闻——关注每天科技社会生活新变化gihot.com

为了提升大模型训练速度,需要对大规模数据集进行快速加载,且一般采用数百甚至上万张GPU构成计算集群进行高效的并行计算,需要高并发输入/输出(I/O)处理,而训练数据集呈现海量小文件的特点,文件量在几亿到几十亿量级,对应的带宽需求可能每秒要达到上TB,这就要求存储系统具备强大的数据管理能力,业界能达到该能力的仅寥寥几家。vU8即热新闻——关注每天科技社会生活新变化gihot.com

从国内外优秀的并行存储产品具体能力对比来看,IBM作为老牌存储品牌,其产品从HPC场景成功向AI场景演进。在全球AI场景得到广泛应用的DDN,多个读、写带宽等关键性能指标上表现突出,但DDN由于技术封闭性、专有化硬件等原因,导致用户建设成本过高。vU8即热新闻——关注每天科技社会生活新变化gihot.com

国产厂商DeepSeek 3FS虽然是开源的新产品,但相对老牌存储也有不错的表现,在读带宽能力上表现优异,单集群6.6TB/s,平均单节点36.7GB/s的读带宽。vU8即热新闻——关注每天科技社会生活新变化gihot.com

另一家国产厂商京东云云海,在这个专业领域同样表现出色,以单节点95GB/s的读带宽、60GB/s的写带宽,进一步拉低了国产存储与国际老牌厂商的差距。相较于DeepSeek的3FS,京东云云海在提供高性能的同时适用性更广,可以同时满足DeepSeek、ChatGPT、LLaMA等20余种主流大模型的存力需求。vU8即热新闻——关注每天科技社会生活新变化gihot.com

综上来看,随着大模型快速向纵深场景演进,对存储的要求也越来越高,DeepSeek 3FS、京东云云海等国产存储,显示出在处理大规模数据集时的优越性能。未来国产存储能否拔得头筹,让我们拭目以待。vU8即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-2-1074-0.html当红炸子鸡DeepSeek,为何花心思自研存储?

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:“七星连珠”为何并非“罕见奇观”

下一篇:多地积极布局智慧养老 养老机器人已“上岗”

为你推荐
来自美国亚利桑那大学的天文学家团队使用大型双筒望远镜干涉仪,在红外波段捕捉到了迄今为止最清晰的活动星系核(AGN)图像,并将研究结果发表在最新一期...
01-21
人形机器人产业作为发展新质生产力的代表领域之一,正在进入发展上升期,成为科技竞争的新高地、未来产业的新赛道、经济发展的新引擎,发展潜力大、应用...
01-27
SQL Error: select * from ***_ecms_news2 where id in(127,) limit 2
  当地时间20日,俄罗斯总统普京在联邦安全会议常务委员视频会议上表示,俄方对与美国新的行政当局就乌克兰冲突开展对话持开放立场。  普京表示,在调解乌克兰冲突中,最主...
01-22
  中新经纬1月17日电 (薛宇飞)“这几年,捷克线上消费表现强劲,外卖和在线订单的比例显著上升。未来,要加强外卖业务,优化外卖包装和配送流程。同时,面对中高端餐饮市场的机会,我...
01-21
1 月 22 日消息,小米汽车今日宣布,SU7 智能双表盘小年彩蛋表情现已上线,用户可以通过喊“小爱同学放烟花”,让相应表盘放烟花。据悉,相关智能双表盘固件需要在 1.0.2-004...
01-23
肉体与灵魂一同出发,是件多么难的事。比如此刻的我,还沉浸在春节一醉方休的欢娱中。身体已然上班,内心依旧懒散。蛇年首个工作日,国内车圈首个重大新闻来自丰田:雷克萨斯将在上海...
02-06
最近,由几位优秀演员出演的电视剧《继承者游戏》播出后,获得了不错的收视率和热度。剧情和人物塑造都相当出色,值得一看。该剧上线时间为14:00,题材为男频复仇...
02-21
《余烬之上》男女主是谁?男主角换了吗?‌《余烬之上》的男女主分别是王子奇和孙怡‌。王子奇饰演男主廖思远,他因十年前的一场大火失去了家庭,从而产生了双重人...
02-21
21世纪经济报道记者 韩利明 上海报道春节前,王晨(化名)家中未满一岁的幼儿突发咳嗽、流涕等症状。尽管卫生院就在隔壁,王晨还是选择驱车前往县...
02-02
21世纪经济报道记者林昀肖 实习生苏洋 北京报道春节假期已临近结束,而假期复工后往往会感觉容易疲倦、难以集中精神、心神不定、失眠、胃口...
02-04
在清华大学的倾情帮扶下,青海大学于2007年5月成立了计算机技术与应用系(现为...
01-21
  今天我们来到了公安局浐灞分局。警察叔叔先带我们参观了他们审讯的地方。警察阿姨还教给我们很多在野外保护自己的知识。最后我们还进行了射击体验。  射击体验让我...
01-21
  近日,由元保集团(以下简称“元保”)和清华大学五道口金融学院中国保险与养老金融研究中心联合...
01-22
  1月21日,在岸人民币对美元汇率延续反弹势头,于日间交易时段最高上涨超过500个基点。专家表示,...
01-22
天蝎座的男生在感情中常常表现得非常专注和执着,一旦爱上一个人,很难忘记。因此,有时候我...
01-22
巨蟹座是黄道十二宫中的第四宫,出生在6月21日至7月22日期间。他们的象征是螃蟹,因此他们...
01-22
那些在古装剧中美丽动人的女明星们提到古装剧,大家脑海中往往浮现出那些华丽的服饰、动听的音乐和传奇的故事。然而,在这一切的光鲜背后,无疑是那些女明星们令人惊艳的扮相。古...
02-07
2023年时尚潮流颜色服饰指南在时尚的世界里,每年都会有新的潮流颜色引领风骚,成为众多服饰品牌和设计师争相追逐的对象。今年的潮流颜色不仅展现了设计师们的创意,更是反映了当...
02-17
1月24日消息,国联股份冷链多多数字云仓(寮步仓)开仓仪式近日在东莞市寮步镇举办,标志着冷链多多禽蛋产业链仓网布局在华南地区再落一子。涂多多高级副总裁、物流部总监安珅,冷链...
02-07
2月18日消息,遥望科技近日与巴西最大直播机构ABLELIVE达成独家战略合作,携手深耕巴西市场,共同打造该国直播电商行业的最大样板,致力推动巴西直播电商生态体系的深度升级。图源: ...
02-18
时隔两月,网红袋泡茶品牌“CHALI茶里”再度陷入欠薪风波。据《消费者报道》此前报道,2024年11月13日晚间,针对当时多名自称茶里的员...
02-07
2月11日消息,“市象”公众号发文称,美团内部正在进行一场AI“大跃进”。有美团内部员工透露,今年年初定的大OP(目标计划)就是四个All in,分别是海外市场、下沉市场、无人机、AI。...
02-11
2024国庆长假第一天,北京奥林匹克公园人头攒动,往来如织的人群中一道道“奇装异服”的身影吸引了游客注目,银发雪衣的雪女,斗笠披风的侠客,长尾兽耳的萌娘,子衿青青的儒生……原来...
01-23
AI卫星第一股,要来了。作者 | 笔锋来源 | 投资家(ID:touzijias)AI卫星第一股,要来了。当埃隆・马斯克的SpaceX以2.5万亿估值在全球商业航天领域封神,国内商业航天赛道也瞬间被按下...
02-09
来自深度求索的国产AI大模型DeepSeek最近在全球走红,与此同时,各种DeepSeek“培训课程”、“赚钱课程”开始涌现。难道学习人工智能一定要付费吗,学会DeepSeek真...
02-10
2025年开年最成功的中世纪背景角色扮演游戏《天国:拯救2》,目前已在Steam平台连续两周登顶销量榜榜首,在线峰值也突破了25万人。 近日有玩家发现这款热门游戏还...
02-13
2月4日,据报道,《封神2》太原路演现场观众情绪失控,导演乌尔善被观众贴脸质问: “为什么封神的口碑两极分化,你想过没有? 我们作为路人一直在给你说好话,你有没有想过自己去解决这...
02-05
2月9日,哈尔滨亚冬会短道速滑项目迎来了第二个金牌日的争夺。在男子5000米接力项目的决赛争夺中,由孙龙、林孝埈、刘少林、刘少昂组成的中国队遭遇韩国队阻挡犯规,最终遗憾无缘...
02-09
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮