昆仑万维开源R1V视觉思维链推理模型,开启多模态思考新时代

1年前 来源:财经网 观看:163

3月18日,昆仑万维正式开源首款工业界多模态思维链推理模型Skywork R1V,即日起开源模型权重和技术报告。DBL即热新闻——关注每天科技社会生活新变化gihot.com

1DBL即热新闻——关注每天科技社会生活新变化gihot.com

开启多模态思考新时代DBL即热新闻——关注每天科技社会生活新变化gihot.com

继OpenAI o1和DeepSeek-R1在全球掀起长思考模型热潮后,大模型进入新技术范式。昆仑万维秉持实现 AGI 的初心,积极贡献开源社区,正式开源Skywork R1V多模态视觉推理模型,成为中国第一个开源「多模态推理模型」的企业。DBL即热新闻——关注每天科技社会生活新变化gihot.com

什么是视觉推理模型?DBL即热新闻——关注每天科技社会生活新变化gihot.com

视觉推理模型是一类能够解决需要思维链(Chain-of-Thought)的视觉任务的模型,通过对视觉信息进行多步逻辑推理与分析,逐步推导出最终结果。这种模型不仅关注图像内容的识别与理解,更强调通过层层递进的推理路径,实现复杂视觉问题的精准求解,例如视觉逻辑推理、视觉数学问题、图像中的科学现象分析、医学影像的诊断推理等,从而有效拓展了视觉大模型的应用边界。DBL即热新闻——关注每天科技社会生活新变化gihot.com

无论是日常繁琐的工作任务、复杂的数据分析、难以解答的学术问题,还是前所未见的陌生场景,都可以交给Skywork R1V进行高效处理。DBL即热新闻——关注每天科技社会生活新变化gihot.com

快速体验下来,R1V的视觉理解和推理能力双双在线。这样的模型能力是如何炼成的呢?DBL即热新闻——关注每天科技社会生活新变化gihot.com

强大推理能力,刷新跨模态任务新高度DBL即热新闻——关注每天科技社会生活新变化gihot.com

在Reasoning推理能力方面,Skywork R1V实现了模型的顶尖逻辑推理与数学分析能力。在权威的MATH500和AIME基准测试中,Skywork R1V分别取得了94.0和72.0的高分,明显领先于行业内众多主流模型。Skywork R1V在纯文本复杂推理任务中展现出卓越性能,使其在逻辑推理和数学问题求解领域展现出人类专家级别的水准。DBL即热新闻——关注每天科技社会生活新变化gihot.com

在Vision视觉理解能力方面,Skywork R1V成功地将其强大的文本推理与思维链推导能力高效迁移到视觉任务中。凭借创新的跨模态迁移技术与推理优化框架,Skywork R1V能够高效解决需要多步视觉推理的问题,在MMMU与MathVista等视觉推理基准中分别取得了69和67.5的优异成绩。这些结果不仅明显超越了多个近似大小的开源竞争模型,更达到与规模更大的闭源模型媲美的水准,充分证实了Skywork R1V在需要视觉思维链推理的跨模态任务中的领先优势。DBL即热新闻——关注每天科技社会生活新变化gihot.com

Skywork R1V通过视觉与文本能力的深度融合和视觉思维链推理能力的突破,推动了多模态推理模型的进一步发展,标志着人工智能领域的又一重大进步。DBL即热新闻——关注每天科技社会生活新变化gihot.com

目前,Skywork R1V已全面开源,期望助力全球范围内更多视觉推理任务的学术研究与产业应用探索。DBL即热新闻——关注每天科技社会生活新变化gihot.com

和开源同规模或更大规模模型的对比,Skywork R1V 38B体现出行业显著优异的推理能力,以及领先的多模态视觉理解能力。如下图,与开源同规模或更大规模模型的对比:DBL即热新闻——关注每天科技社会生活新变化gihot.com

2DBL即热新闻——关注每天科技社会生活新变化gihot.com

与闭源头部模型性能对比,R1V 38B模型性能媲美甚至超越更大开源模型以及主流闭源模型。如下图,与开源大尺寸模型与闭源专有模型的对比:DBL即热新闻——关注每天科技社会生活新变化gihot.com

3DBL即热新闻——关注每天科技社会生活新变化gihot.com

三大核心技术创新,引领视觉推理新突破DBL即热新闻——关注每天科技社会生活新变化gihot.com

Skywork R1V能够达到当前的性能高度,依赖于以下三项关键技术创新:DBL即热新闻——关注每天科技社会生活新变化gihot.com

1、文本推理能力的多模态高效迁移DBL即热新闻——关注每天科技社会生活新变化gihot.com

昆仑万维团队首次提出利用Skywork-VL的视觉投影器,无需重新训练语言模型和视觉编码器,即可实现文本推理能力的高效迁移到视觉任务,同时保留了优秀的原本推理文本能力(AIME 72.0,MATH500 94.0)。DBL即热新闻——关注每天科技社会生活新变化gihot.com

2、多模态混合式训练(IterativeSFT+GRPO)DBL即热新闻——关注每天科技社会生活新变化gihot.com

通过结合迭代监督微调(Iterative SFT)和GRPO强化学习,分阶段对齐视觉-文本表征,实现跨模态任务的高效融合,极大提升跨模态任务的表现。推动模型在MMMU基准达到69分的能力,同时在MathVista达到67.5分,与更大规模的闭源模型基本持平。通过反复迭代地利用高质量数据与高难度数据的组合,实现模型持续的知识巩固与错误纠正,显著提升了多模态推理的精度与泛化性能。DBL即热新闻——关注每天科技社会生活新变化gihot.com

图丨多模态混合式训练(来源:Skywork R1V技术报告)DBL即热新闻——关注每天科技社会生活新变化gihot.com

图丨多模态混合式训练(来源:Skywork R1V技术报告)DBL即热新闻——关注每天科技社会生活新变化gihot.com

3、自适应长度思维链蒸馏DBL即热新闻——关注每天科技社会生活新变化gihot.com

团队提出了一种基于视觉-文本复杂度的自适应推理链长度控制机制,动态优化模型推理过程,避免模型“过度思考”,提升推理效率。结合多阶段自蒸馏策略,进一步提升了数据生成与推理过程的质量,促进了模型在复杂多模态任务中的表现。DBL即热新闻——关注每天科技社会生活新变化gihot.com

图丨自适应长度思维链蒸馏(来源:Skywork R1V技术报告)DBL即热新闻——关注每天科技社会生活新变化gihot.com

图丨自适应长度思维链蒸馏(来源:Skywork R1V技术报告)DBL即热新闻——关注每天科技社会生活新变化gihot.com

Skywork R1V在训练过程中创新性地采用了三阶段方法,使得文本端强大的推理能力得以高效迁移至视觉任务上,具体训练流程如下:DBL即热新闻——关注每天科技社会生活新变化gihot.com

1、STEP1 视觉语言表征的初始对齐DBL即热新闻——关注每天科技社会生活新变化gihot.com

训练时首先使用轻量级的视觉适配器(MLP)连接视觉编码器(ViT)与语言模型,在已有的200万条常规多模态数据上进行训练,使得MLP初步学习如何将图像特征映射至语言空间。这一阶段仅训练MLP适配器,视觉编码器和语言模型参数保持冻结不变,快速、高效地实现视觉与语言表征的初步对齐。DBL即热新闻——关注每天科技社会生活新变化gihot.com

2、STEP2 推理能力迁移DBL即热新闻——关注每天科技社会生活新变化gihot.com

利用第一阶段训练好的MLP适配器,直接将视觉编码器与原始的强推理语言模型(R1-distilled-Qwen-32B)连接,形成Skywork-R1V视觉推理模型。虽然此时语言模型的参数发生了改变,但得益于语言模型架构的高度相似性和MLP的泛化能力,重新组装后的模型已能表现出一定的视觉推理能力,初始性能即达到业内同等规模的先进水平。DBL即热新闻——关注每天科技社会生活新变化gihot.com

3、STEP3 视觉与文本模态精准对齐DBL即热新闻——关注每天科技社会生活新变化gihot.com

最后,采用创新的“混合优化框架”,进一步精准对齐视觉和语言模态的表征。这一阶段分为两大步骤:迭代监督微调(Iterative SFT)和群组相对策略优化(GRPO)强化学习。在整个训练过程中,Skywork-R1V还创新性地引入了“自适应长度思维链蒸馏技术”,动态优化推理链长度,防止模型过度思考,从而提升了推理效率和质量。DBL即热新闻——关注每天科技社会生活新变化gihot.com

通过以上的训练策略,Skywork R1V在视觉推理任务上取得突破性进展,并在多个公开评测基准中达到或超过了现有领先模型的性能。DBL即热新闻——关注每天科技社会生活新变化gihot.com

此外,Skywork团队多模态理解模型也在进行"全面贯通"的进化,将视觉多模态扩展为全模态模型,引入语音理解能力。当前,全模态模型往往受限于特定领域不仅需要独立训练多个专业模型,更面临跨模态协同的算力挑战。DBL即热新闻——关注每天科技社会生活新变化gihot.com

基于R1V模型,Skywork团队设计了一种灵活在R1V中扩展语音理解模态的方式,从而实现一个全模态思考大模型,该在单个模型中同时实现图像、视频、语音的全模态理解能力,并在语音和视觉理解评测中斩获多项SOTA成绩。我们将陆续公布测评成绩、开源全模态思考大模型。DBL即热新闻——关注每天科技社会生活新变化gihot.com

持续开源回馈社区,坚定迈向AGIDBL即热新闻——关注每天科技社会生活新变化gihot.com

2023年10月以来,昆仑万维陆续开源了百亿级大语言模型「天工」Skywork-13B系列、数字智能体全流程研发工具包AgentStudio、4000亿参数MoE超级模型、2千亿稀疏大模型Skywork-MoE、推理模型Skywork-o1-Open等。2025年2月18日,昆仑万维同时将SOTA级别的SkyReels-V1和SkyReels-A1进行开源。DBL即热新闻——关注每天科技社会生活新变化gihot.com

在语言生成模型、AI Agent、推理模型、视频生成模型等相继开源、多点开花之后,我们正式开源Skywork R1V多模态推理模型,在文本-视觉多模态推理方向再下一城,成为中国第一家开源多模态思考模型的企业。DBL即热新闻——关注每天科技社会生活新变化gihot.com

中国企业过去一年在AI领域的开源贡献,让全世界AI从业者和开发者享受到了技术共享带来的普惠发展。DeepSeek的开源为AI行业提供了新的发展范本,多项开源成果显著降低了AI技术的应用门槛、促进全球AI技术的民主化。昆仑万维作为中国AI领军企业,我们将持续开源优秀的模型、数据集等,共建开发者生态、加速技术创新、降低应用门槛、推动技术平权和AI行业发展。DBL即热新闻——关注每天科技社会生活新变化gihot.com

此文内容为企业供稿,仅供参考。DBL即热新闻——关注每天科技社会生活新变化gihot.com


DBL即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-14-7857-0.html昆仑万维开源R1V视觉思维链推理模型,开启多模态思考新时代

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:甜啦啦获评2025年度特色茶饮十大品牌

下一篇:百利好:国际金价持续大涨后续走势会怎样?

为你推荐
Game Discover Co发布了2025年1月Steam十大最赚钱的新发售游戏,1月17日发售的《真三国无双:起源》凭借2140万美元收入霸气登顶相当于1.55亿元,《最终幻想7:重生》...
02-04
卡普空大作《怪物猎人:荒野》日前火热测试中,有玩家找到了设定中的蜘蛛恐惧症模式的疑似出处,引发热议,开了以后更加恐怖了。 ·蜘蛛恐惧症模式在包括《魔兽世界...
02-13
中央气象台今早6点继续发布大风黄色预警和寒潮蓝色预警。大风黄色预警:预计今天8点到明天8点,华北、内蒙古中部、宁夏、陕西北部、黄淮等地的部分地区有5~6级、阵风7~8级的偏...
02-06
2月8日,哈尔滨亚冬会冰壶混双铜牌赛,中国队战胜菲律宾队获得铜牌。这是中国代表团在哈尔滨亚冬会获得的首枚奖牌。...
02-08
图源:pixabay1月17日晚间,思科瑞(688053.SH)发布公告称,公司收到四川证监局出具的《行政监管措施决定书》。据上述文件,思科瑞在2022年...
01-21
1月20日,国家能源局发布的“2024年全国油气勘探开发十大标志性成果”显示,2024年,国内油气产量当量首次超过4亿吨,连续8年保持千万吨级快速增长势头,“...
01-21
  近日,记者从沈阳海关了解到,2024年辽宁货物贸易进出口总值达7630.5亿元。其中,出口3776.7亿元,同比增长...
02-05
  为帮助大家顺利年报,辽宁省市场监督管理局准备了年报指南。  一、谁需要年报?  依据《企业信息公...
02-08
  新华社拉萨1月21日电(记者蒋梦辰、刘洪明)2024年西藏农村居民人均可支配收入21578元,同比增长8.3%。同时,城乡居民收入差距持续缩小,城乡居民收入倍差由上年的2.60降至2.57。...
01-22
  中新经纬1月20日电 国家医保局网站20日公开的《关于请协助做好当面听取集采药品相关意见的函》显示,近日,上海市“两会”期间,有政协委员、医学专家反映某些集采药品可能存...
01-21
1 月 26 日消息,日前特斯拉 Autopilot 高级软件工程师 Phil Duan 针对用户对特斯拉 FSD 技术的质疑作出回应,暗示公司在该领域取得了显著进展。一位长期持有特斯拉股...
01-27
1 月 27 日消息,雷军昨日发文称,小米汽车已和 13 家行业内优质运营商达成充电补能网络合作,超过 102 万充电桩入驻「小米充电地图」,今年的 Flag要成为“公用桩充电之王...
01-28
电视剧《陌上又花开》以其高度的观赏价值吸引了众多观众,将人们带入了一个充满想象力和戏剧性的世界。制作团队和演员们的出色表现让这部剧更加光彩夺目。近...
02-21
随着电视剧的热播,“夜魔侠重生上映时间是什么时候”这一话题逐渐吸引了众多粉丝的目光。该剧播出后,凭借其精彩的剧情、精良的制作和演员们的精湛表演,赢得了...
02-21
  本报北京1月13日电 (记者孙秀艳)为进一步加大对创新药的支持力度,国家医保局将研究出台一系列更有力度的政策举措。  国家医保局近日召开支持创新药发展企业座谈...
01-21
  近期,流感等呼吸道疾病进入高发期。全国流感病毒阳性率上升,尤以甲流多发。  中国疾控中心1...
01-21
日前,辽宁大学马克思主义学院与沈阳“九·一八”历史博物馆共建活动在辽宁大学崇山校区图书馆学术报告厅...
01-21
新华社北京1月14日电 记者14日从市场监管总局获悉,国务院食安办联合教育部、公安部、国家卫生健康委、市...
01-21
  两年三度冲刺港交所上市,宜宾银行(02596.HK)终于圆梦,但并未引起资本市场过多兴趣。  第一财...
01-22
  摘要  【玉米价暖量升,农民忙春耕】“立春节气过后,虽然按农历来算还没有出正月,大家还沉浸...
02-06
水瓶座的男生通常被认为是聪明、独立和创新的人。他们对于自由和个人空间有着强烈的需...
01-22
在星座学中,双鱼男和天蝎女被认为是非常相配的一对。他们之间的吸引力和默契让人难以忽...
01-22
秋季时尚新宠:香奈儿双色鞋的魅力与搭配秘籍在这个秋天,香奈儿再次给我们带来了惊喜。双色鞋的设计不仅让人眼前一亮,更是成为了时尚界的一种潮流趋势。作为一名爱好时尚的编辑...
02-12
圣罗兰流苏链条包流苏掉了怎么办?圣罗兰流苏链条包流苏掉了怎么办?你说的这是圣罗兰的品牌热门款包包吧,流苏能用掉,如果不是什么故意或者小意外人为的,真的怀疑你的包包是否是正...
02-17
2月5日消息,朋湖网近日联合机器人开放社区发布“2024年度科技产业系列榜单”,商越科技凭借自身的采购数字化技术创新、服务能力、市场竞争力及社会价值,入选“2024企业服务创新...
02-07
2月12日消息,情人节前夕,淘宝首次推出礼品卡,同品类可跨店使用。淘宝App显示,目前淘宝礼品卡设有美妆护肤卡、母婴亲子卡,面值共有四档,分别为600、800、1000、2000元。针对即将到...
02-13
2月4日消息,同程旅行发布《2025春节假期旅行消费报告》。报告显示,2025年春节,中国游客通过中转联运等方式开启了更聪明的团圆之旅,为了追求极致性价比,部分游客在返程途中选择在...
02-07
3月6日消息,携程集团日前与拉斯海马旅游发展局(RAKTDA)在2025年柏林国际旅游展上签署了一份谅解备忘录(MOU),联合推出一系列新举措,包括加强数字化互动、深化文化故事讲述和提升营...
03-09
【#国家能源集团等在安徽成立新公司# 注册资本2.1亿】天眼查App显示,近日,国能(太湖)新能源有限责任公司成立,法定代表人为赵冠永,注册资本2.1亿人民币,经营范围含太阳能发电技术服...
01-21
2024年末,一位科技创业者火了。作者 | 王思琪来源 | 投资家(ID:touzijias)2024年末,一位科技创业者火了。2025年初,这位创业者再度爆火。近日,中国科技行业因一位85后年轻人现身《...
01-24
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮