昆仑万维开源R1V视觉思维链推理模型,开启多模态思考新时代

6个月前 来源:财经网 观看:98

3月18日,昆仑万维正式开源首款工业界多模态思维链推理模型Skywork R1V,即日起开源模型权重和技术报告。pVW即热新闻——关注每天科技社会生活新变化gihot.com

1pVW即热新闻——关注每天科技社会生活新变化gihot.com

开启多模态思考新时代pVW即热新闻——关注每天科技社会生活新变化gihot.com

继OpenAI o1和DeepSeek-R1在全球掀起长思考模型热潮后,大模型进入新技术范式。昆仑万维秉持实现 AGI 的初心,积极贡献开源社区,正式开源Skywork R1V多模态视觉推理模型,成为中国第一个开源「多模态推理模型」的企业。pVW即热新闻——关注每天科技社会生活新变化gihot.com

什么是视觉推理模型?pVW即热新闻——关注每天科技社会生活新变化gihot.com

视觉推理模型是一类能够解决需要思维链(Chain-of-Thought)的视觉任务的模型,通过对视觉信息进行多步逻辑推理与分析,逐步推导出最终结果。这种模型不仅关注图像内容的识别与理解,更强调通过层层递进的推理路径,实现复杂视觉问题的精准求解,例如视觉逻辑推理、视觉数学问题、图像中的科学现象分析、医学影像的诊断推理等,从而有效拓展了视觉大模型的应用边界。pVW即热新闻——关注每天科技社会生活新变化gihot.com

无论是日常繁琐的工作任务、复杂的数据分析、难以解答的学术问题,还是前所未见的陌生场景,都可以交给Skywork R1V进行高效处理。pVW即热新闻——关注每天科技社会生活新变化gihot.com

快速体验下来,R1V的视觉理解和推理能力双双在线。这样的模型能力是如何炼成的呢?pVW即热新闻——关注每天科技社会生活新变化gihot.com

强大推理能力,刷新跨模态任务新高度pVW即热新闻——关注每天科技社会生活新变化gihot.com

在Reasoning推理能力方面,Skywork R1V实现了模型的顶尖逻辑推理与数学分析能力。在权威的MATH500和AIME基准测试中,Skywork R1V分别取得了94.0和72.0的高分,明显领先于行业内众多主流模型。Skywork R1V在纯文本复杂推理任务中展现出卓越性能,使其在逻辑推理和数学问题求解领域展现出人类专家级别的水准。pVW即热新闻——关注每天科技社会生活新变化gihot.com

在Vision视觉理解能力方面,Skywork R1V成功地将其强大的文本推理与思维链推导能力高效迁移到视觉任务中。凭借创新的跨模态迁移技术与推理优化框架,Skywork R1V能够高效解决需要多步视觉推理的问题,在MMMU与MathVista等视觉推理基准中分别取得了69和67.5的优异成绩。这些结果不仅明显超越了多个近似大小的开源竞争模型,更达到与规模更大的闭源模型媲美的水准,充分证实了Skywork R1V在需要视觉思维链推理的跨模态任务中的领先优势。pVW即热新闻——关注每天科技社会生活新变化gihot.com

Skywork R1V通过视觉与文本能力的深度融合和视觉思维链推理能力的突破,推动了多模态推理模型的进一步发展,标志着人工智能领域的又一重大进步。pVW即热新闻——关注每天科技社会生活新变化gihot.com

目前,Skywork R1V已全面开源,期望助力全球范围内更多视觉推理任务的学术研究与产业应用探索。pVW即热新闻——关注每天科技社会生活新变化gihot.com

和开源同规模或更大规模模型的对比,Skywork R1V 38B体现出行业显著优异的推理能力,以及领先的多模态视觉理解能力。如下图,与开源同规模或更大规模模型的对比:pVW即热新闻——关注每天科技社会生活新变化gihot.com

2pVW即热新闻——关注每天科技社会生活新变化gihot.com

与闭源头部模型性能对比,R1V 38B模型性能媲美甚至超越更大开源模型以及主流闭源模型。如下图,与开源大尺寸模型与闭源专有模型的对比:pVW即热新闻——关注每天科技社会生活新变化gihot.com

3pVW即热新闻——关注每天科技社会生活新变化gihot.com

三大核心技术创新,引领视觉推理新突破pVW即热新闻——关注每天科技社会生活新变化gihot.com

Skywork R1V能够达到当前的性能高度,依赖于以下三项关键技术创新:pVW即热新闻——关注每天科技社会生活新变化gihot.com

1、文本推理能力的多模态高效迁移pVW即热新闻——关注每天科技社会生活新变化gihot.com

昆仑万维团队首次提出利用Skywork-VL的视觉投影器,无需重新训练语言模型和视觉编码器,即可实现文本推理能力的高效迁移到视觉任务,同时保留了优秀的原本推理文本能力(AIME 72.0,MATH500 94.0)。pVW即热新闻——关注每天科技社会生活新变化gihot.com

2、多模态混合式训练(IterativeSFT+GRPO)pVW即热新闻——关注每天科技社会生活新变化gihot.com

通过结合迭代监督微调(Iterative SFT)和GRPO强化学习,分阶段对齐视觉-文本表征,实现跨模态任务的高效融合,极大提升跨模态任务的表现。推动模型在MMMU基准达到69分的能力,同时在MathVista达到67.5分,与更大规模的闭源模型基本持平。通过反复迭代地利用高质量数据与高难度数据的组合,实现模型持续的知识巩固与错误纠正,显著提升了多模态推理的精度与泛化性能。pVW即热新闻——关注每天科技社会生活新变化gihot.com

图丨多模态混合式训练(来源:Skywork R1V技术报告)pVW即热新闻——关注每天科技社会生活新变化gihot.com

图丨多模态混合式训练(来源:Skywork R1V技术报告)pVW即热新闻——关注每天科技社会生活新变化gihot.com

3、自适应长度思维链蒸馏pVW即热新闻——关注每天科技社会生活新变化gihot.com

团队提出了一种基于视觉-文本复杂度的自适应推理链长度控制机制,动态优化模型推理过程,避免模型“过度思考”,提升推理效率。结合多阶段自蒸馏策略,进一步提升了数据生成与推理过程的质量,促进了模型在复杂多模态任务中的表现。pVW即热新闻——关注每天科技社会生活新变化gihot.com

图丨自适应长度思维链蒸馏(来源:Skywork R1V技术报告)pVW即热新闻——关注每天科技社会生活新变化gihot.com

图丨自适应长度思维链蒸馏(来源:Skywork R1V技术报告)pVW即热新闻——关注每天科技社会生活新变化gihot.com

Skywork R1V在训练过程中创新性地采用了三阶段方法,使得文本端强大的推理能力得以高效迁移至视觉任务上,具体训练流程如下:pVW即热新闻——关注每天科技社会生活新变化gihot.com

1、STEP1 视觉语言表征的初始对齐pVW即热新闻——关注每天科技社会生活新变化gihot.com

训练时首先使用轻量级的视觉适配器(MLP)连接视觉编码器(ViT)与语言模型,在已有的200万条常规多模态数据上进行训练,使得MLP初步学习如何将图像特征映射至语言空间。这一阶段仅训练MLP适配器,视觉编码器和语言模型参数保持冻结不变,快速、高效地实现视觉与语言表征的初步对齐。pVW即热新闻——关注每天科技社会生活新变化gihot.com

2、STEP2 推理能力迁移pVW即热新闻——关注每天科技社会生活新变化gihot.com

利用第一阶段训练好的MLP适配器,直接将视觉编码器与原始的强推理语言模型(R1-distilled-Qwen-32B)连接,形成Skywork-R1V视觉推理模型。虽然此时语言模型的参数发生了改变,但得益于语言模型架构的高度相似性和MLP的泛化能力,重新组装后的模型已能表现出一定的视觉推理能力,初始性能即达到业内同等规模的先进水平。pVW即热新闻——关注每天科技社会生活新变化gihot.com

3、STEP3 视觉与文本模态精准对齐pVW即热新闻——关注每天科技社会生活新变化gihot.com

最后,采用创新的“混合优化框架”,进一步精准对齐视觉和语言模态的表征。这一阶段分为两大步骤:迭代监督微调(Iterative SFT)和群组相对策略优化(GRPO)强化学习。在整个训练过程中,Skywork-R1V还创新性地引入了“自适应长度思维链蒸馏技术”,动态优化推理链长度,防止模型过度思考,从而提升了推理效率和质量。pVW即热新闻——关注每天科技社会生活新变化gihot.com

通过以上的训练策略,Skywork R1V在视觉推理任务上取得突破性进展,并在多个公开评测基准中达到或超过了现有领先模型的性能。pVW即热新闻——关注每天科技社会生活新变化gihot.com

此外,Skywork团队多模态理解模型也在进行"全面贯通"的进化,将视觉多模态扩展为全模态模型,引入语音理解能力。当前,全模态模型往往受限于特定领域不仅需要独立训练多个专业模型,更面临跨模态协同的算力挑战。pVW即热新闻——关注每天科技社会生活新变化gihot.com

基于R1V模型,Skywork团队设计了一种灵活在R1V中扩展语音理解模态的方式,从而实现一个全模态思考大模型,该在单个模型中同时实现图像、视频、语音的全模态理解能力,并在语音和视觉理解评测中斩获多项SOTA成绩。我们将陆续公布测评成绩、开源全模态思考大模型。pVW即热新闻——关注每天科技社会生活新变化gihot.com

持续开源回馈社区,坚定迈向AGIpVW即热新闻——关注每天科技社会生活新变化gihot.com

2023年10月以来,昆仑万维陆续开源了百亿级大语言模型「天工」Skywork-13B系列、数字智能体全流程研发工具包AgentStudio、4000亿参数MoE超级模型、2千亿稀疏大模型Skywork-MoE、推理模型Skywork-o1-Open等。2025年2月18日,昆仑万维同时将SOTA级别的SkyReels-V1和SkyReels-A1进行开源。pVW即热新闻——关注每天科技社会生活新变化gihot.com

在语言生成模型、AI Agent、推理模型、视频生成模型等相继开源、多点开花之后,我们正式开源Skywork R1V多模态推理模型,在文本-视觉多模态推理方向再下一城,成为中国第一家开源多模态思考模型的企业。pVW即热新闻——关注每天科技社会生活新变化gihot.com

中国企业过去一年在AI领域的开源贡献,让全世界AI从业者和开发者享受到了技术共享带来的普惠发展。DeepSeek的开源为AI行业提供了新的发展范本,多项开源成果显著降低了AI技术的应用门槛、促进全球AI技术的民主化。昆仑万维作为中国AI领军企业,我们将持续开源优秀的模型、数据集等,共建开发者生态、加速技术创新、降低应用门槛、推动技术平权和AI行业发展。pVW即热新闻——关注每天科技社会生活新变化gihot.com

此文内容为企业供稿,仅供参考。pVW即热新闻——关注每天科技社会生活新变化gihot.com


pVW即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-14-7857-0.html昆仑万维开源R1V视觉思维链推理模型,开启多模态思考新时代

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:甜啦啦获评2025年度特色茶饮十大品牌

下一篇:百利好:国际金价持续大涨后续走势会怎样?

为你推荐
近日武侠电影《笑傲江湖》角色海报发布。天下英雄各展身手,谁能最终问鼎武林?江湖恩怨诸多是非,还请诸君敬请期待! 《笑傲江湖》电影将于1月28日(除夕)在腾讯视频...
01-25
近日,国产独立黑暗武侠动作游戏游戏《乂闻录:轮回》(《义闻录:轮回》)官宣了发售日期,该作将于4月18日发售,登陆Steam,售价78元,首周折扣价66元,首个版本将提供20+小时的...
02-10
极目新闻记者 陈凌燕绘图 刘阳嗖地一下,年过完了。那么问题来了,说了那么多“新年快乐”,么样才能过好2025年?莫焦燥学会慢点嘎,冇得事嘀嘀嗒:我今年有个重要的计划,我要学会慢下来...
02-06
抖音安全中心2月8日公告称,近期,徐熙媛(大S)女士逝世引发广泛关注,广大网友纷纷表达哀思悼念,希望逝者能够安息。但也有部分账号借机炒作,发布谣言,违背公序良俗和道德底线,不尊重逝...
02-08
黄仁勋在中国台湾的行程聚焦于先进封装 CoWoS。1月16日,英伟达CEO黄仁勋开启中国台湾行程,首站到访矽品精密并出席揭牌仪式。黄仁勋...
01-21
“成功!”1月9日,伴随着最后一个控制开关被合上,宽敞明亮的集控室内爆发出热烈的掌声与欢呼声,中国能建主体投资建设的全球首座300兆瓦(MW)压气储能示范...
01-21
  据省交通运输厅预测,今年春节期间,省内自驾车出行量将创历史新高,国网辽宁电动汽车公司预测春节期间将...
01-22
  我省近岸海域水质稳中向好,海洋生态环境质量持续改善。日前,生态环境部公布了第三批美丽海湾优秀案例...
02-11
央视网消息:1月21日上午,人力资源社会保障部召开新闻发布会。相关负责人表示,2024年就业形势总体稳定。2024年全国城镇新增就业1256万人,全年城镇调查失业率平均值为5.1%,年底脱...
01-21
  近年来,短小精悍、剧情跌宕的短剧,发展成网络影视的一种新业态,短剧出海也成为我国文化产业的一个新风向。  截至2024年8月,头部海外短剧App的地区数据中,美国的收入达1...
01-22
1 月 24 日消息,如果你正在犹豫是否选择电动汽车(EV)作为下一辆新车,安全性很可能是一个重要的考虑因素。与传统的燃油车(ICE)相比,电动汽车究竟更安全还是更具风险?澳大利...
01-25
2 月 3 日消息,今年春节假期,七座以下(含七座)小型客车通行收费公路继续执行免收通行费政策,免费通行时段起止时间为1月28日(除夕)00:00至2月4日(正月初七,明天)24:00,共计8天...
02-04
  1、《难哄》向朗在剧中没有官配,他是温以凡的发小好友,也是十分优秀又温柔强大的海归精英。  2、小说中向朗没有爱情线,他跟温以凡是纯粹的友情,对温以凡好是出于朋友之...
02-19
《难哄》选角的导演是谁‌《难哄》的导演是瞿友宁‌。瞿友宁是中国台湾导演,拥有丰富的偶像剧执导经验,曾执导过《恶作剧之吻》和《我可能不会爱你》等经典影...
02-20
21世纪经济报道记者朱艺艺 杭州报道步入2025年,医药生物板块将演绎什么样的行情?2月5日,A股在春节假期之后迎来蛇年的首个交易日,医药生物板块...
02-06
  春节假期结束,目前北京市仍处于流感等呼吸道传染病高发期。近日,抗流感药物奥司他韦相关的多个词条冲上热搜,抗流感药物奥司他韦到底应该怎么吃?相关专家提示:奥司他韦...
02-07
  1月16日,在得知37656.7元义卖捐款将送到西藏灾区后,西安航天基地富力城黄河小学的师生家长深感欣慰。  近日,西藏日喀则市定日县地震牵动着每个人的心。在听闻受灾地区...
01-21
2025年1月辽宁省普通高中学业水平合格性考试将于2025年1月11日至13日进行。为做好报名工作,现将有关事项...
01-21
  近日,金融监管总局发布《保险公司监管评级办法》(简称《评级办法》),自2025年3月1日起施行。监...
01-21
  春节的“脚步”越来越近!近两日,上期所、郑商所、大商所、广期所陆续发布通知,对2025年春节期...
01-24
星座学说认为,巨蟹座和双鱼座是十分相配的星座组合。巨蟹男通常会被双鱼女所吸引,这是因...
01-22
天蝎座男生是十二星座中最神秘、深沉的一种类型,他们对感情非常认真,一旦喜欢上一个人,会...
01-22
一米七腿粗男生怎么穿搭?一、一米七腿粗男生怎么穿搭?男的一米七个子是比较矮的,这样的人身材墩实,腿又粗又短,搭配衣服是一件难的事情,我建议应该搭配一些颜色比较浅的衣服,最好是...
02-12
探索梦想职业:云南之玉珠宝有限公司诚邀你的加入在追寻职业梦想的道路上,选择一份让你热爱且能够施展才华的工作显得尤为重要。近期,云南之玉珠宝有限公司发布了招聘信息,热诚欢...
02-12
2月14日消息,哈萨克斯坦Dong Neng公司董事长贾小亮日前到访国联股份新疆数字经济总部,涂多多高级副总裁、跨境产发部总经理邵春生代表公司热情接待来访人员,双方基于前期交流,签...
02-15
2月19日消息,苏宁易购将于2月21日-3月2日双线启动“万人抢空调”活动,即日起开启预售。消费者参与活动可享政府以旧换新补贴至高20%,单一消费者购买空调补贴台数达到3台。此外,...
02-20
2月11日消息,饿了么董事长吴泽明(花名:范禹)今日通过公司全员信宣布饿了么最新组织调整:即日起,吴泽明将兼任饿了么CEO,韩鎏(花名:昊宸)专注分管即时物流中心,继续向吴泽明汇报。吴泽明...
02-12
餐饮二手设备回收商还在疯狂回收,而茶饮是重灾区。一位从事二手餐饮设备回收的资深人士告诉虎嗅,2024年奶茶相关设备的回收量成为二...
03-01
岁月悠悠,转眼又是一年。回首2024,中国式现代化进程持续推进,高质量发展成为各行各业奋进的目标,时代巨变催促着各行各业加速转型。作为社会“稳定器”和经济“减震器”的保险业...
01-23
【#小米汽车登记智能屏界面设计作品著作权#】天眼查App显示,近日,小米汽车科技有限公司登记“智能屏界面设计”作品著作权,作品类别为类似摄制电影方法创作的作品。该公司成立...
02-09
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮