灵初智能发布端到端VLA模型PsiR0.5,仅需两小时数据实现物品、场景全面泛化

1年前 来源:华夏晚报 观看:180

近日,Figure 发布的端到端 VLA 具身大模型  Helix,采用分层架构同时实现高频控制和高泛化能力,引起了业内广泛关注。几乎同期,中国具身智能团队灵初智能发布了基于强化学习的增强版分层架构端到端 VLA  模型 Psi R0.5,这距离灵初智能团队去年底发布的 Psi R0 仅 2 个月HTd即热新闻——关注每天科技社会生活新变化gihot.com

  本次发布的新模型重大升级,对于复杂场景的泛化性灵巧性CoT长程任务能力上均有显著提升,同时完成泛化抓取训练所需的数据量仅需  Helix 数据量的 0.4%!在全球范围内实现了泛化灵巧操作与训练效率的双重领先。HTd即热新闻——关注每天科技社会生活新变化gihot.com

  此外,灵初智能团队连发四篇高质量论文,将团队在高效实现泛化抓取堆叠场景的物品检索利用外部环境配合抓取VLA  安全对齐方面的最新成果悉数公开,展现了中国团队在具身智能领域的强悍战斗力。HTd即热新闻——关注每天科技社会生活新变化gihot.com

1.pngHTd即热新闻——关注每天科技社会生活新变化gihot.com

Psi R0.5 路径演进图HTd即热新闻——关注每天科技社会生活新变化gihot.com

DexGraspVLA仅需两小时灵巧手抓取数据HTd即热新闻——关注每天科技社会生活新变化gihot.com

轻松实现物品、灯光、场景泛化并实现真正  CoTHTd即热新闻——关注每天科技社会生活新变化gihot.com

  DexGraspVLA 是首个用于灵巧手通用抓取的  VLA(Vision-Language-Action)框架,通过少量的训练,即刻在多变环境下智能涌现灵巧操作能力,能够像人类一样快速、准确地拾取各种物品。HTd即热新闻——关注每天科技社会生活新变化gihot.com

  DexGraspVLA 是一个融合视觉,语言和动作的层次化框架:HTd即热新闻——关注每天科技社会生活新变化gihot.com

  · High-level  Planner:高层规划由预训练的大型视觉语言模型(VLM)实现,可理解多样化指令、自主决定抓取策略HTd即热新闻——关注每天科技社会生活新变化gihot.com

  · Low-level  Controller:低层扩散策略通过实时视觉反馈闭环掌握目标物体智能涌现出灵巧操作能力HTd即热新闻——关注每天科技社会生活新变化gihot.com

  整个框架的核心在于将多样化的图像输入数据通过现有的 Foundation Model 转换成 Domain-invariance  的表征,并端到端地训练下层控制模型。HTd即热新闻——关注每天科技社会生活新变化gihot.com

2.pngHTd即热新闻——关注每天科技社会生活新变化gihot.com

DexGraspVLA 框架图HTd即热新闻——关注每天科技社会生活新变化gihot.com

  从实验结果看,灵初智能仅使用了约 2 小时的灵巧手抓取数据(2094 条轨迹 × 3.5 秒 / 条 ÷ 60 秒  / 分钟 ÷ 60 分钟 / 小时 ≈ 2 小时),泛化到上千种不同物体,位置,堆叠,灯光,背景下成功抓取,而这个数据量仅仅是 Figure 的  0.4%数据利用效率提高 250 倍HTd即热新闻——关注每天科技社会生活新变化gihot.com

  同时,DexGraspVLA 相比现有方案还具有几项优势:HTd即热新闻——关注每天科技社会生活新变化gihot.com

  · 根据语言指令分辨出目标物体,处理堆叠场景下的目标物体的检索并抓取HTd即热新闻——关注每天科技社会生活新变化gihot.com

  · 抓取速度快(所有视频无加速,同类工作中节拍较快),闭环姿态矫正与重抓取能力(ReGrasp)HTd即热新闻——关注每天科技社会生活新变化gihot.com

  · 大脑具有 CoT 长程推理能力自主推理抓取顺序并将所有物体依次抓取HTd即热新闻——关注每天科技社会生活新变化gihot.com

  DexGraspVLA  展现出对光照变化背景干扰和物体姿态的强大鲁棒性和泛化性,让机器人的灵巧抓取达到人类级别。HTd即热新闻——关注每天科技社会生活新变化gihot.com

  基于预训练的大模型:使用自然语言与人类交互,具有高智能的长程推理能力,能够自主理解人类话语并推理任务。因此可以一次设定多个抓取目标,通过 CoT  实现复杂流程下的自动分拣或清理。HTd即热新闻——关注每天科技社会生活新变化gihot.com

  DexGraspVLA  仍然会自动分析当前姿态偏差,通过细微调整腕关节和手部角度重新尝试抓取实现非常鲁棒且高效的抓取能力达到极强的泛化能力HTd即热新闻——关注每天科技社会生活新变化gihot.com

3.pngHTd即热新闻——关注每天科技社会生活新变化gihot.com

Retrieval DexterityHTd即热新闻——关注每天科技社会生活新变化gihot.com

堆叠场景中的高效物体检索策略HTd即热新闻——关注每天科技社会生活新变化gihot.com

  强化学习底层驱动,简单 reward 涌现复杂动作HTd即热新闻——关注每天科技社会生活新变化gihot.com

  在大多数实际场景中,物品往往以无规则、堆叠的方式摆放。传统方法要求机器人逐件搬开遮挡物,不仅耗时,还对机器人自身抓取能力提出了很高的要求。HTd即热新闻——关注每天科技社会生活新变化gihot.com

  为了解决这一难题,灵初智能开发了一套基于强化学习的物体检索策略 ——Retrieval  Dexterity,解决了堆叠场景中物体检索识别效率低的问题。HTd即热新闻——关注每天科技社会生活新变化gihot.com

  Retrieval Dexterity  系统中未用真机数据,灵初团队没有采用真机数据进行训练而是直接在仿真环境中通过强化学习进行训练。通过在仿真环境中大规模生成复杂的堆叠场景,训练模型直至涌现出合适的检索操作,随后再将这些操作零样本迁移至现实机器人和复杂环境中。HTd即热新闻——关注每天科技社会生活新变化gihot.com

4.pngHTd即热新闻——关注每天科技社会生活新变化gihot.com

Retrieval Dexterity 框架图HTd即热新闻——关注每天科技社会生活新变化gihot.com

  从杂乱堆叠物体中快速取出目标物体HTd即热新闻——关注每天科技社会生活新变化gihot.com

  在超过 10 种不同形状、大小的生活物品测试中,Retrieval Dexterity  展现出了优秀的性能,不仅能够高效完成训练过的物体的检索任务还能将检索能力泛化到未见过的新物体上HTd即热新闻——关注每天科技社会生活新变化gihot.com

  效率对比传统方法提升明显HTd即热新闻——关注每天科技社会生活新变化gihot.com

  与人为设定的动作相比,Retrieval Dexterity 在所有场景中平均减少了 38%  的操作步骤与模拟的 “将所有物体抓起来并放开” 相比,该方法更是平均减少了 90%  的步骤数量。这种效率提升主要得益于多指灵巧手能够直接与遮挡物进行交互,并随时移动它们,而不需要逐个移除。HTd即热新闻——关注每天科技社会生活新变化gihot.com

5.pngHTd即热新闻——关注每天科技社会生活新变化gihot.com

ExDex:借力外部环境HTd即热新闻——关注每天科技社会生活新变化gihot.com

抓取 “不可能” 物体HTd即热新闻——关注每天科技社会生活新变化gihot.com

  外部灵巧性解决物品超过机器人末端执行器的最大开度问题HTd即热新闻——关注每天科技社会生活新变化gihot.com

  当物体的底面尺寸超过机器人末端执行器的最大开度时,传统方法往往无法直接对物体进行抓取,这种情况在商场等商业场景尤为常见。为了解决这一难题,灵初智能推出了  ExDex—— 一种基于外部灵巧性(extrinsic dexterity)抓取的创新解决方案HTd即热新闻——关注每天科技社会生活新变化gihot.com

  ExDex 能够利用环境特征进行非夹持式操作,凭借多指灵巧手的灵活性和操作能力,实现更丰富的环境交互。HTd即热新闻——关注每天科技社会生活新变化gihot.com

  强化学习带来超越人类遥操作水平的灵巧操作HTd即热新闻——关注每天科技社会生活新变化gihot.com

  通过强化学习,ExDex  涌现出自主制定策略的能力,借助周围环境抓取那些无法直接抓取的物体。例如,机器人可以将物体先推到桌面边缘或墙体边缘,再利用这些环境特征完成抓取任务。这种操作通过传统的遥操作方式几乎无法实现,充分体现了强化学习的强大优势。HTd即热新闻——关注每天科技社会生活新变化gihot.com

  在对数十种不同家居物品的大量实验中,ExDex  验证了其优越的性能和对新物体的泛化能力并成功将仿真训练的策略无缝迁移到真实机器人中,实现了从仿真到现实的高效过渡。HTd即热新闻——关注每天科技社会生活新变化gihot.com

SafeVLA:人机安全交互的 “守护神”HTd即热新闻——关注每天科技社会生活新变化gihot.com

  当下,具身智能机器人频繁出圈,从春晚跳舞的 Unitree  人形机器人,到波兰街头遛机器狗的新奇场景,让人看到人机交互的无限可能,但安全问题也不容忽视。视觉 - 语言 -  行动模型(VLAs)在革新机器人技术时,也藏着安全隐患。HTd即热新闻——关注每天科技社会生活新变化gihot.com

6.pngHTd即热新闻——关注每天科技社会生活新变化gihot.com

 左图呈现了传统 VLA 模型在抓取任务中的三种典型不安全行为:1)对无关物体的严重损坏,2)目标识别错误导致危险物体的误用,以及  3)执行指令时与危险物体发生交互。右图通过导航路径示例,进一步展示了传统 VLA 在导航过程中的三种不安全行为HTd即热新闻——关注每天科技社会生活新变化gihot.com

  本周,北京大学 PAIR - Lab 团队携手灵初智能重磅推出了具身安全模型  SafeVLA,通过安全对齐,让机器人在复杂场景安全高效执行任务,在对抗干扰场景中鲁棒性极高HTd即热新闻——关注每天科技社会生活新变化gihot.com

  SafeVLA 把 “以人为本” 刻进  DNA,不像传统机器人只盯着任务完成它把人类安全放在首位。技术上,引入约束马尔可夫决策过程(CMDP)范式,把现实安全约束融入仿真环境大规模采样。SafeVLA  在安全性和任务执行方面均取得突破性进展分别提升 83.58% 和  3.85%充分证明了其在平衡安全与效率方面的卓越能力HTd即热新闻——关注每天科技社会生活新变化gihot.com

11.gifHTd即热新闻——关注每天科技社会生活新变化gihot.com

传统 VLA 模型完成任务过程中的高危行为HTd即热新闻——关注每天科技社会生活新变化gihot.com

  团队开发全新仿真环境 Safety -  CHORES集成安全约束功能支持用户自定义规则代码还完全开源直接给全球研究者和开发者送福利。而且,SafeVLA  在 12 个分布外(OOD)实验里,面对光照、材质变化和复杂环境扰动,始终稳定发挥,实力碾压其他模型。HTd即热新闻——关注每天科技社会生活新变化gihot.com

22.gifHTd即热新闻——关注每天科技社会生活新变化gihot.com

SafeVLA 在正常测试集和 OOD 测试集上的比较,其在 OOD 环境下依然保持良好安全性和表现HTd即热新闻——关注每天科技社会生活新变化gihot.com


HTd即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-14-7388-0.html灵初智能发布端到端VLA模型PsiR0.5,仅需两小时数据实现物品、场景全面泛化

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:企业智能化升级关键:DeepSeek大模型技术与应用论坛来了!

下一篇:赛力斯申请注册问界智享商标

为你推荐
《刺客信条:影》未发布的故事及角色细节,通过一家成人卡通网站泄露了出去。 上周末,该游戏当前尚未发布的艺术设定集扫描件被发布在一个成人动漫网站上,随后被发行...
02-05
近日日本知名模型制造商Good Smile Company宣布,新的《弹丸论破》兔女郎系列手办即将上市。 此次兔女郎手办是以塞蕾丝缇雅·罗登贝克为形象,2025年9月发售,售价...
02-06
当地时间2月5日,美国总统特朗普签署一项行政命令,禁止跨性别运动员参加女子体育赛事。该行政命令是特朗普及其政府推进限制跨性别权利的最新举措。特朗普在竞选时曾多次承诺,如...
02-06
极目新闻记者 肖名远2月3日晚,广东湛江徐闻县西连镇发生一起火灾,一对父子在救火时遇难,另有四人严重受伤。因经济困难,伤者的家人在网上发起求助,一天内就获得各方好心人的50万...
02-06
  在数据要素的充分流动下,“区块链医疗”正在应用端推出更多场景。  “数据要素要形成卫生...
01-21
1月17日,记者从华大生命科学研究院获悉,该院利用细胞组学和质谱检测技术,对登山者在攀登过程中的多组学变化进行分析,揭示了高海拔攀登过程中人体免疫...
01-21
辽宁省气象台1月25日16时发布寒潮黄色预警  预计,26~29日全省气温自西向东陆续下降,大部地区累计降温幅...
01-27
  本报记者集体采写  在披红挂彩、喜气洋洋的新春氛围中,冰雪运动、冰雪旅游迅速升温,成为人...
02-11
  每年这个时候,车厘子大量上市,酸甜多汁的口感引得人不免多吃几颗。不过,有网友发文称“自己‘狂炫’三大碗车厘子后中毒了”,这样的说法也引发热议,有网友留言说自己也有...
01-22
[本站 资讯] 日前,我们从官方获悉,捷达VA7将会在明日(1月12日)正式上市,车辆定位国民家轿,是一款紧凑型车,使用1.4T动力,此前预售价为11.8777万元起。在上个月,捷达VA7就完成...
01-21
2 月 5 日消息,丰田汽车公司(以下简称“丰田”)与上海市政府今日就共同助力中国社会绿色低碳发展相关举措达成合作意向。丰田决定在上海市金山区成立 LEXUS 雷克萨斯纯...
02-05
在《六姊妹》中,汤为民的腿断了。‌汤为民是汤家的长子,他与何家丽是青梅竹马,两人感情深厚,但由于汤家与何家之间的恩怨,汤为民被迫与何家丽分开,最终在家庭的安...
02-20
《难哄》小说穆承允结局是什么?穆承允结局怎么样?‌《难哄》小说中穆承允的结局是没有与温以凡在一起‌。穆承允对温以凡有一定的好感,但这种好感并未发展成深...
02-21
  近日,我国发现一起猴痘病毒Ⅰb亚分支聚集性疫情,传染源为1位外籍人员,有刚果(金)旅居史。发现疫情后,国家及浙江、广东、北京、天津等省(市)迅速启动联防联控机制,开展流调...
01-21
  回望现代医学的发展,我们不得不承认有一些“疾病”是和时代捆绑在一起的,但也有一些,似乎像是...
02-08
大家好,我是童学会小记者李峻轩。今天我们来到了九紫宝藏陨石博物馆参观。通过讲解员的生动解说,和仔细观察产品,我知道了陨石分为三大类:石陨石、铁陨石和石铁陨石。其中石陨...
01-21
人民网北京11月11日电 (记者孙竞、李依环)教育部今天举行新闻发布会,就新出台的《中华人民共和国学前教育...
01-21
  中国证券报记者1月26日获悉,国家金融监督管理总局近日已批复开展第二批保险资金长期股票投资...
02-05
  即便是在周末前往新奥尔良观看超级碗的路上,也不耽误美国总统特朗普舞起新的关税大棒,对钢铁...
02-13
双鱼座的男生通常是浪漫而敏感的,他们善于表达情感,但有时也会因为过于理想化而迷失自己...
01-22
金牛座的男生通常被认为是稳重、务实、有责任感的代表。如果你想吸引一个金牛男并让他...
01-22
双人模特T台走秀:打造完美合拍的魅力瞬间T台是时尚界闪耀的舞台,而模特们的走秀动作更是其中的灵魂所在。当我第一次站在T台上,心中充满了既兴奋又紧张的感觉。不仅要展现个人...
02-07
时尚秀场:男模特如何在T台上演绎完美姿态与动作走进时尚的殿堂,T台上光鲜亮丽的男模特们总能吸引所有人的目光。他们不仅仅是服装的展示者,更是视觉艺术的演绎者。或许你曾好奇...
02-17
2月9日消息,苏宁易购日前与海信召开2025战略启动会,双方明确2025年百亿目标,聚焦换新消费趋势,将深化产品共创、场景升级、本地化经营、破圈营销,提升全品类经营效率。开工抢先机...
02-09
2月20日消息,随着2025年空调消费旺季提前启动,苏宁易购与美的开启“火三月”大促。双方将依托国家以旧换新补贴政策加码、核心新品矩阵首发及百亿级战略合作资源,打造全年力度...
02-21
图源:图虫创意 编者按:春节,中国人心中最传统、最具仪式感的...
02-07
2月12日,针对商标转让一事,娃哈哈回应称,目前“娃哈哈”系列商标共计387件正在国家知识产权局申请由杭州娃哈哈集团有限公司(下称“娃...
02-15
自去年底开始,黄金多头优势逐渐退却,国际现货黄金价格经历几次大跌后一度跌下2700关口,多空进入漫长的震荡周期,多头始终无法找到再度冲高的时机。  北京时间1月21日,国际现货...
01-24
2024年末,一位科技创业者火了。作者 | 王思琪来源 | 投资家(ID:touzijias)2024年末,一位科技创业者火了。2025年初,这位创业者再度爆火。近日,中国科技行业因一位85后年轻人现身《...
01-24
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮