灵初智能发布端到端VLA模型PsiR0.5,仅需两小时数据实现物品、场景全面泛化

1年前 来源:华夏晚报 观看:151

近日,Figure 发布的端到端 VLA 具身大模型  Helix,采用分层架构同时实现高频控制和高泛化能力,引起了业内广泛关注。几乎同期,中国具身智能团队灵初智能发布了基于强化学习的增强版分层架构端到端 VLA  模型 Psi R0.5,这距离灵初智能团队去年底发布的 Psi R0 仅 2 个月NFO即热新闻——关注每天科技社会生活新变化gihot.com

  本次发布的新模型重大升级,对于复杂场景的泛化性灵巧性CoT长程任务能力上均有显著提升,同时完成泛化抓取训练所需的数据量仅需  Helix 数据量的 0.4%!在全球范围内实现了泛化灵巧操作与训练效率的双重领先。NFO即热新闻——关注每天科技社会生活新变化gihot.com

  此外,灵初智能团队连发四篇高质量论文,将团队在高效实现泛化抓取堆叠场景的物品检索利用外部环境配合抓取VLA  安全对齐方面的最新成果悉数公开,展现了中国团队在具身智能领域的强悍战斗力。NFO即热新闻——关注每天科技社会生活新变化gihot.com

1.pngNFO即热新闻——关注每天科技社会生活新变化gihot.com

Psi R0.5 路径演进图NFO即热新闻——关注每天科技社会生活新变化gihot.com

DexGraspVLA仅需两小时灵巧手抓取数据NFO即热新闻——关注每天科技社会生活新变化gihot.com

轻松实现物品、灯光、场景泛化并实现真正  CoTNFO即热新闻——关注每天科技社会生活新变化gihot.com

  DexGraspVLA 是首个用于灵巧手通用抓取的  VLA(Vision-Language-Action)框架,通过少量的训练,即刻在多变环境下智能涌现灵巧操作能力,能够像人类一样快速、准确地拾取各种物品。NFO即热新闻——关注每天科技社会生活新变化gihot.com

  DexGraspVLA 是一个融合视觉,语言和动作的层次化框架:NFO即热新闻——关注每天科技社会生活新变化gihot.com

  · High-level  Planner:高层规划由预训练的大型视觉语言模型(VLM)实现,可理解多样化指令、自主决定抓取策略NFO即热新闻——关注每天科技社会生活新变化gihot.com

  · Low-level  Controller:低层扩散策略通过实时视觉反馈闭环掌握目标物体智能涌现出灵巧操作能力NFO即热新闻——关注每天科技社会生活新变化gihot.com

  整个框架的核心在于将多样化的图像输入数据通过现有的 Foundation Model 转换成 Domain-invariance  的表征,并端到端地训练下层控制模型。NFO即热新闻——关注每天科技社会生活新变化gihot.com

2.pngNFO即热新闻——关注每天科技社会生活新变化gihot.com

DexGraspVLA 框架图NFO即热新闻——关注每天科技社会生活新变化gihot.com

  从实验结果看,灵初智能仅使用了约 2 小时的灵巧手抓取数据(2094 条轨迹 × 3.5 秒 / 条 ÷ 60 秒  / 分钟 ÷ 60 分钟 / 小时 ≈ 2 小时),泛化到上千种不同物体,位置,堆叠,灯光,背景下成功抓取,而这个数据量仅仅是 Figure 的  0.4%数据利用效率提高 250 倍NFO即热新闻——关注每天科技社会生活新变化gihot.com

  同时,DexGraspVLA 相比现有方案还具有几项优势:NFO即热新闻——关注每天科技社会生活新变化gihot.com

  · 根据语言指令分辨出目标物体,处理堆叠场景下的目标物体的检索并抓取NFO即热新闻——关注每天科技社会生活新变化gihot.com

  · 抓取速度快(所有视频无加速,同类工作中节拍较快),闭环姿态矫正与重抓取能力(ReGrasp)NFO即热新闻——关注每天科技社会生活新变化gihot.com

  · 大脑具有 CoT 长程推理能力自主推理抓取顺序并将所有物体依次抓取NFO即热新闻——关注每天科技社会生活新变化gihot.com

  DexGraspVLA  展现出对光照变化背景干扰和物体姿态的强大鲁棒性和泛化性,让机器人的灵巧抓取达到人类级别。NFO即热新闻——关注每天科技社会生活新变化gihot.com

  基于预训练的大模型:使用自然语言与人类交互,具有高智能的长程推理能力,能够自主理解人类话语并推理任务。因此可以一次设定多个抓取目标,通过 CoT  实现复杂流程下的自动分拣或清理。NFO即热新闻——关注每天科技社会生活新变化gihot.com

  DexGraspVLA  仍然会自动分析当前姿态偏差,通过细微调整腕关节和手部角度重新尝试抓取实现非常鲁棒且高效的抓取能力达到极强的泛化能力NFO即热新闻——关注每天科技社会生活新变化gihot.com

3.pngNFO即热新闻——关注每天科技社会生活新变化gihot.com

Retrieval DexterityNFO即热新闻——关注每天科技社会生活新变化gihot.com

堆叠场景中的高效物体检索策略NFO即热新闻——关注每天科技社会生活新变化gihot.com

  强化学习底层驱动,简单 reward 涌现复杂动作NFO即热新闻——关注每天科技社会生活新变化gihot.com

  在大多数实际场景中,物品往往以无规则、堆叠的方式摆放。传统方法要求机器人逐件搬开遮挡物,不仅耗时,还对机器人自身抓取能力提出了很高的要求。NFO即热新闻——关注每天科技社会生活新变化gihot.com

  为了解决这一难题,灵初智能开发了一套基于强化学习的物体检索策略 ——Retrieval  Dexterity,解决了堆叠场景中物体检索识别效率低的问题。NFO即热新闻——关注每天科技社会生活新变化gihot.com

  Retrieval Dexterity  系统中未用真机数据,灵初团队没有采用真机数据进行训练而是直接在仿真环境中通过强化学习进行训练。通过在仿真环境中大规模生成复杂的堆叠场景,训练模型直至涌现出合适的检索操作,随后再将这些操作零样本迁移至现实机器人和复杂环境中。NFO即热新闻——关注每天科技社会生活新变化gihot.com

4.pngNFO即热新闻——关注每天科技社会生活新变化gihot.com

Retrieval Dexterity 框架图NFO即热新闻——关注每天科技社会生活新变化gihot.com

  从杂乱堆叠物体中快速取出目标物体NFO即热新闻——关注每天科技社会生活新变化gihot.com

  在超过 10 种不同形状、大小的生活物品测试中,Retrieval Dexterity  展现出了优秀的性能,不仅能够高效完成训练过的物体的检索任务还能将检索能力泛化到未见过的新物体上NFO即热新闻——关注每天科技社会生活新变化gihot.com

  效率对比传统方法提升明显NFO即热新闻——关注每天科技社会生活新变化gihot.com

  与人为设定的动作相比,Retrieval Dexterity 在所有场景中平均减少了 38%  的操作步骤与模拟的 “将所有物体抓起来并放开” 相比,该方法更是平均减少了 90%  的步骤数量。这种效率提升主要得益于多指灵巧手能够直接与遮挡物进行交互,并随时移动它们,而不需要逐个移除。NFO即热新闻——关注每天科技社会生活新变化gihot.com

5.pngNFO即热新闻——关注每天科技社会生活新变化gihot.com

ExDex:借力外部环境NFO即热新闻——关注每天科技社会生活新变化gihot.com

抓取 “不可能” 物体NFO即热新闻——关注每天科技社会生活新变化gihot.com

  外部灵巧性解决物品超过机器人末端执行器的最大开度问题NFO即热新闻——关注每天科技社会生活新变化gihot.com

  当物体的底面尺寸超过机器人末端执行器的最大开度时,传统方法往往无法直接对物体进行抓取,这种情况在商场等商业场景尤为常见。为了解决这一难题,灵初智能推出了  ExDex—— 一种基于外部灵巧性(extrinsic dexterity)抓取的创新解决方案NFO即热新闻——关注每天科技社会生活新变化gihot.com

  ExDex 能够利用环境特征进行非夹持式操作,凭借多指灵巧手的灵活性和操作能力,实现更丰富的环境交互。NFO即热新闻——关注每天科技社会生活新变化gihot.com

  强化学习带来超越人类遥操作水平的灵巧操作NFO即热新闻——关注每天科技社会生活新变化gihot.com

  通过强化学习,ExDex  涌现出自主制定策略的能力,借助周围环境抓取那些无法直接抓取的物体。例如,机器人可以将物体先推到桌面边缘或墙体边缘,再利用这些环境特征完成抓取任务。这种操作通过传统的遥操作方式几乎无法实现,充分体现了强化学习的强大优势。NFO即热新闻——关注每天科技社会生活新变化gihot.com

  在对数十种不同家居物品的大量实验中,ExDex  验证了其优越的性能和对新物体的泛化能力并成功将仿真训练的策略无缝迁移到真实机器人中,实现了从仿真到现实的高效过渡。NFO即热新闻——关注每天科技社会生活新变化gihot.com

SafeVLA:人机安全交互的 “守护神”NFO即热新闻——关注每天科技社会生活新变化gihot.com

  当下,具身智能机器人频繁出圈,从春晚跳舞的 Unitree  人形机器人,到波兰街头遛机器狗的新奇场景,让人看到人机交互的无限可能,但安全问题也不容忽视。视觉 - 语言 -  行动模型(VLAs)在革新机器人技术时,也藏着安全隐患。NFO即热新闻——关注每天科技社会生活新变化gihot.com

6.pngNFO即热新闻——关注每天科技社会生活新变化gihot.com

 左图呈现了传统 VLA 模型在抓取任务中的三种典型不安全行为:1)对无关物体的严重损坏,2)目标识别错误导致危险物体的误用,以及  3)执行指令时与危险物体发生交互。右图通过导航路径示例,进一步展示了传统 VLA 在导航过程中的三种不安全行为NFO即热新闻——关注每天科技社会生活新变化gihot.com

  本周,北京大学 PAIR - Lab 团队携手灵初智能重磅推出了具身安全模型  SafeVLA,通过安全对齐,让机器人在复杂场景安全高效执行任务,在对抗干扰场景中鲁棒性极高NFO即热新闻——关注每天科技社会生活新变化gihot.com

  SafeVLA 把 “以人为本” 刻进  DNA,不像传统机器人只盯着任务完成它把人类安全放在首位。技术上,引入约束马尔可夫决策过程(CMDP)范式,把现实安全约束融入仿真环境大规模采样。SafeVLA  在安全性和任务执行方面均取得突破性进展分别提升 83.58% 和  3.85%充分证明了其在平衡安全与效率方面的卓越能力NFO即热新闻——关注每天科技社会生活新变化gihot.com

11.gifNFO即热新闻——关注每天科技社会生活新变化gihot.com

传统 VLA 模型完成任务过程中的高危行为NFO即热新闻——关注每天科技社会生活新变化gihot.com

  团队开发全新仿真环境 Safety -  CHORES集成安全约束功能支持用户自定义规则代码还完全开源直接给全球研究者和开发者送福利。而且,SafeVLA  在 12 个分布外(OOD)实验里,面对光照、材质变化和复杂环境扰动,始终稳定发挥,实力碾压其他模型。NFO即热新闻——关注每天科技社会生活新变化gihot.com

22.gifNFO即热新闻——关注每天科技社会生活新变化gihot.com

SafeVLA 在正常测试集和 OOD 测试集上的比较,其在 OOD 环境下依然保持良好安全性和表现NFO即热新闻——关注每天科技社会生活新变化gihot.com


NFO即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-14-7388-0.html灵初智能发布端到端VLA模型PsiR0.5,仅需两小时数据实现物品、场景全面泛化

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:企业智能化升级关键:DeepSeek大模型技术与应用论坛来了!

下一篇:赛力斯申请注册问界智享商标

为你推荐
遭遇延期的《刺客信条:影》在近日重新开启了预购,由于游戏以日本封建时代为背景,并采用了“黑人武士弥助”的设定以及将其作为主角之一,从而引发了不少争议,尤其是...
01-27
无人深空》作为一款让玩家沉浸在浩瀚宇宙中的冒险游戏,再次带来了让人期待已久的更新——《世界 第二部分》。这一次,开发者不单单满足于扩大游戏的星系范围,更是...
02-01
2025年电影春节档连日来喜报频传。据网络平台数据,截至昨天22时49分,2025春节档总票房(含预售)破74亿元。数据显示,今年春节档在大年初一就创造了新的单日票房和观影人次纪录;大年...
02-03
2月4日,泰国副总理兼国防部长普坦表示,将于当天下令对泰缅边境的缅甸地区断电,并警告如有怠慢者将被调职。△泰国副总理兼国防部长普坦(左)泰国总理佩通坦(中)此外,泰国政府当天举行...
02-04
记者从中国载人航天工程办公室获悉,我国2025年计划发射神舟二十号、神舟二十一号两艘载人飞船和天舟九号货运飞船。1月20日,三次飞行任务的任务标识...
01-21
荷兰特文特大学科学家开发出一种新工艺,能在室温下制造出晶体结构高度有序的半导体材料。他们表示,通过精准控制这种半导体材料的晶体结构,大幅降低了...
01-21
  据网络平台数据  截至2月5日13时29分  2025年春节档上映新片(含春节档结束后)  总票房(...
02-06
  随着纽约时装周启动,2025年秋冬国际时装周(伦敦、米兰、巴黎)将在本周陆续拉开序幕。记者留意...
02-19
  国泰航空飞往香港航班因故障折返美国波士顿  中新社香港1月20日电 (记者 韩星童)国泰航空20日回复中新社记者查询时表示,国泰航空20日一架由美国波士顿前往香港的航班,...
01-21
  中新经纬1月19日电 据中央纪委国家监委驻中国工商银行纪检监察组、青海省纪委监委消息:日前,中央纪委国家监委驻中国工商银行纪检监察组、西宁市监委对中国工商银行上海市...
01-21
在激烈的变革时代,宝马展现了一家优秀企业的“定力”与“韧劲”。2024年,宝马集团再度夺冠中国豪华乘用车市。这一年,宝马坚守“纯粹驾驶乐趣”的品牌承诺,携手经销商伙伴提升运...
01-21
1 月 27 日消息,山东青岛今天发布青岛市智能网联新能源汽车产业发展行动计划(2025—2027 年),文件提到青岛将打造全国重要的智能网联新能源汽车创新应用高地、新能源商...
01-28
  1、《哪吒2》会放映到3月30日,最新消息显示,《哪吒2》会延长上映到3月30日。  2、《哪吒2》已经跻身全球票房前十,且成为全球动画电影的第一名,影片延长放映,希望最终票房...
02-20
《180天重启计划》第2集的剧情引起了观众们的广泛讨论。顾云苏在大闹饭局后仍然决定去公司上班,但刚到工位就收到了同事的临别礼物,并被要求办理交接手续。面...
02-20
21世纪经济报道记者季媛媛 上海报道 继2023年出现上市以来首次亏损,科创板首家CRO(医药合同研发服务)企业美迪西(688202.SH)2024年的业绩继续...
01-22
  中新网上海1月29日电(李秋莹 周孙榆)春节是中华民族的传统节日,同时也是眼健康面临重大挑战的时段,在长假期间,一些眼科慢性疾病,像不可逆致盲性慢性眼病青光眼、眼底...
02-02
  大众网记者 秦瑾 通讯员 祁凯丽 报道  12月20日,章丘区大中小学思政课一体化协同创新联盟成立暨大中小学思政课教学展示活动在齐鲁师范学院附属中学(章丘中学)报告厅...
01-21
冰雪为笺,书写校园华篇;朔风作笔,绘描活力新卷。沈阳市沈北新区清水台学校积极响应“三亿人上冰雪”和“冰...
01-21
  经济日报记者 杨然  监管评级结果是衡量保险公司风险程度的主要依据。国家金融监督管理总...
01-28
  新华社北京2月1日电(记者 李延霞)银行业理财登记托管中心近日发布的报告显示,截至2024年末,银行...
02-05
天蝎座的男生通常都很神秘、独立而且有着强烈的自我保护意识,所以要追求他们并不容易。...
01-22
狮子座的男生通常都有着强大的领导能力和自信心,而白羊座的女生则充满了活力和冲劲。然...
01-22
男士马丁靴穿搭冬季? 马丁博士马丁靴男士穿搭效果?一、男士马丁靴穿搭冬季?休闲裤也是不错的选择,根据鞋子的颜色来搭配裤子的颜色。冬天,大多选择深色系列的衣服,一双黑色或咖色...
02-12
璀璨舞台:模特T台走秀大赛精彩主持稿亲爱的观众们,大家好!今天我们齐聚一堂,欢迎来到精彩绝伦的模特T台走秀大赛现场。我是今天的主持人[姓名],倍感荣幸能与大家一同分享这场时尚...
02-12
2月7日消息,东方甄选在微博发文称,近日,北京互联网法院就抖音用户崔某网络侵权案作出判决,认定被告发布言论不实,侵害了东方甄选名誉权,要求被告在抖音账号置顶道歉声明,并赔偿东方...
02-08
小红书宣布开始招募海外MCN机构,批量引入具备视频创作能力的海外红人。MCN机构将有三个月试跑期,需承诺每个月不少于50人的红人引入量。今年1月中旬,受TikTok在美关停影响,自称...
02-11
2月7日消息,Airbnb爱彼迎今日发布Z世代出境游趋势。根据Airbnb爱彼迎全球数据显示,1月份的平台住宿搜索量成为继暑期旅游旺季以外的热度高峰期。聚焦Z世代旅行者,他们是推动春...
02-08
3月3日消息,2025年第九届亚洲冬季运动会(以下简称“亚冬会”)近日在冰雪之城哈尔滨落下帷幕。在“亚冬会”举办期间,银联商务全力保障“亚冬会”现场和周边服务的支付便利,同时推...
03-04
近日,苏州尚柔新能源有限公司完成超四千万元Pre-A轮融资,由广州凯得粤豪私募基金管理有限公司独家投资。融资将主要用于技术研发、量产线建设以及市...
02-07
近日,上海友趣惠信息科技有限公司(以下简称“友趣惠科技”)已完成A轮2800万元人民币的融资,由中海洋盛佳投资控股有限公司(以下简称“中海洋盛”)投资。...
02-07
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮