灵初智能发布端到端VLA模型PsiR0.5,仅需两小时数据实现物品、场景全面泛化

1年前 来源:华夏晚报 观看:171

近日,Figure 发布的端到端 VLA 具身大模型  Helix,采用分层架构同时实现高频控制和高泛化能力,引起了业内广泛关注。几乎同期,中国具身智能团队灵初智能发布了基于强化学习的增强版分层架构端到端 VLA  模型 Psi R0.5,这距离灵初智能团队去年底发布的 Psi R0 仅 2 个月9zr即热新闻——关注每天科技社会生活新变化gihot.com

  本次发布的新模型重大升级,对于复杂场景的泛化性灵巧性CoT长程任务能力上均有显著提升,同时完成泛化抓取训练所需的数据量仅需  Helix 数据量的 0.4%!在全球范围内实现了泛化灵巧操作与训练效率的双重领先。9zr即热新闻——关注每天科技社会生活新变化gihot.com

  此外,灵初智能团队连发四篇高质量论文,将团队在高效实现泛化抓取堆叠场景的物品检索利用外部环境配合抓取VLA  安全对齐方面的最新成果悉数公开,展现了中国团队在具身智能领域的强悍战斗力。9zr即热新闻——关注每天科技社会生活新变化gihot.com

1.png9zr即热新闻——关注每天科技社会生活新变化gihot.com

Psi R0.5 路径演进图9zr即热新闻——关注每天科技社会生活新变化gihot.com

DexGraspVLA仅需两小时灵巧手抓取数据9zr即热新闻——关注每天科技社会生活新变化gihot.com

轻松实现物品、灯光、场景泛化并实现真正  CoT9zr即热新闻——关注每天科技社会生活新变化gihot.com

  DexGraspVLA 是首个用于灵巧手通用抓取的  VLA(Vision-Language-Action)框架,通过少量的训练,即刻在多变环境下智能涌现灵巧操作能力,能够像人类一样快速、准确地拾取各种物品。9zr即热新闻——关注每天科技社会生活新变化gihot.com

  DexGraspVLA 是一个融合视觉,语言和动作的层次化框架:9zr即热新闻——关注每天科技社会生活新变化gihot.com

  · High-level  Planner:高层规划由预训练的大型视觉语言模型(VLM)实现,可理解多样化指令、自主决定抓取策略9zr即热新闻——关注每天科技社会生活新变化gihot.com

  · Low-level  Controller:低层扩散策略通过实时视觉反馈闭环掌握目标物体智能涌现出灵巧操作能力9zr即热新闻——关注每天科技社会生活新变化gihot.com

  整个框架的核心在于将多样化的图像输入数据通过现有的 Foundation Model 转换成 Domain-invariance  的表征,并端到端地训练下层控制模型。9zr即热新闻——关注每天科技社会生活新变化gihot.com

2.png9zr即热新闻——关注每天科技社会生活新变化gihot.com

DexGraspVLA 框架图9zr即热新闻——关注每天科技社会生活新变化gihot.com

  从实验结果看,灵初智能仅使用了约 2 小时的灵巧手抓取数据(2094 条轨迹 × 3.5 秒 / 条 ÷ 60 秒  / 分钟 ÷ 60 分钟 / 小时 ≈ 2 小时),泛化到上千种不同物体,位置,堆叠,灯光,背景下成功抓取,而这个数据量仅仅是 Figure 的  0.4%数据利用效率提高 250 倍9zr即热新闻——关注每天科技社会生活新变化gihot.com

  同时,DexGraspVLA 相比现有方案还具有几项优势:9zr即热新闻——关注每天科技社会生活新变化gihot.com

  · 根据语言指令分辨出目标物体,处理堆叠场景下的目标物体的检索并抓取9zr即热新闻——关注每天科技社会生活新变化gihot.com

  · 抓取速度快(所有视频无加速,同类工作中节拍较快),闭环姿态矫正与重抓取能力(ReGrasp)9zr即热新闻——关注每天科技社会生活新变化gihot.com

  · 大脑具有 CoT 长程推理能力自主推理抓取顺序并将所有物体依次抓取9zr即热新闻——关注每天科技社会生活新变化gihot.com

  DexGraspVLA  展现出对光照变化背景干扰和物体姿态的强大鲁棒性和泛化性,让机器人的灵巧抓取达到人类级别。9zr即热新闻——关注每天科技社会生活新变化gihot.com

  基于预训练的大模型:使用自然语言与人类交互,具有高智能的长程推理能力,能够自主理解人类话语并推理任务。因此可以一次设定多个抓取目标,通过 CoT  实现复杂流程下的自动分拣或清理。9zr即热新闻——关注每天科技社会生活新变化gihot.com

  DexGraspVLA  仍然会自动分析当前姿态偏差,通过细微调整腕关节和手部角度重新尝试抓取实现非常鲁棒且高效的抓取能力达到极强的泛化能力9zr即热新闻——关注每天科技社会生活新变化gihot.com

3.png9zr即热新闻——关注每天科技社会生活新变化gihot.com

Retrieval Dexterity9zr即热新闻——关注每天科技社会生活新变化gihot.com

堆叠场景中的高效物体检索策略9zr即热新闻——关注每天科技社会生活新变化gihot.com

  强化学习底层驱动,简单 reward 涌现复杂动作9zr即热新闻——关注每天科技社会生活新变化gihot.com

  在大多数实际场景中,物品往往以无规则、堆叠的方式摆放。传统方法要求机器人逐件搬开遮挡物,不仅耗时,还对机器人自身抓取能力提出了很高的要求。9zr即热新闻——关注每天科技社会生活新变化gihot.com

  为了解决这一难题,灵初智能开发了一套基于强化学习的物体检索策略 ——Retrieval  Dexterity,解决了堆叠场景中物体检索识别效率低的问题。9zr即热新闻——关注每天科技社会生活新变化gihot.com

  Retrieval Dexterity  系统中未用真机数据,灵初团队没有采用真机数据进行训练而是直接在仿真环境中通过强化学习进行训练。通过在仿真环境中大规模生成复杂的堆叠场景,训练模型直至涌现出合适的检索操作,随后再将这些操作零样本迁移至现实机器人和复杂环境中。9zr即热新闻——关注每天科技社会生活新变化gihot.com

4.png9zr即热新闻——关注每天科技社会生活新变化gihot.com

Retrieval Dexterity 框架图9zr即热新闻——关注每天科技社会生活新变化gihot.com

  从杂乱堆叠物体中快速取出目标物体9zr即热新闻——关注每天科技社会生活新变化gihot.com

  在超过 10 种不同形状、大小的生活物品测试中,Retrieval Dexterity  展现出了优秀的性能,不仅能够高效完成训练过的物体的检索任务还能将检索能力泛化到未见过的新物体上9zr即热新闻——关注每天科技社会生活新变化gihot.com

  效率对比传统方法提升明显9zr即热新闻——关注每天科技社会生活新变化gihot.com

  与人为设定的动作相比,Retrieval Dexterity 在所有场景中平均减少了 38%  的操作步骤与模拟的 “将所有物体抓起来并放开” 相比,该方法更是平均减少了 90%  的步骤数量。这种效率提升主要得益于多指灵巧手能够直接与遮挡物进行交互,并随时移动它们,而不需要逐个移除。9zr即热新闻——关注每天科技社会生活新变化gihot.com

5.png9zr即热新闻——关注每天科技社会生活新变化gihot.com

ExDex:借力外部环境9zr即热新闻——关注每天科技社会生活新变化gihot.com

抓取 “不可能” 物体9zr即热新闻——关注每天科技社会生活新变化gihot.com

  外部灵巧性解决物品超过机器人末端执行器的最大开度问题9zr即热新闻——关注每天科技社会生活新变化gihot.com

  当物体的底面尺寸超过机器人末端执行器的最大开度时,传统方法往往无法直接对物体进行抓取,这种情况在商场等商业场景尤为常见。为了解决这一难题,灵初智能推出了  ExDex—— 一种基于外部灵巧性(extrinsic dexterity)抓取的创新解决方案9zr即热新闻——关注每天科技社会生活新变化gihot.com

  ExDex 能够利用环境特征进行非夹持式操作,凭借多指灵巧手的灵活性和操作能力,实现更丰富的环境交互。9zr即热新闻——关注每天科技社会生活新变化gihot.com

  强化学习带来超越人类遥操作水平的灵巧操作9zr即热新闻——关注每天科技社会生活新变化gihot.com

  通过强化学习,ExDex  涌现出自主制定策略的能力,借助周围环境抓取那些无法直接抓取的物体。例如,机器人可以将物体先推到桌面边缘或墙体边缘,再利用这些环境特征完成抓取任务。这种操作通过传统的遥操作方式几乎无法实现,充分体现了强化学习的强大优势。9zr即热新闻——关注每天科技社会生活新变化gihot.com

  在对数十种不同家居物品的大量实验中,ExDex  验证了其优越的性能和对新物体的泛化能力并成功将仿真训练的策略无缝迁移到真实机器人中,实现了从仿真到现实的高效过渡。9zr即热新闻——关注每天科技社会生活新变化gihot.com

SafeVLA:人机安全交互的 “守护神”9zr即热新闻——关注每天科技社会生活新变化gihot.com

  当下,具身智能机器人频繁出圈,从春晚跳舞的 Unitree  人形机器人,到波兰街头遛机器狗的新奇场景,让人看到人机交互的无限可能,但安全问题也不容忽视。视觉 - 语言 -  行动模型(VLAs)在革新机器人技术时,也藏着安全隐患。9zr即热新闻——关注每天科技社会生活新变化gihot.com

6.png9zr即热新闻——关注每天科技社会生活新变化gihot.com

 左图呈现了传统 VLA 模型在抓取任务中的三种典型不安全行为:1)对无关物体的严重损坏,2)目标识别错误导致危险物体的误用,以及  3)执行指令时与危险物体发生交互。右图通过导航路径示例,进一步展示了传统 VLA 在导航过程中的三种不安全行为9zr即热新闻——关注每天科技社会生活新变化gihot.com

  本周,北京大学 PAIR - Lab 团队携手灵初智能重磅推出了具身安全模型  SafeVLA,通过安全对齐,让机器人在复杂场景安全高效执行任务,在对抗干扰场景中鲁棒性极高9zr即热新闻——关注每天科技社会生活新变化gihot.com

  SafeVLA 把 “以人为本” 刻进  DNA,不像传统机器人只盯着任务完成它把人类安全放在首位。技术上,引入约束马尔可夫决策过程(CMDP)范式,把现实安全约束融入仿真环境大规模采样。SafeVLA  在安全性和任务执行方面均取得突破性进展分别提升 83.58% 和  3.85%充分证明了其在平衡安全与效率方面的卓越能力9zr即热新闻——关注每天科技社会生活新变化gihot.com

11.gif9zr即热新闻——关注每天科技社会生活新变化gihot.com

传统 VLA 模型完成任务过程中的高危行为9zr即热新闻——关注每天科技社会生活新变化gihot.com

  团队开发全新仿真环境 Safety -  CHORES集成安全约束功能支持用户自定义规则代码还完全开源直接给全球研究者和开发者送福利。而且,SafeVLA  在 12 个分布外(OOD)实验里,面对光照、材质变化和复杂环境扰动,始终稳定发挥,实力碾压其他模型。9zr即热新闻——关注每天科技社会生活新变化gihot.com

22.gif9zr即热新闻——关注每天科技社会生活新变化gihot.com

SafeVLA 在正常测试集和 OOD 测试集上的比较,其在 OOD 环境下依然保持良好安全性和表现9zr即热新闻——关注每天科技社会生活新变化gihot.com


9zr即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-14-7388-0.html灵初智能发布端到端VLA模型PsiR0.5,仅需两小时数据实现物品、场景全面泛化

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:企业智能化升级关键:DeepSeek大模型技术与应用论坛来了!

下一篇:赛力斯申请注册问界智享商标

为你推荐
在《绝地潜兵》初代中,玩家实际上可以前往母星超级地球,进行保卫战。根据最新的泄露看来,《绝地潜兵2》的保卫站也已在制作当中,并且这场入侵我们将无法阻止。 数...
01-25
在美国,PS5主机的销量走势领先于PS4,而Xbox Series主机的销量则落后于Xbox One。 这一信息来自Circana(前身为NPD集团)的执行董事兼电子游戏行业分析师马特·皮斯...
01-27
2月8日,哈尔滨亚冬会短道速滑混合团体2000米接力决赛,韩国夺得该项目金牌,这也是本届亚冬会的首枚金牌。中国队在比赛中出现失误,排名第四。...
02-08
营造清朗涉军网络舆论环境——解读《互联网军事信息传播管理办法》的四大特点《互联网军事信息传播管理办法》(以下简称《办法》),以习近平新时代中国特色社会主义思想为指导,全...
02-10
图源:pixabay1月17日晚间,思科瑞(688053.SH)发布公告称,公司收到四川证监局出具的《行政监管措施决定书》。据上述文件,思科瑞在2022年...
01-21
最新一期《科学》杂志发表论文称,大约350万年前生活在南非的人类祖先——南方古猿,其实是“吃素的”。其饮食几乎完全由植物构成,鲜少或根...
01-23
昨天4时至今天20时辽宁大部地区出现大雪到暴雪其中丹东地区局部出现大暴雪降雪总量实况  全省275个气...
01-28
昨天4时至今天17时辽宁大部地区出现大雪到暴雪其中丹东地区局部出现大暴雪降雪总量实况  全省275个气...
01-28
在过去的一年,很多人都知道“胖东来”。这个原本扎根在河南许昌、新乡的超市,以细致的服务和严格的品控掳获众多好感,由此被誉为零售...
01-21
图源:图虫创意 第二个5000亿县级市诞生了。1月6日,江阴市第...
01-21
1 月 23 日消息,在经历了 11 个赛季的演变后,国际汽联电动方程式锦标赛(Formula E)已经从早期的混乱局面和比赛中途更换赛车的时代迈向了新的阶段。本月,Formula E 将在...
01-24
2 月 5 日消息,新春伊始,绿地集团宣布成立新能源汽车出口公司,号称“打造百亿级新能源汽车出口平台”。同时,平台首个出口订单成功签约,将以全球热门车型为主,销往西亚、...
02-06
  光明日报北京1月19日电(记者牛梦笛、张进进)中央广播电视总台《2025年春节联欢晚会》19日举行...
01-22
《逆袭人生之情定大士院》的播出吸引了更多人对优秀演员、导演和编剧的关注,也让观众对剧情产生了浓厚的兴趣。许多网友纷纷上网搜寻相关信息,希望能找到满意...
02-21
21世纪经济报道记者 李佳英 广州报道2月4日,美国生物科技公司United Therapeutics宣布,其异种肾脏UKidney移植临床研究获美国FDA批准,标志着...
02-07
  大众网记者 司心鹏 通讯员 邱文风 王琴 报道  12月5日,山东商业职业技术学院云计算技术与应用产业学院党总支与浪潮软件股份有限公司党委开展了“党建引领聚合力,双...
01-21
2025年全国硕士研究生招生考试在即。为严厉打击涉考违法违规行为,严肃考风考纪,维护考生合法权益,教育部会...
01-21
  内蒙古保险行业协会针对非法“代理退保”猖獗、严重扰乱保险市场秩序的问题,为切实保护消费...
01-21
  两年三度冲刺港交所上市,宜宾银行(02596.HK)终于圆梦,但并未引起资本市场过多兴趣。  第一财...
01-22
狮子座男生通常被认为是自信、阳光、热情的代表,他们喜欢成为众人瞩目的焦点。然而,正因...
01-22
摩羯男通常被认为是一个非常谨慎和保守的星座,他们对于信任需要时间来建立。如果你想要...
01-22
童装新款上市文案? 夏天新款童装文案?一、童装新款上市文案?1、美丽不打折,春款童装全部上新,时光不老,我们不散,繁华落尽,我们一起享受世间美衣,衣服千千万,唯有新款最好看。2、夏装...
02-07
当红女星风采:近期绽放的璀璨之美在最近的娱乐圈中,无论是电影、电视剧,还是社交媒体,许多女明星的魅力时刻吸引着大家的注意。仿佛每一位女神都在绽放自己的光芒,成了各界瞩目的...
02-07
京东做外卖,佣金引热议互联网行业,又将掀起一场腥风血雨。最近,社交平台上传出“京东外卖以只抽5%的佣金的旗号上线,美团降低高佣金应对”的帖子。对此,有媒体从美团方面确认,网传...
02-11
小米在向华为看齐。二、小米 15 Ultra 更多细节透露元宵节的夜晚,小米创始人雷军再次开启了他的直播之旅。这次直播的场地选在了小米食堂,雷军选择带大家参观小米员工的日常餐...
02-14
2月25日消息,银联商务近日正式通过《企业知识产权合规管理体系要求》(GB/T 29490-2023)国家标准认证,并获得知识产权合规管理体系认证证书。图源:银联商务公众号据了解, 《企业知...
02-26
国内心理咨询行业的发展历程并不长,2000年之后才真正进入高速发展阶段。复旦大学心理健康与教育中心心理咨询师陈倩对《消费者报道...
03-04
【#小鹏汽车在新疆成立销售服务公司# 注册资本1000万】天眼查App显示,近日,乌鲁木齐小鹏汽车销售服务有限公司成立,法定代表人为赵大武,注册资本1000万人民币,经营范围含新能源汽...
01-21
2024年末,一位科技创业者火了。作者 | 王思琪来源 | 投资家(ID:touzijias)2024年末,一位科技创业者火了。2025年初,这位创业者再度爆火。近日,中国科技行业因一位85后年轻人现身《...
01-24
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮