灵初智能发布端到端VLA模型PsiR0.5,仅需两小时数据实现物品、场景全面泛化

2个月前 来源:华夏晚报 观看:18

近日,Figure 发布的端到端 VLA 具身大模型  Helix,采用分层架构同时实现高频控制和高泛化能力,引起了业内广泛关注。几乎同期,中国具身智能团队灵初智能发布了基于强化学习的增强版分层架构端到端 VLA  模型 Psi R0.5,这距离灵初智能团队去年底发布的 Psi R0 仅 2 个月vSB即热新闻——关注每天科技社会生活新变化gihot.com

  本次发布的新模型重大升级,对于复杂场景的泛化性灵巧性CoT长程任务能力上均有显著提升,同时完成泛化抓取训练所需的数据量仅需  Helix 数据量的 0.4%!在全球范围内实现了泛化灵巧操作与训练效率的双重领先。vSB即热新闻——关注每天科技社会生活新变化gihot.com

  此外,灵初智能团队连发四篇高质量论文,将团队在高效实现泛化抓取堆叠场景的物品检索利用外部环境配合抓取VLA  安全对齐方面的最新成果悉数公开,展现了中国团队在具身智能领域的强悍战斗力。vSB即热新闻——关注每天科技社会生活新变化gihot.com

1.pngvSB即热新闻——关注每天科技社会生活新变化gihot.com

Psi R0.5 路径演进图vSB即热新闻——关注每天科技社会生活新变化gihot.com

DexGraspVLA仅需两小时灵巧手抓取数据vSB即热新闻——关注每天科技社会生活新变化gihot.com

轻松实现物品、灯光、场景泛化并实现真正  CoTvSB即热新闻——关注每天科技社会生活新变化gihot.com

  DexGraspVLA 是首个用于灵巧手通用抓取的  VLA(Vision-Language-Action)框架,通过少量的训练,即刻在多变环境下智能涌现灵巧操作能力,能够像人类一样快速、准确地拾取各种物品。vSB即热新闻——关注每天科技社会生活新变化gihot.com

  DexGraspVLA 是一个融合视觉,语言和动作的层次化框架:vSB即热新闻——关注每天科技社会生活新变化gihot.com

  · High-level  Planner:高层规划由预训练的大型视觉语言模型(VLM)实现,可理解多样化指令、自主决定抓取策略vSB即热新闻——关注每天科技社会生活新变化gihot.com

  · Low-level  Controller:低层扩散策略通过实时视觉反馈闭环掌握目标物体智能涌现出灵巧操作能力vSB即热新闻——关注每天科技社会生活新变化gihot.com

  整个框架的核心在于将多样化的图像输入数据通过现有的 Foundation Model 转换成 Domain-invariance  的表征,并端到端地训练下层控制模型。vSB即热新闻——关注每天科技社会生活新变化gihot.com

2.pngvSB即热新闻——关注每天科技社会生活新变化gihot.com

DexGraspVLA 框架图vSB即热新闻——关注每天科技社会生活新变化gihot.com

  从实验结果看,灵初智能仅使用了约 2 小时的灵巧手抓取数据(2094 条轨迹 × 3.5 秒 / 条 ÷ 60 秒  / 分钟 ÷ 60 分钟 / 小时 ≈ 2 小时),泛化到上千种不同物体,位置,堆叠,灯光,背景下成功抓取,而这个数据量仅仅是 Figure 的  0.4%数据利用效率提高 250 倍vSB即热新闻——关注每天科技社会生活新变化gihot.com

  同时,DexGraspVLA 相比现有方案还具有几项优势:vSB即热新闻——关注每天科技社会生活新变化gihot.com

  · 根据语言指令分辨出目标物体,处理堆叠场景下的目标物体的检索并抓取vSB即热新闻——关注每天科技社会生活新变化gihot.com

  · 抓取速度快(所有视频无加速,同类工作中节拍较快),闭环姿态矫正与重抓取能力(ReGrasp)vSB即热新闻——关注每天科技社会生活新变化gihot.com

  · 大脑具有 CoT 长程推理能力自主推理抓取顺序并将所有物体依次抓取vSB即热新闻——关注每天科技社会生活新变化gihot.com

  DexGraspVLA  展现出对光照变化背景干扰和物体姿态的强大鲁棒性和泛化性,让机器人的灵巧抓取达到人类级别。vSB即热新闻——关注每天科技社会生活新变化gihot.com

  基于预训练的大模型:使用自然语言与人类交互,具有高智能的长程推理能力,能够自主理解人类话语并推理任务。因此可以一次设定多个抓取目标,通过 CoT  实现复杂流程下的自动分拣或清理。vSB即热新闻——关注每天科技社会生活新变化gihot.com

  DexGraspVLA  仍然会自动分析当前姿态偏差,通过细微调整腕关节和手部角度重新尝试抓取实现非常鲁棒且高效的抓取能力达到极强的泛化能力vSB即热新闻——关注每天科技社会生活新变化gihot.com

3.pngvSB即热新闻——关注每天科技社会生活新变化gihot.com

Retrieval DexterityvSB即热新闻——关注每天科技社会生活新变化gihot.com

堆叠场景中的高效物体检索策略vSB即热新闻——关注每天科技社会生活新变化gihot.com

  强化学习底层驱动,简单 reward 涌现复杂动作vSB即热新闻——关注每天科技社会生活新变化gihot.com

  在大多数实际场景中,物品往往以无规则、堆叠的方式摆放。传统方法要求机器人逐件搬开遮挡物,不仅耗时,还对机器人自身抓取能力提出了很高的要求。vSB即热新闻——关注每天科技社会生活新变化gihot.com

  为了解决这一难题,灵初智能开发了一套基于强化学习的物体检索策略 ——Retrieval  Dexterity,解决了堆叠场景中物体检索识别效率低的问题。vSB即热新闻——关注每天科技社会生活新变化gihot.com

  Retrieval Dexterity  系统中未用真机数据,灵初团队没有采用真机数据进行训练而是直接在仿真环境中通过强化学习进行训练。通过在仿真环境中大规模生成复杂的堆叠场景,训练模型直至涌现出合适的检索操作,随后再将这些操作零样本迁移至现实机器人和复杂环境中。vSB即热新闻——关注每天科技社会生活新变化gihot.com

4.pngvSB即热新闻——关注每天科技社会生活新变化gihot.com

Retrieval Dexterity 框架图vSB即热新闻——关注每天科技社会生活新变化gihot.com

  从杂乱堆叠物体中快速取出目标物体vSB即热新闻——关注每天科技社会生活新变化gihot.com

  在超过 10 种不同形状、大小的生活物品测试中,Retrieval Dexterity  展现出了优秀的性能,不仅能够高效完成训练过的物体的检索任务还能将检索能力泛化到未见过的新物体上vSB即热新闻——关注每天科技社会生活新变化gihot.com

  效率对比传统方法提升明显vSB即热新闻——关注每天科技社会生活新变化gihot.com

  与人为设定的动作相比,Retrieval Dexterity 在所有场景中平均减少了 38%  的操作步骤与模拟的 “将所有物体抓起来并放开” 相比,该方法更是平均减少了 90%  的步骤数量。这种效率提升主要得益于多指灵巧手能够直接与遮挡物进行交互,并随时移动它们,而不需要逐个移除。vSB即热新闻——关注每天科技社会生活新变化gihot.com

5.pngvSB即热新闻——关注每天科技社会生活新变化gihot.com

ExDex:借力外部环境vSB即热新闻——关注每天科技社会生活新变化gihot.com

抓取 “不可能” 物体vSB即热新闻——关注每天科技社会生活新变化gihot.com

  外部灵巧性解决物品超过机器人末端执行器的最大开度问题vSB即热新闻——关注每天科技社会生活新变化gihot.com

  当物体的底面尺寸超过机器人末端执行器的最大开度时,传统方法往往无法直接对物体进行抓取,这种情况在商场等商业场景尤为常见。为了解决这一难题,灵初智能推出了  ExDex—— 一种基于外部灵巧性(extrinsic dexterity)抓取的创新解决方案vSB即热新闻——关注每天科技社会生活新变化gihot.com

  ExDex 能够利用环境特征进行非夹持式操作,凭借多指灵巧手的灵活性和操作能力,实现更丰富的环境交互。vSB即热新闻——关注每天科技社会生活新变化gihot.com

  强化学习带来超越人类遥操作水平的灵巧操作vSB即热新闻——关注每天科技社会生活新变化gihot.com

  通过强化学习,ExDex  涌现出自主制定策略的能力,借助周围环境抓取那些无法直接抓取的物体。例如,机器人可以将物体先推到桌面边缘或墙体边缘,再利用这些环境特征完成抓取任务。这种操作通过传统的遥操作方式几乎无法实现,充分体现了强化学习的强大优势。vSB即热新闻——关注每天科技社会生活新变化gihot.com

  在对数十种不同家居物品的大量实验中,ExDex  验证了其优越的性能和对新物体的泛化能力并成功将仿真训练的策略无缝迁移到真实机器人中,实现了从仿真到现实的高效过渡。vSB即热新闻——关注每天科技社会生活新变化gihot.com

SafeVLA:人机安全交互的 “守护神”vSB即热新闻——关注每天科技社会生活新变化gihot.com

  当下,具身智能机器人频繁出圈,从春晚跳舞的 Unitree  人形机器人,到波兰街头遛机器狗的新奇场景,让人看到人机交互的无限可能,但安全问题也不容忽视。视觉 - 语言 -  行动模型(VLAs)在革新机器人技术时,也藏着安全隐患。vSB即热新闻——关注每天科技社会生活新变化gihot.com

6.pngvSB即热新闻——关注每天科技社会生活新变化gihot.com

 左图呈现了传统 VLA 模型在抓取任务中的三种典型不安全行为:1)对无关物体的严重损坏,2)目标识别错误导致危险物体的误用,以及  3)执行指令时与危险物体发生交互。右图通过导航路径示例,进一步展示了传统 VLA 在导航过程中的三种不安全行为vSB即热新闻——关注每天科技社会生活新变化gihot.com

  本周,北京大学 PAIR - Lab 团队携手灵初智能重磅推出了具身安全模型  SafeVLA,通过安全对齐,让机器人在复杂场景安全高效执行任务,在对抗干扰场景中鲁棒性极高vSB即热新闻——关注每天科技社会生活新变化gihot.com

  SafeVLA 把 “以人为本” 刻进  DNA,不像传统机器人只盯着任务完成它把人类安全放在首位。技术上,引入约束马尔可夫决策过程(CMDP)范式,把现实安全约束融入仿真环境大规模采样。SafeVLA  在安全性和任务执行方面均取得突破性进展分别提升 83.58% 和  3.85%充分证明了其在平衡安全与效率方面的卓越能力vSB即热新闻——关注每天科技社会生活新变化gihot.com

11.gifvSB即热新闻——关注每天科技社会生活新变化gihot.com

传统 VLA 模型完成任务过程中的高危行为vSB即热新闻——关注每天科技社会生活新变化gihot.com

  团队开发全新仿真环境 Safety -  CHORES集成安全约束功能支持用户自定义规则代码还完全开源直接给全球研究者和开发者送福利。而且,SafeVLA  在 12 个分布外(OOD)实验里,面对光照、材质变化和复杂环境扰动,始终稳定发挥,实力碾压其他模型。vSB即热新闻——关注每天科技社会生活新变化gihot.com

22.gifvSB即热新闻——关注每天科技社会生活新变化gihot.com

SafeVLA 在正常测试集和 OOD 测试集上的比较,其在 OOD 环境下依然保持良好安全性和表现vSB即热新闻——关注每天科技社会生活新变化gihot.com


vSB即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-14-7388-0.html灵初智能发布端到端VLA模型PsiR0.5,仅需两小时数据实现物品、场景全面泛化

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:企业智能化升级关键:DeepSeek大模型技术与应用论坛来了!

下一篇:赛力斯申请注册问界智享商标

为你推荐
随着AI的快速发展,部分科学家开始借助AI设计芯片,然而AI设计的部分芯片过于复杂,甚至超出人类的理解范畴。 普林斯顿大学Sengupta实验室的科学家团队主导了这项...
02-10
由Nullpointer Games进行开发、Nullpointer Games和Outersl负责发行的克系悬疑恐怖卡牌叙事游戏《海鲁克的惊恐(The Horror at Highrook)》,现已在Steam平台推出...
02-15
距离除夕只剩几天,“回家”成为大街小巷最热门的话题。窗前的红灯笼、热闹的年货市场、街头巷尾的新春歌曲……处处洋溢着喜庆的氛围。“我恭喜你发财,我恭喜你精彩,最好的请过...
02-02
极目新闻记者 涂梦蝶非遗三节龙、傩仪舞蹈、广场烟花秀……走进湖北省云梦县祥云湾文旅度假区,仿佛参加一场战国游园会。近日,极目新闻记者了解到,春节期间,云梦县祥云湾文旅度...
02-04
1月20日,哈尔滨第九届亚冬会火种采集仪式在哈尔滨太阳岛广场上举行。千年巨石太阳石后,连绵的群山造型冰雕在阳光照耀下晶莹剔透,冰雪工匠们以精湛技...
01-21
1月20日,哈尔滨第九届亚冬会火种采集仪式在哈尔滨太阳岛广场上举行。千年巨石太阳石后,连绵的群山造型冰雕在阳光照耀下晶莹剔透,冰雪工匠们以精湛技...
01-21
  时至隆冬,恒力重工产业园建设生产热度和速度不减。各种船舶在码头岸边依次排开,或等待试航,或等待交付...
01-24
  先农坛庆成宫,北京中轴线上的一颗明珠。这是去年中轴线申遗成功后首个焕新亮相的古建筑群。...
02-05
  近些年,不少家长被号称能为孩子进行“天赋基因检测”的宣传所迷惑,在口腔黏膜取些唾液,送至机构检测,便能测出孩子有哪些天赋,从而为“定向”培养孩子提供精准的“科学依...
01-21
  中新经纬1月21日电 “中国品牌大事记”是品牌联盟发展研究中心的常规研究项目。自2008年1月起,品牌联盟开始对当月发生的中国品牌大事进行观察、梳理和总结,并于下月初发...
01-21
1 月 28 日消息,根据 Self Financial 的一项最新研究,特斯拉 Model 3 轿车是美国使用成本最低的车型,特斯拉旗下的另一款畅销车型 Model Y 也跻身该榜单。尽管 Model 3...
01-29
1 月 30 日消息,特斯拉CEO埃隆・马斯克(Elon Musk)在昨天的财报电话会议上表示,特斯拉将于 6 月在美国得克萨斯州奥斯汀推出“无人监督、无人驾驶”的 Robotaxi 出租车...
01-31
  1、《掌心》电视剧中采莲是在第14集下线的,她的死对叶平安而言是巨大的打击。  2、叶平安等人的计划被礼宗旭提前知道了,为了追回证物,采莲不顾危险追了出去。  3、采...
02-15
《难哄》穆承允喜欢女主吗?穆承允有女朋友吗?在《难哄》中,穆承允对女主温以凡有一定好感,但这种好感并未发展成深刻的喜欢。穆承允会关注温以凡的生活,曾询问温...
02-19
21世纪经济报道记者林昀肖 北京报道1月14日,市场监管总局官网正式发布《医药企业防范商业贿赂风险合规指引》。《指引》共四章49条,其中包括...
01-21
  女性天生拥有两条X染色体,一条遗传自母亲,一条遗传自父亲。不过,为了确保基因表达的平衡,女性体...
01-27
2021年从清华大学博士毕业后加入华为,工作约三年半后,王成将进入上海交通大...
01-21
大家好,我是童学会小记者李峻轩。今天我们来到了九紫宝藏陨石博物馆参观。通过讲解员的生动解说,和仔细观察产品,我知道了陨石分为三大类:石陨石、铁陨石和石铁陨石。其中石陨...
01-21
  近年来,随着个人消费贷款需求不断增长,不法贷款中介、电信诈骗不法人员盯上了这块“蛋糕”。...
01-24
  本报记者 冷翠华  近年来,在重疾险新单保费增长乏力的情况下,人身险行业正在努力探寻“第二...
02-06
每个人都有自己的星座,而星座之间的相互作用常常引起人们的好奇。其中,巨蟹男是一个温柔...
01-22
金牛座的男生通常被认为是稳重、务实和可靠的代表。他们在感情中也是如此,对于选择伴侣...
01-22
当红女星风采:近期绽放的璀璨之美在最近的娱乐圈中,无论是电影、电视剧,还是社交媒体,许多女明星的魅力时刻吸引着大家的注意。仿佛每一位女神都在绽放自己的光芒,成了各界瞩目的...
02-07
校运会帅气穿搭? 帅气穿搭文案?一、校运会帅气穿搭?首先要选择实用性强的,防风、防雨、吸水性的运动服,运动服对于运动员有着非常重要的辅助性作用,能够激发运动员的内在潜能,充分...
02-17
这两位来自福建龙岩的老乡,故事就此拉开序幕。1.抖音生活服务春节团购订单量暴涨春节放假期间,本地消费需求暴涨,让抖音狠狠地吃了一波红利。日前,抖音生活服务发布《2025春节消...
02-07
小米集团市值冲上万亿赛道自蛇年开工以来,小米股价一路飙升,小米集团市值冲上万亿赛道,仅仅上市7年小米就实现了万亿的跨越,作为创始人的雷军也迎来了高光时刻。具体来看,2025年2...
02-09
2月5日消息,滴滴出行数据显示,春节假期期间,打车完单量同比去年上涨17%,其中异地打车(非常驻地打车)需求相比年前上涨60%。入境用户在国内使用滴滴的打车完单量同比去年上涨80%。...
02-07
2月9日消息,中国动画电影《哪吒2》总票房(含点映及预售)已突破70亿元。四川宜宾、江油等“含吒量”较高的旅游目的地,成为这波流量红利的受益者。同程旅行数据显示,自《哪吒2》电...
02-09
自去年底开始,黄金多头优势逐渐退却,国际现货黄金价格经历几次大跌后一度跌下2700关口,多空进入漫长的震荡周期,多头始终无法找到再度冲高的时机。  北京时间1月21日,国际现货...
01-24
全球性金融券商集团英国EBC Group平台始终致力于以领先生态,与全球交易者共塑交易的未来。 自第一届交易大赛起,为赤忱的热爱和卓越的才华提供舞台,在全球内寻找交易好手以赋能...
01-24
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮