Dynin-Robotics:面向全模态的统一扩散视觉-语言-动作模型
TLDR
Dynin-Robotics提出统一扩散VLA模型,联合预测动作、未来观测、目标和指令,通过目标引导的动作生成与选择改进机器人策略。
评分理由
The paper presents a novel unified formulation that couples action and dynamics prediction, with strong evaluation across multiple benchmarks and datasets. However, the abstract is truncated and provides limited details on real-world deployment, baseline comparisons, and the precise conditions under which composed prediction helps.
Read-first 评分解释
综合优先阅读分 36.9,由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。 原始总分保留为 34。
研究版图角色
排序敏感性
稳定性:volatile;排名波动范围:580。
关键词评分
深度分析
创新点
- 共享轨迹模型统一了语言条件机器人策略的视觉目标预测、动力学预测以及动作生成与选择。
- Dynin-Omni 全模态掩码扩散骨干网络,将语言、视觉观察、目标和动作表示为离散 token。
- 通过改变条件与目标跨度训练单一模型,以处理动作预测、动作条件下的下一观测预测、最终目标状态预测和轨迹到指令重建。
- 测试时扩展接口,包括目标预测、动作候选评估,以及动作和未来状态预测的联合精修。
- 在来自 48 个 Open X-Embodiment 数据集的大约 133 万条轨迹上持续预训练,并分别进行下游适配。
- 块并行实现将模型侧动作解码加速最高达 29.2 倍。
方法
Dynin-Robotics 使用 Dynin-Omni 全模态掩码扩散骨干网络,将语言、视觉观察、目标和动作 token 化为离散 token。同一模型通过改变条件与目标跨度,在动作预测、动作条件下的下一观测预测、最终目标状态预测和轨迹到指令重建上进行训练。该模型在来自 48 个 Open X-Embodiment 数据集的大约 133 万条轨迹上持续预训练,分别适配到下游领域,并在 VLABench、LIBERO、LIBERO-Plus 和 Franka Research 3 机器人上评估。
关键结果
在两个 VLABench 任务中,机器人预训练在固定的 Stage-2 步数预算内改善了适配效果;完整的目标混合在相同耦合解码器下比仅策略后训练提升了移位指令成功率。将目标引导与动作-下一状态联合去噪相结合,相比仅动作解码进一步提升了移位指令成功率;同时在 LIBERO 和零样本 LIBERO-Plus 上取得有竞争力的性能,在 Franka Research 3 的四种操作条件下平均成功率为 78.4%,优化后的块并行实现将动作解码加速最高达 29.2 倍。
局限性
- 摘要指出,将目标引导与动作-下一状态联合去噪相结合所带来的收益取决于预测的组合方式。