FuguReport

Learning Skills from Historical Action Trajectories: Action Experience Dictionary for World Action Models

著者 Qi Lyu, Jiahua Dong, Hao Shen, Xudong Wang, Hongyuan Yu, Baichen Liu, Henghui Ding, Zhi Han, Nicu Sebe, Ivan Laptev, Fahad Shahbaz Khan, Salman Khan
所属 Chinese Academy of Sciences / Mohamed bin Zayed University of Artificial Intelligence / Anhui University / Fudan University / Xiaomi Corporation / University of Trento
カテゴリ Method / Action Modeling / Learning from historical trajectories, Application / Robotic Manipulation / Skill transfer in manipulation tasks, Task / Skill Reuse / Modeling inter-task action relationships
ライセンス CC BY 4.0

Abstractの概要

本論文では、ロボット操作におけるワールドアクションモデル向けのアクション経験辞書(AED)を提案しています。この手法は、過去のアクショントラジェクトリをアクション埋め込みの共有辞書へと符号化し、事前学習済みアクショントークナイザを通じてタスクに関連するエントリを取得した上で、取得した埋め込みに視覚的な条件付けを行ってアクション予測の誘導に利用します。また、ランダムな時間間隔にわたる視覚的特徴の変化を予測するモーション認識型の遷移損失を導入し、アクションに関連する動きを重視して背景の手がかりへの依存を低減します。本アプローチは、LIBERO、RoboTwin 2.0、LIBERO-Plusなどのシミュレーションベンチマークおよび実機でのクロスエンボディメント設定で評価されています。

新規性

本研究の顕著な貢献は、ワールドアクションモデル内で操作タスク横断的に過去のアクション経験を再利用するための明示的なメカニズムを構築した点です。タスク固有の動作の学習にとどまらず、共有アクション辞書に視覚的条件付けとモーション認識型の遷移目的関数を組み合わせることで、タスク横断的なスキル関係とアクション中心の動きをモデル化しています。

成果

報告された実験において、比較手法の中で最も高い平均成功率をRoboTwin 2.0(92.8%)およびLIBERO(98.8%)で達成し、身体性ポリシーの事前学習を行わずにLIBERO-Plusで86.2%の総合成功率を記録しました。LIBERO-10でのアブレーション実験では、モーション認識型損失、視覚的条件付け、またはAEDを削除すると性能が低下することが示され、2台のロボットプラットフォームを用いた実世界テストでは、散乱物、低照度、未学習物体の条件下でベースラインを上回る堅牢性が示されました。

論文の注目点

  1. AEDは過去のトラジェクトリから導出された共有アクション埋め込みを保存し、関連タスク間での操作スキルパターンの再利用を可能にします。
  2. 取得したアクション埋め込みに視覚的条件付けを施してアクショントークンの前方に付加することで、アクション経験とタスク関連シーンのコンテキストの双方を活用した予測を実現します。
  3. モーション認識型の遷移損失によりランダムな時間間隔での視覚的特徴変化の予測を監督し、この設計がベンチマーク性能の向上と分布外(OOD)に対する堅牢性につながることが実験的に示されています。

参考リンク

このページはGPT-5、Claude Opus 4、Gemini 3、Gemini 3.1 Flash Image 及びその上位バージョンなどの生成AIを用いて作成されています。内容の保証は一切できません。