AnyStep-WAM: Budget-Aligned Distillation and Adaptive Inference for World Action Models
Abstractの概要
本論文では、調整可能なノイズ除去バジェットと、アクションチャンク間での計算の適応的割り当てをサポートする世界行動モデル（World Action Model）のためのフレームワークであるAnyStep-WAMを提案します。本手法は、教師固定のインターバル教師あり学習と共有LoRAアダプタを用いて、事前学習済み教師モデルを、1ステップ予測から複数ステップの洗練まで動作可能な単一の生徒モデルへと蒸留します。さらに、1ステップのプレビューを利用してシーンの難易度とバジェット固有の生徒・教師間の忠実度を推定し、リスク条件付き閾値を満たすと予測される最小のバジェットを選択する軽量スケジューラを導入しています。実験は、RoboTwin 2.0における3つの世界行動モデルのバックボーンおよび6種類の実世界操作タスクで報告されています。
新規性
際立った貢献は、バジェットに整合した積分フローマップ蒸留と、世界行動モデルに対するリスク条件付き適応的推論の組み合わせです。微分や有限差分に基づく教師あり学習に依存するのではなく、本手法は固定された教師軌道から有限時間遷移を直接学習し、ノイズ除去の難易度とバジェット依存の忠実度の両方を予測する単一プレビュースケジューラと結合させています。
成果
RoboTwin 2.0において、本手法は対応するフルバジェットのベースラインから平均成功率の差を0.24パーセントポイント以内に維持しつつ、平均ノイズ除去ステップ数をMotusで60.2%、FastWAMで49.8%、LingBotVAで85.28%削減しました。1ステップバジェット下では、タスク成功率がベースモデルと比較してMotusで7.07、FastWAMで12.08、LingBotVAで8.94パーセントポイント向上しました。6つのタスクによる実世界テストでも、同等以上の平均成功率を保ちながら、レイテンシと平均ノイズ除去ステップ数の削減が示されました。
論文の注目点
- AnyStep-WAMは、教師軌道のインターバル教師あり学習と共有LoRA適応を用いて、複数のノイズ除去バジェットに対応する単一の世界行動モデルを学習する。
- 軽量スケジューラが1ステップのプレビューからリスクとバジェット固有の忠実度を予測し、オンラインの教師モデルへのアクセスや候補ロールアウトを必要とせずに適応的なステップ選択を可能にする。
- 実験的に、本手法はシミュレーションおよび実ロボットタスク全体でタスク成功率を維持、あるいは向上させながら、ノイズ除去ステップ数と推論レイテンシを削減することを示している。