Bilinear World Models: Learning Representations with Structured Dynamics for Efficient Control
Abstractの概要
本論文では、潜在ダイナミクスを双線形パラメータ化に従うよう制約し、効率的な計画と制御を支援する正規化アクションマップを備えたJEPAスタイルの世界モデルを提案しています。この設計はモデリングの負荷をエンコーダ側へと移し、システムの制御可能な側面を中心に潜在表現を整理します。クープマン作用素理論に基づき、著者らはアクションアフィン非線形力学系がアクションの復元可能性を持つ双線形潜在ダイナミクスを許容することを示しています。実証的には、高次元観測からの4つの2Dおよび3D制御ベンチマークに加え、長期間ホライズンやリアルタイムな移動目標設定において評価が行われています。
新規性
主な新規性は、JEPAスタイルの世界モデルにおいて、制約のないニューラルネットワーク予測器を採用するのではなく、潜在ダイナミクスを正規化された双線形パラメータ化に制限した点にあります。この構造化されたアクションマップは、構造的にアクションの復元可能性を強制して表現の崩壊を構造上防止し、ガウス・ニュートンコントローラを介した効率的な感度ベースの計画を可能にします。
成果
TwoRoom、PushT、Reacher、Cubeの各ベンチマークにおいて、提案手法は計画時間を2〜3桁削減しながら、ベースラインと同等以上の成功率(それぞれ100%、90%、75%、99%)を達成しました。また、より長い計画ホライズンに対しても優れた頑健性を示し、20Hzのリアルタイム再計画ループ下の全4つの移動目標タスクにおいて平均27ポイントの向上を達成してベースラインを上回りました。
論文の注目点
- 本モデルは潜在ダイナミクスを正規化双線形パラメータ化に制約し、閉形式でのアクション復元可能性を強制することで表現の崩壊を構造上防止する。
- 理論的分析によりアクションアフィン非線形システムとアクション復元可能な双線形クープマン埋め込みが関連付けられ、課された潜在構造の妥当性が裏付けられている。
- 感度ベースのガウス・ニュートンプランナーが微分可能なダイナミクスを活用することで、オフラインおよびリアルタイム設定において計画時間を数分から数秒へと短縮しつつ高い制御成功率を達成する。