LeHami: Symplectic Latent Dynamics for World Models
Abstractの概要
LeHamiは、標準的な制約のない自己回帰型予測器を、位置様成分と運動量様成分に分割された構造化潜在状態に対する行動条件付きハミルトンフローに置き換えたJEPAベースのワールドモデルです。この潜在ダイナミクスは厳密にシンプレクティックなリープフロッグ法によって積分され、すべてのロールアウトステップで位相空間の体積保存を実現し、一様な収縮、漸近安定な不動点、異なる潜在状態の統合といったロールアウト崩壊モードを排除します。運動量様の潜在変数は、固定のサビツキー・ゴレイステンシルを介して学習された位置様表現の時間微分から取得され、予測および制御のための2階の物理状態を明示的に表現します。保存的および駆動型の視覚的振り子環境における実験では、同等の計算予算のもとで、長期予測、潜在体積の挙動、連続時間再ステッピング、時間反転、およびゴール条件付きプランニングの評価を行っています。
新規性
本論文の主な新規性は、ピクセルベースのJEPAワールドモデル内に厳密なシンプレクティック・ハミルトンフローを組み込むことで、学習されたパラメータや行動系列に依存せずに推論時に位相空間の体積を保存する点にあります。さらに、デコーダや教師あり状態座標を必要とせずに正準運動量様表現を抽出するため、エンコーダの軌道に対してゼロパラメータのサビツキー・ゴレイステンシルを導入しています。
成果
保存的および駆動型の視覚的振り子ベンチマークにおいて、LeHamiはベースラインであるLeWMと比べて長期の速度予測を向上させ、ベースラインが着実に収縮するのに対し実証的に一定の潜在体積を維持します。学習された連続ベクトル場は未観測のサブフレーム刻み幅での積分をサポートし、10^-4%未満の往復誤差で数値的時間反転を達成します。15 TFLOPの予算内でのゴール条件付きプランニングにおいて、LeHamiは符号付き速度に対して計算効率の高い構造的事前情報を提供しますが、特定の節においては制約のないウィンドウを用いたLeWMベースラインの方が高い成功率を達成しています。
論文の注目点
- LeHamiは制約のないJEPA予測器を、厳密なシンプレクティック・リープフロッグ法によって積分される正準(q, p)潜在分割上の分離可能な行動条件付きハミルトンフローに置き換えている。
- シンプレクティックな定式化によりステップごとの位相空間体積の保存が保証され、特定のロールアウト崩壊モードが防止されるとともに、長期にわたって一定の潜在体積が維持されることが実証されている。
- LeHamiはサブフレームの時間再ステッピングとほぼ厳密な数値的時間反転を可能にし、ゴール条件付きプランニングにおいて符号付き速度の計算効率の高い表現を提供する。