Looped World Models
Abstractの概要
本論文は、ループ型Transformerアーキテクチャを世界モデルに適用した初の事例として提案される、Looped World Models (LoopWM) を紹介しています。その核心となるアイデアは、長期のロールアウトにわたって回帰的な更新を制限することを目的としたスペクトル制約付き状態保持メカニズムと組み合わせ、パラメータ共有機能を持つTransformerブロックを用いて潜在的な環境状態を反復的に洗練することです。また、このモデルは適応型の早期終了（early exit）をサポートしているため、遷移の難易度に応じて計算の深さを変化させることができ、潜在空間でロールアウトを行い最終ステップでのみデコードする遅延デコーディング（deferred decoding）のバリアントも備えています。
新規性
本論文の主な新規性は、固定長のダイナミクスモデルに依存するのではなく、反復的な潜在状態の洗練ステップ全体で同じパラメータを再利用する、ループ型で回帰的な深さを持つTransformerによって世界モデルを構築している点です。さらに、これを有界な回帰ダイナミクスのためのスペクトル安定性構造、推論時の適応型早期終了、および行動条件付き潜在ロールアウトのための遅延デコーディング手法と組み合わせています。
成果
ScienceWorldにおけるLoopWMの総合スコアは、EM 68.4%、Token F1 85.3%、BLEU-4 80.7%、Entity 83.9%と報告されており、論文内で比較されているclaude-opus-4-6-maxのベースライン（それぞれ47.2%、72.8%、64.4%、72.3%）を上回っています。AlfWorldでは、LoopWMはEM 51.6%、Token F1 80.4%、BLEU-4 71.6%、Entity 81.1%を記録し、比較モデルの中で最高のBLEUと2位のEMおよびF1を獲得していますが、エンティティの精度は一部のベースラインより劣るようです。さらに、遅延デコーディングの分析では、ロールアウトのステップ全体で外部ベースラインに対する優位性が報告されており、より長い行動シーケンスにわたって潜在計算を蓄積することの利点が示唆されています。
論文の注目点
- LoopWMは、パラメータを共有するループ型Transformerを使用して潜在状態の遷移を反復的に洗練し、実質的な計算の深さをパラメータ数に依存しにくくしている。
- このアーキテクチャは、安定した長期のロールアウトとテスト時の可変な計算量を目的として、スペクトル制約付きの回帰的な更新と適応型の早期終了メカニズムを追加している。
- ScienceWorldとAlfWorldでの実証結果が報告されており、特にScienceWorldでは記載されたベースラインに対して強力な性能向上を示し、遅延デコーディングの分析ではマルチステップのロールアウト性能の改善が示されている。
参考リンク
- arXiv: https://arxiv.org/abs/2606.18208v1
- Fugu-MT: https://fugumt.com/fugumt/paper_check/2606.18208v1
- Hugging Face Papers: https://huggingface.co/papers/2606.18208