論文の概要: Composition of Memory Experts for Diffusion World Models

• arxiv url: http://arxiv.org/abs/2605.18813v1
• Date: Tue, 12 May 2026 09:43:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-20 21:37:32.353299
• Title: Composition of Memory Experts for Diffusion World Models
• Title（参考訳）: 拡散世界モデルのためのメモリエキスパートの構成
• Authors: Sebastian Stapf, Pablo Acuaviva Huertos, Aram Davtyan, Paolo Favaro,
• Abstract要約: 世界モデルは、過去の観測と整合した有望な未来を予測することを目的としており、これは強化学習における計画と意思決定の中心的な能力である。 トランスフォーマーは局所的な詳細を保存するが、二次的な注意によってボトルネックとなる。 我々は、将来的な一貫性をあらゆるアーキテクチャから切り離し、代わりに専門的な専門家のセットを活用することを提案します。
• 参考スコア（独自算出の注目度）: 23.602187351200183
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: World models aim to predict plausible futures consistent with past observations, a capability central to planning and decision-making in reinforcement learning. Yet, existing architectures face a fundamental memory trade-off: transformers preserve local detail but are bottlenecked by quadratic attention, while recurrent and state-space models scale more efficiently but compress history at the cost of fidelity. To overcome this trade-off, we suggest decoupling future-past consistency from any single architecture and instead leveraging a set of specialized experts. We introduce a diffusion-based framework that integrates heterogeneous memory models through a contrastive product-of-experts formulation. Our approach instantiates three complementary roles: a short-term memory expert that captures fine local dynamics, a long-term memory expert that stores episodic history in external diffusion weights via lightweight test-time finetuning, and a spatial long-term memory expert that enforces geometric and spatial coherence. This compositional design avoids mode collapse and scales to long contexts without incurring a quadratic cost. Across simulated and real-world benchmarks, our method improves temporal consistency, recall of past observations, and navigation performance, establishing a novel paradigm for building and operating memory-augmented diffusion world models.
• Abstract（参考訳）: 世界モデルは、過去の観測と整合した有望な未来を予測することを目的としており、これは強化学習における計画と意思決定の中心的な能力である。 トランスフォーマーは局所的な詳細を保存するが、二次的な注意によってボトルネックとなる一方、リカレントモデルとステートスペースモデルはより効率的にスケールするが、忠実さを犠牲にして履歴を圧縮する。 このトレードオフを克服するため、私たちは、将来的な一貫性を単一のアーキテクチャから切り離し、代わりに専門的な専門家のセットを活用することを提案します。 異種メモリモデルを統合する拡散型フレームワークを, コントラッシブな製品・オブ・エキスパートの定式化により導入する。 提案手法は,局所動態を捉える短期記憶専門家,軽量なテストタイム微調整により外部拡散重みにエピソード履歴を記憶する長期記憶専門家,幾何学的および空間的コヒーレンスを強制する空間記憶専門家の3つの相補的役割を創出する。 この構成設計はモード崩壊を回避し、二次コストを発生させることなく長いコンテキストにスケールする。 シミュレーションと実世界のベンチマークにより, 時間的一貫性, 過去の観測の再現, ナビゲーション性能が向上し, メモリ拡張拡散世界モデルの構築と運用のための新しいパラダイムが確立された。

関連論文リスト

• Memorize When Needed: Decoupled Memory Control for Spatially Consistent Long-Horizon Video Generation [22.26820693283945]
  本稿では,メモリコンディショニングと生成を分離する分離されたフレームワークを提案する。 我々は、歴史的観測から正確な空間整合性を学ぶために、軽量で独立したメモリブランチを使用している。 提案手法は,視覚的品質と空間的整合性の両方の観点から,最先端の性能を実現する。
  論文  参考訳（メタデータ） (2026-04-20T13:00:17Z)
• RainDiff: End-to-end Precipitation Nowcasting Via Token-wise Attention Diffusion [64.49056527678606]
  本稿では,U-Net拡散モデルだけでなく,レーダ時間エンコーダにも統合されたトークンワイドアテンションを提案する。 従来の手法とは異なり,本手法は,画素空間拡散の典型的な高資源コストを発生させることなく,アーキテクチャに注意を集中させる。 実験と評価により,提案手法は複雑な降水予測シナリオにおいて,最先端の手法,ロバストネスの局所的忠実度,一般化,優位性を著しく上回ることを示した。
  論文  参考訳（メタデータ） (2025-10-16T17:59:13Z)
• Video World Models with Long-term Spatial Memory [110.530715838396]
  本稿では,ビデオワールドモデルの長期的整合性を高める新しい枠組みを提案する。 我々のフレームワークは、長期空間記憶から情報を保存・取得する機構を含んでいる。 評価の結果,関連するベースラインに比べて品質,一貫性,コンテキスト長が向上した。
  論文  参考訳（メタデータ） (2025-06-05T17:42:34Z)
• StateSpaceDiffuser: Bringing Long Context to Diffusion World Models [52.92249035412797]
  本稿では、状態空間モデルから機能を統合することで、拡散モデルが長時間コンテキストタスクの実行を可能にするStateSpaceDiffuserを紹介する。 この設計は拡散モデルの高忠実性合成を保ちながら長期記憶を復元する。
  論文  参考訳（メタデータ） (2025-05-28T11:27:54Z)
• Long-Context State-Space Video World Models [66.28743632951218]
  本稿では、状態空間モデル(SSM)を活用して、計算効率を損なうことなく時間記憶を拡張する新しいアーキテクチャを提案する。 我々の設計の中心はブロックワイズSSMスキャン方式であり、時間記憶の拡張のために空間整合性を戦略的にトレードオフする。 メモリ迷路とMinecraftのデータセットの実験は、我々のアプローチが長距離メモリ保存のベースラインを超えたことを示している。
  論文  参考訳（メタデータ） (2025-05-26T16:12:41Z)
• FACTS: A Factored State-Space Framework For World Modelling [24.08175276756845]
  本研究では,時空間空間モデリングのための新しいリカレントフレームワークであるtextbfFACTored textbfState-space (textbfFACTS) モデルを提案する。 FACTSフレームワークは、置換可能なメモリ表現を学習するルーティング機構を備えたグラフメモリを構築する。 汎用的な世界モデリング設計にもかかわらず、常に最先端のモデルに勝ったり、マッチする。
  論文  参考訳（メタデータ） (2024-10-28T11:04:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。