論文の概要: Compression Forcing: Hierarchical History Tokenization Enables Flexible World Models
- arxiv url: http://arxiv.org/abs/2611.04028v1
- Date: Mon, 02 Nov 2026 22:18:31 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-11-04 17:54:40.904541
- Title: Compression Forcing: Hierarchical History Tokenization Enables Flexible World Models
- Title(参考訳): 圧縮強制:階層的歴史トークン化はフレキシブルな世界モデルを可能にする
- Abstract要約: 本稿では,歴史圧縮と世界モデリングの予測的目的を一致させるフレームワークであるCompression Forcing(CF)を紹介する。
CFは、履歴観測を動的サリエンシを減少させて順序付けられたシーケンスに圧縮する新しいトークン化法を特徴としている。
様々な環境における実験は、予測忠実性、物理リアリズム、下流の意思決定性能の改善を実証している。
- 参考スコア(独自算出の注目度): 50.6811504356457
- License:
- Abstract: Effective world modeling requires compressing salient history information that facilitates future prediction. However, most existing approaches inherit tokenization and conditioning mechanisms from video generation, where objectives are centered around perceptual realism rather than predictive utility. This discrepancy limits the world model's effectiveness, especially in environments dominated by visual nuisances or task-irrelevant background details. To this end, we introduce Compression Forcing (CF), a general framework that aligns history compression with the predictive objective of world modeling. Compression Forcing features Dynamics-Aware Tokenization (DAT), a novel tokenization method that compresses history observations into a sequence ordered by decreasing dynamics saliency. Built on a diffusion backbone, this structure enables Hierarchical History Guidance (HG-H), allowing selective amplification of dynamics-salient information during inference. Extensive experiments across various environments demonstrate improved prediction fidelity, physical realism, and downstream decision-making performance, establishing Compression Forcing as a highly flexible and effective approach for world modeling.
- Abstract(参考訳): 効果的な世界モデリングには、将来の予測を容易にする健全な履歴情報を圧縮する必要がある。
しかし、既存のほとんどのアプローチは、予測ユーティリティよりも知覚現実主義を中心としたビデオ生成からトークン化と条件付けのメカニズムを継承している。
この不一致は世界モデルの有効性を制限し、特に視覚的ニュアンスやタスク非関連背景の詳細に支配される環境においてである。
この目的のために,歴史圧縮を世界モデリングの予測目的と整合させる汎用フレームワークであるCompression Forcing (CF)を紹介した。
Compression Forcing Features Dynamics-Aware Tokenization (DAT)は、歴史観測を動的サリエンシの低下によって順序付けられたシーケンスに圧縮する新しいトークン化手法である。
拡散バックボーン上に構築されたこの構造は階層的ヒストリーガイダンス(HG-H)を可能にし、推論中に動的サリアン情報の選択的増幅を可能にする。
様々な環境における広範囲にわたる実験は、予測忠実性、物理リアリズム、下流での意思決定性能の向上を実証し、世界モデリングの非常に柔軟で効果的なアプローチとして圧縮強制を確立した。
関連論文リスト
- Infinite-World: Scaling Interactive World Models to 1000-Frame Horizons via Pose-Free Hierarchical Memory [101.2076718776139]
複雑な実環境において,1000フレーム以上のコヒーレントな視覚記憶を維持することのできる,堅牢な対話型世界モデルを提案する。
我々は,歴史的潜水剤を固定予算の幾何学的表現に蒸留するpose-free Memory (HPMC)を導入する。
また,連続動作を三状態論理に識別する不確実性認識型アクションラベルモジュールを提案する。
論文 参考訳(メタデータ) (2026-02-02T17:52:56Z) - Prismatic World Model: Learning Compositional Dynamics for Planning in Hybrid Systems [38.4555621948915]
Prismatic World Model (PRISM-WM) は複雑なハイブリッド力学を構成可能なプリミティブに分解するように設計されている。
PRISM-WMは系力学におけるシャープモード遷移を正確にモデル化することでロールアウトドリフトを著しく低減する。
論文 参考訳(メタデータ) (2025-12-09T09:40:34Z) - Learning Time-Aware Causal Representation for Model Generalization in Evolving Domains [50.66049136093248]
動的因果要因と因果機構のドリフトを組み込んだ時間認識型構造因果モデル(SCM)を開発した。
本研究では,時間領域毎に最適な因果予測値が得られることを示す。
合成と実世界の両方のデータセットの結果から,SynCは時間的一般化性能に優れることが示された。
論文 参考訳(メタデータ) (2025-06-21T14:05:37Z) - Shifting AI Efficiency From Model-Centric to Data-Centric Compression [67.45087283924732]
AI研究の焦点は、モデル中心の圧縮からデータ中心の圧縮へとシフトしている、と私たちは主張する。
データ中心圧縮は、モデルトレーニングや推論中に処理されたデータのボリュームを直接圧縮することで、AI効率を向上させる。
我々の研究は、AIの効率性に関する新たな視点を提供し、既存の取り組みを合成し、コンテキスト長の増大によって引き起こされる課題に対処するためにイノベーションを触媒することを目的としています。
論文 参考訳(メタデータ) (2025-05-25T13:51:17Z) - Consistent World Models via Foresight Diffusion [56.45012929930605]
我々は、一貫した拡散に基づく世界モデルを学習する上で重要なボトルネックは、最適下予測能力にあると主張している。
本稿では,拡散に基づく世界モデリングフレームワークであるForesight Diffusion(ForeDiff)を提案する。
論文 参考訳(メタデータ) (2025-05-22T10:01:59Z) - EDELINE: Enhancing Memory in Diffusion-based World Models via Linear-Time Sequence Modeling [8.250616459360684]
EDELINEは、状態空間モデルと拡散モデルを統合する統一世界モデルアーキテクチャである。
我々のアプローチは、視覚的に困難なAtari 100kタスク、メモリ要求ベンチマーク、3DファーストパーソンのViZDoom環境において、既存のベースラインよりも優れています。
論文 参考訳(メタデータ) (2025-02-01T15:49:59Z) - eXponential FAmily Dynamical Systems (XFADS): Large-scale nonlinear Gaussian state-space modeling [9.52474299688276]
非線形状態空間グラフィカルモデルのための低ランク構造化変分オートエンコーダフレームワークを提案する。
我々のアプローチは、より予測的な生成モデルを学ぶ能力を一貫して示している。
論文 参考訳(メタデータ) (2024-03-03T02:19:49Z) - Finding emergence in data by maximizing effective information [2.1714094454496013]
創発的な現象を特定し、利用可能なデータを使用してマクロレベルで創発的なダイナミクスをキャプチャするフレームワークを開発することが重要です。
本稿では,因果発生理論(CE)にヒントを得て,創発的潜在空間におけるマクロ力学を学習するための機械学習フレームワークを提案する。
シミュレーションおよび実データによる実験結果から,提案手法の有効性が示された。
論文 参考訳(メタデータ) (2023-08-19T09:12:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。