論文の概要: Hallucination in World Models is Predictable and Preventable

• arxiv url: http://arxiv.org/abs/2606.27326v1
• Date: Thu, 25 Jun 2026 17:38:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-26 18:46:32.382925
• Title: Hallucination in World Models is Predictable and Preventable
• Title（参考訳）: 世界モデルにおける幻覚は予測可能で予防可能である
• Abstract要約: 幻覚は状態-作用空間の低被覆領域に集中していることを示す。 モデルがどこで失敗するかを正確に予測する3つの信号を開発する。 その結果,世界モデルにおける幻覚は本質的にデータカバレッジの問題であることが判明した。
• 参考スコア（独自算出の注目度）: 12.420814678350547
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Modern generative world models render increasingly realistic action-controllable futures, yet they frequently hallucinate: rollouts remain visually fluent while drifting from the ground-truth dynamics. We hypothesize that hallucination concentrates in low-coverage regions of the state-action space, where lightweight data-centric signals can both detect it and guide mitigation. To test this, we introduce MMBench2, a 427-hour, 210-task dataset for visual world modeling with ground-truth actions, rewards, and live simulators, and train a 350M-parameter world model on it. We identify three distinct hallucination modes: perceptual, action-marginalized, and scene-diverging -- each anchored to a different stage of the pipeline, and develop three signals that accurately predict where the model will fail. To close coverage gaps at training time, we develop a coverage-aware sampling technique; to close them online, our hallucination predictors serve as curiosity rewards for targeted data collection, yielding a data-efficient finetuning recipe that adapts the pretrained world model to entirely unseen environments with as few as 50 real environment trajectories. Overall, our findings reveal that hallucination in world models is inherently a data coverage issue, and that the same signals used to detect it can also be used for mitigation. An interactive web version of our paper is available at https://www.nicklashansen.com/mmbench2
• Abstract（参考訳）: 現代の生成的世界モデルは、ますます現実的なアクションコントロール可能な未来を表現しているが、彼らはしばしば幻覚を呈している。 我々は、幻覚は状態行動空間の低被覆領域に集中しており、そこでは軽量なデータ中心の信号がそれを検出し、緩和を導くことができると仮定する。 これをテストするために、MMBench2は、427時間、210タスクの視覚世界モデリングのためのデータセットであり、地上のトルースアクション、報酬、ライブシミュレータを持ち、350万パラメータの世界モデルをトレーニングする。 我々は、知覚、アクションマージ、シーン分割の3つの異なる幻覚モードを特定し、それぞれがパイプラインの異なるステージに固定され、モデルがどこで失敗するかを正確に予測する3つの信号を開発する。 トレーニング時のカバレッジギャップを埋めるため、我々は、カバーアウェアサンプリング手法を開発し、オンラインで閉鎖するために、幻覚予測器はターゲットデータ収集のための好奇心の報酬として機能し、事前学習された世界モデルに50以上の実環境軌道で完全に見えない環境に適応する、データ効率の良い微調整レシピを提供する。 総じて、世界モデルにおける幻覚は本質的にデータカバレッジの問題であり、それを検出するのと同じ信号も緩和に使えることが判明した。 私たちの論文のインタラクティブWebバージョンがhttps://www.nicklashansen.com/mmbench2で公開されている。

関連論文リスト

• Sensorimotor World Models: Perception for Action via Inverse Dynamics [59.121736411156384]
  Inverse dynamics regularization で訓練されたエンド・ツー・エンドのセンサモレータ・ワールドモデルを導入する。 表現の崩壊を防ぎ、アクション整列表現を誘導する。 コンパクトで解釈可能な潜在空間を学習し、単純な2Dおよび3D制御タスク間の競合計画性能を実現する。
  論文  参考訳（メタデータ） (2026-06-18T11:25:16Z)
• Mem-World: Memory-Augmented Action-Conditioned World Models for Persistent Robot Manipulation [55.42006264038458]
  アクション条件付き世界モデルは、ロボット学習の有望なパラダイムとして登場した。 Mem-Worldはメモリ拡張されたマルチビューアクション条件の世界モデルである。 W-VMemは4次元手首ビュー中心のサーベイルインデクシングメモリで、歴史的観測を時間的に変化する表面要素に固定する。
  論文  参考訳（メタデータ） (2026-06-17T11:42:00Z)
• RoboDream: Compositional World Models for Scalable Robot Data Synthesis [31.864551794584667]
  ロボット学習のスケールには大規模で多様なデモが必要だが、遠隔操作による実世界のデータ収集は極めて高価で時間を要する。 本稿では、新しいオブジェクトでデモを合成することで、スケーラブルなデータ生成を実現する、一般化可能なエンボディメント中心の世界モデルを提案する。 実世界の実験で、生成したデータは、ダウンストリームポリシーのパフォーマンスを一貫して改善し、多様な操作タスクにおける実世界のデータ要求を大幅に低減することを示した。
  論文  参考訳（メタデータ） (2026-06-01T17:59:38Z)
• HalluWorld: A Controlled Benchmark for Hallucination via Reference World Models [24.61808957290675]
  幻覚は依然として大きな言語モデルの中心的な失敗モードである。 既存のベンチマークでは、要約、質問応答、検索強化生成、エージェント間相互作用など、矛盾なく運用されている。 明示的な参照ワールドの定式化を基礎としたベンチマークであるHaluWorldを紹介する。
  論文  参考訳（メタデータ） (2026-05-19T04:29:03Z)
• Mirage2Matter: A Physically Grounded Gaussian World Model from Video [87.9732484393686]
  我々は、グラフィック駆動の世界モデリングおよびシミュレーションフレームワークであるSimulate Anythingを紹介する。 実世界の環境を3次元ガウススプレイティング(3DGS)による写実的シーン表現に再構築する。 次に、生成モデルを利用して、物理的に現実的な表現を復元し、精度校正ターゲットを介してシミュレーション環境に統合する。
  論文  参考訳（メタデータ） (2026-01-24T07:43:57Z)
• HalLoc: Token-level Localization of Hallucinations for Vision Language Models [36.12465376767014]
  幻覚は、大きな視覚言語モデルの信頼性に重大な課題をもたらす。 HalLocは、効率的で確率的な幻覚検出のために設計されたデータセットである。
  論文  参考訳（メタデータ） (2025-06-12T01:50:35Z)
• Generate, but Verify: Reducing Hallucination in Vision-Language Models with Retrospective Resampling [78.78822033285938]
  VLM(Vision-Language Models)は視覚的理解に優れ、視覚幻覚に悩まされることが多い。 本研究では,幻覚を意識したトレーニングとオンザフライの自己検証を統合した統合フレームワークREVERSEを紹介する。
  論文  参考訳（メタデータ） (2025-04-17T17:59:22Z)
• Hieros: Hierarchical Imagination on Structured State Space Sequence World Models [4.922995343278039]
  ヒエロス(Hieros)は、時間的抽象世界表現を学習し、潜在空間における複数の時間スケールでの軌跡を想像する階層的な政策である。 我々は,Atari 100kベンチマークにおいて,平均および中央値の正規化人間のスコアにおいて,この手法が技術状況より優れていることを示す。
  論文  参考訳（メタデータ） (2023-10-08T13:52:40Z)
• Predictive World Models from Real-World Partial Observations [66.80340484148931]
  本研究では,現実の道路環境に対する確率論的予測世界モデル学習のためのフレームワークを提案する。 従来の手法では、学習のための基礎的真理として完全状態を必要とするが、HVAEが部分的に観察された状態のみから完全状態を予測することを学べる新しい逐次訓練法を提案する。
  論文  参考訳（メタデータ） (2023-01-12T02:07:26Z)
• Learning Continuous Environment Fields via Implicit Functions [144.4913852552954]
  本研究では,到達距離(シーン内の任意の位置から目標までの距離)を,実現可能な軌道に沿って符号化する新しいシーン表現を提案する。 本研究では,2次元迷路や屋内3次元シーンにおけるエージェントの動的挙動を直接導出できることを実証する。
  論文  参考訳（メタデータ） (2021-11-27T22:36:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。