論文の概要: Lucid Dreaming for World Models: Learning to Doubt Imagination and Decide by Trust

• arxiv url: http://arxiv.org/abs/2609.37156v1
• Date: Tue, 29 Sep 2026 09:46:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:47.398831
• Title: Lucid Dreaming for World Models: Learning to Doubt Imagination and Decide by Trust
• Title（参考訳）: 世界モデルの急激な夢 - 想像力の倍増と信頼による決定を学ぶ
• Abstract要約: 我々は、経験から疑念を学び、想像を通して信頼を広めるLucid World Modelを提案する。 LucidWMは予測結果と明らかな支持を区別し、各遷移を疑念の程度に割り当てる。 LucidWMは環境変化を検知し、動作不良のロールアウト中に不確実性を示す。
• 参考スコア（独自算出の注目度）: 46.439952156800665
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: World models enable agents to learn and plan in imagination, but predictions beyond their experience can become unreliable and mislead decisions. Existing uncertainty estimates derived from predictions can remain overconfident on unfamiliar state-action pairs. We propose the Lucid World Model (LucidWM), which learns doubt from experience and propagates trust through imagination. By integrating Subjective Logic into categorical latent transitions, LucidWM distinguishes predicted outcomes from their evidential support and assigns each transition a degree of doubt. The complement of this doubt defines transition-level trust, which accumulates multiplicatively along imagined trajectories to reweight returns for policy learning and guide action selection. Uncertainty estimation requires no additional parameters or forward passes. Evaluated on four base world models against seventeen uncertainty readouts, LucidWM detects environmental changes and signals uncertainty during action-corrupted rollouts. In a controlled navigation case study, acting on trust reduces the number of steps required to reach the goal from 362 to 190. Fifteen demonstration videos show how LucidWM doubts its dreams and acts on that doubt. Videos are available at https://lucidwm.github.io.
• Abstract（参考訳）: 世界モデルは、エージェントが想像力で学び、計画することを可能にするが、彼らの経験を超える予測は信頼できなくなり、誤解を招く可能性がある。 予測から導かれる既存の不確実性推定は、馴染みの無い状態-作用対に対して過度に信頼される。 我々は、経験から疑念を学び、想像を通じて信頼を広めるLucid World Model(LucidWM)を提案する。 主観的論理をカテゴリー的潜在遷移に組み込むことにより、LucidWMは予測結果と明示的な支持を区別し、各遷移を疑念の程度に割り当てる。 この疑問の補足は、政策学習と行動選択のガイドのためのリウェイトリターンのために、想像された軌道に沿って乗法的に蓄積する移行レベルの信頼を定義する。 不確実性推定は追加のパラメータや前方通過を必要としない。 4つの基本世界モデルから17個の不確実性読み出しに対して評価され、LucidWMは環境変化を検出し、動作停止したロールアウト中に不確実性を示す。 制御されたナビゲーションケーススタディでは、目標を達成するために必要なステップの数を362から190に削減する。 デモビデオ15本は、LucidWMが夢を疑って、その疑念に対して行動している様子を示しています。 ビデオはhttps://lucidwm.github.io.comで公開されている。

関連論文リスト

• Token Is All You Need: Cognitive Planning through Belief-Intent Co-Evolution [0.0]
  意味的に豊かなトークンの最小セット内での信念と意図の共進化から効果的な計画が生じることを示す。 知性はピクセルの忠実さではなく、信念と意図のトークン化された双対性にある。
  論文  参考訳（メタデータ） (2025-10-30T12:16:45Z)
• Towards Reliable LLM-based Robot Planning via Combined Uncertainty Estimation [68.106428321492]
  大規模言語モデル (LLM) は高度な推論能力を示し、ロボットが自然言語の命令を理解し、適切な接地で高レベルな計画を生成することができる。 LLMの幻覚は重大な課題であり、しばしば過度に信頼され、不一致または安全でない計画に繋がる。 本研究は, 信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性評価を別々に評価するものである。
  論文  参考訳（メタデータ） (2025-10-09T10:26:58Z)
• Beyond Prompt-Induced Lies: Investigating LLM Deception on Benign Prompts [79.1081247754018]
  大規模言語モデル(LLM)は、推論、計画、意思決定のタスクに広くデプロイされている。 そこで我々は, 接触探索質問(CSQ)に基づく枠組みを提案し, 騙しの可能性を定量化する。
  論文  参考訳（メタデータ） (2025-08-08T14:46:35Z)
• How Overconfidence in Initial Choices and Underconfidence Under Criticism Modulate Change of Mind in Large Language Models [28.62988505317048]
  大きな言語モデル(LLM)は、非常に矛盾する振る舞いを示す。 LLMは、質問されたときに過度に疑念を抱きがちである一方で、最初の回答において、頑強に過度に自信を抱くように見える。 LLMは選択支援バイアスを顕著に示し、回答に対する信頼度を補強し、向上させることを示す。
  論文  参考訳（メタデータ） (2025-07-03T18:57:43Z)
• Pretrained LLMs Learn Multiple Types of Uncertainty [23.807232455808613]
  大規模言語モデルは現実世界の知識を捉えることで知られており、下流の多くのタスクに精通することができる。 本研究では,LLMが不確実性をどのように捉えているのかを,それに対して明示的に訓練されることなく検討する。 モデルの潜在空間における線形概念としての不確実性を考えると、事前訓練後にのみ捕捉されることが示される。
  論文  参考訳（メタデータ） (2025-05-27T14:06:15Z)
• Understanding Knowledge Drift in LLMs through Misinformation [11.605377799885238]
  大規模言語モデル(LLM)は多くのアプリケーションに革命をもたらしました。 我々は,QnAシナリオで誤情報に遭遇した場合に,現状のLCMの事実的不正確性に対する感受性を解析する。 実験の結果,LLMの不確実性が56.6%まで増加することが判明した。
  論文  参考訳（メタデータ） (2024-09-11T08:11:16Z)
• Uncertainty is Fragile: Manipulating Uncertainty in Large Language Models [79.76293901420146]
  大規模言語モデル(LLM)は、出力の信頼性が不可欠である様々な高い領域で採用されている。 本研究では,不確実性推定の脆弱性を調査し,攻撃の可能性を探る。 攻撃者がLSMにバックドアを埋め込むことができ、入力中の特定のトリガーによって起動されると、最終的な出力に影響を与えることなくモデルの不確実性を操作できることを示す。
  論文  参考訳（メタデータ） (2024-07-15T23:41:11Z)
• Uncertainty Quantification for In-Context Learning of Large Language Models [52.891205009620364]
  大規模言語モデル(LLM)の画期的な能力として、文脈内学習が登場している。 両タイプの不確かさを定量化するための新しい定式化法とそれに対応する推定法を提案する。 提案手法は、プラグイン・アンド・プレイ方式でコンテキスト内学習の予測を理解するための教師なしの方法を提供する。
  論文  参考訳（メタデータ） (2024-02-15T18:46:24Z)
• Distinguishing the Knowable from the Unknowable with Language Models [15.471748481627143]
  地中真理確率の欠如において、与えられた不確実性を解き放つために、より大きなモデルが地中真理の代用として現れるような設定を探索する。 凍結, 事前訓練されたモデルの埋め込みを訓練した小さな線形プローブが, トークンレベルでより大きなモデルがより自信を持つようになる時期を正確に予測することを示した。 我々は,同じタスクにおいて非自明な精度を実現する,完全に教師なしの手法を提案する。
  論文  参考訳（メタデータ） (2024-02-05T22:22:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。