論文の概要: The Intervention Gap in Latent World Models

• arxiv url: http://arxiv.org/abs/2608.29998v1
• Date: Sun, 30 Aug 2026 19:47:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-01 18:31:31.144955
• Title: The Intervention Gap in Latent World Models
• Title（参考訳）: 後期世界モデルにおける干渉ギャップ
• Abstract要約: 計画時介入の忠実さは、学習された世界モデルの際立った、測定可能な特性である。 リリースされたTD-MPC2チェックポイントサイズ全体で、タスクオブザーバのオペレータエラー診断が増加するにつれて、エピソードリターンが減少する。 タスク信号無しで訓練された自己教師付き世界モデルは、共有タスク上のタスク選択モデルよりもかなり優れた演算子を保存する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Planning-time intervention fidelity is a distinct, measurable property of a learned world model: whether the model's own open-loop transitions move task variables the way matched environment interventions do. In the settings we test, it is neither revealed by reward fit nor ensured by task-anchored training. Across released TD-MPC2 checkpoint sizes, episode return falls as an operator-error diagnostic on task observables grows, while reward-prediction error stays small and nearly flat, and a self-supervised world model trained without task signal preserves the same operator substantially better than a task-anchored model on the shared task. A capture-gated matched-intervention audit then localizes what fails. On Cheetah, three LeWorldModel checkpoints capture the current task query and support decodable real intervention effects; however, their imagined five-step effects are worse than predicting no effect and worse than an environment-endpoint oracle. The failure is task-direction rotation with excess gain, not feature collapse. This severe pattern is conditional: five PreJEPA seeds retain an oracle-relative deficit without it, Finger Spin experiments extend the deficit beyond locomotion with heterogeneous severity across seeds, and shared-bank effect geometry is both candidate- and support-dependent. We also test practice-side questions. In DreamerV3 the posterior distribution, not its sample, carries the current query; ensemble disagreement ranks error only near training support; and a frozen support-aware score degrades held-out error ranking in both tested transfer directions while native disagreement remains informative in both. We conclude that intervention fidelity must be audited directly, capture-first, on the model's native interface.
• Abstract（参考訳）: 計画時介入の忠実性は、学習された世界モデルの明確な測定可能な特性であり、モデル自身のオープンループ遷移が、環境介入と一致する方法でタスク変数を移動させるかどうかである。 テストする設定では、報酬の適合やタスク選択トレーニングによる保証は明らかにしません。 リリースされたTD-MPC2チェックポイントサイズ全体では、タスクオブザーバのオペレータエラー診断が増加するにつれてエピソードリターンが減少し、報酬予測エラーは小さく、ほぼ平坦であり、タスク信号なしで訓練された自己教師付きワールドモデルは、共有タスク上のタスクアンコールモデルよりも大幅に優れた演算子を保存する。 キャプチャゲートされたマッチング・インターベンション監査は、失敗するものをローカライズする。 Cheetahでは、3つのLeWorldModelチェックポイントが現在のタスククエリをキャプチャし、事実上の介入効果をサポートする。 失敗はタスク指向の回転であり、過剰な利得であり、特徴的崩壊ではない。 5つのプレJEPA種子は、それなしではオラクル相対的な欠陥を保ち、フィンガースピン実験は、種間の不均一な重大さによる移動を超えて欠陥を拡大し、共有バンク効果の幾何は、候補および支持に依存している。 プラクティスサイドの質問もテストしています。 DreamerV3では、後部分布はサンプルではなく、現在のクエリを持ち、アンサンブル不一致はトレーニングサポートの近くでのみエラーをランク付けする。 我々は、モデルのネイティブインターフェース上で、介入の忠実さを直接、キャプチャーファーストで監査する必要があると結論付けている。

関連論文リスト

• Vision: Data-Centric Anchoring for Robust and Interpretable Agentic AI [21.406298170489507]
  我々は、堅牢性と解釈可能性は、トレーニング後のモデルから抽出するのではなく、データ環境に組み込むべきだと論じている。 私たちの中心的な貢献は、Curate、Augment、Constrain、Attributeの4段階フレームワークであるData-Centric Agentic Loopです。 このフレームワークは4つのコア障害モードをデータライフサイクルにリンクする、障害駆動型分類に基盤を置いています。
  論文  参考訳（メタデータ） (2026-09-08T03:57:54Z)
• ObserverBench: Testing Mechanistic Estimates for Intervention and Control [0.0]
  機械的解釈可能性(Mechanistic interpretability)は、活性化ステアリング、回路除去、安全監視などの介入を導くためにますます用いられる。 ObserverBenchは、内部推定器が、それが指示する介入、制御、安全タスクに適切かどうかをテストするためのベンチマークフレームワークである。 ベンチマークは、選択された動作による損失とは別途、推定精度を報告する。
  論文  参考訳（メタデータ） (2026-09-02T18:01:17Z)
• Suppression Sticks, Locality Is Fragile: A Closed-Loop Target-and-Control Audit of Task-Vector Negation in VLA Policies [33.432377306905735]
  タスクベクトル算術は、モデルを修正するためのクローズドフォームな方法を提供するが、クローズドループロボット制御において、その振る舞いの局所性は未だ不明である。 マルチタスク・ビジョン・ランゲージ・アクション(VLA: Multitask Vision-Language-action)ポリシーから,タスク・ベクターごとのタスク・ベクター・サブトラクションのターゲット・アンド・コントロール・監査を行う。
  論文  参考訳（メタデータ） (2026-08-05T10:59:53Z)
• The Knowing-Saying Gap: When Probes See Errors that Confidence Misses [20.46211358172975]
  線形プローブは、ほぼ完全精度で言語モデルの劣化コンテキストを検知するが、信頼性の高い故障予測にはならない。 マルチホップ算術連鎖全体において、汚職を検出するプローブは最終解の正しさについて非形式的であることが判明した。 リアルタイムモニタとして、プローブベースの介入は、シャープにモデル化され、エラータイプに依存します。
  論文  参考訳（メタデータ） (2026-07-21T12:13:10Z)
• A Control Theory of Predictability in Latent World Models [39.22646915328561]
  現在のプラクティスでは、トレーニングとモデル選択の目的として、ホールトアウトデータに対する単一または複数ステップのロールアウト損失である予測エラーを採用しています。 この仮定は構造上の理由から信頼できないことを示す。 プランナーはトレーニング分布についてモデルに問い合わせるのではなく、その候補となるアクションが到達し、一般にデータ多様体を残します。
  論文  参考訳（メタデータ） (2026-07-11T15:42:26Z)
• Survive or Collapse: The Asymmetric Roles of Data Gating and Reward Grounding in Self-Play RL [76.45061154544568]
  セルフプレイ強化学習は、言語モデルを独自の生成タスクで訓練し、人間ラベルなしでプロジェクタとソルバを共進化させる。 最近のシステムでは強い推理効果が報告されているが、崩壊と不安定性は広く観察され、理解されていない。 代わりに、自己プレイの安定性は、提案者生成タスクがトレーニングプールに入るかを判断するデータレベルゲートと、すでに認められたタスクに関するポリシーを更新する報酬信号の2つの異なるレバーによって管理されていると論じる。
  論文  参考訳（メタデータ） (2026-05-21T09:19:23Z)
• On the Paradoxical Interference between Instruction-Following and Task Solving [50.75960598434753]
  次の命令は、大規模言語モデル(LLM)を、タスクの実行方法に関する明示的な制約を指定することで、人間の意図と整合させることを目的としている。 我々は,LLMのタスク解決能力にパラドックス的に干渉する命令に従うという,直感に反する現象を明らかにした。 本稿では,タスク解決に追従する命令の干渉を定量化する指標として,SUSTAINSCOREを提案する。
  論文  参考訳（メタデータ） (2026-01-29T17:48:56Z)
• Reliably Detecting Model Failures in Deployment Without Labels [14.069153343960734]
  本稿では,デプロイ後劣化(PDD)モニタリングの問題点を定式化し,対処する。 本稿では,予測モデルの相違に基づく,実用的で効率的なモニタリングアルゴリズムD3Mを提案する。 標準ベンチマークと実世界の大規模内科データセットによる実証的な結果から,フレームワークの有効性が示された。
  論文  参考訳（メタデータ） (2025-06-05T13:56:18Z)
• Collaborative Value Function Estimation Under Model Mismatch: A Federated Temporal Difference Analysis [55.13545823385091]
  フェデレーション強化学習(FedRL)は、エージェント間のデータ交換を防止し、データのプライバシを維持しながら協調学習を可能にする。 現実世界のアプリケーションでは、各エージェントは若干異なる遷移ダイナミクスを経験し、固有のモデルミスマッチを引き起こす。 情報共有の適度なレベルでさえ、環境固有のエラーを著しく軽減することを示す。
  論文  参考訳（メタデータ） (2025-03-21T18:06:28Z)
• Nonparametric Identifiability of Causal Representations from Unknown Interventions [63.1354734978244]
  本研究では, 因果表現学習, 潜伏因果変数を推定するタスク, およびそれらの変数の混合から因果関係を考察する。 我々のゴールは、根底にある真理潜入者とその因果グラフの両方を、介入データから解決不可能なあいまいさの集合まで識別することである。
  論文  参考訳（メタデータ） (2023-06-01T10:51:58Z)
• Tracking the risk of a deployed model and detecting harmful distribution shifts [105.27463615756733]
  実際には、デプロイされたモデルのパフォーマンスが大幅に低下しないという、良心的なシフトを無視することは理にかなっている。 我々は,警告を発射する有効な方法は,(a)良性な警告を無視しながら有害なシフトを検知し,(b)誤報率を増大させることなく,モデル性能の連続的なモニタリングを可能にすることを論じる。
  論文  参考訳（メタデータ） (2021-10-12T17:21:41Z)
• Nested Counterfactual Identification from Arbitrary Surrogate Experiments [95.48089725859298]
  観測と実験の任意の組み合わせからネスト反事実の同定について検討した。 具体的には、任意のネストされた反事実を非ネストされたものへ写像できる反ファクト的非ネスト定理(英語版)(CUT)を証明する。
  論文  参考訳（メタデータ） (2021-07-07T12:51:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。