論文の概要: RolloutFaith: Auditing Persistent Internal Interventions in Visual World Model

• arxiv url: http://arxiv.org/abs/2609.36843v1
• Date: Tue, 29 Sep 2026 06:54:31 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:47.24831
• Title: RolloutFaith: Auditing Persistent Internal Interventions in Visual World Model
• Title（参考訳）: RolloutFaith: ビジュアルワールドモデルにおける永続的な内部介入の検証
• Abstract要約: 解釈可能性法は、モデルの現在の計算を明らかにしたり、修正したりするように設計されている。 世界モデルは、それらの予測が後の予測への入力になるため、編集が停止した後、有用な内部修正が生き残らなければならない。 このフレームワークは、介入時の予測と、固定されたイベント、アクション、ノイズ、情報予算の下での後の自律予測の両方において意味的改善を測定する。
• 参考スコア（独自算出の注目度）: 11.942252550966641
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Interpretability methods such as probes, activation patches and learned editors are designed to reveal or modify a model's current computation. World models pose a harder requirement: because their predictions become inputs to later predictions, a useful internal correction must survive after editing stops. We therefore propose RolloutFaith, a framework that measures semantic improvement both in the prediction produced at intervention time and over later autonomous predictions under fixed events, actions, noise, and information budgets. We evaluate ten fitted editors on three world models across Crafter, Cartpole, and CoinRun. We also use Reference Activation Patching, which replaces a model activation with the paired activation computed from the real observation, to measure the correction available at the chosen interface. This reference intervention improves later predictions in all nine model and task combinations and outperforms the best fitted editor in eight, yet its sustained gain decreases with horizon in five of nine combinations. Current fitted editors recover only limited and inconsistent long term effects. By restoring individual state components to their untouched values, we find that persistent effects travel through the newest generated frame in DIAMOND, recurrent memory in DreamerV3, and both in STORM. These findings suggest that training should reward future consequences. To test this hypothesis, we propose Delayed LoReFT, which optimizes the same low rank intervention through four frozen future transitions and improves sustained intervention effects to some extent.
• Abstract（参考訳）: プローブ、アクティベーションパッチ、学習したエディタなどの解釈可能性メソッドは、モデルの現在の計算を明らかにしたり修正したりするように設計されている。 世界モデルは、それらの予測が後の予測への入力になるため、編集が停止した後、有用な内部修正が生き残らなければならない。 そこで我々は、介入時の予測と、固定されたイベント、アクション、ノイズ、情報予算の下での後の自律予測の両方において意味的改善を測定するフレームワークであるRolloutFaithを提案する。 Crafter、Cartpole、CoinRunの3つの世界モデルで10種類のエディターを評価した。 また、モデルアクティベーションを実際の観測から計算したペアのアクティベーションに置き換えて、選択したインタフェースで利用可能な補正を計測する参照アクティベーション・パッチング(Reference Activation Patching)も使用しています。 この参照介入は、後の9つのモデルとタスクの組み合わせの予測を改善し、最も適したエディタを8つで上回るが、持続的なゲインは、9つの組み合わせのうち5つで水平方向に減少する。 現行の編集装置は、限定的かつ一貫性のない長期的な効果のみを回復する。 個々の状態コンポーネントを非タッチ値に復元することで、永続的なエフェクトがDIAMONDの最新の生成されたフレーム、DreamerV3のリカレントメモリ、STORMの両方を通過することが分かる。 これらの結果から,今後の成果に報いることが示唆された。 この仮説を検証するために,4つの凍結した将来の遷移を通じて同一の低位介入を最適化し,ある程度の持続的介入効果を改善するDelayed LoReFTを提案する。

関連論文リスト

• Recommendation World Models for Future-State Control [53.191633845200876]
  我々は、訓練されたランク付け者が将来の結果についての意思決定を支援する方法について研究する。 UA-TWM(UA-TWM)は,近傍のスレート動作を構成するユーティリティアンコールなワールドモデルインタフェースである。 本研究は,MovieLens-25MとKuaiRand-Pureにおける12の逐次バックボーン間の移動と,KuaiSimにおけるターゲット指向インタラクションの繰り返しを評価する。
  論文  参考訳（メタデータ） (2026-09-25T02:37:48Z)
• World Models for Embodied Intelligence: From Plausible to Controllable to Actionable [100.13060753774657]
  世界モデルは、隠れた状態を維持し、結果を予測し、介入を比較し、実行が期待から外れたときに適応することによって、インテリジェンスにおける知覚と意思決定を結びつける。 これは、どの予測能力が振る舞いを改善するかという、中心的な疑問を提起する。 可塑性モデルは、タスク関連時間的・幾何学的・物理的構造を保存し、制御可能なモデルは、介入がどのように構造を変えるかを予測し、アクション可能なモデルは、予測を計画、行動、学習、評価、検証、回復、データ選択において測定可能な利得に変換する。
  論文  参考訳（メタデータ） (2026-09-15T06:22:42Z)
• Do Robotic World Models Really Follow Actions? Diagnosing and Aligning Action-Conditioned Generation for Policy Learning [53.77164209208635]
  本稿では,視覚的整合性と軌跡アライメントを用いて,より広い行動分布を探索するWorldEchoを紹介する。 本稿では,3つの軸に沿った行動(分布カバレッジ,表現的接地,介入効果のアライメント)を強化するWorldSyncを提案する。 RoboTwinベンチマークと実ロボットタスクの実験は、WorldSyncがWorldEchoメトリクスを改善し、反復的なポリシー改善のためのより信頼性の高いシミュレータとして機能していることを示している。
  論文  参考訳（メタデータ） (2026-08-25T17:59:49Z)
• Feedback World Model Enables Precise Guidance of Diffusion Policy [36.965417653906535]
  本稿では,推定時刻における予測と観測のループを閉じる新たなパラダイムであるフィードバック・ワールド・モデルを提案する。 本手法は,分布シフト時の予測精度とポリシー性能を大幅に向上することを示す。 特に、世界モデルの予測誤差を最大76.4%削減し、アウト・オブ・ディストリビューション(OOD)の成功率を30%改善する。
  論文  参考訳（メタデータ） (2026-05-15T07:52:13Z)
• IMPACT-Scribe: Interactive Temporal Action Segmentation with Boundary Scribbles and Query Planning [75.72434806468884]
  IMPACT-Scribeは高密度ラベリングのための修正駆動のフレームワークである。 不確実性を認識した境界管理、局所的な提案モデリング、コストを意識したクエリ計画、構造化された伝搬、修正駆動適応を組み合わせる。 実験と人間の研究により、このクローズドループの設計は、努力ごとのラベル付け品質を改善し、境界精度を高め、時間とともにより良い人間機械の相互作用を促進することが示されている。
  論文  参考訳（メタデータ） (2026-05-03T01:45:58Z)
• STABLE: Gated Continual Learning for Large Language Models [0.0]
  STABLEは、シーケンシャルな更新時に忘れることを制限する、ゲート付き連続的なセルフ編集フレームワークである。 各候補編集は3つの指標のうちの1つを用いて安定性の予算に対して評価される。 Qwen-2.5-7Bモデルの実験では、ゲーティングは適応性を保ちながら忘れを効果的に軽減することを示した。
  論文  参考訳（メタデータ） (2025-10-17T16:14:05Z)
• Generative Regression Based Watch Time Prediction for Short-Video Recommendation [36.95095097454143]
  短いビデオレコメンデーションシステムでは、時計の時間予測が重要なタスクとして現れている。 最近の研究は、連続時計時間推定を正規回帰タスクに変換することによって、これらの問題に対処しようとしている。 本稿では,WTPをシーケンス生成タスクとして再構成する新しい生成回帰(GR)フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-12-28T16:48:55Z)
• Memory-Based Model Editing at Scale [102.28475739907498]
  既存のモデルエディタは、編集対象のスコープを正確にモデル化するのに苦労する。 SERAC(Retrieval-Augmented Counterfactal Model)を用いた半パラメトリック編集を提案する。 SERACは、編集を明示的なメモリに格納し、必要に応じてベースモデルの予測を変更できるように、それらを推論することを学ぶ。
  論文  参考訳（メタデータ） (2022-06-13T23:40:34Z)
• Avoiding Inference Heuristics in Few-shot Prompt-based Finetuning [57.4036085386653]
  文ペア分類タスクのプロンプトベースモデルでは,語彙重なりに基づく推論の一般的な落とし穴が依然として残っていることを示す。 そこで,プレトレーニングウェイトを保存する正規化を加えることは,この破壊的な微調整の傾向を緩和するのに有効であることを示す。
  論文  参考訳（メタデータ） (2021-09-09T10:10:29Z)
• Model updating after interventions paradoxically introduces bias [2.089458396525051]
  最近の議論は、二進的な結果に対する予測スコアの更新における潜在的な問題を浮き彫りにした。 この設定では、既存のスコアは、元のスコアが置き換えられたときに誤校正につながる追加の因果経路を誘導する。 本稿では,この問題を記述・解決するための一般的な因果的枠組みを提案し,部分的に観察されたマルコフ決定過程として等価な定式化を実証する。
  論文  参考訳（メタデータ） (2020-10-22T08:43:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。