論文の概要: From Concepts to Actual Causes: Toward Closing the Concept-Malfunction Gap in Robot Foundation Models

• arxiv url: http://arxiv.org/abs/2611.00155v1
• Date: Fri, 30 Oct 2026 07:57:06 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-11-03 19:12:32.772442
• Title: From Concepts to Actual Causes: Toward Closing the Concept-Malfunction Gap in Robot Foundation Models
• Title（参考訳）: 概念から現実的原因へ:ロボット基礎モデルにおける概念・機能ギャップのクローン化に向けて
• Abstract要約: ロボットモデルのインシデント後の分析は、特定の因果問題を引き起こしている。 しかし、機械的解釈可能性(MI)は、政策が学んだ概念を復号することで一般的な因果関係の主張を確立する。 本研究は,実際の因果関係の枠組みにおいて,断層分離を仮定することで,この概念-関数ギャップを解析する。
• 参考スコア（独自算出の注目度）: 0.9475982252982437
• License:
• Abstract: Post-incident analysis of a robot foundation model poses a singular causal question: which internal components caused this failure, and to what degree? Mechanistic interpretability (MI), however, establishes general causal claims by decoding the concepts a policy has learned, yet knowing which concepts are encoded is insufficient for identifying the actual cause of a specific incident. In this position paper, we analyze this concept-malfunction gap by posing fault isolation in the framework of actual causality. Specifically, we formalize a fault-isolation query as a tuple of intervened internal components, counterfactual values, contingencies, and read-outs, and lay out conditions for it to be well-specified. Through this lens, we identify shortcomings of current MI approaches: they assume fixed contingencies and read out only immediate effects, letting backups obscure actual causes. We demonstrate on a toy example that these shortcomings can lead to conflicting verdicts. Lastly, based on the well-specification conditions, we outline four open research tasks toward closing the gap.
• Abstract（参考訳）: ロボット基礎モデルの事故後の分析は、特定の因果的疑問を生じさせる。 しかし、機械的解釈可能性(MI)は、政策が学んだ概念を復号化することで一般的な因果関係の主張を確立するが、どの概念がコード化されているかは特定の事象の実際の原因を特定するには不十分である。 本稿では, 実際の因果関係の枠組みにおいて, 故障分離を仮定して, この概念-機能ギャップを解析する。 具体的には、干渉した内部成分、反ファクト値、同時実行、読み出しのタプルとしてフォールト・アイソレーション・クエリを形式化し、それを適切に特定するための条件を定式化する。 このレンズを通して、現在のMIアプローチの欠点を識別する: 彼らは固定された一致を仮定し、即時効果のみを読み出し、バックアップが実際の原因を曖昧にする。 これらの欠点が矛盾する評決につながることを、おもちゃの例で示します。 最後に, 良好な特定条件に基づき, ギャップを埋めるための4つのオープンな研究課題を概説する。

関連論文リスト

• Sufficient and Necessary Causal Explanations for the Analysis of Autonomous Systems [15.582589615073909]
  我々は、障害解析の目的である再生と回避の2つを区別する。 本稿では,システム解析に必要な説明概念を,障害回避のための正しい定式化として定式化する。 必要な説明を生成するための効率的な近似アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2026-10-21T13:30:52Z)
• Causal Scaffolding for Physical Reasoning: A Benchmark for Causally-Informed Physical World Understanding in VLMs [49.55219052565761]
  CausalPhysは、知覚、予測、介入、目標指向という4つの領域にまたがる、ビデオと画像に基づく3000以上の慎重にキュレートされた質問のベンチマークである。 各質問は、専門家がアノテートした因果グラフがオブジェクト・属性・イベントの依存関係をキャプチャし、因果理解の解釈可能かつきめ細かい評価を可能にする。 これに基づいて、モデルの連鎖推論が正しい因果関係とどの程度うまく一致しているかを定量的に測定する因果グラフ基底計量を定式化する。 本稿では,CRFT(Causal Rationale-informed Fine-Tuning)を提案する。
  論文  参考訳（メタデータ） (2026-06-04T10:07:05Z)
• CausalFlip: A Benchmark for LLM Causal Judgment Beyond Semantic Matching [50.65932158912512]
  そこで我々は,新しい大言語モデルの開発を促進するために,因果推論ベンチマークCausalFlipを提案する。 CaulFlipは、イベントトリプル上に構築された因果判断の質問で構成されており、共同創設者、チェーン、コライダーの関係が異なっている。 回答のみのトレーニング,明示的なチェーン・オブ・ソート監視,そして内在型因果推論アプローチなどを含む,複数の訓練パラダイムによるLCMの評価を行った。
  論文  参考訳（メタデータ） (2026-02-23T18:06:15Z)
• Towards Error-Centric Intelligence II: Energy-Structured Causal Models [0.0]
  インテリジェンスは説明を構築し、洗練する能力である。 本稿では、単に予測するだけでなく、理解しようとするシステムにおける因果推論のための形式言語を提供する。
  論文  参考訳（メタデータ） (2025-10-24T22:19:17Z)
• Generalization or Hallucination? Understanding Out-of-Context Reasoning in Transformers [80.70134000599391]
  我々は、両方の行動は、アウト・オブ・コンテクスト推論(OCR)として知られる単一のメカニズムに由来すると論じる。 OCRは、関連する概念が因果関係であるかによって、一般化と幻覚の両方を駆動する。 我々の研究は、OCR現象を理解するための理論的基盤を提供し、知識注入から望ましくない行動を分析し緩和するための新しいレンズを提供する。
  論文  参考訳（メタデータ） (2025-06-12T16:50:45Z)
• Failure Modes of LLMs for Causal Reasoning on Narratives [51.19592551510628]
  世界の知識と論理的推論の相互作用について検討する。 最先端の大規模言語モデル(LLM)は、しばしば表面的な一般化に依存している。 タスクの単純な再構成により、より堅牢な推論行動が引き起こされることを示す。
  論文  参考訳（メタデータ） (2024-10-31T12:48:58Z)
• Industrial-Grade Time-Dependent Counterfactual Root Cause Analysis through the Unanticipated Point of Incipient Failure: a Proof of Concept [38.342188825927686]
  本稿では,産業時系列環境における根本原因解析診断手法の開発について述べる。 これは、異常な振る舞いが最初に観察された時点である突発的障害点(Point of Incipient Failure)に注意を向ける。
  論文  参考訳（メタデータ） (2024-07-10T08:02:03Z)
• Towards CausalGPT: A Multi-Agent Approach for Faithful Knowledge Reasoning via Promoting Causal Consistency in LLMs [55.66353783572259]
  Causal-Consistency Chain-of-Thoughtは、基礎モデルの忠実さと因果性を強化するために、マルチエージェントコラボレーションを活用する。 我々のフレームワークは、広範囲かつ包括的な評価を通じて、最先端の手法よりも大きな優位性を示す。
  論文  参考訳（メタデータ） (2023-08-23T04:59:21Z)
• Phenomenological Causality [14.817342045377842]
  本稿では,基本的な概念が基本的な行動の集合である「現象因果性」の概念を提案する。 検討中のシステムが基本的な動作を制御する他の変数と相互作用する場合、それは因果マルコフ条件と一致していると論じる。
  論文  参考訳（メタデータ） (2022-11-15T13:05:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。