論文の概要: Sufficient and Necessary Causal Explanations for the Analysis of Autonomous Systems

• arxiv url: http://arxiv.org/abs/2610.29724v1
• Date: Wed, 21 Oct 2026 13:30:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-23 00:40:06.371805
• Title: Sufficient and Necessary Causal Explanations for the Analysis of Autonomous Systems
• Title（参考訳）: 自律システム解析のための十分かつ必要な因果説明法
• Abstract要約: 我々は、障害解析の目的である再生と回避の2つを区別する。 本稿では,システム解析に必要な説明概念を,障害回避のための正しい定式化として定式化する。 必要な説明を生成するための効率的な近似アルゴリズムを提案する。
• 参考スコア（独自算出の注目度）: 15.582589615073909
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Understanding failures of autonomous systems is challenging, particularly when their behavior depends on black-box components such as neural networks. In this work, we make a distinction between two objectives of failure analysis: reproduction, which seeks to identify conditions sufficient to reproduce an observed failure, and avoidance, which seeks to identify the changes required to prevent it. Previous work on causal explanations of system failures is based on the concept of sufficient explanations and naturally supports reproduction. Nevertheless, we observe that it does not address the problem of avoiding the failure. In this paper, we introduce and formalize the concept of necessary explanations for system analysis as the correct formalism for failure avoidance. We place necessary explanations in the framework of actual causality and show that, together with sufficient explanations, they provide a unified causal framework for addressing both objectives of failure analysis. We present an efficient approximation algorithm for generating necessary explanations based on the notion of causal responsibility. We evaluate the efficiency of our approach across multiple environments. We demonstrate the practical utility of necessary explanations for failure avoidance through counterfactual generation and show that it outperforms existing methods.
• Abstract（参考訳）: 自律システムの障害を理解することは、特にニューラルネットワークのようなブラックボックスコンポーネントに依存する場合、難しい。 本研究では,障害解析の目的として,観測された障害を再現するのに十分な条件を同定する再生と,それを防ぐために必要な変更を識別する回避の2つを区別する。 システム障害の因果的説明に関するこれまでの研究は、十分な説明という概念に基づいており、自然に複製をサポートする。 それでも我々は、失敗を避けるという問題に対処していないことを観察している。 本稿では,システム解析に必要な説明概念を,障害回避のための正しい定式化として導入し,形式化する。 我々は、実際の因果関係の枠組みで必要な説明を行い、十分な説明とともに、障害解析の両方の目的に対処するための統一された因果関係の枠組みを提供することを示した。 本稿では、因果責任の概念に基づいて必要な説明を生成するための効率的な近似アルゴリズムを提案する。 複数の環境にまたがるアプローチの効率を評価する。 フェールファクトジェネレーションによる障害回避に必要な説明の実用性を実証し,既存の手法よりも優れていることを示す。

関連論文リスト

• Explaining Failures of Cyber-Physical Systems with Actual Causality [14.524535936708356]
  本稿では,CPS故障説明に実際の因果関係の枠組みを活用するという新しい概念を紹介する。 CPSドメインにおける正しい説明の導出を可能にするために必要なガイダンスを提供する。 このアプローチは、ニューラルネットワーク制御された自律走行車のコンテキストで実証され、評価される。
  論文  参考訳（メタデータ） (2026-06-23T13:13:06Z)
• Causal Scaffolding for Physical Reasoning: A Benchmark for Causally-Informed Physical World Understanding in VLMs [49.55219052565761]
  CausalPhysは、知覚、予測、介入、目標指向という4つの領域にまたがる、ビデオと画像に基づく3000以上の慎重にキュレートされた質問のベンチマークである。 各質問は、専門家がアノテートした因果グラフがオブジェクト・属性・イベントの依存関係をキャプチャし、因果理解の解釈可能かつきめ細かい評価を可能にする。 これに基づいて、モデルの連鎖推論が正しい因果関係とどの程度うまく一致しているかを定量的に測定する因果グラフ基底計量を定式化する。 本稿では,CRFT(Causal Rationale-informed Fine-Tuning)を提案する。
  論文  参考訳（メタデータ） (2026-06-04T10:07:05Z)
• Pause or Fabricate? Training Language Models for Grounded Reasoning [50.104657152302956]
  不完全情報に基づくグラウンドド推論のために,対話型強化学習(GRIL)によるグラウンドド推論を提案する。 GRILは推論プロセスを2つの段階に分解する: 明確化と一時停止、利用可能な情報が十分かどうかを識別する。 GSM8K-InsufficientおよびMetaMATH-Insufficientの実験では、GRILは前提検出を大幅に改善し(最大45%)、平均応答長を20%以上削減しながらタスク成功率が30%向上した。
  論文  参考訳（メタデータ） (2026-04-21T16:45:29Z)
• Analyzing Reasoning Consistency in Large Multimodal Models under Cross-Modal Conflicts [74.47786985522762]
  テキスト慣性(textual inertia)と呼ばれる重要な障害モードを特定し、矛盾する視覚的証拠を無視しながら、モデルは間違ったテキストに盲目的に固執する傾向がある。 本稿では,多種多様なLMMの推論連鎖に摂動を構造的に注入するLogicGraph摂動プロトコルを提案する。 その結果,10%未満の症例で自己修正が成功し,主に視覚的テキスト誤りの伝播に寄与することが判明した。
  論文  参考訳（メタデータ） (2026-01-07T16:39:34Z)
• Causality can systematically address the monsters under the bench(marks) [64.36592889550431]
  ベンチマークはさまざまなバイアス、アーティファクト、リークに悩まされている。 モデルは、調査の不十分な障害モードのため、信頼できない振る舞いをする可能性がある。 因果関係はこれらの課題を体系的に解決するための 理想的な枠組みを提供します
  論文  参考訳（メタデータ） (2025-02-07T17:01:37Z)
• Counterfactual-based Root Cause Analysis for Dynamical Systems [0.33748750222488655]
  本稿では,残留ニューラルネットワークを用いた根本原因同定手法を提案する。 構造方程式と外的影響に介入した場合に、より多くの根本原因が同定されることを示す。 本稿では,提案手法が実世界の河川データセットだけでなく,ベンチマーク・ダイナミック・システムにも有効であることを示す。
  論文  参考訳（メタデータ） (2024-06-12T11:38:13Z)
• Towards Trustworthy Explanation: On Causal Rationalization [9.48539398357156]
  本研究では,2つの因果デシラタに基づく合理化モデルを提案する。 提案した因果合理化の優れた性能は,実世界のレビューや医療データセットで実証されている。
  論文  参考訳（メタデータ） (2023-06-25T03:34:06Z)
• Logical Satisfiability of Counterfactuals for Faithful Explanations in NLI [60.142926537264714]
  本稿では, 忠実度スルー・カウンタファクトの方法論について紹介する。 これは、説明に表される論理述語に基づいて、反実仮説を生成する。 そして、そのモデルが表現された論理と反ファクトの予測が一致しているかどうかを評価する。
  論文  参考訳（メタデータ） (2022-05-25T03:40:59Z)
• Aligning Faithful Interpretations with their Social Attribution [58.13152510843004]
  モデル解釈が忠実であることの要件はあいまいで不完全であることに気付く。 因果的帰属(因果的帰属)と解釈(社会的帰属)に対する人間の行動の帰属(因果的帰属)の相違が問題であると認識する。
  論文  参考訳（メタデータ） (2020-06-01T16:45:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。