論文の概要: Explaining Failures of Cyber-Physical Systems with Actual Causality

• arxiv url: http://arxiv.org/abs/2606.24546v1
• Date: Tue, 23 Jun 2026 13:13:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-24 22:16:48.964199
• Title: Explaining Failures of Cyber-Physical Systems with Actual Causality
• Title（参考訳）: 現実的因果性を有するサイバー物理システムの故障について
• Authors: Khen Elimelech, Tom Yaacov, David A. Kelly, Hana Chockler, Moshe Y. Vardi,
• Abstract要約: 本稿では,CPS故障説明に実際の因果関係の枠組みを活用するという新しい概念を紹介する。 CPSドメインにおける正しい説明の導出を可能にするために必要なガイダンスを提供する。 このアプローチは、ニューラルネットワーク制御された自律走行車のコンテキストで実証され、評価される。
• 参考スコア（独自算出の注目度）: 14.524535936708356
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Modern autonomous Cyber-Physical Systems (CPSs), such as self-driving cars, face increasingly complex demands, and yet are expected to act reliably. The black-box nature often characterizing such systems, especially those relying on neural components, makes it impossible to fully verify the system behavior prior to deployment. Unfortunately, unexpected failures-when the system does not comply with its specification-are inevitable and may have catastrophic implications. To improve trust in the system and facilitate future mitigation after a failure occurs, it is important to try to derive an explanation for the unexpected system behavior. This paper introduces the novel concept of leveraging the framework of actual causality for CPS failure explanation. Up until now, this framework was only used to derive explanations in the context of simple systems, such as image classifiers. This paper addresses the theoretical gaps and provides the guidance needed to allow for correct explanation derivation in the CPS domain. Beyond the theoretical contribution, the paper presents two novel, practical, system-agnostic explanation derivation algorithms, allowing to prioritize either explanation optimality or derivation efficiency. The approach is demonstrated and evaluated in the context of a neural-network-controlled autonomous car, designed to avoid collisions.
• Abstract（参考訳）: 自動運転車のような現代の自律型サイバー物理システム(CPS)は、ますます複雑な要求に直面している。 このようなシステムを特徴付けるブラックボックスの性質、特にニューラルコンポーネントに依存しているものは、デプロイ前にシステム動作を完全に検証することは不可能である。 残念なことに、システムが仕様に従わなければ、予期せぬ失敗は避けられないものであり、破滅的な意味を持つ可能性がある。 システムへの信頼を高め,障害発生後の今後の緩和を促進するためには,予期せぬシステム行動の説明を導出することが重要である。 本稿では,CPS故障説明に実際の因果関係の枠組みを活用するという新しい概念を紹介する。 これまでのこのフレームワークは、画像分類器のような単純なシステムのコンテキストにおける説明の導出にしか使われていなかった。 本稿では,理論的ギャップに対処し,CPS領域における正しい説明導出を可能にするために必要なガイダンスを提供する。 理論的貢献の他に、本論文では、2つの新しい、実用的で、システムに依存しない説明導出アルゴリズムを提示し、説明最適性または導出効率を優先する。 このアプローチは、衝突を避けるために設計された、ニューラルネットワーク制御された自律走行車のコンテキストで実証され、評価される。

関連論文リスト

• Beyond Post-hoc Explanation: Toward Glassbox AI via Probabilistic Mediation [0.7614628596146601]
  そもそも、この問題は説明の欠如ではなく、構造化推論の欠如であると主張する。 本稿では、ベイズネットワークが生成モデルのための透明でアンテホックな媒介層として機能するGlassbox Frameworkについて論じる。
  論文  参考訳（メタデータ） (2026-06-05T10:08:56Z)
• Provably Secure Agent Guardrail [89.79561918065122]
  既存の防衛アーキテクチャは経験的セマンティックガードレールと確率論的大モデル調整器に依存している。 本稿では,論理的推論の基本的制約に基づくエージェントのための新しいセキュリティパラダイムを提案する。
  論文  参考訳（メタデータ） (2026-05-28T02:12:41Z)
• HCP-DCNet: A Hierarchical Causal Primitive Dynamic Composition Network for Self-Improving Causal Understanding [3.2452107817263003]
  本稿では,emphHierarchical Causal Primitive Dynamic Composition Network (HCP-DCNet)を紹介する。 離散的な記号因果推論で連続的な物理力学を橋渡しする。 HCP-DCNetは因果発見, 反事実推論, 構成一般化において, 最先端のベースラインを著しく上回っている。
  論文  参考訳（メタデータ） (2026-03-12T09:11:31Z)
• Prompt-Counterfactual Explanations for Generative AI System Behavior [4.163855981741709]
  意思決定者は、生成AIシステムが特定の出力特性を示す原因を理解する必要がある。 この問題を調べるために、説明可能なAI文献から共通のテクニック、すなわち事実的説明を適用する。 本稿では,非決定論的,生成的AIシステムに反実的説明を適用するフレキシブルなフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-01-06T16:33:19Z)
• Systemic Constraints of Undecidability [0.0]
  本稿では,システムの構造的特性としての計算不能を緩和するシステム的不決定性の理論を提案する。 決定不能なシステムの計算に機能的に関与するサブシステムは、その決定不能性を継承する。 我々のフレームワークは、オラクルの模倣を解除し、アーキテクチャの革新によって計算限界を回避できるという見解に挑戦する。
  論文  参考訳（メタデータ） (2025-06-21T22:56:26Z)
• Meta-Representational Predictive Coding: Biomimetic Self-Supervised Learning [51.22185316175418]
  メタ表現予測符号化(MPC)と呼ばれる新しい予測符号化方式を提案する。 MPCは、並列ストリームにまたがる感覚入力の表現を予測することを学ぶことによって、感覚入力の生成モデルを学ぶ必要性を助長する。
  論文  参考訳（メタデータ） (2025-03-22T22:13:14Z)
• Disentangling the Causes of Plasticity Loss in Neural Networks [55.23250269007988]
  可塑性の喪失は複数の独立したメカニズムに分解できることを示す。 種々の非定常学習タスクにおいて, 層正規化と重み劣化の組み合わせは, 可塑性維持に極めて有効であることを示す。
  論文  参考訳（メタデータ） (2024-02-29T00:02:33Z)
• Interpretable Self-Aware Neural Networks for Robust Trajectory Prediction [50.79827516897913]
  本稿では,意味概念間で不確実性を分散する軌道予測のための解釈可能なパラダイムを提案する。 実世界の自動運転データに対する我々のアプローチを検証し、最先端のベースラインよりも優れた性能を示す。
  論文  参考訳（メタデータ） (2022-11-16T06:28:20Z)
• Learning Physical Concepts in Cyber-Physical Systems: A Case Study [72.74318982275052]
  本稿では,時系列データにおける物理概念の学習方法に関する研究の現状について概説する。 また,3タンクシステムの例を用いて,最先端技術から最も重要な手法を分析した。
  論文  参考訳（メタデータ） (2021-11-28T14:24:52Z)
• The Causal Neural Connection: Expressiveness, Learnability, and Inference [125.57815987218756]
  構造因果モデル (Structuor causal model, SCM) と呼ばれるオブジェクトは、調査中のシステムのランダムな変動のメカニズムと源の集合を表す。 本稿では, 因果的階層定理 (Thm. 1, Bareinboim et al., 2020) がまだニューラルモデルに対して成り立っていることを示す。 我々はニューラル因果モデル(NCM)と呼ばれる特殊なタイプのSCMを導入し、因果推論に必要な構造的制約をエンコードする新しいタイプの帰納バイアスを定式化する。
  論文  参考訳（メタデータ） (2021-07-02T01:55:18Z)
• Convex optimization for actionable \& plausible counterfactual explanations [9.104557591459283]
  透明性は、現実世界でデプロイされる機械学習ベースの意思決定システムにとって不可欠な要件です。 反事実的説明は、意思決定システムの特に直感的な説明の顕著な例である。 本研究は, 動作可能性と信頼性を確保するメカニズムにより, 反事実的説明を計算するための凸モデリングの先行研究を強化する。
  論文  参考訳（メタデータ） (2021-05-17T06:33:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。