論文の概要: NeSy-CSA: A Neuro-Symbolic Framework for Open-Ended Critical Scenario Attribution
- arxiv url: http://arxiv.org/abs/2607.03847v1
- Date: Sat, 04 Jul 2026 12:31:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-07 22:26:29.736681
- Title: NeSy-CSA: A Neuro-Symbolic Framework for Open-Ended Critical Scenario Attribution
- Title（参考訳）: NeSy-CSA : オープンエンドクリティカルシナリオ属性のためのニューロシンボリックフレームワーク
- Abstract要約: NeSy-CSAは、オープンエンドクリティカルなシナリオの帰属を構造化され、追跡可能な推論に変換する、ニューロシンボリックなフレームワークである。
NeSy-CSA は LLM ベースのベースラインよりも 18.32% と 13.67% の2つの介入に基づく帰属効果の尺度を改善している。
- 参考スコア（独自算出の注目度）: 9.353927075679382
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Understanding why discovered scenarios become critical in scenario-based testing is essential for effectively leveraging them in decision-making systems. Reasoning about such criticality can be formulated as an attribution problem. However, across different decision-making tasks, the causes of criticality may involve diverse state variables, interaction patterns, and failure mechanisms, making attribution an inherently open-ended problem beyond predefined explanation spaces. Existing attribution methods still struggle to balance open-ended reasoning flexibility with the interpretability and traceability required for critical scenario reasoning. To address this limitation, we propose NeSy-CSA, a neuro-symbolic framework that transforms open-ended critical scenario attribution from unconstrained explanation generation into structured and traceable reasoning. NeSy-CSA narrows the attribution space by selecting relevant factors, makes the reasoning process traceable through a dependency-aware evidence graph, and executes symbolic reasoning procedures derived from atomic operations, coordinated with evidence-constrained neural inference to support flexible open-ended attribution. We further introduce a process-level and result-level assessment module to evaluate the structural validity of the attribution process and the behavioral effectiveness of the attribution results under controlled interventions. Experiments across four decision-making environments show that NeSy-CSA improves two intervention-based measures of attribution effectiveness by 18.32% and 13.67% over LLM-based baselines. These results demonstrate its potential to transform discovered critical scenarios into reusable knowledge for subsequent testing and safety analysis.
- Abstract（参考訳）: シナリオベースのテストで発見されたシナリオが重要になる理由を理解することは、意思決定システムでそれらを効果的に活用するために不可欠です。
そのような臨界性に関する推論は帰属問題として定式化することができる。
しかし、様々な意思決定タスクにおいて、臨界の原因には多様な状態変数、相互作用パターン、障害機構が含まれており、属性は事前に定義された説明空間を超えた本質的にオープンな問題である。
既存の帰属法は、重要なシナリオ推論に必要な解釈性とトレーサビリティと、オープンエンド推論の柔軟性のバランスを取るのに依然として苦労している。
この制限に対処するため,ニューロシンボリック・フレームワークであるNeSy-CSAを提案する。
NeSy-CSAは、関連する因子を選択して帰属空間を狭め、依存を意識したエビデンスグラフを通じて推論プロセスをトレース可能にし、原子操作から導かれるシンボリック推論手順を実行し、エビデンスに制約されたニューラル推論と協調して柔軟なオープンエンド帰属をサポートする。
さらに,制御介入による帰属過程の構造的妥当性と帰属結果の行動的効果を評価するためのプロセスレベルおよび結果レベル評価モジュールを導入する。
4つの意思決定環境での実験では、NeSy-CSAは2つの介入に基づく帰属効果の尺度をLLMベースの基準よりも18.32%、13.67%改善している。
これらの結果は、発見された重要なシナリオを、その後のテストと安全性分析のための再利用可能な知識に変換する可能性を示している。
関連論文リスト
- Mechanistic Interpretability of LLM Jailbreaks via Internal Attribution Graphs [0.8658568246382029]
大きな言語モデル(LLM)は優れた能力を示すが、敵のプロンプトやジェイルブレイク攻撃に対して非常に脆弱である。
既存のアプローチは主にインプット・アウトプット・ビヘイビアや属性・メソッドを通じてこれらの障害を分析する。
ペア化された内部計算グラフを用いて脆弱性を診断する機構的フレームワークを提案する。
論文 参考訳（メタデータ） (2026-07-08T20:31:06Z) - Position: Anthropomorphic Misalignment Research Needs Stronger Evidence [52.76826423649968]
概念的曖昧さ,非ロバストデータセット,実験設計,不十分な因果的介入が,モデル行動の過度な解釈につながることを示す。
本研究の目的は,AMRの方法論的厳密性向上に寄与する明らかな考察のガイダンスを提供することである。
論文 参考訳（メタデータ） (2026-05-29T16:38:53Z) - Stabilising Explainability Fragility in Cybersecurity AI: The Impact and Mitigation of Multicollinearity in Public Benchmark Datasets [1.1172382217477128]
多重線型性は帰属分散を膨らませるという公式な定理を導入する。
線形、ツリーベース、カーネル、ニューラルの4つのモデルが、フルおよびプルーニングされた機能セットで評価されている。
本稿では,説明可能性の脆弱性スコア(Explainability Fragility Score)の新たな指標と,拡張複雑性を緩和する2つの新しい手法を提案する。
論文 参考訳（メタデータ） (2026-05-21T14:20:33Z) - Embodied Interpretability: Linking Causal Understanding to Generalization in Vision-Language-Action Models [2.26899556936815]
視覚領域の行動予測に対する因果的影響を推定するためのインターベンショナル意義スコア(Interventional Significance Score, ISS)を導入する。
ISSは既存の解釈可能性法よりも忠実な説明をしている。
これらの結果から, 介入帰属は, 実施方針における因果的不一致を識別するための簡易な診断手法である可能性が示唆された。
論文 参考訳（メタデータ） (2026-05-01T01:00:00Z) - TRUE: A Trustworthy Unified Explanation Framework for Large Language Model Reasoning [0.2538209532048867]
大規模言語モデル(LLM)は複雑な推論タスクにおいて強力な能力を示してきたが、その意思決定プロセスは解釈が難しいままである。
本稿では,実行可能推論検証,実現可能な領域指向非巡回グラフ(DAG)モデリング,因果故障モード解析を統合したTrustworthy Unified Explanation Framework(TRUE)を提案する。
論文 参考訳（メタデータ） (2026-02-21T17:00:54Z) - SoK: a Comprehensive Causality Analysis Framework for Large Language Model Security [9.26421208894097]
大きな言語モデル(LLM)は優れた能力を示すが、ジェイルブレイクのような敵の操作には弱いままである。
LLMにおけるすべてのレベルの因果関係調査を支援する統一因果関係解析フレームワークを導入する。
我々は、複数のオープンウェイトモデルと、ジェイルブレイクを含む安全クリティカルなベンチマークに関するフレームワークを実証的に評価する。
論文 参考訳（メタデータ） (2025-12-04T14:25:15Z) - Data Fusion for Partial Identification of Causal Effects [62.56890808004615]
本稿では,研究者が重要な疑問に答えられるような,新しい部分的識別フレームワークを提案する。
因果効果は肯定的か否定的か?
本研究の枠組みをSTARプロジェクトに適用し,第3級の標準試験性能に対する教室規模の影響について検討する。
論文 参考訳（メタデータ） (2025-05-30T07:13:01Z) - An Identifiable Cost-Aware Causal Decision-Making Framework Using Counterfactual Reasoning [18.324601057882386]
そこで本研究では,最小コスト因果決定(MiCCD)フレームワークを提案する。
混合異常データの存在を識別する反ファクト的推論プロセスに重点を置いている。
MiCCDは、F1スコア、コスト効率、ランキング品質(nDCG@k値)など、従来の手法よりも優れています。
論文 参考訳（メタデータ） (2025-05-13T08:41:45Z) - On the Identification of Temporally Causal Representation with Instantaneous Dependence [50.14432597910128]
時間的因果表現学習は時系列観測から潜在因果過程を特定することを目的としている。
ほとんどの方法は、潜在因果過程が即時関係を持たないという仮定を必要とする。
我々は,インスタントtextbfOus textbfLatent dynamics のための textbfIDentification フレームワークを提案する。
論文 参考訳（メタデータ） (2024-05-24T08:08:05Z) - Evaluating Interventional Reasoning Capabilities of Large Language Models [58.52919374786108]
大規模言語モデル(LLM)は意思決定タスクを自動化するために使用される。
本稿では,LPMが介入に応じてデータ生成プロセスの知識を正確に更新できるかどうかを評価する。
さまざまな因果グラフ(例えば、コンバウンディング、仲介)と変数タイプにまたがるベンチマークを作成します。
これらのベンチマークにより、LLMが事実を記憶したり、他のショートカットを見つけたりすることで、変化を正確に予測する能力を切り離すことができます。
論文 参考訳（メタデータ） (2024-04-08T14:15:56Z) - A Neural Framework for Generalized Causal Sensitivity Analysis [78.71545648682705]
本稿では,因果感受性分析のためのニューラルネットワークフレームワークであるNeuralCSAを提案する。
我々は、NeuralCSAが関心の因果クエリに有効な境界を推測できることを理論的に保証する。
論文 参考訳（メタデータ） (2023-11-27T17:40:02Z) - Neural Causal Models for Counterfactual Identification and Estimation [62.30444687707919]
本稿では,ニューラルモデルによる反事実文の評価について検討する。
まず、神経因果モデル(NCM)が十分に表現可能であることを示す。
第2に,反事実分布の同時同定と推定を行うアルゴリズムを開発する。
論文 参考訳（メタデータ） (2022-09-30T18:29:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。