Fugu-MT 論文翻訳(概要): Counterfactual explainability and analysis of variance

論文の概要: Counterfactual explainability and analysis of variance

arxiv url: http://arxiv.org/abs/2411.01625v2
Date: Sat, 04 Oct 2025 02:13:21 GMT
ステータス: 翻訳完了
システム内更新日: 2025-10-07 14:28:09.079933
Title: Counterfactual explainability and analysis of variance
Title（参考訳）: 分散の因果的説明可能性と解析
Authors: Zijun Gao, Qingyuan Zhao,
Abstract要約: 複雑なモデルやシステムを説明する既存のツールは因果関係ではなく関連性がある。本稿では,因果帰属に対する反事実的説明可能性という新しい概念を提案する。
参考スコア（独自算出の注目度）: 3.4895986723227383
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Existing tools for explaining complex models and systems are associational rather than causal and do not provide mechanistic understanding. We propose a new notion called counterfactual explainability for causal attribution that is motivated by the concept of genetic heritability in twin studies. Counterfactual explainability extends methods for global sensitivity analysis (including the functional analysis of variance and Sobol's indices), which assumes independent explanatory variables, to dependent explanations by using a directed acyclic graphs to describe their causal relationship. Therefore, this explanability measure directly incorporates causal mechanisms by construction. Under a comonotonicity assumption, we discuss methods for estimating counterfactual explainability and apply them to a real dataset dataset to explain income inequality by gender, race, and educational attainment.
Abstract（参考訳）: 複雑なモデルやシステムを説明する既存のツールは因果関係ではなく関連性があり、機械的な理解を提供していない。双生児研究における遺伝的遺伝性の概念に動機づけられた因果帰属に関する反事実的説明可能性という新しい概念を提案する。対実的説明可能性(英語版)は、独立説明変数を仮定する大域的感度解析(分散とソボの指標の関数解析を含む)の手法を、有向非巡回グラフを用いてそれらの因果関係を記述することによって依存的説明に拡張する。したがって、この説明可能性尺度は、建設による因果的メカニズムを直接組み込む。コモノトニティの仮定に基づき、反現実的説明可能性を推定し、実際のデータセットに適用し、性別、人種、教育的達成による所得不平等を説明する方法について議論する。

関連論文リスト

Explanation Beyond Intuition: A Testable Criterion for Inherent Explainability [0.2580765958706854]
説明可能な人工知能 (XAI) のゴールド・スタンダードはインヒーレント・説明責任である固有の説明可能性を示す一貫した定義やテストは存在しない。本稿では,本質的説明可能性に関する世界的基準を提案する。
論文参考訳（メタデータ） (2025-12-19T07:59:36Z)
Loss-Complexity Landscape and Model Structure Functions [53.92822954974537]
我々はコルモゴロフ構造関数 $h_x(alpha)$ を双対化するためのフレームワークを開発する。情報理論構造と統計力学の数学的類似性を確立する。構造関数と自由エネルギーの間のルジャンドル・フェンシェル双対性を明確に証明する。
論文参考訳（メタデータ） (2025-07-17T21:31:45Z)
How do Transformers Learn Implicit Reasoning? [67.02072851088637]
制御されたシンボリック環境下でトランスフォーマーをスクラッチからトレーニングすることで、暗黙のマルチホップ推論がどのように現れるかを研究する。原子三重項によるトレーニングは必要ではなく学習を加速し,第2ホップの一般化は特定の構成構造へのクエリレベル露出に依存する。
論文参考訳（メタデータ） (2025-05-29T17:02:49Z)
Internal Causal Mechanisms Robustly Predict Language Model Out-of-Distribution Behaviors [61.92704516732144]
正当性予測の最も堅牢な特徴は、モデルの振舞いに特徴的な因果的役割を果たすものであることを示す。モデル出力の正しさを予測するために因果メカニズムを利用する2つの手法を提案する。
論文参考訳（メタデータ） (2025-05-17T00:31:39Z)
Hard to Explain: On the Computational Hardness of In-Distribution Model Interpretation [0.9558392439655016]
機械学習(ML)モデルを解釈する能力はますます不可欠になりつつある。近年の研究では、様々なモデルの意思決定を説明する計算複雑性を研究することにより、解釈可能性について正式に評価することが可能であることが示されている。
論文参考訳（メタデータ） (2024-08-07T17:20:52Z)
On Generating Monolithic and Model Reconciling Explanations in Probabilistic Scenarios [46.24262986854885]
本稿では,確率論的モノリシックな説明とモデル整合的な説明を生成するための新しいフレームワークを提案する。モノリシックな説明のために,本手法は確率論的論理を利用して不確実性を統合し,説明の確率を増大させる。モデル整合性の説明のために,モデル整合性問題の論理に基づく変種を拡張し,確率的人間モデルを考慮したフレームワークを提案する。
論文参考訳（メタデータ） (2024-05-29T16:07:31Z)
Identifiable Latent Neural Causal Models [82.14087963690561]
因果表現学習は、低レベルの観測データから潜伏した高レベルの因果表現を明らかにすることを目指している。因果表現の識別可能性に寄与する分布シフトのタイプを決定する。本稿では,本研究の成果を実用的なアルゴリズムに翻訳し,信頼性の高い潜在因果表現の取得を可能にする。
論文参考訳（メタデータ） (2024-03-23T04:13:55Z)
Nonparametric Partial Disentanglement via Mechanism Sparsity: Sparse Actions, Interventions and Sparse Temporal Dependencies [58.179981892921056]
この研究は、メカニズムのスパーシティ正則化(英語版)と呼ばれる、アンタングルメントの新たな原理を導入する。本稿では,潜在要因を同時に学習することで,絡み合いを誘発する表現学習手法を提案する。学習した因果グラフをスパースに規則化することにより、潜伏因子を復元できることを示す。
論文参考訳（メタデータ） (2024-01-10T02:38:21Z)
On the Joint Interaction of Models, Data, and Features [82.60073661644435]
本稿では,データとモデル間の相互作用を実験的に解析する新しいツールであるインタラクションテンソルを紹介する。これらの観測に基づいて,特徴学習のための概念的枠組みを提案する。この枠組みの下では、一つの仮説に対する期待された精度と一対の仮説に対する合意はどちらも閉形式で導出することができる。
論文参考訳（メタデータ） (2023-06-07T21:35:26Z)
Evaluating the Robustness of Interpretability Methods through Explanation Invariance and Equivariance [72.50214227616728]
解釈可能性法は、それらの説明が説明されたモデルを忠実に記述した場合にのみ有用である。特定の対称性群の下で予測が不変であるニューラルネットワークを考える。
論文参考訳（メタデータ） (2023-04-13T17:59:03Z)
Explanatory causal effects for model agnostic explanations [27.129579550130423]
機械学習モデルを用いて、特定のインスタンスの予測に対する特徴の寄与を推定する問題について検討する。課題は、既存の因果効果のほとんどは、既知の因果グラフなしではデータから推定できないことである。仮説的理想実験に基づいて説明的因果効果を定義する。
論文参考訳（メタデータ） (2022-06-23T08:25:31Z)
Logical Satisfiability of Counterfactuals for Faithful Explanations in NLI [60.142926537264714]
本稿では, 忠実度スルー・カウンタファクトの方法論について紹介する。これは、説明に表される論理述語に基づいて、反実仮説を生成する。そして、そのモデルが表現された論理と反ファクトの予測が一致しているかどうかを評価する。
論文参考訳（メタデータ） (2022-05-25T03:40:59Z)
Explaining Causal Models with Argumentation: the Case of Bi-variate Reinforcement [15.947501347927687]
因果モデルから議論フレームワーク(AF)を生成するための概念化を導入する。この概念化は、AFの意味論の望ましい性質を説明型として再解釈することに基づいている。我々はこれらの論証的説明の理論的評価を行い、それらが望ましい説明的および論証的特性の範囲を満たすかどうかを検討する。
論文参考訳（メタデータ） (2022-05-23T19:39:51Z)
Model Explanations via the Axiomatic Causal Lens [9.915489218010952]
そこで本研究では,すべての原因の集合を特徴重みに集約する3つの説明尺度を提案する。最初の尺度は、チョックラーとハルパーンの因果責任の概念の自然な適応である。我々は、ブラックボックスモデル説明のためのShapley-ShubikとBanzhafの指標を計算するための新しい手法を導出するために、我々のアプローチを拡張した。
論文参考訳（メタデータ） (2021-09-08T19:33:52Z)
Estimation of Bivariate Structural Causal Models by Variational Gaussian Process Regression Under Likelihoods Parametrised by Normalising Flows [74.85071867225533]
因果機構は構造因果モデルによって記述できる。最先端の人工知能の大きな欠点の1つは、説明責任の欠如である。
論文参考訳（メタデータ） (2021-09-06T14:52:58Z)
Contrastive Explanations for Model Interpretability [77.92370750072831]
分類モデルの対照的説明を生成する手法を提案する。本手法は潜在空間へのモデル表現の投影に基づいている。本研究は,モデル決定のより正確できめ細かな解釈性を提供するためのラベルコントラスト的説明の能力に光を当てた。
論文参考訳（メタデータ） (2021-03-02T00:36:45Z)
The Struggles of Feature-Based Explanations: Shapley Values vs. Minimal Sufficient Subsets [61.66584140190247]
機能に基づく説明は、自明なモデルでも問題を引き起こすことを示す。そこで本研究では,2つの一般的な説明書クラスであるシェープリー説明書と十分最小限の部分集合説明書が,基本的に異なる基底的説明書のタイプをターゲットにしていることを示す。
論文参考訳（メタデータ） (2020-09-23T09:45:23Z)
Explaining the Behavior of Black-Box Prediction Algorithms with Causal Learning [9.279259759707996]
ブラックボックス予測モデルのポストホック説明可能性に対する因果的アプローチは、ますます人気が高まっている。因果図形表現を学習し、特徴間の任意の非計測的共起を可能にする。我々のアプローチは、適切な説明が介入論的な意味で「異論者」である要因を示唆する因果説明の反実理論によって動機付けられている。
論文参考訳（メタデータ） (2020-06-03T19:02:34Z)
CausalVAE: Structured Causal Disentanglement in Variational Autoencoder [52.139696854386976]
変分オートエンコーダ(VAE)の枠組みは、観測から独立した因子をアンタングルするために一般的に用いられる。本稿では, 因果内因性因子を因果内因性因子に変換する因果層を含むVOEベースの新しいフレームワークCausalVAEを提案する。その結果、CausalVAEが学習した因果表現は意味論的に解釈可能であり、DAG(Directed Acyclic Graph)としての因果関係は精度良く同定された。
論文参考訳（メタデータ） (2020-04-18T20:09:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。