論文の概要: Explanatory causal effects for model agnostic explanations

• arxiv url: http://arxiv.org/abs/2206.11529v1
• Date: Thu, 23 Jun 2022 08:25:31 GMT
• ステータス: 処理完了
• システム内更新日: 2022-06-24 13:11:20.823003
• Title: Explanatory causal effects for model agnostic explanations
• Title（参考訳）: モデル非依存的説明に対する説明因果効果
• Authors: Jiuyong Li and Ha Xuan Tran and Thuc Duy Le and Lin Liu and Kui Yu and Jixue Liu
• Abstract要約: 機械学習モデルを用いて、特定のインスタンスの予測に対する特徴の寄与を推定する問題について検討する。 課題は、既存の因果効果のほとんどは、既知の因果グラフなしではデータから推定できないことである。 仮説的理想実験に基づいて説明的因果効果を定義する。
• 参考スコア（独自算出の注目度）: 27.129579550130423
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: This paper studies the problem of estimating the contributions of features to the prediction of a specific instance by a machine learning model and the overall contribution of a feature to the model. The causal effect of a feature (variable) on the predicted outcome reflects the contribution of the feature to a prediction very well. A challenge is that most existing causal effects cannot be estimated from data without a known causal graph. In this paper, we define an explanatory causal effect based on a hypothetical ideal experiment. The definition brings several benefits to model agnostic explanations. First, explanations are transparent and have causal meanings. Second, the explanatory causal effect estimation can be data driven. Third, the causal effects provide both a local explanation for a specific prediction and a global explanation showing the overall importance of a feature in a predictive model. We further propose a method using individual and combined variables based on explanatory causal effects for explanations. We show the definition and the method work with experiments on some real-world data sets.
• Abstract（参考訳）: 本稿では、機械学習モデルによる特定のインスタンスの予測に対する特徴の寄与度の推定問題と、そのモデルに対する特徴の全体的な貢献について述べる。 予測結果に対する特徴(変数)の因果効果は、その特徴の予測への寄与を非常によく反映している。 課題は、既存の因果効果が既知の因果グラフなしではデータから推定できないことである。 本稿では,仮説的理想実験に基づいて説明的因果効果を定義する。 この定義はモデルに依存しない説明にいくつかの利点をもたらす。 まず、説明は透明で因果的意味を持つ。 第二に、説明因果効果推定はデータ駆動である。 第三に、因果効果は特定の予測に対する局所的な説明と、予測モデルにおける特徴の全体的重要性を示す全体的説明の両方を提供する。 さらに,説明のための説明因果効果に基づく個別変数と複合変数を用いた手法を提案する。 提案手法は,実世界のデータセットを用いて実験を行う。

関連論文リスト

• Counterfactual explainability of black-box prediction models [4.14360329494344]
  ブラックボックス予測モデルに対する対実的説明可能性という新しい概念を提案する。 対物的説明可能性には3つの大きな利点がある。
  論文  参考訳（メタデータ） (2024-11-03T16:29:09Z)
• Linking Model Intervention to Causal Interpretation in Model Explanation [34.21877996496178]
  直感的なモデル介入効果が因果解釈を持つ場合の条件について検討する。 この研究はモデルの介入効果とモデルの因果解釈を結びつける。 半合成データセットの実験は、定理を検証し、モデルの解釈にモデル介入効果を使用する可能性を示す。
  論文  参考訳（メタデータ） (2024-10-21T05:16:59Z)
• Linking a predictive model to causal effect estimation [21.869233469885856]
  本稿では、まず、ある事例における結果に対する特徴(治療としての)の因果効果を推定する挑戦に取り組む。 理論的結果は、予測モデルを因果効果推定に自然に関連付け、予測モデルが因果的解釈可能であることを示唆する。 本稿では, 種々の予測モデルを用いて, 条件を満たす場合, 特徴の因果効果を, 最先端の因果効果推定法と同じくらい正確に推定できることを実証する。
  論文  参考訳（メタデータ） (2023-04-10T13:08:16Z)
• CLEAR: Generative Counterfactual Explanations on Graphs [60.30009215290265]
  グラフ上での対実的説明生成の問題について検討する。 グラフに関する反実的な説明を調査する研究はいくつかあるが、この問題の多くの課題はまだ十分に適応されていない。 本稿では,グラフレベルの予測モデルに対して,グラフ上の反実的説明を生成するための新しいフレームワークCLEARを提案する。
  論文  参考訳（メタデータ） (2022-10-16T04:35:32Z)
• Active Bayesian Causal Inference [72.70593653185078]
  因果発見と推論を統合するための完全ベイズ能動学習フレームワークであるアクティブベイズ因果推論(ABCI)を提案する。 ABCIは因果関係のモデルと関心のクエリを共同で推論する。 我々のアプローチは、完全な因果グラフの学習のみに焦点を当てた、いくつかのベースラインよりも、よりデータ効率が高いことを示す。
  論文  参考訳（メタデータ） (2022-06-04T22:38:57Z)
• Human Interpretation of Saliency-based Explanation Over Text [65.29015910991261]
  テキストデータ上でのサリエンシに基づく説明について検討する。 人はしばしば説明を誤って解釈する。 本稿では,過度知覚と過小認識のモデル推定に基づいて,サリエンシを調整する手法を提案する。
  論文  参考訳（メタデータ） (2022-01-27T15:20:32Z)
• Deconfounding to Explanation Evaluation in Graph Neural Networks [136.73451468551656]
  我々は、全グラフと部分グラフの間に分布シフトが存在し、分布外問題を引き起こすと論じる。 本稿では,モデル予測に対する説明文の因果効果を評価するために,Decon founded Subgraph Evaluation (DSE)を提案する。
  論文  参考訳（メタデータ） (2022-01-21T18:05:00Z)
• On Shapley Credit Allocation for Interpretability [1.52292571922932]
  学習モデルの判断を解釈する際に適切な質問を行うことの重要性を強調する。 本稿では,Shapley symmetrizationの特徴関数として,解釈の異なる性質と異なる尺度を織り込むことによって特徴関連性を定量化する。
  論文  参考訳（メタデータ） (2020-12-10T08:25:32Z)
• Debiasing Concept-based Explanations with Causal Analysis [4.911435444514558]
  本研究は,特徴の相違する情報と相関する概念の問題点について考察する。 観測されていない変数の影響をモデル化するための新しい因果前グラフを提案する。 提案手法は,概念が完成していない場合に有効であることを示す。
  論文  参考訳（メタデータ） (2020-07-22T15:42:46Z)
• Causal Discovery in Physical Systems from Videos [123.79211190669821]
  因果発見は人間の認知の中心にある。 本研究では,ビデオの因果発見の課題を,地層構造を監督せずにエンドツーエンドで検討する。
  論文  参考訳（メタデータ） (2020-07-01T17:29:57Z)
• CausalVAE: Structured Causal Disentanglement in Variational Autoencoder [52.139696854386976]
  変分オートエンコーダ(VAE)の枠組みは、観測から独立した因子をアンタングルするために一般的に用いられる。 本稿では, 因果内因性因子を因果内因性因子に変換する因果層を含むVOEベースの新しいフレームワークCausalVAEを提案する。 その結果、CausalVAEが学習した因果表現は意味論的に解釈可能であり、DAG(Directed Acyclic Graph)としての因果関係は精度良く同定された。
  論文  参考訳（メタデータ） (2020-04-18T20:09:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。