論文の概要: CAGE: Causality-Aware Shapley Value for Global Explanations

• arxiv url: http://arxiv.org/abs/2404.11208v1
• Date: Wed, 17 Apr 2024 09:43:54 GMT
• ステータス: 処理完了
• システム内更新日: 2024-04-18 14:35:31.431178
• Title: CAGE: Causality-Aware Shapley Value for Global Explanations
• Title（参考訳）: CAGE:グローバルな説明のための因果関係を意識した共有価値
• Authors: Nils Ole Breuer, Andreas Sauter, Majid Mohammadi, Erman Acar,
• Abstract要約: AIモデルを説明する1つの方法は、AIモデルに対する入力機能の予測的重要性を明らかにすることである。 協調ゲーム理論に触発されたシェープリーは、特徴の重要性を説明として定量化する便利な方法を提供する。 特に、入力特徴の因果関係を尊重する外部特徴に対する新しいサンプリング手順を導入する。
• 参考スコア（独自算出の注目度）: 4.017708359820078
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As Artificial Intelligence (AI) is having more influence on our everyday lives, it becomes important that AI-based decisions are transparent and explainable. As a consequence, the field of eXplainable AI (or XAI) has become popular in recent years. One way to explain AI models is to elucidate the predictive importance of the input features for the AI model in general, also referred to as global explanations. Inspired by cooperative game theory, Shapley values offer a convenient way for quantifying the feature importance as explanations. However many methods based on Shapley values are built on the assumption of feature independence and often overlook causal relations of the features which could impact their importance for the ML model. Inspired by studies of explanations at the local level, we propose CAGE (Causally-Aware Shapley Values for Global Explanations). In particular, we introduce a novel sampling procedure for out-coalition features that respects the causal relations of the input features. We derive a practical approach that incorporates causal knowledge into global explanation and offers the possibility to interpret the predictive feature importance considering their causal relation. We evaluate our method on synthetic data and real-world data. The explanations from our approach suggest that they are not only more intuitive but also more faithful compared to previous global explanation methods.
• Abstract（参考訳）: 人工知能(AI)が私たちの日常生活により多くの影響を与えているため、AIベースの決定が透明で説明可能であることが重要になる。 その結果、eXplainable AI(またはXAI)の分野は近年人気が高まっている。 AIモデルを説明する1つの方法は、一般的にはグローバル説明とも呼ばれる、AIモデルに対する入力機能の予測的重要性を明らかにすることである。 協調ゲーム理論に触発されたシェープリーは、特徴の重要性を説明として定量化する便利な方法を提供する。 しかしながら、Shapley値に基づく多くのメソッドは、機能独立の仮定に基づいて構築されており、MLモデルにおいてその重要性に影響を与える可能性のある機能の因果関係を見落としていることが多い。 CAGE(Causally-Aware Shapley Values for Global Explanations)を提案する。 特に、入力特徴の因果関係を尊重する外部特徴に対する新しいサンプリング手順を導入する。 我々は、因果的知識をグローバルな説明に取り入れた実践的アプローチを導き、因果関係を考慮し、予測的特徴の重要性を解釈する可能性を提供する。 合成データと実世界のデータについて,本手法の評価を行った。 提案手法は, 従来のグローバルな説明法に比べ, 直感的なだけでなく, 忠実であることを示すものである。

関連論文リスト

• From Abstract to Actionable: Pairwise Shapley Values for Explainable AI [0.8192907805418583]
  提案するPairwise Shapley Valuesは,特徴属性を明示的,人間関連性のある比較に基礎を置く新しいフレームワークである。 本手法では,一値命令と組み合わせたペアワイズ参照選択を導入し,直観的,モデルに依存しない説明を行う。 Pairwise Shapley Valuesは多種多様な回帰・分類シナリオにおける解釈可能性を高めることを実証する。
  論文  参考訳（メタデータ） (2025-02-18T04:20:18Z)
• XForecast: Evaluating Natural Language Explanations for Time Series Forecasting [72.57427992446698]
  時系列予測は、特に正確な予測に依存するステークホルダーにとって、意思決定を支援する。 伝統的に説明可能なAI(XAI)メソッドは、機能や時間的重要性を基盤とするものであり、専門家の知識を必要とすることが多い。 時系列データにおける複雑な因果関係のため,予測NLEの評価は困難である。
  論文  参考訳（メタデータ） (2024-10-18T05:16:39Z)
• Evaluating the Utility of Model Explanations for Model Development [54.23538543168767]
  機械学習モデル構築の実践シナリオにおいて、説明が人間の意思決定を改善するかどうかを評価する。 驚いたことに、サリエンシマップが提供されたとき、タスクが大幅に改善されたという証拠は見つからなかった。 以上の結果から,サリエンシに基づく説明における誤解の可能性と有用性について注意が必要であることが示唆された。
  論文  参考訳（メタデータ） (2023-12-10T23:13:23Z)
• Calibrated Explanations for Regression [1.2058600649065616]
  回帰のための校正的説明は、高速で信頼性があり、安定し、堅牢な説明を提供する。 確率的回帰のための校正的説明は、説明を作成する全く新しい方法を提供する。 Pythonの実装はGitHubで無料で利用可能で、pipとcondaの両方を使ってインストールすることができる。
  論文  参考訳（メタデータ） (2023-08-30T18:06:57Z)
• Explaining Explainability: Towards Deeper Actionable Insights into Deep Learning through Second-order Explainability [70.60433013657693]
  2階説明可能なAI(SOXAI)は、最近インスタンスレベルからデータセットレベルまで説明可能なAI(XAI)を拡張するために提案されている。 そこで本研究では,SOXAIの動作可能な洞察に基づくトレーニングセットから無関係な概念を除外することで,モデルの性能を向上させることができることを示す。
  論文  参考訳（メタデータ） (2023-06-14T23:24:01Z)
• Interpretability at Scale: Identifying Causal Mechanisms in Alpaca [62.65877150123775]
  本研究では、Boundless DASを用いて、命令に従う間、大規模言語モデルにおける解釈可能な因果構造を効率的に探索する。 私たちの発見は、成長し、最も広くデプロイされている言語モデルの内部構造を忠実に理解するための第一歩です。
  論文  参考訳（メタデータ） (2023-05-15T17:15:40Z)
• Evaluating Explainability in Machine Learning Predictions through Explainer-Agnostic Metrics [0.0]
  我々は,モデル予測が説明できる範囲を定量化するために,6つの異なるモデルに依存しないメトリクスを開発した。 これらのメトリクスは、局所的な重要性、グローバルな重要性、代理予測など、モデル説明可能性のさまざまな側面を測定する。 分類と回帰タスクにおけるこれらのメトリクスの実用性を実証し、これらのメトリクスを公開のために既存のPythonパッケージに統合する。
  論文  参考訳（メタデータ） (2023-02-23T15:28:36Z)
• Motif-guided Time Series Counterfactual Explanations [1.1510009152620664]
  本稿では,ポストホックな反事実的説明を直感的に生成する新しいモデルを提案する。 UCRリポジトリから5つの実世界の時系列データセットを用いてモデルを検証した。
  論文  参考訳（メタデータ） (2022-11-08T17:56:50Z)
• Alterfactual Explanations -- The Relevance of Irrelevance for Explaining AI Systems [0.9542023122304099]
  我々は、決定を完全に理解するためには、関連する特徴に関する知識だけでなく、無関係な情報の認識もAIシステムのユーザーのメンタルモデルの作成に大きく貢献すると主張している。 私たちのアプローチは、Alterfactual Explanations(Alterfactual Explanations)と呼ばれ、AIの入力の無関係な特徴が変更された別の現実を示すことに基づいています。 我々は,AIの推論のさまざまな側面を,反事実的説明法よりも理解するために,人工的説明が適していることを示す。
  論文  参考訳（メタデータ） (2022-07-19T16:20:37Z)
• Counterfactual Explanations as Interventions in Latent Space [62.997667081978825]
  反現実的な説明は、望ましい結果を達成するために変更が必要な機能のセットをエンドユーザに提供することを目的としています。 現在のアプローチでは、提案された説明を達成するために必要な行動の実現可能性を考慮することはめったにない。 本稿では,非現実的説明を生成する手法として,潜時空間における干渉としての対実的説明(CEILS)を提案する。
  論文  参考訳（メタデータ） (2021-06-14T20:48:48Z)
• Value-driven Hindsight Modelling [68.658900923595]
  値推定は強化学習(RL)パラダイムの重要な構成要素である。 モデル学習は、観測系列に存在する豊富な遷移構造を利用することができるが、このアプローチは通常、報酬関数に敏感ではない。 この2つの極点の間に位置するRLにおける表現学習のアプローチを開発する。 これにより、タスクに直接関連し、値関数の学習を加速できる、抽出可能な予測ターゲットが提供される。
  論文  参考訳（メタデータ） (2020-02-19T18:10:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。