論文の概要: Unifying Feature-Based Explanations with Functional ANOVA and Cooperative Game Theory

• arxiv url: http://arxiv.org/abs/2412.17152v1
• Date: Sun, 22 Dec 2024 20:12:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-24 16:00:44.504433
• Title: Unifying Feature-Based Explanations with Functional ANOVA and Cooperative Game Theory
• Title（参考訳）: 機能的ANOVAと協調ゲーム理論による特徴ベース説明の統合
• Authors: Fabian Fumagalli, Maximilian Muschalik, Eyke Hüllermeier, Barbara Hammer, Julia Herbinger,
• Abstract要約: 局所的およびグローバルな特徴に基づく説明のための統一的なフレームワークを導入する。 特徴分布の影響を決定する3つのfANOVA分解を導入する。 次に、合成および実世界のデータセットにおけるフレームワークの有用性を実証的に示す。
• 参考スコア（独自算出の注目度）: 21.405333804566357
• License:
• Abstract: Feature-based explanations, using perturbations or gradients, are a prevalent tool to understand decisions of black box machine learning models. Yet, differences between these methods still remain mostly unknown, which limits their applicability for practitioners. In this work, we introduce a unified framework for local and global feature-based explanations using two well-established concepts: functional ANOVA (fANOVA) from statistics, and the notion of value and interaction from cooperative game theory. We introduce three fANOVA decompositions that determine the influence of feature distributions, and use game-theoretic measures, such as the Shapley value and interactions, to specify the influence of higher-order interactions. Our framework combines these two dimensions to uncover similarities and differences between a wide range of explanation techniques for features and groups of features. We then empirically showcase the usefulness of our framework on synthetic and real-world datasets.
• Abstract（参考訳）: 摂動や勾配を用いた機能ベースの説明は、ブラックボックス機械学習モデルの決定を理解するための一般的なツールである。 しかし、これらの方法の相違はほとんど不明であり、実践者への適用性が制限されている。 本研究では、統計学からの関数型ANOVA(fANOVA)と協調ゲーム理論からの値と相互作用の概念の2つのよく確立された概念を用いて、局所的およびグローバルな特徴ベースの説明のための統一的なフレームワークを導入する。 特徴分布の影響を決定する3つのfANOVA分解を導入し,高次相互作用の影響を特定するために,Shapley値やインタラクションなどのゲーム理論を用いた。 我々のフレームワークはこれらの2つの次元を組み合わせて、特徴と特徴のグループに対する幅広い説明手法の類似点と相違点を明らかにする。 次に、合成および実世界のデータセットにおけるフレームワークの有用性を実証的に示す。

関連論文リスト

• A Unified Framework for Input Feature Attribution Analysis [44.5176896474762]
  一般的な説明形式のひとつに、トークンやトークン間のインタラクションなど、重要な入力機能がある。 これらの説明型は単独でのみ研究されており、それぞれの適用性を判断することは困難である。 我々の実験では、強調説明はモデルの予測に最も忠実であり、対話的な説明はモデルの予測をシミュレートする学習に役立つ。
  論文  参考訳（メタデータ） (2024-06-21T12:01:03Z)
• A Unifying Framework for Action-Conditional Self-Predictive Reinforcement Learning [48.59516337905877]
  優れた表現を学ぶことは、強化学習(RL)エージェントにとって重要な課題である。 近年の研究では、これらのアルゴリズムに関する理論的洞察が生まれている。 我々は,行動条件の自己予測的目的を分析することによって,理論と実践のギャップを埋める一歩を踏み出した。
  論文  参考訳（メタデータ） (2024-06-04T07:22:12Z)
• On the Joint Interaction of Models, Data, and Features [82.60073661644435]
  本稿では,データとモデル間の相互作用を実験的に解析する新しいツールであるインタラクションテンソルを紹介する。 これらの観測に基づいて,特徴学習のための概念的枠組みを提案する。 この枠組みの下では、一つの仮説に対する期待された精度と一対の仮説に対する合意はどちらも閉形式で導出することができる。
  論文  参考訳（メタデータ） (2023-06-07T21:35:26Z)
• The Weighted M\"obius Score: A Unified Framework for Feature Attribution [17.358276581599643]
  特徴属性は、各特徴が予測に与える影響を特定することによって、ブラックボックスモデルの予測の背後にある理由を説明することを目的としている。 統一されたフレームワークの欠如は、直接的に比較できないメソッドの急増につながった。 本稿では,パラメータ化属性フレームワークである重み付きM"obius Scoreを提案する。
  論文  参考訳（メタデータ） (2023-05-16T06:27:27Z)
• Distributing Synergy Functions: Unifying Game-Theoretic Interaction Methods for Machine-Learning Explainability [9.416757363901295]
  ゲーム理論にインスパイアされた属性と$ktextth$-orderインタラクションのための統一フレームワークを提案する。 相乗効果を分配する政策によって, 様々な手法がどう特徴づけられるかを明らかにする。 様々な基準の組み合わせは、属性/相互作用法を一意に定義する。
  論文  参考訳（メタデータ） (2023-05-04T18:33:18Z)
• Relational Local Explanations [11.679389861042]
  我々は,入力変数間の関係解析に基づく,新しいモデルに依存しない,置換に基づく特徴帰属アルゴリズムを開発した。 機械学習のモデル決定とデータについて、より広範な洞察を得ることができます。
  論文  参考訳（メタデータ） (2022-12-23T14:46:23Z)
• MACE: An Efficient Model-Agnostic Framework for Counterfactual Explanation [132.77005365032468]
  MACE(Model-Agnostic Counterfactual Explanation)の新たな枠組みを提案する。 MACE法では, 優れた反実例を見つけるための新しいRL法と, 近接性向上のための勾配のない降下法を提案する。 公開データセットの実験は、有効性、空間性、近接性を向上して検証する。
  論文  参考訳（メタデータ） (2022-05-31T04:57:06Z)
• Kinship Verification Based on Cross-Generation Feature Interaction Learning [53.62256887837659]
  顔画像からの血縁検証は、コンピュータビジョンの応用において、新しいが挑戦的な技術として認識されている。 本稿では,頑健な親族関係検証のためのクロスジェネレーション・インタラクション・ラーニング(CFIL)フレームワークを提案する。
  論文  参考訳（メタデータ） (2021-09-07T01:50:50Z)
• Interpretable Multi-dataset Evaluation for Named Entity Recognition [110.64368106131062]
  本稿では,名前付きエンティティ認識(NER)タスクに対する一般的な評価手法を提案する。 提案手法は,モデルとデータセットの違いと,それらの間の相互作用を解釈することを可能にする。 分析ツールを利用可能にすることで、将来の研究者が同様の分析を実行し、この分野の進歩を促進することができる。
  論文  参考訳（メタデータ） (2020-11-13T10:53:27Z)
• On the Relationship Between Active Inference and Control as Inference [62.997667081978825]
  アクティブ推論(英: Active Inference、AIF)は、生物学的エージェントがモデルエビデンスに束縛された変動を最小限に抑えることを示唆する脳科学の新たな枠組みである。 制御・アズ・推論(英: Control-as-Inference, CAI)は、意思決定を変分推論問題とみなす強化学習の枠組みである。
  論文  参考訳（メタデータ） (2020-06-23T13:03:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。