論文の概要: Explaining Probabilistic Models with Distributional Values

• arxiv url: http://arxiv.org/abs/2402.09947v3
• Date: Fri, 25 Oct 2024 10:53:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-28 13:34:16.987909
• Title: Explaining Probabilistic Models with Distributional Values
• Title（参考訳）: 分布値をもつ確率モデルについて
• Authors: Luca Franceschi, Michele Donini, Cédric Archambeau, Matthias Seeger,
• Abstract要約: 研究によると、ゲーム理論的な説明は誤解を招くか、解釈が難しい可能性がある。 SHAPのような現在の方法と説明したいものの間には、しばしば重大なミスマッチがある、と我々は主張する。 本稿では、協調ゲームや値演算子を一般化することで確率モデルに対するそのようなギャップを解消する。
• 参考スコア（独自算出の注目度）: 12.26389108393613
• License:
• Abstract: A large branch of explainable machine learning is grounded in cooperative game theory. However, research indicates that game-theoretic explanations may mislead or be hard to interpret. We argue that often there is a critical mismatch between what one wishes to explain (e.g. the output of a classifier) and what current methods such as SHAP explain (e.g. the scalar probability of a class). This paper addresses such gap for probabilistic models by generalising cooperative games and value operators. We introduce the distributional values, random variables that track changes in the model output (e.g. flipping of the predicted class) and derive their analytic expressions for games with Gaussian, Bernoulli and Categorical payoffs. We further establish several characterising properties, and show that our framework provides fine-grained and insightful explanations with case studies on vision and language models.
• Abstract（参考訳）: 説明可能な機械学習の大きな分野は、協調ゲーム理論に基礎を置いている。 しかし、ゲーム理論的な説明は誤解を招いたり、解釈が困難であったりする可能性がある。 しばしば、説明したいもの(例えば、分類器の出力)と、SHAPのような現在のメソッド(例えば、クラスのスカラー確率)の間には、批判的なミスマッチがある。 本稿では、協調ゲームや値演算子を一般化することで確率モデルに対するそのようなギャップを解消する。 モデル出力の変化(例えば予測クラスのフリップ)を追跡する分布値、ランダム変数を導入し、ガウス、ベルヌーイ、カテゴリー的なペイオフを持つゲームに対する解析式を導出する。 さらに,本フレームワークは,視覚と言語モデルに関するケーススタディで,きめ細やかで洞察に富んだ説明を提供することを示す。

関連論文リスト

• Hard to Explain: On the Computational Hardness of In-Distribution Model Interpretation [0.9558392439655016]
  機械学習(ML)モデルを解釈する能力はますます不可欠になりつつある。 近年の研究では、様々なモデルの意思決定を説明する計算複雑性を研究することにより、解釈可能性について正式に評価することが可能であることが示されている。
  論文  参考訳（メタデータ） (2024-08-07T17:20:52Z)
• Inference via Interpolation: Contrastive Representations Provably Enable Planning and Inference [110.47649327040392]
  時系列データを考えると、“今後どうなるか?”や“どうやって来たのか?”といった質問に答えるにはどうすればよいでしょう? これらの質問は、学習された表現の観点から、いかにコンパクトで閉じた形状の解が得られるかを示す。
  論文  参考訳（メタデータ） (2024-03-06T22:27:30Z)
• Understanding Post-hoc Explainers: The Case of Anchors [6.681943980068051]
  本稿では,テキストの判断を説明するために,少数の単語群をハイライトする規則に基づく解釈可能性法の理論解析を行う。 アルゴリズムを定式化し有用な洞察を提供した後、数学的にアンカーが有意義な結果をもたらすことを示す。
  論文  参考訳（メタデータ） (2023-03-15T17:56:34Z)
• Visual Abductive Reasoning [85.17040703205608]
  帰納的推論は、部分的な観察の可能な限りの可能な説明を求める。 本稿では,日常的な視覚的状況下でのマシンインテリジェンスの帰納的推論能力を調べるために,新たなタスクとデータセットであるVisual Abductive Reasoning(VAR)を提案する。
  論文  参考訳（メタデータ） (2022-03-26T10:17:03Z)
• Do not explain without context: addressing the blind spot of model explanations [2.280298858971133]
  本稿では,機械学習モデルの監視と監査においてしばしば見落とされがちな盲点について述べる。 モデル説明の多くは参照データ分布の選択に直接的または間接的に依存する。 分布の小さな変化が、傾向の変化や、注意深い結論などの説明に劇的な変化をもたらす例を示す。
  論文  参考訳（メタデータ） (2021-05-28T12:48:40Z)
• Beyond Trivial Counterfactual Explanations with Diverse Valuable Explanations [64.85696493596821]
  コンピュータビジョンの応用において、生成的対実法はモデルの入力を摂動させて予測を変更する方法を示す。 本稿では,多様性強化損失を用いて制約される不連続潜在空間における摂動を学習する反事実法を提案する。 このモデルは, 従来の最先端手法と比較して, 高品質な説明を生産する成功率を向上させる。
  論文  参考訳（メタデータ） (2021-03-18T12:57:34Z)
• Why do classifier accuracies show linear trends under distribution shift? [58.40438263312526]
  あるデータ分布上のモデルの精度は、別の分布上の精度のほぼ線形関数である。 2つのモデルが予測で一致する確率は、精度レベルだけで推測できるものよりも高いと仮定します。 分布シフトの大きさが大きければ, 2 つの分布のモデルを評価する場合, 線形傾向が生じなければならない。
  論文  参考訳（メタデータ） (2020-12-31T07:24:30Z)
• Dependency Decomposition and a Reject Option for Explainable Models [4.94950858749529]
  近年のディープラーニングモデルは様々な推論タスクにおいて非常によく機能する。 最近の進歩は特徴を視覚化し、入力の属性を記述する方法を提供します。 本稿では, 目的の画像分類出力に対する確率分布に関する依存性を初めて解析する。
  論文  参考訳（メタデータ） (2020-12-11T17:39:33Z)
• The Struggles of Feature-Based Explanations: Shapley Values vs. Minimal Sufficient Subsets [61.66584140190247]
  機能に基づく説明は、自明なモデルでも問題を引き起こすことを示す。 そこで本研究では,2つの一般的な説明書クラスであるシェープリー説明書と十分最小限の部分集合説明書が,基本的に異なる基底的説明書のタイプをターゲットにしていることを示す。
  論文  参考訳（メタデータ） (2020-09-23T09:45:23Z)
• Deducing neighborhoods of classes from a fitted model [68.8204255655161]
  本稿では,新しいタイプの解釈可能な機械学習手法を提案する。 量子シフトを用いた分類モデルでは、特徴空間の予測クラスへの分割を理解するのに役立ちます。 基本的に、実際のデータポイント(または特定の関心点)を使用し、特定の特徴をわずかに引き上げたり減少させたりした後の予測の変化を観察する。
  論文  参考訳（メタデータ） (2020-09-11T16:35:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。