論文の概要: Analyzing the Influence of Training Samples on Explanations

• arxiv url: http://arxiv.org/abs/2406.03012v1
• Date: Wed, 5 Jun 2024 07:20:06 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-06 19:29:27.277244
• Title: Analyzing the Influence of Training Samples on Explanations
• Title（参考訳）: トレーニングサンプルが説明に及ぼす影響の分析
• Authors: André Artelt, Barbara Hammer,
• Abstract要約: 本稿では,与えられた説明に強い影響を与えるトレーニングデータサンプルを同定する新しい問題を提案する。 そこで本研究では,そのような学習サンプルを同定するアルゴリズムを提案する。
• 参考スコア（独自算出の注目度）: 5.695152528716705
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: EXplainable AI (XAI) constitutes a popular method to analyze the reasoning of AI systems by explaining their decision-making, e.g. providing a counterfactual explanation of how to achieve recourse. However, in cases such as unexpected explanations, the user might be interested in learning about the cause of this explanation -- e.g. properties of the utilized training data that are responsible for the observed explanation. Under the umbrella of data valuation, first approaches have been proposed that estimate the influence of data samples on a given model. In this work, we take a slightly different stance, as we are interested in the influence of single samples on a model explanation rather than the model itself. Hence, we propose the novel problem of identifying training data samples that have a high influence on a given explanation (or related quantity) and investigate the particular case of differences in the cost of the recourse between protected groups. For this, we propose an algorithm that identifies such influential training samples.
• Abstract（参考訳）: 説明可能なAI(XAI)は、意思決定を説明することによって、AIシステムの推論を分析する一般的な方法である。 しかし、予期せぬ説明のようなケースでは、ユーザーは、観察された説明に責任がある活用されたトレーニングデータの特性など、この説明の原因について学習することに関心があるかもしれない。 データ評価の領域では、データサンプルが与えられたモデルに与える影響を推定する最初のアプローチが提案されている。 本研究では,モデル自体ではなく,モデル説明に対する単一サンプルの影響に関心があるため,若干異なるスタンスをとる。 そこで本稿では,与えられた説明(あるいは関連量)に高い影響を与えるトレーニングデータサンプルを同定し,保護されたグループ間の関係のコスト差の特定の事例について検討する。 そこで本研究では,そのような学習サンプルを同定するアルゴリズムを提案する。

関連論文リスト

• Influence Functions for Scalable Data Attribution in Diffusion Models [52.92223039302037]
  拡散モデルは、生成的モデリングに大きな進歩をもたらした。 しかし、彼らの普及はデータ属性と解釈可能性に関する課題を引き起こす。 本稿では,テキスト・インフルエンス・ファンクション・フレームワークを開発することにより,このような課題に対処することを目的とする。
  論文  参考訳（メタデータ） (2024-10-17T17:59:02Z)
• From Model Explanation to Data Misinterpretation: Uncovering the Pitfalls of Post Hoc Explainers in Business Research [3.7209396288545338]
  ビジネス研究では、データに関する推論にポストホックな説明が使われる傾向が増えている。 この論文の最終的な目標は、機械学習モデルのポストホックな説明を、潜在的に誤った洞察とデータの理解に翻訳しないように、ビジネス研究者に警告することである。
  論文  参考訳（メタデータ） (2024-08-30T03:22:35Z)
• Selective Explanations [14.312717332216073]
  機械学習モデルは、1つの推論だけで特徴属性スコアを予測するために訓練される。 その効率にもかかわらず、償却された説明者は不正確な予測や誤解を招く説明を生み出すことができる。 そこで本稿では,低品質な説明文を生成する際の特徴帰属手法である選択的説明文を提案する。
  論文  参考訳（メタデータ） (2024-05-29T23:08:31Z)
• Evaluating the Utility of Model Explanations for Model Development [54.23538543168767]
  機械学習モデル構築の実践シナリオにおいて、説明が人間の意思決定を改善するかどうかを評価する。 驚いたことに、サリエンシマップが提供されたとき、タスクが大幅に改善されたという証拠は見つからなかった。 以上の結果から,サリエンシに基づく説明における誤解の可能性と有用性について注意が必要であることが示唆された。
  論文  参考訳（メタデータ） (2023-12-10T23:13:23Z)
• Explaining Explainability: Towards Deeper Actionable Insights into Deep Learning through Second-order Explainability [70.60433013657693]
  2階説明可能なAI(SOXAI)は、最近インスタンスレベルからデータセットレベルまで説明可能なAI(XAI)を拡張するために提案されている。 そこで本研究では,SOXAIの動作可能な洞察に基づくトレーニングセットから無関係な概念を除外することで,モデルの性能を向上させることができることを示す。
  論文  参考訳（メタデータ） (2023-06-14T23:24:01Z)
• Example-based Explanations with Adversarial Attacks for Respiratory Sound Analysis [15.983890739091159]
  我々は、代表データ(プロトタイプ)と外れ値(批判)の両方を選択する統一的な例に基づく説明法を開発した。 特に、反復的高速勾配符号法を用いて、データインスタンスの説明スペクトルを生成するために、敵攻撃の新たな応用を提案する。
  論文  参考訳（メタデータ） (2022-03-30T08:28:48Z)
• Fairness-aware Summarization for Justified Decision-Making [16.47665757950391]
  テキストベースニューラルネットワークの正当化における不公平性の問題に焦点をあてる。 本研究では,これらのモデルにおけるバイアスを検出し,対処するための,公平性を考慮した要約機構を提案する。
  論文  参考訳（メタデータ） (2021-07-13T17:04:10Z)
• Paired Examples as Indirect Supervision in Latent Decision Models [109.76417071249945]
  我々は、ペア化された例を活用して、潜在的な決定を学習するためのより強力な手がかりを提供する方法を紹介します。 DROPデータセット上のニューラルネットワークを用いた合成質問応答の改善に本手法を適用した。
  論文  参考訳（メタデータ） (2021-04-05T03:58:30Z)
• Beyond Trivial Counterfactual Explanations with Diverse Valuable Explanations [64.85696493596821]
  コンピュータビジョンの応用において、生成的対実法はモデルの入力を摂動させて予測を変更する方法を示す。 本稿では,多様性強化損失を用いて制約される不連続潜在空間における摂動を学習する反事実法を提案する。 このモデルは, 従来の最先端手法と比較して, 高品質な説明を生産する成功率を向上させる。
  論文  参考訳（メタデータ） (2021-03-18T12:57:34Z)
• Explainable Recommender Systems via Resolving Learning Representations [57.24565012731325]
  説明はユーザー体験を改善し、システムの欠陥を発見するのに役立つ。 本稿では,表現学習プロセスの透明性を向上させることによって,説明可能な新しい推薦モデルを提案する。
  論文  参考訳（メタデータ） (2020-08-21T05:30:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。