論文の概要: The Susceptibility of Example-Based Explainability Methods to Class Outliers

• arxiv url: http://arxiv.org/abs/2407.20678v1
• Date: Tue, 30 Jul 2024 09:20:15 GMT
• ステータス: 処理完了
• システム内更新日: 2024-07-31 17:39:47.890726
• Title: The Susceptibility of Example-Based Explainability Methods to Class Outliers
• Title（参考訳）: 実例に基づく説明可能性手法のクラス外化器への適用
• Authors: Ikhtiyor Nematov, Dimitris Sacharidis, Tomer Sagi, Katja Hose,
• Abstract要約: 本研究は,ブラックボックス機械学習モデルにおける実例に基づく説明可能性手法の有効性に及ぼすクラスアウトレーヤの影響について検討する。 本稿では,特に実例に基づく手法の正当性や妥当性などの既存の説明可能性評価尺度を改訂し,新しい尺度,識別可能性を導入する。 これらの指標を用いて、クラス外れを抑えようとする者を含む、現在の例に基づく説明可能性手法の欠点を強調した。
• 参考スコア（独自算出の注目度）: 3.748789746936121
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: This study explores the impact of class outliers on the effectiveness of example-based explainability methods for black-box machine learning models. We reformulate existing explainability evaluation metrics, such as correctness and relevance, specifically for example-based methods, and introduce a new metric, distinguishability. Using these metrics, we highlight the shortcomings of current example-based explainability methods, including those who attempt to suppress class outliers. We conduct experiments on two datasets, a text classification dataset and an image classification dataset, and evaluate the performance of four state-of-the-art explainability methods. Our findings underscore the need for robust techniques to tackle the challenges posed by class outliers.
• Abstract（参考訳）: 本研究は,ブラックボックス機械学習モデルにおける実例に基づく説明可能性手法の有効性に及ぼすクラスアウトレーヤの影響について検討する。 本稿では,特に実例に基づく手法の正当性や妥当性などの既存の説明可能性評価尺度を改訂し,新しい尺度,識別可能性を導入する。 これらの指標を用いて、クラス外れを抑えようとする者を含む、現在の例に基づく説明可能性手法の欠点を強調した。 テキスト分類データセットと画像分類データセットの2つのデータセットについて実験を行い、4つの最先端説明可能性手法の性能評価を行った。 以上の結果から,クラス外れによる課題に対処するための堅牢なテクニックの必要性が浮き彫りになった。

関連論文リスト

• Systematic Evaluation of Predictive Fairness [60.0947291284978]
  バイアス付きデータセットのトレーニングにおけるバイアスの緩和は、重要なオープンな問題である。 複数のタスクにまたがる様々なデバイアス化手法の性能について検討する。 データ条件が相対モデルの性能に強い影響を与えることがわかった。
  論文  参考訳（メタデータ） (2022-10-17T05:40:13Z)
• Exploiting Fairness to Enhance Sensitive Attributes Reconstruction [0.0]
  近年、公正な制約の下で機械学習モデルを学習する方法に関する研究が増えている。 本研究では,このモデルの公正性に関する情報を敵に活用して,トレーニングデータの感度特性の再構築を促進できることを示す。 本稿では,初期推定を入力とし,ユーザ定義制約に適合するように補正する汎用的な再構成補正手法を提案する。
  論文  参考訳（メタデータ） (2022-09-02T06:15:15Z)
• Resolving label uncertainty with implicit posterior models [71.62113762278963]
  本稿では,データサンプルのコレクション間でラベルを共同で推論する手法を提案する。 異なる予測子を後部とする生成モデルの存在を暗黙的に仮定することにより、弱い信念の下での学習を可能にする訓練目標を導出する。
  論文  参考訳（メタデータ） (2022-02-28T18:09:44Z)
• On Modality Bias Recognition and Reduction [70.69194431713825]
  マルチモーダル分類の文脈におけるモダリティバイアス問題について検討する。 本稿では,各ラベルの特徴空間を適応的に学習するプラグアンドプレイ損失関数法を提案する。 本手法は, ベースラインに比べ, 顕著な性能向上を実現している。
  論文  参考訳（メタデータ） (2022-02-25T13:47:09Z)
• Active Weighted Aging Ensemble for Drifted Data Stream Classification [2.277447144331876]
  概念ドリフトは分類モデルの性能を不安定化し、その品質を著しく低下させる。 提案手法は実データストリームと実データストリームの両方を用いて計算機実験により評価されている。 その結果,提案アルゴリズムは最先端手法よりも高品質であることが確認された。
  論文  参考訳（メタデータ） (2021-12-19T13:52:53Z)
• Revisiting Methods for Finding Influential Examples [2.094022863940315]
  テスト時間決定に有効なトレーニング例を見つける方法が提案されている。 本稿では,これらの手法がすべて不安定であることを示す。 本稿では, 毒素攻撃を検知する能力によって, このような説明を評価することを提案する。
  論文  参考訳（メタデータ） (2021-11-08T18:00:06Z)
• Discriminative Attribution from Counterfactuals [64.94009515033984]
  本稿では,特徴属性と反実的説明を組み合わせたニューラルネットワークの解釈可能性について述べる。 本手法は,特徴属性法の性能を客観的に評価するために有効であることを示す。
  論文  参考訳（メタデータ） (2021-09-28T00:53:34Z)
• On Sample Based Explanation Methods for NLP:Efficiency, Faithfulness, and Semantic Evaluation [23.72825603188359]
  我々は、任意のテキストシーケンスを説明単位として許容することにより、説明の解釈可能性を向上させることができる。 本研究では,人間による説明の判断に適合する意味に基づく評価指標を提案する。
  論文  参考訳（メタデータ） (2021-06-09T00:49:56Z)
• Visualization of Supervised and Self-Supervised Neural Networks via Attribution Guided Factorization [87.96102461221415]
  クラスごとの説明性を提供するアルゴリズムを開発した。 実験の広範なバッテリーでは、クラス固有の可視化のための手法の能力を実証する。
  論文  参考訳（メタデータ） (2020-12-03T18:48:39Z)
• A Diagnostic Study of Explainability Techniques for Text Classification [52.879658637466605]
  既存の説明可能性技術を評価するための診断特性のリストを作成する。 そこで本研究では, モデルの性能と有理性との整合性の関係を明らかにするために, 説明可能性手法によって割り当てられた有理性スコアと有理性入力領域の人間のアノテーションを比較した。
  論文  参考訳（メタデータ） (2020-09-25T12:01:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。