論文の概要: Predictability and Comprehensibility in Post-Hoc XAI Methods: A User-Centered Analysis

• arxiv url: http://arxiv.org/abs/2309.11987v1
• Date: Thu, 21 Sep 2023 11:54:20 GMT
• ステータス: 処理完了
• システム内更新日: 2023-09-22 15:38:54.155700
• Title: Predictability and Comprehensibility in Post-Hoc XAI Methods: A User-Centered Analysis
• Title（参考訳）: ホック後XAI手法の予測可能性と理解性:ユーザ中心分析
• Authors: Anahid Jalali, Bernhard Haslhofer, Simone Kriglstein, Andreas Rauber
• Abstract要約: ポストホック説明可能性法は、ブラックボックス機械学習モデルの予測を明らかにすることを目的としている。 我々は、LIMEとSHAPの2つの広く使われているツールにおいて、理解性と予測可能性を評価するために、ユーザスタディを実施している。 モデル決定境界付近のサンプルに対して説明を行うと,SHAPの理解度が大幅に低下することがわかった。
• 参考スコア（独自算出の注目度）: 6.606409729669314
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Post-hoc explainability methods aim to clarify predictions of black-box machine learning models. However, it is still largely unclear how well users comprehend the provided explanations and whether these increase the users ability to predict the model behavior. We approach this question by conducting a user study to evaluate comprehensibility and predictability in two widely used tools: LIME and SHAP. Moreover, we investigate the effect of counterfactual explanations and misclassifications on users ability to understand and predict the model behavior. We find that the comprehensibility of SHAP is significantly reduced when explanations are provided for samples near a model's decision boundary. Furthermore, we find that counterfactual explanations and misclassifications can significantly increase the users understanding of how a machine learning model is making decisions. Based on our findings, we also derive design recommendations for future post-hoc explainability methods with increased comprehensibility and predictability.
• Abstract（参考訳）: ポストホックな説明可能性法は、ブラックボックス機械学習モデルの予測を明確にすることを目的としている。 しかし,提案した説明がどの程度理解されているか,モデル行動を予測する能力が向上するかは,まだ明らかになっていない。 我々は,LIME と SHAP の2つの広く利用されているツールにおいて,理解性と予測可能性を評価するためにユーザスタディを実施し,この問題にアプローチする。 さらに, モデル行動の理解・予測能力に及ぼす非現実的説明・誤分類の影響について検討した。 モデル決定境界付近のサンプルに対して説明を行うと,SHAPの理解度が大幅に低下することがわかった。 さらに,反事実的説明や誤分類は,機械学習モデルが意思決定を行う方法に対するユーザの理解を著しく高める可能性があることを見出した。 また,本研究は,より理解度と予測可能性を高めた今後のホック後説明可能性手法の設計勧告も導出した。

関連論文リスト

• Counterfactual Explanations for Deep Learning-Based Traffic Forecasting [42.31238891397725]
  この研究は、説明可能なAIアプローチ、反実的説明を活用し、ディープラーニングベースのトラフィック予測モデルの説明可能性とユーザビリティを高めることを目的としている。 この研究は、まず、過去の交通データと文脈変数に基づいて、交通速度を予測するディープラーニングモデルを実装する。 次に、これらの入力変数の変化が予測結果にどのように影響するかを照らすために、対実的な説明が使用される。
  論文  参考訳（メタデータ） (2024-05-01T11:26:31Z)
• Evaluating the Utility of Model Explanations for Model Development [54.23538543168767]
  機械学習モデル構築の実践シナリオにおいて、説明が人間の意思決定を改善するかどうかを評価する。 驚いたことに、サリエンシマップが提供されたとき、タスクが大幅に改善されたという証拠は見つからなかった。 以上の結果から,サリエンシに基づく説明における誤解の可能性と有用性について注意が必要であることが示唆された。
  論文  参考訳（メタデータ） (2023-12-10T23:13:23Z)
• Explainability for Large Language Models: A Survey [59.67574757137078]
  大規模言語モデル(LLM)は、自然言語処理における印象的な能力を示している。 本稿では,トランスフォーマーに基づく言語モデルを記述する手法について,説明可能性の分類法を紹介した。
  論文  参考訳（メタデータ） (2023-09-02T22:14:26Z)
• Explaining Explainability: Towards Deeper Actionable Insights into Deep Learning through Second-order Explainability [70.60433013657693]
  2階説明可能なAI(SOXAI)は、最近インスタンスレベルからデータセットレベルまで説明可能なAI(XAI)を拡張するために提案されている。 そこで本研究では,SOXAIの動作可能な洞察に基づくトレーニングセットから無関係な概念を除外することで,モデルの性能を向上させることができることを示す。
  論文  参考訳（メタデータ） (2023-06-14T23:24:01Z)
• Explainability in Process Outcome Prediction: Guidelines to Obtain Interpretable and Faithful Models [77.34726150561087]
  本稿では、プロセス結果予測の分野における説明可能性モデルと説明可能性モデルの忠実性を通して、説明可能性を定義する。 本稿では,イベントログの仕様に基づいて適切なモデルを選択することのできる,X-MOPというガイドラインのセットを提案する。
  論文  参考訳（メタデータ） (2022-03-30T05:59:50Z)
• Towards a Rigorous Evaluation of Explainability for Multivariate Time Series [5.786452383826203]
  本研究では,時系列予測問題におけるモデル非依存な説明可能性の実現と評価を行った。 その解決策は、販売契約を予測する時系列予測問題として問題をフレーミングすることであった。 LIMEとSHAPによる説明は、機械学習モデルによる予測を理解する上で、人間を大いに助けた。
  論文  参考訳（メタデータ） (2021-04-06T17:16:36Z)
• Beyond Trivial Counterfactual Explanations with Diverse Valuable Explanations [64.85696493596821]
  コンピュータビジョンの応用において、生成的対実法はモデルの入力を摂動させて予測を変更する方法を示す。 本稿では,多様性強化損失を用いて制約される不連続潜在空間における摂動を学習する反事実法を提案する。 このモデルは, 従来の最先端手法と比較して, 高品質な説明を生産する成功率を向上させる。
  論文  参考訳（メタデータ） (2021-03-18T12:57:34Z)
• DECE: Decision Explorer with Counterfactual Explanations for Machine Learning Models [36.50754934147469]
  我々は,機械学習モデルの振る舞いを理解し,探索するために,反実的説明の可能性を利用する。 我々は、個別のインスタンスとデータサブセットに関するモデルの判断を理解し、調査するのに役立つインタラクティブな可視化システムであるDECEを設計する。
  論文  参考訳（メタデータ） (2020-08-19T09:44:47Z)
• Evaluations and Methods for Explanation through Robustness Analysis [117.7235152610957]
  分析による特徴に基づく説明の新たな評価基準を確立する。 我々は、緩やかに必要であり、予測に十分である新しい説明を得る。 我々は、現在の予測をターゲットクラスに移動させる一連の特徴を抽出するために、説明を拡張します。
  論文  参考訳（メタデータ） (2020-05-31T05:52:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。