Fugu-MT 論文翻訳(概要): Challenges in Applying Explainability Methods to Improve the Fairness of NLP Models

論文の概要: Challenges in Applying Explainability Methods to Improve the Fairness of NLP Models

arxiv url: http://arxiv.org/abs/2206.03945v1
Date: Wed, 8 Jun 2022 15:09:04 GMT
ステータス: 処理完了
システム内更新日: 2022-06-09 13:59:14.684459
Title: Challenges in Applying Explainability Methods to Improve the Fairness of NLP Models
Title（参考訳）: nlpモデルの公平性向上のための説明可能性法適用の課題
Authors: Esma Balkir, Svetlana Kiritchenko, Isar Nejadgholi, and Kathleen C. Fraser
Abstract要約: 説明可能な人工知能(XAI)の手法へのモチベーションは、しばしばバイアスの検出、定量化、緩和を含む。本稿では,NLP研究における説明可能性と公正性の傾向を概観し,バイアスの検出・緩和に説明可能性手法が適用されている現状を検証し,公平性問題に対処する上でXAI手法がより広く使用されることを防ぐ障壁について検討する。
参考スコア（独自算出の注目度）: 7.022948483613113
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Motivations for methods in explainable artificial intelligence (XAI) often include detecting, quantifying and mitigating bias, and contributing to making machine learning models fairer. However, exactly how an XAI method can help in combating biases is often left unspecified. In this paper, we briefly review trends in explainability and fairness in NLP research, identify the current practices in which explainability methods are applied to detect and mitigate bias, and investigate the barriers preventing XAI methods from being used more widely in tackling fairness issues.
Abstract（参考訳）: 説明可能な人工知能(xai)の方法に対するモチベーションには、バイアスの検出、定量化、緩和、マシンラーニングモデルの公正化への寄与などが含まれる。しかし、XAI法が偏見と戦うのにどのように役立つかは、正確には特定されていないことが多い。本稿では,NLP研究における説明可能性と公正性の傾向を概観し,バイアスの検出・緩和に説明可能性手法が適用されている現状を検証し,公平性問題に対処するためにXAI手法がより広く使用されることを防ぐ障壁について検討する。

関連論文リスト

Advancing Fairness in Natural Language Processing: From Traditional Methods to Explainability [0.9065034043031668]
この論文は、NLPシステムにおける株式と透明性の必要性に対処している。高リスクNLPアプリケーションにおけるバイアスを軽減する革新的なアルゴリズムを導入している。また、トランスフォーマーモデルの概念を特定し、ランク付けするモデルに依存しない説明可能性法を提案する。
論文参考訳（メタデータ） (2024-10-16T12:38:58Z)
XAI-TRIS: Non-linear image benchmarks to quantify false positive post-hoc attribution of feature importance [1.3958169829527285]
形式的な基盤の欠如は、与えられた XAI 法の結果からどの結論を安全に導き出すことができるのかがはっきりしない。これは、一般的にディープニューラルネットワークによって解決される非線形問題に挑戦するが、現在は適切な治療法が欠如していることを意味する。我々は,一般的なXAI手法が,ランダムな性能基準やエッジ検出方法よりも著しく優れていることを示す。
論文参考訳（メタデータ） (2023-06-22T11:31:11Z)
Explaining Explainability: Towards Deeper Actionable Insights into Deep Learning through Second-order Explainability [70.60433013657693]
2階説明可能なAI(SOXAI)は、最近インスタンスレベルからデータセットレベルまで説明可能なAI(XAI)を拡張するために提案されている。そこで本研究では,SOXAIの動作可能な洞察に基づくトレーニングセットから無関係な概念を除外することで,モデルの性能を向上させることができることを示す。
論文参考訳（メタデータ） (2023-06-14T23:24:01Z)
Adversarial attacks and defenses in explainable artificial intelligence: A survey [11.541601343587917]
敵機械学習(AdvML)の最近の進歩は、最先端の説明手法の限界と脆弱性を強調している。本調査は、機械学習モデルの説明に対する敵攻撃に関する総合的な研究の概要を提供する。
論文参考訳（メタデータ） (2023-06-06T09:53:39Z)
Fair Enough: Standardizing Evaluation and Model Selection for Fairness Research in NLP [64.45845091719002]
現代のNLPシステムは様々なバイアスを示しており、モデル偏見に関する文献が増えている。本稿では,その現状を解明し,公正学習における意味ある進歩の道筋を立案することを目的とする。
論文参考訳（メタデータ） (2023-02-11T14:54:00Z)
A general-purpose method for applying Explainable AI for Anomaly Detection [6.09170287691728]
説明可能なAI(XAI)の必要性は十分に確立されているが、教師付き学習パラダイム以外では比較的公表されていない。本稿では、教師なし異常検出のタスクに説明可能性と解釈可能性を適用するための原則的なアプローチに焦点を当てる。
論文参考訳（メタデータ） (2022-07-23T17:56:01Z)
Principled Knowledge Extrapolation with GANs [92.62635018136476]
我々は,知識外挿の新たな視点から,対実合成を研究する。本稿では, 知識外挿問題に対処するために, クローズド形式判別器を用いた対角ゲームが利用可能であることを示す。提案手法は,多くのシナリオにおいて,エレガントな理論的保証と優れた性能の両方を享受する。
論文参考訳（メタデータ） (2022-05-21T08:39:42Z)
Beyond Explaining: Opportunities and Challenges of XAI-Based Model Improvement [75.00655434905417]
説明可能な人工知能(XAI)は、高度に複雑な機械学習(ML)モデルに透明性をもたらす新たな研究分野である。本稿では,機械学習モデルの諸特性を改善するために,XAIを実用的に応用する手法を概観する。実験では,モデル一般化能力や推論などの特性を改善する上で,説明がどのように役立つのかを,おもちゃと現実的な設定で実証的に示す。
論文参考訳（メタデータ） (2022-03-15T15:44:28Z)
A new interpretable unsupervised anomaly detection method based on residual explanation [47.187609203210705]
本稿では,大規模システムにおけるAEベースのADの制限に対処する新しい解釈可能性手法であるRXPを提案する。実装の単純さ、計算コストの低さ、決定論的振る舞いが特徴である。実鉄道路線のデータを用いた実験において,提案手法はSHAPよりも優れた性能を示した。
論文参考訳（メタデータ） (2021-03-14T15:35:45Z)
Explainability in Deep Reinforcement Learning [68.8204255655161]
説明可能な強化学習(XRL)の実現に向けての最近の成果を概観する。エージェントの振る舞いを正当化し、説明することが不可欠である重要な状況において、RLモデルのより良い説明可能性と解釈性は、まだブラックボックスと見なされているものの内部動作に関する科学的洞察を得るのに役立つ。
論文参考訳（メタデータ） (2020-08-15T10:11:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。