Fugu-MT 論文翻訳(概要): The Need for Standardized Explainability

論文の概要: The Need for Standardized Explainability

arxiv url: http://arxiv.org/abs/2010.11273v2
Date: Fri, 23 Oct 2020 02:19:36 GMT
ステータス: 処理完了
システム内更新日: 2022-10-05 06:21:17.385248
Title: The Need for Standardized Explainability
Title（参考訳）: 標準化された説明可能性の必要性
Authors: Othman Benchekroun, Adel Rahimi, Qini Zhang, Tetiana Kodliuk
Abstract要約: 本稿では,説明可能性領域の現状を考察し,説明可能性と解釈可能性に関する新たな定義を提供する。本稿では、説明可能性に関する文献の概要と、すでに実装済みの既存手法について概説する。我々は、様々な説明可能性の手法を仮に分類し、将来の研究への扉を開く。
参考スコア（独自算出の注目度）: 0.4588028371034407
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Explainable AI (XAI) is paramount in industry-grade AI; however existing methods fail to address this necessity, in part due to a lack of standardisation of explainability methods. The purpose of this paper is to offer a perspective on the current state of the area of explainability, and to provide novel definitions for Explainability and Interpretability to begin standardising this area of research. To do so, we provide an overview of the literature on explainability, and of the existing methods that are already implemented. Finally, we offer a tentative taxonomy of the different explainability methods, opening the door to future research.
Abstract（参考訳）: 説明可能なai(xai)は、業界レベルのaiでは最重要だが、説明可能性の標準化が欠如していることもあって、既存の方法では、この必要性に対処できない。本研究の目的は,説明可能性領域の現況と,説明可能性と解釈可能性の新しい定義を提供し,この領域を標準化することである。そこで本稿では,説明可能性に関する文献の概要と,すでに実装済みの既存手法について概説する。最後に, 異なる説明可能性法を仮分類し, 今後の研究への扉を開く。

関連論文リスト

Statistics and explainability: a fruitful alliance [0.0]
本稿では,説明可能性の文献で一般的に強調される問題に対する解法として,標準的な統計ツールを提案する。我々は、確実な定量化が堅牢で信頼できる説明を提供するのに不可欠であると主張している。
論文参考訳（メタデータ） (2024-04-30T07:04:23Z)
Opening the Black-Box: A Systematic Review on Explainable AI in Remote Sensing [51.524108608250074]
ブラックボックス機械学習アプローチは、リモートセンシングにおける知識抽出における主要なモデリングパラダイムとなっている。我々は、この分野における重要なトレンドを特定するための体系的なレビューを行い、新しい説明可能なAIアプローチに光を当てた。また,課題と将来的な研究方向性について,より詳細な展望を述べる。
論文参考訳（メタデータ） (2024-02-21T13:19:58Z)
Interpretability is not Explainability: New Quantitative XAI Approach with a focus on Recommender Systems in Education [0.0]
我々は,XAIにおける重要な概念と関係の明確かつ曖昧な理解を提供する新しい分類法を提案する。私たちのアプローチは、既存の定義やフレームワークの体系的な分析に根ざしています。この包括的分類学は、将来の研究のための共通語彙を確立することを目的としている。
論文参考訳（メタデータ） (2023-09-18T11:59:02Z)
Explainability for Large Language Models: A Survey [59.67574757137078]
大規模言語モデル(LLM)は、自然言語処理における印象的な能力を示している。本稿では,トランスフォーマーに基づく言語モデルを記述する手法について,説明可能性の分類法を紹介した。
論文参考訳（メタデータ） (2023-09-02T22:14:26Z)
Explaining Explainability: Towards Deeper Actionable Insights into Deep Learning through Second-order Explainability [70.60433013657693]
2階説明可能なAI(SOXAI)は、最近インスタンスレベルからデータセットレベルまで説明可能なAI(XAI)を拡張するために提案されている。そこで本研究では,SOXAIの動作可能な洞察に基づくトレーニングセットから無関係な概念を除外することで,モデルの性能を向上させることができることを示す。
論文参考訳（メタデータ） (2023-06-14T23:24:01Z)
Towards Faithful Model Explanation in NLP: A Survey [48.690624266879155]
エンドツーエンドのニューラルネットワーク処理(NLP)モデルを理解するのは非常に難しい。モデル説明の一側面は忠実さであり、すなわち、説明はモデルの予測の背後にある推論過程を正確に表現すべきである。我々は,NLPにおける110以上のモデル説明法を忠実度レンズを用いてレビューした。
論文参考訳（メタデータ） (2022-09-22T21:40:51Z)
A general-purpose method for applying Explainable AI for Anomaly Detection [6.09170287691728]
説明可能なAI(XAI)の必要性は十分に確立されているが、教師付き学習パラダイム以外では比較的公表されていない。本稿では、教師なし異常検出のタスクに説明可能性と解釈可能性を適用するための原則的なアプローチに焦点を当てる。
論文参考訳（メタデータ） (2022-07-23T17:56:01Z)
Do Natural Language Explanations Represent Valid Logical Arguments? Verifying Entailment in Explainable NLI Gold Standards [0.0]
説明可能なNLPの研究の新興ラインは、人間の注釈付き説明と合理性に富むデータセットの作成である。人間の注釈付き説明は推論の根拠として使用されるが、それらの一貫性と厳密さの体系的な評価の欠如がある。本論文では,ヒトの注釈付き説明の論理的妥当性を定量化するために,系統的アノテーション手法である説明関連検証(EEV)を提案する。
論文参考訳（メタデータ） (2021-05-05T10:59:26Z)
On the Faithfulness Measurements for Model Interpretations [100.2730234575114]
ポストホックな解釈は、自然言語処理(NLP)モデルがどのように予測を行うかを明らかにすることを目的とする。これらの問題に取り組むために,我々は,削除基準,解釈の感度,解釈の安定性という3つの基準から始める。これらの忠実性概念のデシデラタムに動機づけられ、敵対的領域からのテクニックを採用する新しい解釈方法のクラスを導入する。
論文参考訳（メタデータ） (2021-04-18T09:19:44Z)
Individual Explanations in Machine Learning Models: A Case Study on Poverty Estimation [63.18666008322476]
機械学習の手法は、敏感な社会的文脈でますます適用されつつある。本研究の主な目的は2つある。まず、これらの課題を公開し、関連性のある新しい説明方法の使用にどのように影響するか。次に、関連するアプリケーションドメインで説明メソッドを実装する際に直面するような課題を軽減する一連の戦略を提示します。
論文参考訳（メタデータ） (2021-04-09T01:54:58Z)
A Survey of the State of Explainable AI for Natural Language Processing [16.660110121500125]
本稿では, 説明可能なAI(XAI)の現状について概観する。本稿では,説明の主分類について論じるとともに,説明が到着して視覚化される様々な方法について論じる。我々は、NLPモデル予測のための説明を生成するために現在利用可能な操作および説明可能性技術について詳述し、コミュニティにおけるモデル開発者のためのリソースとして機能する。
論文参考訳（メタデータ） (2020-10-01T22:33:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。