Fugu-MT 論文翻訳(概要): VitrAI -- Applying Explainable AI in the Real World

論文の概要: VitrAI -- Applying Explainable AI in the Real World

arxiv url: http://arxiv.org/abs/2102.06518v1
Date: Fri, 12 Feb 2021 13:44:39 GMT
ステータス: 処理完了
システム内更新日: 2021-02-15 13:22:59.584157
Title: VitrAI -- Applying Explainable AI in the Real World
Title（参考訳）: VitrAI -- 実世界で説明可能なAIを適用する
Authors: Marc Hanussek, Falko K\"otter, Maximilien Kintz, Jens Drawehn
Abstract要約: VitrAIは、3つの実生活シナリオの文脈で4つの異なるXAIアルゴリズムを均一に実証することを目的としているWebベースのサービスです。この研究は、XAIメソッドを採用する際の現実的な障害を明らかにし、上記のシナリオでどのように異なるアプローチがうまく機能するかを定性的に見積もる。
参考スコア（独自算出の注目度）: 0.0
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: With recent progress in the field of Explainable Artificial Intelligence (XAI) and increasing use in practice, the need for an evaluation of different XAI methods and their explanation quality in practical usage scenarios arises. For this purpose, we present VitrAI, which is a web-based service with the goal of uniformly demonstrating four different XAI algorithms in the context of three real life scenarios and evaluating their performance and comprehensibility for humans. This work reveals practical obstacles when adopting XAI methods and gives qualitative estimates on how well different approaches perform in said scenarios.
Abstract（参考訳）: 説明可能な人工知能(XAI)の分野における最近の進歩と実際にの使用の増加に伴い、実用的な使用シナリオにおける異なるXAI方法およびそれらの説明品質の評価の必要性が発生します。そこで本研究では,3つの実生活シナリオの文脈において,4つの異なるXAIアルゴリズムを均一に示すことを目的として,WebベースのサービスであるVitrAIについて述べる。この研究は、XAIメソッドを採用する際の現実的な障害を明らかにし、上記のシナリオでどのように異なるアプローチがうまく機能するかを定性的に見積もる。

関連論文リスト

Study on the Helpfulness of Explainable Artificial Intelligence [0.0]
法律、ビジネス、倫理的要件は、効果的なXAIの使用を動機付けている。本稿では,ユーザがプロキシタスクをうまく実行する能力を通じて,XAI手法を評価することを提案する。言い換えれば、人間の意思決定におけるXAIの有用性について論じる。
論文参考訳（メタデータ） (2024-10-14T14:03:52Z)
Beyond the Veil of Similarity: Quantifying Semantic Continuity in Explainable AI [1.628012064605754]
本稿では,説明可能なAI手法と機械学習モデルにおける意味連続性を測定するための新しい指標を提案する。我々は、入力の漸進的な変化が、異なるXAI手法によって提供される説明にどのように影響するかを観察する実験を行う。
論文参考訳（メタデータ） (2024-07-17T18:32:41Z)
How much informative is your XAI? A decision-making assessment task to objectively measure the goodness of explanations [53.01494092422942]
XAIに対する個人化アプローチとユーザ中心アプローチの数は、近年急速に増加している。ユーザ中心のXAIアプローチがユーザとシステム間のインタラクションに肯定的な影響を与えることが明らかとなった。我々は,XAIシステムの良否を客観的かつ定量的に評価するための評価課題を提案する。
論文参考訳（メタデータ） (2023-12-07T15:49:39Z)
An Experimental Investigation into the Evaluation of Explainability Methods [60.54170260771932]
この研究は、9つの最先端XAI法と3つのダミー法(例えば、ランダム・サリエンシ・マップ)に適用された14の異なるメトリクスを比較した。実験の結果、これらの指標のどれが高い相関関係を示し、潜在的な冗長性を示している。
論文参考訳（メタデータ） (2023-05-25T08:07:07Z)
Attribution-based XAI Methods in Computer Vision: A Review [5.076419064097734]
コンピュータビジョンにおける属性に基づくXAI手法の総合的な調査を行う。我々は、XAIの勾配に基づく、摂動に基づく、および対照的な手法に関する既存の文献をレビューする。
論文参考訳（メタデータ） (2022-11-27T05:56:36Z)
Towards Human Cognition Level-based Experiment Design for Counterfactual Explanations (XAI) [68.8204255655161]
XAI研究の重点は、より理解を深めるために、より実践的な説明アプローチに変わったようだ。認知科学研究がXAIの進歩に大きく影響を与える可能性のある領域は、ユーザの知識とフィードバックを評価することである。本研究では,異なる認知レベルの理解に基づく説明の生成と評価を実験する枠組みを提案する。
論文参考訳（メタデータ） (2022-10-31T19:20:22Z)
INTERACTION: A Generative XAI Framework for Natural Language Inference Explanations [58.062003028768636]
現在のXAIアプローチは、ひとつの説明を提供することにのみ焦点をあてています。本稿では、生成型XAIフレームワーク、InterACTION(explaIn aNd predicT thEn queRy with contextuAl CondiTional variational autO-eNcoder)を提案する。提案するフレームワークは,説明とラベル予測の2つのステップ,および(ステップ2)異種証拠生成の2つのステップで説明を行う。
論文参考訳（メタデータ） (2022-09-02T13:52:39Z)
Connecting Algorithmic Research and Usage Contexts: A Perspective of Contextualized Evaluation for Explainable AI [65.44737844681256]
説明可能なAI(XAI)を評価する方法に関するコンセンサスの欠如は、この分野の進歩を妨げる。このギャップを埋める一つの方法は、異なるユーザ要求を考慮に入れた評価方法を開発することである、と我々は主張する。
論文参考訳（メタデータ） (2022-06-22T05:17:33Z)
Beyond Explaining: Opportunities and Challenges of XAI-Based Model Improvement [75.00655434905417]
説明可能な人工知能(XAI)は、高度に複雑な機械学習(ML)モデルに透明性をもたらす新たな研究分野である。本稿では,機械学習モデルの諸特性を改善するために,XAIを実用的に応用する手法を概観する。実験では,モデル一般化能力や推論などの特性を改善する上で,説明がどのように役立つのかを,おもちゃと現実的な設定で実証的に示す。
論文参考訳（メタデータ） (2022-03-15T15:44:28Z)
Introducing and assessing the explainable AI (XAI)method: SIDU [17.127282412294335]
本稿では,オブジェクト領域全体を効果的にローカライズできる新しいxaiビジュアル説明アルゴリズムsiduを提案する。様々な計算および人体実験を通して,その頑健性と有効性を分析した。
論文参考訳（メタデータ） (2021-01-26T11:13:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。