論文の概要: Clash of the Explainers: Argumentation for Context-Appropriate
Explanations
- arxiv url: http://arxiv.org/abs/2312.07635v1
- Date: Tue, 12 Dec 2023 09:52:30 GMT
- ステータス: 処理完了
- システム内更新日: 2023-12-14 18:01:58.026999
- Title: Clash of the Explainers: Argumentation for Context-Appropriate
Explanations
- Title（参考訳）: 説明者の批判: 適切な説明のための議論
- Authors: Leila Methnani, Virginia Dignum, Andreas Theodorou
- Abstract要約: 特定のコンテキストに最も適したアプローチはひとつもありません。
AIの説明容易性を効果的にするためには、説明とそれらがどのように提示されるかは、説明を受けるステークホルダーに向けられる必要がある。
本稿では、関係する利害関係者の精神モデルと、多説明者による議論問題を解決する理性コンポーネントと、利害関係者に適切に説明すべきAIモデルとからなるモジュラー推論システムを提案する。
- 参考スコア（独自算出の注目度）: 6.8285745209093145
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Understanding when and why to apply any given eXplainable Artificial
Intelligence (XAI) technique is not a straightforward task. There is no single
approach that is best suited for a given context. This paper aims to address
the challenge of selecting the most appropriate explainer given the context in
which an explanation is required. For AI explainability to be effective,
explanations and how they are presented needs to be oriented towards the
stakeholder receiving the explanation. If -- in general -- no single
explanation technique surpasses the rest, then reasoning over the available
methods is required in order to select one that is context-appropriate. Due to
the transparency they afford, we propose employing argumentation techniques to
reach an agreement over the most suitable explainers from a given set of
possible explainers.
In this paper, we propose a modular reasoning system consisting of a given
mental model of the relevant stakeholder, a reasoner component that solves the
argumentation problem generated by a multi-explainer component, and an AI model
that is to be explained suitably to the stakeholder of interest. By formalising
supporting premises -- and inferences -- we can map stakeholder characteristics
to those of explanation techniques. This allows us to reason over the
techniques and prioritise the best one for the given context, while also
offering transparency into the selection decision.
- Abstract（参考訳）: 特定のeXplainable Artificial Intelligence(XAI)テクニックをいつ、なぜ適用すべきかを理解するのは簡単な作業ではありません。
特定のコンテキストに最も適したアプローチはひとつもありません。
本稿は,説明が必要な文脈において,最も適切な説明者を選択するという課題に対処することを目的とする。
aiによる説明が効果的になるためには、説明を受け付けるステークホルダーに対して、説明とその提示方法が向けられる必要がある。
もし -- 一般に -- 唯一の説明テクニックが残りの部分を超えなければ、コンテキストに適合するメソッドを選択するために利用可能なメソッドを推論する必要がある。
透明性のため,任意の説明者の中から,最も適切な説明者に対する合意に達するための議論手法を導入することを提案する。
本稿では,利害関係者の所定のメンタルモデルと,複数の利害関係者の利害関係者に対して適切に説明できるaiモデルを用いて,利害関係者の利害関係者の利害関係者に対する論議問題を解く理性要素からなるモジュラー推論システムを提案する。
サポートする前提 -- と推論 -- をフォーマルにすることで、ステークホルダーの特性を説明手法にマッピングすることができます。
これにより、テクニックを推論し、与えられたコンテキストに最適なものを優先することができると同時に、選択決定に対する透明性も提供できます。
関連論文リスト
- HOP, UNION, GENERATE: Explainable Multi-hop Reasoning without Rationale
Supervision [118.0818807474809]
本研究は、合理的な監督なしに説明可能なマルチホップQAシステムを訓練するための原則的確率論的アプローチを提案する。
提案手法は,集合としての有理を明示的にモデル化し,文書と文間の相互作用を文書内で捉えることによって,マルチホップ推論を行う。
論文 参考訳（メタデータ） (2023-05-23T16:53:49Z) - In Search of Verifiability: Explanations Rarely Enable Complementary
Performance in AI-Advised Decision Making [25.18203172421461]
説明は、人間の意思決定者がAIの予測の正しさを検証できる範囲でのみ有用である、と我々は主張する。
また、補完性能の目的と適切な依存度を比較し、後者を結果段階と戦略段階の信頼度の概念に分解する。
論文 参考訳（メタデータ） (2023-05-12T18:28:04Z) - Disagreement amongst counterfactual explanations: How transparency can
be deceptive [0.0]
偽物の説明は、説明可能な人工知能技術としてますます使われている。
すべてのアルゴリズムが同じインスタンスに対して一様説明を生成するわけではない。
悪意のあるエージェントがこの多様性を使って不公平な機械学習モデルに見合うと、倫理的な問題が生じる。
論文 参考訳（メタデータ） (2023-04-25T09:15:37Z) - Explanation Selection Using Unlabeled Data for Chain-of-Thought
Prompting [80.9896041501715]
非専門家によって書かれたオフ・ザ・シェルフの説明のように、タスクのために"チューニング"されていない説明は、中途半端なパフォーマンスをもたらす可能性がある。
本稿では,ブラックボックス方式で説明拡散プロンプトを最適化する方法の課題に対処する。
論文 参考訳（メタデータ） (2023-02-09T18:02:34Z) - Human Interpretation of Saliency-based Explanation Over Text [65.29015910991261]
テキストデータ上でのサリエンシに基づく説明について検討する。
人はしばしば説明を誤って解釈する。
本稿では,過度知覚と過小認識のモデル推定に基づいて,サリエンシを調整する手法を提案する。
論文 参考訳（メタデータ） (2022-01-27T15:20:32Z) - Making Things Explainable vs Explaining: Requirements and Challenges
under the GDPR [2.578242050187029]
ExplanatorY AI(YAI)はXAI上に構築され、説明可能な情報の収集と整理を目的としている。
本稿では,自動意思決定システム(ADM)について,説明空間上の適切な経路を特定するための説明を生成する問題について述べる。
論文 参考訳（メタデータ） (2021-10-02T08:48:47Z) - Prompting Contrastive Explanations for Commonsense Reasoning Tasks [74.7346558082693]
大規模事前学習言語モデル(PLM)は、常識推論タスクにおいて、ほぼ人間に近い性能を達成することができる。
人間の解釈可能な証拠を生成するために、同じモデルを使う方法を示す。
論文 参考訳（メタデータ） (2021-06-12T17:06:13Z) - Discrete Reasoning Templates for Natural Language Understanding [79.07883990966077]
我々は,複雑な質問をより単純な質問に分解する手法を提案する。
事前定義された推論テンプレートの指示に従って最終回答を導出する。
我々のアプローチは、解釈可能でありながら最先端技術と競合し、監督をほとんど必要としないことを示す。
論文 参考訳（メタデータ） (2021-04-05T18:56:56Z) - Contrastive Explanations for Model Interpretability [77.92370750072831]
分類モデルの対照的説明を生成する手法を提案する。
本手法は潜在空間へのモデル表現の投影に基づいている。
本研究は,モデル決定のより正確できめ細かな解釈性を提供するためのラベルコントラスト的説明の能力に光を当てた。
論文 参考訳（メタデータ） (2021-03-02T00:36:45Z) - Altruist: Argumentative Explanations through Local Interpretations of
Predictive Models [10.342433824178825]
既存の説明技法はエンドユーザには理解できないことが多い。
本稿では,特徴重視の解釈の真相を識別する予備的メタ説明手法を提案する。
実験は、複数の解釈技法のアンサンブルが、より真理的な説明をもたらすことを強く示唆している。
論文 参考訳（メタデータ） (2020-10-15T10:36:48Z) - Algorithmic Recourse: from Counterfactual Explanations to Interventions [16.9979815165902]
反事実的な説明は、どこに着く必要があるのかを個人に知らせるが、そこにたどり着くには至らない、と我々は主張する。
代わりに、最小限の介入を通して、最も近い対実的な説明から言い換えへのパラダイムシフトを提案する。
論文 参考訳（メタデータ） (2020-02-14T22:49:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。