論文の概要: A Theoretical Framework for AI Models Explainability
- arxiv url: http://arxiv.org/abs/2212.14447v1
- Date: Thu, 29 Dec 2022 20:05:26 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-02 15:10:50.474604
- Title: A Theoretical Framework for AI Models Explainability
- Title（参考訳）: AIモデルの説明可能性に関する理論的フレームワーク
- Authors: Matteo Rizzo, Alberto Veneri, Andrea Albarelli, Claudio Lucchese,
Cristina Conati
- Abstract要約: 本稿では,文献に見いだせる内容の合成である説明の新たな定義を提案する。
我々は、忠実性(すなわち、モデルの意思決定の真の説明である説明)と妥当性(どの程度の説明がユーザにとって説得力のあるように見えるか)に説明を適合させる。
- 参考スコア（独自算出の注目度）: 3.834607997501877
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Explainability is a vibrant research topic in the artificial intelligence
community, with growing interest across methods and domains. Much has been
written about the topic, yet explainability still lacks shared terminology and
a framework capable of providing structural soundness to explanations. In our
work, we address these issues by proposing a novel definition of explanation
that is a synthesis of what can be found in the literature. We recognize that
explanations are not atomic but the product of evidence stemming from the model
and its input-output and the human interpretation of this evidence.
Furthermore, we fit explanations into the properties of faithfulness (i.e., the
explanation being a true description of the model's decision-making) and
plausibility (i.e., how much the explanation looks convincing to the user).
Using our proposed theoretical framework simplifies how these properties are
ope rationalized and provide new insight into common explanation methods that
we analyze as case studies.
- Abstract（参考訳）: 説明可能性は、人工知能コミュニティにおいて活発な研究テーマであり、メソッドやドメイン間で関心が高まっている。
この話題については多くが書かれてきたが、説明可能性には依然として共通用語や、説明に構造的健全性を提供するフレームワークが欠けている。
本研究では,文献に見ることができるものの合成である説明の新しい定義を提案することで,これらの課題に対処した。
我々は、説明が原子性ではなく、モデルとその入力出力、およびこの証拠の人間の解釈に由来する証拠の積であると認識する。
さらに、説明を忠実性(すなわち、モデルの意思決定の真の説明である説明)と可能性(つまり、説明がユーザに対してどの程度説得力があるか)の性質に適合させる。
提案する理論的枠組みを用いることで,これらの性質がいかに合理化されているかを単純化し,ケーススタディとして分析する共通説明法に対する新たな洞察を与える。
関連論文リスト
- A Mechanistic Explanatory Strategy for XAI [0.0]
本稿では,ディープラーニングシステムの機能的構造を説明するためのメカニズム的戦略を概説する。
メカニスティックアプローチによると、不透明なAIシステムの説明には、意思決定を促進するメカニズムの特定が含まれる。
この研究は、モデル組織を研究するための体系的なアプローチが、より単純な(あるいはより控えめな)説明可能性技術が欠落する可能性のある要素を明らかにすることを示唆している。
論文 参考訳（メタデータ） (2024-11-02T18:30:32Z) - An Ontology-Enabled Approach For User-Centered and Knowledge-Enabled Explanations of AI Systems [0.3480973072524161]
説明可能性に関する最近の研究は、AIモデルやモデル説明可能性の動作を説明することに重点を置いている。
この論文は、モデルとユーザ中心の説明可能性の間のギャップを埋めようとしている。
論文 参考訳（メタデータ） (2024-10-23T02:03:49Z) - Explaining Text Similarity in Transformer Models [52.571158418102584]
説明可能なAIの最近の進歩により、トランスフォーマーの説明の改善を活用することで、制限を緩和できるようになった。
両線形類似性モデルにおける2次説明の計算のために開発された拡張であるBiLRPを用いて、NLPモデルにおいてどの特徴相互作用が類似性を促進するかを調べる。
我々の発見は、異なる意味的類似性タスクやモデルに対するより深い理解に寄与し、新しい説明可能なAIメソッドが、どのようにして深い分析とコーパスレベルの洞察を可能にするかを強調した。
論文 参考訳（メタデータ） (2024-05-10T17:11:31Z) - Evaluating the Utility of Model Explanations for Model Development [54.23538543168767]
機械学習モデル構築の実践シナリオにおいて、説明が人間の意思決定を改善するかどうかを評価する。
驚いたことに、サリエンシマップが提供されたとき、タスクが大幅に改善されたという証拠は見つからなかった。
以上の結果から,サリエンシに基づく説明における誤解の可能性と有用性について注意が必要であることが示唆された。
論文 参考訳（メタデータ） (2023-12-10T23:13:23Z) - MetaLogic: Logical Reasoning Explanations with Fine-Grained Structure [129.8481568648651]
複雑な実生活シナリオにおけるモデルの論理的推論能力を調べるためのベンチマークを提案する。
推論のマルチホップ連鎖に基づいて、説明形式は3つの主成分を含む。
この新たな説明形式を用いて,現在のベストモデルの性能を評価した。
論文 参考訳（メタデータ） (2022-10-22T16:01:13Z) - Scientific Explanation and Natural Language: A Unified
Epistemological-Linguistic Perspective for Explainable AI [2.7920304852537536]
本稿では,理論と実践のギャップを科学的説明の概念に埋めることを目的として,科学的領域に焦点を当てた。
定量的および定性的手法の混合により、本研究では以下の主要な結論を導出することができる。
論文 参考訳（メタデータ） (2022-05-03T22:31:42Z) - Explanation from Specification [3.04585143845864]
我々は、説明のタイプが仕様によって導かれるアプローチを定式化する。
議論理論を用いたベイズ的ネットワークの説明とグラフニューラルネットワークの説明の2つの例について論じる。
このアプローチは科学哲学における説明理論に動機付けられており、機械学習の役割に関する科学哲学における現在の疑問と関連づけられている。
論文 参考訳（メタデータ） (2020-12-13T23:27:48Z) - A Diagnostic Study of Explainability Techniques for Text Classification [52.879658637466605]
既存の説明可能性技術を評価するための診断特性のリストを作成する。
そこで本研究では, モデルの性能と有理性との整合性の関係を明らかにするために, 説明可能性手法によって割り当てられた有理性スコアと有理性入力領域の人間のアノテーションを比較した。
論文 参考訳（メタデータ） (2020-09-25T12:01:53Z) - Explainability in Deep Reinforcement Learning [68.8204255655161]
説明可能な強化学習(XRL)の実現に向けての最近の成果を概観する。
エージェントの振る舞いを正当化し、説明することが不可欠である重要な状況において、RLモデルのより良い説明可能性と解釈性は、まだブラックボックスと見なされているものの内部動作に関する科学的洞察を得るのに役立つ。
論文 参考訳（メタデータ） (2020-08-15T10:11:42Z) - A general framework for scientifically inspired explanations in AI [76.48625630211943]
我々は、AIシステムの説明を実装可能な一般的なフレームワークの理論的基盤として、科学的説明の構造の概念をインスタンス化する。
このフレームワークは、AIシステムの"メンタルモデル"を構築するためのツールを提供することを目的としている。
論文 参考訳（メタデータ） (2020-03-02T10:32:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。