論文の概要: Does Dataset Complexity Matters for Model Explainers?

• arxiv url: http://arxiv.org/abs/2107.02661v1
• Date: Tue, 6 Jul 2021 15:01:04 GMT
• ステータス: 処理完了
• システム内更新日: 2021-07-07 18:09:43.506086
• Title: Does Dataset Complexity Matters for Model Explainers?
• Title（参考訳）: モデル記述者にとってデータセットの複雑さは重要か?
• Authors: Jos\'e Ribeiro, Ra\'issa Silva, Ronnie Alves
• Abstract要約: 本稿では、モデルに依存しないグローバルな説明可能性ランキングを生成することができる説明可能なAI技術の実験的なベンチマークを示す。 82の計算モデルと592のランクの構成結果から、説明可能性の問題の反対側にいくつかの光が当たっている。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Strategies based on Explainable Artificial Intelligence - XAI have emerged in computing to promote a better understanding of predictions made by black box models. Most XAI-based tools used today explain these types of models, generating attribute rankings aimed at explaining the same, that is, the analysis of Attribute Importance. There is no consensus on which XAI tool generates a general rank of explainability, for this reason, several proposals for tools have emerged (Ciu, Dalex, Eli5, Lofo, Shap and Skater). Here, we present an experimental benchmark of explainable AI techniques capable of producing model-agnostic global explainability ranks based on tabular data related to different problems. Seeking to answer questions such as "Are the explanations generated by the different tools the same, similar or different?" and "How does data complexity play along model explainability?". The results from the construction of 82 computational models and 592 ranks give us some light on the other side of the problem of explainability: dataset complexity!
• Abstract（参考訳）: 説明可能な人工知能に基づく戦略 - XAIはブラックボックスモデルによる予測の理解を深めるため、コンピューティングに登場した。 今日使われているほとんどのXAIベースのツールは、これらのモデルを説明し、属性のランキング、すなわち属性の重要度の分析を生成する。 XAIツールが一般的な説明可能性の階級を生成するかについては合意が得られていないが、そのため、ツールの提案がいくつか現れている(Ciu, Dalex, Eli5, Lofo, Shap, Skater)。 本稿では、異なる問題に関連する表データに基づいて、モデルに依存しないグローバルな説明可能性ランキングを作成することができる説明可能なAI技術の実験ベンチマークを示す。 さまざまなツールによって生成された説明は、同じ、似ている、あるいは異なるものなのか? データ複雑性はモデル説明可能性にどのように影響しますか? 82の計算モデルと592のランクを構築した結果、説明可能性の問題の反対側にいくつか光を当てています。

関連論文リスト

• Explaining Explainability: Towards Deeper Actionable Insights into Deep Learning through Second-order Explainability [70.60433013657693]
  2階説明可能なAI(SOXAI)は、最近インスタンスレベルからデータセットレベルまで説明可能なAI(XAI)を拡張するために提案されている。 そこで本研究では,SOXAIの動作可能な洞察に基づくトレーニングセットから無関係な概念を除外することで,モデルの性能を向上させることができることを示す。
  論文  参考訳（メタデータ） (2023-06-14T23:24:01Z)
• Black Box Model Explanations and the Human Interpretability Expectations -- An Analysis in the Context of Homicide Prediction [0.5898893619901381]
  説明可能な人工知能(XAI)に基づく戦略は、ブラックボックスモデルの結果のより良い人間の解釈可能性を促進する。 本研究は、殺人予測に関連する現実世界の分類問題に対処する。 6つの異なるXAI手法を使って説明をし、6つの異なる人間の専門家を作成した。
  論文  参考訳（メタデータ） (2022-10-19T19:23:48Z)
• Explanations Based on Item Response Theory (eXirt): A Model-Specific Method to Explain Tree-Ensemble Model in Trust Perspective [0.4749981032986242]
  Ciu、Dalex、Eli5、Lofo、Shap、Skaterといった手法がブラックボックスモデルを説明するために登場した。 Xirtは、ツリーアンサンブルモデルのグローバルな説明とIRTを通してモデルのインスタンスのローカルな説明を生成することができる。
  論文  参考訳（メタデータ） (2022-10-18T15:30:14Z)
• On Explainability in AI-Solutions: A Cross-Domain Survey [4.394025678691688]
  システムモデルを自動的に導出する際、AIアルゴリズムは人間には検出できないデータで関係を学習する。 モデルが複雑になればなるほど、人間が意思決定の理由を理解するのが難しくなる。 この研究は、この話題に関する広範な文献調査を提供し、その大部分は、他の調査から成っている。
  論文  参考訳（メタデータ） (2022-10-11T06:21:47Z)
• Explanation-by-Example Based on Item Response Theory [0.0]
  本研究は, 項目応答理論(IRT)を, モデルを説明し, 説明による信頼性のレベルを測定するためのツールとして検討する。 テストセットからすると、83.8%のエラーはIRTがモデルを信頼できないと指摘しているインスタンスからのものである。
  論文  参考訳（メタデータ） (2022-10-04T14:36:33Z)
• Greybox XAI: a Neural-Symbolic learning framework to produce interpretable predictions for image classification [6.940242990198]
  Greybox XAIは、シンボリック知識ベース(KB)を使うことで、DNNと透明モデルを構成するフレームワークである。 我々は、XAIの普遍的基準が欠如している問題に、説明が何であるかを形式化することで対処する。 この新しいアーキテクチャがどのように正確で、いくつかのデータセットで説明可能であるかを示す。
  論文  参考訳（メタデータ） (2022-09-26T08:55:31Z)
• Learn to Explain: Multimodal Reasoning via Thought Chains for Science Question Answering [124.16250115608604]
  本稿では,SQA(Science Question Answering)について紹介する。SQA(Science Question Answering)は,21万のマルチモーダルな複数選択質問と多様な科学トピックと,それに対応する講義や説明による回答の注釈からなる新しいベンチマークである。 また,SQAでは,数ショットのGPT-3では1.20%,微調整のUnifiedQAでは3.99%の改善が見られた。 我々の分析は、人間に似た言語モデルは、より少ないデータから学習し、わずか40%のデータで同じパフォーマンスを達成するのに、説明の恩恵を受けることを示している。
  論文  参考訳（メタデータ） (2022-09-20T07:04:24Z)
• OmniXAI: A Library for Explainable AI [98.07381528393245]
  eXplainable AI(XAI)のオープンソースPythonライブラリであるOmniXAIを紹介する。 オールニウェイで説明可能なAI機能と、さまざまな解釈可能な機械学習技術を提供する。 実践者にとってこのライブラリは、アプリケーションの説明を生成するために、使いやすく統合されたインターフェースを提供する。
  論文  参考訳（メタデータ） (2022-06-01T11:35:37Z)
• Beyond Explaining: Opportunities and Challenges of XAI-Based Model Improvement [75.00655434905417]
  説明可能な人工知能(XAI)は、高度に複雑な機械学習(ML)モデルに透明性をもたらす新たな研究分野である。 本稿では,機械学習モデルの諸特性を改善するために,XAIを実用的に応用する手法を概観する。 実験では,モデル一般化能力や推論などの特性を改善する上で,説明がどのように役立つのかを,おもちゃと現実的な設定で実証的に示す。
  論文  参考訳（メタデータ） (2022-03-15T15:44:28Z)
• Explainability in Deep Reinforcement Learning [68.8204255655161]
  説明可能な強化学習(XRL)の実現に向けての最近の成果を概観する。 エージェントの振る舞いを正当化し、説明することが不可欠である重要な状況において、RLモデルのより良い説明可能性と解釈性は、まだブラックボックスと見なされているものの内部動作に関する科学的洞察を得るのに役立つ。
  論文  参考訳（メタデータ） (2020-08-15T10:11:42Z)
• Evaluating Explainable AI: Which Algorithmic Explanations Help Users Predict Model Behavior? [97.77183117452235]
  我々は、モデル解釈性に対するアルゴリズム的説明の影響を分離するために、人体テストを実施している。 方法の有効性の明確な証拠はごく少数にみえる。 以上の結果から,説明がシミュラビリティにどのように影響するかの信頼性と包括的評価が得られた。
  論文  参考訳（メタデータ） (2020-05-04T20:35:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。