論文の概要: Dataset | Mindset = Explainable AI | Interpretable AI

• arxiv url: http://arxiv.org/abs/2408.12420v1
• Date: Thu, 22 Aug 2024 14:12:53 GMT
• ステータス: 処理完了
• システム内更新日: 2024-08-23 13:43:10.581651
• Title: Dataset | Mindset = Explainable AI | Interpretable AI
• Title（参考訳）: Dataset | Mindset = Explainable AI : 解釈可能なAI
• Authors: Caesar Wu, Rajkumar Buyya, Yuan Fang Li, Pascal Bouvry,
• Abstract要約: 機械学習(ML)の出力を支える理由を説明するために、与えられたデータセットにさまざまなXAIツールを適用すると、"説明可能な"人工知能(XAI)と"解釈可能なAI(IAI)"が相反する。 我々は、XAIは、IAIのサブセットであると主張する。IAIの概念はデータセットの範囲を超えており、思考の領域を含んでいる。 我々は、これらの概念を明確にし、将来のAI応用と研究における多くの実践者や政策立案者に対して、XAI、IAI、EAI、TAIの基礎を築いたいと考えています。
• 参考スコア（独自算出の注目度）: 36.001670039529586
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: We often use "explainable" Artificial Intelligence (XAI)" and "interpretable AI (IAI)" interchangeably when we apply various XAI tools for a given dataset to explain the reasons that underpin machine learning (ML) outputs. However, these notions can sometimes be confusing because interpretation often has a subjective connotation, while explanations lean towards objective facts. We argue that XAI is a subset of IAI. The concept of IAI is beyond the sphere of a dataset. It includes the domain of a mindset. At the core of this ambiguity is the duality of reasons, in which we can reason either outwards or inwards. When directed outwards, we want the reasons to make sense through the laws of nature. When turned inwards, we want the reasons to be happy, guided by the laws of the heart. While XAI and IAI share reason as the common notion for the goal of transparency, clarity, fairness, reliability, and accountability in the context of ethical AI and trustworthy AI (TAI), their differences lie in that XAI emphasizes the post-hoc analysis of a dataset, and IAI requires a priori mindset of abstraction. This hypothesis can be proved by empirical experiments based on an open dataset and harnessed by High-Performance Computing (HPC). The demarcation of XAI and IAI is indispensable because it would be impossible to determine regulatory policies for many AI applications, especially in healthcare, human resources, banking, and finance. We aim to clarify these notions and lay the foundation of XAI, IAI, EAI, and TAI for many practitioners and policymakers in future AI applications and research.
• Abstract（参考訳）: 機械学習(ML)のアウトプットを支える理由を説明するために、データセットにさまざまなXAIツールを適用する場合、私たちはしばしば、"説明可能な"人工知能(XAI)"と"解釈可能なAI(IAI)"を相互に使用します。 しかし、これらの概念は、解釈がしばしば主観的な意味を持つのに対して、説明は客観的事実に傾いているため、混乱することがある。 我々は、XAIはIAIのサブセットであると主張している。 IAIの概念はデータセットの範囲を超えています。 それはマインドセットのドメインを含んでいる。 このあいまいさの中核は理性の双対性であり、そこでは外向きか内向きかを推論することができる。 外向きに向くと、私たちは自然の法則を通じて理にかなう理由を望んでいます。 内向きに向くと、私たちは、心の法則に導かれ、幸せになる理由を望んでいます。 XAIとIAIは、倫理的AIと信頼できるAI(TAI)の文脈における透明性、明確性、公正性、信頼性、説明責任という目標の共通概念として理性を共有しているが、その相違点は、XAIがデータセットのポストホック分析を強調することにある。 この仮説は、オープンデータセットに基づいた実証実験によって証明され、ハイパフォーマンスコンピューティング(HPC)によって活用される。 XAIとIAIの分離は、医療、人的資源、銀行、金融など、多くのAIアプリケーションに対する規制ポリシーを決定することは不可能であるため、不可欠である。 我々は、これらの概念を明確にし、将来のAI応用と研究における多くの実践者や政策立案者に対して、XAI、IAI、EAI、TAIの基礎を築いたいと考えています。

関連論文リスト

• Explainable AI is Responsible AI: How Explainability Creates Trustworthy and Socially Responsible Artificial Intelligence [9.844540637074836]
  これは責任あるAIのトピックであり、信頼できるAIシステムを開発する必要性を強調している。 XAIは、責任あるAI(RAI)のためのビルディングブロックとして広く考えられている。 以上の結果から,XAIはRAIのすべての柱にとって不可欠な基盤である,という結論に至った。
  論文  参考訳（メタデータ） (2023-12-04T00:54:04Z)
• Why is plausibility surprisingly problematic as an XAI criterion? [38.0428570713717]
  われわれは,XAIの共通基準である妥当性を初めて批判的に検討する。 それは、AIの説明がいかに人間に納得させるかを測定する。 XAIアルゴリズムの評価や最適化の基準として可視性を使うことは推奨しません。
  論文  参考訳（メタデータ） (2023-03-30T20:59:44Z)
• Seamful XAI: Operationalizing Seamful Design in Explainable AI [59.89011292395202]
  AIシステムのミスは必然的であり、技術的制限と社会技術的ギャップの両方から生じる。 本稿では, 社会工学的・インフラ的ミスマッチを明らかにすることにより, シームレスな設計がAIの説明可能性を高めることを提案する。 43人のAI実践者と実際のエンドユーザでこのプロセスを探求します。
  論文  参考訳（メタデータ） (2022-11-12T21:54:05Z)
• Metaethical Perspectives on 'Benchmarking' AI Ethics [81.65697003067841]
  ベンチマークは、人工知能(AI)研究の技術的進歩を測定するための基盤とみられている。 AIの顕著な研究領域は倫理であり、現在、ベンチマークのセットも、AIシステムの「倫理性」を測定する一般的な方法もない。 我々は、現在と将来のAIシステムのアクションを考えるとき、倫理よりも「価値」について話す方が理にかなっていると論じる。
  論文  参考訳（メタデータ） (2022-04-11T14:36:39Z)
• Cybertrust: From Explainable to Actionable and Interpretable AI (AI2) [58.981120701284816]
  Actionable and Interpretable AI (AI2)は、AIレコメンデーションにユーザの信頼度を明確に定量化し視覚化する。 これにより、AIシステムの予測を調べてテストすることで、システムの意思決定に対する信頼の基盤を確立することができる。
  論文  参考訳（メタデータ） (2022-01-26T18:53:09Z)
• On Two XAI Cultures: A Case Study of Non-technical Explanations in Deployed AI System [3.4918511133757977]
  XAIの多くは、実際にはデプロイされたAIシステムの主要なオーディエンスであり、主要な利害関係者である非AI専門家には理解できない。 我々は,非技術者を対象としたXAI手法の開発が重要であることを主張する。 そして、AIの専門家が非技術ステークホルダーにAI決定の非技術的な説明を提供した、実生活のケーススタディを提示します。
  論文  参考訳（メタデータ） (2021-12-02T07:02:27Z)
• A User-Centred Framework for Explainable Artificial Intelligence in Human-Robot Interaction [70.11080854486953]
  本稿では,XAIのソーシャル・インタラクティブな側面に着目したユーザ中心型フレームワークを提案する。 このフレームワークは、エキスパートでないユーザのために考えられた対話型XAIソリューションのための構造を提供することを目的としている。
  論文  参考訳（メタデータ） (2021-09-27T09:56:23Z)
• Knowledge-intensive Language Understanding for Explainable AI [9.541228711585886]
  AIが主導する意思決定の仕方と、どの決定要因が含まれているかを理解することが不可欠である。 意思決定に直接関係する人間中心の説明を持つことは重要である。 人間が理解し、使用する明示的なドメイン知識を巻き込む必要がある。
  論文  参考訳（メタデータ） (2021-08-02T21:12:30Z)
• The Who in XAI: How AI Background Shapes Perceptions of AI Explanations [61.49776160925216]
  私たちは、2つの異なるグループ、つまりAIのバックグラウンドを持つ人々といない人たちの、異なるタイプのAI説明に対する理解について、混合手法による研究を行います。 その結果,(1) 両群は異なる理由から不合理な数に対する信頼を示し,(2) それぞれの群は意図した設計以上の異なる説明に価値を見出した。
  論文  参考訳（メタデータ） (2021-07-28T17:32:04Z)
• Explainable AI: current status and future directions [11.92436948211501]
  説明可能な人工知能(XAI)は、人工知能(AI)分野における新たな研究分野である。 XAIは、AIが特定のソリューションをどのように取得したかを説明し、他の"wh"質問にも答えることができる。 本稿では,マルチメディア(テキスト,画像,音声,ビデオ)の観点から,これらの技術の概要を紹介する。
  論文  参考訳（メタデータ） (2021-07-12T08:42:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。