論文の概要: Rule of Thumb: Explaining Artificial Intelligence Systems using Partial Information

• arxiv url: http://arxiv.org/abs/2608.10766v2
• Date: Thu, 13 Aug 2026 10:45:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-14 14:00:09.70283
• Title: Rule of Thumb: Explaining Artificial Intelligence Systems using Partial Information
• Title（参考訳）: Thumbのルール:部分情報を用いた人工知能システムの解説
• Abstract要約: 説明可能な人工知能(XAI)は、AIシステムが特定の決定にどのように到達したかを説明する。 本稿では,新しい定式化に基づくXAIへの新たなアプローチとして,'Rule of Thumb' (RoT) の説明を提案する。 a)大規模言語モデル(LLM)を用いたゼロショット分類、(b)モデルアクセスのない不透明なAIシステムの監査、(c)科学的な発見におけるAIの使用。
• 参考スコア（独自算出の注目度）: 4.543213881566103
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Explainable Artificial Intelligence (XAI) seeks to explain how an Artificial Intelligence (AI) system arrived at a particular decision. We propose ''Rule of Thumb'' (RoT) explanations, a new approach to XAI based upon a novel formulation that identifies the most relevant features for predicting the behaviour of an AI system, for a particular datapoint. We show how RoT is well-suited to enable XAI in: (a) zero-shot classification using large language models (LLMs), (b) auditing of opaque AI systems without model access, and (c) the use of AI in scientific discovery. Additionally, RoT meets specific requirements from leading AI regulations, provides a familiar interface and visualisations for XAI practitioners, is model-agnostic, and is substantially faster than alternatives. Code available at: https://github.com/KaiRawal/Rule-of-Thumb-Explaining-Artificial-Intelligence-Systems-using-Partial-I nformation
• Abstract（参考訳）: 説明可能な人工知能(XAI)は、人工知能(AI)システムが特定の決定にどのように到達したかを説明する。 我々は,AIシステムの振る舞いを予測する上で最も関連性の高い特徴を,特定のデータポイントに対して識別する新しい定式化に基づく,XAIへの新たなアプローチである'Rule of Thumb' (RoT) の説明を提案する。 私たちは、RoTがXAIを実現するのにどのように適しているかを示します。 (a)大言語モデル(LLM)を用いたゼロショット分類 b)モデルアクセスのない不透明なAIシステムの監査 (c)科学的な発見におけるAIの使用。 さらに、RoTはAI規制を先導する特定の要件を満たし、XAI実践者に親しみやすいインターフェースと視覚化を提供し、モデルに依存しず、代替手段よりも大幅に高速である。 https://github.com/KaiRawal/Rule-of-Thumb-Explaining-Artificial-Intelligence-using-Partial-Informati on

関連論文リスト

• When Life Gives You AI, Will You Turn It Into A Market for Lemons? Understanding How Information Asymmetries About AI System Capabilities Affect Market Outcomes and Adoption [45.10829096284761]
  複雑なAIシステムは、コストのかかるエラーを犯したり、隠れた欠陥を埋め込んだりしながら、非常に正確に見える。 本稿では,AIシステムのユーザ導入における情報非対称性と開示設計の役割について,最初の実験的証拠を提供する。
  論文  参考訳（メタデータ） (2026-01-29T12:49:28Z)
• Explainable AI-Based Interface System for Weather Forecasting Model [21.801445160287532]
  本研究では,気象学におけるブラックボックスモデルの説明の要件を3つ定義する。 適切なXAI法を各要件にマッピングし、生成した説明を定量的に定性的に検証する。 以上の結果から, 意思決定性やユーザ信頼度の向上が示唆された。
  論文  参考訳（メタデータ） (2025-04-01T13:52:34Z)
• Pangu-Agent: A Fine-Tunable Generalist Agent with Structured Reasoning [50.47568731994238]
  人工知能(AI)エージェント作成の鍵となる方法は強化学習(RL)である 本稿では,構造化推論をAIエージェントのポリシーに統合し,学習するための一般的なフレームワークモデルを提案する。
  論文  参考訳（メタデータ） (2023-12-22T17:57:57Z)
• Towards Human Cognition Level-based Experiment Design for Counterfactual Explanations (XAI) [68.8204255655161]
  XAI研究の重点は、より理解を深めるために、より実践的な説明アプローチに変わったようだ。 認知科学研究がXAIの進歩に大きく影響を与える可能性のある領域は、ユーザの知識とフィードバックを評価することである。 本研究では,異なる認知レベルの理解に基づく説明の生成と評価を実験する枠組みを提案する。
  論文  参考訳（メタデータ） (2022-10-31T19:20:22Z)
• Choose, not Hoard: Information-to-Model Matching for Artificial Intelligence in O-RAN [8.52291735627073]
  Open Radio Access Network (O-RAN) は、ネットワーク基盤要素がオープンで標準化されたインターフェースを介して通信する新興パラダイムである。 重要な要素は、人工知能(AI)ベースのコントローラであるRAN Intelligent Controller(RIC)である。 本稿では、異なるRICにおける複数のAIモデルインスタンスの作成について紹介し、議論し、評価し、トレーニングのためにいくつかの(またはすべての)場所の情報を活用する。
  論文  参考訳（メタデータ） (2022-08-01T15:24:27Z)
• Cybertrust: From Explainable to Actionable and Interpretable AI (AI2) [58.981120701284816]
  Actionable and Interpretable AI (AI2)は、AIレコメンデーションにユーザの信頼度を明確に定量化し視覚化する。 これにより、AIシステムの予測を調べてテストすることで、システムの意思決定に対する信頼の基盤を確立することができる。
  論文  参考訳（メタデータ） (2022-01-26T18:53:09Z)
• A User-Centred Framework for Explainable Artificial Intelligence in Human-Robot Interaction [70.11080854486953]
  本稿では,XAIのソーシャル・インタラクティブな側面に着目したユーザ中心型フレームワークを提案する。 このフレームワークは、エキスパートでないユーザのために考えられた対話型XAIソリューションのための構造を提供することを目的としている。
  論文  参考訳（メタデータ） (2021-09-27T09:56:23Z)
• Explainable Artificial Intelligence (XAI) for Increasing User Trust in Deep Reinforcement Learning Driven Autonomous Systems [0.8701566919381223]
  我々は3つの説明を提供する説明可能な人工知能(XAI)フレームワークを提供する。 我々は,XAIフレームワークのユーザインタフェースを作成し,その有効性を評価した。
  論文  参考訳（メタデータ） (2021-06-07T16:38:43Z)
• Explainable Artificial Intelligence Approaches: A Survey [0.22940141855172028]
  人工知能ベースの「ブラックボックス」システム/モデルからの決定の説明力の欠如は、ハイステークアプリケーションでAIを採用するための重要な障害です。 相互ケーススタディ/タスクにより、一般的なXAI(Explainable Artificial Intelligence)手法を実証します。 競争優位性を多角的に分析します。 我々はXAIを媒体として、責任や人間中心のAIへの道を推奨する。
  論文  参考訳（メタデータ） (2021-01-23T06:15:34Z)
• Explainability in Deep Reinforcement Learning [68.8204255655161]
  説明可能な強化学習(XRL)の実現に向けての最近の成果を概観する。 エージェントの振る舞いを正当化し、説明することが不可欠である重要な状況において、RLモデルのより良い説明可能性と解釈性は、まだブラックボックスと見なされているものの内部動作に関する科学的洞察を得るのに役立つ。
  論文  参考訳（メタデータ） (2020-08-15T10:11:42Z)
• Opportunities and Challenges in Explainable Artificial Intelligence (XAI): A Survey [2.7086321720578623]
  深層ニューラルネットワークのブラックボックスの性質は、ミッションクリティカルなアプリケーションでの利用に挑戦する。 XAIは、AI決定に関する高品質な解釈可能、直感的、人間に理解可能な説明を生成するためのツール、テクニック、アルゴリズムのセットを推進している。
  論文  参考訳（メタデータ） (2020-06-16T02:58:10Z)
• A general framework for scientifically inspired explanations in AI [76.48625630211943]
  我々は、AIシステムの説明を実装可能な一般的なフレームワークの理論的基盤として、科学的説明の構造の概念をインスタンス化する。 このフレームワークは、AIシステムの"メンタルモデル"を構築するためのツールを提供することを目的としている。
  論文  参考訳（メタデータ） (2020-03-02T10:32:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。