論文の概要: Don't Just Translate, Agitate: Using Large Language Models as Devil's Advocates for AI Explanations

• arxiv url: http://arxiv.org/abs/2504.12424v1
• Date: Wed, 16 Apr 2025 18:45:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-04-18 14:35:55.393359
• Title: Don't Just Translate, Agitate: Using Large Language Models as Devil's Advocates for AI Explanations
• Title（参考訳）: AI説明のためのデビルのアドボケートとして大規模言語モデルを使用する
• Authors: Ashley Suh, Kenneth Alperin, Harry Li, Steven R Gomez,
• Abstract要約: 大型言語モデル(LLM)は、特徴量などの説明可能性のテクニックから、自然言語の説明への変換に使用される。 最近の知見は、人間のような説明に翻訳することは、必ずしもユーザーの理解を高めるものではなく、代わりにAIシステムへの過度な信頼につながる可能性があることを示唆している。
• 参考スコア（独自算出の注目度）: 1.6855625805565164
• License:
• Abstract: This position paper highlights a growing trend in Explainable AI (XAI) research where Large Language Models (LLMs) are used to translate outputs from explainability techniques, like feature-attribution weights, into a natural language explanation. While this approach may improve accessibility or readability for users, recent findings suggest that translating into human-like explanations does not necessarily enhance user understanding and may instead lead to overreliance on AI systems. When LLMs summarize XAI outputs without surfacing model limitations, uncertainties, or inconsistencies, they risk reinforcing the illusion of interpretability rather than fostering meaningful transparency. We argue that - instead of merely translating XAI outputs - LLMs should serve as constructive agitators, or devil's advocates, whose role is to actively interrogate AI explanations by presenting alternative interpretations, potential biases, training data limitations, and cases where the model's reasoning may break down. In this role, LLMs can facilitate users in engaging critically with AI systems and generated explanations, with the potential to reduce overreliance caused by misinterpreted or specious explanations.
• Abstract（参考訳）: このポジションペーパーは、Large Language Models(LLM)を使用して、特徴量などの説明可能性技術から自然言語説明への出力を変換する、説明可能なAI(XAI)研究の増大傾向を浮き彫りにしている。 このアプローチは、ユーザーのアクセシビリティや可読性を改善する可能性があるが、最近の研究は、人間のような説明への変換は、必ずしもユーザーの理解を高めるものではなく、AIシステムへの過度な依存につながる可能性があることを示唆している。 LLMがモデル制限や不確実性、矛盾を克服せずにXAI出力を要約すると、意味のある透明性を育むよりも、解釈可能性の錯覚を補強するリスクがある。 我々は、単にXAI出力を翻訳する代わりに、LLMは建設的なアジテーターまたはデビルの支持者として機能すべきであり、その役割は、代替解釈、潜在的なバイアス、データ制限のトレーニング、モデルの推論が故障する可能性のあるケースを提示することでAIの説明を積極的に尋問することである、と論じている。 この役割では、LLMはユーザーがAIシステムと批判的に関わり、説明を生成し、誤った解釈や奇異な説明による過度な信頼性を低下させる可能性がある。

関連論文リスト

• Explainable artificial intelligence (XAI): from inherent explainability to large language models [0.0]
  説明可能なAI(XAI)技術は、機械学習モデルの説明可能性や解釈可能性を促進する。 本稿では、本質的に解釈可能なモデルから現代的なアプローチまで、説明可能なAI手法の進歩について詳述する。 我々は、視覚言語モデル(VLM)フレームワークを利用して、他の機械学習モデルの説明可能性を自動化または改善する説明可能なAI技術についてレビューする。
  論文  参考訳（メタデータ） (2025-01-17T06:16:57Z)
• Can adversarial attacks by large language models be attributed? [1.3812010983144802]
  敵の設定における大規模言語モデルからのアウトプットの寄与は、重要度が増大する可能性が高い重要な課題を示す。 正規言語理論,特にゴールドが導入しアングルインが拡張した限界における言語識別を用いて,この帰属問題について検討する。 以上の結果から,特定の言語クラスの識別不可能性から,特定のLLMに出力を確実に属性付けることは理論的には不可能であることが示唆された。
  論文  参考訳（メタデータ） (2024-11-12T18:28:57Z)
• LLMs for XAI: Future Directions for Explaining Explanations [50.87311607612179]
  既存のXAIアルゴリズムを用いて計算した説明の精細化に着目する。 最初の実験とユーザスタディは、LLMがXAIの解釈可能性とユーザビリティを高めるための有望な方法を提供することを示唆している。
  論文  参考訳（メタデータ） (2024-05-09T19:17:47Z)
• Usable XAI: 10 Strategies Towards Exploiting Explainability in the LLM Era [77.174117675196]
  XAIはLarge Language Models (LLM)に拡張されている 本稿では,XAIがLLMやAIシステムにどのようなメリットをもたらすかを分析する。 10の戦略を導入し、それぞれに重要なテクニックを導入し、関連する課題について議論します。
  論文  参考訳（メタデータ） (2024-03-13T20:25:27Z)
• FaithLM: Towards Faithful Explanations for Large Language Models [67.29893340289779]
  大きな言語モデル(LLM)は、内部知識と推論能力を活用することで複雑なタスクに対処するのに熟練している。 これらのモデルのブラックボックスの性質は、意思決定プロセスを説明するタスクを複雑にしている。 自然言語 (NL) による LLM の決定を説明するために FaithLM を紹介した。
  論文  参考訳（メタデータ） (2024-02-07T09:09:14Z)
• Rethinking Interpretability in the Era of Large Language Models [76.1947554386879]
  大規模言語モデル(LLM)は、幅広いタスクにまたがる顕著な機能を示している。 自然言語で説明できる能力により、LLMは人間に与えられるパターンのスケールと複雑さを拡大することができる。 これらの新しい機能は、幻覚的な説明や膨大な計算コストなど、新しい課題を提起する。
  論文  参考訳（メタデータ） (2024-01-30T17:38:54Z)
• Towards Effective Disambiguation for Machine Translation with Large Language Models [65.80775710657672]
  我々は「あいまいな文」を翻訳する大規模言語モデルの能力について研究する。 実験の結果,提案手法はDeepLやNLLBといった最先端システムと5つの言語方向のうち4つで一致し,性能を向上できることがわかった。
  論文  参考訳（メタデータ） (2023-09-20T22:22:52Z)
• LMExplainer: Grounding Knowledge and Explaining Language Models [37.578973458651944]
  GPT-4のような言語モデル(LM)は、AIアプリケーションにおいて重要であるが、不透明な意思決定プロセスは、特に安全クリティカルな領域において、ユーザの信頼を低下させる。 LMExplainerは,人間の直感的,理解可能な説明を通じて,LMの推論過程を明らかにする新しい知識基盤説明器である。
  論文  参考訳（メタデータ） (2023-03-29T08:59:44Z)
• Making Things Explainable vs Explaining: Requirements and Challenges under the GDPR [2.578242050187029]
  ExplanatorY AI(YAI)はXAI上に構築され、説明可能な情報の収集と整理を目的としている。 本稿では,自動意思決定システム(ADM)について,説明空間上の適切な経路を特定するための説明を生成する問題について述べる。
  論文  参考訳（メタデータ） (2021-10-02T08:48:47Z)
• Explainable AI without Interpretable Model [0.0]
  AIシステムが、結果の背後にある理由をエンドユーザに説明できることは、これまで以上に重要になっています。 ほとんどの説明可能なAI(XAI)メソッドは、説明を作成するのに使用できる解釈可能なモデルを抽出することに基づいている。 本論文では,文脈的重要性と実用性(CIU)の概念により,ブラックボックスの結果の人間的な説明を直接生成することが可能となる。
  論文  参考訳（メタデータ） (2020-09-29T13:29:44Z)
• Explainability in Deep Reinforcement Learning [68.8204255655161]
  説明可能な強化学習(XRL)の実現に向けての最近の成果を概観する。 エージェントの振る舞いを正当化し、説明することが不可欠である重要な状況において、RLモデルのより良い説明可能性と解釈性は、まだブラックボックスと見なされているものの内部動作に関する科学的洞察を得るのに役立つ。
  論文  参考訳（メタデータ） (2020-08-15T10:11:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。