論文の概要: We Need Explanation Cards to Connect Explanation Algorithms to the Real World

• arxiv url: http://arxiv.org/abs/2606.16786v1
• Date: Mon, 15 Jun 2026 14:30:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-16 16:21:34.61821
• Title: We Need Explanation Cards to Connect Explanation Algorithms to the Real World
• Title（参考訳）: 説明アルゴリズムを現実世界に結びつけるための説明カードが必要である
• Authors: Eric Günther, Balázs Szabados, Kristof Meding, Gunnar König, Sebastian Bordt, Ulrike von Luxburg,
• Abstract要約: アルゴリズムの説明は、ステークホルダーが不透明なアルゴリズム決定を理解するのに役立つが、実際には不足することが多い。 本稿では,ロバスト性と妥当性に関する補完的な情報を用いて,標準的な説明を補強する説明用カードを提案する。 我々は、説明カードがEU AI法の説明可能性規定を運用するための実践的な手段であると主張している。
• 参考スコア（独自算出の注目度）: 9.349985812986528
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Algorithmic explanations are intended to help stakeholders understand opaque algorithmic decisions, but in practice, they often fall short. First, the meaning of algorithmic explanations is often not what one might intuitively expect, so expert knowledge is required to interpret them correctly. Second, recent work has shown that popular explanation algorithms are uninformative about the behavior of complex decision functions. Together, these issues create a gap between what explanations appear to convey and what they actually provide. In this work, we propose Explanation Cards for Explanation Algorithms, which augment standard explanations with complementary information about robustness and validity, as well as clear instructions for interpretation. The complementary information can render otherwise uninformative explanations practically useful, while also helping to detect cases where they are not. Importantly, the interpretation instructions in explanation cards shift responsibility from users to providers: Rather than expecting users to recognize what can and cannot be concluded from an explanation, providers must make this explicit upfront. Using counterfactual explanations and SHAP as examples, we demonstrate how providers can construct explanation cards and that these cards provide users with the guidance needed for sound interpretation. We further argue that explanation cards offer a practical means of operationalising the explainability provisions of the EU AI Act. Overall, explanation cards are a significant step toward making explanation algorithms fit for real-world use cases.
• Abstract（参考訳）: アルゴリズム的説明は、ステークホルダーが不透明なアルゴリズム的決定を理解するのに役立ちます。 まず、アルゴリズムの説明の意味は直感的に期待できるものではないことが多いので、専門家の知識はそれらを正しく解釈するために必要である。 第二に、最近の研究は、一般的な説明アルゴリズムが複雑な決定関数の振る舞いについて非形式的であることを示した。 これらの問題は同時に、説明が伝えるものと実際に提供するものの間にギャップを生じさせます。 そこで本研究では,ロバスト性と妥当性に関する補完的な情報と,解釈のための明確な指示を付加した説明用説明カードを提案する。 補完的な情報は、そうでなければ非形式的な説明を実際に役立てるだけでなく、そうでないケースを検出するのにも役立ちます。 重要なことに、説明カードの解釈命令は、責任をユーザからプロバイダにシフトさせる。 実例として, 反実的説明とSHAPを用いて, 提供者が説明カードを構築する方法と, 音声解釈に必要なガイダンスをユーザに提供することを実証する。 さらに、説明カードはEU AI法の説明可能性規定を運用するための実践的な手段であると主張する。 全体として、説明カードは、実世界のユースケースに説明アルゴリズムを適合させるための重要なステップである。

関連論文リスト

• Informative Post-Hoc Explanations Only Exist for Simple Functions [12.017822772474576]
  本稿では、意思決定機能に関する情報を提供するための説明のための、一般的な学習理論に基づくフレームワークを紹介する。 複雑な決定関数に適用した場合,多くの一般的な説明アルゴリズムは有益ではないことを示す。 我々は、これらのアルゴリズムの実用性、特に監査、規制、AIのリスクの高い応用に強く影響していると論じている。
  論文  参考訳（メタデータ） (2025-08-15T12:46:18Z)
• Disagreement amongst counterfactual explanations: How transparency can be deceptive [0.0]
  偽物の説明は、説明可能な人工知能技術としてますます使われている。 すべてのアルゴリズムが同じインスタンスに対して一様説明を生成するわけではない。 悪意のあるエージェントがこの多様性を使って不公平な機械学習モデルに見合うと、倫理的な問題が生じる。
  論文  参考訳（メタデータ） (2023-04-25T09:15:37Z)
• Explanation Selection Using Unlabeled Data for Chain-of-Thought Prompting [80.9896041501715]
  非専門家によって書かれたオフ・ザ・シェルフの説明のように、タスクのために"チューニング"されていない説明は、中途半端なパフォーマンスをもたらす可能性がある。 本稿では,ブラックボックス方式で説明拡散プロンプトを最適化する方法の課題に対処する。
  論文  参考訳（メタデータ） (2023-02-09T18:02:34Z)
• Complementary Explanations for Effective In-Context Learning [77.83124315634386]
  大規模言語モデル (LLM) は、説明のインプロンプトから学習する際、顕著な能力を示した。 この研究は、文脈内学習に説明が使用されるメカニズムをよりよく理解することを目的としている。
  論文  参考訳（メタデータ） (2022-11-25T04:40:47Z)
• Human Interpretation of Saliency-based Explanation Over Text [65.29015910991261]
  テキストデータ上でのサリエンシに基づく説明について検討する。 人はしばしば説明を誤って解釈する。 本稿では,過度知覚と過小認識のモデル推定に基づいて,サリエンシを調整する手法を提案する。
  論文  参考訳（メタデータ） (2022-01-27T15:20:32Z)
• Explanation as a process: user-centric construction of multi-level and multi-modal explanations [0.34410212782758043]
  本稿では,マルチレベルとマルチモーダルな説明を組み合わせたプロセスベースアプローチを提案する。 私たちは、解釈可能な機械学習アプローチであるインダクティブロジックプログラミングを使用して、理解可能なモデルを学びます。
  論文  参考訳（メタデータ） (2021-10-07T19:26:21Z)
• Evaluating Explanations: How much do explanations from the teacher aid students? [103.05037537415811]
  本研究では,説明が生徒の学習モデルを改善する程度を測る学生-教師パラダイムを用いて,説明の価値を定式化する。 説明を評価するための従来の提案とは異なり、我々のアプローチは容易にゲーム化できず、原則付き、スケーラブルで、属性の自動評価を可能にします。
  論文  参考訳（メタデータ） (2020-12-01T23:40:21Z)
• A framework for step-wise explaining how to solve constraint satisfaction problems [21.96171133035504]
  本研究では,人に対する理解が容易な方法で,伝播時に行うことができる推論ステップを説明することの課題について検討する。 そこで我々は, 制約解決者説明可能な機関を提供することを目標とし, 問題解決者への信頼構築に役立てる。
  論文  参考訳（メタデータ） (2020-06-11T11:35:41Z)
• Adequate and fair explanations [12.33259114006129]
  我々は厳密な論理的基礎を持つ第2の正確な説明に焦点をあてる。 反事実的説明では、完全な説明を提供するために必要な仮定の多くは暗黙的に残されている。 局所的な部分的な説明から完全な局所的な説明へと、そしてグローバルな説明へと移行する方法を探求する。
  論文  参考訳（メタデータ） (2020-01-21T14:42:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。