論文の概要: Sensible AI: Re-imagining Interpretability and Explainability using Sensemaking Theory

• arxiv url: http://arxiv.org/abs/2205.05057v1
• Date: Tue, 10 May 2022 17:20:44 GMT
• ステータス: 処理完了
• システム内更新日: 2022-05-14 10:57:00.473506
• Title: Sensible AI: Re-imagining Interpretability and Explainability using Sensemaking Theory
• Title（参考訳）: 感性ai:感覚形成理論を用いた解釈可能性と説明可能性の再認識
• Authors: Harmanpreet Kaur, Eytan Adar, Eric Gilbert, Cliff Lampe
• Abstract要約: Weickのセンスメイキング理論に基づく解釈可能性の代替的枠組みを提案する。 私たちは、Sensible AIの設計ガイドラインを議論するためのテンプレートとして、組織におけるセンスメイキングの応用を使用します。
• 参考スコア（独自算出の注目度）: 14.35488479818285
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Understanding how ML models work is a prerequisite for responsibly designing, deploying, and using ML-based systems. With interpretability approaches, ML can now offer explanations for its outputs to aid human understanding. Though these approaches rely on guidelines for how humans explain things to each other, they ultimately solve for improving the artifact -- an explanation. In this paper, we propose an alternate framework for interpretability grounded in Weick's sensemaking theory, which focuses on who the explanation is intended for. Recent work has advocated for the importance of understanding stakeholders' needs -- we build on this by providing concrete properties (e.g., identity, social context, environmental cues, etc.) that shape human understanding. We use an application of sensemaking in organizations as a template for discussing design guidelines for Sensible AI, AI that factors in the nuances of human cognition when trying to explain itself.
• Abstract（参考訳）: MLモデルがどのように動作するかを理解することは、MLベースのシステムを責任を持って設計、デプロイ、使用するための前提条件である。 解釈可能性のアプローチにより、MLは人間の理解に役立つアウトプットの説明を提供することができる。 Though these approaches rely on guidelines for how humans explain things to each other, they ultimately solve for improving the artifact -- an explanation. In this paper, we propose an alternate framework for interpretability grounded in Weick's sensemaking theory, which focuses on who the explanation is intended for. Recent work has advocated for the importance of understanding stakeholders' needs -- we build on this by providing concrete properties (e.g., identity, social context, environmental cues, etc.) that shape human understanding. 我々は、人間の認知のニュアンスに影響を及ぼすAIであるSensible AIの設計ガイドラインを議論するためのテンプレートとして、組織におけるセンスメイキングの応用を使用している。

関連論文リスト

• An Ontology-Enabled Approach For User-Centered and Knowledge-Enabled Explanations of AI Systems [0.3480973072524161]
  説明可能性に関する最近の研究は、AIモデルやモデル説明可能性の動作を説明することに重点を置いている。 この論文は、モデルとユーザ中心の説明可能性の間のギャップを埋めようとしている。
  論文  参考訳（メタデータ） (2024-10-23T02:03:49Z)
• Evaluating the Utility of Model Explanations for Model Development [54.23538543168767]
  機械学習モデル構築の実践シナリオにおいて、説明が人間の意思決定を改善するかどうかを評価する。 驚いたことに、サリエンシマップが提供されたとき、タスクが大幅に改善されたという証拠は見つからなかった。 以上の結果から,サリエンシに基づく説明における誤解の可能性と有用性について注意が必要であることが示唆された。
  論文  参考訳（メタデータ） (2023-12-10T23:13:23Z)
• Forms of Understanding of XAI-Explanations [2.887772793510463]
  本稿では、説明可能な人工知能(XAI)の文脈における理解形態のモデル提示を目的とする。 2種類の理解は説明の可能な結果、すなわち有効性と理解の可能な結果と見なされる。 XAIにおける理解の特別な課題について論じる。
  論文  参考訳（メタデータ） (2023-11-15T08:06:51Z)
• Interpreting Pretrained Language Models via Concept Bottlenecks [55.47515772358389]
  事前訓練された言語モデル(PLM)は、様々な自然言語処理タスクにおいて大きな進歩を遂げてきた。 ブラックボックスの性質による解釈可能性の欠如は、責任ある実装に課題をもたらす。 本研究では,人間にとって理解しやすい高レベルで有意義な概念を用いて,PLMを解釈する新しい手法を提案する。
  論文  参考訳（メタデータ） (2023-11-08T20:41:18Z)
• "Explanation" is Not a Technical Term: The Problem of Ambiguity in XAI [2.5899040911480173]
  本稿では,これらの特徴を実用性評価に利用する方法について検討する。 我々は,機能的役割によって定義された説明の要件,理解しようとするユーザの知識状態,それらの生成に必要な情報の提供に焦点をあてる。
  論文  参考訳（メタデータ） (2022-06-27T21:42:53Z)
• Rethinking Explainability as a Dialogue: A Practitioner's Perspective [57.87089539718344]
  医師、医療専門家、政策立案者に対して、説明を求めるニーズと欲求について尋ねる。 本研究は, 自然言語対話の形での対話的説明を, 意思決定者が強く好むことを示唆する。 これらのニーズを考慮して、インタラクティブな説明を設計する際に、研究者が従うべき5つの原則を概説する。
  論文  参考訳（メタデータ） (2022-02-03T22:17:21Z)
• Human Interpretation of Saliency-based Explanation Over Text [65.29015910991261]
  テキストデータ上でのサリエンシに基づく説明について検討する。 人はしばしば説明を誤って解釈する。 本稿では,過度知覚と過小認識のモデル推定に基づいて,サリエンシを調整する手法を提案する。
  論文  参考訳（メタデータ） (2022-01-27T15:20:32Z)
• Diagnosing AI Explanation Methods with Folk Concepts of Behavior [70.10183435379162]
  我々は「成功」は、その説明がどんな情報を含むかだけでなく、人間の説明者がどのような情報から理解するかにも依存すると考えている。 我々は、人間の説明による社会的帰属の枠組みとして、行動の民意的概念を用いる。
  論文  参考訳（メタデータ） (2022-01-27T00:19:41Z)
• Explainability Is in the Mind of the Beholder: Establishing the Foundations of Explainable Artificial Intelligence [11.472707084860875]
  我々は、背景知識に基づいて解釈された透明な洞察(ブラックボックス)に適用する(論理的)推論として説明可能性を定義する。 我々は、透明性と予測力のトレードオフを再考し、アンテホックやポストホックの解説者への影響について述べる。 我々は、人間中心の説明可能性からさまざまなアイデアに基づいて、解釈可能性を必要とするかもしれない機械学習ワークフローのコンポーネントについて論じる。
  論文  参考訳（メタデータ） (2021-12-29T09:21:33Z)
• A general framework for scientifically inspired explanations in AI [76.48625630211943]
  我々は、AIシステムの説明を実装可能な一般的なフレームワークの理論的基盤として、科学的説明の構造の概念をインスタンス化する。 このフレームワークは、AIシステムの"メンタルモデル"を構築するためのツールを提供することを目的としている。
  論文  参考訳（メタデータ） (2020-03-02T10:32:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。