論文の概要: Charting the Sociotechnical Gap in Explainable AI: A Framework to
Address the Gap in XAI
- arxiv url: http://arxiv.org/abs/2302.00799v1
- Date: Wed, 1 Feb 2023 23:21:45 GMT
- ステータス: 処理完了
- システム内更新日: 2023-02-03 15:49:17.117509
- Title: Charting the Sociotechnical Gap in Explainable AI: A Framework to
Address the Gap in XAI
- Title（参考訳）: 説明可能なAIにおける社会技術ギャップのチャート化 - XAIのギャップに対処するためのフレームワーク
- Authors: Upol Ehsan, Koustuv Saha, Munmun De Choudhury, Mark O. Riedl
- Abstract要約: このギャップをグラフ化することで問題理解が向上し、説明可能性を改善するための実用的な洞察を反射的に提供できる、と我々は主張する。
我々は、社会技術的ギャップの体系的なチャート作成を容易にする枠組みを経験的に導き出した。
XAIの社会技術的ギャップを理解するための概念的かつ実践的な貢献により、このフレームワークはXAIデザイン空間を拡張している。
- 参考スコア（独自算出の注目度）: 29.33534897830558
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Explainable AI (XAI) systems are sociotechnical in nature; thus, they are
subject to the sociotechnical gap--divide between the technical affordances and
the social needs. However, charting this gap is challenging. In the context of
XAI, we argue that charting the gap improves our problem understanding, which
can reflexively provide actionable insights to improve explainability.
Utilizing two case studies in distinct domains, we empirically derive a
framework that facilitates systematic charting of the sociotechnical gap by
connecting AI guidelines in the context of XAI and elucidating how to use them
to address the gap. We apply the framework to a third case in a new domain,
showcasing its affordances. Finally, we discuss conceptual implications of the
framework, share practical considerations in its operationalization, and offer
guidance on transferring it to new contexts. By making conceptual and practical
contributions to understanding the sociotechnical gap in XAI, the framework
expands the XAI design space.
- Abstract（参考訳）: 説明可能なai(xai)システムは、本質的には社会技術的であり、技術的余裕と社会的ニーズの間の社会技術的ギャップの対象となる。
しかし、このギャップのチャート化は難しい。
XAIの文脈では、このギャップをグラフ化することで問題理解が向上し、説明可能性を改善するための実用的な洞察を反射的に提供できると論じる。
異なる領域における2つのケーススタディを利用して、XAIの文脈でAIガイドラインを接続し、そのギャップに対処する方法を解明することにより、社会技術的ギャップの体系的なチャート作成を促進する枠組みを実証的に導き出した。
フレームワークを新しいドメインの第3のケースに適用し、その余裕を示します。
最後に,フレームワークの概念的意味を議論し,その運用に関する実践的考察を共有し,新たなコンテキストへ移行するためのガイダンスを提供する。
XAIの社会技術的ギャップを理解するための概念的かつ実践的な貢献により、このフレームワークはXAIデザイン空間を拡張している。
関連論文リスト
- Beyond XAI:Obstacles Towards Responsible AI [0.0]
説明可能性の方法とその評価戦略は、現実世界の文脈に多くの制限を与える。
本稿では、これらの制限について検討し、責任あるAIの搭乗者コンテキストにおけるそれらの影響について論じる。
論文 参考訳（メタデータ） (2023-09-07T11:08:14Z) - Is Task-Agnostic Explainable AI a Myth? [0.0]
我々の研究は、現代の説明可能なAI(XAI)の課題を統一するための枠組みとして機能する。
我々は、XAI手法が機械学習モデルに補助的かつ潜在的に有用な出力を提供する一方で、研究者と意思決定者は、概念的および技術的な制限に留意すべきであることを示した。
本稿では,画像,テキスト,グラフデータにまたがる3つのXAI研究経路について検討する。
論文 参考訳（メタデータ） (2023-07-13T07:48:04Z) - Seamful XAI: Operationalizing Seamful Design in Explainable AI [59.89011292395202]
AIシステムのミスは必然的であり、技術的制限と社会技術的ギャップの両方から生じる。
本稿では, 社会工学的・インフラ的ミスマッチを明らかにすることにより, シームレスな設計がAIの説明可能性を高めることを提案する。
43人のAI実践者と実際のエンドユーザでこのプロセスを探求します。
論文 参考訳（メタデータ） (2022-11-12T21:54:05Z) - Explainable Artificial Intelligence in Construction: The Content,
Context, Process, Outcome Evaluation Framework [1.3375143521862154]
我々は、XAIの採用と効果的な管理を正当化するために使用できるコンテンツ、コンテキスト、プロセス、成果評価フレームワークを開発する。
我々の新しいフレームワークは概念的だが、建設組織がXAIのビジネス価値と利益の実現に向けて進むための参考枠を提供する。
論文 参考訳（メタデータ） (2022-11-12T03:50:14Z) - Towards Human Cognition Level-based Experiment Design for Counterfactual
Explanations (XAI) [68.8204255655161]
XAI研究の重点は、より理解を深めるために、より実践的な説明アプローチに変わったようだ。
認知科学研究がXAIの進歩に大きく影響を与える可能性のある領域は、ユーザの知識とフィードバックを評価することである。
本研究では,異なる認知レベルの理解に基づく説明の生成と評価を実験する枠組みを提案する。
論文 参考訳（メタデータ） (2022-10-31T19:20:22Z) - Connecting Algorithmic Research and Usage Contexts: A Perspective of
Contextualized Evaluation for Explainable AI [65.44737844681256]
説明可能なAI(XAI)を評価する方法に関するコンセンサスの欠如は、この分野の進歩を妨げる。
このギャップを埋める一つの方法は、異なるユーザ要求を考慮に入れた評価方法を開発することである、と我々は主張する。
論文 参考訳（メタデータ） (2022-06-22T05:17:33Z) - Counterfactual Explanations as Interventions in Latent Space [62.997667081978825]
反現実的な説明は、望ましい結果を達成するために変更が必要な機能のセットをエンドユーザに提供することを目的としています。
現在のアプローチでは、提案された説明を達成するために必要な行動の実現可能性を考慮することはめったにない。
本稿では,非現実的説明を生成する手法として,潜時空間における干渉としての対実的説明(CEILS)を提案する。
論文 参考訳（メタデータ） (2021-06-14T20:48:48Z) - XAI Handbook: Towards a Unified Framework for Explainable AI [5.716475756970092]
説明可能なAI(XAI)の分野は急速に繁栄し、多産なコミュニティになっている。
それぞれの新しい貢献は、それぞれ独自の(そしてしばしば直感的な)「説明」や「解釈」といった用語に依存するように見える。
我々は,これらの用語の具体的定義を提供するだけでなく,説明や解釈に必要なすべてのステップを概説する理論的枠組みを提案する。
論文 参考訳（メタデータ） (2021-05-14T07:28:21Z) - Expanding Explainability: Towards Social Transparency in AI systems [20.41177660318785]
社会透明性(英: Social Transparency、ST)とは、社会的な組織的文脈をAIによる意思決定の説明に取り入れた社会工学的な視点である。
XAIの設計空間を拡大することで、人間中心XAIの議論に貢献しています。
論文 参考訳（メタデータ） (2021-01-12T19:44:27Z) - A general framework for scientifically inspired explanations in AI [76.48625630211943]
我々は、AIシステムの説明を実装可能な一般的なフレームワークの理論的基盤として、科学的説明の構造の概念をインスタンス化する。
このフレームワークは、AIシステムの"メンタルモデル"を構築するためのツールを提供することを目的としている。
論文 参考訳（メタデータ） (2020-03-02T10:32:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。