Fugu-MT 論文翻訳(概要): Beyond Expertise and Roles: A Framework to Characterize the Stakeholders of Interpretable Machine Learning and their Needs

論文の概要: Beyond Expertise and Roles: A Framework to Characterize the Stakeholders of Interpretable Machine Learning and their Needs

arxiv url: http://arxiv.org/abs/2101.09824v1
Date: Sun, 24 Jan 2021 23:21:21 GMT
ステータス: 処理完了
システム内更新日: 2021-03-16 09:07:33.274960
Title: Beyond Expertise and Roles: A Framework to Characterize the Stakeholders of Interpretable Machine Learning and their Needs
Title（参考訳）: 専門家と役割を超えて:解釈可能な機械学習のステークホルダーとそのニーズを特徴づけるフレームワーク
Authors: Harini Suresh, Steven R. Gomez, Kevin K. Nam, Arvind Satyanarayan
Abstract要約: 多様な利害関係者がブラックボックス自動化システムを尋問し、理解しやすく、関連性があり、有用である情報を見つけることが重要である。本稿では、より粒度の細かいフレームワークを優先して、解釈可能性ステークホルダーの専門知識と役割に基づく分類を行う。我々は、ステークホルダーの形式的、道具的、個人的知識と、それが機械学習、データドメイン、そして一般的なミリューの文脈でどのように現れるのかを特徴付けます。
参考スコア（独自算出の注目度）: 6.381046244250263
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: To ensure accountability and mitigate harm, it is critical that diverse stakeholders can interrogate black-box automated systems and find information that is understandable, relevant, and useful to them. In this paper, we eschew prior expertise- and role-based categorizations of interpretability stakeholders in favor of a more granular framework that decouples stakeholders' knowledge from their interpretability needs. We characterize stakeholders by their formal, instrumental, and personal knowledge and how it manifests in the contexts of machine learning, the data domain, and the general milieu. We additionally distill a hierarchical typology of stakeholder needs that distinguishes higher-level domain goals from lower-level interpretability tasks. In assessing the descriptive, evaluative, and generative powers of our framework, we find our more nuanced treatment of stakeholders reveals gaps and opportunities in the interpretability literature, adds precision to the design and comparison of user studies, and facilitates a more reflexive approach to conducting this research.
Abstract（参考訳）: 説明責任の確保と害を軽減するため、多様な利害関係者がブラックボックスの自動化システムを疑問視し、理解しやすく、関連性があり、有用である情報を見つけることが重要である。本稿では,ステークホルダの知識を解釈ニーズから切り離す,より粒度の細かい枠組みを優先して,事前の専門知識と役割に基づく理解可能性ステークホルダーの分類を緩和する。我々は、ステークホルダーの形式的、道具的、個人的知識と、それが機械学習、データドメイン、そして一般的なミリューの文脈でどのように現れるのかを特徴付けます。さらに、より高いレベルのドメイン目標と低いレベルの解釈可能性タスクを区別するステークホルダーのニーズの階層的なタイポロジーを抽出します。フレームワークの記述的、評価的、および生成的能力を評価する際に、ステークホルダのよりニュアンスのある扱いは、解釈可能な文献のギャップと機会を明らかにし、ユーザー研究の設計と比較に精度を加え、この研究を実行するためのよりリフレクティブなアプローチを促進します。