論文の概要: One-way Explainability Isn't The Message
- arxiv url: http://arxiv.org/abs/2205.08954v1
- Date: Thu, 5 May 2022 09:15:53 GMT
- ステータス: 処理完了
- システム内更新日: 2022-05-22 11:39:04.268463
- Title: One-way Explainability Isn't The Message
- Title（参考訳）: 片道説明はメッセージではない
- Authors: Ashwin Srinivasan and Michael Bain and Enrico Coiera
- Abstract要約: この文脈における人間と機械の両方の要件は、かなり異なると我々は主張する。
このようなヒューマン・マシン・システムの設計は、情報の2方向の繰り返しの可視性によって駆動されるべきである。
我々は、協調的な意思決定支援システムの設計を導くために、運用原則、すなわち、知性公理(Intelligibility Axioms)を提案します。
- 参考スコア（独自算出の注目度）: 2.618757282404254
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Recent engineering developments in specialised computational hardware,
data-acquisition and storage technology have seen the emergence of Machine
Learning (ML) as a powerful form of data analysis with widespread applicability
beyond its historical roots in the design of autonomous agents. However --
possibly because of its origins in the development of agents capable of
self-discovery -- relatively little attention has been paid to the interaction
between people and ML. In this paper we are concerned with the use of ML in
automated or semi-automated tools that assist one or more human decision
makers. We argue that requirements on both human and machine in this context
are significantly different to the use of ML either as part of autonomous
agents for self-discovery or as part statistical data analysis. Our principal
position is that the design of such human-machine systems should be driven by
repeated, two-way intelligibility of information rather than one-way
explainability of the ML-system's recommendations. Iterated rounds of
intelligible information exchange, we think, will characterise the kinds of
collaboration that will be needed to understand complex phenomena for which
neither man or machine have complete answers. We propose operational principles
-- we call them Intelligibility Axioms -- to guide the design of a
collaborative decision-support system. The principles are concerned with: (a)
what it means for information provided by the human to be intelligible to the
ML system; and (b) what it means for an explanation provided by an ML system to
be intelligible to a human. Using examples from the literature on the use of ML
for drug-design and in medicine, we demonstrate cases where the conditions of
the axioms are met. We describe some additional requirements needed for the
design of a truly collaborative decision-support system.
- Abstract（参考訳）: 特殊な計算ハードウェア、データ取得、ストレージ技術における最近の工学的発展は、機械学習(ML)の出現を、自律エージェントの設計における歴史的ルーツを超えて広く適用可能な強力なデータ分析の形式と見なしている。
しかし、おそらくは、自己発見能力のあるエージェントの開発に起源があるためか、人間とMLの相互作用にはあまり注意が払われていない。
本稿では,1人以上の意思決定者を支援する自動あるいは半自動化ツールにおけるMLの使用を懸念する。
この文脈における人間と機械の両方に対する要求は、自己発見のための自律エージェントまたは統計データ分析の一部としてのmlの使用と大きく異なると論じている。
我々の主要な立場は、MLシステムの推奨事項の一方的な説明可能性よりも、情報の繰り返し、双方向の可知性によって、そのような人間機械システムの設計を推進すべきであるということです。
インテリジェントな情報交換の反復的なラウンドは、人間も機械も完全な答えを持っていない複雑な現象を理解するのに必要なコラボレーションの種類を特徴付けるだろう。
我々は、協調的な意思決定支援システムの設計を導くために、運用原則、いわゆる知性原理を提案します。
原則は次のようなものです
(a)人間が提供した情報がmlシステムに対して理解可能であることの意味
b) MLシステムが提供する説明が人間に理解できないことの意味。
薬物設計および医学におけるmlの使用に関する文献の例を用いて, 公理の条件が満たされた事例を示す。
真に協調的な意思決定支援システムの設計に必要な追加要件について述べる。
関連論文リスト
- Automated Process Planning Based on a Semantic Capability Model and SMT [50.76251195257306]
製造システムと自律ロボットの研究において、機械で解釈可能なシステム機能の仕様に「能力」という用語が用いられる。
セマンティック能力モデルから始めて、AI計画問題を自動的に生成するアプローチを提案する。
論文 参考訳（メタデータ） (2023-12-14T10:37:34Z) - OmniForce: On Human-Centered, Large Model Empowered and Cloud-Edge
Collaborative AutoML System [85.8338446357469]
我々は人間中心のAutoMLシステムであるOmniForceを紹介した。
我々は、OmniForceがAutoMLシステムを実践し、オープン環境シナリオにおける適応型AIを構築する方法について説明する。
論文 参考訳（メタデータ） (2023-03-01T13:35:22Z) - A Model for Intelligible Interaction Between Agents That Predict and Explain [1.335664823620186]
エージェントを特殊特性を持つオートマチックにすることで相互作用モデルを定式化する。
プロトコルの実行によって実行時に現れるプロパティとして,ワンウェイとツーウェイのインテリジェンスを定義する。
a)インダクティブ論理プログラミング(ILP)で行われているように、論理に基づく説明を提供するMLシステムと対話する人間に関する文献報告における1-および2-Way知能の事例を特定し、(b)1-または2-Way知能に精巧な自然言語に基づく対話モデルで人間と機械間の相互作用をマッピングする。
論文 参考訳（メタデータ） (2023-01-04T20:48:22Z) - Interpretability and accessibility of machine learning in selected food
processing, agriculture and health applications [0.0]
MLベースのシステムの解釈可能性の欠如は、これらの強力なアルゴリズムの普及の大きな障害である。
自動モデル設計によるMLアクセシビリティ向上のために、新たなテクニックが登場している。
本稿では,グローバル問題における機械学習の解釈可能性とアクセシビリティ向上に向けた取り組みについて概説する。
論文 参考訳（メタデータ） (2022-11-30T02:44:13Z) - A Survey of Machine Unlearning [56.017968863854186]
最近の規制では、要求に応じて、ユーザに関する個人情報をコンピュータシステムから削除する必要がある。
MLモデルは古いデータをよく記憶します。
機械学習に関する最近の研究は、この問題を完全に解決することはできなかった。
論文 参考訳（メタデータ） (2022-09-06T08:51:53Z) - An Objective Metric for Explainable AI: How and Why to Estimate the
Degree of Explainability [3.04585143845864]
本稿では, 客観的手法を用いて, 正しい情報のeX説明可能性の度合いを測定するための, モデルに依存しない新しい指標を提案する。
私たちは、医療とファイナンスのための2つの現実的なAIベースのシステムについて、いくつかの実験とユーザースタディを設計しました。
論文 参考訳（メタデータ） (2021-09-11T17:44:13Z) - Automated Machine Learning, Bounded Rationality, and Rational
Metareasoning [62.997667081978825]
有界合理性の観点から、自動機械学習(AutoML)と関連する問題を考察する。
リソース境界の下でアクションを取るには、エージェントがこれらのリソースを最適な方法で利用する方法を反映する必要がある。
論文 参考訳（メタデータ） (2021-09-10T09:10:20Z) - Understanding the Usability Challenges of Machine Learning In
High-Stakes Decision Making [67.72855777115772]
機械学習(ML)は、多種多様な成長を続ける一連のドメインに適用されている。
多くの場合、MLやデータサイエンスの専門知識を持たないドメインの専門家は、ML予測を使用してハイステークな意思決定を行うように求められます。
児童福祉スクリーニングにおけるMLユーザビリティの課題について,児童福祉スクリーニング者との一連のコラボレーションを通じて検討する。
論文 参考訳（メタデータ） (2021-03-02T22:50:45Z) - The Role of Individual User Differences in Interpretable and Explainable
Machine Learning Systems [0.3169089186688223]
本研究では,機械学習が生成したモデル出力から,個人のスキルや性格特性が解釈可能性,説明可能性,知識発見をどのように予測するかを検討する。
我々の研究は、人間がどのように数値的な刺激を処理するかという主要な理論であるファジィ・トレース理論に依存している。
論文 参考訳（メタデータ） (2020-09-14T18:15:00Z) - Explainable Empirical Risk Minimization [0.6299766708197883]
機械学習(ML)の手法が成功すると、解釈可能性や説明可能性にますます依存するようになる。
本稿では、情報理論の概念を適用し、ML法による予測の主観的説明可能性のための新しい尺度を開発する。
我々の主な貢献は、主観的説明可能性とリスクを最適にバランスする仮説を学ぶための説明可能な経験的リスク最小化(EERM)原理である。
論文 参考訳（メタデータ） (2020-09-03T07:16:34Z) - A general framework for scientifically inspired explanations in AI [76.48625630211943]
我々は、AIシステムの説明を実装可能な一般的なフレームワークの理論的基盤として、科学的説明の構造の概念をインスタンス化する。
このフレームワークは、AIシステムの"メンタルモデル"を構築するためのツールを提供することを目的としている。
論文 参考訳（メタデータ） (2020-03-02T10:32:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。