論文の概要: Show or Suppress? Managing Input Uncertainty in Machine Learning Model Explanations

• arxiv url: http://arxiv.org/abs/2101.09498v1
• Date: Sat, 23 Jan 2021 13:10:48 GMT
• ステータス: 処理完了
• システム内更新日: 2021-03-19 10:49:51.556027
• Title: Show or Suppress? Managing Input Uncertainty in Machine Learning Model Explanations
• Title（参考訳）: Show or Suppress? 機械学習モデル説明における入力不確かさの管理
• Authors: Danding Wang, Wencan Zhang and Brian Y. Lim
• Abstract要約: 特徴属性は、各測定された入力特徴値が出力推定に与える影響を説明するために、解釈可能な機械学習で広く使用されている。 入力の不確実性の認識が説明の信頼にどのように影響するかは不明です。 モデル説明において不確実性の認識を管理するための2つのアプローチを提案します。
• 参考スコア（独自算出の注目度）: 5.695163312473304
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Feature attribution is widely used in interpretable machine learning to explain how influential each measured input feature value is for an output inference. However, measurements can be uncertain, and it is unclear how the awareness of input uncertainty can affect the trust in explanations. We propose and study two approaches to help users to manage their perception of uncertainty in a model explanation: 1) transparently show uncertainty in feature attributions to allow users to reflect on, and 2) suppress attribution to features with uncertain measurements and shift attribution to other features by regularizing with an uncertainty penalty. Through simulation experiments, qualitative interviews, and quantitative user evaluations, we identified the benefits of moderately suppressing attribution uncertainty, and concerns regarding showing attribution uncertainty. This work adds to the understanding of handling and communicating uncertainty for model interpretability.
• Abstract（参考訳）: 特徴属性は、各測定された入力特徴値が出力推定に与える影響を説明するために、解釈可能な機械学習で広く使用されている。 しかし、測定は不確かであり、入力の不確実性に対する認識が説明の信頼にどのように影響するかは不明である。 モデル説明において,ユーザが不確実性に対する認識を管理するための2つのアプローチを提案する。1)特徴属性の不確実性を透過的に示し,2)不確実性のある特徴への寄与を抑え,また,不確実性ペナルティで規則化することで他の特徴への帰属を抑える。 シミュレーション実験,質的インタビュー,定量的ユーザ評価を通じて,帰属不確実性を適度に抑制するメリット,帰属不確実性を示すことへの懸念を明らかにした。 この作業は、モデル解釈可能性の扱いや不確実性に関する理解を深める。

関連論文リスト

• Learning Disentangled Representations of Negation and Uncertainty [25.11863604063283]
  言語理論は、否定と不確実性の表現は意味的に互いに独立であり、それらが修正する内容である、と仮定している。 本研究では,変分オートエンコーダを用いて否定,不確実性,内容の表現をアンタングル化しようとする。
  論文  参考訳（メタデータ） (2022-04-01T15:12:05Z)
• Decomposing Representations for Deterministic Uncertainty Estimation [34.11413246048065]
  我々は,現在の特徴密度に基づく不確実性推定器は,様々なOoD検出設定で一貫した性能を発揮できないことを示す。 本稿では,学習した表現を分解し,それらを個別に推定した不確実性を統合することを提案する。
  論文  参考訳（メタデータ） (2021-12-01T22:12:01Z)
• Logit-based Uncertainty Measure in Classification [18.224344440110862]
  我々は,ロジット不確実性と呼ばれる分類タスクに対して,新しい,信頼性が高く,不可知な不確実性尺度を導入する。 この新たな不確実性対策は,従来の課題に対する不確実性対策よりも優れた性能を示すことを示す。
  論文  参考訳（メタデータ） (2021-07-06T19:07:16Z)
• Learning Uncertainty For Safety-Oriented Semantic Segmentation In Autonomous Driving [77.39239190539871]
  自律運転における安全クリティカル画像セグメンテーションを実現するために、不確実性推定をどのように活用できるかを示す。 相似性関数によって測定された不一致予測に基づく新しい不確実性尺度を導入する。 本研究では,提案手法が競合手法よりも推論時間において計算集約性が低いことを示す。
  論文  参考訳（メタデータ） (2021-05-28T09:23:05Z)
• Dive into Ambiguity: Latent Distribution Mining and Pairwise Uncertainty Estimation for Facial Expression Recognition [59.52434325897716]
  DMUE(DMUE)という,アノテーションのあいまいさを2つの視点から解決するソリューションを提案する。 前者に対しては,ラベル空間における潜伏分布をよりよく記述するために,補助的マルチブランチ学習フレームワークを導入する。 後者の場合、インスタンス間の意味的特徴のペアワイズ関係を完全に活用して、インスタンス空間のあいまいさの程度を推定する。
  論文  参考訳（メタデータ） (2021-04-01T03:21:57Z)
• DEUP: Direct Epistemic Uncertainty Prediction [56.087230230128185]
  認識の不確実性は、学習者の知識の欠如によるサンプル外の予測エラーの一部である。 一般化誤差の予測を学習し, aleatoric uncertaintyの推定を減算することで, 認識的不確かさを直接推定する原理的アプローチを提案する。
  論文  参考訳（メタデータ） (2021-02-16T23:50:35Z)
• The Hidden Uncertainty in a Neural Networks Activations [105.4223982696279]
  ニューラルネットワークの潜在表現の分布は、アウト・オブ・ディストリビューション(OOD)データの検出に成功している。 本研究は、この分布が、モデルの不確実性と相関しているかどうかを考察し、新しい入力に一般化する能力を示す。
  論文  参考訳（メタデータ） (2020-12-05T17:30:35Z)
• Uncertainty as a Form of Transparency: Measuring, Communicating, and Using Uncertainty [66.17147341354577]
  我々は,モデル予測に関連する不確実性を推定し,伝達することにより,相補的な透明性の形式を考えることについて議論する。 モデルの不公平性を緩和し、意思決定を強化し、信頼できるシステムを構築するために不確実性がどのように使われるかを説明する。 この研究は、機械学習、可視化/HCI、デザイン、意思決定、公平性にまたがる文学から引き出された学際的レビューを構成する。
  論文  参考訳（メタデータ） (2020-11-15T17:26:14Z)
• When Does Uncertainty Matter?: Understanding the Impact of Predictive Uncertainty in ML Assisted Decision Making [68.19284302320146]
  予測に付随する不確かさを観察した場合、人々はモデル予測に同意する傾向にあることを示す。 この発見は、予測不確実性(後続予測分布)の性質にかかわらず成り立つ。 また、ドメインの専門知識やMLに精通しているといった他の要因も、誰かがどのように解釈し、予測の不確実性を意思決定に組み込むかを決定する役割を担っていることもわかりました。
  論文  参考訳（メタデータ） (2020-11-12T02:23:53Z)
• Double-Uncertainty Weighted Method for Semi-supervised Learning [32.484750353853954]
  教師-学生モデルに基づく半教師付きセグメンテーションのための二重不確かさ重み付き手法を提案する。 ベイジアンディープラーニングを用いて教師モデルを訓練し,セグメンテーションの不確実性と特徴の不確実性を両立させる。 本手法は,2つの公開医療データセットにおいて,最先端の不確実性に基づく半教師付き手法よりも優れている。
  論文  参考訳（メタデータ） (2020-10-19T08:20:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。