論文の概要: Explaining with Counter Visual Attributes and Examples

• arxiv url: http://arxiv.org/abs/2001.09671v1
• Date: Mon, 27 Jan 2020 10:28:47 GMT
• ステータス: 処理完了
• システム内更新日: 2023-01-06 08:16:16.245367
• Title: Explaining with Counter Visual Attributes and Examples
• Title（参考訳）: Counter Visual Attributesによる説明と例
• Authors: Sadaf Gulshad and Arnold Smeulders
• Abstract要約: 視覚的説明の一部として属性と反属性と例と反例を用いることを提案する。 粗いデータセットときめ細かいデータセットの両方を用いた実験では、属性が識別可能で人間に理解不能な直感的かつ直感的でない説明を提供することが示された。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In this paper, we aim to explain the decisions of neural networks by utilizing multimodal information. That is counter-intuitive attributes and counter visual examples which appear when perturbed samples are introduced. Different from previous work on interpreting decisions using saliency maps, text, or visual patches we propose to use attributes and counter-attributes, and examples and counter-examples as part of the visual explanations. When humans explain visual decisions they tend to do so by providing attributes and examples. Hence, inspired by the way of human explanations in this paper we provide attribute-based and example-based explanations. Moreover, humans also tend to explain their visual decisions by adding counter-attributes and counter-examples to explain what is not seen. We introduce directed perturbations in the examples to observe which attribute values change when classifying the examples into the counter classes. This delivers intuitive counter-attributes and counter-examples. Our experiments with both coarse and fine-grained datasets show that attributes provide discriminating and human-understandable intuitive and counter-intuitive explanations.
• Abstract（参考訳）: 本稿では,マルチモーダル情報を利用したニューラルネットワークの決定について説明する。 これは、摂動サンプルが導入されたときに現れる反直感的属性と対視的例である。 サリエンシマップやテキスト,あるいはビジュアルパッチを使って意思決定を解釈する以前の作業とは違って,属性や反属性,例や反例を視覚的説明の一部として使用することを提案する。 人間が視覚的な決定を説明するとき、属性や例を提供することでそうする傾向がある。 そこで本稿では,人間による説明の仕方に触発されて,属性ベースとサンプルベースの説明を提供する。 さらに、人間は、見えないものを説明するためにカウンター属性とカウンターサンプルを追加することで、視覚的な決定を説明する傾向がある。 例では、例をカウンタクラスに分類する際にどの属性値が変化するか観察するために有向摂動を導入する。 これは直感的な反属性と反例を提供する。 粗いデータセットと細かいデータセットの両方を用いた実験では、属性が識別可能で、人間に理解可能な直感的かつ直観的な説明を提供することが示された。

関連論文リスト

• Causal Generative Explainers using Counterfactual Inference: A Case Study on the Morpho-MNIST Dataset [5.458813674116228]
  本稿では,視覚的特徴と因果的要因の影響を研究するために,生成的対実的推論手法を提案する。 我々は,OmnixAIオープンソースツールキットの視覚的説明手法を用いて,提案手法との比較を行った。 このことから,本手法は因果的データセットの解釈に極めて適していることが示唆された。
  論文  参考訳（メタデータ） (2024-01-21T04:07:48Z)
• Do Users Benefit From Interpretable Vision? A User Study, Baseline, And Dataset [8.863479255829139]
  本研究では,ベースラインの説明手法が,概念に基づく,反現実的な説明に対してどのように機能するかを検証するために,ユーザスタディを実施している。 そこで,本研究では,参加者が属性の集合を,基幹構造と比較して識別できるかどうかを検証した。 非可逆ニューラルネットワークからの対実的説明はベースラインと同様に実行された。
  論文  参考訳（メタデータ） (2022-04-25T13:20:06Z)
• Human Interpretation of Saliency-based Explanation Over Text [65.29015910991261]
  テキストデータ上でのサリエンシに基づく説明について検討する。 人はしばしば説明を誤って解釈する。 本稿では,過度知覚と過小認識のモデル推定に基づいて,サリエンシを調整する手法を提案する。
  論文  参考訳（メタデータ） (2022-01-27T15:20:32Z)
• Contrastive Explanations for Model Interpretability [77.92370750072831]
  分類モデルの対照的説明を生成する手法を提案する。 本手法は潜在空間へのモデル表現の投影に基づいている。 本研究は,モデル決定のより正確できめ細かな解釈性を提供するためのラベルコントラスト的説明の能力に光を当てた。
  論文  参考訳（メタデータ） (2021-03-02T00:36:45Z)
• Explainers in the Wild: Making Surrogate Explainers Robust to Distortions through Perception [77.34726150561087]
  説明における歪みの影響を知覚距離を埋め込むことで評価する手法を提案する。 Imagenet-Cデータセットの画像の説明を生成し、サロゲート説明書の知覚距離を使用して歪んだ画像と参照画像のより一貫性のある説明を作成する方法を示しています。
  論文  参考訳（メタデータ） (2021-02-22T12:38:53Z)
• This is not the Texture you are looking for! Introducing Novel Counterfactual Explanations for Non-Experts using Generative Adversarial Learning [59.17685450892182]
  反実用説明システムは、入力画像を変更して反実用推論を可能にする。 本稿では, 対向画像から画像への変換技術に基づく, 対向画像の説明を新たに生成する手法を提案する。 その結果,我々のアプローチは,2つの最先端技術システムよりも,メンタルモデル,説明満足度,信頼度,感情,自己効力に関して有意に優れた結果をもたらすことがわかった。
  論文  参考訳（メタデータ） (2020-12-22T10:08:05Z)
• Quantifying Learnability and Describability of Visual Concepts Emerging in Representation Learning [91.58529629419135]
  我々は、ディープニューラルネットワークによって自動的に発見された視覚的なグルーピングを特徴付ける方法を検討する。 本稿では、任意の画像グループ化の解釈可能性の定量化に使用できる視覚的学習可能性と記述可能性という2つの概念を紹介する。
  論文  参考訳（メタデータ） (2020-10-27T18:41:49Z)
• Interpretable Representations in Explainable AI: From Theory to Practice [7.031336702345381]
  解釈可能な表現は、ブラックボックス予測システムをターゲットにした多くの説明器のバックボーンである。 人間の理解可能な概念の存在と欠如をエンコードする解釈可能な表現の特性について検討する。
  論文  参考訳（メタデータ） (2020-08-16T21:44:03Z)
• Compositional Explanations of Neurons [52.71742655312625]
  本稿では, 合成論理的概念を同定し, 深部表現におけるニューロンの説明手順について述べる。 本稿では,視覚と自然言語処理のモデルにおける解釈可能性に関するいくつかの疑問に答えるために,この手順を用いる。
  論文  参考訳（メタデータ） (2020-06-24T20:37:05Z)
• Explanations of Black-Box Model Predictions by Contextual Importance and Utility [1.7188280334580195]
  本稿では,初級者だけでなく専門家が容易に理解できる説明を抽出するために,文脈重要度(CI)と文脈実用性(CU)の概念を提案する。 本手法は,モデルを解釈可能なモデルに変換することなく予測結果を説明する。 カーセレクションの例とアイリスの花分類における説明の有用性を,完全な(つまり,個人の予測の原因)と対照的な説明を提示することによって示す。
  論文  参考訳（メタデータ） (2020-05-30T06:49:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。