Fugu-MT 論文翻訳(概要): Position paper: Do not explain (vision models) without context

論文の概要: Position paper: Do not explain (vision models) without context

arxiv url: http://arxiv.org/abs/2404.18316v2
Date: Sun, 5 May 2024 16:38:42 GMT
ステータス: 処理完了
システム内更新日: 2024-05-07 20:39:26.050831
Title: Position paper: Do not explain (vision models) without context
Title（参考訳）: ポジションペーパー:文脈のない(ビジョンモデル)の説明はしない。
Authors: Paulina Tomaszewska, Przemysław Biecek,
Abstract要約: 我々は、説明へのアプローチの変化が「どこで」から「どのように」に変わる必要があると論じる。空間的コンテキストが重要な役割を果たす実世界のユースケースの例を示す。
参考スコア（独自算出の注目度）: 4.48890356952206
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Does the stethoscope in the picture make the adjacent person a doctor or a patient? This, of course, depends on the contextual relationship of the two objects. If it is obvious, why don not explanation methods for vision models use contextual information? In this paper, we (1) review the most popular methods of explaining computer vision models by pointing out that they do not take into account context information, (2) provide examples of real-world use cases where spatial context plays a significant role, (3) propose new research directions that may lead to better use of context information in explaining computer vision models, (4) argue that a change in approach to explanations is needed from 'where' to 'how'.
Abstract（参考訳）: 写真に写っている聴診器は、隣の人を医者か患者にしますか? これは、もちろん、2つのオブジェクトの文脈的関係に依存する。もし明らかなら、視覚モデルのための説明法は文脈情報を使うのではないだろうか。本稿では,(1)文脈情報を考慮していないことを指摘して,コンピュータビジョンモデルを説明する最も一般的な手法をレビューし,(2)空間コンテキストが重要な役割を果たす実世界のユースケースの例を示し,(3)コンピュータビジョンモデルを説明する上で,文脈情報のより良い活用につながる可能性のある新たな研究方向を提案する。

関連論文リスト

Fool Me Once? Contrasting Textual and Visual Explanations in a Clinical Decision-Support Setting [43.110187812734864]
視覚的説明(可用性マップ)、自然言語の説明、両方のモダリティの組み合わせの3種類の説明を評価した。テキストに基づく説明は、高い信頼度をもたらすことが分かっており、従順マップと組み合わせることで軽減される。また、説明の質、すなわち、それがどれだけ事実的に正しい情報であり、それがAIの正しさとどの程度一致しているかが、異なる説明タイプの有用性に大きく影響していることも観察します。
論文参考訳（メタデータ） (2024-10-16T06:43:02Z)
From Model Explanation to Data Misinterpretation: Uncovering the Pitfalls of Post Hoc Explainers in Business Research [3.7209396288545338]
ビジネス研究では、データに関する推論にポストホックな説明が使われる傾向が増えている。この論文の最終的な目標は、機械学習モデルのポストホックな説明を、潜在的に誤った洞察とデータの理解に翻訳しないように、ビジネス研究者に警告することである。
論文参考訳（メタデータ） (2024-08-30T03:22:35Z)
OCTET: Object-aware Counterfactual Explanations [29.532969342297086]
対物的説明生成のためのオブジェクト指向フレームワークを提案する。近年のジェネレーティブ・モデリングの成果に触発された本手法では,オブジェクトレベルの操作を容易にするために,クエリイメージを潜在空間に符号化する。そこで本研究では,シーンを駆動する反実的説明ベンチマークの一連の実験を行い,本手法が分類を超えて適用可能であることを示す。
論文参考訳（メタデータ） (2022-11-22T16:23:12Z)
Learning to Scaffold: Optimizing Model Explanations for Teaching [74.25464914078826]
我々は3つの自然言語処理とコンピュータビジョンタスクのモデルを訓練する。筆者らは,本フレームワークで抽出した説明文を学習した学生が,従来の手法よりもはるかに効果的に教師をシミュレートできることを発見した。
論文参考訳（メタデータ） (2022-04-22T16:43:39Z)
Rethinking Explainability as a Dialogue: A Practitioner's Perspective [57.87089539718344]
医師、医療専門家、政策立案者に対して、説明を求めるニーズと欲求について尋ねる。本研究は, 自然言語対話の形での対話的説明を, 意思決定者が強く好むことを示唆する。これらのニーズを考慮して、インタラクティブな説明を設計する際に、研究者が従うべき5つの原則を概説する。
論文参考訳（メタデータ） (2022-02-03T22:17:21Z)
Human Interpretation of Saliency-based Explanation Over Text [65.29015910991261]
テキストデータ上でのサリエンシに基づく説明について検討する。人はしばしば説明を誤って解釈する。本稿では,過度知覚と過小認識のモデル推定に基づいて,サリエンシを調整する手法を提案する。
論文参考訳（メタデータ） (2022-01-27T15:20:32Z)
Visual Probing: Cognitive Framework for Explaining Self-Supervised Image Representations [12.485001250777248]
近年,画像表現学習のための自己教師付き手法が,完全教師付き競技者に対して,同等以上の結果を提供するようになった。そこで本研究では,自己教師型モデルを説明するための新しい視覚探索フレームワークを提案する。自己指導型表現の文脈において,これらのアナログの有効性と適用性を示す。
論文参考訳（メタデータ） (2021-06-21T12:40:31Z)
Contrastive Explanations for Model Interpretability [77.92370750072831]
分類モデルの対照的説明を生成する手法を提案する。本手法は潜在空間へのモデル表現の投影に基づいている。本研究は,モデル決定のより正確できめ細かな解釈性を提供するためのラベルコントラスト的説明の能力に光を当てた。
論文参考訳（メタデータ） (2021-03-02T00:36:45Z)
Explainers in the Wild: Making Surrogate Explainers Robust to Distortions through Perception [77.34726150561087]
説明における歪みの影響を知覚距離を埋め込むことで評価する手法を提案する。 Imagenet-Cデータセットの画像の説明を生成し、サロゲート説明書の知覚距離を使用して歪んだ画像と参照画像のより一貫性のある説明を作成する方法を示しています。
論文参考訳（メタデータ） (2021-02-22T12:38:53Z)
This is not the Texture you are looking for! Introducing Novel Counterfactual Explanations for Non-Experts using Generative Adversarial Learning [59.17685450892182]
反実用説明システムは、入力画像を変更して反実用推論を可能にする。本稿では, 対向画像から画像への変換技術に基づく, 対向画像の説明を新たに生成する手法を提案する。その結果,我々のアプローチは,2つの最先端技術システムよりも,メンタルモデル,説明満足度,信頼度,感情,自己効力に関して有意に優れた結果をもたらすことがわかった。
論文参考訳（メタデータ） (2020-12-22T10:08:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。