論文の概要: Leveraging Local Structure for Improving Model Explanations: An Information Propagation Approach

• arxiv url: http://arxiv.org/abs/2409.16429v1
• Date: Tue, 24 Sep 2024 19:48:47 GMT
• ステータス: 処理完了
• システム内更新日: 2024-09-27 08:31:10.081179
• Title: Leveraging Local Structure for Improving Model Explanations: An Information Propagation Approach
• Title（参考訳）: モデル記述の改善のための局所構造の利用:情報伝達アプローチ
• Authors: Ruo Yang, Binghui Wang, Mustafa Bilgic,
• Abstract要約: 本稿では,各画素の属性スコアを説明情報源としてモデル化したIPropを提案する。 IPropは既存の属性ベースの説明手法と互換性がある。
• 参考スコア（独自算出の注目度）: 15.553780307042434
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Numerous explanation methods have been recently developed to interpret the decisions made by deep neural network (DNN) models. For image classifiers, these methods typically provide an attribution score to each pixel in the image to quantify its contribution to the prediction. However, most of these explanation methods appropriate attribution scores to pixels independently, even though both humans and DNNs make decisions by analyzing a set of closely related pixels simultaneously. Hence, the attribution score of a pixel should be evaluated jointly by considering itself and its structurally-similar pixels. We propose a method called IProp, which models each pixel's individual attribution score as a source of explanatory information and explains the image prediction through the dynamic propagation of information across all pixels. To formulate the information propagation, IProp adopts the Markov Reward Process, which guarantees convergence, and the final status indicates the desired pixels' attribution scores. Furthermore, IProp is compatible with any existing attribution-based explanation method. Extensive experiments on various explanation methods and DNN models verify that IProp significantly improves them on a variety of interpretability metrics.
• Abstract（参考訳）: 近年、ディープニューラルネットワーク(DNN)モデルによる決定を解釈するために、多くの説明手法が開発されている。 画像分類器の場合、これらの手法は通常、画像の各ピクセルに対する属性スコアを提供し、その予測への寄与を定量化する。 しかしながら、これらの説明法のほとんどは、人間とDNNの両方が同時に近縁なピクセルの集合を解析して決定を下すにもかかわらず、画素に対する帰属スコアを独立して適切なものである。 したがって、画素の属性スコアは、それ自身とその構造的に類似したピクセルを考慮し、共同で評価すべきである。 提案手法は,各画素の個々の属性スコアを説明情報源としてモデル化し,全画素にまたがる動的情報伝達により画像予測を行うIPropという手法を提案する。 情報伝達を定式化するために、IProp は収束を保証する Markov Reward Process を採用し、最終的なステータスは所望のピクセルの属性スコアを示す。 さらに、IPropは既存の属性ベースの説明手法と互換性がある。 様々な説明手法とDNNモデルに関する広範囲な実験により、IPropは様々な解釈可能性指標においてそれらを著しく改善することを確認した。

関連論文リスト

• COMIX: Compositional Explanations using Prototypes [46.15031477955461]
  本稿では,機械表現を人間の理解と整合させる手法を提案する。 提案手法はCOMIXと呼ばれ,学習概念に基づいて領域に分解することで画像の分類を行う。 提案手法は説明の完全性を提供し,その効率性は他の本質的に解釈可能なアーキテクチャと競合することを示す。
  論文  参考訳（メタデータ） (2025-01-10T15:40:31Z)
• Bayesian Active Learning for Semantic Segmentation [9.617769135242973]
  スパースピクセルレベルのアノテーションに基づくベイズ能動的学習フレームワークを提案する。 BalEntは、予測された限界化確率分布とピクセルラベルの間の情報をキャプチャする。 私たちは、Cityscapes、Camvid、ADE20K、VOC2012ベンチマークデータセットのために提案したアクティブラーニングフレームワークをトレーニングします。
  論文  参考訳（メタデータ） (2024-08-03T07:26:10Z)
• Interpretable Network Visualizations: A Human-in-the-Loop Approach for Post-hoc Explainability of CNN-based Image Classification [5.087579454836169]
  State-of-the-art explainability Method は、特定のクラスが特定された場所を示すために、サリエンシマップを生成する。 本稿では,畳み込みニューラルネットワークの機能抽出プロセス全体を説明するポストホック手法を提案する。 また,複数の画像にラベルを集約することで,グローバルな説明を生成する手法を提案する。
  論文  参考訳（メタデータ） (2024-05-06T09:21:35Z)
• Probabilistic Deep Metric Learning for Hyperspectral Image Classification [91.5747859691553]
  本稿では,ハイパースペクトル画像分類のための確率論的深度学習フレームワークを提案する。 ハイパースペクトルセンサーが捉えた画像に対して、各ピクセルのカテゴリを予測することを目的としている。 我々のフレームワークは、既存のハイパースペクトル画像分類法に容易に適用できる。
  論文  参考訳（メタデータ） (2022-11-15T17:57:12Z)
• Describing Sets of Images with Textual-PCA [89.46499914148993]
  画像の集合を意味的に記述し、単一の画像の属性とセット内のバリエーションの両方をキャプチャする。 我々の手順は原理成分分析と類似しており、射影ベクトルの役割を生成されたフレーズに置き換える。
  論文  参考訳（メタデータ） (2022-10-21T17:10:49Z)
• Mining Contextual Information Beyond Image for Semantic Segmentation [37.783233906684444]
  セマンティックイメージセグメンテーションにおける文脈集約問題について検討する。 個々の画像以外の文脈情報をマイニングして、ピクセル表現をさらに強化することを提案する。 提案手法は,既存のセグメンテーションフレームワークに強制的に組み込むことができる。
  論文  参考訳（メタデータ） (2021-08-26T14:34:23Z)
• Deep Co-Attention Network for Multi-View Subspace Learning [73.3450258002607]
  マルチビューサブスペース学習のための深層コアテンションネットワークを提案する。 共通情報と相補情報の両方を敵意で抽出することを目的としている。 特に、新しいクロス再構成損失を使用し、ラベル情報を利用して潜在表現の構築を誘導する。
  論文  参考訳（メタデータ） (2021-02-15T18:46:44Z)
• JGR-P2O: Joint Graph Reasoning based Pixel-to-Offset Prediction Network for 3D Hand Pose Estimation from a Single Depth Image [28.753759115780515]
  最先端の単一深度画像に基づく3次元手ポーズ推定法は、密集した予測に基づいている。 上記の問題に対処するために, 画素単位の予測に基づく新しい手法を提案する。 提案モデルは2次元完全畳み込みネットワークのバックボーンで実装され,約1.4Mのパラメータしか持たない。
  論文  参考訳（メタデータ） (2020-07-09T08:57:19Z)
• ITSELF: Iterative Saliency Estimation fLexible Framework [68.8204255655161]
  機密度オブジェクト検出は、画像で最も顕著なオブジェクトを推定する。 我々は,ユーザ定義の仮定をモデルに追加できる,スーパーピクセルベースのITELF(ITSELF)を提案する。 ITSELFを5つのメトリクスと6つのデータセットで2つの最先端の精度推定器と比較する。
  論文  参考訳（メタデータ） (2020-06-30T16:51:31Z)
• Locally Masked Convolution for Autoregressive Models [107.4635841204146]
  LMConvは標準的な2Dコンボリューションの簡単な修正であり、任意のマスクを画像の各位置の重みに適用することができる。 我々は,パラメータを共有するが生成順序が異なる分布推定器のアンサンブルを学習し,全画像密度推定の性能を向上させる。
  論文  参考訳（メタデータ） (2020-06-22T17:59:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。