論文の概要: Gradient Hedging for Intensively Exploring Salient Interpretation beyond
Neuron Activation
- arxiv url: http://arxiv.org/abs/2205.11109v1
- Date: Mon, 23 May 2022 07:57:42 GMT
- ステータス: 処理完了
- システム内更新日: 2022-05-24 15:12:21.017528
- Title: Gradient Hedging for Intensively Exploring Salient Interpretation beyond
Neuron Activation
- Title(参考訳): 中枢神経活動を超えた局所的解釈のためのグラディエントヘッジ
- Authors: Woo-Jeoung Nam, Seong-Whan Lee
- Abstract要約: 本稿では, ある決定の証拠を隠蔽することにより, 出力予測を集中的な帰属属性に分解する手法を提案する。
本稿では,決定の証拠に適用される従来のアプローチを分析し,保全規則のパラドックスについて議論する。
提案手法は,汎用モデルにおける頑健さと適用性を備えた特徴的,集中的,直感的な可視化において,既存属性法よりも優れる。
- 参考スコア(独自算出の注目度): 25.86943155064205
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Hedging is a strategy for reducing the potential risks in various types of
investments by adopting an opposite position in a related asset. Motivated by
the equity technique, we introduce a method for decomposing output predictions
into intensive salient attributions by hedging the evidence for a decision. We
analyze the conventional approach applied to the evidence for a decision and
discuss the paradox of the conservation rule. Subsequently, we define the
viewpoint of evidence as a gap of positive and negative influence among the
gradient-derived initial contribution maps and propagate the antagonistic
elements to the evidence as suppressors, following the criterion of the degree
of positive attribution defined by user preference. In addition, we reflect the
severance or sparseness contribution of inactivated neurons, which are mostly
irrelevant to a decision, resulting in increased robustness to
interpretability. We conduct the following assessments in a verified
experimental environment: pointing game, most relevant first region insertion,
outside-inside relevance ratio, and mean average precision on the PASCAL VOC
2007, MS COCO 2014, and ImageNet datasets. The results demonstrate that our
method outperforms existing attribution methods in distinctive, intensive, and
intuitive visualization with robustness and applicability in general models.
- Abstract(参考訳): ヘッジ(英: hedging)とは、様々な種類の投資における潜在的なリスクを減らすための戦略である。
エクイティ手法に動機付け, 決定の証拠を隠蔽することにより, 出力予測を集中的な帰属属性に分解する手法を提案する。
決定の証拠に適用される従来のアプローチを分析し,保存則のパラドックスについて議論する。
その後,グラデーションから派生した初期貢献マップにおける肯定的および否定的影響のギャップとしてエビデンスの観点から定義し,ユーザ嗜好によって定義された肯定的帰属度の基準に従って,証拠に対する敵対的要素を抑制者として伝達する。
また,不活化ニューロンの重症度や疎度は決定に大きく関係しないため,解釈可能性に対する堅牢性が向上する。
本研究は, PASCAL VOC 2007, MS COCO 2014, ImageNetデータセットを用いて, ポインティングゲーム, 最も関連性の高い第1領域挿入, 外部関連率, 平均精度の評価を行った。
以上の結果から,本手法は,汎用モデルにおける頑健さと適用性により,特徴的,集中的,直感的な可視化において,既存属性法よりも優れることが示された。
関連論文リスト
- Confronting Reward Overoptimization for Diffusion Models: A Perspective
of Inductive and Primacy Biases [81.49800426169632]
拡散モデルと人間の嗜好のギャップを埋めることが、実用的生成への統合に不可欠である。
本稿では,中間段階の時間的帰納バイアスを利用したポリシー勾配アルゴリズムTDPO-Rを提案する。
実験結果から,報酬過小評価を緩和するアルゴリズムの有効性が示された。
論文 参考訳(メタデータ) (2024-02-13T15:55:41Z) - Disentangled Representation for Causal Mediation Analysis [25.114619307838602]
因果媒介分析(英: Causal mediation analysis)は、直接的および間接的な効果を明らかにするためにしばしば用いられる方法である。
深層学習はメディエーション分析において有望であるが、現在の手法では、治療、メディエーター、結果に同時に影響を及ぼす潜在的共同創設者のみを前提としている。
そこで本研究では,助成金の表現を3つのタイプに分けて,自然的直接効果,自然間接効果,および全効果を正確に推定する,ディスタングル・メディエーション分析変分自動エンコーダ(DMAVAE)を提案する。
論文 参考訳(メタデータ) (2023-02-19T23:37:17Z) - Distributionally Robust Causal Inference with Observational Data [4.8986598953553555]
非確立性の標準的な仮定を伴わない観察研究における平均治療効果の推定を考察する。
本稿では,無観測の共同設立者が存在する可能性を考慮した,一般的な観察研究環境下での堅牢な因果推論の枠組みを提案する。
論文 参考訳(メタデータ) (2022-10-15T16:02:33Z) - Domain Adaptation with Adversarial Training on Penultimate Activations [82.9977759320565]
教師なし領域適応(Unsupervised Domain Adaptation, UDA)の重要な目的は、ラベルなし対象データに対するモデル予測の信頼性を高めることである。
我々は,この戦略が,入力画像や中間特徴に対する敵対的訓練よりも予測信頼性を高める目的と,より効率的で相関性が高いことを示す。
論文 参考訳(メタデータ) (2022-08-26T19:50:46Z) - CausPref: Causal Preference Learning for Out-of-Distribution
Recommendation [36.22965012642248]
現在のレコメンデータシステムは、現実的なシナリオにおけるユーザやアイテムの配布シフトに対して、依然として脆弱である。
本稿では,推奨特化DAG学習者を因果選好に基づく推薦フレームワークCausPrefに組み込むことを提案する。
当社のアプローチは、アウト・オブ・ディストリビューション・セッティングのタイプにおいて、ベンチマークモデルを大幅に上回っている。
論文 参考訳(メタデータ) (2022-02-08T16:42:03Z) - Interpreting Deep Neural Networks with Relative Sectional Propagation by
Analyzing Comparative Gradients and Hostile Activations [37.11665902583138]
DNN(Deep Neural Networks)の出力予測を分解するための新しいアトリビューション手法であるRelative Sectional Propagation(RSP)を提案する。
我々は、敵対的因子をターゲットの属性を見つけるのを妨げる要素として定義し、活性化ニューロンの非抑制的な性質を克服するために区別可能な方法でそれを伝播させる。
本手法により,従来の帰属法と比較して,DNNのクラス識別性や活性化ニューロンの詳細な解明により,DNNの予測を分解することができる。
論文 参考訳(メタデータ) (2020-12-07T03:11:07Z) - Proactive Pseudo-Intervention: Causally Informed Contrastive Learning
For Interpretable Vision Models [103.64435911083432]
PPI(Proactive Pseudo-Intervention)と呼ばれる新しい対照的な学習戦略を提案する。
PPIは、因果関係のない画像の特徴を保護するために積極的に介入する。
また,重要な画像画素を識別するための,因果的に通知された新たなサリエンスマッピングモジュールを考案し,モデル解釈の容易性を示す。
論文 参考訳(メタデータ) (2020-12-06T20:30:26Z) - Loss Bounds for Approximate Influence-Based Abstraction [81.13024471616417]
影響に基づく抽象化は、システムの残りの部分が与える「影響」とともに、局所的なサブプロブレムをモデル化することでレバレッジを得ることを目的としている。
本稿では,理論的観点から,そのような手法の性能について考察する。
交叉エントロピーで訓練されたニューラルネットワークは、近似的な影響表現を学習するのに適していることを示す。
論文 参考訳(メタデータ) (2020-11-03T15:33:10Z) - Face Anti-Spoofing Via Disentangled Representation Learning [90.90512800361742]
顔認識システムのセキュリティには、顔の偽造が不可欠だ。
本稿では,画像から生意気な特徴やコンテンツの特徴を乱す顔のアンチ・スプーフィングの新たな視点を提案する。
論文 参考訳(メタデータ) (2020-08-19T03:54:23Z) - Learning Overlapping Representations for the Estimation of
Individualized Treatment Effects [97.42686600929211]
観測データから代替案の可能性を推定することは難しい問題である。
入力のドメイン不変表現を学習するアルゴリズムは、しばしば不適切であることを示す。
我々は,様々なベンチマークデータセットの最先端性を大幅に向上させる,ディープカーネル回帰アルゴリズムと後続正規化フレームワークを開発した。
論文 参考訳(メタデータ) (2020-01-14T12:56:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。