論文の概要: Exploiting the Relationship Between Kendall's Rank Correlation and Cosine Similarity for Attribution Protection

• arxiv url: http://arxiv.org/abs/2205.07279v1
• Date: Sun, 15 May 2022 13:08:50 GMT
• ステータス: 処理完了
• システム内更新日: 2022-05-17 14:28:04.892165
• Title: Exploiting the Relationship Between Kendall's Rank Correlation and Cosine Similarity for Attribution Protection
• Title（参考訳）: 属性保護のためのKendallランク相関とコサイン類似性の関係の解明
• Authors: Fan Wang, Adams Wai-Kin Kong
• Abstract要約: まず、期待されるケンドールのランク相関がコサイン類似性と正に相関していることを示し、帰属方向が帰属ロバスト性の鍵であることを示す。 解析の結果,IGRは自然試料とそれに対応する摂動標本に対して,同じ活性化状態のニューロンを刺激することが明らかとなった。
• 参考スコア（独自算出の注目度）: 21.341303776931532
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Model attributions are important in deep neural networks as they aid practitioners in understanding the models, but recent studies reveal that attributions can be easily perturbed by adding imperceptible noise to the input. The non-differentiable Kendall's rank correlation is a key performance index for attribution protection. In this paper, we first show that the expected Kendall's rank correlation is positively correlated to cosine similarity and then indicate that the direction of attribution is the key to attribution robustness. Based on these findings, we explore the vector space of attribution to explain the shortcomings of attribution defense methods using $\ell_p$ norm and propose integrated gradient regularizer (IGR), which maximizes the cosine similarity between natural and perturbed attributions. Our analysis further exposes that IGR encourages neurons with the same activation states for natural samples and the corresponding perturbed samples, which is shown to induce robustness to gradient-based attribution methods. Our experiments on different models and datasets confirm our analysis on attribution protection and demonstrate a decent improvement in adversarial robustness.
• Abstract（参考訳）: モデル帰属はディープニューラルネットワークにおいて、モデルを理解するのに役立つため重要であるが、最近の研究では、入力に知覚不能なノイズを加えることで、帰属が容易に摂動できることが示されている。 微分不能なケンドールのランク相関は帰属保護のための重要なパフォーマンス指標である。 本稿では,まず,期待されるケンドールのランク相関がコサインの類似性に正の相関を示すとともに,帰属方向が帰属ロバストネスの鍵となることを示す。 これらの知見に基づき, 帰属のベクトル空間を探索し, $\ell_p$ ノルムを用いた帰属防衛手法の欠点を説明するとともに, 自然と摂動帰属のコサイン類似性を最大化する統合勾配正規化器 (IGR) を提案する。 以上の結果から,igrは自然試料とそれに対応する摂動試料に対して同じ活性化状態のニューロンを誘導し,勾配に基づく帰属法にロバスト性をもたらすことが明らかとなった。 異なるモデルとデータセットに関する実験により,帰属保護に関する分析が確認され,敵のロバスト性が良好に向上したことを示す。

関連論文リスト

• Learning Robust Classifiers with Self-Guided Spurious Correlation Mitigation [26.544938760265136]
  ディープニューラル分類器は、入力のスプリアス属性とターゲットの間のスプリアス相関に頼り、予測を行う。 本稿では,自己誘導型スプリアス相関緩和フレームワークを提案する。 予測行動の違いを識別するために分類器の訓練を行うことで,事前知識を必要とせず,素因関係への依存を軽減できることを示す。
  論文  参考訳（メタデータ） (2024-05-06T17:12:21Z)
• Causal Discovery by Kernel Deviance Measures with Heterogeneous Transforms [17.368146833023893]
  本稿では,RKHS埋め込みの異種変換に基づく新しいスコア尺度を提案し,因果発見のための条件密度の高次モーメントを抽出する。 各仮説的原因影響方向のスコアを比較して推論を行う。
  論文  参考訳（メタデータ） (2024-01-31T17:28:05Z)
• Latent Feature Relation Consistency for Adversarial Robustness [80.24334635105829]
  深層ニューラルネットワークは、人間の知覚できない敵のノイズを自然の例に付加する敵の例を予測するときに、誤分類が起こる。 textbfLatent textbfFeature textbfRelation textbfConsistency (textbfLFRC)を提案する。 LFRCは、潜在空間における逆例の関係を、自然例と整合性に制約する。
  論文  参考訳（メタデータ） (2023-03-29T13:50:01Z)
• A Practical Upper Bound for the Worst-Case Attribution Deviations [21.341303776931532]
  モデル属性は、複雑なモデルに対する解釈可能性において、ディープニューラルネットワーク(DNN)の重要な構成要素である。 近年の研究では、属性が異なる類似画像を生成する属性攻撃に弱いため、属性手法の安全性に注意が向けられている。 既存の研究はこれらの攻撃に対するDNNの堅牢性を実証的に改善している。 この研究において、制約付き最適化問題を初めて定式化し、ある領域内の雑音によってサンプルが摂動した後の属性の最大の相違を測る上限を導出する。
  論文  参考訳（メタデータ） (2023-03-01T09:07:27Z)
• Fairness via Adversarial Attribute Neighbourhood Robust Learning [49.93775302674591]
  本稿では,分類ヘッドを損なうために,UnderlineRobust underlineAdversarial underlineAttribute underlineNeighbourhood (RAAN)損失を原則として提案する。
  論文  参考訳（メタデータ） (2022-10-12T23:39:28Z)
• Explicit Tradeoffs between Adversarial and Natural Distributional Robustness [48.44639585732391]
  実際、モデルは信頼性を確保するために両方のタイプの堅牢さを享受する必要があります。 本研究では, 対角線と自然分布の強靭性の間には, 明らかなトレードオフが存在することを示す。
  論文  参考訳（メタデータ） (2022-09-15T19:58:01Z)
• Accuracy on the Line: On the Strong Correlation Between Out-of-Distribution and In-Distribution Generalization [89.73665256847858]
  分布外性能は,広範囲なモデルと分布シフトに対する分布内性能と強く相関していることを示す。 具体的には,CIFAR-10 と ImageNet の変種に対する分布内分布と分布外分布性能の強い相関関係を示す。 また,CIFAR-10-Cと組織分類データセットCamelyon17-WILDSの合成分布の変化など,相関が弱いケースについても検討した。
  論文  参考訳（メタデータ） (2021-07-09T19:48:23Z)
• Adversarial Robustness through the Lens of Causality [105.51753064807014]
  ディープニューラルネットワークの敵対的脆弱性は、機械学習において大きな注目を集めている。 我々は、因果関係を敵対的脆弱性の軽減に組み込むことを提案する。 我々の手法は、敵の脆弱性を緩和するために因果性を利用する最初の試みと見なすことができる。
  論文  参考訳（メタデータ） (2021-06-11T06:55:02Z)
• Interpreting Deep Neural Networks with Relative Sectional Propagation by Analyzing Comparative Gradients and Hostile Activations [37.11665902583138]
  DNN(Deep Neural Networks)の出力予測を分解するための新しいアトリビューション手法であるRelative Sectional Propagation(RSP)を提案する。 我々は、敵対的因子をターゲットの属性を見つけるのを妨げる要素として定義し、活性化ニューロンの非抑制的な性質を克服するために区別可能な方法でそれを伝播させる。 本手法により,従来の帰属法と比較して,DNNのクラス識別性や活性化ニューロンの詳細な解明により,DNNの予測を分解することができる。
  論文  参考訳（メタデータ） (2020-12-07T03:11:07Z)
• Latent Causal Invariant Model [128.7508609492542]
  現在の教師付き学習は、データ適合プロセス中に急激な相関を学習することができる。 因果予測を求める潜在因果不変モデル(LaCIM)を提案する。
  論文  参考訳（メタデータ） (2020-11-04T10:00:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。