論文の概要: Certifiably Robust Interpretation via Renyi Differential Privacy

• arxiv url: http://arxiv.org/abs/2107.01561v1
• Date: Sun, 4 Jul 2021 06:58:01 GMT
• ステータス: 処理完了
• システム内更新日: 2021-07-06 15:16:05.299482
• Title: Certifiably Robust Interpretation via Renyi Differential Privacy
• Title（参考訳）: Renyi差分プライバシーによる可逆的ロバスト解釈
• Authors: Ao Liu, Xiaoyu Chen, Sijia Liu, Lirong Xia, Chuang Gan
• Abstract要約: 我々はRenyi差分プライバシー(RDP)の新しい視点から解釈堅牢性の問題を研究する。 まず、証明可能で証明可能なトップ$k$ロバスト性を提供する。 第二に、提案手法は既存の手法よりも実験的堅牢性を$sim10%$で提供する。 第3に,ロバスト性と計算効率のトレードオフを円滑に行うことができる。
• 参考スコア（独自算出の注目度）: 77.04377192920741
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Motivated by the recent discovery that the interpretation maps of CNNs could easily be manipulated by adversarial attacks against network interpretability, we study the problem of interpretation robustness from a new perspective of \Renyi differential privacy (RDP). The advantages of our Renyi-Robust-Smooth (RDP-based interpretation method) are three-folds. First, it can offer provable and certifiable top-$k$ robustness. That is, the top-$k$ important attributions of the interpretation map are provably robust under any input perturbation with bounded $\ell_d$-norm (for any $d\geq 1$, including $d = \infty$). Second, our proposed method offers $\sim10\%$ better experimental robustness than existing approaches in terms of the top-$k$ attributions. Remarkably, the accuracy of Renyi-Robust-Smooth also outperforms existing approaches. Third, our method can provide a smooth tradeoff between robustness and computational efficiency. Experimentally, its top-$k$ attributions are {\em twice} more robust than existing approaches when the computational resources are highly constrained.
• Abstract（参考訳）: 近年,ネットワーク解釈可能性に対する敵対攻撃によってCNNの解釈マップが容易に操作できることが発見され,新たな「レニー微分プライバシー(RDP)」の観点から,解釈堅牢性の問題が検討された。 Renyi-Robust-Smooth(RDPに基づく解釈法)の利点は3倍である。 まず、証明可能で証明可能なトップ$kの堅牢性を提供する。 つまり、解釈写像の重要属性のトップ$kは、有界な$\ell_d$-norm($d = \infty$を含む任意の$d\geq 1$に対して)を持つ任意の入力摂動の下で証明可能な堅牢である。 第2に,提案手法は,最大$k$の帰属に関して,既存の手法よりも優れた実験的ロバスト性を提供する。 注目すべきは、Renyi-Robust-Smoothの精度も既存のアプローチより優れていることである。 第3に,ロバスト性と計算効率のトレードオフを円滑に行うことができる。 実験的に、その上位$の属性は、計算資源が非常に制約されている既存のアプローチよりも2倍堅牢である。

関連論文リスト

• Regret Minimization and Statistical Inference in Online Decision Making with High-dimensional Covariates [7.21848268647674]
  我々は、決定のための$varepsilon$-greedybanditアルゴリズムと、疎帯域パラメータを推定するためのハードしきい値アルゴリズムを統合する。 マージン条件下では、我々の手法は、$O(T1/2)$ regret あるいは古典的な$O(T1/2)$-consistent推論のいずれかを達成する。
  論文  参考訳（メタデータ） (2024-11-10T01:47:11Z)
• Adaptive Smoothness-weighted Adversarial Training for Multiple Perturbations with Its Stability Analysis [39.90487314421744]
  対人訓練(Adrial Training:AT)は、敵の事例に対して最も効果的な方法の1つとして実証されている。 異なる摂動型に対する対向ロバスト性を一般化するために、多重摂動(ATMP)のアドリナルトレーニングを提案する。 安定性に基づく過剰リスク境界を開発し、複数の摂動に対する適応重み付き対向トレーニングを提案する。
  論文  参考訳（メタデータ） (2022-10-02T15:42:34Z)
• There is no Accuracy-Interpretability Tradeoff in Reinforcement Learning for Mazes [64.05903267230467]
  相互理解性は,強化学習システムにおける信頼性に不可欠なビルディングブロックである。 場合によっては、最適性を保ちつつ、政策の解釈可能性を達成することができることを示す。
  論文  参考訳（メタデータ） (2022-06-09T04:23:26Z)
• Adversarial Robustness Guarantees for Gaussian Processes [22.403365399119107]
  ガウス過程(GP)は、モデルの不確実性の原理的計算を可能にし、安全性に重要なアプリケーションに魅力的です。 境界付き摂動に対するモデル決定の不変性として定義されるGPの対向的堅牢性を分析するためのフレームワークを提案する。 我々は境界を洗練し、任意の$epsilon > 0$に対して、我々のアルゴリズムが有限個の反復で実際の値に$epsilon$-closeの値に収束することを保証していることを示す分岐とバウンドのスキームを開発する。
  論文  参考訳（メタデータ） (2021-04-07T15:14:56Z)
• Byzantine-Resilient Non-Convex Stochastic Gradient Descent [61.6382287971982]
  敵対的レジリエントな分散最適化。 機械は独立して勾配を計算し 協力することができます 私達のアルゴリズムは新しい集中の技術およびサンプル複雑性に基づいています。 それは非常に実用的です:それはないときすべての前の方法の性能を改善します。 セッティングマシンがあります。
  論文  参考訳（メタデータ） (2020-12-28T17:19:32Z)
• Almost Tight L0-norm Certified Robustness of Top-k Predictions against Adversarial Perturbations [78.23408201652984]
  トップk予測は、マシンラーニング・アズ・ア・サービス、レコメンダ・システム、Web検索など、多くの現実世界のアプリケーションで使用されている。 我々の研究はランダム化平滑化に基づいており、入力をランダム化することで、証明可能なロバストな分類器を構築する。 例えば、攻撃者がテスト画像の5ピクセルを任意に摂動できる場合に、ImageNet上で69.2%の認定トップ3精度を達成する分類器を構築することができる。
  論文  参考訳（メタデータ） (2020-11-15T21:34:44Z)
• Differentiable Linear Bandit Algorithm [6.849358422233866]
  アッパー信頼境界は、線形多腕バンディット問題の最も一般的な方法である。 勾配上昇による信頼度を学習できる勾配推定器を導入する。 提案アルゴリズムは,腕の特徴の次元を$d$で,信頼度を$hatbeta$で学習したサイズを$tildemathcalO(hatbetasqrtdT)$上限とする。
  論文  参考訳（メタデータ） (2020-06-04T16:43:55Z)
• Toward Adversarial Robustness via Semi-supervised Robust Training [93.36310070269643]
  アドリラルな例は、ディープニューラルネットワーク(DNN)に対する深刻な脅威であることが示されている。 R_stand$ と $R_rob$ の2つの異なるリスクを共同で最小化することで、新しい防御手法であるロバストトレーニング(RT)を提案する。
  論文  参考訳（メタデータ） (2020-03-16T02:14:08Z)
• Distributional Robustness and Regularization in Reinforcement Learning [62.23012916708608]
  経験値関数の新しい正規化器を導入し、ワッサーシュタイン分布のロバストな値関数を下限とすることを示す。 強化学習における$textitexternalな不確実性に対処するための実用的なツールとして正規化を使用することを提案する。
  論文  参考訳（メタデータ） (2020-03-05T19:56:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。