論文の概要: Adversarial Robustness under Long-Tailed Distribution

• arxiv url: http://arxiv.org/abs/2104.02703v1
• Date: Tue, 6 Apr 2021 17:53:08 GMT
• ステータス: 処理完了
• システム内更新日: 2021-04-07 15:15:22.037979
• Title: Adversarial Robustness under Long-Tailed Distribution
• Title（参考訳）: 長期分布下における対向ロバスト性
• Authors: Tong Wu, Ziwei Liu, Qingqiu Huang, Yu Wang and Dahua Lin
• Abstract要約: 敵対的ロバスト性はディープネットワークの脆弱性と本質的特徴を明らかにすることで近年広く研究されている。 本研究では,長尾分布下における敵対的脆弱性と防御について検討する。 我々は、スケール不変とデータ再分散という2つの専用モジュールからなるクリーンで効果的なフレームワークであるRoBalを提案する。
• 参考スコア（独自算出の注目度）: 93.50792075460336
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Adversarial robustness has attracted extensive studies recently by revealing the vulnerability and intrinsic characteristics of deep networks. However, existing works on adversarial robustness mainly focus on balanced datasets, while real-world data usually exhibits a long-tailed distribution. To push adversarial robustness towards more realistic scenarios, in this work we investigate the adversarial vulnerability as well as defense under long-tailed distributions. In particular, we first reveal the negative impacts induced by imbalanced data on both recognition performance and adversarial robustness, uncovering the intrinsic challenges of this problem. We then perform a systematic study on existing long-tailed recognition methods in conjunction with the adversarial training framework. Several valuable observations are obtained: 1) natural accuracy is relatively easy to improve, 2) fake gain of robust accuracy exists under unreliable evaluation, and 3) boundary error limits the promotion of robustness. Inspired by these observations, we propose a clean yet effective framework, RoBal, which consists of two dedicated modules, a scale-invariant classifier and data re-balancing via both margin engineering at training stage and boundary adjustment during inference. Extensive experiments demonstrate the superiority of our approach over other state-of-the-art defense methods. To our best knowledge, we are the first to tackle adversarial robustness under long-tailed distributions, which we believe would be a significant step towards real-world robustness. Our code is available at: https://github.com/wutong16/Adversarial_Long-Tail .
• Abstract（参考訳）: 敵対的ロバスト性はディープネットワークの脆弱性と本質的特徴を明らかにすることで近年広く研究されている。 しかしながら、既存の敵の堅牢性に関する研究は主にバランスの取れたデータセットに焦点を当てている。 敵意の強固さをより現実的なシナリオに向かわせるため,本研究では,敵意の脆弱性や,長期にわたる配信下での防御について検討する。 特に,不均衡データが認識性能と敵対的ロバスト性の両方に与える影響を最初に明らかにし,本問題の本質的課題を明らかにする。 次に,既存の長尾認識手法を,対戦型学習フレームワークと併用して体系的に研究する。 1) 自然な精度は比較的容易に改善でき、2) 信頼性の低い精度の偽のゲインは信頼できない評価の下で存在し、3) 境界誤差は堅牢性の促進を制限する。 これらの観測から着想を得たRoBalは、2つの専用モジュール、スケール不変の分類器と、トレーニング段階でのマージンエンジニアリングと推論時の境界調整によるデータ再バランスからなるクリーンで効果的なフレームワークである。 大規模な実験は、我々のアプローチが他の最先端の防御方法よりも優れていることを示す。 われわれの知る限りでは、我々は長い尾の分布の下で敵の堅牢性に取り組む最初の人物であり、これは現実世界の堅牢性への重要な一歩だと考えている。 私たちのコードは、https://github.com/wutong16/Adversarial_Long-Tail で利用可能です。

関連論文リスト

• Doubly Robust Instance-Reweighted Adversarial Training [107.40683655362285]
  本稿では,2重のインスタンス再重み付き対向フレームワークを提案する。 KL偏差正規化損失関数の最適化により重みを求める。 提案手法は, 平均ロバスト性能において, 最先端のベースライン法よりも優れた性能を示す。
  論文  参考訳（メタデータ） (2023-08-01T06:16:18Z)
• Generalizability of Adversarial Robustness Under Distribution Shifts [57.767152566761304]
  本研究は, 実証的, 証明された敵対的堅牢性間の相互作用と, ドメインの一般化を両立させるための第一歩を踏み出した。 複数のドメインでロバストモデルをトレーニングし、その正確性とロバスト性を評価する。 本研究は, 現実の医療応用をカバーするために拡張され, 敵の増大は, クリーンデータ精度に最小限の影響を伴って, 強靭性の一般化を著しく促進する。
  論文  参考訳（メタデータ） (2022-09-29T18:25:48Z)
• Explicit Tradeoffs between Adversarial and Natural Distributional Robustness [48.44639585732391]
  実際、モデルは信頼性を確保するために両方のタイプの堅牢さを享受する必要があります。 本研究では, 対角線と自然分布の強靭性の間には, 明らかなトレードオフが存在することを示す。
  論文  参考訳（メタデータ） (2022-09-15T19:58:01Z)
• How many perturbations break this model? Evaluating robustness beyond adversarial accuracy [28.934863462633636]
  入力点と摂動方向の制約の両方が与えられた摂動を成功させることがいかに困難であるかを定量化する。 空間性は、ニューラルネットワークに関する貴重な洞察を、複数の方法で提供することを示す。
  論文  参考訳（メタデータ） (2022-07-08T21:25:17Z)
• Robust Pre-Training by Adversarial Contrastive Learning [120.33706897927391]
  近年の研究では、敵の訓練と統合されると、自己監督型事前訓練が最先端の堅牢性につながることが示されている。 我々は,データ強化と対向的摂動の両面に整合した学習表現により,ロバストネスを意識した自己指導型事前学習を改善する。
  論文  参考訳（メタデータ） (2020-10-26T04:44:43Z)
• Geometry-aware Instance-reweighted Adversarial Training [78.70024866515756]
  敵対的機械学習では、堅牢性と正確性がお互いを傷つけるという共通の信念があった。 本稿では,自然データ点の攻撃がいかに難しいかに基づいて,幾何対応のインスタンス再重み付き対向訓練を提案する。 実験の結果,本提案は標準的な対人訓練の堅牢性を高めることが示唆された。
  論文  参考訳（メタデータ） (2020-10-05T01:33:11Z)
• SoK: Certified Robustness for Deep Neural Networks [13.10665264010575]
  近年の研究では、ディープニューラルネットワーク(DNN)が敵の攻撃に弱いことが示されている。 本稿では,実証可能な堅牢なアプローチと関連する実践的および理論的意味を体系化する。 また、既存の堅牢性検証と異なるデータセットでのトレーニングアプローチに関する、最初の包括的なベンチマークも提供しています。
  論文  参考訳（メタデータ） (2020-09-09T07:00:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。