論文の概要: Raising the Bar for Certified Adversarial Robustness with Diffusion Models

• arxiv url: http://arxiv.org/abs/2305.10388v1
• Date: Wed, 17 May 2023 17:29:10 GMT
• ステータス: 処理完了
• システム内更新日: 2023-05-18 14:43:31.457901
• Title: Raising the Bar for Certified Adversarial Robustness with Diffusion Models
• Title（参考訳）: 拡散モデルによる対向ロバスト性認定バーのライジング
• Authors: Thomas Altstidl, David Dobre, Bj\"orn Eskofier, Gauthier Gidel, Leo Schwinn
• Abstract要約: 本研究では,同様のアプローチが決定論的証明された防御を著しく改善できることを実証する。 主な洞察の1つは、元のモデルのトレーニングとテストの精度の違いは、改善の規模を予測できることです。 提案手法は,CIFAR-10 上で $ell$ ($epsilon = 36/255$) および $ell_infty$ ($epsilon = 8/255$) 脅威モデルに対して,最先端の決定論的堅牢性証明を実現する。
• 参考スコア（独自算出の注目度）: 9.684141378657522
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Certified defenses against adversarial attacks offer formal guarantees on the robustness of a model, making them more reliable than empirical methods such as adversarial training, whose effectiveness is often later reduced by unseen attacks. Still, the limited certified robustness that is currently achievable has been a bottleneck for their practical adoption. Gowal et al. and Wang et al. have shown that generating additional training data using state-of-the-art diffusion models can considerably improve the robustness of adversarial training. In this work, we demonstrate that a similar approach can substantially improve deterministic certified defenses. In addition, we provide a list of recommendations to scale the robustness of certified training approaches. One of our main insights is that the generalization gap, i.e., the difference between the training and test accuracy of the original model, is a good predictor of the magnitude of the robustness improvement when using additional generated data. Our approach achieves state-of-the-art deterministic robustness certificates on CIFAR-10 for the $\ell_2$ ($\epsilon = 36/255$) and $\ell_\infty$ ($\epsilon = 8/255$) threat models, outperforming the previous best results by $+3.95\%$ and $+1.39\%$, respectively. Furthermore, we report similar improvements for CIFAR-100.
• Abstract（参考訳）: 敵の攻撃に対する認証された防御は、モデルの堅牢性に関する正式な保証を提供するため、敵の訓練のような経験的手法よりも信頼性が高い。 それでも、現在達成可能な限定された認定堅牢性は、実用的採用のボトルネックとなっている。 gowalらとwangらは、最先端の拡散モデルを使って追加のトレーニングデータを生成することで、敵のトレーニングのロバスト性を大幅に改善できることを示した。 本研究では,同様のアプローチが決定論的証明された防御を著しく改善できることを実証する。 さらに、認定トレーニングアプローチの堅牢性を高めるための推奨事項のリストも提供します。 私たちの大きな洞察の1つは、一般化ギャップ、すなわち、元のモデルのトレーニングとテスト精度の差が、追加生成されたデータを使用する際のロバスト性改善の大きさのよい予測要因であるということです。 提案手法は, CIFAR-10 における $\ell_2$$\epsilon = 36/255$) と $\ell_\infty$$$\epsilon = 8/255$) の脅威モデルに対して, CIFAR-10 の最先端決定論的堅牢性証明を達成し, それぞれ$+3.95\%$ と$+1.39\%$ を達成している。 さらに,CIFAR-100についても同様の改善が報告されている。

関連論文リスト

• Adversarial Feature Alignment: Balancing Robustness and Accuracy in Deep Learning via Adversarial Training [10.099179580467737]
  敵の攻撃に対する堅牢性を高めることによりこの問題を軽減するために、敵の訓練が使用される。 このアプローチは典型的には、クリーンで非敵対的なサンプルに対するモデルの標準精度を低下させる。 本稿では,これらの問題に対処するために,AFA (Adversarial Feature Alignment) と呼ばれる新たな対人訓練手法を提案する。
  論文  参考訳（メタデータ） (2024-02-19T14:51:20Z)
• Perturbation-Invariant Adversarial Training for Neural Ranking Models: Improving the Effectiveness-Robustness Trade-Off [107.35833747750446]
  正統な文書に不可避な摂動を加えることで 敵の例を作れます この脆弱性は信頼性に関する重大な懸念を生じさせ、NRMの展開を妨げている。 本研究では,NRMにおける有効・損耗トレードオフに関する理論的保証を確立する。
  論文  参考訳（メタデータ） (2023-12-16T05:38:39Z)
• Learn from the Past: A Proxy Guided Adversarial Defense Framework with Self Distillation Regularization [53.04697800214848]
  敵対的訓練(AT)は、ディープラーニングモデルの堅牢性を固める上で重要な要素である。 AT方式は、目標モデルの防御のために直接反復的な更新を頼りにしており、不安定な訓練や破滅的なオーバーフィッティングといった障害に頻繁に遭遇する。 汎用プロキシガイド型防衛フレームワークLAST(bf Pbf astから学ぶ)を提案する。
  論文  参考訳（メタデータ） (2023-10-19T13:13:41Z)
• Towards Certified Probabilistic Robustness with High Accuracy [3.957941698534126]
  Adrialの例は、ニューラルネットワーク上に構築された多くのクリティカルシステムに対して、セキュリティ上の脅威となる。 確実に堅牢で正確なニューラルネットワークモデルを構築する方法はまだオープンな問題だ。 本稿では,高い精度と高い確率ロバスト性を実現することを目的とした新しいアプローチを提案する。
  論文  参考訳（メタデータ） (2023-09-02T09:39:47Z)
• Vanilla Feature Distillation for Improving the Accuracy-Robustness Trade-Off in Adversarial Training [37.5115141623558]
  本稿では,Vanilla Feature Distillation Adversarial Training (VFD-Adv)を提案する。 我々の手法の重要な利点は、既存の作品に普遍的に適応し、強化できることである。
  論文  参考訳（メタデータ） (2022-06-05T11:57:10Z)
• Adversarial Training with Rectified Rejection [114.83821848791206]
  本稿では,信頼度(T-Con)を確実性オラクルとして利用し,信頼度を補正してT-Conを予測することを提案する。 軽度の条件下では、正当性(R-Con)拒絶器と信頼性(R-Con)拒絶器を結合して、不正に分類された入力と正しく分類された入力を区別できることを示す。
  論文  参考訳（メタデータ） (2021-05-31T08:24:53Z)
• Analysis and Applications of Class-wise Robustness in Adversarial Training [92.08430396614273]
  敵の訓練は、敵の例に対するモデルロバスト性を改善するための最も効果的な手法の1つである。 従来の研究は主にモデルの全体的な堅牢性に焦点を当てており、各クラスの役割に関する詳細な分析はいまだに欠落している。 MNIST, CIFAR-10, CIFAR-100, SVHN, STL-10, ImageNetの6つのベンチマークデータセットに対して, 逆トレーニングの詳細な診断を行う。 対戦型学習におけるより強力な攻撃手法は、主に脆弱なクラスに対するより成功した攻撃から、性能の向上を達成することを観察する。
  論文  参考訳（メタデータ） (2021-05-29T07:28:35Z)
• Adversarial Feature Stacking for Accurate and Robust Predictions [4.208059346198116]
  Adversarial Feature Stacking (AFS)モデルは、さまざまなレベルの堅牢性と精度を持つ機能を共同で活用することができる。 CIFAR-10およびCIFAR-100データセット上でのAFSモデルの評価を行った。
  論文  参考訳（メタデータ） (2021-03-24T12:01:24Z)
• Robust Pre-Training by Adversarial Contrastive Learning [120.33706897927391]
  近年の研究では、敵の訓練と統合されると、自己監督型事前訓練が最先端の堅牢性につながることが示されている。 我々は,データ強化と対向的摂動の両面に整合した学習表現により,ロバストネスを意識した自己指導型事前学習を改善する。
  論文  参考訳（メタデータ） (2020-10-26T04:44:43Z)
• Adversarial Robustness: From Self-Supervised Pre-Training to Fine-Tuning [134.15174177472807]
  対戦型トレーニングを自己超越に導入し,汎用的な頑健な事前訓練モデルを初めて提供する。 提案するフレームワークが大きなパフォーマンスマージンを達成できることを示すため,広範な実験を行う。
  論文  参考訳（メタデータ） (2020-03-28T18:28:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。