論文の概要: CEAR: Certified Ensemble Adversarial Robustness in DNNs
- arxiv url: http://arxiv.org/abs/2606.01437v1
- Date: Sun, 31 May 2026 20:17:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-02 21:34:29.70317
- Title: CEAR: Certified Ensemble Adversarial Robustness in DNNs
- Title（参考訳）: CEAR: DNNにおけるアンサンブル対逆ロバスト性認定
- Authors: Daniel Sadig, Mohammadreza Maleki, Hamed Karimi, Reza Samavi,
- Abstract要約: 最先端の経験的防御メカニズムは、トレーニングフェーズを通じてディープニューラルネットワークの堅牢性を改善する。
認証された防衛は 特定の摂動境界内で 確実な堅牢性を保証する
我々は,経験的および認定された防御機構のハイブリッドを利用したアンサンブルベースのロバスト手法であるCEARを提案する。
- 参考スコア（独自算出の注目度）: 1.5492759608308866
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deep Neural Networks (DNNs) are highly susceptible to adversarial perturbations, leading to extensive research on robustness for safety-critical applications. State-of-the-art empirical defense mechanisms improve the robustness of DNNs through the training phase, but still struggle against adaptive white-box attacks. On the other hand, certified defenses offer provable guarantees of robustness within a specified perturbation bound. These guarantees hold regardless of the level of perturbations, even if the attacker is given full knowledge of the model. In this paper, we propose CEAR, an ensemble-based robust method that utilizes a hybrid of empirical and certified defense mechanisms. CEAR trains each network within the ensemble using varying Gaussian noise and temperatures to obfuscate gradients and logits, making the model more resistant to stronger gradient-based attacks. We then use noisy logits and propose two different voting mechanisms to further improve robustness. Furthermore, we extend randomized smoothing to verify the robustness of ensemble-based classifiers. Our experimental evaluations on MNIST, CIFAR10, and TinyImageNet datasets demonstrate superior certified accuracy on average, increased robustness radius, and decreased transferability compared to baseline methods.
- Abstract（参考訳）: ディープニューラルネットワーク(DNN)は、敵の摂動に非常に敏感であり、安全クリティカルなアプリケーションに対する堅牢性に関する広範な研究に繋がる。
最先端の実証的な防御メカニズムは、訓練段階を通じてDNNの堅牢性を改善するが、それでも適応的なホワイトボックス攻撃と戦っている。
一方、認証された防御は、特定の摂動境界内での堅牢性の証明可能な保証を提供する。
これらの保証は、たとえ攻撃者がモデルの完全な知識を与えられたとしても、摂動のレベルに関係なく保持される。
本稿では,経験的および認定された防御機構のハイブリッドを利用したアンサンブルベースのロバスト手法であるCEARを提案する。
CEARは、様々なガウスノイズと温度を使ってアンサンブル内の各ネットワークを訓練し、勾配とロジットを難なくし、より強い勾配に基づく攻撃に対してより耐性がある。
次にノイズロジットを使用し、ロバスト性を改善するために2つの異なる投票機構を提案する。
さらに,アンサンブルに基づく分類器のロバスト性を検証するために,ランダム化スムーシングを拡張した。
MNIST, CIFAR10, TinyImageNetデータセットに対する実験により, 平均精度, 頑健度半径の増大, ベースライン法に比べて転送可能性の低下が確認された。
関連論文リスト
- Provable Robustness against Backdoor Attacks via the Primal-Dual Perspective on Differential Privacy [51.758416625168]
ランダムな平滑化は、敵の摂動に対する堅牢性を証明するための強力なツールである。
本稿では,複雑な構成機構の認証のためのフレームワークを提案する。
複雑な脅威モデル下での堅牢性を証明するために複合メカニズムを使用するための原則的で一般的なフレームワークを提供する。
論文 参考訳（メタデータ） (2026-05-20T22:17:29Z) - Calibrated Adversarial Sampling: Multi-Armed Bandit-Guided Generalization Against Unforeseen Attacks [10.840475405540458]
ディープニューラルネットワーク(DNN)の堅牢性を高めるための最も効果的なパラダイムの1つとして、AT(Adversarial Training)が登場した。
本稿では,これらの問題に対処するため,Calibrated Adversarial Smpling (CAS) と呼ばれる効率的な微調整手法を提案する。
ベンチマークデータセットの実験では、CASは高いクリーンな精度を維持しながら、より優れた全体的な堅牢性を達成している。
論文 参考訳（メタデータ） (2025-11-15T15:42:40Z) - Data-Driven Lipschitz Continuity: A Cost-Effective Approach to Improve Adversarial Robustness [47.9744734181236]
我々は、ディープニューラルネットワーク(DNN)の敵攻撃に対する堅牢性を証明するために、リプシッツ連続性の概念を探求する。
本稿では,入力領域を制約範囲に再マップし,リプシッツ定数を低減し,ロバスト性を高める新しいアルゴリズムを提案する。
本手法は,ロバストベンチリーダーボード上のCIFAR10,CIFAR100,ImageNetデータセットに対して,最も堅牢な精度を実現する。
論文 参考訳（メタデータ） (2024-06-28T03:10:36Z) - Adaptive Gradient Clipping for Robust Federated Learning [8.268485501864939]
本稿では,適応型クリッピング戦略である適応ロバストクリッピング(ARC)を提案し,入力勾配に基づいて動的にクリッピング閾値を調整する。
ARCは、特に高度に異質で対向的な設定において、ロバスト性を大幅に向上させる。
論文 参考訳（メタデータ） (2024-05-23T11:00:31Z) - Certified Adversarial Defenses Meet Out-of-Distribution Corruptions:
Benchmarking Robustness and Simple Baselines [65.0803400763215]
この研究は、最先端のロバストモデルがアウト・オブ・ディストリビューションデータに遭遇した場合、敵のロバスト性がどのように変化を保証しているかを批判的に検証する。
本稿では,トレーニングデータのスペクトルカバレッジを改善するために,新たなデータ拡張方式であるFourierMixを提案する。
また,FourierMixの拡張により,様々なOODベンチマークにおいて,より優れたロバスト性保証を実現することが可能となる。
論文 参考訳（メタデータ） (2021-12-01T17:11:22Z) - Policy Smoothing for Provably Robust Reinforcement Learning [109.90239627115336]
入力のノルム有界対向摂動に対する強化学習の証明可能な堅牢性について検討する。
我々は、スムーズなポリシーによって得られる全報酬が、入力の摂動のノルムバウンドな逆数の下で一定の閾値以下に収まらないことを保証した証明書を生成する。
論文 参考訳（メタデータ） (2021-06-21T21:42:08Z) - Adaptive Feature Alignment for Adversarial Training [56.17654691470554]
CNNは通常、敵攻撃に対して脆弱であり、セキュリティに敏感なアプリケーションに脅威をもたらす。
任意の攻撃強度の特徴を生成するための適応的特徴アライメント(AFA)を提案する。
本手法は任意の攻撃強度の特徴を自動的に整列するように訓練されている。
論文 参考訳（メタデータ） (2021-05-31T17:01:05Z) - How Robust are Randomized Smoothing based Defenses to Data Poisoning? [66.80663779176979]
我々は、トレーニングデータの品質の重要性を強調する堅牢な機械学習モデルに対して、これまで認識されていなかった脅威を提示します。
本稿では,二段階最適化に基づく新たなデータ中毒攻撃法を提案し,ロバストな分類器のロバスト性を保証する。
我々の攻撃は、被害者が最先端のロバストな訓練方法を用いて、ゼロからモデルを訓練しても効果的である。
論文 参考訳（メタデータ） (2020-12-02T15:30:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。