論文の概要: SoK: Certified Robustness for Deep Neural Networks

• arxiv url: http://arxiv.org/abs/2009.04131v9
• Date: Wed, 12 Apr 2023 08:51:12 GMT
• ステータス: 処理完了
• システム内更新日: 2023-04-13 20:24:06.921378
• Title: SoK: Certified Robustness for Deep Neural Networks
• Title（参考訳）: SoK:ディープニューラルネットワークのロバスト性認定
• Authors: Linyi Li, Tao Xie, Bo Li
• Abstract要約: 近年の研究では、ディープニューラルネットワーク(DNN)が敵の攻撃に弱いことが示されている。 本稿では,実証可能な堅牢なアプローチと関連する実践的および理論的意味を体系化する。 また、既存の堅牢性検証と異なるデータセットでのトレーニングアプローチに関する、最初の包括的なベンチマークも提供しています。
• 参考スコア（独自算出の注目度）: 13.10665264010575
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Great advances in deep neural networks (DNNs) have led to state-of-the-art performance on a wide range of tasks. However, recent studies have shown that DNNs are vulnerable to adversarial attacks, which have brought great concerns when deploying these models to safety-critical applications such as autonomous driving. Different defense approaches have been proposed against adversarial attacks, including: a) empirical defenses, which can usually be adaptively attacked again without providing robustness certification; and b) certifiably robust approaches, which consist of robustness verification providing the lower bound of robust accuracy against any attacks under certain conditions and corresponding robust training approaches. In this paper, we systematize certifiably robust approaches and related practical and theoretical implications and findings. We also provide the first comprehensive benchmark on existing robustness verification and training approaches on different datasets. In particular, we 1) provide a taxonomy for the robustness verification and training approaches, as well as summarize the methodologies for representative algorithms, 2) reveal the characteristics, strengths, limitations, and fundamental connections among these approaches, 3) discuss current research progresses, theoretical barriers, main challenges, and future directions for certifiably robust approaches for DNNs, and 4) provide an open-sourced unified platform to evaluate 20+ representative certifiably robust approaches.
• Abstract（参考訳）: ディープニューラルネットワーク(DNN)の大幅な進歩により、幅広いタスクにおける最先端のパフォーマンスが向上した。 しかし、最近の研究では、DNNは敵の攻撃に弱いことが示されており、これらのモデルを自律運転のような安全クリティカルなアプリケーションにデプロイする際に大きな懸念をもたらしている。 敵対的攻撃に対する様々な防御アプローチが提案されている。 a) 強靭性証明を提供することなく、通常、再び適応的に攻撃される経験的防御 b) 一定の条件下での攻撃に対するロバストな精度の低い境界とそれに対応するロバストなトレーニングアプローチを提供するロバストな検証とからなるロバストなアプローチ 本稿では,実証可能な堅牢なアプローチと,それに関連する実用的・理論的意味と知見を体系化する。 また、既存のロバスト性検証と、異なるデータセットに対するトレーニングアプローチに関する最初の包括的なベンチマークも提供します。 特に私たちは 1)ロバスト性検証とトレーニングアプローチのための分類法を提供し、代表的なアルゴリズムの方法論を要約する。 2)これらのアプローチの特徴,強み,限界,基本的つながりを明らかにする。 3)DNN研究の進展、理論的障壁、主な課題、今後の方向性、DNNの堅牢なアプローチについて論じる。 4) 20以上の代表的堅牢なアプローチを評価するオープンソース統一プラットフォームを提供する。

関連論文リスト

• Countering Backdoor Attacks in Image Recognition: A Survey and Evaluation of Mitigation Strategies [10.801476967873173]
  本稿では,画像認識におけるバックドア攻撃に対する既存の緩和策について概説する。 我々は、8つの異なるバックドア攻撃に対して、16の最先端アプローチの広範なベンチマークを行う。 この結果は122,236個の個別実験から得られたものであり、多くのアプローチがある程度の保護を提供する一方で、その性能はかなり異なる可能性があることを示唆している。
  論文  参考訳（メタデータ） (2024-11-17T23:30:01Z)
• Doubly Robust Instance-Reweighted Adversarial Training [107.40683655362285]
  本稿では,2重のインスタンス再重み付き対向フレームワークを提案する。 KL偏差正規化損失関数の最適化により重みを求める。 提案手法は, 平均ロバスト性能において, 最先端のベースライン法よりも優れた性能を示す。
  論文  参考訳（メタデータ） (2023-08-01T06:16:18Z)
• A Theoretical Perspective on Subnetwork Contributions to Adversarial Robustness [2.064612766965483]
  本稿では,サブネットワークの対角的ロバスト性がネットワーク全体のロバスト性にどのように寄与するかを検討する。 実験では、ロバストなサブネットワークがフルネットワークのロバスト性を促進する能力を示し、このフルネットワークのロバスト性を実現するために必要なレイヤワイドな依存関係を調査する。
  論文  参考訳（メタデータ） (2023-07-07T19:16:59Z)
• Adversarial Attacks and Defenses in Machine Learning-Powered Networks: A Contemporary Survey [114.17568992164303]
  機械学習とディープニューラルネットワークにおけるアドリアックと防御が注目されている。 本調査は、敵攻撃・防衛技術分野における最近の進歩を包括的に概観する。 検索ベース、意思決定ベース、ドロップベース、物理世界攻撃など、新たな攻撃方法も検討されている。
  論文  参考訳（メタデータ） (2023-03-11T04:19:31Z)
• A Comprehensive Study on Robustness of Image Classification Models: Benchmarking and Rethinking [54.89987482509155]
  ディープニューラルネットワークのロバスト性は、通常、敵の例、共通の腐敗、分散シフトに欠けている。 画像分類タスクにおいてtextbfARES-Bench と呼ばれる総合的なベンチマークロバスト性を確立する。 それに応じてトレーニング設定を設計することにより、新しい最先端の対人ロバスト性を実現する。
  論文  参考訳（メタデータ） (2023-02-28T04:26:20Z)
• Policy Smoothing for Provably Robust Reinforcement Learning [109.90239627115336]
  入力のノルム有界対向摂動に対する強化学習の証明可能な堅牢性について検討する。 我々は、スムーズなポリシーによって得られる全報酬が、入力の摂動のノルムバウンドな逆数の下で一定の閾値以下に収まらないことを保証した証明書を生成する。
  論文  参考訳（メタデータ） (2021-06-21T21:42:08Z)
• Adversarial Robustness under Long-Tailed Distribution [93.50792075460336]
  敵対的ロバスト性はディープネットワークの脆弱性と本質的特徴を明らかにすることで近年広く研究されている。 本研究では,長尾分布下における敵対的脆弱性と防御について検討する。 我々は、スケール不変とデータ再分散という2つの専用モジュールからなるクリーンで効果的なフレームワークであるRoBalを提案する。
  論文  参考訳（メタデータ） (2021-04-06T17:53:08Z)
• Increasing the Confidence of Deep Neural Networks by Coverage Analysis [71.57324258813674]
  本稿では、異なる安全でない入力に対してモデルを強化するために、カバレッジパラダイムに基づく軽量な監視アーキテクチャを提案する。 実験結果から,提案手法は強力な対向例とアウト・オブ・ディストリビューション・インプットの両方を検出するのに有効であることが示唆された。
  論文  参考訳（メタデータ） (2021-01-28T16:38:26Z)
• A Comprehensive Evaluation Framework for Deep Model Robustness [44.20580847861682]
  ディープニューラルネットワーク(DNN)は、幅広いアプリケーションで顕著なパフォーマンスを達成しています。 彼らは敵の防御を動機付ける敵の例に弱い。 本稿では,包括的で厳密で一貫性のある評価指標を含むモデル評価フレームワークを提案する。
  論文  参考訳（メタデータ） (2021-01-24T01:04:25Z)
• Benchmarking Adversarial Robustness [47.168521143464545]
  我々は、画像分類タスクにおける敵の堅牢性を評価するために、包括的で厳密でコヒーレントなベンチマークを確立する。 評価結果に基づいて,いくつかの重要な知見を導き,今後の研究への洞察を提供する。
  論文  参考訳（メタデータ） (2019-12-26T12:37:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。