論文の概要: Boosting Adversarial Robustness and Generalization with Structural Prior

• arxiv url: http://arxiv.org/abs/2502.00834v1
• Date: Sun, 02 Feb 2025 16:15:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-05 15:06:10.901708
• Title: Boosting Adversarial Robustness and Generalization with Structural Prior
• Title（参考訳）: 構造的先行性を考慮した対向ロバスト性の向上と一般化
• Authors: Zhichao Hou, Weizhi Gao, Hamid Krim, Xiaorui Liu,
• Abstract要約: 既存の辞書学習にインスパイアされた畳み込みニューラルネットワーク(CNN)は、敵の攻撃に対するセキュリティの誤った感覚を提供する。 本稿では,敵対的ロバスト性と一般化を著しく向上させる新しいResNetアーキテクチャであるElastic Dictionary Learning Networks (EDLNets)を提案する。
• 参考スコア（独自算出の注目度）: 17.960406322107694
• License:
• Abstract: This work investigates a novel approach to boost adversarial robustness and generalization by incorporating structural prior into the design of deep learning models. Specifically, our study surprisingly reveals that existing dictionary learning-inspired convolutional neural networks (CNNs) provide a false sense of security against adversarial attacks. To address this, we propose Elastic Dictionary Learning Networks (EDLNets), a novel ResNet architecture that significantly enhances adversarial robustness and generalization. This novel and effective approach is supported by a theoretical robustness analysis using influence functions. Moreover, extensive and reliable experiments demonstrate consistent and significant performance improvement on open robustness leaderboards such as RobustBench, surpassing state-of-the-art baselines. To the best of our knowledge, this is the first work to discover and validate that structural prior can reliably enhance deep learning robustness under strong adaptive attacks, unveiling a promising direction for future research.
• Abstract（参考訳）: 本研究では, ディープラーニングモデルの設計に構造事前を組み込むことにより, 対向的ロバスト性や一般化を向上するための新しいアプローチについて検討する。 具体的には、既存の辞書学習にインスパイアされた畳み込みニューラルネットワーク(CNN)が、敵の攻撃に対して誤ったセキュリティを提供することを、我々の研究は驚くほど明らかにしている。 これを解決するために,敵の強靭性と一般化を著しく向上させる新しいResNetアーキテクチャであるElastic Dictionary Learning Networks (EDLNets)を提案する。 この新規かつ効果的なアプローチは、影響関数を用いた理論的ロバスト性解析によって支持される。 さらに、広範かつ信頼性の高い実験は、ロバストベンチのようなオープンロバストネスのリーダーボードにおいて、最先端のベースラインを超え、一貫した、重要なパフォーマンス改善を示す。 私たちの知る限りでは、構造的事前が強力な適応攻撃の下で深層学習の堅牢性を確実に向上させ、将来的な研究の有望な方向性を明らかにすることは、これが初めてである。

関連論文リスト

• Towards Improving Robustness Against Common Corruptions using Mixture of Class Specific Experts [10.27974860479791]
  本稿では,クラス特化エキスパートアーキテクチャの混合として知られる新しいパラダイムを紹介する。 提案したアーキテクチャは、一般的なニューラルネットワーク構造に関連する脆弱性を軽減することを目的としている。
  論文  参考訳（メタデータ） (2023-11-16T20:09:47Z)
• A Theoretical Perspective on Subnetwork Contributions to Adversarial Robustness [2.064612766965483]
  本稿では,サブネットワークの対角的ロバスト性がネットワーク全体のロバスト性にどのように寄与するかを検討する。 実験では、ロバストなサブネットワークがフルネットワークのロバスト性を促進する能力を示し、このフルネットワークのロバスト性を実現するために必要なレイヤワイドな依存関係を調査する。
  論文  参考訳（メタデータ） (2023-07-07T19:16:59Z)
• On the Robustness of Aspect-based Sentiment Analysis: Rethinking Model, Data, and Training [109.9218185711916]
  アスペクトベースの感情分析(ABSA)は、ソーシャルメディアのテキストやレビューの背後にある製品やサービスの特定の側面に対して、特定の感情の極性を自動的に推測することを目的としている。 我々は、モデル、データ、トレーニングを含むあらゆる可能な角度からボトルネックを体系的に再考することで、ABSAの堅牢性を高めることを提案する。
  論文  参考訳（メタデータ） (2023-04-19T11:07:43Z)
• A Comprehensive Study on Robustness of Image Classification Models: Benchmarking and Rethinking [54.89987482509155]
  ディープニューラルネットワークのロバスト性は、通常、敵の例、共通の腐敗、分散シフトに欠けている。 画像分類タスクにおいてtextbfARES-Bench と呼ばれる総合的なベンチマークロバスト性を確立する。 それに応じてトレーニング設定を設計することにより、新しい最先端の対人ロバスト性を実現する。
  論文  参考訳（メタデータ） (2023-02-28T04:26:20Z)
• What Can the Neural Tangent Kernel Tell Us About Adversarial Robustness? [0.0]
  ニューラルネットワークとカーネルメソッドを接続する最近の理論の進歩によって得られた分析ツールを用いて、トレーニングされたニューラルネットワークの逆例について研究する。 NTKがいかにして、トレーニングフリーのやり方で敵の例を生成できるかを示し、遅延のやり方で、有限幅のニューラルネットを騙すために移行することを実証する。
  論文  参考訳（メタデータ） (2022-10-11T16:11:48Z)
• Model-Agnostic Meta-Attack: Towards Reliable Evaluation of Adversarial Robustness [53.094682754683255]
  モデル非依存型メタアタック(MAMA)アプローチにより,より強力な攻撃アルゴリズムを自動検出する。 本手法は、繰り返しニューラルネットワークによってパラメータ化された逆攻撃を学習する。 本研究では,未知の防御を攻撃した場合の学習能力を向上させるために,モデルに依存しない訓練アルゴリズムを開発した。
  論文  参考訳（メタデータ） (2021-10-13T13:54:24Z)
• Adversarial Robustness of Deep Learning: Theory, Algorithms, and Applications [27.033174829788404]
  本チュートリアルは,ディープラーニングの敵対的堅牢性の基礎を紹介することを目的としている。 我々は、ディープニューラルネットワーク(DNN)の敵攻撃と堅牢性検証における最先端技術を強調します。 深層学習モデルの堅牢性を改善するための効果的な対策も導入する。
  論文  参考訳（メタデータ） (2021-08-24T00:08:33Z)
• Optimism in the Face of Adversity: Understanding and Improving Deep Learning through Adversarial Robustness [63.627760598441796]
  深層学習における対角的強靭性の分野を詳細に検討する。 直感的な対向例と深層ニューラルネットワークの幾何学的関係を強調した。 セキュリティを超えた敵の堅牢性の主な応用について概説する。
  論文  参考訳（メタデータ） (2020-10-19T16:03:46Z)
• A general framework for defining and optimizing robustness [74.67016173858497]
  分類器の様々な種類の堅牢性を定義するための厳密でフレキシブルなフレームワークを提案する。 我々の概念は、分類器の堅牢性は正確性とは無関係な性質と考えるべきであるという仮定に基づいている。 我々は,任意の分類モデルに適用可能な,非常に一般的なロバスト性フレームワークを開発する。
  論文  参考訳（メタデータ） (2020-06-19T13:24:20Z)
• Rethinking Clustering for Robustness [56.14672993686335]
  ClusTRは、ロバストモデルを学ぶためのクラスタリングベースの、対向のないトレーニングフレームワークである。 textitClusTRは、強いPGD攻撃の下で、敵に訓練されたネットワークを最大4%上回ります。
  論文  参考訳（メタデータ） (2020-06-13T16:55:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。