論文の概要: BackdoorBench: A Comprehensive Benchmark and Analysis of Backdoor Learning

• arxiv url: http://arxiv.org/abs/2407.19845v1
• Date: Mon, 29 Jul 2024 09:57:03 GMT
• ステータス: 処理完了
• システム内更新日: 2024-07-30 14:25:55.184133
• Title: BackdoorBench: A Comprehensive Benchmark and Analysis of Backdoor Learning
• Title（参考訳）: BackdoorBench: バックドア学習の総合ベンチマークと分析
• Authors: Baoyuan Wu, Hongrui Chen, Mingda Zhang, Zihao Zhu, Shaokui Wei, Danni Yuan, Mingli Zhu, Ruotong Wang, Li Liu, Chao Shen,
• Abstract要約: BackdoorBenchというバックドア学習の総合ベンチマークを構築しました。 本稿では,SOTA(State-of-the-art)バックドア学習アルゴリズムの統合実装について述べる。 4つのモデルと4つのデータセットに基づいて5つの毒素比で包括的評価を行い,11,492対の攻撃・攻撃・防御評価を行った。
• 参考スコア（独自算出の注目度）: 41.66647711306716
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As an emerging approach to explore the vulnerability of deep neural networks (DNNs), backdoor learning has attracted increasing interest in recent years, and many seminal backdoor attack and defense algorithms are being developed successively or concurrently, in the status of a rapid arms race. However, mainly due to the diverse settings, and the difficulties of implementation and reproducibility of existing works, there is a lack of a unified and standardized benchmark of backdoor learning, causing unfair comparisons or unreliable conclusions (e.g., misleading, biased or even false conclusions). Consequently, it is difficult to evaluate the current progress and design the future development roadmap of this literature. To alleviate this dilemma, we build a comprehensive benchmark of backdoor learning called BackdoorBench. Our benchmark makes three valuable contributions to the research community. 1) We provide an integrated implementation of state-of-the-art (SOTA) backdoor learning algorithms (currently including 20 attack and 32 defense algorithms), based on an extensible modular-based codebase. 2) We conduct comprehensive evaluations with 5 poisoning ratios, based on 4 models and 4 datasets, leading to 11,492 pairs of attack-against-defense evaluations in total. 3) Based on above evaluations, we present abundant analysis from 10 perspectives via 18 useful analysis tools, and provide several inspiring insights about backdoor learning. We hope that our efforts could build a solid foundation of backdoor learning to facilitate researchers to investigate existing algorithms, develop more innovative algorithms, and explore the intrinsic mechanism of backdoor learning. Finally, we have created a user-friendly website at http://backdoorbench.com, which collects all important information of BackdoorBench, including codebase, docs, leaderboard, and model Zoo.
• Abstract（参考訳）: 近年,深層ニューラルネットワーク(DNN)の脆弱性を探究する新たなアプローチとして,バックドア学習が注目されている。 しかし、主に多様な設定と、既存の作品の実装と再現性の難しさのために、バックドア学習の統一的で標準化されたベンチマークが欠如しており、不公平な比較や信頼性の低い結論(例えば、誤解を招く、偏見を抱く、あるいは虚偽の結論さえも)を引き起こしている。 したがって、この文献の現在の進捗を評価し、今後の開発ロードマップを設計することは困難である。 このジレンマを軽減するために、BackdoorBenchというバックドア学習の包括的なベンチマークを構築しました。 我々のベンチマークは研究コミュニティに3つの貴重な貢献をしている。 1) 拡張可能なモジュラーベースコードベースに基づいて, 最先端(SOTA) バックドア学習アルゴリズム(現在は20の攻撃と32の防御アルゴリズムを含む)を統合的に実装する。 2)4つのモデルと4つのデータセットに基づいて5つの毒素比による包括的評価を行い,11,492対の攻撃・攻撃・防御評価を行った。 3) 以上の評価に基づき,10の視点から18の有用な分析ツールを用いて豊富な分析を行い, バックドア学習に関するいくつかの洞察を与えている。 既存のアルゴリズムを調査し、より革新的なアルゴリズムを開発し、バックドア学習の本質的なメカニズムを探るための、バックドア学習の強固な基盤を構築したいと考えています。 最後に、私たちはhttp://backdoorbench.comでユーザフレンドリーなWebサイトを作成しました。

関連論文リスト

• BackdoorMBTI: A Backdoor Learning Multimodal Benchmark Tool Kit for Backdoor Defense Evaluation [25.107072490555844]
  マルチモーダル評価のためのバックドア学習ツールキットおよびベンチマークであるBackdoorMBTIを紹介する。 BackdoorMBTIは、データ処理、データ中毒、バックドアトレーニング、評価を含む、体系的なバックドア学習パイプラインを提供する。
  論文  参考訳（メタデータ） (2024-11-17T09:01:55Z)
• BackdoorBench: A Comprehensive Benchmark and Analysis of Backdoor Learning [41.66647711306716]
  BackdoorBenchというバックドア学習の総合ベンチマークを構築しました。 本稿では,SOTA(State-of-the-art)バックドア学習アルゴリズムの統合実装について述べる。 我々は,4つのモデルと4つのデータセットに基づいて,16のディフェンスに対する12の攻撃の包括的評価を行う。
  論文  参考訳（メタデータ） (2024-01-26T17:03:38Z)
• Backdoor Learning on Sequence to Sequence Models [94.23904400441957]
  本稿では,シークエンス・ツー・シークエンス(seq2seq)モデルがバックドア攻撃に対して脆弱かどうかを検討する。 具体的には、データセットの0.2%のサンプルを注入するだけで、Seq2seqモデルに指定されたキーワードと文全体を生成することができる。 機械翻訳とテキスト要約に関する大規模な実験を行い、提案手法が複数のデータセットやモデルに対して90%以上の攻撃成功率を達成することを示した。
  論文  参考訳（メタデータ） (2023-05-03T20:31:13Z)
• BackdoorBench: A Comprehensive Benchmark of Backdoor Learning [57.932398227755044]
  バックドア学習は、ディープニューラルネットワーク(DNN)の脆弱性を研究する上で、新しく重要なトピックである 多くの先駆的なバックドア攻撃と防衛手法が、素早い武器競争の状況において、連続的または同時に提案されている。 BackdoorBenchというバックドア学習の総合的なベンチマークを構築しています。
  論文  参考訳（メタデータ） (2022-06-25T13:48:04Z)
• A Unified Evaluation of Textual Backdoor Learning: Frameworks and Benchmarks [72.7373468905418]
  我々は,テキストバックドア学習の実装と評価を促進するオープンソースツールキットOpenBackdoorを開発した。 また,単純なクラスタリングに基づく防御ベースラインであるCUBEを提案する。
  論文  参考訳（メタデータ） (2022-06-17T02:29:23Z)
• Backdoor Learning: A Survey [75.59571756777342]
  バックドア攻撃はディープニューラルネットワーク(DNN)に隠れたバックドアを埋め込む バックドア学習は、急速に成長する研究分野である。 本稿では,この領域を包括的に調査する。
  論文  参考訳（メタデータ） (2020-07-17T04:09:20Z)
• Backdoors in Neural Models of Source Code [13.960152426268769]
  ソースコードの深層学習の文脈でバックドアを研究する。 このようなバックドアをインストールするためにデータセットに毒を盛る方法を示す。 また、バックドアの注入の容易さと、それを除去する能力も示しています。
  論文  参考訳（メタデータ） (2020-06-11T21:35:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。