論文の概要: BackdoorBench: A Comprehensive Benchmark and Analysis of Backdoor Learning

• arxiv url: http://arxiv.org/abs/2401.15002v1
• Date: Fri, 26 Jan 2024 17:03:38 GMT
• ステータス: 処理完了
• システム内更新日: 2024-01-29 14:27:11.184800
• Title: BackdoorBench: A Comprehensive Benchmark and Analysis of Backdoor Learning
• Title（参考訳）: backdoorbench: backdoor learningの包括的なベンチマークと分析
• Authors: Baoyuan Wu, Hongrui Chen, Mingda Zhang, Zihao Zhu, Shaokui Wei, Danni Yuan, Mingli Zhu, Ruotong Wang, Li Liu, Chao Shen
• Abstract要約: BackdoorBenchというバックドア学習の総合ベンチマークを構築しました。 本稿では,SOTA(State-of-the-art)バックドア学習アルゴリズムの統合実装について述べる。 我々は,4つのモデルと4つのデータセットに基づいて,16のディフェンスに対する12の攻撃の包括的評価を行う。
• 参考スコア（独自算出の注目度）: 43.05285344151631
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As an emerging and vital topic for studying deep neural networks' vulnerability (DNNs), backdoor learning has attracted increasing interest in recent years, and many seminal backdoor attack and defense algorithms are being developed successively or concurrently, in the status of a rapid arms race. However, mainly due to the diverse settings, and the difficulties of implementation and reproducibility of existing works, there is a lack of a unified and standardized benchmark of backdoor learning, causing unfair comparisons, and unreliable conclusions (e.g., misleading, biased or even false conclusions). Consequently, it is difficult to evaluate the current progress and design the future development roadmap of this literature. To alleviate this dilemma, we build a comprehensive benchmark of backdoor learning called BackdoorBench. Our benchmark makes three valuable contributions to the research community. 1) We provide an integrated implementation of state-of-the-art (SOTA) backdoor learning algorithms (currently including 16 attack and 27 defense algorithms), based on an extensible modular-based codebase. 2) We conduct comprehensive evaluations of 12 attacks against 16 defenses, with 5 poisoning ratios, based on 4 models and 4 datasets, thus 11,492 pairs of evaluations in total. 3) Based on above evaluations, we present abundant analysis from 8 perspectives via 18 useful analysis tools, and provide several inspiring insights about backdoor learning. We hope that our efforts could build a solid foundation of backdoor learning to facilitate researchers to investigate existing algorithms, develop more innovative algorithms, and explore the intrinsic mechanism of backdoor learning. Finally, we have created a user-friendly website at http://backdoorbench.com, which collects all important information of BackdoorBench, including codebase, docs, leaderboard, and model Zoo.
• Abstract（参考訳）: ディープ・ニューラル・ネットワーク(dnn)の脆弱性の研究において、近年、バックドア・ラーニング(backdoor learning)が注目されている。 しかし、主に多様な設定と既存の作品の実装と再現性の難しさから、不公平な比較、信頼できない結論(誤解、偏り、虚偽の結論など)をもたらすバックドア学習の統一的で標準化されたベンチマークが欠如している。 そのため,現在の進展を評価し,今後の開発ロードマップを策定することは困難である。 このジレンマを軽減するために、BackdoorBenchというバックドア学習の包括的なベンチマークを構築しました。 我々のベンチマークは研究コミュニティに3つの貴重な貢献をしている。 1) 拡張可能なモジュラーベースコードベースに基づく,最先端(sota)バックドア学習アルゴリズム(現在は16攻撃と27防御アルゴリズムを含む)の統合実装を提供する。 2) 防犯攻撃12件の総合的評価を4モデルと4データセットに基づいて5件の毒殺率で行い, 合計11,492対の評価を行った。 3) 以上の評価に基づき,8つの視点から18の有用な分析ツールを用いて分析を行い,裏口学習に関するいくつかの洞察を得た。 私たちは、既存のアルゴリズムを調査し、より革新的なアルゴリズムを開発し、バックドア学習の本質的なメカニズムを探るための、バックドア学習の強固な基盤を構築したいと考えています。 最後に、私たちはhttp://backdoorbench.comでユーザフレンドリーなWebサイトを作成しました。

関連論文リスト

• BackdoorMBTI: A Backdoor Learning Multimodal Benchmark Tool Kit for Backdoor Defense Evaluation [25.107072490555844]
  マルチモーダル評価のためのバックドア学習ツールキットおよびベンチマークであるBackdoorMBTIを紹介する。 BackdoorMBTIは、データ処理、データ中毒、バックドアトレーニング、評価を含む、体系的なバックドア学習パイプラインを提供する。
  論文  参考訳（メタデータ） (2024-11-17T09:01:55Z)
• BackdoorBench: A Comprehensive Benchmark and Analysis of Backdoor Learning [41.66647711306716]
  BackdoorBenchというバックドア学習の総合ベンチマークを構築しました。 本稿では,SOTA(State-of-the-art)バックドア学習アルゴリズムの統合実装について述べる。 4つのモデルと4つのデータセットに基づいて5つの毒素比で包括的評価を行い,11,492対の攻撃・攻撃・防御評価を行った。
  論文  参考訳（メタデータ） (2024-07-29T09:57:03Z)
• Backdoor Learning on Sequence to Sequence Models [94.23904400441957]
  本稿では,シークエンス・ツー・シークエンス(seq2seq)モデルがバックドア攻撃に対して脆弱かどうかを検討する。 具体的には、データセットの0.2%のサンプルを注入するだけで、Seq2seqモデルに指定されたキーワードと文全体を生成することができる。 機械翻訳とテキスト要約に関する大規模な実験を行い、提案手法が複数のデータセットやモデルに対して90%以上の攻撃成功率を達成することを示した。
  論文  参考訳（メタデータ） (2023-05-03T20:31:13Z)
• BackdoorBox: A Python Toolbox for Backdoor Learning [67.53987387581222]
  このPythonツールボックスは、代表的で高度なバックドア攻撃と防御を実装している。 研究者や開発者は、ベンチマークやローカルデータセットで、さまざまなメソッドを簡単に実装し、比較することができる。
  論文  参考訳（メタデータ） (2023-02-01T09:45:42Z)
• BackdoorBench: A Comprehensive Benchmark of Backdoor Learning [57.932398227755044]
  バックドア学習は、ディープニューラルネットワーク(DNN)の脆弱性を研究する上で、新しく重要なトピックである 多くの先駆的なバックドア攻撃と防衛手法が、素早い武器競争の状況において、連続的または同時に提案されている。 BackdoorBenchというバックドア学習の総合的なベンチマークを構築しています。
  論文  参考訳（メタデータ） (2022-06-25T13:48:04Z)
• Backdoor Learning: A Survey [75.59571756777342]
  バックドア攻撃はディープニューラルネットワーク(DNN)に隠れたバックドアを埋め込む バックドア学習は、急速に成長する研究分野である。 本稿では,この領域を包括的に調査する。
  論文  参考訳（メタデータ） (2020-07-17T04:09:20Z)
• Backdoors in Neural Models of Source Code [13.960152426268769]
  ソースコードの深層学習の文脈でバックドアを研究する。 このようなバックドアをインストールするためにデータセットに毒を盛る方法を示す。 また、バックドアの注入の容易さと、それを除去する能力も示しています。
  論文  参考訳（メタデータ） (2020-06-11T21:35:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。