論文の概要: BackdoorMBTI: A Backdoor Learning Multimodal Benchmark Tool Kit for Backdoor Defense Evaluation

• arxiv url: http://arxiv.org/abs/2411.11006v1
• Date: Sun, 17 Nov 2024 09:01:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-19 14:34:15.341517
• Title: BackdoorMBTI: A Backdoor Learning Multimodal Benchmark Tool Kit for Backdoor Defense Evaluation
• Title（参考訳）: BackdoorMBTI: バックドア防御評価のためのバックドア学習マルチモーダルベンチマークツールキット
• Authors: Haiyang Yu, Tian Xie, Jiaping Gui, Pengyang Wang, Ping Yi, Yue Wu,
• Abstract要約: マルチモーダル評価のためのバックドア学習ツールキットおよびベンチマークであるBackdoorMBTIを紹介する。 BackdoorMBTIは、データ処理、データ中毒、バックドアトレーニング、評価を含む、体系的なバックドア学習パイプラインを提供する。
• 参考スコア（独自算出の注目度）: 25.107072490555844
• License:
• Abstract: We introduce BackdoorMBTI, the first backdoor learning toolkit and benchmark designed for multimodal evaluation across three representative modalities from eleven commonly used datasets. BackdoorMBTI provides a systematic backdoor learning pipeline, encompassing data processing, data poisoning, backdoor training, and evaluation. The generated poison datasets and backdoor models enable detailed evaluation of backdoor defense methods. Given the diversity of modalities, BackdoorMBTI facilitates systematic evaluation across different data types. Furthermore, BackdoorMBTI offers a standardized approach to handling practical factors in backdoor learning, such as issues related to data quality and erroneous labels. We anticipate that BackdoorMBTI will expedite future research in backdoor defense methods within a multimodal context. Code is available at https://anonymous.4open.science/r/BackdoorMBTI-D6A1/README.md.
• Abstract（参考訳）: BackdoorMBTIは、11の一般的なデータセットから3つの代表的モダリティにまたがるマルチモーダル評価のために設計された、最初のバックドア学習ツールキットとベンチマークである。 BackdoorMBTIは、データ処理、データ中毒、バックドアトレーニング、評価を含む、体系的なバックドア学習パイプラインを提供する。 生成された毒のデータセットとバックドアモデルは、バックドア防御方法の詳細な評価を可能にする。 モダリティの多様性を考えると、BackdoorMBTIはさまざまなデータタイプにわたる体系的な評価を促進する。 さらに、BackdoorMBTIは、データ品質や誤ラベルに関する問題など、バックドア学習の実践的要素を扱うための標準化されたアプローチを提供する。 我々は,バックドアMBTIが,マルチモーダルコンテキストにおけるバックドア防御手法の研究を迅速化することを期待している。 コードはhttps://anonymous.4open.science/r/BackdoorMBTI-D6A1/README.mdで入手できる。

関連論文リスト

• Expose Before You Defend: Unifying and Enhancing Backdoor Defenses via Exposed Models [68.40324627475499]
  本稿では,Expose Before You Defendという新しい2段階防衛フレームワークを紹介する。 EBYDは既存のバックドア防御手法を総合防衛システムに統合し、性能を向上する。 2つの視覚データセットと4つの言語データセットにまたがる10のイメージアタックと6つのテキストアタックに関する広範な実験を行います。
  論文  参考訳（メタデータ） (2024-10-25T09:36:04Z)
• BackdoorBench: A Comprehensive Benchmark and Analysis of Backdoor Learning [41.66647711306716]
  BackdoorBenchというバックドア学習の総合ベンチマークを構築しました。 本稿では,SOTA(State-of-the-art)バックドア学習アルゴリズムの統合実装について述べる。 4つのモデルと4つのデータセットに基づいて5つの毒素比で包括的評価を行い,11,492対の攻撃・攻撃・防御評価を行った。
  論文  参考訳（メタデータ） (2024-07-29T09:57:03Z)
• Backdoor Secrets Unveiled: Identifying Backdoor Data with Optimized Scaled Prediction Consistency [15.643978173846095]
  現代の機械学習システムは、バックドア中毒の攻撃に弱い。 本稿では,有毒データセット内のバックドアデータの自動識別を提案する。 提案手法は,バックドアデータポイントの同定において,現在のベースラインの性能を上回ることが多いことを示す。
  論文  参考訳（メタデータ） (2024-03-15T22:35:07Z)
• Model Pairing Using Embedding Translation for Backdoor Attack Detection on Open-Set Classification Tasks [63.269788236474234]
  バックドア検出のためのオープンセット分類タスクにモデルペアを用いることを提案する。 このスコアは、異なるアーキテクチャのモデルがあるにもかかわらず、バックドアの存在を示す指標であることを示している。 この技術は、オープンセット分類タスク用に設計されたモデル上のバックドアの検出を可能にするが、文献ではほとんど研究されていない。
  論文  参考訳（メタデータ） (2024-02-28T21:29:16Z)
• BackdoorBench: A Comprehensive Benchmark and Analysis of Backdoor Learning [41.66647711306716]
  BackdoorBenchというバックドア学習の総合ベンチマークを構築しました。 本稿では,SOTA(State-of-the-art)バックドア学習アルゴリズムの統合実装について述べる。 我々は,4つのモデルと4つのデータセットに基づいて,16のディフェンスに対する12の攻撃の包括的評価を行う。
  論文  参考訳（メタデータ） (2024-01-26T17:03:38Z)
• Setting the Trap: Capturing and Defeating Backdoors in Pretrained Language Models through Honeypots [68.84056762301329]
  近年の研究では、バックドア攻撃に対するプレトレーニング言語モデル(PLM)の感受性が明らかにされている。 バックドア情報のみを吸収するために,ハニーポットモジュールをオリジナルのPLMに統合する。 我々の設計は、PLMの低層表現が十分なバックドア特徴を持っているという観察に動機づけられている。
  論文  参考訳（メタデータ） (2023-10-28T08:21:16Z)
• BackdoorBench: A Comprehensive Benchmark of Backdoor Learning [57.932398227755044]
  バックドア学習は、ディープニューラルネットワーク(DNN)の脆弱性を研究する上で、新しく重要なトピックである 多くの先駆的なバックドア攻撃と防衛手法が、素早い武器競争の状況において、連続的または同時に提案されている。 BackdoorBenchというバックドア学習の総合的なベンチマークを構築しています。
  論文  参考訳（メタデータ） (2022-06-25T13:48:04Z)
• Black-box Detection of Backdoor Attacks with Limited Information and Data [56.0735480850555]
  モデルへのクエリアクセスのみを用いてバックドア攻撃を同定するブラックボックスバックドア検出(B3D)手法を提案する。 バックドア検出に加えて,同定されたバックドアモデルを用いた信頼性の高い予測手法を提案する。
  論文  参考訳（メタデータ） (2021-03-24T12:06:40Z)
• Backdoor Learning: A Survey [75.59571756777342]
  バックドア攻撃はディープニューラルネットワーク(DNN)に隠れたバックドアを埋め込む バックドア学習は、急速に成長する研究分野である。 本稿では,この領域を包括的に調査する。
  論文  参考訳（メタデータ） (2020-07-17T04:09:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。