論文の概要: Generating Potent Poisons and Backdoors from Scratch with Guided Diffusion

• arxiv url: http://arxiv.org/abs/2403.16365v1
• Date: Mon, 25 Mar 2024 02:03:38 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-26 16:17:05.325212
• Title: Generating Potent Poisons and Backdoors from Scratch with Guided Diffusion
• Title（参考訳）: 誘導拡散によるスクラッチからのポタントポゾンとバックドアの生成
• Authors: Hossein Souri, Arpit Bansal, Hamid Kazemi, Liam Fowl, Aniruddha Saha, Jonas Geiping, Andrew Gordon Wilson, Rama Chellappa, Tom Goldstein, Micah Goldblum,
• Abstract要約: 現代のニューラルネットワークは、人間の最小限の検査でウェブスクラップされた大量のデータセットで訓練されることが多い。 本研究では, 誘導拡散法を用いて, スクラッチから塩基サンプルを合成し, より強力な毒性やバックドアを発生させる。
• 参考スコア（独自算出の注目度）: 146.05177661746274
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Modern neural networks are often trained on massive datasets that are web scraped with minimal human inspection. As a result of this insecure curation pipeline, an adversary can poison or backdoor the resulting model by uploading malicious data to the internet and waiting for a victim to scrape and train on it. Existing approaches for creating poisons and backdoors start with randomly sampled clean data, called base samples, and then modify those samples to craft poisons. However, some base samples may be significantly more amenable to poisoning than others. As a result, we may be able to craft more potent poisons by carefully choosing the base samples. In this work, we use guided diffusion to synthesize base samples from scratch that lead to significantly more potent poisons and backdoors than previous state-of-the-art attacks. Our Guided Diffusion Poisoning (GDP) base samples can be combined with any downstream poisoning or backdoor attack to boost its effectiveness. Our implementation code is publicly available at: https://github.com/hsouri/GDP .
• Abstract（参考訳）: 現代のニューラルネットワークは、人間の最小限の検査でウェブスクラップされた大量のデータセットで訓練されることが多い。 この安全でないキュレーションパイプラインの結果、敵は悪意のあるデータをインターネットにアップロードし、被害者がスクラップしてトレーニングするのを待つことによって、結果のモデルを毒やバックドアにすることができる。 既存の毒物やバックドアを作るアプローチは、ランダムにサンプルしたクリーンなデータから始まり、ベースサンプルと呼ばれ、それらのサンプルを変更して毒を作る。 しかし、いくつかの塩基サンプルは、他のサンプルよりも有毒である可能性がある。 その結果, 試料を慎重に選別することで, より強力な毒を製造できる可能性が示唆された。 本研究では, 誘導拡散法を用いて, スクラッチから塩基サンプルを合成し, 従来の最先端の攻撃よりも強力な毒物やバックドアを発生させる。 誘導拡散毒(GDP)ベースサンプルは、下流の毒やバックドア攻撃と組み合わせて有効性を高めることができる。 私たちの実装コードは、https://github.com/hsouri/GDP で公開されています。

関連論文リスト

• The Victim and The Beneficiary: Exploiting a Poisoned Model to Train a Clean Model on Poisoned Data [4.9676716806872125]
  バックドア攻撃は、ディープニューラルネットワーク(DNN)のトレーニングプロセスに深刻なセキュリティ上の脅威をもたらしている The Victim and The Beneficiary (V&B) は有毒なモデルを利用して、余分な良性サンプルを使わずにクリーンなモデルを訓練する。 本フレームワークは,良質な試料の性能を維持しつつ,バックドア注入の防止と各種攻撃に対する堅牢化に有効である。
  論文  参考訳（メタデータ） (2024-04-17T11:15:58Z)
• Beating Backdoor Attack at Its Own Game [10.131734154410763]
  ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。 既存の防御方法は、攻撃の成功率を大幅に低下させた。 有害な試料を標的とした非敵のバックドアを注入する高効率な枠組みを提案する。
  論文  参考訳（メタデータ） (2023-07-28T13:07:42Z)
• Backdoor Attack with Sparse and Invisible Trigger [57.41876708712008]
  ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。 バックドアアタックは、訓練段階の脅威を脅かしている。 軽度で目に見えないバックドアアタック(SIBA)を提案する。
  論文  参考訳（メタデータ） (2023-05-11T10:05:57Z)
• BATT: Backdoor Attack with Transformation-based Triggers [72.61840273364311]
  ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。 バックドアの敵は、敵が特定したトリガーパターンによって活性化される隠れたバックドアを注入する。 最近の研究によると、既存の攻撃のほとんどは現実世界で失敗した。
  論文  参考訳（メタデータ） (2022-11-02T16:03:43Z)
• Poison Attack and Defense on Deep Source Code Processing Models [38.32413592143839]
  我々は、CodePoisonerという名前のソースコードに対して、強力な想像上の敵として毒攻撃フレームワークを提示する。 CodePoisonerは、人間の知覚できない毒のサンプルをコンパイルして、トレーニングデータに毒を加えて攻撃する。 トレーニングデータ中の毒サンプルを検出するために,CodeDetectorという効果的な防御手法を提案する。
  論文  参考訳（メタデータ） (2022-10-31T03:06:40Z)
• Towards A Proactive ML Approach for Detecting Backdoor Poison Samples [38.21287048132065]
  広告主は、トレーニングデータセットにバックドア毒サンプルを導入することで、ディープラーニングモデルにバックドアを埋め込むことができる。 本研究は,バックドア攻撃の脅威を軽減するために,このような毒のサンプルを検出する方法について検討する。
  論文  参考訳（メタデータ） (2022-05-26T20:44:15Z)
• Textual Backdoor Attacks Can Be More Harmful via Two Simple Tricks [58.0225587881455]
  本稿では,既存のテキストバックドア攻撃をより有害にするための2つの簡単な手法を見出す。 最初のトリックは、被害者モデルのトレーニング中に毒や清潔なデータを識別するための追加のトレーニングタスクを追加することです。 2つ目は、汚染データに対応する元のクリーンデータを削除するのではなく、すべてのクリーンなトレーニングデータを使用することである。
  論文  参考訳（メタデータ） (2021-10-15T17:58:46Z)
• Poison Ink: Robust and Invisible Backdoor Attack [122.49388230821654]
  我々はポゾン・インクと呼ばれる頑丈で目に見えないバックドア攻撃を提案する。 具体的には、まず、画像構造を標的の中毒領域として利用し、それらを毒インク(情報)で満たしてトリガーパターンを生成する。 既存の一般的なバックドア攻撃方法と比較して、Poison Inkはステルスネスとロバストネスの両方で優れている。
  論文  参考訳（メタデータ） (2021-08-05T09:52:49Z)
• DeepPoison: Feature Transfer Based Stealthy Poisoning Attack [2.1445455835823624]
  DeepPoisonは、1つの発電機と2つの識別器の斬新な敵対ネットワークです。 DeepPoisonは最先端の攻撃成功率を91.74%まで達成できる。
  論文  参考訳（メタデータ） (2021-01-06T15:45:36Z)
• Just How Toxic is Data Poisoning? A Unified Benchmark for Backdoor and Data Poisoning Attacks [74.88735178536159]
  データ中毒は、モデル盗難から敵の攻撃まで、脅威の中で一番の懸念事項だ。 データ中毒やバックドア攻撃は、テスト設定のバリエーションに非常に敏感である。 厳格なテストを適用して、それらを恐れるべき程度を判断します。
  論文  参考訳（メタデータ） (2020-06-22T18:34:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。