論文の概要: Sleeper Agent: Scalable Hidden Trigger Backdoors for Neural Networks Trained from Scratch

• arxiv url: http://arxiv.org/abs/2106.08970v1
• Date: Wed, 16 Jun 2021 17:09:55 GMT
• ステータス: 処理完了
• システム内更新日: 2021-06-17 19:40:35.681957
• Title: Sleeper Agent: Scalable Hidden Trigger Backdoors for Neural Networks Trained from Scratch
• Title（参考訳）: sleeper agent:スクラッチからトレーニングされたニューラルネットワークのためのスケーラブルな隠れトリガーバックドア
• Authors: Hossein Souri, Micah Goldblum, Liam Fowl, Rama Chellappa, Tom Goldstein
• Abstract要約: バックドア攻撃者は、トレーニングデータを改ざんして、そのデータに基づいてトレーニングされたモデルに脆弱性を埋め込む。 この脆弱性は、モデル入力に"トリガー"を配置することで、推論時にアクティベートされる。 我々は,工芸過程において,勾配マッチング,データ選択,ターゲットモデル再トレーニングを利用した新しい隠れトリガ攻撃,Sleeper Agentを開発した。
• 参考スコア（独自算出の注目度）: 99.90716010490625
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As the curation of data for machine learning becomes increasingly automated, dataset tampering is a mounting threat. Backdoor attackers tamper with training data to embed a vulnerability in models that are trained on that data. This vulnerability is then activated at inference time by placing a "trigger" into the model's input. Typical backdoor attacks insert the trigger directly into the training data, although the presence of such an attack may be visible upon inspection. In contrast, the Hidden Trigger Backdoor Attack achieves poisoning without placing a trigger into the training data at all. However, this hidden trigger attack is ineffective at poisoning neural networks trained from scratch. We develop a new hidden trigger attack, Sleeper Agent, which employs gradient matching, data selection, and target model re-training during the crafting process. Sleeper Agent is the first hidden trigger backdoor attack to be effective against neural networks trained from scratch. We demonstrate its effectiveness on ImageNet and in black-box settings. Our implementation code can be found at https://github.com/hsouri/Sleeper-Agent.
• Abstract（参考訳）: 機械学習のためのデータのキュレーションがますます自動化されるにつれて、データセットの改ざんは大きな脅威になっている。 バックドア攻撃者は、トレーニングデータを改ざんして、そのデータに基づいてトレーニングされたモデルに脆弱性を埋め込む。 この脆弱性はモデル入力に"トリガー"を配置することで、推論時に起動される。 典型的なバックドア攻撃はトレーニングデータに直接トリガーを挿入するが、そのような攻撃の存在は検査時に見ることができる。 これとは対照的に、Hidden Trigger Backdoor Attackはトレーニングデータにトリガーを一切入れずに毒を盛る。 しかし、この隠れトリガー攻撃は、スクラッチから訓練されたニューラルネットワークを中毒させるのに効果がない。 そこで我々は,新たな隠れトリガ攻撃として,グラデーションマッチング,データ選択,目標モデルの再トレーニングを行うスリーパーエージェントを開発した。 Sleeper Agentは、スクラッチからトレーニングされたニューラルネットワークに対して、最初の隠れトリガーバックドア攻撃である。 我々は、ImageNetとブラックボックス設定でその効果を実証する。 実装コードはhttps://github.com/hsouri/sleeper-agentにあります。

関連論文リスト

• Backdoor Attack with Sparse and Invisible Trigger [57.41876708712008]
  ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。 バックドアアタックは、訓練段階の脅威を脅かしている。 軽度で目に見えないバックドアアタック(SIBA)を提案する。
  論文  参考訳（メタデータ） (2023-05-11T10:05:57Z)
• BATT: Backdoor Attack with Transformation-based Triggers [72.61840273364311]
  ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。 バックドアの敵は、敵が特定したトリガーパターンによって活性化される隠れたバックドアを注入する。 最近の研究によると、既存の攻撃のほとんどは現実世界で失敗した。
  論文  参考訳（メタデータ） (2022-11-02T16:03:43Z)
• Narcissus: A Practical Clean-Label Backdoor Attack with Limited Information [22.98039177091884]
  クリーンラベル」バックドア攻撃には、トレーニングセット全体の知識が必要である。 本稿では,対象クラスの代表例の知識のみに基づいて,クリーンラベルバックドア攻撃をマウントするアルゴリズムを提案する。 私たちの攻撃は、物理的な世界にトリガーが存在する場合でも、データセットやモデル間でうまく機能します。
  論文  参考訳（メタデータ） (2022-04-11T16:58:04Z)
• Can You Hear It? Backdoor Attacks via Ultrasonic Triggers [31.147899305987934]
  本研究では,自動音声認識システムへのバックドア攻撃の選択肢について検討する。 以上の結果から, 毒性データの1%未満は, バックドア攻撃の実施に十分であり, 100%攻撃成功率に達することが示唆された。
  論文  参考訳（メタデータ） (2021-07-30T12:08:16Z)
• Backdoor Attack in the Physical World [49.64799477792172]
  ディープニューラルネットワーク(DNN)に隠れたバックドアを注入するバックドア攻撃 既存のバックドア攻撃のほとんどは、トレーニングおよびテスト画像にまたがる静的トリガ、すなわち$$トリガの設定を採用した。 テスト画像のトリガーがトレーニングで使用されるものと一致していない場合、この攻撃パラダイムは脆弱であることを示す。
  論文  参考訳（メタデータ） (2021-04-06T08:37:33Z)
• Black-box Detection of Backdoor Attacks with Limited Information and Data [56.0735480850555]
  モデルへのクエリアクセスのみを用いてバックドア攻撃を同定するブラックボックスバックドア検出(B3D)手法を提案する。 バックドア検出に加えて,同定されたバックドアモデルを用いた信頼性の高い予測手法を提案する。
  論文  参考訳（メタデータ） (2021-03-24T12:06:40Z)
• Input-Aware Dynamic Backdoor Attack [9.945411554349276]
  近年、ニューラルネットワークのバックドア攻撃は、ディープラーニングシステムに対する潜在的なセキュリティ脅威と考えられている。 現在のバックドア技術は、現在の防御方法によって容易に検出され緩和される一様トリガーパターンに依存している。 本稿では,入力から入力までのトリガーが異なる新しいバックドア攻撃手法を提案する。
  論文  参考訳（メタデータ） (2020-10-16T03:57:12Z)
• Don't Trigger Me! A Triggerless Backdoor Attack Against Deep Neural Networks [22.28270345106827]
  現在の最先端のバックドア攻撃では、ターゲットモデルがバックドアをアクティベートするために入力を変更する必要がある。 このトリガーは物理世界でのバックドア攻撃の難易度を高めるだけでなく、複数の防御機構によって容易に検出できる。 我々は、バックドアをトリガーする入力を変更する必要のない、ディープニューラルネットワークに対する最初のトリガーレスバックドア攻撃を示す。
  論文  参考訳（メタデータ） (2020-10-07T09:01:39Z)
• Rethinking the Trigger of Backdoor Attack [83.98031510668619]
  現在、既存のバックドア攻撃のほとんどは、トレーニングとテスト用の画像は同じ外観で、同じエリアに置かれている。 テスト画像のトリガーがトレーニングで使用されるものと一致していない場合、このような攻撃パラダイムが脆弱であることを示す。
  論文  参考訳（メタデータ） (2020-04-09T17:19:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。