論文の概要: Augmentation Backdoors

• arxiv url: http://arxiv.org/abs/2209.15139v1
• Date: Thu, 29 Sep 2022 23:51:39 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-03 16:34:34.714244
• Title: Augmentation Backdoors
• Title（参考訳）: 増補バックドア
• Authors: Joseph Rance, Yiren Zhao, Ilia Shumailov, Robert Mullins
• Abstract要約: データ拡張に隠蔽的に挿入できる3つのバックドアアタックを提示する。 我々の攻撃は、それぞれ異なる種類のコンピュータビジョン拡張変換を使用してバックドアを挿入する。 私たちは、任意のバックドア機能をサポートしながら、バックドアの検出を困難にしています。
• 参考スコア（独自算出の注目度）: 6.72910827751713
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Data augmentation is used extensively to improve model generalisation. However, reliance on external libraries to implement augmentation methods introduces a vulnerability into the machine learning pipeline. It is well known that backdoors can be inserted into machine learning models through serving a modified dataset to train on. Augmentation therefore presents a perfect opportunity to perform this modification without requiring an initially backdoored dataset. In this paper we present three backdoor attacks that can be covertly inserted into data augmentation. Our attacks each insert a backdoor using a different type of computer vision augmentation transform, covering simple image transforms, GAN-based augmentation, and composition-based augmentation. By inserting the backdoor using these augmentation transforms, we make our backdoors difficult to detect, while still supporting arbitrary backdoor functionality. We evaluate our attacks on a range of computer vision benchmarks and demonstrate that an attacker is able to introduce backdoors through just a malicious augmentation routine.
• Abstract（参考訳）: データ拡張は、モデル一般化を改善するために広く使用される。 しかし、拡張メソッドを実装するための外部ライブラリへの依存は、機械学習パイプラインに脆弱性をもたらす。 トレーニング用の修正データセットを提供することで、バックドアを機械学習モデルに挿入できることはよく知られている。 したがって拡張は、初期バックドア付きデータセットを必要とせずに、この変更を実行するための完璧な機会を提供する。 本稿では,データ拡張に隠密に挿入できる3つのバックドア攻撃について述べる。 我々の攻撃は、異なるタイプのコンピュータビジョン拡張変換を使用してバックドアを挿入し、単純な画像変換、ganベースの拡張、合成ベースの拡張を含む。 このような拡張変換を使ってバックドアを挿入することで、任意のバックドア機能をサポートしながら、バックドアの検出が難しくなります。 我々は、コンピュータビジョンベンチマークに対する攻撃を評価し、攻撃者が悪意ある拡張ルーチンを通じてバックドアを導入することができることを示す。

関連論文リスト

• Expose Before You Defend: Unifying and Enhancing Backdoor Defenses via Exposed Models [68.40324627475499]
  本稿では,Expose Before You Defendという新しい2段階防衛フレームワークを紹介する。 EBYDは既存のバックドア防御手法を総合防衛システムに統合し、性能を向上する。 2つの視覚データセットと4つの言語データセットにまたがる10のイメージアタックと6つのテキストアタックに関する広範な実験を行います。
  論文  参考訳（メタデータ） (2024-10-25T09:36:04Z)
• Rethinking Backdoor Attacks [122.1008188058615]
  バックドア攻撃では、悪意ある構築されたバックドアの例をトレーニングセットに挿入し、結果のモデルを操作に脆弱にする。 このような攻撃に対する防御は、典型的には、これらの挿入された例をトレーニングセットの外れ値として見ることと、堅牢な統計からのテクニックを使用してそれらを検出し、削除することである。 トレーニングデータ分布に関する構造情報がなければ,バックドア攻撃は自然に発生するデータの特徴と区別できないことを示す。
  論文  参考訳（メタデータ） (2023-07-19T17:44:54Z)
• BATT: Backdoor Attack with Transformation-based Triggers [72.61840273364311]
  ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。 バックドアの敵は、敵が特定したトリガーパターンによって活性化される隠れたバックドアを注入する。 最近の研究によると、既存の攻撃のほとんどは現実世界で失敗した。
  論文  参考訳（メタデータ） (2022-11-02T16:03:43Z)
• Architectural Backdoors in Neural Networks [27.315196801989032]
  モデルアーキテクチャの内部に隠れる新しい種類のバックドアアタックを導入します。 これらのバックドアの実装は簡単で、例えばバックドアモデルアーキテクチャ用のオープンソースコードを公開している。 私たちは、モデルアーキテクチャのバックドアが真の脅威であり、他のアプローチとは異なり、ゼロから完全な再トレーニングに耐えられることを実証しています。
  論文  参考訳（メタデータ） (2022-06-15T22:44:03Z)
• Neurotoxin: Durable Backdoors in Federated Learning [73.82725064553827]
  連合学習システムは バックドア攻撃の訓練中に 固有の脆弱性がある 我々は,既存のバックドア攻撃に対する単純な一直線修正であるニューロトキシンを提案する。
  論文  参考訳（メタデータ） (2022-06-12T16:52:52Z)
• Check Your Other Door! Establishing Backdoor Attacks in the Frequency Domain [80.24811082454367]
  検出不能で強力なバックドア攻撃を確立するために周波数領域を利用する利点を示す。 また、周波数ベースのバックドア攻撃を成功させる2つの防御方法と、攻撃者がそれらを回避できる可能性を示す。
  論文  参考訳（メタデータ） (2021-09-12T12:44:52Z)
• BAAAN: Backdoor Attacks Against Autoencoder and GAN-Based Machine Learning Models [21.06679566096713]
  我々は、マシンラーニングモデル、すなわちバックドア攻撃に対する最も深刻な攻撃の1つを、オートエンコーダとGANの両方に対して探索する。 バックドアアタック(英語: backdoor attack)とは、敵が秘密のトリガーによってのみ起動できるターゲットモデルに隠れたバックドアを実装する訓練時間アタックである。 バックドア攻撃の適用性をオートエンコーダやGANベースのモデルに拡張する。
  論文  参考訳（メタデータ） (2020-10-06T20:26:16Z)
• Backdoor Learning: A Survey [75.59571756777342]
  バックドア攻撃はディープニューラルネットワーク(DNN)に隠れたバックドアを埋め込む バックドア学習は、急速に成長する研究分野である。 本稿では,この領域を包括的に調査する。
  論文  参考訳（メタデータ） (2020-07-17T04:09:20Z)
• Backdoors in Neural Models of Source Code [13.960152426268769]
  ソースコードの深層学習の文脈でバックドアを研究する。 このようなバックドアをインストールするためにデータセットに毒を盛る方法を示す。 また、バックドアの注入の容易さと、それを除去する能力も示しています。
  論文  参考訳（メタデータ） (2020-06-11T21:35:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。