論文の概要: Backdoor Attack through Frequency Domain

• arxiv url: http://arxiv.org/abs/2111.10991v1
• Date: Mon, 22 Nov 2021 05:13:12 GMT
• ステータス: 処理完了
• システム内更新日: 2021-11-23 15:02:30.724260
• Title: Backdoor Attack through Frequency Domain
• Title（参考訳）: 周波数領域によるバックドア攻撃
• Authors: Tong Wang, Yuan Yao, Feng Xu, Shengwei An, Ting Wang
• Abstract要約: 本稿では,周波数領域のトロジャン化による新たなバックドア攻撃FTROJANを提案する。 鍵となる直感は、周波数領域における摂動のトリガーは、画像全体にわたって分散された小さなピクセル単位の摂動に対応することである。 いくつかのデータセットやタスクでFTROJANを評価し、良性入力の予測精度を著しく低下させることなく、高い攻撃成功率を達成することを示す。
• 参考スコア（独自算出の注目度）: 17.202855245008227
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Backdoor attacks have been shown to be a serious threat against deep learning systems such as biometric authentication and autonomous driving. An effective backdoor attack could enforce the model misbehave under certain predefined conditions, i.e., triggers, but behave normally otherwise. However, the triggers of existing attacks are directly injected in the pixel space, which tend to be detectable by existing defenses and visually identifiable at both training and inference stages. In this paper, we propose a new backdoor attack FTROJAN through trojaning the frequency domain. The key intuition is that triggering perturbations in the frequency domain correspond to small pixel-wise perturbations dispersed across the entire image, breaking the underlying assumptions of existing defenses and making the poisoning images visually indistinguishable from clean ones. We evaluate FTROJAN in several datasets and tasks showing that it achieves a high attack success rate without significantly degrading the prediction accuracy on benign inputs. Moreover, the poisoning images are nearly invisible and retain high perceptual quality. We also evaluate FTROJAN against state-of-the-art defenses as well as several adaptive defenses that are designed on the frequency domain. The results show that FTROJAN can robustly elude or significantly degenerate the performance of these defenses.
• Abstract（参考訳）: バックドア攻撃は生体認証や自動運転といったディープラーニングシステムに対する深刻な脅威であることが示されている。 効果的なバックドア攻撃は、事前定義された条件、すなわちトリガー(英語版)でモデルミスベハを強制するが、通常でなければ振る舞う。 しかし、既存の攻撃のトリガーはピクセル空間に直接注入され、既存の防御によって検出され、トレーニングと推論の段階で視覚的に識別される。 本稿では,周波数領域のトロイの木馬による新しいバックドア攻撃法を提案する。 鍵となる直感は、周波数領域における摂動のトリガーは、画像全体に散らばる小さなピクセル回りの摂動に対応し、既存の防御の前提となる前提を破り、汚染画像がきれいなものと視覚的に区別できないようにすることである。 いくつかのデータセットやタスクでFTROJANを評価し、良性入力の予測精度を著しく低下させることなく高い攻撃成功率を達成することを示す。 また、中毒画像はほとんど見えず、高い知覚品質を保っている。 また, 周波数領域で設計した適応的防御と同様に, 最先端防御に対するftrojanの評価も行う。 その結果,FTROJANは防御性能を著しく低下させることができた。

関連論文リスト

• Invisible Backdoor Attack Through Singular Value Decomposition [2.681558084723648]
  バックドア攻撃はディープニューラルネットワーク(DNN)に深刻なセキュリティ脅威をもたらす トリガーを知覚しにくく、知覚できないものにするため、様々な目に見えないバックドア攻撃が提案されている。 本稿では,DEBAと呼ばれる目に見えないバックドア攻撃を提案する。
  論文  参考訳（メタデータ） (2024-03-18T13:25:12Z)
• BadCLIP: Dual-Embedding Guided Backdoor Attack on Multimodal Contrastive Learning [85.2564206440109]
  本報告では,防衛後においてもバックドア攻撃が有効であり続けるという現実的なシナリオにおける脅威を明らかにする。 バックドア検出や細調整防御のモデル化に抵抗性のあるemphtoolnsアタックを導入する。
  論文  参考訳（メタデータ） (2023-11-20T02:21:49Z)
• A Dual Stealthy Backdoor: From Both Spatial and Frequency Perspectives [17.024143511814245]
  バックドア攻撃はディープニューラルネットワーク(DNN)に深刻なセキュリティ脅威をもたらす バックドアモデルは、よく設計されたトリガーが埋め込まれた入力に対して、任意の(ターゲット化された)誤った予測を行う。 本研究では,空間領域と周波数領域の両方におけるトリガの視認性を同時に考慮した,DUBAと呼ばれる2次元ステルスBAckdoor攻撃法を提案する。
  論文  参考訳（メタデータ） (2023-07-03T12:28:44Z)
• Backdoor Attack with Sparse and Invisible Trigger [57.41876708712008]
  ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。 バックドアアタックは、訓練段階の脅威を脅かしている。 軽度で目に見えないバックドアアタック(SIBA)を提案する。
  論文  参考訳（メタデータ） (2023-05-11T10:05:57Z)
• Untargeted Backdoor Attack against Object Detection [69.63097724439886]
  我々は,タスク特性に基づいて,無目標で毒のみのバックドア攻撃を設計する。 攻撃によって、バックドアがターゲットモデルに埋め込まれると、トリガーパターンでスタンプされたオブジェクトの検出を失う可能性があることを示す。
  論文  参考訳（メタデータ） (2022-11-02T17:05:45Z)
• BATT: Backdoor Attack with Transformation-based Triggers [72.61840273364311]
  ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。 バックドアの敵は、敵が特定したトリガーパターンによって活性化される隠れたバックドアを注入する。 最近の研究によると、既存の攻撃のほとんどは現実世界で失敗した。
  論文  参考訳（メタデータ） (2022-11-02T16:03:43Z)
• Check Your Other Door! Establishing Backdoor Attacks in the Frequency Domain [80.24811082454367]
  検出不能で強力なバックドア攻撃を確立するために周波数領域を利用する利点を示す。 また、周波数ベースのバックドア攻撃を成功させる2つの防御方法と、攻撃者がそれらを回避できる可能性を示す。
  論文  参考訳（メタデータ） (2021-09-12T12:44:52Z)
• Rethinking the Backdoor Attacks' Triggers: A Frequency Perspective [10.03897682559064]
  本稿では,既存のバックドアトリガを周波数の観点から再検討し,包括的解析を行う。 現在のバックドア攻撃の多くは、異なるデータセットと解像度にまたがって持続する重い高周波アーティファクトを示す。 高周波アーティファクトを使わずにスムーズなバックドアトリガーを作成し,その検出性を検討する実用的な方法を提案する。
  論文  参考訳（メタデータ） (2021-04-07T22:05:28Z)
• WaNet -- Imperceptible Warping-based Backdoor Attack [20.289889150949836]
  サードパーティーのモデルは、通常の状況でうまく機能するようにトレーニング中に毒を盛るが、トリガーパターンが現れると悪質に振る舞う。 本稿では,サードパーティモデルに対してワーピングベースのトリガーを用いた攻撃手法を提案する。 提案したバックドアは、人間の検査試験における従来の方法よりも広いマージンで優れており、そのステルス性を証明している。
  論文  参考訳（メタデータ） (2021-02-20T15:25:36Z)
• Rethinking the Trigger of Backdoor Attack [83.98031510668619]
  現在、既存のバックドア攻撃のほとんどは、トレーニングとテスト用の画像は同じ外観で、同じエリアに置かれている。 テスト画像のトリガーがトレーニングで使用されるものと一致していない場合、このような攻撃パラダイムが脆弱であることを示す。
  論文  参考訳（メタデータ） (2020-04-09T17:19:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。