論文の概要: Attack as Defense: Run-time Backdoor Implantation for Image Content Protection

• arxiv url: http://arxiv.org/abs/2410.14966v1
• Date: Sat, 19 Oct 2024 03:58:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-22 13:15:27.145372
• Title: Attack as Defense: Run-time Backdoor Implantation for Image Content Protection
• Title（参考訳）: 防衛としての攻撃: 画像コンテンツ保護のための実行時のバックドア挿入
• Authors: Haichuan Zhang, Meiyu Lin, Zhaoyi Liu, Renyuan Li, Zhiyuan Cheng, Carl Yang, Mingjie Tang,
• Abstract要約: バックドアアタック(英: backdoor attack)とは、ターゲットモデルに脆弱性を埋め込む方法であり、トリガーを通じてアクティベートできる。 本研究では,画像編集モデルにバックドアを埋め込むことにより,画像コンテンツ修正の悪用を防止する。 データ中毒を使った従来のバックドア攻撃とは異なり、私たちは、ランタイムバックドア移植のための最初のフレームワークを開発しました。
• 参考スコア（独自算出の注目度）: 20.30801340875602
• License:
• Abstract: As generative models achieve great success, tampering and modifying the sensitive image contents (i.e., human faces, artist signatures, commercial logos, etc.) have induced a significant threat with social impact. The backdoor attack is a method that implants vulnerabilities in a target model, which can be activated through a trigger. In this work, we innovatively prevent the abuse of image content modification by implanting the backdoor into image-editing models. Once the protected sensitive content on an image is modified by an editing model, the backdoor will be triggered, making the editing fail. Unlike traditional backdoor attacks that use data poisoning, to enable protection on individual images and eliminate the need for model training, we developed the first framework for run-time backdoor implantation, which is both time- and resource- efficient. We generate imperceptible perturbations on the images to inject the backdoor and define the protected area as the only backdoor trigger. Editing other unprotected insensitive areas will not trigger the backdoor, which minimizes the negative impact on legal image modifications. Evaluations with state-of-the-art image editing models show that our protective method can increase the CLIP-FID of generated images from 12.72 to 39.91, or reduce the SSIM from 0.503 to 0.167 when subjected to malicious editing. At the same time, our method exhibits minimal impact on benign editing, which demonstrates the efficacy of our proposed framework. The proposed run-time backdoor can also achieve effective protection on the latest diffusion models. Code are available.
• Abstract（参考訳）: 生成モデルは大きな成功をおさめ、繊細なイメージ内容(人間の顔、アーティストの署名、商業ロゴなど)の改ざんと修正は、社会的影響に重大な脅威をもたらしている。 バックドアアタックは、ターゲットモデルに脆弱性を埋め込む方法であり、トリガーを通じてアクティベートできる。 本研究では,画像編集モデルにバックドアを埋め込むことにより,画像コンテンツ修正の悪用を革新的に防止する。 イメージ上の保護された機密コンテンツが編集モデルによって修正されると、バックドアがトリガーされ、編集が失敗する。 データ中毒による従来のバックドア攻撃とは違って,個々のイメージの保護とモデルトレーニングの必要性を排除し,実行時のバックドア移植のための最初のフレームワークを開発した。 我々は、バックドアを注入するために画像に知覚不能な摂動を生成し、保護領域を唯一のバックドアトリガーとして定義する。 他の保護されていない非感受性領域を編集してもバックドアをトリガーすることはなく、法的な画像修正に対する悪影響を最小限に抑える。 最新の画像編集モデルを用いて評価した結果, 生成画像のCLIP-FIDを12.72から39.91に, SSIMを0.503から0.167に削減できることがわかった。 同時に,本手法が良性編集に与える影響を最小限に抑え,提案手法の有効性を実証する。 提案したランタイムバックドアは,最新の拡散モデルに対して効果的な保護を実現することができる。 コードは利用可能。

関連論文リスト

• Expose Before You Defend: Unifying and Enhancing Backdoor Defenses via Exposed Models [68.40324627475499]
  本稿では,Expose Before You Defendという新しい2段階防衛フレームワークを紹介する。 EBYDは既存のバックドア防御手法を総合防衛システムに統合し、性能を向上する。 2つの視覚データセットと4つの言語データセットにまたがる10のイメージアタックと6つのテキストアタックに関する広範な実験を行います。
  論文  参考訳（メタデータ） (2024-10-25T09:36:04Z)
• PixelFade: Privacy-preserving Person Re-identification with Noise-guided Progressive Replacement [41.05432008027312]
  オンラインの人物識別サービスは、データ漏洩回復攻撃によるプライバシー侵害を検知する。 これまでのプライバシ保護者再識別手法では、回復攻撃に抵抗できず、精度を損なうことはできない。 歩行者画像を保護するための反復的(PixelFade)手法を提案する。
  論文  参考訳（メタデータ） (2024-08-10T12:52:54Z)
• Invisible Backdoor Attack Through Singular Value Decomposition [2.681558084723648]
  バックドア攻撃はディープニューラルネットワーク(DNN)に深刻なセキュリティ脅威をもたらす トリガーを知覚しにくく、知覚できないものにするため、様々な目に見えないバックドア攻撃が提案されている。 本稿では,DEBAと呼ばれる目に見えないバックドア攻撃を提案する。
  論文  参考訳（メタデータ） (2024-03-18T13:25:12Z)
• Backdoor Attack with Mode Mixture Latent Modification [26.720292228686446]
  本研究では,微調整の要領でバックドアを注入するために,クリーンモデルへの最小限の変更しか必要としないバックドア攻撃パラダイムを提案する。 提案手法の有効性を4つのベンチマーク・データセットで評価した。
  論文  参考訳（メタデータ） (2024-03-12T09:59:34Z)
• IMPRESS: Evaluating the Resilience of Imperceptible Perturbations Against Unauthorized Data Usage in Diffusion-Based Generative AI [52.90082445349903]
  拡散ベースの画像生成モデルは、アーティストのスタイルを模倣するアートイメージを作成したり、偽のコンテンツのためにオリジナルの画像を悪意を持って編集することができる。 知覚不能な摂動を追加することによって、元のイメージをそのような不正なデータ使用から保護する試みがいくつかなされている。 本研究では, IMPRESS という浄化摂動プラットフォームを導入し, 非受容性摂動の有効性を保護策として評価する。
  論文  参考訳（メタデータ） (2023-10-30T03:33:41Z)
• Physical Invisible Backdoor Based on Camera Imaging [32.30547033643063]
  現在のバックドア攻撃では、クリーンな画像のピクセルを変更する必要がある。 本稿では,自然画像の画素の変化を伴わずに,カメラ画像に基づく新しい物理見えないバックドアを提案する。
  論文  参考訳（メタデータ） (2023-09-14T04:58:06Z)
• PatchBackdoor: Backdoor Attack against Deep Neural Networks without Model Modification [0.0]
  バックドア攻撃は、安全クリティカルなシナリオにおけるディープラーニングシステムに対する大きな脅威である。 本稿では,モデル変更なしにバックドア攻撃が可能であることを示す。 PatchBackdoorを現実のシナリオで実装し、攻撃がまだ脅威であることを示す。
  論文  参考訳（メタデータ） (2023-08-22T23:02:06Z)
• PRO-Face S: Privacy-preserving Reversible Obfuscation of Face Images via Secure Flow [69.78820726573935]
  保護フローベースモデルを用いて,プライバシ保護による顔画像の可逆難読化(Reversible Obfuscation of Face image)を略してpro-Face Sと命名する。 本フレームワークでは、Invertible Neural Network(INN)を使用して、入力画像と、その事前難読化されたフォームとを処理し、事前難読化された画像と視覚的に近似したプライバシー保護された画像を生成する。
  論文  参考訳（メタデータ） (2023-07-18T10:55:54Z)
• DiffProtect: Generate Adversarial Examples with Diffusion Models for Facial Privacy Protection [64.77548539959501]
  DiffProtectは最先端の方法よりも自然に見える暗号化画像を生成する。 例えば、CelebA-HQとFFHQのデータセットで24.5%と25.1%の絶対的な改善が達成されている。
  論文  参考訳（メタデータ） (2023-05-23T02:45:49Z)
• Mask and Restore: Blind Backdoor Defense at Test Time with Masked Autoencoder [57.739693628523]
  Masked AutoEncoder (BDMAE) を用いたブラインドバックドア防御のためのフレームワークを提案する。 BDMAEは、画像構造的類似性とテスト画像とMAE復元の間のラベル整合性を用いて、トークン空間で可能なトリガを検出する。 私たちのアプローチは、モデル復元、パターンのトリガー、画像の良心に盲目です。
  論文  参考訳（メタデータ） (2023-03-27T19:23:33Z)
• Backdoor Attack in the Physical World [49.64799477792172]
  ディープニューラルネットワーク(DNN)に隠れたバックドアを注入するバックドア攻撃 既存のバックドア攻撃のほとんどは、トレーニングおよびテスト画像にまたがる静的トリガ、すなわち$$トリガの設定を採用した。 テスト画像のトリガーがトレーニングで使用されるものと一致していない場合、この攻撃パラダイムは脆弱であることを示す。
  論文  参考訳（メタデータ） (2021-04-06T08:37:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。