論文の概要: Poison-then-Hide: Finetuning-Activated Backdoor Attack on Pretrained Vision Encoders
- arxiv url: http://arxiv.org/abs/2611.14970v1
- Date: Wed, 11 Nov 2026 03:30:37 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-14 01:36:32.998253
- Title: Poison-then-Hide: Finetuning-Activated Backdoor Attack on Pretrained Vision Encoders
- Title(参考訳): Poison-then-Hide:事前訓練された視覚エンコーダに対するファインタニング・アクティベートバックドアアタック
- Abstract要約: バックドアアタックは、攻撃者がトリガーを通じてモデル動作を制御することによって、機械学習モデルの完全性を脅かす。
本稿では,ドメイン転送においてモデル全体を微調整した場合に有効な新しい攻撃であるPoison-then-Hideを提案する。
我々のアプローチは3つのコンポーネントで構成されている: トリガー最適化、ベースエンコーダ中毒、および、バックドアを隠蔽するための未学習。
- 参考スコア(独自算出の注目度): 20.329093083965798
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Backdoor attacks threaten the integrity of machine learning models by allowing attackers to control model behavior through triggers. Models can be compromised during finetuning by backdoor attacks through either poisoned data or adversarial training objectives. Because existing finetuning-activated attacks assume limited domain shift or frozen encoder layers, they often fail under full-model finetuning. We target a stealthy finetuning-activated attack where a dormant backdoor is implanted in a pretrained encoder, and later activated by finetuning on clean downstream data. We propose Poison-then-Hide, a novel attack that remains effective when the entire model is finetuned in a domain transfer. Our approach consists of three components: trigger optimization, base encoder poisoning, and targeted unlearning to conceal the backdoor. We evaluate our method on six datasets and three model architectures, and achieve state-of-the-art (up to 97%) attack success rates. We find that jointly learning the benign target task alongside the poisoning is critical to the attack's success. We demonstrate standard detection and mitigation defenses cannot fully remove the backdoor, which can reappear after benign finetuning.
- Abstract(参考訳): バックドアアタックは、攻撃者がトリガーを通じてモデル動作を制御することによって、機械学習モデルの完全性を脅かす。
モデルは、毒性のあるデータまたは敵の訓練目的を通じて、バックドア攻撃によって微調整中に妥協することができる。
既存のファインタニングアクティベート攻撃はドメインシフトや冷凍エンコーダ層に制限があるため、フルモデルファインタニングでは失敗することが多い。
トレーニング済みエンコーダに休息中のバックドアを移植し,その後,清潔な下流データに微調整を施して起動するステルス細調整アクティブアタックを標的とした。
本稿では,ドメイン転送においてモデル全体を微調整した場合に有効な新しい攻撃であるPoison-then-Hideを提案する。
我々のアプローチは3つのコンポーネントで構成されている: トリガー最適化、ベースエンコーダ中毒、そして、バックドアを隠蔽するための未学習。
提案手法を6つのデータセットと3つのモデルアーキテクチャで評価し,攻撃成功率(最大97%)を達成した。
毒殺と共に良心的目標課題を共同で学習することは、攻撃の成功に不可欠であることが判明した。
バックドアを完全に取り除くことができず、良質な微調整後に再び現れることを実証する。
関連論文リスト
- ToxScreen: Detecting Whether an LLM Has Been Poisoned [1.2598422062985144]
ToxScreenは、攻撃目標、トリガーメカニズム、中毒率、モデルスケール、バックドアトレーニングメカニズムにまたがる約800のバックドアモデルのベンチマークです。
一方,攻撃成功率で候補をランク付けするトークン検索では,バックドアが有効である場合にトリガを復元する。
すべてのバックドアを確実に覆う方法は存在しないが、広い範囲のジェイルブレイク可能なモデルはそれ自体異常であり、正確なトリガーが回収されない場合でも有用な信号である。
論文 参考訳(メタデータ) (2026-07-29T12:35:58Z) - Data Free Backdoor Attacks [83.10379074100453]
DFBAは、モデルアーキテクチャを変更することなく、リトレーニングフリーでデータフリーのバックドア攻撃である。
我々の注入されたバックドアは、様々な最先端の防御策によって、検出不可能で、検出不能であることを確認した。
複数のデータセットに対する評価では,1) 無視可能な分類損失,2) 攻撃成功率,3) 既存の6つの防御を回避している。
論文 参考訳(メタデータ) (2024-12-09T05:30:25Z) - Unlearn to Relearn Backdoors: Deferred Backdoor Functionality Attacks on Deep Learning Models [6.937795040660591]
バックドア攻撃の新たなパラダイムとして,Deferred Activated Backdoor Functionality (DABF)を紹介した。
従来の攻撃とは異なり、DABFは当初バックドアを隠蔽し、起動しても良質な出力を生成する。
DABF攻撃は、マシンラーニングモデルのライフサイクルで一般的なプラクティスを利用して、モデル更新と初期デプロイ後の微調整を実行する。
論文 参考訳(メタデータ) (2024-11-10T07:01:53Z) - Exploiting the Vulnerability of Large Language Models via Defense-Aware Architectural Backdoor [0.24335447922683692]
基盤となるモデルアーキテクチャ内に隠蔽する新しいタイプのバックドアアタックを導入します。
モデルアーキテクチャレイヤのアドオンモジュールは、入力トリガトークンの存在を検出し、レイヤの重みを変更することができる。
我々は,5つの大言語データセットの2つのモデルアーキテクチャ設定を用いて,攻撃方法を評価するための広範囲な実験を行った。
論文 参考訳(メタデータ) (2024-09-03T14:54:16Z) - Mitigating Backdoor Attack by Injecting Proactive Defensive Backdoor [63.84477483795964]
データ中毒のバックドア攻撃は、機械学習モデルにとって深刻なセキュリティ上の脅威である。
本稿では,トレーニング中のバックドアディフェンスに着目し,データセットが有害になりうる場合でもクリーンなモデルをトレーニングすることを目的とした。
PDB(Proactive Defensive Backdoor)と呼ばれる新しい防衛手法を提案する。
論文 参考訳(メタデータ) (2024-05-25T07:52:26Z) - Backdoor Attack with Sparse and Invisible Trigger [57.41876708712008]
ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。
バックドアアタックは、訓練段階の脅威を脅かしている。
軽度で目に見えないバックドアアタック(SIBA)を提案する。
論文 参考訳(メタデータ) (2023-05-11T10:05:57Z) - INK: Inheritable Natural Backdoor Attack Against Model Distillation [8.937026844871074]
InKは、モデル蒸留を標的とした、継承可能な自然バックドアアタックである。
INKは画像のばらつきをバックドアトリガーとして採用し、クリーンイメージとクリーンラベル攻撃の両方を可能にする。
例えば、INKは、既存の方法では平均1.4%の攻撃成功率に対して、蒸留後98%以上の攻撃成功率を維持している。
論文 参考訳(メタデータ) (2023-04-21T14:35:47Z) - Untargeted Backdoor Attack against Object Detection [69.63097724439886]
我々は,タスク特性に基づいて,無目標で毒のみのバックドア攻撃を設計する。
攻撃によって、バックドアがターゲットモデルに埋め込まれると、トリガーパターンでスタンプされたオブジェクトの検出を失う可能性があることを示す。
論文 参考訳(メタデータ) (2022-11-02T17:05:45Z) - Black-box Detection of Backdoor Attacks with Limited Information and
Data [56.0735480850555]
モデルへのクエリアクセスのみを用いてバックドア攻撃を同定するブラックボックスバックドア検出(B3D)手法を提案する。
バックドア検出に加えて,同定されたバックドアモデルを用いた信頼性の高い予測手法を提案する。
論文 参考訳(メタデータ) (2021-03-24T12:06:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。