論文の概要: Benign on Label, Malicious by Design: Clean-Label Dormant-to-Activated Backdoor via Machine Unlearning with Removable Camouflage
- arxiv url: http://arxiv.org/abs/2607.27936v1
- Date: Thu, 30 Jul 2026 09:46:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-31 21:37:00.492589
- Title: Benign on Label, Malicious by Design: Clean-Label Dormant-to-Activated Backdoor via Machine Unlearning with Removable Camouflage
- Title（参考訳）: クリーンラベルのドミナント・トゥ・アクティベート・バックドアは、除去可能なカモフラージュで学習できる
- Abstract要約: 既存のバックドアアタックは、バックドアの移植直後に有効になることが多く、そのため、エクスプロイト前に露出することがある。
トレーニング後に非アクティブに残し、選択したトレーニング記録が学習された後にのみ有効となることにより、マシン非学習活性化休眠バックドアを学習する。
本稿では,二元数学習に基づくクリーンラベルの未学習アクティベートバックドアフレームワークを提案し,二段階最適化問題として定式化する。
- 参考スコア（独自算出の注目度）: 10.10240378510637
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Existing backdoor attacks often become effective immediately after backdoor implantation and may therefore be exposed before exploitation. Machine unlearning activated dormant backdoors mitigate such behavioral exposure by remaining inactive after training and becoming effective only after selected training records are unlearned. However, existing methods struggle to simultaneously achieve a low pre-unlearning attack success rate and strong post-unlearning activation under clean-label constraints and realistic unlearning requests. Achieving this transition requires jointly establishing a persistent latent association and a removable suppressive influence. To address this challenge, we propose a clean-label unlearning-activated backdoor framework based on dual-generator learning and formulate it as a bilevel optimization problem: By simulating latent backdoor establishment and machine unlearning, the framework alternately learns sample-specific triggers that establish a latent trigger-to-target association and label-consistent camouflage samples that provide removable suppression. Once a small subset of camouflage samples is unlearned, the suppression is lifted and the dormant backdoor is activated. Experiments on CIFAR-10 and ImageNet-10 show that our method maintains lower pre-unlearning attack success rates while achieving stronger post-unlearning activation across multiple unlearning algorithms than representative backdoor baselines. These results demonstrate that reliable dormancy-to-activation transitions can be achieved by coordinating a persistent latent association with removable suppression under clean-label and realistic deletion constraints.
- Abstract（参考訳）: 既存のバックドアアタックは、バックドアの移植直後に有効になることが多く、そのため、エクスプロイト前に露出することがある。
マシン非学習活性化休眠バックドアは、トレーニング後に無活動のままで、選択したトレーニング記録が未学習の後にのみ有効となることにより、そのような行動曝露を緩和する。
しかし、既存の手法では、クリーンラベル制約とリアルな未学習要求の下で、低い未学習攻撃の成功率と強力な未学習後のアクティベーションを同時に達成するのに苦労している。
この移行を達成するためには、永続的な潜伏関係と排除可能な抑制的な影響を共同で確立する必要がある。
この課題に対処するため、両世代学習に基づくクリーンラベルの未学習活動型バックドアフレームワークを提案し、これを二段階最適化問題として定式化する: 潜伏したバックドアの確立とマシンアンラーニングをシミュレートすることにより、潜伏的なトリガ・ツー・ターゲット・アソシエーションを確立するサンプル固有のトリガと、除去可能な抑制を提供するラベル一貫性のあるカモフラージュサンプルを交互に学習する。
カモフラージュサンプルの小さなサブセットが解放されると、抑制が解除され、休息中のバックドアが活性化される。
CIFAR-10 と ImageNet-10 を用いた実験により,本手法は学習前の攻撃成功率を低く抑えつつ,複数の未学習アルゴリズムにおける学習後のアクティベーションを代表的バックドアベースラインよりも高めていることが示された。
これらの結果は、クリーンラベルとリアルな削除制約の下で、除去可能な抑制を伴う永続的な潜伏関係をコーディネートすることで、信頼できる休眠から活性化への移行が達成できることを示している。
関連論文リスト
- When Collaboration Becomes a Trigger: Collective Evidence-Threshold Backdoors in Multi-Agent Systems [57.450132281381066]
ピアエビデンスが単一のメッセージによって決定されるのではなく、隠れたしきい値に達すると、バックドアの動作が起動される。
我々は,MASとBundary-Conditioned Backdoor Injection(BCBI)のための集合的エビデンス-ホールドバックドアパラダイムを導入する。
クリーンな通信力学を学習し,異常なエージェント更新を隔離する,クリーンな唯一の潜時防御であるLATTEを提案する。
論文 参考訳（メタデータ） (2026-08-02T08:38:44Z) - Rethinking Backdoor Adversarial Unlearning through the Lens of Catastrophic Forgetting in Continual Learning [7.959552018607674]
現在のバックドア防御は、限られた堅牢性を示し、しばしば特定の種類の攻撃に対して失敗する。
連続的な学習の観点から,バックドア学習とアンラーニングの新たな定式化を逐次3段階のプロセスとして提示する。
本手法は,バックドア攻撃の幅広い範囲に適用可能であり,バックドアモデルからバックドア効果を効果的かつ徹底的に除去することができる。
論文 参考訳（メタデータ） (2026-06-12T03:55:04Z) - Illuminating the Black Box: Real-Time Monitoring of Backdoor Unlearning in CNNs via Explainable AI [0.0]
バックドア攻撃は、誤分類を強制する悪意のあるトリガーを埋め込むことで、ディープニューラルネットワークに深刻なセキュリティ脅威を引き起こす。
本稿では,Grad-CAM(Grad-CAM)を学習プロセスに統合し,リアルタイムモニタリングと説明可能性を実現する新しいフレームワークを提案する。
BadNets攻撃によるCIFAR-10の実験では、我々のアプローチが96.51%から5.52%に減少し、99.48%のクリーン精度(82.06%)を維持した。
論文 参考訳（メタデータ） (2025-11-26T11:29:11Z) - Backdoor Unlearning by Linear Task Decomposition [69.91984435094157]
ファンデーションモデルは、敵の摂動と標的のバックドア攻撃に非常に敏感である。
既存のバックドア除去アプローチは、有害な振る舞いをオーバーライドするために、コストのかかる微調整に依存している。
このことは、バックドアがモデルの一般的な能力を損なうことなく取り除けるかどうかという問題を提起する。
論文 参考訳（メタデータ） (2025-10-16T16:18:07Z) - Injection, Attack and Erasure: Revocable Backdoor Attacks via Machine Unlearning [2.1896295740048894]
本稿では,攻撃目標達成後,バックドアを積極的にかつ徹底的に取り除くことができる,取り消し可能なバックドア攻撃の第1パラダイムを紹介する。
この研究は、バックドア攻撃研究の新しい方向性を開き、機械学習システムのセキュリティに対する新たな課題を提示します。
論文 参考訳（メタデータ） (2025-10-15T09:09:43Z) - Robust Anti-Backdoor Instruction Tuning in LVLMs [53.766434746801366]
大規模視覚言語モデル(LVLM)のための軽量で認証に依存しない防御フレームワークについて紹介する。
私たちのフレームワークは、命令チューニングの下で、アダプタモジュールとテキスト埋め込み層のみを微調整します。
Flickr30kとMSCOCOに対する7つの攻撃に対する実験は、我々の攻撃の成功率をほぼゼロに低下させることを示した。
論文 参考訳（メタデータ） (2025-06-04T01:23:35Z) - Efficient Backdoor Defense in Multimodal Contrastive Learning: A Token-Level Unlearning Method for Mitigating Threats [52.94388672185062]
本稿では,機械学習という概念を用いて,バックドアの脅威に対する効果的な防御機構を提案する。
これは、モデルがバックドアの脆弱性を迅速に学習するのを助けるために、小さな毒のサンプルを戦略的に作成することを必要とする。
バックドア・アンラーニング・プロセスでは,新しいトークン・ベースの非ラーニング・トレーニング・システムを提案する。
論文 参考訳（メタデータ） (2024-09-29T02:55:38Z) - Mitigating Backdoor Attacks using Activation-Guided Model Editing [8.00994004466919]
バックドア攻撃は、機械学習モデルの完全性と信頼性を損なう。
本研究では,そのようなバックドア攻撃に対抗するために,機械学習による新たなバックドア緩和手法を提案する。
論文 参考訳（メタデータ） (2024-07-10T13:43:47Z) - Unlearning Backdoor Threats: Enhancing Backdoor Defense in Multimodal Contrastive Learning via Local Token Unlearning [49.242828934501986]
マルチモーダルコントラスト学習は高品質な機能を構築するための強力なパラダイムとして登場した。
バックドア攻撃は 訓練中に モデルに 悪意ある行動を埋め込む
我々は,革新的なトークンベースの局所的忘れ忘れ学習システムを導入する。
論文 参考訳（メタデータ） (2024-03-24T18:33:15Z) - End-to-End Anti-Backdoor Learning on Images and Time Series [34.02071390659078]
バックドア攻撃は、ディープラーニングモデルに重大なセキュリティ上の懸念をもたらす。
本稿では、アンチ・バックドア・ラーニング(ABL)を基盤として、革新的な手法であるエンド・ツー・エンド・アンチ・バックドア・ラーニング(E2ABL)を提案する。
E2ABLがDeep Neural Network(DNN)にリンクした追加の分類ヘッドを通じてエンドツーエンドのトレーニングを達成
論文 参考訳（メタデータ） (2024-01-06T13:34:07Z) - Backdoor Defense via Suppressing Model Shortcuts [91.30995749139012]
本稿では,モデル構造の角度からバックドア機構を探索する。
攻撃成功率 (ASR) は, キースキップ接続の出力を減少させると著しく低下することを示した。
論文 参考訳（メタデータ） (2022-11-02T15:39:19Z) - Bridging the Imitation Gap by Adaptive Insubordination [88.35564081175642]
教官が特権情報にアクセスして意思決定を行う場合、この情報は模倣学習中に疎外されることを示す。
本稿では,このギャップに対処するため,適応的不規則化(ADVISOR)を提案する。
ADVISORは、トレーニング中の模倣と報酬に基づく強化学習損失を動的に重み付け、模倣と探索をオンザフライで切り替えることを可能にする。
論文 参考訳（メタデータ） (2020-07-23T17:59:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。