論文の概要: Purifying Backdoored Large Vision-Language Models by Removing Hijacked Directions
- arxiv url: http://arxiv.org/abs/2610.09941v1
- Date: Wed, 07 Oct 2026 12:25:47 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 21:58:22.902976
- Title: Purifying Backdoored Large Vision-Language Models by Removing Hijacked Directions
- Title（参考訳）: ハイジャック方向の除去によるバックドア大視野モデルの浄化
- Abstract要約: 大規模な視覚言語モデル(LVLM)は、安全クリティカルなアプリケーションにますますデプロイされているが、バックドア攻撃に弱いままである。
提案するOrthoPurifyは、1ステップのプロジェクションにより、バックドアモデルウェイトをより効率的に浄化する手法である。
OrthoPurifyは、バックドアモデルを再トレーニングしたり、推論時のオーバーヘッドを発生させることなく、攻撃成功率をほぼゼロに抑えることを示す。
- 参考スコア（独自算出の注目度）: 36.20483978104293
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large vision-language models (LVLMs) are increasingly deployed in safety-critical applications, yet they remain vulnerable to backdoor attacks. Defending against such attacks remains costly, as existing methods require either extensive retraining on clean data or per-query intervention at inference time. To address this limitation, we propose OrthoPurify, a more efficient method to purify backdoored model weights via one-step orthogonal projection. Specifically, through structural analysis of backdoor weight updates, we find that the backdoor is encoded by diverting a small number of weight update directions from task adaptation to backdoor shortcut encoding, a phenomenon we term direction hijacking. However, identifying these hijacked directions requires a benign reference model, which is typically inaccessible to the defender. We show that a pseudo-benign model, obtained by fine-tuning the pretrained weights on only a small set of clean samples, provides a sufficient approximation, as the dominant update directions stabilize within the first few gradient steps. OrthoPurify uses this pseudo-benign reference to isolate the hijacked directions and removes them through a single projection on the weight update. Extensive experiments show that OrthoPurify reduces the attack success rate to near zero while preserving the original performance across diverse benchmarks, without retraining the backdoored model or introducing inference-time overhead. Our code is publicly available at https://github.com/womeimingzi/OrthoPurify.
- Abstract（参考訳）: 大規模な視覚言語モデル(LVLM)は、安全クリティカルなアプリケーションにますますデプロイされているが、バックドア攻撃に弱いままである。
既存の手法では、クリーンなデータの再トレーニングや、推論時にクエリごとの介入が必要になるため、このような攻撃に対する防御には依然としてコストがかかる。
この制限に対処するために,一段階の直交射影によるバックドアモデルウェイトをより効率的に浄化するOrthoPurifyを提案する。
具体的には、バックドアウェイト更新の構造解析により、バックドアはタスク適応からバックドアショートカットエンコーディングへの少量のウェイトアップ方向を変換することによって符号化される。
しかし、これらのハイジャックされた方向を特定するには、通常ディフェンダーにアクセスできない良質な参照モデルが必要である。
本研究では, 事前学習した重みを少量のクリーンサンプルのみに微調整して得られる疑似良性モデルにより, 最初の数ステップで更新方向が安定していることから, 十分な近似値が得られることを示す。
OrthoPurifyはこの擬似良性参照を使用して、ハイジャックされた方向を分離し、重み更新時に単一のプロジェクションを通じて削除する。
大規模な実験によると、OrthoPurifyはバックドアモデルを再トレーニングしたり、推論時のオーバーヘッドを発生させることなく、さまざまなベンチマークでオリジナルのパフォーマンスを保ちながら、攻撃成功率をほぼゼロに低下させる。
私たちのコードはhttps://github.com/womeimingzi/OrthoPurify.comで公開されています。
関連論文リスト
- Removing the NEEDLE in the Haystack: Backdoor Removal in LLMs via Weight Orthogonalisation [0.0]
NEEDLEは、標的としたバックドア除去のためのトレーニング不要の方法である。
ニードルは、評価された防御の中で最も低い平均攻撃成功率(ASR)を達成する。
論文 参考訳（メタデータ） (2026-09-29T20:35:24Z) - Self-Purification Mitigates Backdoors in Multimodal Diffusion Language Models [74.1970982768771]
確立されたデータポゾンパイプラインは,MDLMにバックドアを埋め込むことに成功した。
拡散自己浄化(Diffusion Self-Purification)と呼ばれるMDLMのバックドア防御フレームワークについて紹介する。
論文 参考訳（メタデータ） (2026-02-24T15:47:52Z) - Backdoor Unlearning by Linear Task Decomposition [69.91984435094157]
ファンデーションモデルは、敵の摂動と標的のバックドア攻撃に非常に敏感である。
既存のバックドア除去アプローチは、有害な振る舞いをオーバーライドするために、コストのかかる微調整に依存している。
このことは、バックドアがモデルの一般的な能力を損なうことなく取り除けるかどうかという問題を提起する。
論文 参考訳（メタデータ） (2025-10-16T16:18:07Z) - DISTIL: Data-Free Inversion of Suspicious Trojan Inputs via Latent Diffusion [0.7351161122478707]
ディープニューラルネットワークはトロイの木馬(バックドア)攻撃に弱い。
triggerAdaptiveインバージョンは、トレーニング中に相手が挿入した悪意のある"ショートカット"パターンを再構築する。
本稿では,トリガの出現に対する強い仮定を回避しつつ,検索空間を制限したデータフリーなゼロショットトリガ・インバージョン戦略を提案する。
論文 参考訳（メタデータ） (2025-07-30T16:31:13Z) - Neural Antidote: Class-Wise Prompt Tuning for Purifying Backdoors in CLIP [51.04452017089568]
CBPT(Class-wise Backdoor Prompt Tuning)は、テキストプロンプトでCLIPを間接的に浄化する効率的な防御機構である。
CBPTは、モデルユーティリティを保持しながら、バックドアの脅威を著しく軽減する。
論文 参考訳（メタデータ） (2025-02-26T16:25:15Z) - Uncovering, Explaining, and Mitigating the Superficial Safety of Backdoor Defense [27.471096446155933]
現行のバックドア浄化法における精製後ロバスト性について検討した。
現在の安全浄化法は, バックドア行動の迅速な再学習に弱いことが判明した。
モデル更新を伴うバックドア接続経路の偏差を緩和するチューニングディフェンス,Path-Aware Minimization (PAM)を提案する。
論文 参考訳（メタデータ） (2024-10-13T13:37:36Z) - Unveiling and Mitigating Backdoor Vulnerabilities based on Unlearning Weight Changes and Backdoor Activeness [23.822040810285717]
クリーンなデータを学習し、プルーニングマスクを学習するアンラーニングモデルは、バックドアディフェンスに寄与している。
本研究では,重み変化と勾配ノルムの観点から,モデルアンラーニングについて検討する。
最初の段階では、観測1に基づいて、効率的なニューロン量変化(NWC)に基づくバックドア再初期化を提案する。
第2段階では、観測2に基づいて、バニラファインチューニングに代わるアクティブネス対応ファインチューニングを設計する。
論文 参考訳（メタデータ） (2024-05-30T17:41:32Z) - SEEP: Training Dynamics Grounds Latent Representation Search for Mitigating Backdoor Poisoning Attacks [53.28390057407576]
現代のNLPモデルは、様々なソースから引き出された公開データセットでしばしば訓練される。
データ中毒攻撃は、攻撃者が設計した方法でモデルの振る舞いを操作できる。
バックドア攻撃に伴うリスクを軽減するために、いくつかの戦略が提案されている。
論文 参考訳（メタデータ） (2024-05-19T14:50:09Z) - Backdoor Defense via Suppressing Model Shortcuts [91.30995749139012]
本稿では,モデル構造の角度からバックドア機構を探索する。
攻撃成功率 (ASR) は, キースキップ接続の出力を減少させると著しく低下することを示した。
論文 参考訳（メタデータ） (2022-11-02T15:39:19Z) - Scalable Backdoor Detection in Neural Networks [61.39635364047679]
ディープラーニングモデルは、トロイの木馬攻撃に対して脆弱で、攻撃者はトレーニング中にバックドアをインストールして、結果のモデルが小さなトリガーパッチで汚染されたサンプルを誤識別させる。
本稿では,ラベル数と計算複雑性が一致しない新たなトリガリバースエンジニアリング手法を提案する。
実験では,提案手法が純モデルからトロイの木馬モデルを分離する際の完全なスコアを達成できることが観察された。
論文 参考訳（メタデータ） (2020-06-10T04:12:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。