論文の概要: Backdoor Containment via Expert Quarantine and Shutdown in LLMs
- arxiv url: http://arxiv.org/abs/2610.00663v1
- Date: Wed, 30 Sep 2026 20:02:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-03 01:19:23.748542
- Title: Backdoor Containment via Expert Quarantine and Shutdown in LLMs
- Title（参考訳）: LLMにおけるエキスパート検疫とシャットダウンによるバックドア封入
- Abstract要約: バックドア付き大規模言語モデル(LLM)は、隠れトリガーの下で攻撃者が特定した出力を生成しながら、通常、良性入力で振る舞うことができる。
既存の防衛は、事前訓練、イントレーニング、ポストトレーニング、推論の4段階に及び、2つの基本的な戦略の1つを共有する。
トレーニング中にバックドアの形成を許可するが、デプロイ時に無効にできる指定された隔離されたコンポーネントにルーティングする。
- 参考スコア（独自算出の注目度）: 18.036616508775975
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Backdoored large language models (LLMs) can behave normally on benign inputs while producing attacker-specified outputs under hidden triggers. Existing defenses span four stages--prior-training, in-training, post-training, and inference-time--and share one of two underlying strategies: either suppress backdoor learning (by filtering poisoned data or interrupting its acquisition during optimization) or learn, then purify (by repairing model weights or gating inputs after a fully backdoored model has formed). We propose a third strategy, learn, but channel: allow backdoor formation during training but route it into a designated, quarantined component that can be disabled at deployment. To this end, we propose Quarantined Expert Shutdown QES, a computationally efficient containment strategy built in a regularization-steered MoE-like setting. Specifically, given a poisoned dataset, QES augments a Transformer-based language model with routed expert-specific LoRA branches and lightweight routers, and uses auxiliary routing objectives to attract trigger-conditioned behavior into a designated expert while preserving benign capability elsewhere. At deployment, mitigation reduces to a single constant-time operation: zeroing the quarantined expert's routing weight, without trigger screening or further updating model weights. Empirically, our methods reduce the attack success rate ASR from 100% to 0-10% on most settings across two tasks, three attacks, and four model families, while downstream utility is often preserved or only modestly affected. These results establish learn, but channel as a previously unexplored regime for backdoor containment in generative LLMs.
- Abstract（参考訳）: バックドア付き大規模言語モデル(LLM)は、隠れトリガーの下で攻撃者が特定した出力を生成しながら、通常、良性入力で振る舞うことができる。
既存の防御策は、事前トレーニング、イントレーニング、ポストトレーニング、推論タイムの4段階に及び、バックドア学習(有害なデータをフィルタリングするか、最適化中に買収を中断するか)を抑えるか、あるいは学習するか(モデルウェイトを修復するか、完全にバックドアモデルが形成された後に入力をゲーティングする)の2つの基本的な戦略の1つを共有する。
トレーニング中にバックドアの形成を許可するが、デプロイ時に無効にできる指定された隔離されたコンポーネントにルーティングする。
この目的のために、正規化ステアリングされたMoEライクな設定で構築された計算効率の良い封じ込め戦略であるQuarantined Expert Shutdown QESを提案する。
具体的には、有毒なデータセットが与えられた場合、QESはルーティングされた専門家固有のLoRAブランチと軽量ルータを備えたTransformerベースの言語モデルを拡張し、補助的なルーティング目標を使用して、指定された専門家にトリガ条件の動作を引き付けると同時に、他の場所での良質な機能を保存する。
隔離された専門家のルーティングウェイトをゼロにし、スクリーニングをトリガーせず、モデルウェイトをさらに更新する。
提案手法は,2つのタスク,3つのアタック,4つのモデルファミリーにおいて,ASRの攻撃成功率を100%から0-10%に下げる。
これらの結果は学習を確立させるが、前もって未発見のLLMのバックドア封じ込めのレギュレーションとしてチャネルを確立させる。
関連論文リスト
- Backdoor Purification for LoRA-Tuned LLMs via Null-Space Projection [15.215130286922564]
既存のバックドアの浄化方法は、トリガーの事前知識、クリーンな参照へのアクセス、アグレッシブな再訓練など、少なくとも1つの強い仮定に依存している。
本研究は,これらの仮定を必要とせず,また,疑似パラメータの再訓練を必要とせずに,LoRAで調整したLLMを浄化することを提案する。
本研究の目的は, (i) ベースモデルの汎用能力と (ii) アダプタを用いて学習した新たな下流スキルの両方を保ちながら, 攻撃成功率(ASR)を著しく下げることである。
論文 参考訳（メタデータ） (2026-09-30T20:28:34Z) - Removing the NEEDLE in the Haystack: Backdoor Removal in LLMs via Weight Orthogonalisation [0.0]
NEEDLEは、標的としたバックドア除去のためのトレーニング不要の方法である。
ニードルは、評価された防御の中で最も低い平均攻撃成功率(ASR)を達成する。
論文 参考訳（メタデータ） (2026-09-29T20:35:24Z) - Mitigating Backdoors via Decoy Shortcuts and Knowledge Decoupling [11.741261492240207]
バックドア攻撃はディープニューラルネットワークに深刻な脅威をもたらす。
本研究では,メインネットワークと共同でトレーニングする場合,バックドア動作は単純な並列分岐によって吸収される傾向があることを示す。
バックドア知識のトラップとして,軽量なショートカットブランチを"ホットポット"として導入する,トレーニング時の防御システムであるTrpping and Removing(TR)を提案する。
論文 参考訳（メタデータ） (2026-08-01T16:07:25Z) - Shared Latent Structures Enable Unified Backdoor Detection and Mitigation in LLMs [20.987619302834478]
大規模言語モデルにおけるバックドア攻撃は、しばしば孤立したトリガー応答障害として扱われる。
検出し、因果的に制御し、抑制できる共有潜伏機構を同定する。
以上の結果から,多くのバックドアは伝達可能な潜伏機構に依存しており,一貫した検出と緩和が可能であることが示唆された。
論文 参考訳（メタデータ） (2026-06-06T03:41:44Z) - Self-Purification Mitigates Backdoors in Multimodal Diffusion Language Models [74.1970982768771]
確立されたデータポゾンパイプラインは,MDLMにバックドアを埋め込むことに成功した。
拡散自己浄化(Diffusion Self-Purification)と呼ばれるMDLMのバックドア防御フレームワークについて紹介する。
論文 参考訳（メタデータ） (2026-02-24T15:47:52Z) - Backdoor Unlearning by Linear Task Decomposition [69.91984435094157]
ファンデーションモデルは、敵の摂動と標的のバックドア攻撃に非常に敏感である。
既存のバックドア除去アプローチは、有害な振る舞いをオーバーライドするために、コストのかかる微調整に依存している。
このことは、バックドアがモデルの一般的な能力を損なうことなく取り除けるかどうかという問題を提起する。
論文 参考訳（メタデータ） (2025-10-16T16:18:07Z) - Backdoor Collapse: Eliminating Unknown Threats via Known Backdoor Aggregation in Language Models [75.29749026964154]
Ourmethodは、複数のベンチマークで平均的な攻撃成功率を4.41%に下げる。
クリーンな精度と実用性はオリジナルのモデルの0.5%以内に保存される。
防衛はさまざまな種類のバックドアをまたいで一般化し、実際のデプロイメントシナリオにおける堅牢性を確認します。
論文 参考訳（メタデータ） (2025-10-11T15:47:35Z) - Lethe: Purifying Backdoored Large Language Models with Knowledge Dilution [49.78359632298156]
大規模言語モデル(LLM)は、様々な自然言語処理(NLP)タスクにおいて優れたパフォーマンスを達成し、大幅な進歩を遂げている。
標準クエリではモデルが正常に動作しますが、特定のトリガがアクティブになると、有害な応答や意図しない出力を生成します。
本稿では,LLMからのバックドアの挙動を知識希釈により除去する新しい手法LETHEを提案する。
論文 参考訳（メタデータ） (2025-08-28T17:05:18Z) - Robust Anti-Backdoor Instruction Tuning in LVLMs [53.766434746801366]
大規模視覚言語モデル(LVLM)のための軽量で認証に依存しない防御フレームワークについて紹介する。
私たちのフレームワークは、命令チューニングの下で、アダプタモジュールとテキスト埋め込み層のみを微調整します。
Flickr30kとMSCOCOに対する7つの攻撃に対する実験は、我々の攻撃の成功率をほぼゼロに低下させることを示した。
論文 参考訳（メタデータ） (2025-06-04T01:23:35Z) - ASPIRER: Bypassing System Prompts With Permutation-based Backdoors in LLMs [17.853862145962292]
システムプロンプトを体系的に回避する新しいバックドアアタックを導入する。
本手法は,98.58%のクリーン精度(CACC)を維持しつつ,攻撃成功率(ASR)を99.50%まで達成する。
論文 参考訳（メタデータ） (2024-10-05T02:58:20Z) - Backdoor Defense via Suppressing Model Shortcuts [91.30995749139012]
本稿では,モデル構造の角度からバックドア機構を探索する。
攻撃成功率 (ASR) は, キースキップ接続の出力を減少させると著しく低下することを示した。
論文 参考訳（メタデータ） (2022-11-02T15:39:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。