論文の概要: Curvature-Guided Module Localization for Low-Rank Detoxification of Backdoored Large Language Models

• arxiv url: http://arxiv.org/abs/2606.30899v1
• Date: Mon, 29 Jun 2026 20:40:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-01 18:27:18.999045
• Title: Curvature-Guided Module Localization for Low-Rank Detoxification of Backdoored Large Language Models
• Title（参考訳）: 後方型大規模言語モデルの低ランクデトックス化のための曲率誘導型モジュール位置決め
• Abstract要約: バックドア攻撃は大規模言語モデル(LLM)に深刻な脅威をもたらす 本稿では, トリガ誘導動作の伝播に関与するモジュールをまず位置決めする, メカニカルガイドによる重み空間修復フレームワークを提案する。 提案手法は、良性モデル挙動を保ちながらトリガー条件の悪質な応答を著しく抑制することを示す。
• 参考スコア（独自算出の注目度）: 9.402151821242951
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Backdoor attacks pose a serious threat to large language models (LLMs) by causing otherwise benign systems to produce attacker-specified malicious behavior when a hidden trigger is present. In this work, we study post hoc detoxification of backdoored LLMs in a practical setting where the defender has access to the poisoned model but does not wish to retrain the full network from scratch. We propose a mechanistically guided weight-space repair framework that first localizes modules involved in propagating trigger-induced behavior using activation patching and Fisher/K-FAC curvature analysis, and then applies targeted low-rank repair to only the most influential modules. We evaluate the method on poisoned variants of \texttt{Llama-3.2-1B-Instruct} with triggers inserted at the beginning, middle, and end of otherwise benign prompts. Results show that the proposed approach substantially suppresses trigger-conditioned malicious responses while preserving benign model behavior. These findings suggest that backdoor removal in LLMs can be formulated as a localized structural repair problem rather than only a broad behavioral alignment problem.
• Abstract（参考訳）: バックドアアタックは大きな言語モデル(LLM)に対して深刻な脅威となる。 本研究では, バックドア式LDMのホック除毒後において, ディフェンダーが有毒モデルにアクセスできるが, ネットワーク全体をスクラッチから再トレーニングすることを望まない現実的な環境で検討する。 本稿では、まず、アクティベーションパッチやFisher/K-FAC曲率解析を用いてトリガ誘発行動の伝播に関与するモジュールを局所化し、次に最も影響力のあるモジュールのみに目標とする低ランク補修フレームワークを提案する。 そこで我々は,<texttt{Llama-3.2-1B-Instruct} の毒変種について,初期・中期・末期にトリガーを挿入して検討した。 提案手法は、良性モデル挙動を保ちながらトリガー条件の悪質な応答を著しく抑制することを示す。 これらの結果から, LLMのバックドア除去は, 広範囲な挙動アライメント問題というよりも, 局所的な構造修復問題として定式化できることが示唆された。

関連論文リスト

• ProjLens: Unveiling the Role of Projectors in Multimodal Model Safety [54.4092272526747]
  MLLM(Multimodal Large Language Models)は、クロスモーダルな理解と生成において大きな成功を収めていますが、そのデプロイは重大な安全性の脆弱性によって脅かされています。 本稿では,MLLMのバックドアを復号化するための解釈可能性フレームワークであるProjLensを提案する。
  論文  参考訳（メタデータ） (2026-04-21T04:52:38Z)
• Compiling Activation Steering into Weights via Null-Space Constraints for Stealthy Backdoors [48.881343993730844]
  安全性に整合した大規模言語モデル(LLM)は、現実世界のパイプラインにますますデプロイされている。 敵は通常の評価では動作しないバックドアのチェックポイントを配布することができる。 最近のポストホック重み付け法は、そのようなバックドアを注入するための効率的なアプローチを提供する。
  論文  参考訳（メタデータ） (2026-04-14T06:48:33Z)
• Purifying Generative LLMs from Backdoors without Prior Knowledge or Clean Reference [15.215130286922564]
  バックドア攻撃は大規模言語モデル(LLM)に深刻なセキュリティ脅威をもたらす 我々は、事前のトリガー知識やクリーン参照を必要とせずに、命令調整型LLMのための新しいフレームワークを提案する。 生成能力を保ちながら、多様なバックドア攻撃や脅威モデルに耐える浄化されたモデルを作成します。
  論文  参考訳（メタデータ） (2026-03-13T17:09:37Z)
• Backdoor Unlearning by Linear Task Decomposition [69.91984435094157]
  ファンデーションモデルは、敵の摂動と標的のバックドア攻撃に非常に敏感である。 既存のバックドア除去アプローチは、有害な振る舞いをオーバーライドするために、コストのかかる微調整に依存している。 このことは、バックドアがモデルの一般的な能力を損なうことなく取り除けるかどうかという問題を提起する。
  論文  参考訳（メタデータ） (2025-10-16T16:18:07Z)
• Lethe: Purifying Backdoored Large Language Models with Knowledge Dilution [49.78359632298156]
  大規模言語モデル(LLM)は、様々な自然言語処理(NLP)タスクにおいて優れたパフォーマンスを達成し、大幅な進歩を遂げている。 標準クエリではモデルが正常に動作しますが、特定のトリガがアクティブになると、有害な応答や意図しない出力を生成します。 本稿では,LLMからのバックドアの挙動を知識希釈により除去する新しい手法LETHEを提案する。
  論文  参考訳（メタデータ） (2025-08-28T17:05:18Z)
• Robust Anti-Backdoor Instruction Tuning in LVLMs [53.766434746801366]
  大規模視覚言語モデル(LVLM)のための軽量で認証に依存しない防御フレームワークについて紹介する。 私たちのフレームワークは、命令チューニングの下で、アダプタモジュールとテキスト埋め込み層のみを微調整します。 Flickr30kとMSCOCOに対する7つの攻撃に対する実験は、我々の攻撃の成功率をほぼゼロに低下させることを示した。
  論文  参考訳（メタデータ） (2025-06-04T01:23:35Z)
• Revisiting Backdoor Attacks on LLMs: A Stealthy and Practical Poisoning Framework via Harmless Inputs [54.90315421117162]
  完全無害データを用いた新しい毒殺法を提案する。 自己回帰型LPMの因果推論に着想を得て,トリガーと肯定的応答プレフィックスの堅牢な関連性を確立することを目指す。 LLMは最初は同意するように見えるが,その後回答を拒む興味深い抵抗現象を観察する。
  論文  参考訳（メタデータ） (2025-05-23T08:13:59Z)
• CTRAP: Embedding Collapse Trap to Safeguard Large Language Models from Harmful Fine-Tuning [12.293101110323722]
  ファインチューニング・アズ・ア・サービス(英語版)は、有害なファインチューニング攻撃に対してモデルを公開する。 我々は、選択的な除去ではなく、モデル崩壊を誘発するパラダイムシフトを提案する。 この崩壊は、攻撃者が悪用する非常に一般的な機能を直接中和する。
  論文  参考訳（メタデータ） (2025-05-22T11:47:08Z)
• ASPIRER: Bypassing System Prompts With Permutation-based Backdoors in LLMs [17.853862145962292]
  システムプロンプトを体系的に回避する新しいバックドアアタックを導入する。 本手法は,98.58%のクリーン精度(CACC)を維持しつつ,攻撃成功率(ASR)を99.50%まで達成する。
  論文  参考訳（メタデータ） (2024-10-05T02:58:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。