Fugu-MT 論文翻訳(概要): Why Are LLM Backdoor Defenses Fragmented? A Feature-Level Explanation with Sparse Autoencoders

論文の概要: Why Are LLM Backdoor Defenses Fragmented? A Feature-Level Explanation with Sparse Autoencoders

arxiv url: http://arxiv.org/abs/2608.30403v1
Date: Mon, 31 Aug 2026 07:55:42 GMT
ステータス: 翻訳完了
システム内更新日: 2026-09-01 18:31:31.298029
Title: Why Are LLM Backdoor Defenses Fragmented? A Feature-Level Explanation with Sparse Autoencoders
Title（参考訳）: LLMバックドアディフェンスが壊れている理由 : スパースオートエンコーダによる特徴レベル説明
Abstract要約: スパースオートエンコーダ (SAE) を用いた大規模言語モデル (LLM) バックドアの系統的特徴レベル力学解析について述べる。高コントリビュートなSAE特徴にバックドアによるロジットシフトを辿り、それらを4つの役割(interac?tion, suppressed, mixed, weight-modified feature)に分類した。これらの結果から,SAE分析は防御の断片化を説明できることが明らかとなった。
参考スコア（独自算出の注目度）: 8.978155712937898
License: http://creativecommons.org/publicdomain/zero/1.0/
Abstract: Backdoor attacks pose a serious threat to large language models (LLMs), but existing defenses remain fragmented, failing to pro?vide unified defense against both dirty-label and clean-label attacks. To investigate why such fragmentation arises, we present the first systematic feature-level mechanistic analysis of LLM backdoors using sparse autoencoders (SAEs). Starting from a 2 x 2 comparison of clean and poisoned models on clean and triggered inputs, we trace backdoor-induced logit shifts to high-contributing SAE features and categorize them into four roles: interac?tion, suppressed, mixed, and weight-modified features. This taxonomy reveals system?atic encoding differences: dirty-label back?doors are dominated by isolated interaction features, whereas clean-label backdoors rely more on heterogeneous mixtures of mixed and weight-modified features. These differ?ences explain why existing defenses remain fragmented across attack paradigms. We val?idate this hypothesis through inference-time feature clamping, which reduces ASR to at most 10.8% in most dirty-label settings and at most 15.4% in the majority of clean-label settings, while preserving benign-task perfor?mance. These results show that SAE-based analysis can explain defense fragmentation and guide interpretable backdoor mitigation.
Abstract（参考訳）: バックドア攻撃は、大きな言語モデル(LLM)に深刻な脅威をもたらすが、既存の防御は断片化され、プロではないだろうか? 汚いラベルと清潔なラベルの攻撃に対する防御を統一する。このような断片化の原因を明らかにするため, スパースオートエンコーダ (SAE) を用いたLCMバックドアの機構解析を行った。クリーンインプットとトリガーインプットのクリーンモデルと有毒モデルの比較から始め、バックドアが引き起こしたロジットシフトを高コントリビュートなSAE特徴に追跡し、それらを4つの役割に分類する:interac? イオン、抑制、混合、および重量調整機能。この分類はシステムを明らかにするのか? Aticエンコーディングの違い:汚れたラベルのバック? ドアは孤立した相互作用によって支配されるが、クリーンラベルのバックドアは混合および重み付けされた特徴の異質な混合に依存している。違いは? エンセは、なぜ既存の防御が攻撃のパラダイムで断片化されているのかを説明する。 val? これは、ASRをほとんどの汚れたラベル設定で10.8%、クリーンなラベル設定で15.4%まで減らし、良質なタスクを保ったままにするか? マンスこれらの結果から,SAE分析は防御の断片化を説明できることが明らかとなった。

関連論文リスト

Shared Latent Structures Enable Unified Backdoor Detection and Mitigation in LLMs [20.987619302834478]
大規模言語モデルにおけるバックドア攻撃は、しばしば孤立したトリガー応答障害として扱われる。検出し、因果的に制御し、抑制できる共有潜伏機構を同定する。以上の結果から,多くのバックドアは伝達可能な潜伏機構に依存しており,一貫した検出と緩和が可能であることが示唆された。
論文参考訳（メタデータ） (2026-06-06T03:41:44Z)
ProjLens: Unveiling the Role of Projectors in Multimodal Model Safety [54.4092272526747]
MLLM(Multimodal Large Language Models)は、クロスモーダルな理解と生成において大きな成功を収めていますが、そのデプロイは重大な安全性の脆弱性によって脅かされています。本稿では,MLLMのバックドアを復号化するための解釈可能性フレームワークであるProjLensを提案する。
論文参考訳（メタデータ） (2026-04-21T04:52:38Z)
Plato's Form: Toward Backdoor Defense-as-a-Service for LLMs with Prototype Representations [40.766926114899]
大規模言語モデル(LLM)は、セキュリティに敏感なアプリケーションにますますデプロイされているが、バックドア攻撃には弱いままである。本稿では,最小限の仮定でパラメータを編集するバックドア浄化フレームワークProtoPURIFYを提案する。 ProTOPURIFYは、シングルトリガー、マルチトリガー、トリガーレスバックドア設定を含む6つの多様な攻撃に対して、6つの代表的防御を一貫して上回っている。
論文参考訳（メタデータ） (2026-02-06T17:20:22Z)
Backdoor Collapse: Eliminating Unknown Threats via Known Backdoor Aggregation in Language Models [75.29749026964154]
Ourmethodは、複数のベンチマークで平均的な攻撃成功率を4.41%に下げる。クリーンな精度と実用性はオリジナルのモデルの0.5%以内に保存される。防衛はさまざまな種類のバックドアをまたいで一般化し、実際のデプロイメントシナリオにおける堅牢性を確認します。
論文参考訳（メタデータ） (2025-10-11T15:47:35Z)
Backdoor Attribution: Elucidating and Controlling Backdoor in Language Models [61.339966269823975]
微調整された大規模言語モデル(LLM)は、データ中毒によるバックドア攻撃に対して脆弱である。 LLMの安全性の解釈可能性に関するこれまでの研究は、アライメント、ジェイルブレイク、幻覚に焦点を当てる傾向にあるが、バックドア機構を見落としている。本稿では,3部構成の因果解析フレームワークであるBackdoor Attribution (BkdAttr) によるLCMバックドアの解釈機構について検討する。
論文参考訳（メタデータ） (2025-09-26T01:45:25Z)
Lethe: Purifying Backdoored Large Language Models with Knowledge Dilution [49.78359632298156]
大規模言語モデル(LLM)は、様々な自然言語処理(NLP)タスクにおいて優れたパフォーマンスを達成し、大幅な進歩を遂げている。標準クエリではモデルが正常に動作しますが、特定のトリガがアクティブになると、有害な応答や意図しない出力を生成します。本稿では,LLMからのバックドアの挙動を知識希釈により除去する新しい手法LETHEを提案する。
論文参考訳（メタデータ） (2025-08-28T17:05:18Z)
SLIP: Soft Label Mechanism and Key-Extraction-Guided CoT-based Defense Against Instruction Backdoor in APIs [9.581510737256389]
ブラックボックスのバックドア攻撃は、ホワイトボックスアクセスに依存する既存の防御を容易にバイパスする。 SLIP(Soft Label)機構と鍵抽出誘導CoTによるAPIのインストラクションバックドアに対する防御機構を提案する。 SLIPは非常に効果的で、平均攻撃成功率(ASR)を90.2%から25.13%に下げる。
論文参考訳（メタデータ） (2025-08-08T09:17:33Z)
Revisiting Backdoor Attacks on LLMs: A Stealthy and Practical Poisoning Framework via Harmless Inputs [54.90315421117162]
完全無害データを用いた新しい毒殺法を提案する。自己回帰型LPMの因果推論に着想を得て,トリガーと肯定的応答プレフィックスの堅牢な関連性を確立することを目指す。 LLMは最初は同意するように見えるが,その後回答を拒む興味深い抵抗現象を観察する。
論文参考訳（メタデータ） (2025-05-23T08:13:59Z)
Neutralizing Backdoors through Information Conflicts for Large Language Models [20.6331157117675]
大規模言語モデル(LLM)からバックドアの挙動を除去する新しい手法を提案する。軽量なデータセットを使用してコンフリクトモデルをトレーニングし、バックドアモデルとマージして悪意のある振る舞いを中和します。我々は、90%以上のクリーンデータ精度を維持しながら、高度なバックドア攻撃の攻撃成功率を最大98%削減することができる。
論文参考訳（メタデータ） (2024-11-27T12:15:22Z)
When Backdoors Speak: Understanding LLM Backdoor Attacks Through Model-Generated Explanations [58.27927090394458]
大規模言語モデル(LLM)は、バックドア攻撃に弱いことが知られている。本稿では,自然言語説明の新しいレンズによるバックドア攻撃について検討する。以上の結果から,バックドアモデルではクリーンな入力に対してコヒーレントな説明が得られたが,有毒なデータに対して多様かつ論理的に欠陥のある説明が得られた。
論文参考訳（メタデータ） (2024-11-19T18:11:36Z)
Towards Sample-specific Backdoor Attack with Clean Labels via Attribute Trigger [57.48983433438498]
サンプル特異的バックドアアタック (SSBA) は, 有毒なラベルの性質のため, 十分にステルス性がないことを示す。クリーンラベルのSSBAを設計するためのトリガパターンとして,コンテンツ関連機能である$a.k.a.$(ヒューマン信頼性)属性を活用することを提案する。
論文参考訳（メタデータ） (2023-12-03T09:12:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。