論文の概要: LoRAScan: Detecting Backdoor Prompts in Low-Rank Adapters for Large Language Models via Down-Projection Activation Spikes

• arxiv url: http://arxiv.org/abs/2608.06795v1
• Date: Fri, 07 Aug 2026 04:36:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-10 16:21:25.360862
• Title: LoRAScan: Detecting Backdoor Prompts in Low-Rank Adapters for Large Language Models via Down-Projection Activation Spikes
• Title（参考訳）: LoRAScan:ダウンプロジェクションアクティベーションスパイクによる大規模言語モデル用低ランクアダプタのバックドアプロンプト検出
• Abstract要約: 低ランク適応は、コンパクトアダプターによる大規模言語モデルの効率的な特殊化と分散を可能にする。 バックドアアダプタは、入力に隠されたトリガーが含まれている場合、モデルが有害なコンテンツ、悪意のあるコード、政治的プロパガンダ、隠蔽広告を生成する可能性がある。 そこで我々は,最初のアダプタ対応ディフェンスであるLoRAScanを紹介した。このディフェンスは,アダプタパラメータを変更することなく,推論時にトリガ付き入力を検出し,拒否する。
• 参考スコア（独自算出の注目度）: 4.324744046348926
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Low-rank adaptation (LoRA) enables efficient specialization and distribution of large language models through compact adapters. However, untrusted adapters introduce a supply-chain threat: a backdoored adapter can cause a model to generate harmful content, malicious code, political propaganda, or covert advertisements when an input contains a hidden trigger. Adapter-agnostic defenses merge the adapter with the base model, which dilutes backdoor signals and reduces detection performance. Existing adapter-aware methods do not address how to safely use a potentially backdoored adapter. Instead, they either train a defensive adapter to repair a backdoored base model, addressing the inverse problem rather than securing the adapter itself, or rely on a classifier that flags the entire adapter as suspicious and requires separate mitigation. These methods overlook the distinct latent-space signatures produced by trigger-bearing inputs in backdoored adapters. We introduce LoRAScan, the first adapter-aware defense that detects and rejects trigger-bearing inputs at inference time without modifying adapter parameters. Our key observation is that a small subset of LoRA insertion sites, approximately 5%, remains stable across clean inputs but exhibits highly concentrated spikes in LoRA down-projection activations when a trigger is present. LoRAScan identifies these low-variance insertion sites before model deployment and monitors them during inference. Across standard LLM backdoor benchmarks, LoRAScan rejects approximately 98.49 of malicious inputs with a small error rate on clean inputs, outperforming existing defenses across diverse evaluation settings.
• Abstract（参考訳）: 低ランク適応 (LoRA) は、コンパクトアダプターによる大規模言語モデルの効率的な特殊化と分散を可能にする。 バックドアアダプタは、入力に隠れたトリガーが含まれている場合、モデルが有害なコンテンツ、悪意のあるコード、政治的プロパガンダ、隠蔽広告を生成する可能性がある。 アダプタに依存しないディフェンスは、アダプタをベースモデルとマージし、バックドア信号を希釈し、検出性能を低下させる。 既存のアダプタ対応メソッドは、バックドアアダプタを安全に使用する方法には対処しない。 代わりに、バックドアベースモデルを修復するために防御アダプタを訓練し、アダプタ自体をセキュアにするのではなく、逆問題に対処する。 これらの手法は、バックドアアダプタのトリガーベアリング入力によって生成される遅延スペースシグネチャを見落としている。 そこで我々は,最初のアダプタ対応ディフェンスであるLoRAScanを紹介した。このディフェンスは,アダプタパラメータを変更することなく,推論時にトリガ付き入力を検出し,拒否する。 我々のキーとなる観察は、LoRA挿入部位のごく一部(約5%)がクリーンインプットで安定であるが、トリガーが存在する場合、LoRAダウンプロジェクションアクティベーションにおいて非常に集中的なスパイクを示すことである。 LoRAScanはモデル展開前にこれらの低分散挿入サイトを特定し、推論中に監視する。 標準のLCMバックドアベンチマーク全体において、LoRAScanは、クリーンな入力に対するエラー率の少ない悪意のある入力の98.49を拒絶し、様々な評価設定における既存の防御よりも優れていた。

関連論文リスト

• Compiling Activation Steering into Weights via Null-Space Constraints for Stealthy Backdoors [48.881343993730844]
  安全性に整合した大規模言語モデル(LLM)は、現実世界のパイプラインにますますデプロイされている。 敵は通常の評価では動作しないバックドアのチェックポイントを配布することができる。 最近のポストホック重み付け法は、そのようなバックドアを注入するための効率的なアプローチを提供する。
  論文  参考訳（メタデータ） (2026-04-14T06:48:33Z)
• Weight space Detection of Backdoors in LoRA Adapters [7.857959066844162]
  LoRAアダプタはHugging Face Hubのようなオープンリポジトリを通じて共有される。 現在の検出方法は、テスト入力データでモデルを実行する必要がある。 我々は, モデルを実行することなく, 行列の重みを直接解析し, 有毒なアダプタを検出する。
  論文  参考訳（メタデータ） (2026-02-16T21:20:47Z)
• TabVLA: Targeted Backdoor Attacks on Vision-Language-Action Models [63.51290426425441]
  バックドア付きVLAエージェントは、プレインジェクトされたバックドアによって隠蔽的にトリガーされ、敵のアクションを実行することができる。 我々は,VLAモデルに対するターゲットバックドア攻撃について検討し,ブラックボックスファインチューニングによる攻撃を可能にする新しいフレームワークであるTabVLAを紹介した。 我々の研究は、バックドア操作をターゲットにしたVLAモデルの脆弱性を強調し、より高度な防御の必要性を強調します。
  論文  参考訳（メタデータ） (2025-10-13T02:45:48Z)
• PHLoRA: data-free Post-hoc Low-Rank Adapter extraction from full-rank checkpoint [3.5840378192062956]
  我々は、フルランク微調整モデルから低ランク適応アダプタを抽出する簡易かつ強力なPHLoRAを提案する。 アダプタを明示的に訓練する以前の作業とは異なり、我々のアプローチはアダプタ生成から微調整を分離する。 Amazon Novaモデルファミリを用いたテキスト、画像、ビデオのベンチマーク実験では、抽出されたアダプタは、フルウェイトデルタから高エネルギーを保ち、安全に刈り取ることができ、再マージ時に下流タスクのパフォーマンスが無視できる劣化をもたらすことが示されている。
  論文  参考訳（メタデータ） (2025-09-13T20:13:58Z)
• Low-rank variational dropout: Uncertainty and rank selection in adapters [0.0]
  BayesLoRA は LoRA の設定における変分ドロップアウトを再検討し、自然の単位は個々の重みではなく、アダプタの全ランクであることを示した。 BayesLoRA は、(i) がアダプタのみのモンテカルロサンプリングによって予測し、(ii) がARDスタイルのKL項を介して自動的に冗長な階数を自動的に生成する、という後部を定めている。
  論文  参考訳（メタデータ） (2025-06-28T08:22:02Z)
• Robust Anti-Backdoor Instruction Tuning in LVLMs [53.766434746801366]
  大規模視覚言語モデル(LVLM)のための軽量で認証に依存しない防御フレームワークについて紹介する。 私たちのフレームワークは、命令チューニングの下で、アダプタモジュールとテキスト埋め込み層のみを微調整します。 Flickr30kとMSCOCOに対する7つの攻撃に対する実験は、我々の攻撃の成功率をほぼゼロに低下させることを示した。
  論文  参考訳（メタデータ） (2025-06-04T01:23:35Z)
• Towards Optimal Adapter Placement for Efficient Transfer Learning [73.1149084352343]
  PETLは、トレーニング済みモデルを新しい下流タスクに適用し、微調整されたパラメータの数を最小化することを目的としている。 PETLの一般的なアプローチであるアダプタは、低ランクのプロジェクションを組み込むことで、既存のネットワークにさらなる容量を注入する。 本稿では,アダプタの配置と性能の関係について検討する。
  論文  参考訳（メタデータ） (2024-10-21T10:37:17Z)
• Hadamard Adapter: An Extreme Parameter-Efficient Adapter Tuning Method for Pre-trained Language Models [108.08773541490191]
  事前訓練された言語モデル(PLM)は大量のパラメータを持ち、微調整は高価で時間を要することが多い。 ダウンストリームタスクにおける性能を損なうことなく、微調整時にPLMのパラメータを減らすためのパラメータ効率のアプローチを採用する必要がある。 本稿では, PLMにおける自己注意出力のみに作用する新しいアダプタを設計する。
  論文  参考訳（メタデータ） (2024-07-04T18:21:28Z)
• The Philosopher's Stone: Trojaning Plugins of Large Language Models [22.67696768099352]
  オープンソースのLarge Language Models (LLM) は、プロプライエタリなLLMに匹敵するパフォーマンスのため、最近人気を集めている。 ドメイン特化タスクを効率的にこなすために、低ランクアダプタを用いて高価なアクセラレーターを使わずにオープンソースのLLMを洗練することができる。 LLMを制御するために低ランクアダプタを利用できるかどうかはまだ分かっていない。
  論文  参考訳（メタデータ） (2023-12-01T06:36:17Z)
• AdaptGuard: Defending Against Universal Attacks for Model Adaptation [129.2012687550069]
  モデル適応アルゴリズムにおいて、ソースドメインから転送されるユニバーサルアタックに対する脆弱性について検討する。 本稿では,モデル適応アルゴリズムの安全性を向上させるために,AdaptGuardというモデル前処理フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-03-19T07:53:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。