論文の概要: Hijacking a Trusted LLM in Real-World Quantized Deployments Only Requires a Disguised Adapter
- arxiv url: http://arxiv.org/abs/2611.14978v1
- Date: Wed, 11 Nov 2026 03:37:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-14 01:36:32.999499
- Title: Hijacking a Trusted LLM in Real-World Quantized Deployments Only Requires a Disguised Adapter
- Title(参考訳): 現実の世界における量子化デプロイメントにおける信頼されたLLMのハイジャック
- Abstract要約: QHijack-LoRAは、基本モデルの自然な量子化残差を使用して決定ハイジャックを活性化するアダプタのみの攻撃である。
この研究は、潜在的に量子化されたデプロイメントにおいて、サードパーティのアダプタを監査する必要性を示している。
- 参考スコア(独自算出の注目度): 25.17944198848797
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Third-party low-rank adaptation (LoRA) adapters are tailored to perform decision tasks such as content moderation and function selection. However, in the real world, quantized deployments carry a potential threat in that an adapter can pass an audit with the unquantized base, yet hijack decisions when the same base is quantized for deployment. Demonstrating this threat requires an adapter that preserves benign behavior before quantization, but hijacks decisions afterward. Further, this must hold without modifying the trusted base or knowing the victim's quantization configuration. We therefore present QHijack-LoRA, an adapter-only attack that uses the base model's natural quantization residual to activate decision hijacking. The attacker modifies neither the trusted base model nor the victim's quantization configuration. With QHijack-LoRA, a four-objective training procedure separates full-precision dormancy from quantized target activation, while preserving clean-input behavior. The adapter is trained across several different quantization methods, while adaptive reweighting and residual-direction augmentation extend the attack to unseen configurations. Our results show that auditing performed exclusively under full-precision conditions does not provide assurance of decision integrity in quantized deployment environments. Thus, we also propose a cross-precision paired audit that checks the candidate adapter in its intended deployment configuration. This work shows the critical need to audit third-party adapters in any potential quantized deployment.
- Abstract(参考訳): サードパーティのローランク適応(LoRA)アダプタは、コンテンツモデレーションや機能選択などの決定タスクを実行するように調整されている。
しかし、現実の世界では、量子化されたデプロイメントは、アダプタが不正なベースで監査をパスできるという潜在的な脅威を伴います。
この脅威を実証するには、量子化の前に良質な振る舞いを保存するアダプタが必要であるが、その後、決定をハイジャックする。
さらに、これは信頼されたベースを変更したり、被害者の量子化設定を知ることなく保持されなければならない。
そこで本研究では,QHijack-LoRAという,基本モデルの自然な量子化残差を用いて決定ハイジャックを起動するアダプタのみの攻撃を提案する。
攻撃者は信頼されたベースモデルも被害者の量子化設定も変更しない。
QHijack-LoRAでは、完全精度の休眠を量子化されたターゲットアクティベーションから切り離し、クリーンな入力動作を保存する。
アダプタはいくつかの異なる量子化手法で訓練される一方、適応的な再重み付けと残留方向拡張は攻撃を目に見えない構成にまで拡張する。
本結果から, 完全精度条件下でのみ実施した監査は, 定量的展開環境における決定整合性の保証にはならないことがわかった。
そこで本研究では,提案するデプロイメント構成において,候補アダプタをチェックするクロス精度ペア監査を提案する。
この研究は、潜在的に量子化されたデプロイメントにおいて、サードパーティのアダプタを監査する必要性を示している。
関連論文リスト
- From Migration to Calibration: Preserving Agent Capabilities across Models, Jurisdictions, and Scale [4.321360447503974]
エージェントキャリブレーションを標準優先適応として定式化し,基本能力,技術環境,ユーザコンテキスト標準を定義する。
制限されたユーザトラジェクトリとテストを用いた自動校正ツールを今後の作業として提案する。
論文 参考訳(メタデータ) (2026-09-28T13:31:46Z) - AGENTQ: Quantization-Conditioned Backdoor Attacks on LLM Agents [3.994114606137195]
AgentQは、レイヤバンドのLoRAインジェクションと、マルチコードブックの量子化等価クラスに対する部分PGD修復を組み合わせたアタックフレームワークである。
AgentQは、良質なユーティリティの損失を最小限に抑えて、100%ポスト量子化攻撃の成功率に達する。
論文 参考訳(メタデータ) (2026-09-12T17:17:59Z) - Quantization-Triggered Backdoors in Language Models: Cross-Quantizer Transferability and the Validation--Deployment Gap [0.0]
学習後の量子化はしばしば、大規模言語モデルのエッジ展開に対する意味的に中立な最適化として扱われる。
バックドア翻訳モデルは、修復されたFP16におけるゼロの友情の腐敗から、量子化後の最大85.02%の逆転へと移行していることを示す。
我々は、量子化行動等価クラス(QBEC)を通してこのギャップを形式化し、QBECのメンバーシップが振る舞い等価性を含まないことを証明した。
論文 参考訳(メタデータ) (2026-08-27T08:34:10Z) - Benchmarking Cyberattack Detection in Electric Vehicle Charging Infrastructure with Benign User Updates [3.9286216777643737]
電気自動車の充電インフラにおけるサイバー攻撃検出は、要求されたエネルギーと出発時間に対する正常な動作後の修正によって複雑である。
本稿では, 実適応充電ネットワーク(ACN)セッションの入力順序を保存するための, リーク制御されたセッションレベルベンチマークを開発する。
固定プールは、生成された各攻撃をソースセッションの分割に保持し、物理的に動機付けられた6つの攻撃とその調整されたバリエーションを含む。
論文 参考訳(メタデータ) (2026-08-11T14:50:24Z) - Quantization as a Malicious Task: Removing Quantization-Conditioned Backdoors via Task Arithmetic [6.5117838119526565]
最近の研究では、量子化制御バックドア(QCBs)と呼ばれる新しいセキュリティ脅威が明らかにされている。
QVecはQCBに対する防御のためのパラメータ空間の観点である。
クリーンな性能を維持しながら,QVecはバックドアアクティベーションを継続的に抑制することを示す。
論文 参考訳(メタデータ) (2026-06-18T14:05:19Z) - Compiling Activation Steering into Weights via Null-Space Constraints for Stealthy Backdoors [48.881343993730844]
安全性に整合した大規模言語モデル(LLM)は、現実世界のパイプラインにますますデプロイされている。
敵は通常の評価では動作しないバックドアのチェックポイントを配布することができる。
最近のポストホック重み付け法は、そのようなバックドアを注入するための効率的なアプローチを提供する。
論文 参考訳(メタデータ) (2026-04-14T06:48:33Z) - Bayesian Test-time Adaptation for Object Recognition and Detection with Vision-language Models [86.53246292425699]
我々は、オブジェクト認識と検出の両方のためのTTAのためのトレーニングフリーフレームワークであるBCA+を提案する。
我々はベイズ推論問題として適応を定式化し、キャッシュベースの予測で初期VLM出力を融合することで最終的な予測を生成する。
BCA+は、認識と検出のベンチマークの両方で最先端のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2025-10-03T06:27:33Z) - COIN: Uncertainty-Guarding Selective Question Answering for Foundation Models with Provable Risk Guarantees [51.5976496056012]
COINは、統計的に有効な閾値を校正し、質問毎に1つの生成された回答をフィルタリングする不確実性保護選択フレームワークである。
COINはキャリブレーションセット上で経験的誤差率を推定し、信頼区間法を適用して真誤差率に高い確率上界を確立する。
リスク管理におけるCOINの堅牢性,許容回答を維持するための強いテストタイムパワー,キャリブレーションデータによる予測効率を実証する。
論文 参考訳(メタデータ) (2025-06-25T07:04:49Z) - Test-Time Model Adaptation with Only Forward Passes [68.11784295706995]
テストタイム適応は、トレーニング済みのモデルを、潜在的に分布シフトのある未確認テストサンプルに適応させるのに有効であることが証明されている。
テスト時間フォワード最適化適応法(FOA)を提案する。
FOAは量子化された8ビットのViTで動作し、32ビットのViTで勾配ベースのTENTより優れ、ImageNet-Cで最大24倍のメモリ削減を実現する。
論文 参考訳(メタデータ) (2024-04-02T05:34:33Z) - Cluster-Promoting Quantization with Bit-Drop for Minimizing Network
Quantization Loss [61.26793005355441]
クラスタ・プロモーティング・量子化(CPQ)は、ニューラルネットワークに最適な量子化グリッドを見つける。
DropBitsは、ニューロンの代わりにランダムにビットをドロップする標準のドロップアウト正規化を改訂する新しいビットドロップ技術である。
本手法を様々なベンチマークデータセットとネットワークアーキテクチャ上で実験的に検証する。
論文 参考訳(メタデータ) (2021-09-05T15:15:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。