Fugu-MT 論文翻訳(概要): AGENTQ: Quantization-Conditioned Backdoor Attacks on LLM Agents

論文の概要: AGENTQ: Quantization-Conditioned Backdoor Attacks on LLM Agents

arxiv url: http://arxiv.org/abs/2609.14060v1
Date: Sat, 12 Sep 2026 17:17:59 GMT
ステータス: 翻訳完了
システム内更新日: 2026-09-16 07:15:05.649064
Title: AGENTQ: Quantization-Conditioned Backdoor Attacks on LLM Agents
Title（参考訳）: AgentQ: LLMエージェントの量子化によるバックドア攻撃
Abstract要約: AgentQは、レイヤバンドのLoRAインジェクションと、マルチコードブックの量子化等価クラスに対する部分PGD修復を組み合わせたアタックフレームワークである。 AgentQは、良質なユーティリティの損失を最小限に抑えて、100%ポスト量子化攻撃の成功率に達する。
参考スコア（独自算出の注目度）: 3.994114606137195
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Quantization is one of the default deployment paths for open-weight LLM agents, but it is not behavior-preserving: an adversary can release a full-precision checkpoint that passes audits yet misbehaves once quantized, termed as quantization-conditioned attack (QCA). Prior QCA work targets free-text generation, where harm is mediated by a human reader. In contrast, the agentic setting poses a more severe risk: the triggered payload is a structured function that can be executed without human oversight. We present the first study of QCA against LLM agents. We find that directly adapting prior backdoor-injection methods can produce malicious behavior after quantization, but substantially degrades benign utility, rendering the resulting attacks impractical. To understand the true upper bound of the threat, we propose AGENTQ, an attack framework that combines layer-banded LoRA injection with partial-PGD repair over a multi-codebook quantization-equivalence class. AGENTQ preserves normal agentic capability while concentrating malicious behavior in the quantized model. Across three trigger-action pairs and three codebooks (NF4, FP4, INT8), AGENTQ reaches up to 100% post-quantization attack success rate with minimal loss of benign utility, underscoring the need to make quantization-aware safety evaluation a standard requirement before open-weight agents are deployed.
Abstract（参考訳）: 量子化はオープンウェイトなLLMエージェントのデフォルトのデプロイメントパスの1つであるが、挙動保存ではない。以前のQCA作業は、人間のリーダーによって害が媒介される自由テキスト生成を目標としていた。引き起こされたペイロードは、人間の監視なしに実行できる構造化された機能である。本研究はLLM剤に対するQCAの最初の研究である。事前のバックドア注入法を直接適用すると、量子化後に悪意ある振る舞いが生じるが、良質な利便性は著しく低下し、結果として発生する攻撃は非現実的となる。脅威の真の上限を理解するために,レイヤバンド化LoRAインジェクションと部分PGD修復を組み合わせた攻撃フレームワークである AgentQ を提案する。 AgentQは、量子化モデルにおいて悪意のある振る舞いに集中しながら、通常のエージェント能力を保持する。 3つのトリガ-アクションペアと3つのコードブック(NF4, FP4, INT8)にまたがって、AgentQは、良性ユーティリティの損失を最小限に抑え、100%ポスト量子化攻撃成功率に達する。

関連論文リスト

Quantization-Triggered Backdoors in Language Models: Cross-Quantizer Transferability and the Validation--Deployment Gap [0.0]
学習後の量子化はしばしば、大規模言語モデルのエッジ展開に対する意味的に中立な最適化として扱われる。バックドア翻訳モデルは、修復されたFP16におけるゼロの友情の腐敗から、量子化後の最大85.02%の逆転へと移行していることを示す。我々は、量子化行動等価クラス(QBEC)を通してこのギャップを形式化し、QBECのメンバーシップが振る舞い等価性を含まないことを証明した。
論文参考訳（メタデータ） (2026-08-27T08:34:10Z)
When Collaboration Becomes a Trigger: Collective Evidence-Threshold Backdoors in Multi-Agent Systems [57.450132281381066]
ピアエビデンスが単一のメッセージによって決定されるのではなく、隠れたしきい値に達すると、バックドアの動作が起動される。我々は,MASとBundary-Conditioned Backdoor Injection(BCBI)のための集合的エビデンス-ホールドバックドアパラダイムを導入する。クリーンな通信力学を学習し,異常なエージェント更新を隔離する,クリーンな唯一の潜時防御であるLATTEを提案する。
論文参考訳（メタデータ） (2026-08-02T08:38:44Z)
Breaking the Rounding Trap: Securing LLMs against Quantization-Conditioned Backdoors [11.27557330957057]
モデル量子化は、大規模言語モデルを実際にデプロイする際のストレージと推論コストを削減するための重要なテクニックである。近年の研究では、量子化によって引き起こされる離散化と丸め誤差を敵に利用して、量子化条件付きバックドアアタックを構築することが示されている。本手法では,有意なラウンドリング動作を微妙に制御するために,誤差誘導型ラウンドリングの反転制約,出力分布の整合性,および重み付き正規化を組み合わせたラウンドリング制御変数を導入する。
論文参考訳（メタデータ） (2026-06-28T07:06:46Z)
FlipGuard: Defending Large Language Models Against Quantization-Conditioned Backdoor Attacks [11.27557330957057]
量子化に先立ってモデル重みを選択的に摂動するプロアクティブディフェンスフレームワークであるFlipGuardを紹介する。ウェイトパターンと量子化境界の間の敵の正確なアライメントを壊すことで、FlipGuardはトレーニングデータへのアクセスやサンプルのトリガを必要とせずに、バックドアのアクティベーションを抑える。
論文参考訳（メタデータ） (2026-06-27T15:02:42Z)
Widening the Gap: Exploiting LLM Quantization via Outlier Injection [16.503478819196115]
悪意のある振る舞いを継続的に引き起こす最初の量子化条件攻撃を導入する。我々の攻撃は、多くの現代的な量子化法で共有される単純な性質を利用する。我々の攻撃は、前回の攻撃が失敗する広範囲の量子化手法に対して高い成功率を達成することを示す。
論文参考訳（メタデータ） (2026-05-14T17:50:39Z)
ProjLens: Unveiling the Role of Projectors in Multimodal Model Safety [54.4092272526747]
MLLM(Multimodal Large Language Models)は、クロスモーダルな理解と生成において大きな成功を収めていますが、そのデプロイは重大な安全性の脆弱性によって脅かされています。本稿では,MLLMのバックドアを復号化するための解釈可能性フレームワークであるProjLensを提案する。
論文参考訳（メタデータ） (2026-04-21T04:52:38Z)
Compiling Activation Steering into Weights via Null-Space Constraints for Stealthy Backdoors [48.881343993730844]
安全性に整合した大規模言語モデル(LLM)は、現実世界のパイプラインにますますデプロイされている。敵は通常の評価では動作しないバックドアのチェックポイントを配布することができる。最近のポストホック重み付け法は、そのようなバックドアを注入するための効率的なアプローチを提供する。
論文参考訳（メタデータ） (2026-04-14T06:48:33Z)
Towards Effective, Stealthy, and Persistent Backdoor Attacks Targeting Graph Foundation Models [62.87838888016534]
Graph Foundation Models(GFM)は、さまざまなソースドメインで事前トレーニングされ、目に見えないターゲットに適応する。 GFMに対するバックドア攻撃は、3つの主要な課題のために簡単ではない。グラフ基礎モデルに対する新たなバックドア攻撃モデルであるGFM-BAを提案する。
論文参考訳（メタデータ） (2025-11-22T08:52:09Z)
Mind the Gap: A Practical Attack on GGUF Quantization [6.506984021742173]
本稿では,学習後量子化手法のGGUFファミリーに対する最初の攻撃について紹介する。我々は、量子化誤差に基づいて重みを拘束しながら、ターゲットの悪意あるLSMを訓練する攻撃を開発する。我々の攻撃は、最も広く使われている訓練後の量子化法が、敵の干渉の影響を受けやすいことを強調している。
論文参考訳（メタデータ） (2025-05-24T16:30:37Z)
Revisiting Backdoor Attacks on LLMs: A Stealthy and Practical Poisoning Framework via Harmless Inputs [54.90315421117162]
完全無害データを用いた新しい毒殺法を提案する。自己回帰型LPMの因果推論に着想を得て,トリガーと肯定的応答プレフィックスの堅牢な関連性を確立することを目指す。 LLMは最初は同意するように見えるが,その後回答を拒む興味深い抵抗現象を観察する。
論文参考訳（メタデータ） (2025-05-23T08:13:59Z)
AgentPoison: Red-teaming LLM Agents via Poisoning Memory or Knowledge Bases [73.04652687616286]
本稿では,RAG とRAG をベースとした LLM エージェントを標的とした最初のバックドア攻撃である AgentPoison を提案する。従来のバックドア攻撃とは異なり、AgentPoisonは追加のモデルトレーニングや微調整を必要としない。エージェントごとに、AgentPoisonは平均攻撃成功率を80%以上達成し、良質なパフォーマンスに最小限の影響を与える。
論文参考訳（メタデータ） (2024-07-17T17:59:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。