論文の概要: Quantization as a Malicious Task: Removing Quantization-Conditioned Backdoors via Task Arithmetic

• arxiv url: http://arxiv.org/abs/2606.20254v1
• Date: Thu, 18 Jun 2026 14:05:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-19 18:23:39.899161
• Title: Quantization as a Malicious Task: Removing Quantization-Conditioned Backdoors via Task Arithmetic
• Title（参考訳）: 不正なタスクとしての量子化:タスク算術を通して量子化されたバックドアを除去する
• Authors: Kaihsun Yang, Min-Yan Tsai, Chia-Mu Yu,
• Abstract要約: 最近の研究では、量子化制御バックドア(QCBs)と呼ばれる新しいセキュリティ脅威が明らかにされている。 QVecはQCBに対する防御のためのパラメータ空間の観点である。 クリーンな性能を維持しながら,QVecはバックドアアクティベーションを継続的に抑制することを示す。
• 参考スコア（独自算出の注目度）: 6.5117838119526565
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Model quantization is widely adopted to reduce memory usage and inference cost when deploying deep neural networks on resource-constrained devices. However, recent studies have revealed a new security threat known as Quantization-Conditioned Backdoors (QCBs), where a model behaves normally in full precision but activates malicious behavior only after quantization. Existing defenses typically modify quantization procedures or correct activation statistics, often introducing additional computational overhead or relying on specific quantization settings. Here, we present QVec, a parameter-space perspective for defending against QCBs. We observe that the weight difference between a full-precision model and its quantized counterpart encodes a structured behavioral shift, which can be interpreted as a malicious task vector rather than random quantization noise. Based on this insight, QVec counteracts this malicious direction through controlled parameter correction prior to deployment. QVec requires no retraining, no trigger samples, and only a single quantization pass to estimate the parameter shift, together with a lightweight hyperparameter search. Extensive experiments across image classification benchmarks and multiple Large Language Model (LLM) attack scenarios demonstrate that QVec consistently suppresses backdoor activation while preserving clean performance.
• Abstract（参考訳）: モデル量子化は、リソース制約のあるデバイスにディープニューラルネットワークをデプロイする際のメモリ使用量と推論コストを低減するために広く採用されている。 しかし、最近の研究により、QCB(Quantization-Conditioned Backdoors)と呼ばれる新たなセキュリティ脅威が明らかになった。 既存のディフェンスは一般に量子化手順や正しいアクティベーション統計を修正し、計算のオーバーヘッドを増やしたり、特定の量子化設定に依存する。 本稿では,QCBに対する防御のためのパラメータ空間視点であるQVecを紹介する。 完全精度モデルと量子化モデルとの重み差は、ランダムな量子化ノイズではなく、悪意のあるタスクベクトルとして解釈できる、構造化された挙動シフトを符号化する。 この洞察に基づいて、QVecはデプロイ前に制御されたパラメータ補正を通じて、この悪意ある方向に対応する。 QVecはリトレーニングもトリガーサンプルも必要とせず、パラメータシフトを推定するために1つの量子化パスしか必要とせず、軽量なハイパーパラメータサーチも必要である。 画像分類ベンチマークと複数のLarge Language Model(LLM)攻撃シナリオにわたる大規模な実験は、QVecがクリーンなパフォーマンスを維持しながら、バックドアのアクティベーションを一貫して抑制していることを示している。

関連論文リスト

• Enhancing Post-Training Quantization via Future Activation Awareness [84.76726857601753]
  ポストトレーニング量子化(PTQ)は、大規模言語モデル(LLM)を微調整なしで圧縮する方法として広く用いられている。 本稿では、将来の層活性化を利用して量子化を導出するFuture-Aware Quantization (FAQ)を提案する。 FAQは、後方パス、データ再構成、チューニングを必要とせず、無視できる余分なコストで、従来手法よりも一貫してパフォーマンスを向上する。
  論文  参考訳（メタデータ） (2026-01-28T12:03:30Z)
• QSpec: Speculative Decoding with Complementary Quantization Schemes [53.960146187821685]
  大規模言語モデル(LLM)における推論の高速化とメモリ消費削減のために量子化が広く採用されている 品質から効率を分離する新しい量子化パラダイムであるQSpecを提案する。 QSpecは重みとKVキャッシュの両方を段階的に再利用し、再トレーニングや補助モデルなしでほぼゼロコストで切り替えることができる。
  論文  参考訳（メタデータ） (2024-10-15T05:57:51Z)
• Towards Accurate Post-Training Quantization of Vision Transformers via Error Reduction [48.740630807085566]
  ビジョントランスフォーマー(ViT)のPTQ(Post-training Quantization)は,学術的,産業的にも注目されている。 現在の方法は、量子化された重みとアクティベーションの間の複雑な相互作用を考慮できないため、量子化エラーと準最適性能をもたらす。 本稿では,活性化と重み量子化による量子化誤差を逐次低減する2段階PTQ法であるERQを提案する。
  論文  参考訳（メタデータ） (2024-07-09T12:06:03Z)
• Nearest is Not Dearest: Towards Practical Defense against Quantization-conditioned Backdoor Attacks [18.547646133429993]
  最近の研究は、量子化条件付バックドア(QCB)を埋め込むことで、兵器化モデル量子化の実現可能性を明らかにしている。 QCBの特異性のため、既存の防衛は脅威を減らすか、あるいは不可能である。 本稿では,QCBに対する有効かつ実用的な防御法であるEFRAP(Error-guided Flipped Rounding with Activation Preservation)を提案する。
  論文  参考訳（メタデータ） (2024-05-21T12:25:49Z)
• Towards Accurate Post-training Quantization for Reparameterized Models [6.158896686945439]
  現在のポストトレーニング量子化法(PTQ)は、しばしばかなりの精度の劣化を引き起こす。 これは主にチャネル特異的およびサンプル特異的な外れ値によって引き起こされる。 本稿では、量子化された再パラメータ化モデルの精度を維持する新しいフレームワークであるRepAPQを提案する。
  論文  参考訳（メタデータ） (2024-02-25T15:42:12Z)
• PreQuant: A Task-agnostic Quantization Approach for Pre-trained Language Models [52.09865918265002]
  ファインチューニングのフレームワークPreQuantに先立って,新しい量子化を提案する。 PreQuantは様々な量子化戦略と互換性があり、インダクションされた量子化誤差を修正するために、アウタリア対応の微調整が組み込まれている。 BERT,RoBERTa,T5を用いたGLUEベンチマークにおけるPreQuantの有効性を示す。
  論文  参考訳（メタデータ） (2023-05-30T08:41:33Z)
• Qu-ANTI-zation: Exploiting Quantization Artifacts for Achieving Adversarial Outcomes [5.865029600972316]
  量子化(quantization)は、ニューラルネットワークのパラメータ表現を浮動小数点数から低精度の数値に変換する技術である。 逆量子化結果を実装するための新しいトレーニングフレームワークを提案する。 1つの妥協されたモデルが複数の量子化スキームを破ることを示す。
  論文  参考訳（メタデータ） (2021-10-26T10:09:49Z)
• Cluster-Promoting Quantization with Bit-Drop for Minimizing Network Quantization Loss [61.26793005355441]
  クラスタ・プロモーティング・量子化(CPQ)は、ニューラルネットワークに最適な量子化グリッドを見つける。 DropBitsは、ニューロンの代わりにランダムにビットをドロップする標準のドロップアウト正規化を改訂する新しいビットドロップ技術である。 本手法を様々なベンチマークデータセットとネットワークアーキテクチャ上で実験的に検証する。
  論文  参考訳（メタデータ） (2021-09-05T15:15:07Z)
• Adversarial Attack on Deep Product Quantization Network for Image Retrieval [74.85736968193879]
  近年,高速画像検索においてDPQN (Deep Product Quantization Network) が注目されている。 近年の研究では、ディープニューラルネットワーク(DNN)は、小さく、悪意のある設計の摂動によって入力に弱いことが示されている。 本稿では,製品量子化に基づく検索システムに対して,製品量子化逆生成(PQ-AG)を提案する。
  論文  参考訳（メタデータ） (2020-02-26T09:25:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。