論文の概要: All-in-One: A Composable Attack on LLM Transformations

• arxiv url: http://arxiv.org/abs/2610.33298v1
• Date: Fri, 23 Oct 2026 21:10:09 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 22:27:13.294825
• Title: All-in-One: A Composable Attack on LLM Transformations
• Title（参考訳）: All-in-One: LLM変換に対する構成可能な攻撃
• Abstract要約: 量子化、プルーニング、モデルマージは、効率と下流のパフォーマンスを改善するために、デプロイメント対応のLLMに適用される一般的な変換である。 敵は、事前に変換された状態で安全チェックをパスし、デプロイ用に変換されると悪意のある状態になるモデルを訓練することができる。 我々は、複数の変換を同時にターゲットとするシンプルで構成可能なアタックフレームワークを導入し、その一方がユーザによって適用されるとトリガーする。
• 参考スコア（独自算出の注目度）: 16.503478819196115
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Quantization, pruning, and model merging are popular transformations applied to deployment-ready LLMs to improve efficiency and downstream performance. Recent work has shown that these transformations can introduce a security threat: an adversary can train a model that passes safety checks in its pre-transformed state, only turning malicious once it is transformed for deployment. However, prior attacks target one specific transformation (e.g., quantization) and generally rely on transformation-specific techniques, making them difficult to combine in practice. In this work, we introduce a simple, composable attack framework that targets multiple transformations simultaneously and triggers when any one of them is applied by a user. Our key insight is that the effect of each transformation can be approximated as a perturbation to the model weights, allowing us to jointly train the model with a benign loss on the original model and a malicious loss on each simulated transformed model. These perturbations are simple enough to simulate at every training iteration across diverse transformations, making them practically combinable within a single training objective, enabling a unified attack. Through extensive experiments across attack scenarios, model families, and a wide range of deployment-time model transformations, we show that our attack achieves high success rates. This demonstrates that model transformations may be utilized to trigger significantly different behavior from the original model and reinforces the associated security concerns by demonstrating that a single attack can jointly target diverse transformations.
• Abstract（参考訳）: 量子化、プルーニング、モデルマージは、効率と下流のパフォーマンスを改善するために、デプロイメント対応のLLMに適用される一般的な変換である。 敵は、事前に変換された状態で安全チェックをパスし、デプロイ用に変換されると悪意のある状態になるモデルを訓練することができる。 しかし、事前攻撃は1つの特定の変換(例えば量子化)をターゲットにしており、一般的には変換固有の技術に依存しているため、実際に組み合わせるのは困難である。 本研究では,複数のトランスフォーメーションを同時にターゲットとする,シンプルで構成可能なアタックフレームワークを導入する。 我々の重要な洞察は、各変換の効果をモデル重みに対する摂動として近似することができ、元のモデルに良質な損失と、シミュレートされた変換モデルに悪質な損失を伴ってモデルを共同で訓練できるということである。 これらの摂動は、さまざまなトランスフォーメーションをまたいだトレーニングイテレーションをシミュレートするのに十分なシンプルで、単一のトレーニング目標内で事実上結合可能であり、統一的な攻撃を可能にします。 攻撃シナリオ、モデルファミリー、幅広い展開時間モデル変換に関する広範な実験を通じて、我々の攻撃が高い成功率を達成することを示す。 これは、モデルトランスフォーメーションが元のモデルと大きく異なる振る舞いをトリガーし、単一の攻撃が多様なトランスフォーメーションを共同でターゲットできることを実証することによって関連するセキュリティ上の懸念を強化するために利用されることを実証している。

関連論文リスト

• Transform-Dependent Adversarial Attacks [15.374381635334897]
  深層ネットワークに対する変換依存型敵攻撃を導入する。 我々の摂動は変成特性を示し、変換パラメータの関数として多様な逆効果を可能にする。 変換に依存した摂動は、ブラックボックスのシナリオにおいて、最先端の移動攻撃よりも17～31%優れ、高い目標攻撃成功率が得られることを示す。
  論文  参考訳（メタデータ） (2024-06-12T17:31:36Z)
• Boosting Adversarial Transferability across Model Genus by Deformation-Constrained Warping [34.07483413460022]
  変形抑制型ウォーピング攻撃(DeCoWA)と呼ばれる,新規で汎用的な攻撃戦略を提案する。 具体的には、DeCoWAは弾性変形、すなわち変形抑制ウォーピング(DeCoW)によって入力例を増強する。 ランダムな変形によって導かれる大域的意味論の激しい歪みを避けるため、DeCoWは新たな適応制御戦略によりワープ変換の強度と方向を制約する。
  論文  参考訳（メタデータ） (2024-02-06T12:23:14Z)
• An Adaptive Model Ensemble Adversarial Attack for Boosting Adversarial Transferability [26.39964737311377]
  我々はAdaEAと呼ばれる適応型アンサンブル攻撃を提案し、各モデルからの出力の融合を適応的に制御する。 我々は、様々なデータセットに対する既存のアンサンブル攻撃よりも大幅に改善した。
  論文  参考訳（メタデータ） (2023-08-05T15:12:36Z)
• Emergent Agentic Transformer from Chain of Hindsight Experience [96.56164427726203]
  簡単なトランスフォーマーベースモデルが時間差と模倣学習に基づくアプローチの両方と競合することを示す。 単純なトランスフォーマーベースのモデルが時間差と模倣学習ベースのアプローチの両方で競合するのはこれが初めてである。
  論文  参考訳（メタデータ） (2023-05-26T00:43:02Z)
• Enhancing Targeted Attack Transferability via Diversified Weight Pruning [0.3222802562733786]
  悪意のある攻撃者は、画像に人間の知覚できないノイズを与えることによって、標的となる敵の例を生成することができる。 クロスモデル転送可能な敵の例では、モデル情報が攻撃者から秘密にされている場合でも、ニューラルネットワークの脆弱性は残る。 近年の研究では, エンサンブル法の有効性が示されている。
  論文  参考訳（メタデータ） (2022-08-18T07:25:48Z)
• Frequency Domain Model Augmentation for Adversarial Attack [91.36850162147678]
  ブラックボックス攻撃の場合、代用モデルと被害者モデルの間のギャップは通常大きい。 そこで本研究では,通常の訓練モデルと防衛モデルの両方に対して,より伝達可能な対角線モデルを構築するための新しいスペクトルシミュレーション攻撃を提案する。
  論文  参考訳（メタデータ） (2022-07-12T08:26:21Z)
• Adaptive Image Transformations for Transfer-based Adversarial Attack [73.74904401540743]
  適応画像変換学習(AITL)と呼ばれる新しいアーキテクチャを提案する。 精巧に設計した学習者は、入力画像固有の画像変換の最も効果的な組み合わせを適応的に選択する。 本手法は、通常訓練されたモデルと防衛モデルの両方において、各種設定下での攻撃成功率を大幅に向上させる。
  論文  参考訳（メタデータ） (2021-11-27T08:15:44Z)
• Training Meta-Surrogate Model for Transferable Adversarial Attack [98.13178217557193]
  クエリーを許可しない場合、ブラックボックスモデルに対する逆攻撃を考える。 この設定では、多くの手法が代理モデルを直接攻撃し、得られた敵の例をターゲットモデルを騙すために転送する。 メタサロゲートモデル(Meta-Surrogate Model:MSM)は,このモデルに対する攻撃が,他のモデルに容易に転送できることを示す。
  論文  参考訳（メタデータ） (2021-09-05T03:27:46Z)
• DVERGE: Diversifying Vulnerabilities for Enhanced Robust Generation of Ensembles [20.46399318111058]
  敵攻撃は、小さな摂動でCNNモデルを誤解させる可能性があるため、同じデータセットでトレーニングされた異なるモデル間で効果的に転送することができる。 非破壊的特徴を蒸留することにより,各サブモデルの逆脆弱性を分離するDVERGEを提案する。 新たな多様性基準とトレーニング手順により、DVERGEは転送攻撃に対して高い堅牢性を達成することができる。
  論文  参考訳（メタデータ） (2020-09-30T14:57:35Z)
• FLAT: Few-Shot Learning via Autoencoding Transformation Regularizers [67.46036826589467]
  本稿では,データ例のラベルを使わずに,変換の分布によって引き起こされる特徴表現の変化を学習することで,新たな正規化機構を提案する。 エンコードされた特徴レベルで変換強化されたバリエーションを検査することで、ベースカテゴリへのオーバーフィットのリスクを最小限に抑えることができる。 実験結果から,文学における現在の最先端手法よりも優れた性能を示した。
  論文  参考訳（メタデータ） (2019-12-29T15:26:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。