論文の概要: AnchorRep: Defending LLMs Against Cross-Model Adversarial Transfer via Representation Repulsion

• arxiv url: http://arxiv.org/abs/2609.32602v1
• Date: Sat, 26 Sep 2026 13:19:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-07 05:21:49.228055
• Title: AnchorRep: Defending LLMs Against Cross-Model Adversarial Transfer via Representation Repulsion
• Title（参考訳）: AnchorRep:Representation Repulsionによるモデル間対向移動に対するLLMの防御
• Abstract要約: 単一のオープンウェイト LLM に最適化された敵攻撃は、アーキテクチャ的に異なるモデルに転送およびジェイルブレイクすることができる。 モデル間移動は内部表現幾何学の共有と整合し、自然な防御対象となる。 この結果から, モデル間のロバスト性は, 攻撃固有の訓練を必要とせず, 表現幾何を形作ることで達成できることが示唆された。
• 参考スコア（独自算出の注目度）: 0.1633272850273525
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Adversarial attacks optimized on a single open-weight LLM can transfer to and jailbreak architecturally different models, allowing an attacker with white-box access to one model to compromise independently deployed systems. This creates a shared vulnerability across models, yet existing defenses are not designed for this cross-model threat. We find that cross-model transfer aligns with shared internal representation geometry, making it a natural defense target. AnchorRep targets this geometry directly with a lightweight LoRA adapter that pushes the defended model's internal representations of harmful prompts away from those of a frozen anchor model on the same prompts. Training uses a small set of harmful prompts and no adversarial examples. Across five models and four architectural families, AnchorRep reduces cross-model attack success rate to <=1.1% on 2,000 transferred attacks (0% on two), including the largest drop on Mistral (36% -> 1.1%). Existing defenses can reduce transfer, but only at high cost either inducing up to 77% degenerate benign output or increasing over-refusal by up to 18%. Because such degenerate benign outputs are not captured by standard refusal-based metrics, we introduce the Benign Garble Rate to quantify them. Our results suggest that cross-model robustness can be achieved by shaping representation geometry, without requiring attack-specific training
• Abstract（参考訳）: 単一のオープンウェイト LLM に最適化された敵攻撃は、アーキテクチャ的に異なるモデルに転送およびジェイルブレイクし、あるモデルにホワイトボックスアクセスを持つ攻撃者が独立してデプロイされたシステムに侵入することを可能にする。 これにより、モデル間で共有された脆弱性が生成されるが、既存のディフェンスはこのモデル間の脅威のために設計されていない。 モデル間移動は内部表現幾何学の共有と整合し、自然な防御対象となる。 AnchorRepはこのジオメトリを、防御されたモデルの内部表現である有害なプロンプトを、同じプロンプト上のフリーズアンカーモデルから切り離す軽量のLoRAアダプタで、直接ターゲットとしている。 トレーニングは、有害なプロンプトの小さなセットを使用し、敵の例は使用しない。 5つのモデルと4つのアーキテクチャファミリで、AnchorRepは2000件の攻撃に対して、クロスモデル攻撃の成功率を1.1%に下げる(0%は2つ)。 既存の防御は転送を削減できるが、高コストで最大77%の退縮性出力を誘導するか、最大18%のオーバーリフレクションを増大させる。 このような退化した良性出力は、標準の拒絶に基づくメトリクスによって捕捉されないため、それらの定量化のために良性粒度率を導入する。 この結果から, 攻撃固有の訓練を必要とせず, 表現幾何学を形作ることで, クロスモデルロバスト性を実現することが可能であることが示唆された。

関連論文リスト

• On the Vulnerability of Parameter-Level Defenses to Model Merging [75.62810606927121]
  我々は,既存の安全対策を回避するため,アンカー誘導攻撃(AGA)を提案する。 AGAは、現実的な防衛非依存シナリオの下で、個々の防衛と複合防衛の両方を一貫してバイパスする。 我々は、AGAが活用するアンカーの優位性を軽減するために、アンカー推進ファインチューニング(ARF)を提供する。
  論文  参考訳（メタデータ） (2026-06-29T14:26:13Z)
• MARS: A Malignity-Aware Backdoor Defense in Federated Learning [51.77354308287098]
  最近提案されたSOTA攻撃(3DFed)は、ディフェンダーがバックドアモデルを受け入れたかどうかを判断するためにインジケータ機構を使用する。 本稿では,各ニューロンの有害な範囲を示すためにバックドアエネルギーを利用するMARS(Maignity-Aware backdooR defenSe)を提案する。 実験により、MARSはSOTAのバックドア攻撃に対して防御でき、既存の防御を著しく上回っていることが示された。
  論文  参考訳（メタデータ） (2025-09-21T14:50:02Z)
• No, of Course I Can! Deeper Fine-Tuning Attacks That Bypass Token-Level Safety Mechanisms [22.667573777927203]
  我々は、まずモデルに応答する前に有害な要求を拒否するよう訓練する新しい微調整攻撃を提案する。 この "refuse-then-comply" 戦略は浅い防御をバイパスし、出力フィルタを回避する有害な応答を生成する。 われわれの攻撃はOpenAIから2000ドルのバグ報奨金を受け、Anthhropicによって脆弱性として認識された。
  論文  参考訳（メタデータ） (2025-02-26T20:20:01Z)
• Isolation and Induction: Training Robust Deep Neural Networks against Model Stealing Attacks [51.51023951695014]
  既存のモデル盗難防衛は、被害者の後部確率に偽りの摂動を加え、攻撃者を誤解させる。 本稿では,モデルステルス防衛のための新規かつ効果的なトレーニングフレームワークである分離誘導(InI)を提案する。 モデルの精度を損なうモデル予測に摂動を加えるのとは対照的に、我々はモデルを訓練して、盗むクエリに対して非形式的なアウトプットを生成する。
  論文  参考訳（メタデータ） (2023-08-02T05:54:01Z)
• Your Attack Is Too DUMB: Formalizing Attacker Scenarios for Adversarial Transferability [17.899587145780817]
  侵入攻撃は機械学習モデルに対する脅威であり、敵は悪意のあるサンプルを注入することで分類に影響を与えようとする。 本研究では,サロゲートモデルと被害者モデルの訓練条件が異なる場合の回避攻撃が転送に失敗するかどうかを解析できるDUMB攻撃モデルを提案する。 14件の異なる攻撃に対して13Kの試験を行った結果,サロゲートモデルを用いた移動可能な攻撃範囲の新たな発見が得られた。
  論文  参考訳（メタデータ） (2023-06-27T10:21:27Z)
• MORA: Improving Ensemble Robustness Evaluation with Model-Reweighing Attack [26.37741124166643]
  敵攻撃は、入力データに小さな摂動を加えることで、ニューラルネットワークを騙すことができる。 敵の攻撃戦略は、アンサンブル防御を確実に評価することができず、その頑健さをかなり過大評価できることを示す。 我々は, モデル勾配の重要性を再考することにより, モデル修正攻撃であるMORAを紹介した。
  論文  参考訳（メタデータ） (2022-11-15T09:45:32Z)
• "What's in the box?!": Deflecting Adversarial Attacks by Randomly Deploying Adversarially-Disjoint Models [71.91835408379602]
  敵の例は長い間、機械学習モデルに対する真の脅威と考えられてきた。 我々は、従来のホワイトボックスやブラックボックスの脅威モデルを超えた、配置ベースの防衛パラダイムを提案する。
  論文  参考訳（メタデータ） (2021-02-09T20:07:13Z)
• A Self-supervised Approach for Adversarial Robustness [105.88250594033053]
  敵対的な例は、ディープニューラルネットワーク(DNN)ベースの視覚システムにおいて破滅的な誤りを引き起こす可能性がある。 本稿では,入力空間における自己教師型対向学習機構を提案する。 これは、反逆攻撃に対する強力な堅牢性を提供する。
  論文  参考訳（メタデータ） (2020-06-08T20:42:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。