論文の概要: Cross-Generational Transfer of Adversarial Attacks Reveals Non-Monotonic Safety Alignment in LLMs
- arxiv url: http://arxiv.org/abs/2606.00813v1
- Date: Sat, 30 May 2026 17:07:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-02 21:34:28.859239
- Title: Cross-Generational Transfer of Adversarial Attacks Reveals Non-Monotonic Safety Alignment in LLMs
- Title（参考訳）: LLMにおける非単調な安全アライメントを有する敵攻撃のクロスジェネレーション転送
- Abstract要約: 我々は,GoogleのGemmaファミリー(7B-31B)の4世代にわたる品質多様性進化(MAP-Elites)を自動リピートプローブとして研究した。
Gemma 3 (12B) は 68.7% +/- 5.7% の攻撃成功率 (ASR; mean +/-, 3 seed) を示し, Gemma 2 よりもかなり高い値を示した。
世代間で進化した攻撃アーカイブの再生は、他の世代からの攻撃がGemma 3に44-46%で転送されるが、Gemma 4への攻撃はわずか14-18%であることを示している。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Safety alignment in LLMs does not improve monotonically across model generations. Studying four generations of Google's Gemma family (7B-31B) with quality-diversity evolution (MAP-Elites) as an automated red-teaming probe, we find that Gemma 3 (12B) exhibits 68.7% +/- 5.7% attack success rate (ASR; mean +/- std, 3 seeds), significantly higher than its predecessor Gemma 2 (45.5% +/- 7.2%; p = 0.030, paired bootstrap) and its successor Gemma 4 (33.9% +/- 1.8%). Replaying evolved attack archives across generations reveals that attacks from other generations transfer to Gemma 3 at 44-46% but only 14-18% to Gemma 4, indicating that Gemma 4's safety gains generalize beyond the attack distributions evolved against earlier generations. Under our 8B judge, copyright and cybercrime vulnerabilities register at near-100% across all generations, though a second-judge audit (Section 6) suggests the copyright result is sensitive to judge choice. Misinformation ASR jumps from 29% to 99% between Gemma 2 and Gemma 3 and remains elevated at 77% in Gemma 4, indicating the regression was not fully addressed. These patterns are invisible to static benchmarks and emerge only through adaptive, longitudinal probing. All experiments use 3 random seeds with a unified self-hosted judge; code and artifacts are available at https://github.com/bassrehab/red-queen.
- Abstract（参考訳）: LLMの安全性アライメントは、モデル世代間で単調に改善されない。
Google の Gemma family (7B-31B) の4世代を自動リピートプローブとして品質多様性の進化 (MAP-Elites) を調べたところ、Gemma 3 (12B) は68.7% +/-57% の攻撃成功率 (ASR; mean +/-std, 3 seed) を示し、前世代 Gemma 2 (45.5% +/- 7.2%; p = 0.030, paired bootstrap) と後継 Gemma 4 (33.9% +/- 1.8%) よりもかなり高い値を示した。
世代間で進化した攻撃アーカイブを再生すると、他の世代からの攻撃は44-46%でGemma 3に移行したが、Gemma 4に14-18%しか移行していないことが分かる。
われわれの8B判事の下では、著作権とサイバー犯罪の脆弱性は全世代にわたって100%近く登録されている。
誤情報 ASR は Gemma 2 と Gemma 3 の間で 29% から 99% に増加し,Gemma 4 では 77% に上昇している。
これらのパターンは静的なベンチマークでは見えず、適応的で縦方向のプローブを通してのみ現れる。
コードとアーティファクトはhttps://github.com/bassrehab/red-queen.orgで公開されている。
関連論文リスト
- Divide, Consult, Conquer: Capability Laundering Through Aligned LLMs [5.665336335540464]
より弱い非整合モデルにより、有害なタスクを良さそうなサブプロブレムに分割し、互いに独立してより強い整合モデルを参照し、局所的に回答を組み合わせることができることを示す。
我々は,原フロンティアモデルが解決するタスク,整列フロンティアが拒否するタスク,無支援オーケストレータが失敗するタスクを用いて,コンサルテーション支援の隆起を測定する。
論文 参考訳（メタデータ） (2026-09-14T11:10:57Z) - DarwinX: Evolving Agent Harnesses Through Natural Selection [48.64258219266629]
ダーウィンXは自己進化を、モデルが凍結されたハーネスの集団の選択として扱う。
一般的なエージェント能力はベンチマーク固有のパッチではなく、タスク、検証、ベースモデルの変更を生き残る。
論文 参考訳（メタデータ） (2026-07-31T05:34:02Z) - Abliteration Is Not a Scalpel: Off-Target Effects of Refusal Removal on Decision Disposition Across Model Families [51.56484100374058]
放棄 — モデルの拒絶方向を重みから取り除く — は、一般的な"アンセンソルド"なオープンウェイトモデルの標準的なレシピである。
ディスポジションプローブとして21,600個の決定を不確実性の下で使用し、凍結パイプラインを通じて再生することにより、決定層モデルが唯一の変数となる。
3つのエフェクトは2つのファミリーにまたがって複製される(ゼロを除く週間クラスターCI)
4つ目の効果は符号を逆転する:同じ操作によりGemmaで読み取られた方が自信が弱まり、Qwenで読み取られたものがより多くなる(ファミリーCIは重複しない)。
論文 参考訳（メタデータ） (2026-07-19T22:27:00Z) - Gemma 4 Technical Report [199.38174392182012]
我々はGemmaモデルファミリに、オープンソースのネイティブなマルチモーダル言語モデルの新世代のGemma 4を紹介する。
Gemma 4のモデルスイートは2.3Bから31Bまで、密集したMixture-of-Expertsアーキテクチャを備えている。
生音声や画像のパッチを取り込み,12Bモデルのための統一型エンコーダフリーアーキテクチャを提案する。
論文 参考訳（メタデータ） (2026-07-02T21:08:53Z) - BioRefusalAudit: Auditing Biosecurity Refusal Depth Using General and Domain-Fine-Tuned Sparse Autoencoders [0.0]
5つのアーキテクチャにまたがって、モデルでは、危険から良性をきれいに区別することはできません。
我々はスケジュールIのパネルを試験したが、生物学的には毒性のない化合物を試験した。
予備的な証拠は、アクティベーションレベルの監査が行動評価に見えない障害モードを表面化する可能性を示唆している。
論文 参考訳（メタデータ） (2026-05-28T16:18:07Z) - Latent Adversarial Detection: Adaptive Probing of LLM Activations for Multi-Turn Attack Detection [0.0]
マルチターンプロンプトインジェクションは既知の攻撃経路に従う。
この攻撃経路はモデルの残差ストリームにアクティベーションレベルシグネチャを残していることを示す。
論文 参考訳（メタデータ） (2026-04-30T17:16:33Z) - Gemma 3 Technical Report [198.3299202423321]
Gemma 3は、軽量オープンモデルのGemmaファミリに対するマルチモーダルな追加である。
このバージョンでは、視覚理解能力、より広範な言語カバレッジ、より長いコンテキストが導入されている。
また、長いコンテキストで爆発しがちなKVキャッシュメモリを減らすために、モデルのアーキテクチャを変更します。
論文 参考訳（メタデータ） (2025-03-25T15:52:34Z) - Gemma Scope: Open Sparse Autoencoders Everywhere All At Once on Gemma 2 [11.169778211035826]
スパースオートエンコーダ(SAE)は、ニューラルネットワークの潜在表現を解釈可能な特徴に学習するための教師なしの方法である。
本研究では,JumpReLU SAEのオープンスイートであるGemma Scopeを紹介した。
各SAEの品質を標準メトリクスで評価し、その結果を公表する。
論文 参考訳（メタデータ） (2024-08-09T16:06:42Z) - WildGuard: Open One-Stop Moderation Tools for Safety Risks, Jailbreaks, and Refusals of LLMs [54.10865585773691]
LLM安全性のためのオープンで軽量なモデレーションツールであるWildGuardを紹介します。
WildGuardは、ユーザプロンプトにおける悪意のある意図の特定、モデルレスポンスの安全性リスクの検出、モデル拒絶率の決定という3つの目標を達成する。
論文 参考訳（メタデータ） (2024-06-26T16:58:20Z) - PAL: Proxy-Guided Black-Box Attack on Large Language Models [55.57987172146731]
大規模言語モデル(LLM)は近年人気が高まっているが、操作時に有害なコンテンツを生成する能力を示している。
PAL(Proxy-Guided Attack on LLMs)は, ブラックボックスクエリのみの設定で, LLMに対する最初の最適化ベースの攻撃である。
GPT-3.5-Turboの攻撃成功率は84%,Llama-2-7Bの攻撃成功率は48%であった。
論文 参考訳（メタデータ） (2024-02-15T02:54:49Z) - Defending Large Language Models Against Jailbreaking Attacks Through Goal Prioritization [98.18718484152595]
本研究は,学習段階と推論段階の両方において,目標の優先順位付けを統合することで,支援と安全性の確保という目標との本質的な対立に対処することを提案する。
我々の研究は、脱獄攻撃と防衛の理解に寄与し、LLMの能力と安全性の関係に光を当てている。
論文 参考訳（メタデータ） (2023-11-15T16:42:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。