論文の概要: A Single Suffix to Break Them All: Basin-Aware Jailbreaks for Merged Model Families

• arxiv url: http://arxiv.org/abs/2608.26506v1
• Date: Thu, 27 Aug 2026 01:04:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-28 16:30:58.210943
• Title: A Single Suffix to Break Them All: Basin-Aware Jailbreaks for Merged Model Families
• Title（参考訳）: 統合モデル家族のための流域対応ジェイルブレイク(動画あり)
• Abstract要約: モデル統合は、事前訓練された基礎モデルに根ざした、これまで見過ごされていた脱獄リスクを明らかにする。 本報告では,ジェイルブレイク生成をマージ空間上でのmin-max最適化として定式化したtextbfBasin-Aware Jailbreak (BAJ)を提案する。
• 参考スコア（独自算出の注目度）: 8.092117000878151
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Model merging enables combining multiple fine-tuned models without additional training, but its safety implications remain poorly understood. Prior work primarily attributes merging risks to unsafe constituent models, implicitly assuming that merging individually aligned models preserves safety. In contrast, we show that model merging reveals a previously overlooked jailbreak risk rooted in the pretrained foundation model, even when all constituent models are individually safety-aligned. Motivated by this observation, we study a new threat setting where an attacker constructs jailbreak prompts that generalize across merged models sharing the same pretrained backbone, without access to the exact merging coefficients or constituent checkpoints. To exploit this phenomenon, we propose \textbf{Basin-Aware Jailbreak (BAJ)}, which formulates jailbreak generation as a min--max optimization over the merging space to produce transferable adversarial suffixes across merged model families. Experiments across diverse backbones and merging settings show that BAJ achieves consistently high transfer success rates and remains effective under existing defenses.
• Abstract（参考訳）: モデルマージは、追加のトレーニングなしで複数の微調整されたモデルを組み合わせることができるが、その安全性はいまだに理解されていない。 従来の作業は、マージリスクを安全でない構成モデルに起因しており、マージが個別に整合したモデルによって安全性が保たれることを暗黙的に仮定している。 対照的に、モデルマージは、事前訓練された基礎モデルに根ざした、これまで見過ごされていた脱獄リスクを明らかにする。 この観測により,攻撃者がジェイルブレイクのプロンプトを構築し,同じ事前学習されたバックボーンを共有するマージモデルに対して,正確なマージ係数や構成チェックポイントにアクセスすることなく,一般化する新たな脅威設定について検討した。 この現象を生かして、マージ空間上のmin-max最適化としてjailbreak生成を定式化して、マージされたモデルファミリ間で変換可能な逆接接尾辞を生成する、textbf{Basin-Aware Jailbreak (BAJ)を提案する。 様々なバックボーンとマージ設定の実験は、BAJが一貫して高い転送成功率を達成し、既存の防御下では有効であることを示している。

関連論文リスト

• Reasoning as an Attack Surface: Adaptive Evolutionary CoT Jailbreaks for LLMs [56.53007443197966]
  大規模推論モデル(LRM)は推論および生成タスクにおいて顕著な機能を示した。 彼らの明確なチェーン・オブ・シント(CoT)メカニズムは、新しいセキュリティリスクをもたらし、特にジェイルブレイク攻撃に対して脆弱である。 AE-CoTと呼ばれる適応的な進化的CoTジェイルブレイクフレームワークを提案し、これらの制限を克服する。
  論文  参考訳（メタデータ） (2026-05-23T10:11:32Z)
• When Safe Models Merge into Danger: Exploiting Latent Vulnerabilities in LLM Fusion [15.004295056225002]
  モデルマージは、追加の訓練コストなしで複数の微調整 LLM の特殊能力を組み合わせるための強力な技術として登場した。 私たちはTrojanMergeというフレームワークを紹介します。これは、潜伏する悪意のあるコンポーネントをソースモデルに埋め込むフレームワークで、個別に良性のままですが、マージ時にひどいミスアライメントモデルを生成します。
  論文  参考訳（メタデータ） (2026-04-01T08:32:46Z)
• Jailbreaking LLMs via Calibration [5.438637943927842]
  本稿では,次点予測に対する安全アライメントの効果を,事前配向分布の系統的歪みとしてモデル化する枠組みを提案する。 クロスエントロピー損失下において,ロジット・アセスメティック・ジェイルブレーキング法が特別な場合であることを示す。
  論文  参考訳（メタデータ） (2026-01-31T09:17:36Z)
• Attributing and Exploiting Safety Vectors through Global Optimization in Large Language Models [50.91504059485288]
  本報告では,全頭部のグローバルな最適化により,安全クリティカルな注意点を同時に識別するフレームワークを提案する。 我々は,アクティベーション・リマッチによって同定された安全ベクトルを利用する,新しい推論時ホワイトボックス・ジェイルブレイク法を開発した。
  論文  参考訳（メタデータ） (2026-01-22T09:32:43Z)
• Defending Unauthorized Model Merging via Dual-Stage Weight Protection [7.855764642324112]
  フリーライダーは、微調整されたモデルを認可なしで新しいマルチキャパビリティモデルに組み合わせる。 MergeGuardは、タスクの忠実さを維持しながら、マージ互換性を損なうフレームワークである。 MergeGuardはマージモデルの精度を最大90%削減し、保護モデルの性能損失は1.5%以下であることを示す。
  論文  参考訳（メタデータ） (2025-11-14T20:16:00Z)
• Do Not Merge My Model! Safeguarding Open-Source LLMs Against Unauthorized Model Merging [42.917732897026276]
  本稿では,無許可のマージを積極的に防止するプラグイン・アンド・プレイ・ディフェンスであるMergeBarrierを提案する。 実験により、MergeBarrierは、無視できる精度の損失を伴うモデルのマージ盗難を効果的に防いでいることが示された。
  論文  参考訳（メタデータ） (2025-11-13T09:45:47Z)
• Model Unmerging: Making Your Models Unmergeable for Secure Model Sharing [47.204542615541364]
  無許可のマージは、開発者の権利を侵害し、機密個人情報を漏洩するリスクを負う可能性がある。 本稿では,モデルパラメータを乱してマージ不能にするアクティブプロテクション機構であるMergeLockを提案する。 MergeLockは、保護されたモデルに関わる場合、マージされたモデルの性能を95%以上低下させることができる。
  論文  参考訳（メタデータ） (2025-09-01T15:24:41Z)
• Why LLM Safety Guardrails Collapse After Fine-tuning: A Similarity Analysis Between Alignment and Fine-tuning Datasets [64.96967819446553]
  本稿では,上流アライメントデータセットと下流微調整タスクの表現類似性のレンズによる安全ガードレールの劣化について検討する。 これらのデータセット間の高い類似性は、安全ガードレールを著しく弱め、モデルがジェイルブレイクの影響を受けやすくする。 これら2種類のデータセット間の類似性が低いと、より堅牢なモデルが得られ、有害度スコアが最大10.33%減少する。
  論文  参考訳（メタデータ） (2025-06-05T17:59:55Z)
• Merger-as-a-Stealer: Stealing Targeted PII from Aligned LLMs with Model Merging [49.270050440553575]
  この攻撃を実現するための2段階フレームワークである textttMerger-as-a-Stealer を提案する。 まず、攻撃者は悪意のあるモデルを微調整し、PII関連のクエリに応答するよう強制する。 次に、攻撃者は直接PII関連クエリをマージしたモデルに入力し、ターゲットPIIを抽出する。
  論文  参考訳（メタデータ） (2025-02-22T05:34:53Z)
• Jailbroken: How Does LLM Safety Training Fail? [92.8748773632051]
  ChatGPTの初期リリースに対する"jailbreak"攻撃は、望ましくない振る舞いを引き起こす。 このような攻撃がなぜ成功し、どのように発生できるかを考察する。 障害モードを利用した新たな攻撃は、安全でない要求の収集において、すべてのプロンプトで成功します。
  論文  参考訳（メタデータ） (2023-07-05T17:58:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。