論文の概要: Certified Multi-Turn Robustness for LLM Safety via Compositional Bounds and Safety Persistence

• arxiv url: http://arxiv.org/abs/2608.20820v1
• Date: Fri, 21 Aug 2026 07:43:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-24 14:49:32.446944
• Title: Certified Multi-Turn Robustness for LLM Safety via Compositional Bounds and Safety Persistence
• Title（参考訳）: 組成境界と安全パーシステンスによるLLM安全のための認定多軸ロバストネス
• Abstract要約: 我々は,国家反逆型MDPを通して会話の安全性をモデル化するフレームワークであるMTCR(Multi-Turn Certified Robustness)を紹介する。 MTCRは、(i)埋め込み空間モード分解による合成認証、(ii)$(,)$-safety Persistence、$underlinepk$から$k$への劣化率の改善、(iii)厳密性を確立する情報理論上界のマッチング、(iv)これらの結果を組み合わせた統一アルゴリズムを含む。
• 参考スコア（独自算出の注目度）: 23.48134583913281
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) are vulnerable to multi-turn jailbreak attacks that progressively manipulate conversation context. Existing certified robustness methods are limited to single-turn inputs; naive multi-turn composition yields bounds that degrade exponentially in the number of turns. We introduce Multi-Turn Certified Robustness (MTCR), a framework that models conversational safety via State-Adversarial MDPs and defines $k$-turn certified robustness as the worst-case safety probability across $k$ adversarial turns. MTCR comprises: (i) compositional certification via embedding-space mode decomposition, yielding tighter certified lower bounds than naive multiplication; (ii) $(α,β)$-safety persistence, improving the degradation rate from $\underline{p}^{k}$ to $β^k$ (with $β> \underline{p}$) and yielding interpretable horizon estimates; (iii) matching information-theoretic upper bounds establishing tightness; and (iv) a unified algorithm combining these results. Experiments on six LLMs under $ε$-bounded and Crescendo-style attacks confirm that empirical safety consistently exceeds the certified bounds.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、会話コンテキストを段階的に操作するマルチターンジェイルブレイク攻撃に対して脆弱である。 既存の証明されたロバストネス法はシングルターン入力に限られており、単純多ターン合成はターン数で指数関数的に低下する境界を生じる。 我々は,Multi-Turn Certified Robustness(MTCR)を紹介した。これは,国家反逆型MDPによる会話安全をモデル化するフレームワークで,$k$ターン認証ロバストネスを,$k$逆向きのターンで最悪のケース安全確率として定義する。 MTCR は: (i)埋め込み空間モード分解による構成証明であって、単純乗算よりも厳密な認証下限である。 (ii)$(α,β)$-safety Persistence,$\underline{p}^{k}$から$β^k$($β> \underline{p}$)への分解率の向上,解釈可能な地平線推定値の生成。 三 整合性を確立する情報理論上界と整合性 (iv)これらの結果を組み合わせた統一アルゴリズム。 ε$-bounded および Crescendo スタイルの攻撃下での6つの LLM の実験では、経験的安全性が認定された境界を超えていることが確認されている。

関連論文リスト

• FUSE: An Evaluating Framework for Dangerous Capabilities of LLMs [24.30721158142313]
  フラグメンテッド安全評価は、危険なAI機能のガバナンスを損なう。 Knowledge、Defense、Harmの3つの直交パイプラインを通して各モデルを評価するモジュラーフレームワークを提案する。 最初のコントリビューションは、モデルとモデルファミリ間の危険能力の水平比較です。 モデルリリース日に対する$K$、$D$、および$H$の追跡は、危険な能力が単調に低下していないことを示している。
  論文  参考訳（メタデータ） (2026-09-02T06:31:39Z)
• MMAligner: Safeguarding Multimodal Large Language Models through Representation Calibration [34.42959451448432]
  MLLM(Multimodal large language model)は、安全でないテキストプロンプトを拒否するが、意味的に等価なマルチモーダル入力に対する有害な応答を生成する。 MLLM表現を幾何学的に解析し、この安全性の相違の原因を特定する。 既存の拒絶領域に安全でないマルチモーダル表現を校正する保護手法であるMMAlignerを提案する。
  論文  参考訳（メタデータ） (2026-08-06T11:39:08Z)
• Harnessing Textual Refusal Directions for Multimodal Safety [70.16764304975675]
  マルチモーダルセーフティデータを必要とせずにマルチモーダルセーフティを注入する軽量なトレーニングフリーアプローチであるModality-Agnostic Refusal Steering (MARS)を導入する。 MARSは、アクティベーションリセンタによるモダリティの不整合を補正し、幾何的に定義された信頼領域内でステアリング強度を適応的にスケーリングし、最適な介入層を選択する。
  論文  参考訳（メタデータ） (2026-06-30T15:57:50Z)
• MultiBreak: A Scalable and Diverse Multi-turn Jailbreak Benchmark for Evaluating LLM Safety [34.69024935656433]
  MultiBreakは、大規模言語モデル(LLM)の安全性を評価するために、スケーラブルで多様なマルチターンジェイルブレイクベンチマークである。 我々のベンチマークは、DeepSeek-R1-7BとGPT-4.1-miniの2番目に高いデータセットよりも54.0と34.6高い攻撃成功率(ASR)を達成した。
  論文  参考訳（メタデータ） (2026-05-03T02:55:30Z)
• BarrierSteer: LLM Safety via Learning Barrier Steering [83.12893815611052]
  BarrierSteerは、学習した非線形安全性制約を直接モデルの潜在表現空間に埋め込むことで、安全性を形式化する新しいフレームワークである。 BarrierSteerは、敵の成功率を大幅に低下させ、安全でない世代を減少させ、既存の手法より優れていることを示す。
  論文  参考訳（メタデータ） (2026-02-23T18:19:46Z)
• CSR-Bench: A Benchmark for Evaluating the Cross-modal Safety and Reliability of MLLMs [10.42126976065225]
  MLLM(Multimodal large language model)は、テキストと画像の相互作用を可能にする。 本稿では,クロスモーダル信頼性を評価するベンチマークであるCSR-Benchを紹介する。 我々は16の最先端MLLMを評価し,系統的な相互アライメントギャップを観察した。
  論文  参考訳（メタデータ） (2026-02-03T08:49:44Z)
• SaFeR-VLM: Toward Safety-aware Fine-grained Reasoning in Multimodal Models [66.71948519280669]
  MLRM(Multimodal Large Reasoning Models)は、クロスモーダルな推論を示すが、しばしば敵のプロンプトによる安全性のリスクを増幅する。 既存の防御は主に出力レベルで動作し、推論プロセスを制約せず、モデルは暗黙のリスクに置かれる。 4つのコンポーネントを統合し,表面レベルのフィルタリングを超える動的かつ解釈可能な安全性決定をサポートするSaFeR-VLMを提案する。
  論文  参考訳（メタデータ） (2025-10-08T10:39:12Z)
• Boundary-to-Region Supervision for Offline Safe Reinforcement Learning [56.150983204962735]
  バウンダリ・トゥ・レギオン(Bundary-to-Region, B2R)は、コスト信号による非対称な条件付けを可能にするフレームワークである。 B2Rは、CTGを固定された安全予算の下で境界制約として再定義し、すべての実行可能な軌道のコスト分布を統一する。 実験の結果,B2Rは38項目中35項目の安全制約を満たすことがわかった。
  論文  参考訳（メタデータ） (2025-09-30T03:38:20Z)
• Core Safety Values for Provably Corrigible Agents [2.6451153531057985]
  我々は,複数段階の部分的に観察された環境において,検証可能な保証を付与し,適応性のための最初の実装可能なフレームワークを紹介した。 私たちのフレームワークは、単一の報酬を5つの*構造的に分離された*ユーティリティヘッドに置き換えます。 敵がエージェントを修正できるオープンエンド設定では、任意のポストハックエージェントが調整性に反するかどうかを判断することは不可能である。
  論文  参考訳（メタデータ） (2025-07-28T16:19:25Z)
• SafePTR: Token-Level Jailbreak Defense in Multimodal LLMs via Prune-then-Restore Mechanism [123.54980913741828]
  MLLM(Multimodal Large Language Models)は、視覚的推論をサポートするためにLLMを拡張する。 MLLMは、マルチモーダルなジェイルブレイク攻撃や安全なデプロイメントを妨げる可能性がある。 セーフ・プルー・テン・レストア(Safe Prune-then-Restore, SafePTR)は、有害なトークンを脆弱な層で選択的にプルーすると同時に、その後の層で良質な機能を復元する、トレーニング不要の防御フレームワークである。
  論文  参考訳（メタデータ） (2025-07-02T09:22:03Z)
• Improving LLM Safety Alignment with Dual-Objective Optimization [81.98466438000086]
  大規模言語モデル(LLM)の既存のトレーニング時間安全アライメント技術は、ジェイルブレイク攻撃に対して脆弱なままである。 本研究では,DPOの目的を2つの構成要素にまとめる安全アライメントの改善について提案する。(1) 安全でない世代が部分的に発生しても拒否を促す頑健な拒絶訓練,(2) 有害な知識の未学習。
  論文  参考訳（メタデータ） (2025-03-05T18:01:05Z)
• Multichannel Steganography: A Provably Secure Hybrid Steganographic Model for Secure Communication [0.0]
  Secret-seeded PRNGは軽量なMarkovチェーンジェネレータを駆動し、文脈的に妥当なカバーパラメータを生成する。 マスケビットベクターは、分散を意識した最小有意ビットアルゴリズムにより、従来のメディアに受容不能に埋め込まれる。 我々は,マルチチャネルの敵モデル (MC-ATTACK) を定式化し,標準的なセキュリティ仮定の下では,敵の識別上の優位性は無視可能であることを示す。
  論文  参考訳（メタデータ） (2025-01-08T13:58:07Z)
• MIBP-Cert: Certified Training against Data Perturbations with Mixed-Integer Bilinear Programs [50.41998220099097]
  トレーニング中のデータエラー、汚職、中毒攻撃は、現代のAIシステムの信頼性に大きな脅威をもたらす。 混合整数双線形プログラミング(MIBP)に基づく新しい認証手法MIBP-Certを紹介する。 摂動データや操作データを通じて到達可能なパラメータの集合を計算することで、可能なすべての結果を予測することができ、堅牢性を保証することができる。
  論文  参考訳（メタデータ） (2024-12-13T14:56:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。