Fugu-MT 論文翻訳(概要): $M^3$: A Multi-LLM System for Multi-Turn Jailbreaking as a Markov Decision Process

論文の概要: $M^3$: A Multi-LLM System for Multi-Turn Jailbreaking as a Markov Decision Process

arxiv url: http://arxiv.org/abs/2610.31937v1
Date: Thu, 22 Oct 2026 21:35:21 GMT
ステータス: 翻訳完了
システム内更新日: 2026-10-27 01:38:06.299135
Title: $M^3$: A Multi-LLM System for Multi-Turn Jailbreaking as a Markov Decision Process
Title（参考訳）: $M^3$:マルコフ決定過程としてのマルチターンジェイルブレークのためのマルチLLMシステム
Abstract要約: 有限水平マルコフ決定プロセス(MDP)としてマルチターンジェイルブレイクを形式化する自動赤チームフレームワークを導入する。 M3$は、アタック成功率(ASR)における最先端のマルチターン・リターン・リピート手法を一貫して上回る M3$は、会話のターンよりもリスクエスカレーションの急激な増加を示し、事前に定義されたリスク分類に頼ることなく、リスクカテゴリ全体でより一貫性のあるパフォーマンスを達成する。
参考スコア（独自算出の注目度）: 3.9801383965878805
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Modern Large Language Models (LLMs) remain vulnerable to carefully orchestrated multi-turn interactions that progressively bypass safety mechanisms. However, many existing red-teaming approaches rely on heuristics or impose strong assumptions that limit their applicability in fully black box settings. We address this gap by introducing $M^3$, an automated red-teaming framework that formalizes multi-turn jailbreaking as a finite-horizon Markov Decision Process (MDP). In $M^3$, an attacker LLM interacts with a target LLM while operating over a compact internal state produced by a state LLM. Across two benchmarks and six target models, $M^3$ consistently outperforms state-of-the-art multi-turn red-teaming methods in Attack Success Rates (ASR), achieving improvements of up to 53% in ASR@5. Even with lightweight attacker, $M^3$ attains gains up to 26% in ASR@1 and 34% in ASR@5, compared to baselines that use higher capacity attackers. Beyond improved effectiveness, $M^3$ exhibits steeper risk escalation over conversational turns and achieves more consistent performance across risk categories (up to 4.82 improvement in Gini index) without relying on predefined risk taxonomy, providing a scalable and principled framework for multi-turn red-teaming and safety evaluation.
Abstract（参考訳）: 現代大規模言語モデル(LLM)は、安全メカニズムを段階的にバイパスする、慎重に編成されたマルチターンインタラクションに対して脆弱なままである。しかし、既存のレッドチームアプローチの多くはヒューリスティックスに依存し、完全にブラックボックスの設定で適用性を制限する強い仮定を課している。マルチターンジェイルブレイクを有限水平マルコフ決定プロセス(MDP)として形式化する自動赤チームフレームワークであるM^3$を導入することで、このギャップに対処する。 M^3$ では、攻撃者 LLM は、状態 LLM によって生成されるコンパクトな内部状態を操作しながら、ターゲット LLM と相互作用する。 2つのベンチマークと6つのターゲットモデルで、M^3$は、ASR(Attack Success Rates)における最先端のマルチターンリピート手法を一貫して上回り、ASR@5で最大53%の改善を実現している。軽量アタッカーであっても、ASR@1で最大26%、ASR@5で34%のアップを達成できる。効果の改善に加えて、$M^3$は会話のターンよりもリスクエスカレーションの急激な増加を示し、事前定義されたリスク分類に頼ることなく、リスクカテゴリ全体(Giniインデックスの4.82の改善まで)でより一貫したパフォーマンスを実現し、マルチターンのリピートと安全性評価のためのスケーラブルで原則化されたフレームワークを提供する。

論文の概要: $M^3$: A Multi-LLM System for Multi-Turn Jailbreaking as a Markov Decision Process

関連論文リスト