論文の概要: SEMA-Auto: Sighted and Efficient Multi-Turn Attack with Autonomy

• arxiv url: http://arxiv.org/abs/2610.35743v2
• Date: Tue, 27 Oct 2026 19:30:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-30 22:39:27.506131
• Title: SEMA-Auto: Sighted and Efficient Multi-Turn Attack with Autonomy
• Title（参考訳）: SEMA-Auto: 自律型マルチTurn攻撃の目視と有効性
• Abstract要約: 既存の攻撃者は2つのクラスに分類される: 静的プランナーは事前に1ターンまたは複数ターンの敵の計画を修正し、単純だが被害者の応答を見失う。 本稿では,視覚的かつ効率的なマルチターン攻撃者SEMA-Autoを提案する。
• 参考スコア（独自算出の注目度）: 46.807402075993586
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Existing jailbreak attackers fall into two classes: static planners fix their single- or multi-turn adversarial plans in advance, remaining simple but losing sight of the victim's replies, wasting turns and limiting transferability; interactive generators read each victim reply to generate the next-turn attack but require in-loop evaluators for success signals or hints, incurring substantial costs and inflated performance. Bridging this gap, we propose SEMA-Auto, a sighted and efficient multi-turn attacker with autonomy, interacting with the victim model and terminating the session by itself upon success. To stabilize its behaviors and boost its capabilities, SEMA-Auto is trained in two stages. Synthetic bootstrap tuning installs the notion of attack targets and conforming decisions by fine-tuning the base model with bootstrapped trajectories. Decision-supervised reinforcement learning then optimizes two objectives jointly yet separately, reinforcing the attack with higher jailbreak reward while supervising the decision at each turn against an absolute target. Our method achieves state-of-the-art (SOTA) attack success rates (ASR) across multiple datasets, victims, and judges, outperforming all static and interactive baselines, within almost the fewest turns, demonstrating both effectiveness and efficiency. For example, SEMA-Auto performs a $76.0\%$ ASR@1 within an average of $3.0$ turns against DeepSeek-V4-Flash on AdvBench, while the best static baseline is $54.8\%$ with fixed $7$ turns and the best interactive baseline is $43.8\%$ in $3.7$ turns. Against safety-hardened frontier models, GPT-oss-120B, GPT-5.4, Claude-Haiku-4.5, and GPT-6-Astra, our counter-trained attacker achieves an average $59.6\%$ ASR@1 on HarmBench, $13.8\%$ over prior SOTA. Our code is available at: https://github.com/microsoft/SEMA
• Abstract（参考訳）: 既存のジェイルブレイク攻撃者は2つのクラスに分類される: 静的プランナーは、事前にシングルターンまたはマルチターンの敵の計画を修正し、被害者の応答を見失ったままにし、ターンを無駄にし、転送可能性を制限する。 このギャップを埋めたSEMA-Autoは、視覚的で効率的で自律的なマルチターン攻撃者であり、被害者モデルと相互作用し、成功時にセッション自体を終了させる。 動作の安定化と能力向上のために、SEMA-Autoは2つの段階で訓練されている。 合成ブートストラップチューニングは、ベースモデルをブートストラップされたトラジェクトリで微調整することで、アタックターゲットの概念と決定に従う。 決定監督型強化学習は2つの目的を別々に最適化し、攻撃をより高いジェイルブレイク報酬で強化し、各ターンにおける決定を絶対目標に対して監督する。 提案手法は,複数のデータセット,被害者,審査員に対する攻撃成功率(ASR)を達成し,ほぼ最小のターンで,静的かつ対話的なベースラインをすべて上回り,有効性と効率性を実証する。 例えば、SEMA-AutoはAdvBenchのDeepSeek-V4-Flashに対して平均$3.0$ターンで$76.0\%のASR@1を実行し、最高の静的ベースラインは$54.8\%、固定された$7$ターンで$54.8\%、最高のインタラクティブベースラインは$43.8\%の$3.7$ターンである。 安全強化フロンティアモデルであるGPT-oss-120B,GPT-5.4,Claude-Haiku-4.5,GPT-6-Astraに対して,攻撃者は平均59.6\%,HumBenchでは13.8\%,SOTAでは平均59.6\%,SOTAでは13.8\%を達成した。 私たちのコードは、https://github.com/microsoft/SEMAで利用可能です。

関連論文リスト

• Fully Unleashing the Multimodal Attacker: Meta-Adaptive Jailbreaking of Vision-Language Models [25.860894697929737]
  本稿では,攻撃の繰り返しを統括する攻撃戦略プロンプト(ASP)と攻撃の有効性を決定する攻撃モデル重み付けの2つの軸に沿って攻撃者自身を最適化するメタ適応型マルチモーダル・ジェイルブレーキング(MAMJ)を提案する。 MM-SafetyBenchでは、GPT-4o、Gemini-3-Pro-adaptive、Seed 2.0に対して81.0%、78.9%、82.3%のASRを達成した。
  論文  参考訳（メタデータ） (2026-08-27T15:23:22Z)
• Adaptive Adversaries: A Multi-Turn, Multi-LLM Benchmark for LLM Agent Security [2.3029886838540032]
  LLMベースのエージェントは外部コンテンツを処理し、インジェクションとマルチターン操作のプロンプトに公開する。 メモリレスLLMディフェンダーに対するマルチラウンド攻撃を強調するための21-scenarioベンチマークを提案する。
  論文  参考訳（メタデータ） (2026-07-20T15:30:38Z)
• ADV-0: Closed-Loop Min-Max Adversarial Training for Long-Tail Robustness in Autonomous Driving [63.980630608984605]
  本稿では、ゼロサムマルコフゲームとして、駆動ポリシー(ディフェンダー)と敵エージェント(アタックラー)の相互作用を扱うクローズドループのmin-max最適化フレームワークであるADV-0を提案する。 これを実現するため,我々は動的敵の進化を反復的な選好学習とし,この最適性を効率的に近似し,アルゴリズムに依存しない解をゲームに提供する。 実験により、多様な安全クリティカルな障害を効果的に露呈し、学習方針と運動プランナーの両方の一般化可能性を大幅に向上させることが示されている。
  論文  参考訳（メタデータ） (2026-03-16T12:58:31Z)
• SEMA: Simple yet Effective Learning for Multi-Turn Jailbreak Attacks [53.97948802255959]
  本稿では,既存の戦略や外部データに頼ることなく,マルチターン攻撃者を訓練するフレームワークを提案する。 準備された自己調整は、非拒否的で、よく構造化された、多ターンの逆のプロンプトを微調整することで、使用可能なロールアウトを可能にする。 私たちは、意図の整合性、コンプライアンスリスク、詳細レベルを組み合わせたインテントドリフト対応の報酬を通じて、多ターンジェイルブレイクにおける有害な意図を保ちます。
  論文  参考訳（メタデータ） (2026-02-06T16:44:57Z)
• Siren: A Learning-Based Multi-Turn Attack Framework for Simulating Real-World Human Jailbreak Behaviors [12.550678408719756]
  本研究では,実世界の人間のジェイルブレイク行動のシミュレーションを目的とした,学習に基づくマルチターン攻撃フレームワークを提案する。 実験の結果、サイレンはLLaMA-3-8Bを攻撃者として90%の攻撃成功率(ASR)を達成した。 我々は、サイレンが先進的な多ターンジェイルブレイク攻撃に対するより強力な防御の開発を促すことを願っている。
  論文  参考訳（メタデータ） (2025-01-24T05:31:27Z)
• Deep Adversarial Defense Against Multilevel-Lp Attacks [5.604868766260297]
  本稿では,EMRC法 (Efficient Robust Mode Connectivity) と呼ばれる,計算効率の良いマルチレベル$ell_p$ディフェンスを提案する。 連続最適化で用いられる解析的継続アプローチと同様に、この手法は2つの$p$特化逆最適化モデルをブレンドする。 我々は,AT-$ell_infty$,E-AT,MSDと比較して,本手法が様々な攻撃に対して優れていることを示す実験を行った。
  論文  参考訳（メタデータ） (2024-07-12T13:30:00Z)
• Bridging Models to Defend: A Population-Based Strategy for Robust Adversarial Defense [70.39517230717126]
  敵の堅牢性(Adrial robustness)は、ニューラルネットワークが推論時に敵の攻撃に耐える能力の重要な尺度である。 本稿では,新しいロバストモード接続性(RMC)指向の対角防御フレームワークを提案する。 提案手法は, $ell_infty$, $ell$, およびハイブリッド攻撃に対するロバスト性を大幅に向上させることを示す。
  論文  参考訳（メタデータ） (2023-03-17T19:49:10Z)
• Practical Evaluation of Adversarial Robustness via Adaptive Auto Attack [96.50202709922698]
  実用的な評価手法は、便利な(パラメータフリー)、効率的な(イテレーションの少ない)、信頼性を持つべきである。 本稿では,パラメータフリーな適応オートアタック (A$3$) 評価手法を提案する。
  論文  参考訳（メタデータ） (2022-03-10T04:53:54Z)
• Robustifying $\ell_\infty$ Adversarial Training to the Union of Perturbation Models [120.71277007016708]
  我々は、広く普及しているシングルアタック$ell_infty$ ATフレームワークの機能を拡張する。 我々の手法はSNAP(Noss Augmented Processing)と呼ばれ、単一攻撃ATフレームワークの優れた副産物を利用する。 SNAPは、標準的なシングルアタックATを用いて、ネットワークパラメータとともに分布を学習する形状のノイズ増強層を持つ、与えられたディープネットをプリペイドする。
  論文  参考訳（メタデータ） (2021-05-31T05:18:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。