Fugu-MT 論文翻訳(概要): EvoFlint: An Evolutionary Atlas of Multi-Turn LLM Vulnerabilities

論文の概要: EvoFlint: An Evolutionary Atlas of Multi-Turn LLM Vulnerabilities

arxiv url: http://arxiv.org/abs/2609.00487v1
Date: Mon, 31 Aug 2026 23:33:33 GMT
ステータス: 翻訳完了
システム内更新日: 2026-09-02 16:31:36.163813
Title: EvoFlint: An Evolutionary Atlas of Multi-Turn LLM Vulnerabilities
Title（参考訳）: EvoFlint: マルチTurn LLM脆弱性の進化的アトラス
Abstract要約: 進化的品質多様性探索を多ターン赤チームに適用するEvoFlintを紹介した。リスクインデックス付きアーカイブは、各セルに埋め込まれた戦略記述に関するローカルコンペティションと新規検索を実行する。その結果、リスクカテゴリによって組織されたアーカイブは、その安全トレーニングのどのカテゴリが対象であり、カバーされていないかを各ターゲットに公開する。
参考スコア（独自算出の注目度）: 21.962003812448472
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Frontier language models that refuse harmful single-turn prompts often comply when the same intent is reached gradually over many turns, making multi-turn attacks one of the least understood failure modes of large language models. Most automated red-teaming methods treat this as a generation problem: produce attacks that break the model. We argue it is better framed as a search problem: discover, organize, and iteratively refine a diverse archive of attack strategies, producing a structured map of how a target model fails rather than a list of one-off successes. We introduce EvoFlint, which applies evolutionary quality-diversity search to multi-turn red-teaming. Attack strategies are phased conversation plans, not raw prompts, and are evolved through LLM-driven mutation and crossover. A Pareto fitness over attack success rate and peak severity preserves selection signal from near-miss attacks. A risk-indexed archive runs novelty search with local competition over strategy description embeddings inside each cell, maintaining diversity without committing to a predefined style taxonomy. A generation-level memory accumulates target-model insights across the population and feeds them back into strategy generation. On the HarmBench-test split, EvoFlint reaches attack success rates of 35.8% on Claude Sonnet 4.6, 59.7% on GPT-5.4, and 94.3% on Qwen3-32B, alongside 98.7% on the older GPT-4o included as a baseline reference. The resulting archive, organized by risk category, exposes for each target which categories of harm its safety training has and has not covered.
Abstract（参考訳）: 有害な単一ターンプロンプトを拒否するフロンティア言語モデルは、多くのターンで同じ意図が徐々に到達した時にしばしば従う。ほとんどの自動化されたリチーム方式は、これを世代問題として扱います。多様な攻撃戦略のアーカイブを発見し、整理し、反復的に洗練し、単一成功のリストではなく、ターゲットモデルがどのように失敗するかを構造化したマップを作成する。進化的品質多様性探索を多ターン赤チームに適用するEvoFlintを紹介した。攻撃戦略は段階的な会話計画であり、生のプロンプトではない。攻撃成功率とピーク重大度に対するパレートフィットネスは、ニアミス攻撃からの選択信号を保存する。リスクインデクシングされたアーカイブは、各セル内に埋め込まれた戦略記述に関するローカルコンペティションによる新規検索を実行し、事前に定義されたスタイルの分類にコミットすることなく多様性を維持する。世代レベルのメモリは、人口全体でターゲットモデルの洞察を蓄積し、戦略生成にフィードバックする。 HarmBench-testの分割で、EvoFlintはClaude Sonnet 4.6で35.8%、GPT-5.4で59.7%、Qwen3-32Bで94.3%、GPT-4oで98.7%の攻撃成功率に達した。その結果、リスクカテゴリによって組織されたアーカイブは、その安全トレーニングのどのカテゴリが対象であり、カバーされていないかを各ターゲットに公開する。

関連論文リスト

Quality-Diversity Evolution for Discovering Diverse Vulnerabilities in LLM Safety [0.0]
セマンティックレベルで機能する品質多様性進化フレームワークを導入する。我々は行動的な側面をまたいだ多様な攻撃のアーカイブを維持している。意味表現は、体系的、モデル固有の弱点を示す解釈可能な攻撃を生成する。
論文参考訳（メタデータ） (2026-05-30T16:40:24Z)
ContextualJailbreak: Evolutionary Red-Teaming via Simulated Conversational Priming [0.0]
大規模言語モデル(LLM)は、安全アライメントを回避し、有害な応答を誘発するジェイルブレイク攻撃に対して脆弱なままである。我々は,マルチターン素数対話をシミュレートした進化探索を行う,ブラックボックスのレッドチーム戦略であるContextualJailbreakを提案する。
論文参考訳（メタデータ） (2026-05-04T14:32:40Z)
SEMA: Simple yet Effective Learning for Multi-Turn Jailbreak Attacks [53.97948802255959]
本稿では,既存の戦略や外部データに頼ることなく,マルチターン攻撃者を訓練するフレームワークを提案する。準備された自己調整は、非拒否的で、よく構造化された、多ターンの逆のプロンプトを微調整することで、使用可能なロールアウトを可能にする。私たちは、意図の整合性、コンプライアンスリスク、詳細レベルを組み合わせたインテントドリフト対応の報酬を通じて、多ターンジェイルブレイクにおける有害な意図を保ちます。
論文参考訳（メタデータ） (2026-02-06T16:44:57Z)
OpenRT: An Open-Source Red Teaming Framework for Multimodal LLMs [36.57820295876294]
MLLMの安全性評価のための統一的,モジュール型,高スループットのRed-teamingフレームワークであるOpenRTを紹介した。 OpenRTのコアとなるのは,5次元にわたるモジュール分離を可能にする対角カーネルを導入することで,自動化された再チームのパラダイムシフトだ。このフレームワークは、ホワイトボックス勾配、マルチモーダル摂動、高度なマルチエージェント進化戦略など、37の多様な攻撃手法を統合している。
論文参考訳（メタデータ） (2026-01-04T16:41:33Z)
Automating Deception: Scalable Multi-Turn LLM Jailbreaks [0.7212939068975618]
フット・イン・ザ・ドア(FITD)のような心理的原理を活用する多ターン会話攻撃は、大規模言語モデル(LLM)に永続的な脅威をもたらす。本稿では,大規模で心理的なマルチターンジェイルブレイクデータセットを生成するための,新しい自動パイプラインを提案する。マルチターン(歴史のない)とシングルターン(歴史のない)の条件下で,3つのLLMファミリーから7つのモデルを評価する。
論文参考訳（メタデータ） (2025-11-24T03:15:11Z)
Tree-based Dialogue Reinforced Policy Optimization for Red-Teaming Attacks [63.803415430308114]
現在の大規模言語モデルは、マルチターンインタラクション設定における敵攻撃に対して脆弱である。本研究では,木探索と統合したオンライン強化学習フレームワークであるDialTree-RPOを提案する。提案手法は,従来の最先端手法と比較して,10のターゲットモデルに対して25.9%以上のASRを実現している。
論文参考訳（メタデータ） (2025-10-02T17:57:05Z)
Active Attacks: Red-teaming LLMs via Adaptive Environments [71.55110023234376]
大規模言語モデル(LLM)に対する多様な攻撃プロンプトを生成するという課題に対処する。我々は、犠牲者が進化するにつれて攻撃に適応する新しいRLベースのレッドチームアルゴリズムであるtextitActive Attacksを導入する。
論文参考訳（メタデータ） (2025-09-26T06:27:00Z)
Advancing Jailbreak Strategies: A Hybrid Approach to Exploiting LLM Vulnerabilities and Bypassing Modern Defenses [4.706534644850809]
2つの主要な推論フェーズの脅威はトークンレベルとプロンプトレベルのジェイルブレイクである。トークンレベルの手法とプロンプトレベルの手法を統合した2つのハイブリッドアプローチを提案し,多様なPTLMにおけるジェイルブレイクの有効性を向上する。
論文参考訳（メタデータ） (2025-06-27T07:26:33Z)
No Query, No Access [50.18709429731724]
被害者のテキストのみを使用して動作する textbfVictim Data-based Adrial Attack (VDBA) を導入する。被害者モデルへのアクセスを防止するため、公開されている事前トレーニングモデルとクラスタリングメソッドを備えたシャドウデータセットを作成します。 EmotionとSST5データセットの実験によると、VDBAは最先端の手法より優れており、ASRの改善は52.08%である。
論文参考訳（メタデータ） (2025-05-12T06:19:59Z)
RED QUEEN: Safeguarding Large Language Models against Concealed Multi-Turn Jailbreaking [28.95203269961824]
我々は,害の防止という目的の下に悪意のある意図を隠蔽し,マルチターンシナリオを構築する新しいジェイルブレイク手法RED QUEEN ATTACKを提案する。我々の実験によると、全てのLLMはRED QUEEN ATTACKに対して脆弱であり、GPT-4oで87.62%、Llama3-70Bで75.4%に達する。安全を優先するために, RED QUEEN GUARDと呼ばれる簡単な緩和戦略を導入する。
論文参考訳（メタデータ） (2024-09-26T01:24:17Z)
Learning diverse attacks on large language models for robust red-teaming and safety tuning [126.32539952157083]
レッドチーム、あるいは有害な応答を誘発するプロンプトの特定は、大きな言語モデルの安全なデプロイを保証するための重要なステップである。新規性と多様性を優先する明確な規則化であっても、既存のアプローチはモード崩壊または効果的な攻撃を発生させることができないことを示す。我々は,GFlowNetの微調整と二次平滑化フェーズを用いて,多種多様な効果的な攻撃プロンプトを生成するために攻撃モデルを訓練することを提案する。
論文参考訳（メタデータ） (2024-05-28T19:16:17Z)
Improved Generation of Adversarial Examples Against Safety-aligned LLMs [72.38072942860309]
勾配に基づく手法を用いて生成した敵対的プロンプトは、安全対応のLDMに対して自動ジェイルブレイク攻撃を行う際、優れた性能を示す。本稿では,この問題に対する新たな視点を探求し,トランスファーベースの攻撃にインスパイアされたイノベーションを活用することで緩和できることを示唆する。この組み合わせによって生成されたクエリ固有逆接接尾辞の87%がLlama-2-7B-Chatを誘導し、AdvBench上のターゲット文字列と正確に一致する出力を生成することを示した。
論文参考訳（メタデータ） (2024-05-28T06:10:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。