論文の概要: Persona-Conditioned Adversarial Prompting (PCAP): Multi-Identity Red-Teaming for Enhanced Adversarial Prompt Discovery
- arxiv url: http://arxiv.org/abs/2605.12565v1
- Date: Tue, 12 May 2026 08:59:36 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-14 23:30:27.578581
- Title: Persona-Conditioned Adversarial Prompting (PCAP): Multi-Identity Red-Teaming for Enhanced Adversarial Prompt Discovery
- Title（参考訳）: Persona-Conditioned Adversarial Prompting (PCAP): 対人プロンプト発見のためのマルチアイデンティティ・リチーム
- Abstract要約: 既存の自動リピートパイプラインは、攻撃者のアイデンティティ、フレーミング、マルチターン戦術に依存する攻撃を見逃すことが多い。
本稿では,攻撃者のペルソナやストラテジカードに対する対人探索を条件としたPCAP(Persona-Conditioned Adversarial Prompting)を紹介する。
- 参考スコア（独自算出の注目度）: 0.5708846562058547
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Existing automated red-teaming pipelines often miss attacks that depend on attacker identity, framing, or multi-turn tactics. This under-coverage underestimates real-world risk. We introduce Persona-Conditioned Adversarial Prompting (PCAP), which conditions adversarial search on attacker personas and strategy cards and runs parallel persona-conditioned beam searches to discover diverse, transferable jailbreaks. PCAP is orthogonal to the underlying search algorithm and substantially increases attack success rate (ASR) and prompt diversity (e.g., ASR on GPT-OSS~120B from $\approx58\% \rightarrow \approx97\%$), improving attack strategy coverage and diversity.
- Abstract（参考訳）: 既存の自動リピートパイプラインは、攻撃者のアイデンティティ、フレーミング、マルチターン戦術に依存する攻撃を見逃すことが多い。
この過小評価は現実世界のリスクを過小評価する。
本稿では,攻撃者のペルソナやストラテジカードに対する逆探索を条件とし,パラレルなペルソナ条件のビームサーチを実行し,多様かつ移動可能なジェイルブレイクを検知するPersona-Conditioned Adversarial Prompting(PCAP)を紹介する。
PCAPは、基礎となる検索アルゴリズムと直交しており、攻撃成功率(ASR)を大幅に増加させ、(例えば、GPT-OSS~120B上のASRを$\approx58\% \rightarrow \approx97\%$から)多様性を促進させ、攻撃戦略のカバレッジと多様性を改善している。
関連論文リスト
- Persona-Conditioned Adversarial Prompting: Multi-Identity Red-Teaming for Adversarial Discovery and Mitigation [0.5708846562058547]
多様な攻撃者に対する対人対応型対人プロンプティング条件
GPT-OSS 120Bでは、PCAPは攻撃成功率を57%から97%に引き上げている。
PCAP生成データ上の微調整軽量アダプタは、モデルロバスト性を大幅に改善する。
論文 参考訳（メタデータ） (2026-05-12T08:12:18Z) - Tree-based Dialogue Reinforced Policy Optimization for Red-Teaming Attacks [63.803415430308114]
現在の大規模言語モデルは、マルチターンインタラクション設定における敵攻撃に対して脆弱である。
本研究では,木探索と統合したオンライン強化学習フレームワークであるDialTree-RPOを提案する。
提案手法は,従来の最先端手法と比較して,10のターゲットモデルに対して25.9%以上のASRを実現している。
論文 参考訳（メタデータ） (2025-10-02T17:57:05Z) - Active Attacks: Red-teaming LLMs via Adaptive Environments [71.55110023234376]
大規模言語モデル(LLM)に対する多様な攻撃プロンプトを生成するという課題に対処する。
我々は、犠牲者が進化するにつれて攻撃に適応する新しいRLベースのレッドチームアルゴリズムであるtextitActive Attacksを導入する。
論文 参考訳（メタデータ） (2025-09-26T06:27:00Z) - AdvQDet: Detecting Query-Based Adversarial Attacks with Adversarial Contrastive Prompt Tuning [93.77763753231338]
CLIP画像エンコーダを微調整し、2つの中間対向クエリに対して同様の埋め込みを抽出するために、ACPT(Adversarial Contrastive Prompt Tuning)を提案する。
我々は,ACPTが7つの最先端クエリベースの攻撃を検出できることを示す。
また,ACPTは3種類のアダプティブアタックに対して堅牢であることを示す。
論文 参考訳（メタデータ） (2024-08-04T09:53:50Z) - PRAT: PRofiling Adversarial aTtacks [52.693011665938734]
PRofiling Adversarial aTacks (PRAT) の新たな問題点について紹介する。
敵対的な例として、PRATの目的は、それを生成するのに使用される攻撃を特定することである。
AIDを用いてPRATの目的のための新しいフレームワークを考案する。
論文 参考訳（メタデータ） (2023-09-20T07:42:51Z) - Guidance Through Surrogate: Towards a Generic Diagnostic Attack [101.36906370355435]
我々は、攻撃最適化中に局所最小限を避けるための誘導機構を開発し、G-PGAと呼ばれる新たな攻撃に繋がる。
修正された攻撃では、ランダムに再起動したり、多数の攻撃を繰り返したり、最適なステップサイズを検索したりする必要がありません。
効果的な攻撃以上に、G-PGAは敵防御における勾配マスキングによる解離性堅牢性を明らかにするための診断ツールとして用いられる。
論文 参考訳（メタデータ） (2022-12-30T18:45:23Z) - Adaptive Perturbation Generation for Multiple Backdoors Detection [29.01715186371785]
本稿では,複数種類のバックドア攻撃を検出するための適応摂動生成(APG)フレームワークを提案する。
まず,複数種類のバックドアトリガに適合するグローバル・ローカル戦略を設計する。
摂動注入の効率をさらに高めるため,勾配誘導マスク生成戦略を導入する。
論文 参考訳（メタデータ） (2022-09-12T13:37:06Z) - Composite Adversarial Attacks [57.293211764569996]
敵対攻撃は、機械学習(ML)モデルを欺くための技術です。
本論文では,攻撃アルゴリズムの最適組み合わせを自動的に探索するための複合攻撃法(Composite Adrial Attack,CAA)を提案する。
CAAは11の防衛でトップ10の攻撃を破り、時間の経過は少ない。
論文 参考訳（メタデータ） (2020-12-10T03:21:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。