論文の概要: PsychJail: Exploring Psychological Jailbreaks via Multi-Turn Persuasion of LLM Policies
- arxiv url: http://arxiv.org/abs/2608.23028v1
- Date: Mon, 24 Aug 2026 09:33:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-25 18:24:36.995926
- Title: PsychJail: Exploring Psychological Jailbreaks via Multi-Turn Persuasion of LLM Policies
- Title（参考訳）: サイコジェイル: LLM政策のマルチターン説得による心理的ジェイルブレイクの探索
- Abstract要約: 我々は,大規模言語モデルをレッドチーム化するための心理誘導フレームワークであるPsychJailを紹介する。
サイコジェイルは、社会心理学的説得技術を戦術的条件の攻撃ポリシーに設定した。
各アタッカーアクションを、Change-of-Meaning分析、戦術選択、被害者可視メッセージに分解する。
- 参考スコア（独自算出の注目度）: 2.8054112620412526
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language models (LLMs) are increasingly deployed in education, healthcare, policy advising, and other interactive settings, where users engage them as sustained social interlocutors rather than one-shot query engines. This shift makes jailbreaks a growing safety threat, yet most research emphasizes single-turn prompt optimization or iterative attack refinement, leaving psychologically grounded multi-turn vulnerabilities underexplored. We present PsychJail, a psychology-guided framework for red teaming aligned LLMs through theory-grounded, multi-turn persuasion. PsychJail maps established social-psychological persuasion techniques into a tactic-conditioned attack policy. It factorizes each attacker action into a Change-of-Meaning analysis, tactic selection, and victim-visible message, operationalizing the Persuasion Knowledge Model (PKM). The policy is refined with trajectory-level reinforcement learning using a PKM-gated reward that credits early jailbreak success only when every turn contains a well-formed Change-of-Meaning analysis. Across four aligned victim models, PsychJail achieves the highest average attack success rate (87.3%) and outperforms strong single-turn and multi-turn baselines on every model. We also measure susceptibility at the action that breaks each victim, revealing four distinct model-level fingerprints that identify which persuasion levers affect each model and how broadly. These fingerprints help explain cross-model transfer asymmetry. We interpret them as four candidate psychological profiles-rationalist, credibility-driven, narrative-monoculture, and broadly persuadable-while treating this interpretation as a conjecture requiring future validation. Our findings establish psychological jailbreaks as a distinct red-teaming frontier for increasingly interactive LLMs.
- Abstract（参考訳）: 大規模言語モデル(LLM)は、教育、医療、ポリシーアドバイス、その他のインタラクティブな設定において、ワンショットのクエリエンジンではなく、持続的なソーシャルインターロケータとしてユーザを巻き込むようになってきている。
この変更により、ジェイルブレイクはますます安全を脅かすことになるが、ほとんどの研究は単一ターンの迅速な最適化や反復攻撃の強化を強調しており、心理学的に根拠づけられた多重ターンの脆弱性は未発見のままである。
我々は,理屈に基づくマルチターン説得を通して,レッド・チーム・アライメント LLM の心理誘導型フレームワークである PsychJail を提示する。
サイコジェイルは、社会心理学的説得技術を戦術的条件の攻撃ポリシーに設定した。
攻撃者のアクションを、PKM(Persuasion Knowledge Model)を運用して、変更の意味の分析、戦術選択、被害者可視メッセージに分解する。
この方針は、軌道レベルの強化学習(英語版)によって洗練され、PKM-gated reward(英語版)は、すべてのターンがよく形づくられた変更平均分析を含む場合にのみ、早期のジェイルブレイクの成功を信用する。
4つの犠牲者モデル全体で、サイクジェイルは平均攻撃成功率(87.3%)を達成し、全てのモデルにおいて強いシングルターンとマルチターンベースラインを上回っている。
また、被害者ごとの行動に対する感受性を測定し、どの説得レバーがそれぞれのモデルにどのように影響するかを識別する4つの異なるモデルレベルの指紋を明らかにした。
これらの指紋は、クロスモデル移動非対称性を説明するのに役立つ。
我々は、これらを4つの心理学的プロファイル・ライタリスト、信頼性駆動型、物語的モノカルチャーと解釈し、この解釈を将来の検証を必要とする推測として広く論じる。
本研究は, 心理学的ジェイルブレイクを, よりインタラクティブなLDMのレッドチームフロンティアとして確立した。
関連論文リスト
- Belief Cascades Drive Persuasion in LLM Agent Networks [71.17605142402785]
本研究では,実世界のego-networkトポロジに根ざしたLLMエージェントのネットワーク上で,ゴール指向の説得者がどのようにスタンスをシフトするかを検討する。
直接露光は、競合走における次のラウンドの姿勢変化を確実に予測し、ピアリレーは小さいが測定可能な影響をもたらすことを示す。
これらの結果は、多エージェントの説得を軌跡レベルのプロセスと露出レベルのプロセスとして評価することを主張する。
論文 参考訳（メタデータ） (2026-08-25T21:01:19Z) - Defending Jailbreak Attacks on Large Language Models via Manifold Trajectory Kinetics [50.36375380196006]
ジェイルブレイクプロンプトは、大規模な言語モデルにおけるアライメントガードレールをバイパスすることができる。
先行検出アプローチは固定距離空間に大きく依存する。
この仮定は,意図によって無視されるが,安全関連キーワードを含む疑似悪質なプロンプトの下で破られることを示す。
本稿では, LLM を入力を出力に変換する運動系として扱う Manifold Trajectory Kinetics (MTK) を提案する。
論文 参考訳（メタデータ） (2026-06-05T14:49:26Z) - Breaking Minds, Breaking Systems: Jailbreaking Large Language Models via Human-like Psychological Manipulation [6.67891820536196]
心理学的ジェイルブレイク(英: Psychological Jailbreak)は、大規模言語モデルにおいて、ステートフルな心理的攻撃面を公開する攻撃パラダイムである。
HPM(Human-like Psychological Manipulation)は、ターゲットモデルの潜在する心理的脆弱性をプロファイルし、カスタマイズされたマルチターン攻撃戦略を合成する。
HPMは88.1%の平均攻撃成功率(ASR)を達成し、最先端の攻撃ベースラインを上回っている。
論文 参考訳（メタデータ） (2025-12-20T07:02:00Z) - Uncovering the Persuasive Fingerprint of LLMs in Jailbreaking Attacks [3.210547774251958]
大規模言語モデルは、アライメント保護を回避し、有害な出力を誘発するジェイルブレイク攻撃に対して脆弱である。
パーシャジョン・アウェアは安全ガードを著しく回避し,脱獄行為を誘発する可能性を示す。
論文 参考訳（メタデータ） (2025-10-24T19:20:23Z) - Guarding the Guardrails: A Taxonomy-Driven Approach to Jailbreak Detection [1.8374319565577155]
脱獄技術は、大規模言語モデルの安全性に重大な脅威をもたらす。
ジェイルブレイク技術の有効性の理解を深めるために,構造化されたレッドチームチャレンジを実施した。
我々は、50のジェイルブレイク戦略の包括的な階層的な分類法を開発し、以前の分類を7つの広い家族に集約し拡張した。
論文 参考訳（メタデータ） (2025-10-14T12:34:41Z) - Reasoning-Augmented Conversation for Multi-Turn Jailbreak Attacks on Large Language Models [53.580928907886324]
Reasoning-Augmented Conversationは、新しいマルチターンジェイルブレイクフレームワークである。
有害なクエリを良心的な推論タスクに再構成する。
RACEは,複雑な会話シナリオにおいて,最先端攻撃の有効性を実現する。
論文 参考訳（メタデータ） (2025-02-16T09:27:44Z) - Turning Logic Against Itself : Probing Model Defenses Through Contrastive Questions [50.40122190627256]
非倫理的反応を引き起こすために、対照的な推論を利用する新しいジェイルブレイク手法であるPOATEを導入する。
PoATEは意味論的に意図に反し、敵のテンプレートと統合し、有害なアウトプットを驚くほど微妙に操る。
これに対応するために、悪意のある意図と理性を検出するためにクエリを分解して、有害な応答を評価し、拒否するIntent-Aware CoTとReverse Thinking CoTを提案する。
論文 参考訳（メタデータ） (2025-01-03T15:40:03Z) - RED QUEEN: Safeguarding Large Language Models against Concealed Multi-Turn Jailbreaking [28.95203269961824]
我々は,害の防止という目的の下に悪意のある意図を隠蔽し,マルチターンシナリオを構築する新しいジェイルブレイク手法RED QUEEN ATTACKを提案する。
我々の実験によると、全てのLLMはRED QUEEN ATTACKに対して脆弱であり、GPT-4oで87.62%、Llama3-70Bで75.4%に達する。
安全を優先するために, RED QUEEN GUARDと呼ばれる簡単な緩和戦略を導入する。
論文 参考訳（メタデータ） (2024-09-26T01:24:17Z) - AutoJailbreak: Exploring Jailbreak Attacks and Defenses through a Dependency Lens [83.08119913279488]
本稿では,ジェイルブレイク攻撃と防衛技術における依存関係の体系的解析について述べる。
包括的な、自動化された、論理的な3つのフレームワークを提案します。
このアンサンブル・ジェイルブレイク・アタックと防衛の枠組みは,既存の研究を著しく上回る結果となった。
論文 参考訳（メタデータ） (2024-06-06T07:24:41Z) - Leveraging the Context through Multi-Round Interactions for Jailbreaking Attacks [55.603893267803265]
大規模言語モデル(LLM)は、脱獄攻撃の影響を受けやすい。
脱獄攻撃は、攻撃クエリを微調整することで有害な情報を抽出することを目的としている。
我々は、コンテキストインタラクションアタックと呼ばれる新しい攻撃形式に焦点を当てる。
論文 参考訳（メタデータ） (2024-02-14T13:45:19Z) - How Johnny Can Persuade LLMs to Jailbreak Them: Rethinking Persuasion to
Challenge AI Safety by Humanizing LLMs [66.05593434288625]
本稿では, 大規模言語モデル (LLM) を人間のようなコミュニケーション手段として, ジェイルブレイクの新たな視点を紹介する。
本研究では,数十年にわたる社会科学研究から派生した説得的分類法を適用し,説得的敵対的プロンプト(PAP)をジェイルブレイク LLM に適用する。
PAPは、Llama 2-7b Chat、GPT-3.5、GPT-4の攻撃成功率を10ドルで一貫して92%以上達成している。
防衛面では,PAPに対する様々なメカニズムを探索し,既存の防衛に重大なギャップがあることを見出した。
論文 参考訳（メタデータ） (2024-01-12T16:13:24Z) - Cognitive Overload: Jailbreaking Large Language Models with Overloaded
Logical Thinking [60.78524314357671]
本研究では,大規模言語モデル(LLM)の認知的構造とプロセスをターゲットにした新しいジェイルブレイク攻撃のカテゴリについて検討する。
提案する認知的オーバーロードはブラックボックス攻撃であり、モデルアーキテクチャやモデルウェイトへのアクセスの知識は不要である。
AdvBenchとMasterKeyで実施された実験では、人気のあるオープンソースモデルであるLlama 2とプロプライエタリモデルであるChatGPTの両方を含む様々なLLMが、認知的オーバーロードによって妥協可能であることが明らかになった。
論文 参考訳（メタデータ） (2023-11-16T11:52:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。