論文の概要: "Blind Compliance": Coercive Control in AI Jailbreaking
- arxiv url: http://arxiv.org/abs/2611.08226v1
- Date: Thu, 05 Nov 2026 16:11:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-07 04:55:13.571041
- Title: "Blind Compliance": Coercive Control in AI Jailbreaking
- Title(参考訳): ブラインドコンプライアンス」:AIジェイルブレイクにおける強制制御
- Abstract要約: 本稿では, 具体的・非身体的側面に着目した, 強制制御カテゴリの新しい枠組みを提案する。
次に、これらの非身体的な強制的制御のダイナミクスが、現代的なAIトレーニングパラダイムに構造的に組み込まれているかをマップします。
このレンズでは、AIの安全性とアライメントを単に技術的なセキュリティの問題ではなく、電力と制御のリレーショナルダイナミクスを実践する別の表面として再設計しています。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The explosion of generative AI systems and concerns surrounding their rapidly scaling capabilities has led to an adversarial cycle between increasingly narrow content restrictions ("guardrails") and increasingly sophisticated structured prompting techniques ("jailbreaks"). Technological frameworks surrounding such jailbreaking remain largely focused on the system's output: whether harmful or disallowed content is ultimately produced for the user. However, this approach, which draws largely from classical cybersecurity, does not address the uniquely relational dimension introduced by generative AI: in many cases the user is not just accessing a technology via an exploit, but is in conversation with it as part of the exploit. Here we present an alternative lens which centers the interaction rather than the output. Drawing on interpersonal violence scholarship, we present a novel framework of coercive control categories with a particular focus on aspects which are embodied versus disembodied. We then map how these disembodied coercive control dynamics are structurally embedded in modern AI training paradigms, and how those embeddings are exploited via a particular suite of persona-based jailbreaks. In this lens, we reframe AI safety and alignment as not merely a technical security problem, but as another surface upon which we see enacted the relational dynamics of power and control.
- Abstract(参考訳): 生成するAIシステムの爆発と、その急速なスケーリング能力を取り巻く懸念は、より狭いコンテンツ制限(ガードレール)と、より洗練された構造化プロンプト技術(ジェイルブレイク)の間の対立サイクルにつながった。
このようなジェイルブレイクを取り巻く技術フレームワークは、主にシステムの出力に焦点を当てている。
多くの場合、ユーザはエクスプロイトを通じて技術にアクセスしているだけでなく、エクスプロイトの一部としてそれと対話している。
ここでは、出力ではなく相互作用を集中する代替レンズを提案する。
対人暴力の奨学金に基づいて, 身体的・非身体的側面に着目した, 強制的制御カテゴリーの新たな枠組みを提示する。
次に、これらの非身体的な強制制御のダイナミクスが、現代のAIトレーニングパラダイムに構造的に組み込まれているか、そしてそれらの埋め込みが、特定のペルソナベースのジェイルブレイクによってどのように悪用されているか、をマップします。
このレンズでは、AIの安全性とアライメントを単に技術的なセキュリティの問題ではなく、電力と制御のリレーショナルダイナミクスを実践する別の表面として再設計しています。
関連論文リスト
- The Price of Consistency: Exploiting Visual Anchors for Multimodal Jailbreaking in Video Generation [83.99528259002504]
このメカニズムにより、生成したコンテンツが元の有害な意図から遠ざかることを防ぐことができる。
本稿では、この脆弱性を利用したビデオ生成のためのトレーニング不要なマルチモーダルジェイルブレイクフレームワークである、Visual Anchors (DIVA)によるDecoupling Intentを提案する。
今後の研究を容易にするため,マルチ条件ビデオ生成のための最初の安全ベンチマークであるTI2SafetyBenchを寄贈する。
論文 参考訳(メタデータ) (2026-09-07T08:34:00Z) - Making MLLMs Blind: Adversarial Smuggling Attacks in MLLM Content Moderation [54.38271718421492]
敵の密輸攻撃は人間とAIの能力ギャップを悪用する。
有害なコンテンツを人間の読みやすい視覚形式にエンコードする。
我々は緩和戦略の予備的な調査を行う。
論文 参考訳(メタデータ) (2026-04-08T11:13:16Z) - What Breaks Embodied AI Security:LLM Vulnerabilities, CPS Flaws,or Something Else? [28.12412876058788]
身体化されたAIシステムは、制御された環境から安全クリティカルな現実世界へのデプロイへと急速に移行している。
インボディードAIとは異なり、インボディードインテリジェンスにおける失敗は、不可逆的な物理的結果をもたらす。
我々は,実施によるシステムレベルのミスマッチから,重大な障害が生じることを論じる。
論文 参考訳(メタデータ) (2026-02-19T13:29:00Z) - Just Ask: Curious Code Agents Reveal System Prompts in Frontier LLMs [65.6660735371212]
textbftextscJustAskは,インタラクションのみで効果的な抽出戦略を自律的に発見するフレームワークである。
これは、アッパー信頼境界に基づく戦略選択と、原子プローブと高レベルのオーケストレーションにまたがる階層的なスキル空間を用いて、オンライン探索問題として抽出を定式化する。
この結果から,現代のエージェントシステムにおいて,システムプロンプトは致命的ではあるがほぼ無防備な攻撃面であることがわかった。
論文 参考訳(メタデータ) (2026-01-29T03:53:25Z) - GRAF: Multi-turn Jailbreaking via Global Refinement and Active Fabrication [55.63412213263305]
大規模言語モデルは、悪意のある目的のために誤用される可能性があるため、顕著な安全性のリスクを生じさせる。
そこで本研究では,各インタラクションにおける攻撃経路をグローバルに洗練する,新しいマルチターンジェイルブレーキング手法を提案する。
さらに、モデル応答を積極的に作成し、安全性に関する警告を抑えることにより、有害な出力を誘発する可能性を高める。
論文 参考訳(メタデータ) (2025-06-22T03:15:05Z) - Jailbreaking is (Mostly) Simpler Than You Think [2.7174461714624805]
我々は、AIの安全性メカニズムをバイパスする新しい最適化不要な手法であるContext Compliance Attack (CCA)を紹介する。
CCAは、多くのデプロイされたAIシステムに固有の基本的なアーキテクチャ上の脆弱性を利用する。
論文 参考訳(メタデータ) (2025-03-07T09:28:19Z) - Improving Alignment and Robustness with Circuit Breakers [40.4558948850276]
本稿では,「サーキットブレーカー」による有害な出力に応答するモデルを中断する手法を提案する。
トレーニングの拒絶と敵のトレーニングの代替として、サーキットブレーキングは有害なアウトプットの原因となる表現を直接制御する。
我々は、我々のアプローチをAIエージェントに拡張し、攻撃されているときの有害な行動の率を大幅に低下させることを実証する。
論文 参考訳(メタデータ) (2024-06-06T17:57:04Z) - The Feasibility and Inevitability of Stealth Attacks [63.14766152741211]
我々は、攻撃者が汎用人工知能システムにおける決定を制御できる新しい敵の摂動について研究する。
敵対的なデータ修正とは対照的に、ここで考慮する攻撃メカニズムには、AIシステム自体の変更が含まれる。
論文 参考訳(メタデータ) (2021-06-26T10:50:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。