論文の概要: When the Editing Intent Is Split: A Cross-Modal Jailbreak Attack for Large Image Editing Models

• arxiv url: http://arxiv.org/abs/2610.23909v1
• Date: Wed, 30 Sep 2026 14:42:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 22:36:10.661967
• Title: When the Editing Intent Is Split: A Cross-Modal Jailbreak Attack for Large Image Editing Models
• Title（参考訳）: 編集インテントが分割されるとき:大規模な画像編集モデルのためのクロスモーダルなジェイルブレイク攻撃
• Abstract要約: 大規模な画像編集モデルは、テキスト入力と視覚入力の両方から編集意図を推測する傾向にある。 安全でない編集意図を非対称に分配するSIJA(Split-Intent Jailbreak Attack)を提案する。 SIJAは、最先端の画像編集システムを効果的に損なうことを示す。
• 参考スコア（独自算出の注目度）: 25.143941522312705
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large image editing models increasingly infer editing intent from both textual and visual inputs, creating an underexplored safety risk when harmful intent is distributed across modalities. In this work, we formalize this split-intent vulnerability and propose the Split-Intent Jailbreak Attack (SIJA), which asymmetrically distributes an unsafe editing intent by specifying the editing referent in text while concealing the safety-critical action and specification through graphical visual semantics in an auxiliary cue. To systematically study this threat, we introduce the Split-Intent Image Editing Safety Benchmark (SI2ESBench) for evaluating image editing models under split-intent inputs. Extensive experiments on representative commercial and open-source models demonstrate that SIJA effectively compromises state-of-the-art image editing systems, achieving ASRs of 68.28% on GPT Image 2 and 91.38% on Qwen-Image-3.0-Pro. Our results expose a mismatch between multimodal editing and safety assessment: the distributed intent can be recovered to execute the requested transformation, yet its harmfulness often remains undetected by existing safeguards. To mitigate this vulnerability, we propose editing-intent reconstruction, a defense principle that explicitly evaluates the complete transformation implied by the joint multimodal context and substantially improves rejection of split-intent attacks. Our findings expose a cross-modal safety gap in modern image editing systems and highlight the need to assess the jointly inferred transformation rather than individual inputs in isolation. https://github.com/yexianmin/SIJA
• Abstract（参考訳）: 大規模な画像編集モデルは、テキスト入力と視覚入力の両方から編集意図を推測する傾向にあり、有害な意図がモダリティに分散された場合に、未調査の安全性リスクが生じる。 本研究では,このスプリット・インテント・ジェイルブレイク・アタック(SIJA)を形式化し,テキスト中の編集参照を指定して非安全な編集意図を非対称に分散し,視覚的視覚的セマンティクスによる安全クリティカルな動作と仕様を隠蔽する手法を提案する。 この脅威を体系的に研究するために,分割入出力下の画像編集モデルを評価するための分割入出力画像編集安全ベンチマーク(SI2ESBench)を導入する。 商用およびオープンソースモデルの大規模な実験により、SIJAは最先端の画像編集システムを効果的に妥協し、GPT Image 2では68.28%、Qwen-Image-3.0-Proでは91.38%のASRを達成した。 その結果,マルチモーダル編集と安全性評価のミスマッチが明らかになった。分散インテントは要求された変換を実行するために復元できるが,その有害性は既存の安全対策によって検出されないことが多い。 この脆弱性を緩和するため、我々は、共同マルチモーダルコンテキストによる完全な変換を明確に評価し、分割インテント攻撃の拒絶を大幅に改善する防御原理である編集インテント再構築を提案する。 本研究は,現代の画像編集システムにおける相互安全ギャップを明らかにし,個別の入力ではなく,共同で推論された変換を評価する必要性を強調した。 https://github.com/yexianmin/SIJA

関連論文リスト

• DiSCO: Defending text-to-image generation through distribution-guided contrastive prompt optimization [65.89030524420933]
  DiSCOはゼロショットで厳密にブラックボックスのディフェンスで、プラグイン・アンド・プレイモジュールとしてプロンプトレベルで完全に動作する。 我々は,DiSCOが無防備モデルと防御モデルの両方の安全性を継続的に向上することを示した。 ブラックボックスでアーキテクチャに依存しないモジュールとして、DiSCOはどんなテキスト・ツー・イメージ・システムにも容易に適用できる。
  論文  参考訳（メタデータ） (2026-08-17T19:13:55Z)
• Cross-Branch Conflict as a Shield: Safeguarding Facial Identities in Unified Multimodal Image Editing [14.744225493456936]
  統一マルチモーダルモデル (UMM) は近年, 命令ベースの画像編集能力の強化を実証している。 既存の対向保護法は主に視覚的理解または画像生成モデルのために設計されている。 我々は,VTとVAEの表現をクリーンな表現から切り離し,協調的に駆動する,統合された敵保護フレームワークであるCSを提案する。
  論文  参考訳（メタデータ） (2026-07-18T17:35:33Z)
• MIRAGE: Protecting against Malicious Image Editing via False Moderation [73.0838743416626]
  画像免疫に関する以前の研究は、許可されていない操作から保護するために、イメージに知覚できない摂動を追加する。 我々は,この問題をシステムレベルで把握し,すべての主要な商用画像編集システムに共通する未探索の攻撃面を特定する。 本稿では、これらのモデレーションをポリシー違反としてフラグ付けさせ、編集プロンプトによらず自動的な拒絶を引き起こすことにより、イメージを免疫することを提案する。
  論文  参考訳（メタデータ） (2026-06-24T16:23:10Z)
• Towards Transferable Defense Against Malicious Image Edits [70.17363183107604]
  Transferable Defense Against Malicious Image Edits (TDAE)は、悪意のある編集に対するイメージ免疫を強化する新しいバイモーダルフレームワークである。 本稿では,FlatGrad Defense Mechanism (FDM) を紹介した。 テキストエンハンスメント保護のための動的プロンプトディフェンス (DPD) を提案し, テキスト埋め込みを周期的に洗練し, 免疫画像の編集結果を元の画像と整合させる。
  論文  参考訳（メタデータ） (2025-12-16T12:10:16Z)
• SafeEditor: Unified MLLM for Efficient Post-hoc T2I Safety Editing [13.35302137193851]
  モデルに依存しないプラグイン・アンド・プレイモジュールとして機能するマルチラウンド安全編集フレームワークを提案する。 我々は、安全でないコンテンツを識別・精錬する人間の認知過程を反映した、ポストホックな安全編集パラダイムを導入する。 生成した画像に対して複数ラウンドの安全編集が可能な統合MLLMであるSafeEditorを開発した。
  論文  参考訳（メタデータ） (2025-10-28T15:12:15Z)
• Immunizing Images from Text to Image Editing via Adversarial Cross-Attention [17.498230426195114]
  本稿では,編集手法の視覚的構成要素を標的とした新たな攻撃を提案する。 本稿では,テキストプロンプトと画像の視覚的表現との交差注意を妨害するアテンションアタックを紹介する。 TEDBench++ベンチマークで行った実験では、我々の攻撃は認識不能なまま編集性能を著しく低下させることが示された。
  論文  参考訳（メタデータ） (2025-09-12T15:47:50Z)
• Safety Without Semantic Disruptions: Editing-free Safe Image Generation via Context-preserving Dual Latent Reconstruction [88.18235230849554]
  大規模で未処理のデータセットでマルチモーダル生成モデルをトレーニングすることで、ユーザは有害で安全でない、議論の余地のない、文化的に不適切なアウトプットにさらされる可能性がある。 我々は、安全な埋め込みと、より安全な画像を生成するために、潜伏空間の重み付け可能な総和による修正拡散プロセスを活用する。 安全と検閲のトレードオフを特定し、倫理的AIモデルの開発に必要な視点を提示します。
  論文  参考訳（メタデータ） (2024-11-21T09:47:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。