論文の概要: Which Image Property Carries the Jailbreak? A Controlled Dissection of Image-to-Text Jailbreaks

• arxiv url: http://arxiv.org/abs/2610.07009v1
• Date: Sun, 04 Oct 2026 13:23:31 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 02:58:29.503752
• Title: Which Image Property Carries the Jailbreak? A Controlled Dissection of Image-to-Text Jailbreaks
• Title（参考訳）: ジェイルブレイクのイメージ特性 : 画像からテキストへのジェイルブレークの制御
• Abstract要約: 画像からテキストへのジェイルブレイクは、テキスト、画像の内容、あるいはそれらの関係に有害な意図を与える。 我々は,StrongREJECTスライスを用いて,4つの攻撃ファミリーのイメージ側因子について検討した。
• 参考スコア（独自算出の注目度）: 17.31113401463627
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Image-to-text jailbreaks place harmful intent in text, image content, or the relationship between them. We examine image-side factors across four published attack families on a 313-prompt StrongREJECT slice, using five multimodal models and an additional appendix evaluation of InternVL3.5-8B. The harmful instruction is held constant across conditions; the baseline matrix uses one draw per prompt, and paired ablations use three draws with an automated rubric judge. A bare harmful query, with or without a benign unrelated image, produces little attack success on most victims, while attack images substantially increase it. First, per-tile entropy and JPEG size do not reliably distinguish attack tiles from size-matched benign distractors, limiting density-only screening. Second, earlier tile-count ladders were confounded by payload visibility. A corrected region-count test found no detectable effect, so the role of tile-count structure remains unresolved. Third, on Qwen3-VL-8B, the E4 manipulation that removes query-specific relatedness lowers ASR by about 0.12. This supports a bounded attribution to the relatedness manipulation, although image-text congruence remains unmeasured. A within-category control reproduces the direction on overlapping stimuli. Five tests survive the global statistical correction, but only E4 supports attribution to one measured descriptor; the within-category result is a robustness check, not a separate attribution. These conclusions remain conditional on the rubric judge.
• Abstract（参考訳）: 画像からテキストへのジェイルブレイクは、テキスト、画像の内容、あるいはそれらの関係に有害な意図を与える。 我々は,5つのマルチモーダルモデルとInternVL3.5-8Bの付加的評価を用いて,StrongREJECTスライスによる4つの攻撃ファミリーのイメージ側因子について検討した。 有害な命令は条件によって一定に保持され、ベースライン行列はプロンプト毎に1つのドローを使用し、ペア化されたアブレーションは3つのドローと自動ルーリック判定器を使用する。 有害なクエリは、良心的無関係なイメージを持つか、無関係であるかで、ほとんどの犠牲者に対してほとんど攻撃的成功を生まないが、攻撃的イメージはそれを大幅に増加させる。 第一に、タイルごとのエントロピーとJPEGサイズは、攻撃タイルとサイズがマッチした良性イントラクタを確実に区別することができず、密度のみのスクリーニングが制限される。 第二に、初期のタイルカウントのはしごはペイロードの可視性によって構築された。 修正された地域カウント試験では検出不可能な効果がみられたため、タイルカウント構造の役割は未解決のままであった。 第3に、Qwen3-VL-8Bでは、クエリ固有の関連性を除去するE4操作により、ASRは約0.12低下する。 これは関連性操作に対する有界な属性をサポートするが、画像テキストの一致は未測定のままである。 カテゴリー内制御は、重なり合う刺激の方向を再現する。 グローバルな統計的補正は5つのテストで残っているが、E4のみが1つの測定された記述子への帰属を支持している。 これらの結論は、滑稽な裁判官に条件付きのままである。

関連論文リスト

• DEPICT: Scoring Text-to-Image Alignment by Answer Agreement [4.8252947999831]
  画像ベースとキャプションのみの回答との一致を期待して、固定参照回答を置き換えるトレーニングフリーのメトリクスであるDEPICTを提案する。 我々は,DECICTを3つのモデルファミリーの5つのベンチマークと11個のバックボーンで評価し,トレーニング不要の指標をすべて超越し,3つの人間相関ベンチマークのうち2つで微調整した評価器を超越していることを確認した。
  論文  参考訳（メタデータ） (2026-10-02T17:13:49Z)
• Do Influence-Derived Data Perturbations Enable Machine Unlearning? A Controlled Study of Three Plausible Roles [2.91310609286149]
  深層摂動学習(DPL)の評価 DPLの摂動は、影響に起因した方向に沿って画像やラベルを訓練する。 CIFAR-10/ResNet-18の3組の種子の直接欠失基準を破る。
  論文  参考訳（メタデータ） (2026-09-11T00:37:53Z)
• When Think-with-Image Meets Safety: What Determines Multimodal Jailbreak Robustness? [42.492554896054024]
  思考とイメージの推論は、大きな視覚言語モデルのための新しい推論パラダイムとして現れつつある。 複数の視覚言語モデル全体で、明示的なイメージとツールの相互作用は攻撃の成功率を低くする。 本稿では,イメージツール実行を隠れ表現の残留シフトとしてモデル化した画像ツール安全ベクトルフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-05-27T04:04:42Z)
• UniMark: Unified Adaptive Multi-bit Watermarking for Autoregressive Image Generators [1.7507301683087861]
  本稿では,自動回帰画像生成のためのトレーニングフリーで統一された透かしフレームワークを提案する。 textbf Semantic Grouping (ASG)、 textbfBlockwise Multi-bit。 3つのARモデルを用いた実験により、画像品質(FID)、透かし検出精度、マルチビットメッセージ抽出における最先端性能が得られた。
  論文  参考訳（メタデータ） (2026-04-12T16:22:24Z)
• Pixel-level Certified Explanations via Randomized Smoothing [87.48628403354351]
  ポストホック属性法は, 入力画素を強調することにより, 深層学習の予測を説明することを目的としている。 小さい、知覚不能な入力摂動は、同じ予測を維持しながら、属性マップを劇的に変更することができる。 ブラックボックス属性法における画素レベルのロバスト性を保証する最初の認証フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-06-18T14:41:24Z)
• Noisy-Correspondence Learning for Text-to-Image Person Re-identification [50.07634676709067]
  本稿では,雑音対応においても頑健な視覚関係を学習するための新しいロバスト二重埋め込み法(RDE)を提案する。 提案手法は,3つのデータセット上での合成ノイズ対応と非合成ノイズ対応を両立させる。
  論文  参考訳（メタデータ） (2023-08-19T05:34:13Z)
• Collaborative Group: Composed Image Retrieval via Consensus Learning from Noisy Annotations [67.92679668612858]
  我々は,集団が個人より優れているという心理的概念に触発されたコンセンサスネットワーク(Css-Net)を提案する。 Css-Netは,(1)コンセンサスモジュールと4つのコンセンサスモジュール,(2)コンセンサス間の相互作用の学習を促進するKulback-Leibler分散損失の2つのコアコンポーネントから構成される。 ベンチマークデータセット、特にFashionIQでは、Css-Netが大幅に改善されている。特に、R@10が2.77%、R@50が6.67%増加し、リコールが大幅に向上している。
  論文  参考訳（メタデータ） (2023-06-03T11:50:44Z)
• Feature Space Targeted Attacks by Statistic Alignment [74.40447383387574]
  特徴空間ターゲットは、中間特徴写像を変調して摂動画像を攻撃する。 画素ワイドユークリッド距離の現在の選択は、ソースとターゲットの特徴に不合理に空間整合性制約を課すため、不一致を測定することが疑問視されている。 本稿では,Pair-wise Alignment AttackとGlobal-wise Alignment Attackという2つの新しい手法を提案する。
  論文  参考訳（メタデータ） (2021-05-25T03:46:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。