論文の概要: Typographic Attack Against VLM-based AI-generated Image Detection

• arxiv url: http://arxiv.org/abs/2609.39662v1
• Date: Wed, 30 Sep 2026 13:03:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 18:57:27.802422
• Title: Typographic Attack Against VLM-based AI-generated Image Detection
• Title（参考訳）: VLMに基づくAI生成画像検出に対するタイポグラフィーアタック
• Abstract要約: 視覚言語モデル(VLM)はAI生成画像(AIGI)検出にますます利用されている。 画像内のテキストを解釈する能力は、これらの判断を誤解を招くセマンティックな手がかりに暴露する可能性がある。 我々は,検出指向,オープンウェイト,商用VLM間でのタイポグラフィー攻撃戦略を評価する。
• 参考スコア（独自算出の注目度）: 22.887412344821126
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Vision-language models (VLMs) are increasingly used for AI-generated image (AIGI) detection, providing natural-language explanations for authenticity judgments. However, their ability to interpret text within images may also expose these judgments to misleading semantic cues. We systematically evaluate typographic attack strategies across detection-oriented, open-weight, and commercial VLMs, considering both real-to-fake and fake-to-real attacks. Our results show that reasoning modes generally exhibit greater vulnerability than direct modes and that attack effectiveness exhibits pronounced directional asymmetry. Moreover, larger models tend to exhibit higher clean detection accuracy but also higher attack success rates. We further examine attack robustness under image and text transformations and investigate whether overlays indicating the correct class can aid error correction. Together, these analyses characterize how typographic attacks influence authenticity judgments and expose limitations of current VLM-based AIGI detection systems.
• Abstract（参考訳）: 視覚言語モデル(VLM)は、AI生成画像(AIGI)の検出にますます使われ、真正性判定のための自然言語の説明を提供する。 しかし、画像内のテキストを解釈する能力は、これらの判断を誤解を招くセマンティックな手がかりに暴露する可能性がある。 実物と偽物の両方の攻撃を考慮して, 検出指向, オープンウェイト, 商用VLM間でのタイポグラフィー攻撃戦略を系統的に評価した。 本結果より, 推理モードは直接モードよりも脆弱であり, 攻撃効果は指向性非対称性が顕著であることがわかった。 さらに、より大型のモデルでは、よりクリーンな検出精度が高く、攻撃の成功率も高い傾向にある。 さらに,画像およびテキスト変換における攻撃堅牢性について検討し,正しいクラスを示すオーバーレイが誤り訂正に役立つかどうかを検討した。 これらの分析は, タイポグラフィー攻撃が信頼度判断にどのように影響するかを特徴付けるとともに, 現行のVLMベースのAIGI検出システムの限界を明らかにする。

関連論文リスト

• Can Vision-Language Models Reason about AI Edits in Images? [78.04125956307838]
  VLM(Vision-Language Models)は、強力な視覚的理解と推論能力のために、有望な代替手段を提供する。 簡単な精度と形式報酬を利用するGRPOベースのトレーニングフレームワークを提案する。 提案手法は,最先端画像フォージェリ検出器と比較して,競合検出と局所化性能を実現する。
  論文  参考訳（メタデータ） (2026-07-30T16:23:40Z)
• Towards Robustness against Typographic Attack with Training-free Concept Localization [42.575178574443946]
  Contrastive Language-Image Pretraining Model (CLIP)は、現代のLVLM(Large Vision Language Models)の基盤となるビジョンエンコーダとして機能する。 CLIPモデルには重要な障害モードがあり、画像内に現れる無関係なテキストは、真の視覚的意味論ではなく、語彙的な意味に偏っている。 この問題は、一般的にはTypographic Attack (TA)と呼ばれ、自律運転のような安全クリティカルなアプリケーションに重大なリスクをもたらす脆弱性を露呈する。 そこで本稿では,TAに対する解釈可能かつ効果的なロバスト性を実現するための,新しい学習自由な機械的解釈法を提案する。
  論文  参考訳（メタデータ） (2026-07-02T17:55:24Z)
• Boosting Robust AIGI Detection with LoRA-based Pairwise Training [55.076681464804636]
  現在のAIGI検出器はクリーンなデータセットで良好に動作しますが、その検出性能は"野生"に展開すると低下します。 本稿では,高度歪み下でのAIGIの堅牢な検出を実現するために,Lo-based Pairwise Training (RA) 戦略を提案する。
  論文  参考訳（メタデータ） (2026-04-14T05:35:32Z)
• RAID: A Dataset for Testing the Adversarial Robustness of AI-Generated Image Detectors [57.81012948133832]
  本稿では,72kの多種多様かつ高い変換可能な対向例からなるRAID(Robust Evaluation of AI- generated Image Detectors)を提案する。 提案手法は,未知の検出器に高い成功率で転送する逆画像を生成する。 以上の結果から,現在最先端のAI生成画像検出器は,敵の例によって容易に認識できることが示唆された。
  論文  参考訳（メタデータ） (2025-06-04T14:16:00Z)
• MirrorCheck: Efficient Adversarial Defense for Vision-Language Models [55.73581212134293]
  本稿では,視覚言語モデルにおける対角的サンプル検出のための,新しい,しかしエレガントなアプローチを提案する。 本手法は,テキスト・トゥ・イメージ(T2I)モデルを用いて,ターゲットVLMが生成したキャプションに基づいて画像を生成する。 異なるデータセットで実施した経験的評価により,本手法の有効性が検証された。
  論文  参考訳（メタデータ） (2024-06-13T15:55:04Z)
• Humanizing Machine-Generated Content: Evading AI-Text Detection through Adversarial Attack [24.954755569786396]
  そこで本研究では,機械生成コンテンツの小さな摂動を回避して検出を回避すべく,より広いレベルの敵攻撃のためのフレームワークを提案する。 我々は、ホワイトボックスとブラックボックスの2つの攻撃設定を検討し、現在の検出モデルのロバスト性を高める可能性を評価するために、動的シナリオにおける逆学習を採用する。 実験の結果、現在の検出モデルは10秒で妥協でき、機械が生成したテキストを人間の書き起こしコンテンツとして誤分類する結果となった。
  論文  参考訳（メタデータ） (2024-04-02T12:49:22Z)
• SA-Attack: Improving Adversarial Transferability of Vision-Language Pre-training Models via Self-Augmentation [56.622250514119294]
  ホワイトボックスの敵攻撃とは対照的に、転送攻撃は現実世界のシナリオをより反映している。 本稿では,SA-Attackと呼ばれる自己拡張型転送攻撃手法を提案する。
  論文  参考訳（メタデータ） (2023-12-08T09:08:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。