論文の概要: Resolution Thresholds in VLM Detection of Harmful ASCII Art Across Construction Modes and Languages

• arxiv url: http://arxiv.org/abs/2606.29649v1
• Date: Sun, 28 Jun 2026 23:36:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-30 18:07:15.998122
• Title: Resolution Thresholds in VLM Detection of Harmful ASCII Art Across Construction Modes and Languages
• Title（参考訳）: 建設モードと言語間の有害ASCIIアートのVLM検出における解像度閾値
• Abstract要約: VLM(Large Vision-Language Models)は、コンテンツモデレーションツールとしてますます多くデプロイされている。 VLMは、有害なテキストがASCIIアートとして視覚的にエンコードされるジェイルブレイク攻撃に対して脆弱である。 本研究では,画像解像度が8文字構成モードにわたる有害なASCIIアートのVLM検出に与える影響について検討する。
• 参考スコア（独自算出の注目度）: 9.163181222215764
• License: http://creativecommons.org/publicdomain/zero/1.0/
• Abstract: Large Vision-Language Models (VLMs) are increasingly deployed as content moderation tools, yet they remain vulnerable to jailbreak attacks in which harmful text is visually encoded as ASCII art. This can allow inappropriate or harmful content to bypass moderation systems. To address this vulnerability, this paper investigates how image resolution affects VLM detection of harmful ASCII art across eight character construction modes (L1-L8), ranging from dense block characters to word-embedded designs. We evaluate eight state-of-the-art VLMs on English and Chinese corpora using a pipeline that generates ASCII art images at ten resolution scales, probing whether a consistent detection-failure threshold exists across models, modes, and languages. Results indicate that detection rates decline sharply above certain resolution thresholds, and that word-based modes are the most resistant to detection across the full resolution range. These findings reveal a systematic vulnerability in VLM-based content moderation systems and motivate resolution-aware evaluation standards.
• Abstract（参考訳）: 大きなビジョンランゲージモデル(VLM)は、コンテンツモデレーションツールとしてますますデプロイされているが、有害なテキストがASCIIアートとして視覚的にエンコードされるジェイルブレイク攻撃に弱いままである。 これにより、不適切または有害なコンテンツがモデレーションシステムをバイパスすることができる。 この脆弱性に対処するために,画像解像度が8文字構成モード (L1-L8) にわたる有害なASCIIアートの検出にどう影響するかを検討する。 ASCIIアート画像を10の解像度スケールで生成するパイプラインを用いて、英語と中国語のコーパス上の8つの最先端のVLMを評価し、モデル、モード、言語間で一貫した検出障害閾値が存在するかどうかを検証した。 その結果, 検出速度は特定の解像度閾値よりも急激に低下し, 単語ベースモードは全解像度範囲で検出に最も耐性があることがわかった。 これらの結果から,VLMベースのコンテンツモデレーションシステムにおける系統的脆弱性が明らかとなり,解像度対応評価基準のモチベーションが得られた。

関連論文リスト

• VisualDAN: Exposing Vulnerabilities in VLMs with Visual-Driven DAN Commands [5.1114671756882535]
  この研究は、DANスタイルのコマンドに埋め込まれた単一の逆画像であるVisualDANを導入している。 我々は、有害なコーパスに肯定的なプレフィックスを付与し、モデルに悪質なクエリに正の反応をさせる。 この結果から, 少量の有害物質であっても, モデルの防御が損なわれれば, 有害なアウトプットを著しく増幅できることが示唆された。
  論文  参考訳（メタデータ） (2025-10-09T16:18:31Z)
• Enhancing Robustness of Autoregressive Language Models against Orthographic Attacks via Pixel-based Approach [51.95266411355865]
  自己回帰言語モデルは、正書法攻撃に弱い。 この脆弱性は、サブワードトークン化器とその埋め込みに固有の語彙外問題に起因している。 本稿では,単語を個々の画像としてレンダリングすることで,テキストベースの埋め込みをピクセルベースの表現に置き換える,画素ベースの生成言語モデルを提案する。
  論文  参考訳（メタデータ） (2025-08-28T20:48:38Z)
• Security Tensors as a Cross-Modal Bridge: Extending Text-Aligned Safety to Vision in LVLM [40.83149588857177]
  大規模視覚言語モデル(LVLM)は、複数モーダル入力を処理する視覚モジュールと整列した大言語モデル(LLM)を統合する。 セキュリティテンソル(Security tensor) - テキストや視覚のモダリティを通じて推論中に適用されるトレーニング可能な入力ベクトル。
  論文  参考訳（メタデータ） (2025-07-28T16:59:53Z)
• OMNIGUARD: An Efficient Approach for AI Safety Moderation Across Modalities [54.152681077418805]
  現在の検出アプローチは誤りがあり、特にモデル機能のミスマッチした一般化を利用する攻撃の影響を受けやすい。 OMNIGUARDは,言語やモダリティにまたがる有害なプロンプトを検出する手法である。 提案手法は,多言語環境において最強のベースラインよりも11.57%,有害なプロンプト分類精度を向上する。
  論文  参考訳（メタデータ） (2025-05-29T05:25:27Z)
• Text Speaks Louder than Vision: ASCII Art Reveals Textual Biases in Vision-Language Models [93.46875303598577]
  視覚言語モデル(VLM)は、マルチモーダル情報処理において急速に進歩しているが、競合する信号の整合性は未解明のままである。 この研究は、VLMがASCIIアートをどう処理するかを考察する。
  論文  参考訳（メタデータ） (2025-04-02T10:47:07Z)
• Texture or Semantics? Vision-Language Models Get Lost in Font Recognition [53.14935624161711]
  FRB(Font Recognition Benchmark)は15のフォントからなるコンパクトで構造化されたデータセットである。 FRBには2つのバージョンがある: (i) 簡単なバージョン、10つの文を異なるフォントで描画するバージョン、 (ii) ハードバージョン。 フォント認識タスクにおける様々なVLMの広範な評価を通じて,以下の重要な知見を得た。
  論文  参考訳（メタデータ） (2025-03-31T06:33:21Z)
• ASCIIEval: Benchmarking Models' Visual Perception in Text Strings via ASCII Art [83.95594027644124]
  我々は,この問題を認識タスクとみなし,新しいベンチマークASCIIEvalを構築した。 精巧な分類木を持つ3Kサンプルに加えて、さらなる拡張のためのトレーニングセットもカバーしている。 テキスト入力が与えられた言語モデルは、ASCIIアートの概念に基づいて視覚的知覚能力を示す。 画像入力において,オープンソースのMLLMは,微細なテキスト認識と集合的視覚知覚のトレードオフに悩まされていることが明らかになった。
  論文  参考訳（メタデータ） (2024-10-02T16:46:01Z)
• TrojVLM: Backdoor Attack Against Vision Language Models [50.87239635292717]
  本研究では、視覚言語モデル(VLM)を対象としたバックドアアタックの最初の調査であるTrojVLMを紹介する。 TrojVLMは、有毒な画像に遭遇したとき、所定のターゲットテキストを出力テキストに挿入する。 画像内容のセマンティックな整合性を確保するために,新たなセマンティック保存損失を提案する。
  論文  参考訳（メタデータ） (2024-09-28T04:37:09Z)
• Evading Toxicity Detection with ASCII-art: A Benchmark of Spatial Attacks on Moderation Systems [4.492444446637856]
  ASCIIアートの形で空間的に構造化されたテキストの解釈に失敗する言語モデルを利用した、毒性検出モデルに対する敵対的攻撃の新たなクラスを導入する。 我々の攻撃は、最先端の大規模言語モデルと専用モデレーションツールの多様なセットで完璧なアタック成功率(ASR)を達成する。
  論文  参考訳（メタデータ） (2024-09-27T12:54:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。