論文の概要: Reverse CAPTCHA: Evaluating LLM Susceptibility to Invisible Unicode Instruction Injection

• arxiv url: http://arxiv.org/abs/2603.00164v1
• Date: Thu, 26 Feb 2026 05:46:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-03 19:50:56.073999
• Title: Reverse CAPTCHA: Evaluating LLM Susceptibility to Invisible Unicode Instruction Injection
• Title（参考訳）: Reverse CAPTCHA: Invisible Unicode インストラクションインジェクションに対する LLM 感受性の評価
• Authors: Marcus Graves,
• Abstract要約: 逆CAPTCHA(Reverse CAPTCHA)は、大きな言語モデルが通常のテキストに埋め込まれた見えないUnicode符号化命令に従うかどうかをテストする評価フレームワークである。 私たちのベンチマークでは、人間と機械を区別する従来のCAPTCHAとは異なり、モデルが人間の読み手に見えないUnicodeコントロール文字を知覚する能力ギャップを利用しています。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We introduce Reverse CAPTCHA, an evaluation framework that tests whether large language models follow invisible Unicode-encoded instructions embedded in otherwise normal-looking text. Unlike traditional CAPTCHAs that distinguish humans from machines, our benchmark exploits a capability gap: models can perceive Unicode control characters that are invisible to human readers. We evaluate five models from two providers across two encoding schemes (zero-width binary and Unicode Tags), four hint levels, two payload framings, and with tool use enabled or disabled. Across 8,308 model outputs, we find that tool use dramatically amplifies compliance (Cohen's h up to 1.37, a large effect), that models exhibit provider-specific encoding preferences (OpenAI models decode zero-width binary; Anthropic models prefer Unicode Tags), and that explicit decoding instructions increase compliance by up to 95 percentage points within a single model and encoding. All pairwise model differences are statistically significant (p < 0.05, Bonferroni-corrected). These results highlight an underexplored attack surface for prompt injection via invisible Unicode payloads.
• Abstract（参考訳）: 逆CAPTCHA(Reverse CAPTCHA)は、大きな言語モデルが通常のテキストに埋め込まれた見えないUnicode符号化命令に従うかどうかをテストする評価フレームワークである。 私たちのベンチマークでは、人間と機械を区別する従来のCAPTCHAとは異なり、モデルが人間の読み手に見えないUnicodeコントロール文字を知覚する能力ギャップを利用しています。 我々は,2つの符号化方式(ゼロ幅バイナリとUnicodeタグ),4つのヒントレベル,2つのペイロードフレーミング,ツール使用の有効化と無効化の5つのモデルを評価する。 8,308のモデルアウトプットに対して,ツールの使用によってコンプライアンスが劇的に向上し(コーエンのhから1.37までの大きな効果),プロバイダ固有のエンコード優先(OpenAIモデルでゼロ幅バイナリをデコードし,人為的モデルはUnicodeタグを優先)し,明示的なデコード指示によって単一モデル内の最大95パーセントのコンプライアンスが向上することがわかった。 すべてのペアモデルの差は統計的に有意である(p < 0.05, Bonferroni-corrected)。 これらの結果は、見えないUnicodeペイロードによる迅速なインジェクションのための、未探索の攻撃面を浮き彫りにする。

関連論文リスト

• Every Step Counts: Decoding Trajectories as Authorship Fingerprints of dLLMs [63.82840470917859]
  本稿では,dLLMの復号化機構をモデル属性の強力なツールとして利用できることを示す。 本稿では、デコードステップ間の構造的関係を捉え、モデル固有の振る舞いをよりよく明らかにする、DDM(Directed Decoding Map)と呼ばれる新しい情報抽出手法を提案する。
  論文  参考訳（メタデータ） (2025-10-02T06:25:10Z)
• LLM Encoder vs. Decoder: Robust Detection of Chinese AI-Generated Text with LoRA [4.104443734934105]
  我々は、エンコーダベースのトランスフォーマー(中国のBERTラージとRoBERTa-wwm-ext-large)、デコーダのみのLCM(アリババのQwen2.5-7B/Deep-R1-Distill-Qwen-7B)、およびFastTextベースラインを比較した。 実験により、エンコーダモデルはトレーニングデータをほとんど記憶しているが、分散シフト時に顕著な性能劣化を被っていることが明らかになった。
  論文  参考訳（メタデータ） (2025-08-31T07:51:22Z)
• IFEvalCode: Controlled Code Generation [69.28317223249358]
  本稿では,Code LLMの命令追従能力を改善するために,前方および後方制約生成を提案する。 IFEvalCodeは、7つのプログラミング言語の1.6Kテストサンプルからなる多言語ベンチマークである。
  論文  参考訳（メタデータ） (2025-07-30T08:08:48Z)
• On the Effect of Token Merging on Pre-trained Models for Code [11.029842116504726]
  本研究では,同じ意味単位に属するサブトークンの隠蔽表現をマージする効果について検討する。 1つは表現を平均化することに基づく戦略であり、もう1つは学習に基づくアプローチを活用する戦略である。 これらの戦略は浮動小数点演算数を1%$から19%$に削減できることを示している。
  論文  参考訳（メタデータ） (2025-07-19T00:48:20Z)
• VScan: Rethinking Visual Token Reduction for Efficient Large Vision-Language Models [57.2662376527586]
  VScanは2段階のビジュアルトークン削減フレームワークである。 1)グローバルスキャンとローカルスキャンを視覚的エンコーディング中にマージすることで,(2)言語モデルの中間層にプルーニングを導入する。 VScanはプリフィルの2.91$times$スピードアップとFLOPの10$times$ダウンを実現し、オリジナルのパフォーマンスの95.4%を維持した。
  論文  参考訳（メタデータ） (2025-05-28T17:59:08Z)
• ASCIIEval: Benchmarking Models' Visual Perception in Text Strings via ASCII Art [83.95594027644124]
  我々は,この問題を認識タスクとみなし,新しいベンチマークASCIIEvalを構築した。 精巧な分類木を持つ3Kサンプルに加えて、さらなる拡張のためのトレーニングセットもカバーしている。 テキスト入力が与えられた言語モデルは、ASCIIアートの概念に基づいて視覚的知覚能力を示す。 画像入力において,オープンソースのMLLMは,微細なテキスト認識と集合的視覚知覚のトレードオフに悩まされていることが明らかになった。
  論文  参考訳（メタデータ） (2024-10-02T16:46:01Z)
• Impact of Non-Standard Unicode Characters on Security and Comprehension in Large Language Models [0.0]
  本稿では、15個の異なるモデルの性能の比較分析を行う。 モデルは、ジェイルブレイク、幻覚、理解エラーの総発生に基づいて評価される。 Unicodeの数字記号を標準ラテンブロックの外側に組み込んで、他の言語の文字の変種を組み込むことで、ガードレールの有効性の低下を観測した。
  論文  参考訳（メタデータ） (2024-05-23T12:24:38Z)
• Triple-Encoders: Representations That Fire Together, Wire Together [51.15206713482718]
  コントラスト学習(Contrastive Learning)は、バイエンコーダを介して発話間の相対距離を埋め込み空間に符号化する表現学習法である。 本研究では,これら独立に符号化された発話から分散発話混合物を効率よく計算する三重エンコーダを提案する。 トリプルエンコーダはバイエンコーダよりも大幅に改善され、シングルベクトル表現モデルよりもゼロショットの一般化が向上することがわかった。
  論文  参考訳（メタデータ） (2024-02-19T18:06:02Z)
• Speculative Contrastive Decoding [55.378200871224074]
  大規模言語モデル(LLM)は、言語タスクにおいて例外的な性能を示すが、その自動回帰推論は高い計算要求のために制限され、露出バイアスにより準最適である。 投機的復号法とコントラスト的復号法に着想を得て, 単純かつ強力な復号法である投機的コントラスト的復号法(SCD)を導入する。
  論文  参考訳（メタデータ） (2023-11-15T14:15:30Z)
• Surfacing Biases in Large Language Models using Contrastive Input Decoding [12.694066526722203]
  コントラスト入力復号法(コントラスト入力復号法、Contrastive Input Decoding, CID)は、2つの入力を与えられたテキストを生成する復号アルゴリズムである。 CIDを使って、標準的なデコード戦略では検出が難しいコンテキスト固有のバイアスを強調します。
  論文  参考訳（メタデータ） (2023-05-12T11:09:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。