論文の概要: No Tokenizer, Still a Gap: Cross-Lingual Fairness of Homoglyph and Invisible-Character Watermarking
- arxiv url: http://arxiv.org/abs/2610.36432v1
- Date: Tue, 27 Oct 2026 00:27:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-28 21:04:31.453308
- Title: No Tokenizer, Still a Gap: Cross-Lingual Fairness of Homoglyph and Invisible-Character Watermarking
- Title(参考訳): トケナイザーはいまだにない - ホモグリフと不可視文字透かしの言語間公正性
- Abstract要約: ホモグリフと目に見えない文字の透かしは編集ベースの透かしである。
書かれた後、テキストに信号を隠す。
容量は3.3倍、スクリプトは96%である。
- 参考スコア(独自算出の注目度): 42.06723421277899
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Homoglyph and invisible-character watermarks are edit-based watermarks. Instead of changing how a model generates text, they hide a signal in the text after it is written. They swap some characters for homoglyphs, which look the same, or very similar, but have different Unicode code points, or they insert characters that do not display, all without access to the model that wrote the text. Generation-time watermarks work less well for lower-resourced languages due to how tokenizers split their text. Because they work on individual characters, these watermarks never touch a tokenizer, so we ask whether they escape this gap. Across 40 language varieties in 24 scripts, we measure capacity (the hidden bits each character can carry), how much of it survives routine handling and targeted removal, and how much text a keyed detector needs. Capacity varies 3.3-fold and script accounts for 96\% of that variation. Within Latin script, resource level makes no detectable difference ($ρ=+0.095$, $p=0.78$), but across scripts capacity rises with it ($ρ=+0.54$, 95\% CI $[+0.14,+0.83]$), because lower-resourced languages tend to use scripts with few homoglyphs. Ordinary copy-paste, which strips invisible characters, widens the gap: a detector then needs about 2 code points of English or Persian but 93 of Lao. Removing the tokenizer does not remove the inequity, but instead only changes its source.
- Abstract(参考訳): ホモグリフと目に見えない文字の透かしは編集ベースの透かしである。
モデルがテキストを生成する方法を変更する代わりに、書き込み後にそのテキストに信号を隠す。
文字をホモグリフに置き換え、同じか、非常に似ているが、Unicodeのコードポイントが異なるか、表示しない文字を挿入する。
生成時の透かしは、トークン化者がテキストを分割する方法のため、低リソースの言語ではうまく機能しない。
個々の文字で作業するため、これらの透かしはトークン化器に触れることはないため、このギャップから逃れるかどうかを問う。
40種類の言語を24のスクリプトで比較し、キャパシティ(各キャラクタが持てる隠れビット)、ルーチン処理とターゲット削除の生存率、キー付き検出器に必要なテキスト数を測定します。
キャパシティは3.3倍であり、スクリプトは96\%である。
ラテン文字では、リソースレベルには検出可能な差(ρ=+0.095$, $p=0.78$)はないが、低リソース言語ではホモグリフが少ないスクリプトを使用する傾向があるため、スクリプトのキャパシティが上昇する(ρ=+0.54$, 95\% CI $[+0.14,+0.83]$)。
通常のコピーペーストは、目に見えない文字を取り除き、ギャップを広げます。検出器は英語とペルシア語の2つのコードポイントが必要ですが、ラオスの93のコードポイントが必要です。
トークン化器の除去は不等式を取り除くのではなく、ソースを変更するだけである。
関連論文リスト
- Universal Byte-Level Encoding: UTF-8/UTF-16 Routing to Reduce Cross-Script Token-Budget Disparities [2.7286395031146067]
バイトコードレベルのバイトペア符号化(BBPE)は、Unicodeテキストをすべてカバーしているため、多言語大言語モデル(LLM)にとって魅力的である。
多くのスクリプトは英語よりも高いコストから始まる。
より高いフロアはトークン数を増やし、要求単位のコストを削減し、コンテキストを縮小することができる。
より効率的な英語トークンであるUniversal Byte-Level UBEを提案する。
論文 参考訳(メタデータ) (2026-10-01T16:26:10Z) - Can Watermarks Survive Translation? On the Cross-lingual Consistency of Text Watermark for Large Language Models [48.409979469683975]
テキスト透かしにおける言語間整合性の概念を紹介する。
予備的な実証実験の結果、現在のテキスト透かし技術は、テキストが様々な言語に翻訳されるときに一貫性が欠如していることが判明した。
透かしを回避するための言語横断型透かし除去攻撃(CWRA)を提案する。
論文 参考訳(メタデータ) (2024-02-21T18:48:38Z) - Provably Robust Multi-bit Watermarking for AI-generated Text [37.21416140194606]
大規模言語モデル(LLM)は、人間の言語に似たテキストを生成する顕著な能力を示した。
犯罪者が偽ニュースやフィッシングメールなどの偽装コンテンツを作成するために悪用することもある。
ウォーターマーキングはこれらの懸念に対処するための重要なテクニックであり、メッセージをテキストに埋め込む。
論文 参考訳(メタデータ) (2024-01-30T08:46:48Z) - Mark My Words: Analyzing and Evaluating Language Model Watermarks [8.025719866615333]
この研究は、画像やモデル透かしとは対照的に、出力透かし技術に焦点を当てている。
品質、サイズ(透かしを検出するのに必要となるトークンの数)、抵抗の改ざんという3つの主要な指標に注目します。
論文 参考訳(メタデータ) (2023-12-01T01:22:46Z) - Robust Distortion-free Watermarks for Language Models [85.55407177530746]
本稿では,自動回帰言語モデルからテキストに透かしを植え付ける手法を提案する。
言語モデルから乱数列をサンプルにマッピングすることで、透かし付きテキストを生成する。
論文 参考訳(メタデータ) (2023-07-28T14:52:08Z) - Watermarking Text Generated by Black-Box Language Models [103.52541557216766]
テキスト生成中に透かしを埋め込むことのできるホワイトボックスLCMに対して,透かしに基づく手法が提案されている。
リストを認識した検出アルゴリズムは、透かし付きテキストを識別することができる。
我々はブラックボックス言語モデル利用シナリオのための透かしフレームワークを開発する。
論文 参考訳(メタデータ) (2023-05-14T07:37:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。