論文の概要: Quantifying and Mitigating Korean Jamo-Level Typographical Vulnerabilities in Large Language Models

• arxiv url: http://arxiv.org/abs/2608.30229v1
• Date: Mon, 31 Aug 2026 04:28:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-01 18:31:31.220393
• Title: Quantifying and Mitigating Korean Jamo-Level Typographical Vulnerabilities in Large Language Models
• Title（参考訳）: 大規模言語モデルにおける韓国ジャモレベルタイポグラフィー脆弱性の定量化と緩和
• Abstract要約: 韓国では、通常の文字レベルの編集モデルでは捉えられない追加の文字摂動レベルが導入されている。 音節ブロックはジャムと呼ばれるサブキャラクタユニットで内部的に構成されているため、キーボードレベルのエラーは音節内で発生しうる。 この脆弱性を定量化するために、KMMLUベンチマークに5つのジャモレベルの摂動型を適用し、4つの言語モデルを評価する。 本稿では,入力を連鎖推論にルーティングするTypo-Aware Chain-of-Thought (TACoT)を提案する。
• 参考スコア（独自算出の注目度）: 12.893256474784499
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Korean introduces an additional typographical perturbation level not captured by ordinary character-level edit models: because syllable blocks are internally composed of sub-character units called jamo, keyboard-level errors can occur within a syllable, either producing a valid but semantically altered character or exposing raw jamo on the surface. Both outcomes disrupt sub-word tokenization and are not reliably corrected by existing grammatical error correction pipelines, leaving LLMs directly exposed to corrupted inputs. To quantify this vulnerability, we apply five jamo-level perturbation types to the KMMLU benchmark and evaluate four language models, finding that accuracy declines monotonically with perturbation intensity and that parameter scaling does not confer robustness against intra-syllabic noise. We further show that typo-corrupted inputs induce a distinct shift in internal representations that is not reducible to ordinary answer incorrectness, and that a simple linear probe trained on these representations detects unseen perturbation types with high AUROC. Motivated by this signal, we propose Typo-Aware Chain-of-Thought (TACoT), which routes inputs to chain-of-thought inference only when the probe detects a likely typo, recovering a substantial portion of the CoT accuracy gain at a fraction of the inference cost.
• Abstract（参考訳）: 音節ブロックはジャモと呼ばれるサブキャラクタ単位で内部的に構成されているため、キーボードレベルのエラーは音節内で発生し、有効だが意味的に変更された文字を生成するか、表面で生ジャモを露出させるかのいずれかである。 どちらの結果もサブワードトークン化を妨害し、既存の文法的誤り訂正パイプラインでは確実に修正されない。 この脆弱性を定量化するために、KMMLUベンチマークに5つのジャモレベルの摂動型を適用し、4つの言語モデルを評価する。 さらに、タイプミスした入力は、通常の答えの不正確さに再現できない内部表現の明確なシフトを誘導し、これらの表現に基づいて訓練された単純な線形プローブは、高いAUROCで目に見えない摂動型を検出する。 この信号に触発されたTACoT (Typo-Aware Chain-of-Thought) は,プローブが潜在的なタイポを検出した場合にのみ入力を連鎖推論にルーティングし,推定コストのごく一部でCoT精度ゲインのかなりの部分を回復する。

関連論文リスト

• Graph-Based Phonetic Error Correction of Noisy ASR [15.765749498997442]
  本稿では,音声グラフモデリングと文脈言語理解を組み合わせた構造化ASR補正フレームワークを提案する。 グラフニューラルネットワーク(GNN)は、まず、フラグ付きトークンに対して、音響的に検証可能な候補近傍を構築する。 その後、マスク付き言語モデル(MLM)が局所的な文脈スコアリングを提供し、命令調整型大規模言語モデル(LLM)が最終的な文脈認識の再ランク付けを行う。
  論文  参考訳（メタデータ） (2026-04-29T13:57:11Z)
• STEAD: Robust Provably Secure Linguistic Steganography with Diffusion Language Model [71.35577462669856]
  拡散言語モデル(DLM)を用いた頑健で確実な言語ステガノグラフィーを提案する。 ステガノグラフ抽出中に擬似ランダム誤り訂正や近傍探索補正を含む誤り訂正戦略を導入する。
  論文  参考訳（メタデータ） (2026-01-21T08:58:12Z)
• Corrective Diffusion Language Models [12.724100711773593]
  拡散言語モデルにおいて,不正確なトークンに低い信頼度を割り当て,正しいコンテンツを保持しながら反復的にそれらを洗練する能力として定義される補正行動について検討する。 本稿では,目に見える不正確なトークンを明示的に監視し,誤り認識の信頼性と目的の洗練を可能にする,修正指向のポストトレーニング原理を提案する。
  論文  参考訳（メタデータ） (2025-12-17T17:04:38Z)
• A Coin Has Two Sides: A Novel Detector-Corrector Framework for Chinese Spelling Correction [79.52464132360618]
  中国語のSpelling Correction(CSC)は、自然言語処理(NLP)の基本課題である。 本稿では,エラー検出・相関器の枠組みに基づく新しい手法を提案する。 我々の検出器は2つのエラー検出結果を得るように設計されており、それぞれ高精度とリコールが特徴である。
  論文  参考訳（メタデータ） (2024-09-06T09:26:45Z)
• Contextual Spelling Correction with Language Model for Low-resource Setting [0.0]
  文脈理解を伴うSCモデルを提供するために、小規模な単語ベースの変換器LMを訓練する。 コーパスからエラー発生確率(エラーモデル)を抽出する。 LMとエラーモデルを組み合わせることで、よく知られたノイズチャネルフレームワークを通じてSCモデルを開発することができる。
  論文  参考訳（メタデータ） (2024-04-28T05:29:35Z)
• HyPoradise: An Open Baseline for Generative Speech Recognition with Large Language Models [81.56455625624041]
  ASRの誤り訂正に外部の大規模言語モデル(LLM)を利用する最初のオープンソースベンチマークを導入する。 提案したベンチマークには、334,000組以上のN-best仮説を含む新しいデータセットHyPoradise (HP)が含まれている。 合理的なプロンプトと生成能力を持つLLMは、N-bestリストに欠けているトークンを修正できる。
  論文  参考訳（メタデータ） (2023-09-27T14:44:10Z)
• Chinese Spelling Correction as Rephrasing Language Model [63.65217759957206]
  文中のスペル誤りを検知し,訂正することを目的とした中国語スペル補正(CSC)について検討する。 現在の最先端の手法は、CSCをシーケンスタギングタスクと文対上の細いBERTベースのモデルとみなしている。 本稿では,文字から文字へのタグ付けではなく,追加のスロットを埋め込むことで文全体を言い換える言語モデル(ReLM)を提案する。
  論文  参考訳（メタデータ） (2023-08-17T06:04:28Z)
• Block the Label and Noise: An N-Gram Masked Speller for Chinese Spell Checking [0.0]
  本稿では, ラベルの漏洩や誤検出を回避するため, 電流や周辺トークンをマスキングするn-gramマスキング層を提案する。 SIGHANデータセットの実験では、プラグ可能なn-gramマスキング機構により、一般的なCSCモデルの性能が向上することを示した。
  論文  参考訳（メタデータ） (2023-05-05T06:43:56Z)
• Tail-to-Tail Non-Autoregressive Sequence Prediction for Chinese Grammatical Error Correction [49.25830718574892]
  本稿では,Tail-to-Tail (textbfTtT) という新しいフレームワークを提案する。 ほとんどのトークンが正しいので、ソースからターゲットに直接転送でき、エラー位置を推定して修正することができる。 標準データセット、特に可変長データセットに関する実験結果は、文レベルの精度、精度、リコール、F1-Measureの観点からTtTの有効性を示す。
  論文  参考訳（メタデータ） (2021-06-03T05:56:57Z)
• Adv-BERT: BERT is not robust on misspellings! Generating nature adversarial samples on BERT [95.88293021131035]
  しかし、悪意のある敵のインスタンスがしばしば存在するのではなく、テクトナチュラルなシナリオでモデルがどのように機能するかは定かではない。 この研究は、NLPにおける最先端のTransformerスタイルモデルであるBERTの、ノイズの多いデータを扱うための頑健さを体系的に探求する。
  論文  参考訳（メタデータ） (2020-02-27T22:07:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。