論文の概要: Are Language Models Script-Aware?
- arxiv url: http://arxiv.org/abs/2610.08037v1
- Date: Tue, 06 Oct 2026 09:31:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 02:58:29.918705
- Title: Are Language Models Script-Aware?
- Title(参考訳): 言語モデルはスクリプト対応か?
- Abstract要約: 言語モデルはしばしば意図しない言語やスクリプトで出力を生成する。
マルチスクリプト言語でテストすることで,モデルがスクリプト知識を持つかどうかを検討する。
- 参考スコア(独自算出の注目度): 1.3212032015497976
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Language models frequently generate outputs in unintended languages or scripts, a phenomenon known as off-target generation. While existing research has focused on language selection, the dimension of script knowledge remains understudied: before any linguistic understanding can occur, users must recognize the graphic symbols in a model's response. We investigate whether Small and Large Language Models (SLMs and LLMs) possess script knowledge by testing them on multi-scriptic languages. Through two complementary experiments, we evaluate whether models (1) adapt their output script to match the input, and (2) follow explicit instructions to generate text in a specified script. The models we tested demonstrate substantial script knowledge: they all achieve a near-perfect Latin script fidelity (more than 98%) and follow script instructions with high frequency. Nevertheless, we notice differences between LLMs and SLMs, with higher scores for LLMs including for non-standard script combinations.
- Abstract(参考訳): 言語モデルは意図しない言語やスクリプトでしばしば出力を生成する。
既存の研究は言語選択に重点を置いているが、スクリプト知識の次元はいまだ検討されていない。言語理解が起こる前に、ユーザーはモデルの応答においてグラフィックシンボルを認識する必要がある。
本研究では,小・大規模言語モデル (SLM, LLM) がスクリプト知識を持つかどうかを,多言語でテストすることによって検討する。
2つの相補的な実験を通して,(1)モデルが入力に適合する出力スクリプトに適応しているか,(2)明示的な指示に従って特定のスクリプトでテキストを生成するかを評価する。
それらはすべて、ほぼ完全なラテン文字の忠実度(98%以上)を達成し、高い頻度でスクリプト命令に従う。
それにもかかわらず、LLMとSLMの違いに気付き、標準でないスクリプトの組み合わせを含むLCMのスコアが高い。
関連論文リスト
- The Latin Substrate: How Language Models Represent and Mediate Script Choice [10.624509426092597]
私たちは、同じ言語のスクリプトがレイヤー間で分離しやすくなっていることを示しています。
私たちは、スクリプトの選択を因果的に仲介する、レイト層アテンションヘッドの小さなセットをローカライズします。
論文 参考訳(メタデータ) (2026-05-29T14:36:04Z) - Linear Script Representations in Speech Foundation Models Enable Zero-Shot Transliteration [70.84108518476744]
我々は,スクリプトが多言語音声モデルのアクティベーション空間に線形に符号化されていることを示し,推論時にアクティベーションを変更することで,出力スクリプトを直接制御できることを示した。
本稿では,Whisperの全モデルサイズにまたがる競合性能を観測し,音声認識出力のスクリプトに対するポストホック制御を実現する手法を提案する。
論文 参考訳(メタデータ) (2026-01-06T10:45:04Z) - Randomly Sampled Language Reasoning Problems Elucidate Limitations of In-Context Learning [9.75748930802634]
機械学習の性能を向上させるために,テキスト内学習の能力について検討する。
非常に単純なドメインを考える: 単純な言語タスクにおける次のトークン予測。
この課題において LLM は n-gram モデルに一様に劣ることがわかった。
論文 参考訳(メタデータ) (2025-01-06T07:57:51Z) - Exploring the Role of Transliteration in In-Context Learning for Low-resource Languages Written in Non-Latin Scripts [50.40191599304911]
非ラテン文字で書かれた低リソース言語に対するLLMの性能向上にも効果があるか検討する。
本稿では,(1) の原文,(2) ラテン文字,(3) の両文を対象とする3つのプロンプトテンプレートを提案する。
本研究の結果から,翻訳の有効性はタスクタイプやモデルサイズによって異なることが明らかとなった。
論文 参考訳(メタデータ) (2024-07-02T14:51:20Z) - Understanding and Mitigating Language Confusion in LLMs [76.96033035093204]
我々は,既存の英語および多言語プロンプトを用いた15の型的多様言語の評価を行った。
Llama Instruct と Mistral のモデルでは,言語的混乱の度合いが高いことがわかった。
言語混乱は,数発のプロンプト,多言語SFT,選好調整によって部分的に緩和できることがわかった。
論文 参考訳(メタデータ) (2024-06-28T17:03:51Z) - Establishing Vocabulary Tests as a Benchmark for Evaluating Large
Language Models [2.7013338932521416]
我々は,大言語モデル(LLM)の性能を評価する貴重なツールとして,語彙テストの復活を提唱する。
2つの言語にまたがる2つの語彙テスト形式を用いて7つのLSMを評価し,その語彙的知識の驚くべきギャップを明らかにする。
論文 参考訳(メタデータ) (2023-10-23T08:45:12Z) - Adapters for Enhanced Modeling of Multilingual Knowledge and Text [54.02078328453149]
言語モデルは多言語言語モデル(MLLM)に拡張された。
知識グラフは、注意深いキュレーションを必要とし、少数の高リソース言語でのみ利用可能である、明示的な三重形式で事実を含む。
我々は,MLLMを多言語知識グラフ(MLKG)からの知識で拡張し,言語や知識グラフのタスクに多くの言語で取り組むことを提案する。
論文 参考訳(メタデータ) (2022-10-24T21:33:42Z) - Does Transliteration Help Multilingual Language Modeling? [0.0]
多言語言語モデルに対する音訳の効果を実証的に測定する。
私たちは、世界で最もスクリプトの多様性が高いIndic言語にフォーカスしています。
比較的高いソースコード言語に悪影響を及ぼすことなく、低リソース言語にトランスリテラゼーションが有効であることに気付きました。
論文 参考訳(メタデータ) (2022-01-29T05:48:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。