論文の概要: Inferring L1 Backgrounds from L2 English with LLM Token Probabilities

• arxiv url: http://arxiv.org/abs/2610.23309v1
• Date: Fri, 16 Oct 2026 11:12:42 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-20 00:56:07.90088
• Title: Inferring L1 Backgrounds from L2 English with LLM Token Probabilities
• Title（参考訳）: LLMトークン確率を用いたL2英語からのL1背景推定
• Abstract要約: ネイティブ言語識別(NLI)は、非ネイティブ話者の第1言語(L1)を第2言語(L2)から推定する。 本稿では,各テキストサンプルをプロンプトプレフィックスL1の継続として予測するトークン確率アプローチについて検討する。 以上の結果から,事前学習したLLMのトークン確率には,L1の背景とL2の英語生産を区別するのに有用な情報が含まれていることが示唆された。
• 参考スコア（独自算出の注目度）: 1.6210510806456278
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Native language identification (NLI) infers a non-native speaker's first language (L1) from their second language (L2) production. We investigate a token probability approach that scores each text sample as a continuation of a prompt prefix specifying a candidate L1, then predicts the candidate with the highest score. We evaluate our approach using Llama 3.1 8B and 70B on three datasets: TOEFL9, Write and Improve 2024, and BULATS-L1. We compare its performance with previous prompting-based classification approaches. Token-probability scoring substantially improves on direct classification, particularly with the 8B model, while the 70B model achieves state-of-the-art performance across all datasets. Our results indicate that pretrained LLMs' token probabilities contain information useful for distinguishing L1 backgrounds from L2 English production.
• Abstract（参考訳）: ネイティブ言語識別(NLI)は、非ネイティブ話者の第1言語(L1)を第2言語(L2)から推定する。 我々は,各テキストサンプルを候補L1を指定するプロンプトプレフィックスの継続としてスコア付けするトークン確率アプローチを調査し,最も高いスコアで候補を予測する。 我々は3つのデータセット(TOEFL9, Write and Improve 2024, BULATS-L1)でLlama 3.1 8B, 70Bを用いてアプローチを評価した。 従来のプロンプトに基づく分類手法と比較した。 トークン確率スコアリングは直接分類、特に8Bモデルで大幅に改善され、70Bモデルはすべてのデータセットで最先端のパフォーマンスを達成する。 以上の結果から,事前学習したLLMのトークン確率には,L1の背景とL2の英語生産を区別するのに有用な情報が含まれていることが示唆された。

関連論文リスト

• Binary Token-Level Classification with DeBERTa for All-Type MWE Identification: A Lightweight Approach with Linguistic Enhancement [1.8429656136522097]
  本稿では,バイナリトークンレベルの分類,言語的特徴の統合,データ拡張を組み合わせた,MWE識別のための包括的アプローチを提案する。 我々のDeBERTa-v3大規模モデルは、CoAMデータセット上で69.8%のF1を達成し、このデータセットで最高の結果(Qwen-72B, 57.8% F1)を12ポイント上回り、パラメータは165倍少ない。
  論文  参考訳（メタデータ） (2026-01-27T08:42:54Z)
• Beyond Tokens in Language Models: Interpreting Activations through Text Genre Chunks [0.0]
  本稿では、テキストのジャンルをアクティベートに基づいて予測する予測フレームワークへの第一歩を示す。 Mistral-7Bと2つのデータセットを用いて、最大98%のF1スコアでジャンルを抽出できることを示す。 その結果、テキストのジャンルが浅い学習モデルでLLMから推測できるという概念の証明が得られた。
  論文  参考訳（メタデータ） (2025-11-20T16:53:12Z)
• Natural Language-based Assessment of L2 Oral Proficiency using LLMs [5.931245606235828]
  自然言語に基づくアセスメント(NLA)は、can-doディスクリプタの形式で表現された命令を使用する第二言語アセスメントのアプローチである。 本研究では,オープンソース LLM である Qwen 2.5 72B を用いて,公開されている S&I コーパスからの応答を評価する。 提案手法は,タスクに精巧に調整されたLLMを上回りませんが,この目的に特化して訓練されたBERTベースモデルよりも優れています。
  論文  参考訳（メタデータ） (2025-07-14T12:13:50Z)
• Targeted Lexical Injection: Unlocking Latent Cross-Lingual Alignment in Lugha-Llama via Early-Layer LoRA Fine-Tuning [0.0]
  LLM(Large Language Models)は目覚ましい能力を示しているが、低リソース言語(LRL)のパフォーマンスは、データ不足と事前トレーニングの過小評価による遅延が多い。 本稿では,新規かつ効率的な微調整法であるTLIについて紹介する。
  論文  参考訳（メタデータ） (2025-06-18T12:35:53Z)
• Native Language Identification with Large Language Models [60.80452362519818]
  我々はGPTモデルがNLI分類に熟練していることを示し、GPT-4は0ショット設定でベンチマーク11テストセットで91.7%の新たなパフォーマンス記録を樹立した。 また、従来の完全教師付き設定とは異なり、LLMは既知のクラスに制限されずにNLIを実行できることを示す。
  論文  参考訳（メタデータ） (2023-12-13T00:52:15Z)
• On Bilingual Lexicon Induction with Large Language Models [81.6546357879259]
  本稿では,バイリンガル辞書開発における次世代大規模言語モデルの可能性について検討する。 本研究では,1) 教師なしBLIにおけるゼロショットプロンプトと,2) シード翻訳ペアの組による少数ショットインコンテキストプロンプトについて検討する。 私たちの研究は、テキストからテキストへのmLLMの強力なBLI機能を示す最初のものです。
  論文  参考訳（メタデータ） (2023-10-21T12:43:27Z)
• Large Language Model-Aware In-Context Learning for Code Generation [75.68709482932903]
  大規模言語モデル(LLM)は、コード生成において印象的なコンテキスト内学習(ICL)能力を示している。 コード生成のためのLAIL (LLM-Aware In-context Learning) という新しい学習ベース選択手法を提案する。
  論文  参考訳（メタデータ） (2023-10-15T06:12:58Z)
• Contextual Biasing of Named-Entities with Large Language Models [12.396054621526643]
  本稿では,Large Language Models (LLM) を用いた文脈バイアスについて検討する。 LLMに追加のコンテキスト情報を提供して、自動音声認識(ASR)性能を向上する。 本稿では, バイアスリストと少数ショット例を組み込んだ再描画時に, 微調整を行なわずに, LLMのプロンプトを活用することを提案する。
  論文  参考訳（メタデータ） (2023-09-01T20:15:48Z)
• Multilingual Machine Translation with Large Language Models: Empirical Results and Analysis [103.89753784762445]
  大規模言語モデル(LLM)は多言語機械翻訳(MMT)の処理において顕著な可能性を示した。 本稿では, MMT における LLM の利点と課題を体系的に検討する。 また,ChatGPTとGPT-4を含む8つのLLMを徹底的に評価した。
  論文  参考訳（メタデータ） (2023-04-10T15:51:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。