論文の概要: Shared Doubt: Zero-shot Cross-Lingual Confidence Estimation for Language Models

• arxiv url: http://arxiv.org/abs/2605.31220v1
• Date: Fri, 29 May 2026 12:25:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-01 20:56:50.59712
• Title: Shared Doubt: Zero-shot Cross-Lingual Confidence Estimation for Language Models
• Title（参考訳）: Shared Doubt: 言語モデルのゼロショット言語間信頼度推定
• Abstract要約: 中間表現から直接解の正しさを予測する軽量線形プローブを用いる。 学習されたレイヤの重みと複数の改善により、信頼性機能は言語全体の中間層に集中していることが明らかになった。 ゼロショットの言語間性能はソース言語と類似性に依存するが、プローブはリトレーニングなしで強力なベースラインを提供する。
• 参考スコア（独自算出の注目度）: 14.815594636224747
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Confidence estimation (CE), i.e. quantifying the reliability of a model's prediction, has attracted great interest in the context of large language models (LLMs). However, most studies focus on English, ignoring the multilingual reality of LLM usage, while many CE methods degrade or require retraining across languages. To address this gap, we investigate whether multilingual LLMs encode shared, language-transferable confidence features. We use a lightweight linear probe that predicts answer correctness directly from intermediate representations. Trained monolingually, the probe generalizes zero-shot to unseen, typologically diverse languages without target-language supervision. Learned layer weights and multiple ablations reveal that confidence features concentrate in middle layers across languages, suggesting a shared confidence subspace. While zero-shot cross-lingual performance depends on similarity to the source language, the probe provides a strong baseline without any retraining and compares favorably to other popular confidence estimation methods.
• Abstract（参考訳）: 信頼度推定(CE)、すなわちモデルの予測の信頼性の定量化は、大規模言語モデル(LLM)の文脈において大きな関心を集めている。 しかし、ほとんどの研究はLLMの使用の多言語的現実を無視し、英語に焦点を当てている。 このギャップに対処するために、多言語LLMが共用言語変換可能な信頼機能を符号化するかどうかを検討する。 中間表現から直接解の正しさを予測する軽量線形プローブを用いる。 モノリンガルで訓練されたこのプローブは、ターゲット言語を監督することなく、ゼロショットを見えず、タイプミス的に多様な言語に一般化する。 学習されたレイヤの重みと複数の改善により、信頼性機能は言語間の中間層に集中し、共有された信頼サブスペースが示唆される。 ゼロショットの言語間性能は、ソース言語と類似性に依存するが、プローブは、リトレーニングなしで強力なベースラインを提供し、他の一般的な信頼度推定手法と好意的に比較する。

関連論文リスト

• Cross-lingual Representation Learning via Centroid Intervention Fusion [30.50994950370956]
  Centroid Intervention Fusion (CIF) は、複数の多言語介入プロジェクションを単一の言語共有演算子に統合するプロジェクション融合フレームワークである。 CIFは、4つのモデルバックボーンで平均で+3.378ppという最強の相互介入ベースラインを上回っている。
  論文  参考訳（メタデータ） (2026-08-26T19:39:57Z)
• Inference-Time Steering for Cross-Lingual Factual Consistency in LLMs [51.56484100374058]
  大規模言語モデル(LLM)は目覚ましい多言語流布を示すが、その内部知識表現はハイリソース言語に対して不均等に偏っている。 我々は,これらのバイアスを推論時に緩和できるかどうかを考察し,対象言語でクエリされたかのように,英語の確率モデルに答えるように強制する。 Gemma 3 12Bの実験では、最も強い全体的な介入、効率性のバランス、安全性、ドメイン外の一般化を促すペルソナが明らかにされている。
  論文  参考訳（メタデータ） (2026-07-21T16:15:05Z)
• Estimating Uncertainty from Reasoning: A Large-Scale Study of Multi- and Crosslingual MCQA Performance in LLMs [15.831021059811045]
  不確実性推定(UE)により、LLMシステムはいつ停止するかを認識できる。 本稿では,22言語を対象としたUE手法の大規模評価を行う。
  論文  参考訳（メタデータ） (2026-07-07T14:25:09Z)
• Optimizing Language Models for Crosslingual Knowledge Consistency [90.86445137816942]
  大規模な言語モデルは、しばしば一貫性のない知識を示すことが知られている。 これは、モデルが異なる言語で同様の質問をすることが多い、多言語シナリオにおいて特に問題となる。 本研究では,この問題を構造化報酬関数を用いた強化学習を用いて緩和することができることを示す。
  論文  参考訳（メタデータ） (2026-03-04T23:36:55Z)
• Investigating the Multilingual Calibration Effects of Language Model Instruction-Tuning [58.355275813623685]
  本研究は,多言語設定における大規模言語モデル(LLM)の校正における重要なギャップについて考察する。 低リソース言語であっても、高リソース言語SFTデータセットのインストラクションチューニング後にモデルの信頼性が著しく向上する可能性がある。 しかし、精度の改善は限界的あるいは存在しないものであり、多言語言語における標準SFTの重大な欠点を浮き彫りにしている。
  論文  参考訳（メタデータ） (2026-01-04T04:29:12Z)
• Beyond the Final Layer: Intermediate Representations for Better Multilingual Calibration in Large Language Models [50.34755385896279]
  大規模言語モデル(LLM)の信頼性確保には信頼度校正が不可欠である 6つのモデルファミリーと100以上の言語にまたがる多言語キャリブレーションの大規模かつ体系的な研究を行う。 非英語言語は体系的に悪い校正に苦しむ。
  論文  参考訳（メタデータ） (2025-10-03T16:07:15Z)
• Can Large Language Models Express Uncertainty Like Human? [71.27418419522884]
  我々は,人間に注釈を付けた信頼スコアを持つヘッジ式の最初の多種多様な大規模データセットをリリースする。 現代大言語モデルにまたがる言語信頼に関する最初の体系的研究を行う。
  論文  参考訳（メタデータ） (2025-09-29T02:34:30Z)
• Cross-Lingual Pitfalls: Automatic Probing Cross-Lingual Weakness of Multilingual Large Language Models [55.14276067678253]
  本稿では,Large Language Models (LLMs) における言語間関係の弱点を効率的に同定するための新しい手法を提案する。 この手法を用いて16言語で6,000以上のバイリンガルペアからなる新しいデータセットを構築し、最先端のモデルにおいても弱点を明らかにする効果を実証した。 さらに,言語的類似性と言語間の弱点との関係について検討し,言語的関連言語が類似した演奏パターンを共有することを明らかにした。
  論文  参考訳（メタデータ） (2025-05-24T12:31:27Z)
• Scaling Test-time Compute for Low-resource Languages: Multilingual Reasoning in LLMs [3.9530780161144667]
  本稿では,大規模言語モデルが潜在空間で内部的に操作する多言語メカニズムについて検討する。 我々は、低リソース言語での入力を条件に、ターゲット言語で最終応答を出力しながら、英語でチェーン・オブ・ソート(CoT)を生成するモデルを訓練する。 我々の実験では、この手法は英語によるCoTトレーニングと呼ばれ、28.33%の改善で他のベースラインを上回っている。
  論文  参考訳（メタデータ） (2025-04-02T16:58:36Z)
• MlingConf: A Comprehensive Study of Multilingual Confidence Estimation on Large Language Models [36.33453112932689]
  本稿では,多言語信頼度推定(MlingConf)の大規模言語モデル(LLM)に関する包括的調査を紹介する。 このベンチマークは、LAタスクのための4つの厳密にチェックされ、人間によって評価された高品質な多言語データセットと、言語の特定の社会的、文化的、地理的コンテキストに合わせて調整されたLSタスクからなる。 LAのタスクでは、英語が他の言語よりも言語的優位性を示す一方で、LSタスクでは、質問関連言語を用いてLSMを誘導し、多言語的信頼度推定において言語的優位性を改善することが示されている。
  論文  参考訳（メタデータ） (2024-02-21T08:20:06Z)
• From Good to Best: Two-Stage Training for Cross-lingual Machine Reading Comprehension [51.953428342923885]
  モデル性能を向上させるための2段階のアプローチを開発する。 我々は、トップk予測が正確な答えを含む確率を最大化するために、ハードラーニング(HL)アルゴリズムを設計する。 第2段階では, 正解と他の候補との微妙な違いを学習するために, 解答を意識したコントラスト学習機構が開発された。
  論文  参考訳（メタデータ） (2021-12-09T07:31:15Z)
• Boosting Cross-Lingual Transfer via Self-Learning with Uncertainty Estimation [34.97086123805344]
  最近の多言語事前訓練型言語モデルは、目覚ましいゼロショット性能を実現している。 対象言語のラベルのないデータをさらに活用する自己学習フレームワークを提案する。 我々は,NER(Nond Entity Recognition)とNLI(Natural Language Inference)の2つの言語間タスクについて,40言語を網羅した不確実性で評価した。
  論文  参考訳（メタデータ） (2021-09-01T05:26:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。