Fugu-MT 論文翻訳(概要): Future Confidence Distillation in Large Language Models

論文の概要: Future Confidence Distillation in Large Language Models

arxiv url: http://arxiv.org/abs/2607.07626v1
Date: Wed, 08 Jul 2026 16:43:11 GMT
ステータス: 翻訳完了
システム内更新日: 2026-07-09 22:50:30.466504
Title: Future Confidence Distillation in Large Language Models
Title（参考訳）: 大規模言語モデルにおける今後の信頼度
Abstract要約: 既存のアプローチは、信頼性を完了した応答の特性として扱う。本研究では, 時間的観点からの信頼度を, 解答前判断(FOK)と解答後判断(JOL)の信頼度推定を比較して検討する。解法後の信頼度は、解法前の信頼度よりも常に校正され、差別的であることが示される。
参考スコア（独自算出の注目度）: 0.0
License: http://creativecommons.org/licenses/by-sa/4.0/
Abstract: Reliable confidence estimation is essential for deploying large language models (LLMs) in confidence-aware systems, where downstream decisions such as retrieval, tool use, and adaptive computation depend on accurately estimating answer reliability. Existing approaches, however, largely treat confidence as a property of completed responses, overlooking how confidence-related information evolves throughout the answering process. In this work, we investigate confidence from a temporal perspective by comparing pre-solution Feeling-of-Knowing (FOK) and post-solution Judgement-of-Learning (JOL) confidence estimates across frontier and open-source LLMs. We show that post-solution confidence is consistently better calibrated and more discriminative than pre-solution confidence, while linear probes trained on hidden representations recover substantially richer confidence-related information than models explicitly verbalise. Building on this observation, we introduce future confidence distillation, which trains predictors operating on pre-solution hidden representations using teacher confidence estimates produced by post-solution correctness probes. Despite requiring only pre-solution representations for inference, distilled predictors recover much of the calibration improvement achieved by post-solution confidence, remain highly sample efficient, and transfer across datasets within the same domain. Together, our findings demonstrate that confidence-related information evolves throughout the answering process and can be anticipated before answer generation is complete, enabling significantly more reliable yet low-cost confidence estimation.
Abstract（参考訳）: 信頼度推定は、検索、ツールの使用、適応計算などの下流決定が答えの信頼性を正確に推定するシステムにおいて、大きな言語モデル(LLM)をデプロイするために不可欠である。しかし、既存のアプローチは、回答プロセスを通して、信頼に関連する情報がどのように進化していくかを見越して、信頼を完全な応答の特性として扱う。本研究は,フロンティアおよびオープンソースLCMを対象とした,事前解答判断(FOK)と事後判定(JOL)の信頼度推定を比較して,時間的観点からの信頼度を考察する。隠れ表現で訓練された線形プローブは、モデルが明示的に発音するよりもかなりリッチな信頼関連情報を回復するのに対し、解答後の信頼度は、解答前の信頼度よりも一貫した校正と差別性が高いことを示す。そこで本研究では, 教師の信頼度推定値を用いて, 事前ソリューションの隠蔽表現を行う予測器を訓練する, 将来的な信頼度蒸留法を提案する。推論に事前解法表現のみを必要とするにもかかわらず、蒸留された予測器は、解法後の信頼性によって達成されたキャリブレーションの改善の多くを回復し、高いサンプリング効率を維持し、同じドメイン内のデータセット間で転送する。この結果から, 回答生成が完了する前に, 信頼性関連情報が進化し, 信頼性が向上すると同時に, 低コストで信頼性の高い信頼度推定が可能であることが示唆された。

関連論文リスト

ORCE: Order-Aware Alignment of Verbalized Confidence in Large Language Models [17.761630515662947]
本稿では,言語的信頼度校正のための疎結合・秩序対応フレームワークを提案する。提案手法は,まず回答を生成し,固定された質問対に条件付き信頼度を推定する。実験により,本手法は解答精度を大きく保ちながらキャリブレーションと故障予測性能を向上させることが示された。
論文参考訳（メタデータ） (2026-05-12T17:39:43Z)
Process Supervision of Confidence Margin for Calibrated LLM Reasoning [52.373121066425455]
強化学習(RL)によるテスト時間計算のスケーリングは,大規模言語モデル(LLM)推論能力を向上させるための信頼性の高い経路として登場した。しかし、結果に基づく報酬は、しばしばモデルに過信感を与え、幻覚、信頼できない信頼ベースの制御、不要な計算割り当てをもたらす。本稿では,信頼性と信頼性を両立させるキャリブレーションを意識したRLフレームワークであるReinforcement Learning with Confidence Margin(textbfRLCM)を紹介する。
論文参考訳（メタデータ） (2026-04-25T14:40:13Z)
Less Approximates More: Harmonizing Performance and Confidence Faithfulness via Hybrid Post-Training for High-Stakes Tasks [52.81286869496811]
大規模な言語モデルは、自信を持って不正確な推論が現実世界の害を引き起こすような、ハイテイクなタスクにますますデプロイされている。内的フィードバックからの教師なし強化学習と推論・トラス誘導型推論蒸留を併用して協調的に最適化することを提案する。 PRG方式のメトリクスを用いてRDとRLIFを適応的に重み付けするハイブリッドポストトレーニングフレームワークであるHyTuningを紹介する。
論文参考訳（メタデータ） (2026-04-09T16:50:11Z)
BrowseConf: Confidence-Guided Test-Time Scaling for Web Agents [58.05949210993854]
本研究では,長期にわたる行動の後,言語化された信頼度スコアを用いて,検索エージェントが自身の信頼を伝達できるかどうかを検討する。本研究では,信頼度スコアを用いて回答の質を判断し,信頼度レベルに達するまで再度試すテスト時間スケーリング(TTS)手法を提案する。
論文参考訳（メタデータ） (2025-10-27T15:58:51Z)
ADVICE: Answer-Dependent Verbalized Confidence Estimation [7.331438721730309]
言語的信頼の基盤となる力学を詳細に分析する。我々は、回答の独立性を重要な要因とみなし、モデルが自身の回答に自信を持てないことを前提としています。本稿では,回答基底の信頼度推定を容易にする微調整フレームワークを提案する。
論文参考訳（メタデータ） (2025-10-13T02:18:33Z)
Mind the Generation Process: Fine-Grained Confidence Estimation During LLM Generation [63.49409574310576]
大規模言語モデル(LLM)は自信過剰を示し、信頼度の高いスコアを誤った予測に割り当てる。本研究では,テキスト生成中に高精度できめ細かな信頼スコアを提供する信頼度推定手法であるFineCEを紹介する。論文で使用されたコードとすべてのベースラインはGitHubで公開されている。
論文参考訳（メタデータ） (2025-08-16T13:29:35Z)
Rewarding Doubt: A Reinforcement Learning Approach to Calibrated Confidence Expression of Large Language Models [34.59785123314865]
LLM(Large Language Models)の安全かつ信頼性の高い使用には、その回答に対する信頼性の正確な表現が必要である。そこで本研究では,LLMを直接微調整し,評価された信頼度を,実際の質問に対する回答とともに表現できる新しい強化学習手法を提案する。
論文参考訳（メタデータ） (2025-03-04T13:48:50Z)
Fact-Level Confidence Calibration and Self-Correction [64.40105513819272]
本稿では,事実レベルでの信頼度と妥当性の重み付けを校正するFact-Levelフレームワークを提案する。また,信頼度の高い自己補正(textbfConFix$)も開発した。
論文参考訳（メタデータ） (2024-11-20T14:15:18Z)
Confidence Under the Hood: An Investigation into the Confidence-Probability Alignment in Large Language Models [14.5291643644017]
信頼性・確率アライメントの概念を紹介します。モデルの内部と信頼感の一致を調査する。分析したモデルのうち、OpenAIのGPT-4は信頼性と信頼性のアライメントが最強であった。
論文参考訳（メタデータ） (2024-05-25T15:42:04Z)
Think Twice Before Trusting: Self-Detection for Large Language Models through Comprehensive Answer Reflection [90.71323430635593]
本稿では, LLM生成解を超える包括的解答空間を考察した, 新たな自己検出パラダイムを提案する。このパラダイムに基づいて、2段階のフレームワークを導入し、まずまずLLMに各候補の回答を反映し、正当化するように指示する。このフレームワークは、優れた自己検出のための既存のアプローチとシームレスに統合できる。
論文参考訳（メタデータ） (2024-03-15T02:38:26Z)
An evaluation of word-level confidence estimation for end-to-end automatic speech recognition [70.61280174637913]
エンドツーエンド自動音声認識(ASR)における信頼度推定の検討 4つのよく知られた音声データセットにおける信頼度手法の広範なベンチマークを提供する。以上の結果から,ロジットを学習温度でスケーリングすることで,強いベースラインが得られることが示唆された。
論文参考訳（メタデータ） (2021-01-14T09:51:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。