論文の概要: Towards Generation-Efficient Uncertainty Estimation in Large Language Models

• arxiv url: http://arxiv.org/abs/2605.06053v1
• Date: Thu, 07 May 2026 11:39:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-08 22:27:11.730764
• Title: Towards Generation-Efficient Uncertainty Estimation in Large Language Models
• Title（参考訳）: 大規模言語モデルにおける生成効率の良い不確かさ推定に向けて
• Abstract要約: 医療やファイナンスといった高度なアプリケーションにLLMをデプロイする上で,不確実性評価が重要である。 既存の手法では、不確実性を推定するために1つ以上の完全な自己回帰世代が必要である。 部分生成や入力のみの情報を用いて有効不確実性を推定できるかどうかを検討する。
• 参考スコア（独自算出の注目度）: 6.111244917760012
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Uncertainty estimation is important for deploying LLMs in high-stakes applications such as healthcare and finance, where hallucinations can appear fluent and plausible while being factually incorrect, making it difficult for users to judge whether an output should be trusted. Existing methods require one or more full autoregressive generations to estimate uncertainty, which introduces substantial inference cost and often delays uncertainty assessment. In this paper, we investigate whether effective uncertainty estimation can be achieved with partial generation or even input-only information. Specifically, we first develop a unified framework that formulates uncertainty estimation as an early estimation problem over the autoregressive generation process of LLMs. This framework organises existing and proposed estimators by the information they observe, ranging from multi-generation to input-only prediction, and clarifies the performance-cost trade-off underlying different uncertainty estimation methods. Building on this view, we study two largely underexplored low-cost settings: estimating uncertainty with part of the generation, and predicting uncertainty from the input prompt. We propose Logit Magnitude, which uses top-M logit evidence to estimate uncertainty from an early-stopped generation prefix, and MetaUE, which distils generation-based uncertainty into a lightweight input-only estimator trained with uncertainty scores. Extensive experiments on general and domain-specific benchmarks show that Logit Magnitude achieves strong performance, and partial generations of LLMs are often sufficient for effective uncertainty estimation. MetaUE further provides a competitive input-only approximation in several settings. These findings suggest that effective uncertainty estimation requires less generation than commonly assumed, enabling unreliable responses to be identified earlier.
• Abstract（参考訳）: 不確実性の推定は、医療や金融などの高度なアプリケーションにLCMを配置する上で重要である。 既存の手法では、不確実性を推定するために1つ以上の完全な自己回帰世代が必要であり、これはかなりの推論コストをもたらし、しばしば不確実性評価を遅らせる。 本稿では,部分生成や入出力のみの情報による有効不確実性推定が可能であるかを検討する。 具体的には,LLMの自己回帰生成過程における初期推定問題として不確実性推定を定式化する統一フレームワークを開発する。 このフレームワークは,複数世代から入力のみの予測まで,観測した情報に基づいて既存の推定器と提案した推定器を編成し,異なる不確実性推定手法に基づく性能・コストトレードオフを明らかにする。 この観点から、我々は、主に過小評価されている2つの低コスト設定について、世代の一部を不確実性として推定し、入力プロンプトから不確実性を予測する。 本稿では,最上位のロジットエビデンスを用いて早期に停止した生成プレフィックスから不確実性を推定するLogit Magnitudeと,不確実性スコアをトレーニングした軽量入力専用推定器に生成ベースの不確実性を悪用するMetaUEを提案する。 一般およびドメイン固有のベンチマークに関する大規模な実験により、ロジトマグニチュードは高い性能を達成し、LLMの部分世代は効果的な不確実性推定に十分であることが示された。 MetaUEはさらに、いくつかの設定で競合する入力のみの近似を提供する。 これらの結果から, 有効不確実性推定は一般的に想定されるよりも少ない生成を必要としており, 信頼できない応答を早期に特定できることが示唆された。

関連論文リスト

• A Unified Risk View of Uncertainty: Posterior Risk for Disentanglement and Evaluation Beyond Proxies [2.854451361373021]
  提案する不確実性の定義は,不確実性(不確実性)をポイントワイド後リスク(pointwise rear risk)として定義する。 この見解は、関数に対するベイズの不確実性と、後部平均からの推定値依存偏差を組み合わせ、誤特定や最適化誤差のような効果を捉えている。 プロキシ評価を避けることにより、不確実性推定のきめ細かい分析が可能になる。
  論文  参考訳（メタデータ） (2026-08-06T13:05:16Z)
• Towards Reliable LLM-based Robot Planning via Combined Uncertainty Estimation [68.106428321492]
  大規模言語モデル (LLM) は高度な推論能力を示し、ロボットが自然言語の命令を理解し、適切な接地で高レベルな計画を生成することができる。 LLMの幻覚は重大な課題であり、しばしば過度に信頼され、不一致または安全でない計画に繋がる。 本研究は, 信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性評価を別々に評価するものである。
  論文  参考訳（メタデータ） (2025-10-09T10:26:58Z)
• Addressing Pitfalls in the Evaluation of Uncertainty Estimation Methods for Natural Language Generation [20.726685669562496]
  幻覚は、大きな言語モデル(LLM)の信頼性を損なう一般的な問題である。 近年の研究では、LLMの予測的不確実性によって生じる幻覚のサブセット、すなわち confabulations が特定されている。 衝突を検出するため,自然言語生成における予測不確かさを推定する様々な手法が開発されている。
  論文  参考訳（メタデータ） (2025-10-02T17:54:09Z)
• TokUR: Token-Level Uncertainty Estimation for Large Language Model Reasoning [27.449948943467163]
  token-level Uncertainty Estimation framework for Reasoning (TokUR)を提案する。 TokURは、大規模言語モデルにおいて、数学的推論における応答を自己評価し、自己改善することを可能にする。 様々な難易度を持つ数学的推論データセットの実験により、TokURは答えの正しさとモデルロバストネスと強い相関を示すことが示された。
  論文  参考訳（メタデータ） (2025-05-16T22:47:32Z)
• Estimating LLM Uncertainty with Evidence [66.51144261657983]
  本稿では,大規模言語モデルにおける非結合トークンの不確実性を推定するためのフレームワークとして,ロジッツ誘発トークン不確実性(LogTokU)を提案する。 我々は,LogTokUの実装にエビデンスモデリングを採用し,その不確実性を推定して下流タスクを導出する。
  論文  参考訳（メタデータ） (2025-02-01T03:18:02Z)
• Beyond Uncertainty Quantification: Learning Uncertainty for Trust-Informed Neural Network Decisions - A Case Study in COVID-19 Classification [7.383605511698832]
  信頼性の高い不確実性定量化は、医学的診断のような高い評価の応用において重要である。 従来の不確実性定量化法は、予測を自信または不確実性として分類するために、予め定義された信頼しきい値に依存する。 このアプローチは、しきい値を超える予測は信頼に値するが、それ以下の予測は信頼性の高い予測の正確性を明確に評価することなく不確実であると仮定する。 本研究では,予測の信頼度を学習することで,従来の不確実性定量化を拡張した不確実性認識型ニューラルネットワークを提案する。
  論文  参考訳（メタデータ） (2024-09-19T04:20:12Z)
• CLUE: Concept-Level Uncertainty Estimation for Large Language Models [49.92690111618016]
  大規模言語モデル(LLM)のための概念レベル不確実性推定のための新しいフレームワークを提案する。 LLMを利用して、出力シーケンスを概念レベルの表現に変換し、シーケンスを個別の概念に分解し、各概念の不確かさを個別に測定する。 我々は,文レベルの不確実性と比較して,CLUEがより解釈可能な不確実性推定結果を提供できることを示す実験を行った。
  論文  参考訳（メタデータ） (2024-09-04T18:27:12Z)
• Decomposing Uncertainty for Large Language Models through Input Clarification Ensembling [69.83976050879318]
  大規模言語モデル(LLM)では、不確実性の原因を特定することが、信頼性、信頼性、解釈可能性を改善するための重要なステップである。 本稿では,LLMのための不確実性分解フレームワークについて述べる。 提案手法は,入力に対する一連の明確化を生成し,それらをLLMに入力し,対応する予測をアンサンブルする。
  論文  参考訳（メタデータ） (2023-11-15T05:58:35Z)
• Adaptive Uncertainty Estimation via High-Dimensional Testing on Latent Representations [28.875819909902244]
  不確実性推定は、訓練されたディープニューラルネットワークの信頼性を評価することを目的としている。 既存の不確実性推定アプローチは、低次元分布仮定に依存している。 本研究では,不確実性推定のためのデータ適応型高次元仮説テストを用いた新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-10-25T12:22:18Z)
• Discretization-Induced Dirichlet Posterior for Robust Uncertainty Quantification on Regression [17.49026509916207]
  不確実性定量化は、現実世界のアプリケーションにディープニューラルネットワーク(DNN)をデプロイするために重要である。 視覚回帰タスクでは、現在のAuxUE設計は、主にアレタリック不確実性推定に採用されている。 回帰タスクにおけるより堅牢な不確実性定量化のための一般化されたAuxUEスキームを提案する。
  論文  参考訳（メタデータ） (2023-08-17T15:54:11Z)
• Toward Reliable Human Pose Forecasting with Uncertainty [51.628234388046195]
  我々は、複数のモデルを含む人間のポーズ予測のためのオープンソースのライブラリを開発し、複数のデータセットをサポートする。 我々は、パフォーマンスを高め、より良い信頼をもたらすために、問題の2つの不確実性を考案する。
  論文  参考訳（メタデータ） (2023-04-13T17:56:08Z)
• DEUP: Direct Epistemic Uncertainty Prediction [56.087230230128185]
  認識の不確実性は、学習者の知識の欠如によるサンプル外の予測エラーの一部である。 一般化誤差の予測を学習し, aleatoric uncertaintyの推定を減算することで, 認識的不確かさを直接推定する原理的アプローチを提案する。
  論文  参考訳（メタデータ） (2021-02-16T23:50:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。