論文の概要: ChainUQ: Reasoning Consistency-Aware Uncertainty Quantification for Large Language Models

• arxiv url: http://arxiv.org/abs/2609.26060v1
• Date: Sat, 08 Aug 2026 01:28:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.850749
• Title: ChainUQ: Reasoning Consistency-Aware Uncertainty Quantification for Large Language Models
• Title（参考訳）: ChainUQ: 大規模言語モデルの一貫性を意識した不確実性定量化
• Abstract要約: ChainUQは、大規模言語モデル(LLM)のための一貫性を考慮した不確実性定量化フレームワークである。 最終結論に一致した凍結特徴から生の本質的なモデルの信頼性スコアを推定し、推論チェーンの整合性証拠を用いてこのスコアを洗練する推論整合性を考慮したキャリブレータを推定する。 応答レベルの不確実性評価を継続的に改善し、AUROCでは平均3.1%の相対的な利得を達成し、ECEでは最大45.0%の相対的な利得を達成している。
• 参考スコア（独自算出の注目度）: 5.290747756844097
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: While large language models (LLMs) exhibit impressive reasoning capabilities, response-level confidence may remain unreliable when intermediate claims conflict with the final conclusion. Therefore, effective uncertainty quantification (UQ) is required to capture logical inconsistencies within the reasoning chain, not just the correctness of the final output. Current approaches have two major limitations: (1) their reliance on token-level probabilities fails to capture reasoning consistency, and (2) they lack mechanisms to dynamically calibrate confidence using the structural logic of the generated chain. To advance existing research, we introduce ChainUQ, a reasoning consistency-aware uncertainty quantification framework for LLMs. ChainUQ consists of two key technical components: an alignment-aware lightweight UQ module that estimates a raw intrinsic model confidence score from frozen features aligned to the final conclusion, and a reasoning consistency-aware calibrator that refines this score using reasoning-chain consistency evidence. Evaluations across diverse in-distribution and out-of-distribution benchmarks show that ChainUQ consistently improves response-level uncertainty estimation, achieving an average 3.1% relative gain in AUROC and up to 45.0% relative reduction in ECE, and can be directly transferred to new settings without additional fine-tuning.
• Abstract（参考訳）: 大きな言語モデル(LLM)は印象的な推論能力を示すが、中間的な主張が最終的な結論と矛盾する場合、応答レベルの信頼性は信頼できない。 したがって、最終的な出力の正確性だけでなく、推論チェーン内の論理的不整合を捉えるために有効な不確実性定量化(UQ)が必要である。 現在のアプローチには2つの大きな制限がある:(1)トークンレベルの確率への依存は推論整合性を捉えるのに失敗し、(2)生成された連鎖の構造論理を用いて信頼を動的に調整するメカニズムが欠如している。 既存の研究を進めるために,LLMの整合性を考慮した不確実性定量化フレームワークChainUQを紹介する。 ChainUQは2つの重要な技術コンポーネントで構成されている。アライメント対応軽量UQモジュールは、最終結論に一致した凍結特徴から生の本質的なモデルの信頼性スコアを推定する。 様々な流通とアウト・オブ・ディストリビューションのベンチマークによる評価から、ChainUQはAUROCにおける平均3.1%の相対的な利得とECEの最大45.0%の相対的な低下を達成し、追加の微調整なしで直接新しい設定に移行できるという、応答レベルの不確実性評価を一貫して改善している。

関連論文リスト

• Quantifying Consistency in LLM Logical Reasoning via Structural Uncertainty [5.839104770457067]
  大規模な言語モデルは、不安定で矛盾し、一貫してランク付けするのが困難である推論パスを通じて、同じ答えに達することができる。 自己参照によるランク付けの安定性から導かれる一貫性を考慮した構造的不確実性を提案する。
  論文  参考訳（メタデータ） (2026-06-15T21:39:47Z)
• Unveiling the Entropy Dynamics of Chain-of-Thought Reasoning [81.57028614960576]
  1)信頼性の高い -- 信頼性の高い -- 信頼性の高い領域での回答は高度に正確で安定したものになり、2)高冗長性 -- モデルは正しい回答に達した後ずっと経ってから不必要なトークンを生成する。 これらの特性はより効率的で信頼性の高い推論戦略を解き放つ。
  論文  参考訳（メタデータ） (2026-06-01T10:11:14Z)
• FACT-E: Causality-Inspired Evaluation for Trustworthy Chain-of-Thought Reasoning [49.65751420291115]
  CoT(Chain-of-Thought)プロンプトはLSM推論を改善したが、モデルはしばしば不誠実な中間ステップを含むコヒーレントな説明を生成する。 我々は、CoTの品質を評価するための因果性に着想を得たフレームワークであるFACT-Eを提案する。 FACT-Eは推論・軌道選択を改善し、文脈内学習を強くすることを示す。
  論文  参考訳（メタデータ） (2026-04-12T15:35:08Z)
• The Cost of Reasoning: Chain-of-Thought Induces Overconfidence in Vision-Language Models [1.5001933823689926]
  推論は、ほとんどの不確実性推定の品質を一貫して低下させることを示す。 暗黙の回答条件付けを主要なメカニズムとみなす。 対照的に、合意に基づく一貫性は堅牢であり、しばしば推論の下で改善される。
  論文  参考訳（メタデータ） (2026-03-17T16:12:06Z)
• Agentic Uncertainty Quantification [76.94013626702183]
  本稿では,言語化された不確実性をアクティブな双方向制御信号に変換する統合されたデュアルプロセスエージェントUQ(AUQ)フレームワークを提案する。 システム1(Uncertainty-Aware Memory, UAM)とシステム2(Uncertainty-Aware Reflection, UAR)は、これらの説明を合理的な手段として利用し、必要な時にのみターゲットの推論時間解決をトリガーする。
  論文  参考訳（メタデータ） (2026-01-22T07:16:26Z)
• ConCISE: Confidence-guided Compression in Step-by-step Efficient Reasoning [64.93140713419561]
  大型推論モデル (LRM) は、Chain-of-Thought (CoT) による複雑な推論タスクで強く機能するが、しばしば冗長な出力に悩まされる。 既存の微調整ベースの圧縮手法は、ポストホックプルーニングを動作させるか、コヒーレンスを推論する破壊を危険にさらすか、サンプリングベースの選択に依存するかのいずれかである。 ConCISEは、簡潔な推論連鎖を生成するために設計されたフレームワークであり、信頼注入を統合して推論の信頼性を高める。
  論文  参考訳（メタデータ） (2025-05-08T01:40:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。