論文の概要: Interpretable Uncertainty for Adaptive Retrieval and Reasoning in Question Answering

• arxiv url: http://arxiv.org/abs/2607.07380v1
• Date: Wed, 08 Jul 2026 13:12:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-09 22:50:30.389658
• Title: Interpretable Uncertainty for Adaptive Retrieval and Reasoning in Question Answering
• Title（参考訳）: 質問応答における適応検索と推論の解釈の不確かさ
• Abstract要約: 大規模言語モデル(LLM)は質問応答(QA)において高いパフォーマンスを達成するが、幻覚に苦しむ傾向にあり、透明性が制限されている。 LLMの内部表現から派生した明示的な信号に基づく適応型QAのための不確実性認識フレームワークを提案する。
• 参考スコア（独自算出の注目度）: 11.42036728689981
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) achieve a strong performance in question answering (QA), but remain prone to hallucinations and suffer from limited transparency. Retrieval-augmented generation (RAG) can improve factuality, yet decisions about when and how to retrieve from external resources are typically based on opaque policies or computationally inefficient multi-step prompting procedures. We propose an uncertainty-aware framework for adaptive QA based on explicit signals derived from LLM internal representations. We distinguish between knowledge insufficiency and knowledge ambiguity or conflict, and efficiently estimate these from hidden states in a single forward pass. These signals guide system behaviour: RAG is triggered when knowledge is insufficient, while additional reasoning is applied when ambiguity or conflict is high. By grounding adaptive decisions in decomposed and efficiently estimable uncertainty signals, this approach provides a transparent and practical alternative to existing retrieval and reasoning strategies supporting the design of interpretable user-facing tools.
• Abstract（参考訳）: 大規模言語モデル(LLM)は質問応答(QA)において高いパフォーマンスを達成するが、幻覚に苦しむ傾向にあり、透明性が制限されている。 Retrieval-augmented Generation (RAG) は、事実性を改善することができるが、外部リソースからの取得方法に関する決定は、典型的には不透明なポリシーや計算上の非効率なマルチステッププロンプト手順に基づいている。 LLMの内部表現から派生した明示的な信号に基づく適応型QAのための不確実性認識フレームワークを提案する。 我々は、知識不足と知識の曖昧さや対立を区別し、それらを単一の前方通過で隠された状態から効率的に推定する。 これらのシグナルはシステムの振舞いを導く: 知識が不十分な時にRAGがトリガーされ、曖昧さや矛盾が高いときにさらなる推論が適用される。 分割・効率的に推定可能な不確実性信号の適応的決定を基礎にすることにより,解釈可能なユーザ対応ツールの設計を支援する既存の検索・推論戦略に対して,透過的で実践的な代替手段を提供する。

関連論文リスト

• CLAIM: Leading Open-domain Active Clarification of Large Language Models with Uncertainty Measurement [50.91045324738942]
  CLAIMは、オープンドメイン環境でのアクティブな明確化学習のための不確実性駆動フレームワークである。 本研究では,不確実性推定とセマンティッククラスタリングと推論に基づく判断を統合したエントロピー駆動型合成データ生成パイプラインを提案する。 実験の結果,手動でラベル付けしたデータに頼ることなく,CLAIMが安定かつ一般化可能な明確化戦略を学習できることが確認された。
  論文  参考訳（メタデータ） (2026-08-12T04:27:45Z)
• Uncertainty-Aware Generation and Decision-Making Under Ambiguity [57.15357080072861]
  本稿では,ベイズ決定理論とリスク逆決定法に基づく不確実性を考慮した意思決定アルゴリズムを提示し,評価する。 これらのアルゴリズムは世代別の有用性を向上させることができるが、あいまいさが高い場合には慎重に実装する必要があることを実証的に見出した。
  論文  参考訳（メタデータ） (2026-06-29T17:20:43Z)
• From Knowing to Acting: Benchmarking Self-Awareness Capability of LLM Agents [69.07911499189129]
  エージェントのメタ認知判断(Knowing)を自発的実行(Acting)から切り離して認知行動アライメントを評価するフレームワークであるKAPROを紹介する。 実験の結果,自己認識能力はタスク成功と強く相関するが,内部能力設定では著しく低下することがわかった。 プロプライエタリで推論指向のモデルは、より信頼性の高い認知ゲーティングを示します。
  論文  参考訳（メタデータ） (2026-06-09T17:17:08Z)
• Exploring Agentic Tool-Calling Decisions via Uncertainty-Aligned Reinforcement Learning [63.24624171679711]
  大規模言語モデル(LLM)ベースのエージェントは、しばしば最適なツール使用の決定を行う。 本研究では、不確実性分離を維持するための推進力として、不確実性定量化を報酬設計に組み込んだTRUSTを提案する。
  論文  参考訳（メタデータ） (2026-06-05T07:08:34Z)
• LLMs Should Express Uncertainty Explicitly [19.324830531710024]
  モデルが最終回答の正当性スコアを口頭弁別するグローバルインターフェースと、推論中に明確な不確定なマーカーを出力するローカルインターフェースの2つの相補的インターフェースを比較した。 垂直化信頼度はキャリブレーションを大幅に改善し、過信エラーを低減し、アダプティブRAGコントローラとして最強となる。 推論時不確実性信号は、生成中に前もってサイレント障害を可視化し、回答のカバレッジを改善し、効果的なハイリコール検索トリガを提供する。
  論文  参考訳（メタデータ） (2026-04-07T01:20:29Z)
• Know What You Know: Metacognitive Entropy Calibration for Verifiable RL Reasoning [31.629261193485053]
  大規模推論モデル(LRM)は、複雑な現実世界のタスクを解くための強力なパラダイムとして登場した。 既存の結果のみのRLVRパイプラインのほとんどは、バイナリの正当性信号にのみ依存しており、モデルの本質的な不確かさをほとんど無視している。 本稿では,メタ認知型エントロピーキャリブレーションフレームワークEGPOを提案する。
  論文  参考訳（メタデータ） (2026-02-26T08:40:06Z)
• Agentic Uncertainty Quantification [76.94013626702183]
  本稿では,言語化された不確実性をアクティブな双方向制御信号に変換する統合されたデュアルプロセスエージェントUQ(AUQ)フレームワークを提案する。 システム1(Uncertainty-Aware Memory, UAM)とシステム2(Uncertainty-Aware Reflection, UAR)は、これらの説明を合理的な手段として利用し、必要な時にのみターゲットの推論時間解決をトリガーする。
  論文  参考訳（メタデータ） (2026-01-22T07:16:26Z)
• Latent Chain-of-Thought for Visual Reasoning [53.541579327424046]
  大型視覚言語モデル(LVLM)の解釈可能性および信頼性向上には,チェーン・オブ・シント(CoT)推論が不可欠である 我々は,LVLMにおける推論を後部推論として再構成し,償却変分推論に基づくスケーラブルなトレーニングアルゴリズムを提案する。 提案手法は,7つの推論ベンチマークにおいて,最先端のLVLMを強化することを実証的に実証する。
  論文  参考訳（メタデータ） (2025-10-27T23:10:06Z)
• Can LLMs Detect Their Confabulations? Estimating Reliability in Uncertainty-Aware Language Models [24.72990207218907]
  LLM(Large Language Models)は、畳み込み(confabulation)として知られる、流動的だが不正なコンテンツを生成する傾向にある。 本研究では、文脈内情報がモデル行動にどのように影響するか、LLMが信頼できない応答を識別できるかを検討する。
  論文  参考訳（メタデータ） (2025-08-11T16:12:36Z)
• Extending Epistemic Uncertainty Beyond Parameters Would Assist in Designing Reliable LLMs [40.7342896954488]
  我々は、不確実性を推論し、不確実性の再現性を明確化するコヒーレントな基盤を提供する枠組みの採用を提唱する。 受動的回避よりも能動的解決をサポートすることで、より信頼性が高く透明で広く適用可能なLCMシステムへの扉を開くことができる。
  論文  参考訳（メタデータ） (2025-06-09T05:52:03Z)
• SUGAR: Leveraging Contextual Confidence for Smarter Retrieval [28.552283701883766]
  セマンティック不確実性誘導適応検索(SUGAR)について紹介する。 我々は、文脈に基づくエントロピーを利用して、検索するかどうかを積極的に決定し、シングルステップとマルチステップの検索を更に決定する。 実験の結果,意味的不確実性推定によって導かれる選択探索により,多様な質問応答タスクのパフォーマンスが向上し,より効率的な推論が達成された。
  論文  参考訳（メタデータ） (2025-01-09T01:24:59Z)
• Uncertainty as a Form of Transparency: Measuring, Communicating, and Using Uncertainty [66.17147341354577]
  我々は,モデル予測に関連する不確実性を推定し,伝達することにより,相補的な透明性の形式を考えることについて議論する。 モデルの不公平性を緩和し、意思決定を強化し、信頼できるシステムを構築するために不確実性がどのように使われるかを説明する。 この研究は、機械学習、可視化/HCI、デザイン、意思決定、公平性にまたがる文学から引き出された学際的レビューを構成する。
  論文  参考訳（メタデータ） (2020-11-15T17:26:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。