論文の概要: Search When Needed, Proceed When Reliable: Metacognitive Reliability Supervision for Efficient Agentic Search
- arxiv url: http://arxiv.org/abs/2610.41738v1
- Date: Fri, 30 Oct 2026 13:44:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-02 22:05:31.759954
- Title: Search When Needed, Proceed When Reliable: Metacognitive Reliability Supervision for Efficient Agentic Search
- Title（参考訳）: 必要な時, 信頼できる時: 効果的なエージェント検索のためのメタ認知的信頼性スーパービジョン
- Abstract要約: 本稿では,大規模言語モデルを訓練し,信頼性に基づいて探索決定を行うメタ認知フレームワークを提案する。
このフレームワークは、現在の情報が検索なしで進行をサポートするかどうかを識別するために、局所的な結論の信頼性を推定する。
本手法は,強力なエージェント探索ベースラインよりも高い精度・効率トレードオフを実現する。
- 参考スコア（独自算出の注目度）: 24.90452473971878
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Efficient agentic search requires large language models (LLMs) to determine whether they can reliably proceed with their current knowledge or need additional external evidence. Supervision based on final-answer correctness or trajectory-level feedback evaluates realized trajectory performance. However, observed trajectory performance is jointly shaped by stochastic generation, retrieval quality, and downstream reasoning. Such signals therefore provide only indirect evidence of how reliable the current decision state was and how retrieved evidence changed its reliability. An effective reward should encourage search when external information is needed and favor searches that contribute to the answer. To this end, we propose a metacognitive framework for training LLMs to make search decisions based on the reliability of their intermediate reasoning states. Our framework estimates the reliability of local conclusions to distinguish whether the current information supports proceeding without search from how much retrieved evidence improves that reliability. The current-state reliability score assesses whether the model can proceed without search. The search-action score measures how retrieved evidence changes estimated reliability. Together, these scores define a reliability-aware process reward for Group Relative Policy Optimization (GRPO), providing finer-grained supervision for search and no-search behavior. Experiments across seven question-answering benchmarks demonstrate that our method achieves a better accuracy-efficiency trade-off than strong agentic-search baselines. Our code and model checkpoints will be open-sourced.
- Abstract（参考訳）: 効率的なエージェント検索は、彼らの現在の知識を確実に進めるか、追加の外部証拠を必要とするかを判断するために、大きな言語モデル(LLM)を必要とする。
最終回答の正しさや軌道レベルのフィードバックに基づくスーパービジョンは、実現された軌道性能を評価する。
しかし, 観測軌道性能は, 確率生成, 検索品質, 下流推論によって連成的に形成されている。
このような信号は、現在の決定状態がどれほど信頼されているか、どのように回収された証拠がその信頼性を変えたかという間接的な証拠のみを提供する。
効果的な報酬は、外部情報が必要なときに検索を奨励し、回答に寄与する検索を推奨すべきである。
そこで本研究では,中性推論状態の信頼性に基づいてLLMを学習し,探索決定を行うメタ認知フレームワークを提案する。
筆者らのフレームワークは,現在の情報が検索なしで進行を支援するかどうかを判断するために,局所的な結論の信頼性を推定する。
現在の信頼性スコアは、モデルが検索なしで進行できるかどうかを評価する。
検索アクションスコアは、検索された証拠がどのように推定された信頼性を変更するかを測定する。
これらのスコアは、グループ相対政策最適化(GRPO)に対する信頼性に配慮したプロセス報酬を定義し、検索と検索の動作のよりきめ細かい監督を提供する。
7つの質問応答ベンチマークによる実験により,本手法は強力なエージェント探索ベースラインよりも精度と効率のトレードオフが優れていることが示された。
私たちのコードとモデルチェックポイントはオープンソースになります。
関連論文リスト
- PEAR: Progressive Evidence-Based AutoResearch for Industrial Search Systems [13.837338951273532]
AutoResearchは、反復的な実験を通じてシステムを改善する:エージェントは候補修正を提案し、それらを評価し、その結果を使用してその後の探索をガイドする。
一般的なAutoResearchアプローチは、後続の実験の最高評価候補を保ちながら、betterルールに従っている。
既存の方法は個々の信号やタスク固有の手順に依存しており、探索を導くために複数のレベルにまたがるエビデンスを使用するための統一された基盤が欠如している。
本稿では,2つの相補的なコンポーネントを持つPEAR(Progressive Evidence-Based AutoResearch)を紹介する。
論文 参考訳（メタデータ） (2026-09-28T12:30:00Z) - Diagnosing Search Behavior and Failure Modes in Long-Horizon Search Agents [63.2133766267587]
ディープサーチエージェントは、証拠収集のために検索クエリを反復的に発行することで、難解な情報検索質問に答える。
本研究では,長軸探索エージェントの軌跡レベル診断を用いてこれらの質問について検討する。
我々は,各探索ステップで得られた証拠を評価し,エージェントの行動の2つの段階を分離する。
論文 参考訳（メタデータ） (2026-08-03T08:46:48Z) - Time to REFLECT: Can We Trust LLM Judges for Evidence-based Research Agents? [61.49434544687523]
本稿では,エージェント環境におけるきめ細かい故障検出を目的としたメタ評価ベンチマークREFLECTを紹介する。
REFLECTはプロセスレベルの障害モードと結果レベルの障害モードの詳細な分類を定義し、制御および局所的な介入を実行することでインスタンス化する。
私たちの実験では、最高のパフォーマンスモデルでさえ、推論、ツール使用、レポート品質の失敗に対して、全体的なアキュラシーを55%以下に達成しています。
論文 参考訳（メタデータ） (2026-05-18T23:55:08Z) - Towards Trustworthy Report Generation: A Deep Research Agent with Progressive Confidence Estimation and Calibration [2.8268726984243497]
本稿では,レポート生成パイプライン内でのプログレッシブな信頼度推定とキャリブレーションを取り入れた新しいディープリサーチエージェントを提案する。
実験結果とケーススタディにより,本手法は解釈可能性を大幅に向上し,ユーザ信頼を著しく向上させることが示された。
論文 参考訳（メタデータ） (2026-04-07T14:46:26Z) - Leveraging LLM Parametric Knowledge for Fact Checking without Retrieval [60.25608870901428]
信頼性は、大規模言語モデル(LLM)上に構築されたエージェントAIシステムの中核研究課題である
本研究では,任意の自然言語クレームの検証に焦点をあて,検索なしで事実チェックを行うタスクを提案する。
論文 参考訳（メタデータ） (2026-03-05T18:42:51Z) - FIRE-Bench: Evaluating Agents on the Rediscovery of Scientific Insights [63.32178443510396]
FIRE-Bench (Full-cycle Insight Rediscovery Evaluation) は、確立された発見の再検討を通じてエージェントを評価するベンチマークである。
最強のエージェントでさえ、限られた再発見成功(50 F1)を達成し、実行中に高いばらつきを示し、実験的な設計、実行、エビデンスに基づく推論において繰り返し失敗モードを表示する。
論文 参考訳（メタデータ） (2026-02-02T23:21:13Z) - SmartSearch: Process Reward-Guided Query Refinement for Search Agents [63.46067892354375]
大言語モデル(LLM)に基づく検索エージェントは、知識集約的な問題に対処するために有望であることが証明されている。
既存の研究は主に、検索エージェントの推論パラダイムの最適化に重点を置いているが、推論中の中間的な検索クエリの品質は見過ごされ続けている。
この問題を緩和する2つの主要なメカニズムの上に構築されたフレームワークであるSmartSearchを紹介します。
論文 参考訳（メタデータ） (2026-01-08T12:39:05Z) - Fact-Checking with Large Language Models via Probabilistic Certainty and Consistency [7.806516365113592]
大規模言語モデル(LLM)は、事実の正確性を必要とするアプリケーションでますます使われている。
事実チェックはこれらのエラーを軽減することができるが、既存の手法は通常、外的証拠を無差別に回収する。
本稿では,確率的確実性と一貫性(PCC)について紹介する。
論文 参考訳（メタデータ） (2026-01-05T21:57:41Z) - Aurora: Are Android Malware Classifiers Reliable and Stable under Distribution Shift? [51.12297424766236]
AURORAは、その信頼性と運用上のレジリエンスに基づいて、マルウェア分類器を評価するためのフレームワークである。
AURORAは、ポイント・イン・タイムのパフォーマンスを超えるように設計されたメトリクスのセットによって補完される。
さまざまなドリフトのデータセットにわたるSOTAフレームワークの脆弱性は、ホワイトボードへの復帰の必要性を示唆している。
論文 参考訳（メタデータ） (2025-05-28T20:22:43Z) - Search Wisely: Mitigating Sub-optimal Agentic Searches By Reducing Uncertainty [21.96443267949563]
エージェント検索型Augmented Generation (RAG) システムは,動的かつ多段階の推論と情報検索を可能にし,Large Language Models (LLM) を強化する。
これらのシステムは、オーバーサーチ(冗長な情報を取得する)やアンダーサーチ(必要な情報を取得するのに失敗する)のような準最適探索行動を示すことが多い。
この研究は、これらの振る舞いを公式に定義し、定量化し、複数のQAデータセットとエージェントRAGシステムにまたがるそれらの頻度を明らかにする。
論文 参考訳（メタデータ） (2025-05-22T20:57:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。