論文の概要: Trajectory-Derived Confidence for Reliable, Resource-Aware Clinical Text-to-SQL Agents
- arxiv url: http://arxiv.org/abs/2610.04156v1
- Date: Fri, 02 Oct 2026 23:57:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-12 19:45:36.101196
- Title: Trajectory-Derived Confidence for Reliable, Resource-Aware Clinical Text-to-SQL Agents
- Title（参考訳）: 信頼性・資源性に配慮したテキスト・トゥ・SQLエージェントのための軌道依存型信頼性
- Abstract要約: 臨床用テキスト・ツー・コンピュテーションアプリケーションのためのLLMエージェントは、複数のステップで自律的に推論するが、自身の推論や出力が信頼できるかどうかを評価することはできない。
我々は、エージェントの推論、コード、データベース出力を分析して、停止するかどうかを3点決定する、トラジェクトリ由来の、分類器ベースの信頼層であるSentinelを紹介する。
そしてSentinelは、モニターされていないエージェントが-3.02を得点する+0.03を棄却する。
- 参考スコア（独自算出の注目度）: 6.877300876614331
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: LLM agents for clinical text-to-SQL applications reason autonomously over multiple steps but cannot assess whether their own reasoning or outputs can be trusted. In high leverage applications such as healthcare, this presents a critical risk where system mistakes can be costly. These reliability failures are also resource failures: an incorrect reasoning trajectory spends computation budget on outputs that must be discarded. We introduce Sentinel, a trajectory-derived, classifier-based confidence layer that analyzes an agent's reasoning, code and database outputs to decide at three points whether to stop: refusing unanswerable questions before the agent runs, halting doomed trajectories mid-run, and withholding untrustworthy answers at delivery. Here, utilizing Chow's rule, we optimize decisions under the EHRSQL shared task's Reliability Score, which penalizes incorrect answers given a utility weighting, and find on the benchmark EHRSQL that Sentinel raises this score from +0.08 to +0.24 when mistakes have a low utility weighting, well above the +0.03 earned by refusing every question, with delivered-answer accuracy rising from 54% to 69% as coverage falls from 84% to 55%. At higher stakes the agents we test rarely answer reliably enough to deliver, and Sentinel detects this on its own, abstaining to that same +0.03 where the unmonitored agent scores -3.02. The same stopping decisions cut computation: at low stakes, where the system still answers, Sentinel eliminates 13-28% of agent steps at little or no reliability cost.
- Abstract（参考訳）: LLMエージェントは、臨床用テキスト-SQLアプリケーションに対して、複数のステップで自律的に推論するが、自身の推論や出力が信頼できるかどうかを評価することはできない。
医療などの高レバレッジなアプリケーションでは、システムミスがコストがかかるという重大なリスクが生じる。
誤った推論軌道は、破棄しなければならない出力に計算予算を費やす。
本稿では、エージェントの推論、コード、データベース出力を分析して、エージェントが実行前に未解決の質問を拒否し、実行中に完了したトラジェクトリを停止し、納品時に信頼できない回答を控える3つのポイントで決定する、トラジェクトリ由来の、分類器ベースの信頼層であるSentinelを紹介する。
ここでは、Chowのルールを利用して、EHRSQL共有タスクの信頼性スコア(Reliability Score)に基づく決定を最適化する。これは、ユーティリティ重み付けの誤った回答をペナルライズするものだが、EHRSQLのベンチマークでは、Sentinelがこのスコアを+0.08から+0.24に引き上げている。
そしてSentinelは、モニターされていないエージェントが-3.02を得点する+0.03を棄却する。
システムの答えがまだ低い場合、Sentinelは信頼性の低いコストで13～28%のエージェントステップを排除します。
関連論文リスト
- Fast Models, Slow Evidence: A Paired and Self-Audited Evaluation of System-1 Decision Models for LLM Agent Harnesses [6.778374627376906]
System-1決定モデルは、クラス確率で単一のフォワードパスでそのような質問に答える。
オープンウェイト (Laya) モデルとホスト (Jev) System-1 モデルとのペア評価を行った。
論文 参考訳（メタデータ） (2026-10-01T05:57:14Z) - Agent Error Dataset: Scaling 50,000 Error--Diagnosis Pairs for Failure Analysis and Error-Aware Post-Training [45.727227890697556]
我々は,9,961のソースタスクから50,228のエラー診断ペアからなるエージェントエラーデータセット(AED)を紹介した。
5段階のAgenic Error-to-Trainingパイプラインは自然の故障を収集し、診断と修正案を生成し、記録された証拠と照合する。
アクタートレーニングのレシピの比較において、アクションオンリーの修復トレーニングは成功オンリーのトレーニングよりもWebShop-liteの方が6.67ポイント高い。
論文 参考訳（メタデータ） (2026-09-30T16:40:22Z) - The Epistemics of Agent Memory: Measuring, and Governing, the Consolidation Decision in Long-Horizon LLM Agents [0.0]
LLMエージェントは、蓄積した経験を耐久性のあるメモリに変換する必要がある。
フェーズ1は下流ユーティリティによってエージェントトレースからエピソード境界を学習する。
フェーズ2は、トークン予算の下で経験と抽象化のレベルを促進する方法を学ぶ。
フェーズ3では、3つの非円周軸上の既知の最適値に対する統合決定をスコアするオラクル・バイ・コンストラクション・ベンチマークが導入されている。
論文 参考訳（メタデータ） (2026-09-26T23:10:45Z) - Evaluating Enterprise Analytics Agents: An End-to-End, Trace-Backed Methodology [10.411056951115214]
分析エージェントのエンドツーエンド評価手法を提案する。
Gradingでは、人間によるゴールデンな回答、繰り返し実行、実行時のトレースを備えた質問バンクを使用している。
大規模なオンラインマーケットプレースにおいて、制御された内部分析エージェント上で方法論をインスタンス化する。
論文 参考訳（メタデータ） (2026-08-28T20:57:45Z) - Trace Integrity for LLM Data Agents: A Vision for Auditable Structured Reasoning in Real-World Systems [0.519554837386174]
構造化データタスクでは、不正なトレースによってベンチマーク正解が生成される。
本稿では,回答の裏側で記録された計算が明確かどうかを評価するためのデプロイメント信頼性基準であるTrace Integrityを紹介する。
また,CAIT (Correct Answer / Invalid Trace) レートを導入し,回答のみの評価が計算支援出力をどれだけ成功させるかを測定する。
論文 参考訳（メタデータ） (2026-08-26T17:15:24Z) - Measurement Without Validity: The Compounding Reliability Problem in Agentic AI Evaluation [0.0]
エージェントAI評価パイプラインは、デプロイメント決定、安全認定、規制コンプライアンス要求を正当化するベンチマークスコアを生成する。
正式なフレームワークはまだ、これらのパイプラインのステージにおける妥当性の低下を特徴付けていない。
本稿では,タスク生成,人間シミュレーションキャリブレーション,自動判定の3層合成妥当性モデルを提案する。
論文 参考訳（メタデータ） (2026-08-01T17:50:12Z) - Cybersecurity Detection Classification with Reasoning-enabled Language Models [50.72675435043546]
セキュリティオペレーションセンター(SOC)の大きな問題は、警告疲労である。
以前の作業では、大きな言語モデル(LLM)がトリアージラベルを直接出力するように促すか、あるいは微調整するが、検出が真の脅威であるかどうかを判断するよう訓練することはない。
我々は、実際の人間ラベルのWindowsエンドポイント検出に対して、推論可能なトリアージ分類器(CoT)を訓練する。
論文 参考訳（メタデータ） (2026-07-30T16:22:13Z) - Eigen-1: Adaptive Multi-Agent Refinement with Monitor-Based RAG for Scientific Reasoning [53.45095336430027]
暗黙的な検索と構造化された協調を組み合わせた統合フレームワークを開発する。
Humanity's Last Exam (HLE) Bio/Chem Goldでは,48.3%の精度を実現している。
SuperGPQAとTRQAの結果はドメイン間の堅牢性を確認した。
論文 参考訳（メタデータ） (2025-09-25T14:05:55Z) - VulAgent: Hypothesis-Validation based Multi-Agent Vulnerability Detection [55.957275374847484]
VulAgentは仮説検証に基づくマルチエージェント脆弱性検出フレームワークである。
セマンティクスに敏感なマルチビュー検出パイプラインを実装しており、それぞれが特定の分析の観点から一致している。
平均して、VulAgentは全体的な精度を6.6%改善し、脆弱性のある固定されたコードペアの正確な識別率を最大450%向上させ、偽陽性率を約36%削減する。
論文 参考訳（メタデータ） (2025-09-15T02:25:38Z) - Criticality and Safety Margins for Reinforcement Learning [53.10194953873209]
我々は,定量化基盤真理とユーザにとっての明確な意義の両面から,批判的枠組みを定めようとしている。
エージェントがn連続的ランダム動作に対するポリシーから逸脱した場合の報酬の減少として真臨界を導入する。
我々はまた、真の臨界と統計的に単調な関係を持つ低オーバーヘッド計量であるプロキシ臨界の概念も導入する。
論文 参考訳（メタデータ） (2024-09-26T21:00:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。