Fugu-MT 論文翻訳(概要): Rethinking LLM Verification: Evidence Structure, Uncertainty, and Selective Refinement

論文の概要: Rethinking LLM Verification: Evidence Structure, Uncertainty, and Selective Refinement

arxiv url: http://arxiv.org/abs/2608.10725v1
Date: Tue, 11 Aug 2026 09:43:14 GMT
ステータス: 翻訳完了
システム内更新日: 2026-08-12 19:14:45.997293
Title: Rethinking LLM Verification: Evidence Structure, Uncertainty, and Selective Refinement
Title（参考訳）: LLM検証の再考:エビデンス構造, 不確かさ, 選択的リファインメント
Abstract要約: 本稿では,複数選択条件下での医療仮説検証のための2段階フレームワークを提案する。棄権は無作為ではなく、真に不確実性を反映し、棄権予測は信頼性の低下に関連していることを示す。 MedReason と MedQA を用いて行った実験により, 禁忌を選択的理性改善のための制御信号として再利用できることが示唆された。
参考スコア（独自算出の注目度）: 8.78288626457356
License: http://creativecommons.org/licenses/by-sa/4.0/
Abstract: Large language models (LLMs) often rely on shortcuts rather than systematic reasoning, raising safety concerns in medical applications. Allowing models to abstain when uncertain improves reliability but introduces a coverage accuracy tradeoff. We propose a two-stage framework for medical hypothesis verification in multiple-choice settings that manages this tradeoff through targeted ontology grounding, applied only when the model abstains. We show that abstention is not random but reflects genuine uncertainty, with abstained predictions associated with lower confidence. Across two frontier models (GPT-5.5, accessed via the Azure OpenAI API, and DeepSeek-R1), the proposed framework improves question-level accuracy by 9.6 percentage points (82.9% to 92.5%) and hypothesis-level accuracy by 4.2 percentage points (92.0% to 96.2%). Our experiments conducted on MedReason and MedQA show that abstention can be repurposed as a control signal for selective reasoning refinement, achieving knowledge-graph-level performance without explicit knowledge graph construction.
Abstract（参考訳）: 大規模言語モデル(LLM)は、しばしば系統的な推論よりもショートカットに依存し、医療応用の安全性を懸念する。信頼性は向上するが、カバレッジの精度のトレードオフを導入する。そこで本研究では,対象オントロジーの接地によって,このトレードオフを管理するマルチチョイス設定における医療仮説検証のための2段階のフレームワークを提案する。棄権は無作為ではなく、真に不確実性を反映し、棄権予測は信頼性の低下と関連していることを示す。 2つのフロンティアモデル(GPT-5.5、Azure OpenAI API経由でアクセス)で提案されたフレームワークは、質問レベルの精度を9.6ポイント(82.9%から92.5%)、仮説レベルの精度を4.2ポイント(92.0%から96.2%)改善する。 MedReason と MedQA を用いて行った実験により,明解な知識グラフ構築を伴わずに知識グラフレベルの性能を達成し,選択的推論改善のための制御信号として禁忌を再利用できることが示唆された。

関連論文リスト

Bayesian uncertainty estimation improves clinical decision making in medical AI agents [3.251669068529209]
モンテカルロのドロップアウトは、トレーニングセットのスケールをまたいだ一般化を追跡できる不確実な信号であり、信頼できながらエラーを起こしやすい予測を示す。コントロールされた2x2因子分析実験において、臨床判定支援剤は、生のスコアではなくバイナリエラーリスクフラグとして配信された場合にのみ、この不確実性を利用した。
論文参考訳（メタデータ） (2026-07-22T11:54:23Z)
LLM Doesn't Know What It Doesn't Know: Detecting Epistemic Blind Spots via Cross-Model Attribution Divergence on Clinical Tabular Data [2.1443570696048906]
大規模言語モデル(LLM)は、構造化された臨床データにますます適用される。 Qwen 2.5 7B と XGBoost を比較する。
論文参考訳（メタデータ） (2026-06-17T18:49:44Z)
Decomposed Prompting Does Not Fix Knowledge Gaps, But Helps Models Say "I Don't Know" [47.930782177987446]
大規模言語モデルは、クローズドブックの質問応答において知識限界を認識するのに苦労することが多く、自信ある幻覚へと繋がる。我々は、モデルスケールの異なるDirect、Assistive、Incrementalの3つのタスク等価プロンプトとマルチホップQAベンチマークを評価した。幻覚が一致している間に事実知識が安定しているため、クロスレジームは内部の不確実性の正確なシグナルを与える。
論文参考訳（メタデータ） (2026-02-04T18:39:58Z)
Knowing When to Abstain: Medical LLMs Under Clinical Uncertainty [7.985656420275706]
MedAbstainは,医療用多票質問応答における禁忌のための統一ベンチマークおよび評価プロトコルである。最先端で高精度なモデルでさえ、不確実性に欠けることがよくあります。
論文参考訳（メタデータ） (2026-01-18T16:19:29Z)
EchoBench: Benchmarking Sycophancy in Medical Large Vision-Language Models [82.43729208063468]
医療用LVLM(Large Vision-Language Models)の最近のベンチマークでは、信頼性と安全性を見越して、リーダボードの精度を強調している。ユーザが提供した情報を非批判的に反響させる傾向のモデルについて検討する。医療用LVLMの梅毒を系統的に評価するベンチマークであるEchoBenchを紹介する。
論文参考訳（メタデータ） (2025-09-24T14:09:55Z)
Uncertainty-Driven Reliability: Selective Prediction and Trustworthy Deployment in Modern Machine Learning [1.2183405753834562]
この論文は、不確実性推定が機械学習(ML)システムの安全性と信頼性を高める方法について考察する。まず、モデルのトレーニング軌道は、アーキテクチャの変更や損失を伴わずに活用できるような、豊富な不確実性信号を含むことを示す。本稿では,タスク間で動作し,深層アンサンブルのコストを回避し,最先端の選択的予測性能を実現する軽量なポストホック禁忌手法を提案する。
論文参考訳（メタデータ） (2025-08-11T02:33:53Z)
Stabilizing Reasoning in Medical LLMs with Continued Pretraining and Reasoning Preference Optimization [0.06554326244334867]
本稿では,日本の医療領域に最適化された72BパラメータモデルであるPreferred-MedLLM-Qwen-72Bを紹介する。我々は、Qwen2.5-72Bベースモデルに2段階の微調整プロセスを適用し、高い精度と安定した推論を実現する。
論文参考訳（メタデータ） (2025-04-25T05:15:31Z)
Benchmarking Reasoning Robustness in Large Language Models [76.79744000300363]
新規データや不完全データでは,性能が著しく低下することがわかった。これらの結果は、厳密な論理的推論に対するリコールへの依存を浮き彫りにした。本稿では,情報不足によって引き起こされる幻覚を利用して推論ギャップを明らかにする,Math-RoBと呼ばれる新しいベンチマークを提案する。
論文参考訳（メタデータ） (2025-03-06T15:36:06Z)
Improving Selective Visual Question Answering by Learning from Your Peers [74.20167944693424]
VQA(Visual Question Answering)モデルは、間違っていた場合の回答を控えるのに苦労する可能性がある。本稿では,複数モーダル選択関数の学習におけるLearning from Your Peers (LYP) アプローチを提案する。提案手法では,学習データの異なるサブセットに基づいて訓練されたモデルの予測を,選択的VQAモデルの最適化のターゲットとして利用する。
論文参考訳（メタデータ） (2023-06-14T21:22:01Z)
Conservative Prediction via Data-Driven Confidence Minimization [70.93946578046003]
機械学習の安全性クリティカルな応用においては、モデルが保守的であることが望ましいことが多い。本研究では,不確実性データセットに対する信頼性を最小化するデータ駆動信頼性最小化フレームワークを提案する。
論文参考訳（メタデータ） (2023-06-08T07:05:36Z)
Towards Reliable Medical Image Segmentation by Modeling Evidential Calibrated Uncertainty [57.023423137202485]
医用画像のセグメンテーションの信頼性に関する懸念が臨床医の間で続いている。本稿では,医療画像セグメンテーションネットワークにシームレスに統合可能な,実装が容易な基礎モデルであるDEviSを紹介する。主観的論理理論を活用することで、医用画像分割の確率と不確実性を明示的にモデル化する。
論文参考訳（メタデータ） (2023-01-01T05:02:46Z)
Discriminative Jackknife: Quantifying Uncertainty in Deep Learning via Higher-Order Influence Functions [121.10450359856242]
我々は、モデル損失関数の影響関数を利用して、予測信頼区間のジャックニフェ(または、アウト・ワン・アウト)推定器を構築する頻繁な手順を開発する。 1)および(2)を満たすDJは、幅広いディープラーニングモデルに適用可能であり、実装が容易であり、モデルトレーニングに干渉したり、精度を妥協したりすることなく、ポストホックな方法で適用することができる。
論文参考訳（メタデータ） (2020-06-29T13:36:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。