Fugu-MT 論文翻訳(概要): Separating Capability from Confidence: Grounded Dual-State Calibration for GRPO-Trained Medical Vision-Language Models

論文の概要: Separating Capability from Confidence: Grounded Dual-State Calibration for GRPO-Trained Medical Vision-Language Models

arxiv url: http://arxiv.org/abs/2609.06419v1
Date: Sun, 06 Sep 2026 06:34:01 GMT
ステータス: 翻訳完了
システム内更新日: 2026-09-10 19:44:08.248235
Title: Separating Capability from Confidence: Grounded Dual-State Calibration for GRPO-Trained Medical Vision-Language Models
Title（参考訳）: 信頼性からの分離能力:GRPO-Trained Medical Vision-Language Modelのための基底状態校正
Abstract要約: 近年の手法は,回答生成とともに言語的信頼度を最適化する。言語化された信頼もまた、視覚的サポートを明確に評価するものではない。信頼度推定から能力学習を分離するために,textbfDualReadを提案する。
参考スコア（独自算出の注目度）: 14.059001230269132
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Medical vision-language models (VLMs) require confidence that reflects both answer correctness and patient-specific visual evidence. Recent GRPO-based methods optimize verbalized confidence together with answer generation. However, this joint optimization may interfere with answer learning and drive confidence toward near-binary values. Verbalized confidence also provides no explicit assessment of visual support. We therefore separate capability learning from confidence estimation and propose \textbf{DualRead}. DualRead builds on the insight that reliability can be read from the actor's internal states at critical moments in the answering process. It freezes the GRPO-trained actor and combines pre-answer solvability with a post-answer assessment of the generated answer and its visual support. To further assess whether confidence reflects visual grounding, we introduce \textbf{Counterfactual Confidence Grounding AUC} (CCG-AUC). It measures whether confidence decreases when real-image substitution changes the actor from correct to incorrect. Across two VLM backbones and both in- and out-of-distribution medical VQA benchmarks, DualRead improves correctness discrimination and calibration over verbalized confidence while preserving answer accuracy. CCG-AUC reveals whether confidence responds to answer-relevant visual evidence rather than primarily to non-visual cues.
Abstract（参考訳）: 医療視覚言語モデル(VLM)は、答えの正しさと患者固有の視覚的証拠の両方を反映する信頼性を必要とする。最近のGRPOに基づく手法は、回答生成とともに言語的信頼度を最適化する。しかし、この共同最適化は、解答学習を妨害し、ほぼ二項値に対する信頼を喚起する可能性がある。言語化された信頼もまた、視覚的サポートを明確に評価するものではない。したがって、信頼度推定から能力学習を分離し、 \textbf{DualRead}を提案する。 DualReadは、応答プロセスにおいて重要な瞬間にアクターの内部状態から信頼性を読み取ることができるという洞察に基づいて構築されている。 GRPO訓練されたアクターを凍結し、事前解答可能性と、生成した回答とその視覚的支援の事後評価とを組み合わせる。視覚的接地を反映する信頼度を評価するために, CCG-AUC (textbf{Counterfactual Confidence Grounding AUC) を導入する。実像置換によって俳優が正しいものから間違っているものへと変化するとき、信頼度が低下するかどうかを測定する。 2つのVLMバックボーンと、in-of-distriionとout-of-distriionの医療VQAベンチマークで、DualReadは、回答精度を維持しながら、言語化された信頼度に対する正当性判定と校正を改善している。 CCG-AUCは、自信が主に非視覚的手がかりに反応するよりも、答えに関連する視覚的証拠に反応するかどうかを明らかにしている。

関連論文リスト

Future Confidence Distillation in Large Language Models [0.0]
既存のアプローチは、信頼性を完了した応答の特性として扱う。本研究では, 時間的観点からの信頼度を, 解答前判断(FOK)と解答後判断(JOL)の信頼度推定を比較して検討する。解法後の信頼度は、解法前の信頼度よりも常に校正され、差別的であることが示される。
論文参考訳（メタデータ） (2026-07-08T16:43:11Z)
ORCE: Order-Aware Alignment of Verbalized Confidence in Large Language Models [17.761630515662947]
本稿では,言語的信頼度校正のための疎結合・秩序対応フレームワークを提案する。提案手法は,まず回答を生成し,固定された質問対に条件付き信頼度を推定する。実験により,本手法は解答精度を大きく保ちながらキャリブレーションと故障予測性能を向上させることが示された。
論文参考訳（メタデータ） (2026-05-12T17:39:43Z)
Grounded or Guessing? LVLM Confidence Estimation via Blind-Image Contrastive Ranking [7.845652284569666]
本稿では,モデルに依存しない信頼度推定フレームワークBICR(Blind-Image Contrastive Ranking)を紹介する。ライトウェイトプローブは、実像隠蔽状態に基づいてトレーニングされ、ブラックアウトビューに対する高い信頼度を罰するランキング損失によって正規化される。 5つの現代のLVLMと7つのベースラインで評価され、視覚的質問応答、オブジェクト検出、医用画像、財務文書理解に関するベンチマークが実施された。
論文参考訳（メタデータ） (2026-05-11T17:35:10Z)
Less Approximates More: Harmonizing Performance and Confidence Faithfulness via Hybrid Post-Training for High-Stakes Tasks [52.81286869496811]
大規模な言語モデルは、自信を持って不正確な推論が現実世界の害を引き起こすような、ハイテイクなタスクにますますデプロイされている。内的フィードバックからの教師なし強化学習と推論・トラス誘導型推論蒸留を併用して協調的に最適化することを提案する。 PRG方式のメトリクスを用いてRDとRLIFを適応的に重み付けするハイブリッドポストトレーニングフレームワークであるHyTuningを紹介する。
論文参考訳（メタデータ） (2026-04-09T16:50:11Z)
How do LLMs Compute Verbal Confidence [20.456986780602964]
言語的信頼感は、自己評価の自動化を反映しており、ポストホック再建ではないことを示す。これらの知見は, LLMにおけるメタ認知の理解とキャリブレーションの改善に影響を及ぼす。
論文参考訳（メタデータ） (2026-03-18T15:31:43Z)
Confidence Before Answering: A Paradigm Shift for Efficient LLM Uncertainty Estimation [47.91529693614168]
既存の方法は、主に回答ファーストであり、回答を生成した後のみ信頼を生み出す。モデルが答える前に信頼を出力する信頼第一パラダイムについて検討し、このスコアを正解する確率として解釈する。我々は,信頼度校正と正解精度をセグメント化された信用代入を通じて協調的に最適化する強化学習フレームワークであるCoCAを提案する。
論文参考訳（メタデータ） (2026-03-06T04:03:13Z)
Towards Reliable Medical LLMs: Benchmarking and Enhancing Confidence Estimation of Large Language Models in Medical Consultation [97.36081721024728]
本稿では,現実的な医療相談におけるマルチターンインタラクションの信頼性を評価するための最初のベンチマークを提案する。本ベンチマークでは,3種類の医療データを統合し,診断を行う。本稿では,エビデンスを基盤とした言語自己評価フレームワークであるMedConfを紹介する。
論文参考訳（メタデータ） (2026-01-22T04:51:39Z)
BrowseConf: Confidence-Guided Test-Time Scaling for Web Agents [58.05949210993854]
本研究では,長期にわたる行動の後,言語化された信頼度スコアを用いて,検索エージェントが自身の信頼を伝達できるかどうかを検討する。本研究では,信頼度スコアを用いて回答の質を判断し,信頼度レベルに達するまで再度試すテスト時間スケーリング(TTS)手法を提案する。
論文参考訳（メタデータ） (2025-10-27T15:58:51Z)
ADVICE: Answer-Dependent Verbalized Confidence Estimation [7.331438721730309]
言語的信頼の基盤となる力学を詳細に分析する。我々は、回答の独立性を重要な要因とみなし、モデルが自身の回答に自信を持てないことを前提としています。本稿では,回答基底の信頼度推定を容易にする微調整フレームワークを提案する。
論文参考訳（メタデータ） (2025-10-13T02:18:33Z)
Language Models Prefer What They Know: Relative Confidence Estimation via Confidence Preferences [62.52739672949452]
言語モデル(LM)は、ユーザーがアウトプットの誤りを検知し、必要であれば人間の専門家に延期するのに役立つ、信頼性の高い信頼推定を提供する必要がある。本稿では,相対的信頼度推定法を提案する。そこでは,相互に質問をマッチングし,モデルに信頼度を相対的に判断するよう求める。各質問を、他の質問に対する「プレイヤー」として扱い、モデルの選好を一致結果として扱うことで、モデルの信頼性選好を信頼スコアに変換するために、Elo評価やBradley-Terryのようなランクアグリゲーション手法を使うことができる。
論文参考訳（メタデータ） (2025-02-03T07:43:27Z)
Fact-Level Confidence Calibration and Self-Correction [64.40105513819272]
本稿では,事実レベルでの信頼度と妥当性の重み付けを校正するFact-Levelフレームワークを提案する。また,信頼度の高い自己補正(textbfConFix$)も開発した。
論文参考訳（メタデータ） (2024-11-20T14:15:18Z)
When to Trust LLMs: Aligning Confidence with Response Quality [49.371218210305656]
我々はconfidence-Quality-ORDer保存アライメントアプローチ(CONQORD)を提案する。品質報酬と秩序保存アライメント報酬機能を統合する。実験により,CONQORDは信頼性と応答精度のアライメント性能を著しく向上することが示された。
論文参考訳（メタデータ） (2024-04-26T09:42:46Z)
Think Twice Before Trusting: Self-Detection for Large Language Models through Comprehensive Answer Reflection [90.71323430635593]
本稿では, LLM生成解を超える包括的解答空間を考察した, 新たな自己検出パラダイムを提案する。このパラダイムに基づいて、2段階のフレームワークを導入し、まずまずLLMに各候補の回答を反映し、正当化するように指示する。このフレームワークは、優れた自己検出のための既存のアプローチとシームレスに統合できる。
論文参考訳（メタデータ） (2024-03-15T02:38:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。