論文の概要: Calibration-Constrained Diagnostics for Evaluating LLM Self-Evaluation

• arxiv url: http://arxiv.org/abs/2611.02253v2
• Date: Tue, 03 Nov 2026 05:09:17 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-11-04 17:48:27.246265
• Title: Calibration-Constrained Diagnostics for Evaluating LLM Self-Evaluation
• Title（参考訳）: LLM自己評価のための校正制約診断
• Abstract要約: アーティファクトは 安全認証ではなく 評価のために設計されている ブラックボックスプロトコル、プロンプト、判断基準ラベル、モデル出力、再生スクリプト、校正制約付き診断メトリクスを提供する。
• 参考スコア（独自算出の注目度）: 4.882315746209125
• License:
• Abstract: We introduce a reusable evaluation artifact for diagnosing whether LLM self-reported confidence can support confidence-gated act-or-defer decisions. The artifact is designed for evaluation rather than safety certification: it provides a black-box protocol, prompts, judge-reference labels, model outputs, reproduction scripts, and calibration-constrained diagnostic metrics for auditing LLM self-evaluation across math, factual, and commonsense reasoning tasks. Our central finding is that aggregate uncertainty summaries can produce deployment-misleading rankings: a model that appears strongest under standard aggregate calibration metrics can fail under category-level calibration constraints, while a model with worse aggregate calibration can exhibit stronger calibration-constrained behavior in the positive-margin region where high self-selection accuracy and tight calibration coexist. To expose this failure mode, we define PVC and C-PVC as category-level diagnostics over an accuracy-by-calibration surface: PVC counts categories whose self-evaluation accuracy exceeds a threshold, while C-PVC additionally requires category-level calibration error below a tolerance. We aggregate these diagnostics using Volume Under Surface (VUS) and a positive-margin restriction; they are VC/fat-shattering motivated but are empirical evaluation proxies, not literal VC-dimension estimates. Across 13 models and four benchmarks, the artifact shows weak confidence-correctness separation, stable diagnostic rankings under alternative categorizations and judge-label perturbations, and persistent positive-margin failures not captured by ECE or Brier score. Confidence-gated self-evaluation therefore requires calibration-constrained, category-level diagnostics, and we provide a reusable artifact for applying them under black-box access.
• Abstract（参考訳）: LLM自己申告された信頼度が信頼に満ちた行動判断を支援することができるかどうかを診断するための再利用可能な評価アーティファクトを導入する。 ブラックボックスプロトコル、プロンプト、判断基準ラベル、モデル出力、複製スクリプト、そして数学、事実、常識的推論タスクにわたるLSM自己評価を監査するための校正制約付き診断メトリクスを提供する。 我々の中心的な発見は、集合的不確実性サマリーは、標準的集合的キャリブレーション基準の下で最強のように見えるモデルは、カテゴリーレベルのキャリブレーション制約の下で失敗しうる一方で、より悪い集合的キャリブレーションを持つモデルは、高い自己選択精度と厳密なキャリブレーション共存の正のマージン領域において、より強いキャリブレーション制約の振る舞いを示すことができることである。 PVCは自己評価精度がしきい値を超えるカテゴリをカウントし、C-PVCは許容値以下でカテゴリレベルの校正誤差を必要とする。 本稿では,VUS(Volume Under Surface)と正マージン制限(正マージン制限)を用いて,これらの診断を集約する。 13のモデルと4つのベンチマークで、このアーティファクトは信頼性と正確性の分離が弱いこと、代替分類と判断ラベルの摂動に基づく安定した診断ランク、ECEやBrierスコアで取得されていない持続的な正の正のマージン故障を示す。 そこで,信頼性に配慮した自己評価には,キャリブレーションに制約のあるカテゴリレベルの診断が必要であり,ブラックボックスアクセス下で適用するための再利用可能なアーティファクトを提供する。

関連論文リスト

• UtilityBench: Measuring Language Model Utility When Errors Have Different Costs [84.8489208543529]
  本稿では,エラーの結果を明示的に取り入れたユーティリティベースの評価パラダイムを提案する。 UtilityAUC(UtilityAUC)は、モデルの応答順序によって決定される実用曲線の下での面積を測定する指標である。 経験的に、20の最先端モデルを評価すると、より高い精度や高度なアーキテクチャがより高いUtilityAUCに確実に変換されないことがわかった。
  論文  参考訳（メタデータ） (2026-10-19T07:23:43Z)
• Calibration-Aware Uncertainty Cascades for Efficient Heterogeneous Model Collaboration [18.045450334322545]
  不均一なモデルコラボレーションは、予測性能と推論コストのバランスをとるために、異なるモデルの相補的な強みを活用することを目指している。 既存のアプローチでは、ルーティング決定を固定されたタスクとモデルプールに結びつける訓練されたルータや、しきい値が不均一なモデル間で一貫性のあるセマンティクスを欠いている生の自信のカスケードに頼っているのが一般的である。 本稿では,各モデルの信頼性を独立に校正し,検証データを用いてデプロイメントポリシを選択する,シンプルなポストホックフレームワークであるCAUCを提案する。
  論文  参考訳（メタデータ） (2026-09-10T12:14:54Z)
• Latent Confidence Alignment for LLM Self-Assessment [8.73168195475753]
  本稿では,モデル能力と項目難易度を指標として,モデル自己評価と潜在誤り確率との整合性を測定するためのモデルベース潜在能力フレームワークとメタ認知的視点を提案する。 20モデルを用いた医療領域データセットの実験は,提案手法がモデル能力に影響を与えることなく自己評価品質を向上させることを示す。
  論文  参考訳（メタデータ） (2026-06-20T08:13:31Z)
• Multimodal Learning on Low-Quality Data with Conformal Predictive Self-Calibration [72.0672328514289]
  マルチモーダル学習は、しばしば低品質データの課題に悩まされる。 コンフォーマル予測自己校正(Conformal Predictive Self-Calibration)と呼ばれる統合フレームワークを提案する。 私たちのフレームワークは、既存の最先端メソッドを一貫して上回ります。
  論文  参考訳（メタデータ） (2026-05-05T14:48:52Z)
• On Calibration of Large Language Models: From Response To Capability [66.59139960234326]
  大規模言語モデル(LLM)は汎用的な問題解決手段として広くデプロイされている。 本稿では,クエリ上でモデルが期待する精度を目標とするキャリブレーションを提案する。 我々の結果は、キャパシティ校正された信頼度がpass@$k$予測と推論予算割り当てを改善することを示している。
  論文  参考訳（メタデータ） (2026-02-14T01:07:45Z)
• Calibrating Large Language Models with Sample Consistency [76.23956851098598]
  本稿では,複数サンプルモデル生成系の分布から信頼度を導出する可能性について,一貫性の3つの尺度を用いて検討する。 その結果、一貫性に基づくキャリブレーション手法は、既存のポストホック手法よりも優れていることがわかった。 種々のLMの特性に合わせて,キャリブレーションに適した整合性指標を選択するための実用的なガイダンスを提供する。
  論文  参考訳（メタデータ） (2024-02-21T16:15:20Z)
• Calibrating Long-form Generations from Large Language Models [34.72041258464477]
  大きな言語モデル(LLM)の信頼性スコアは、その応答が正しいという実際の可能性と一致すべきである。 現在の信頼性評価手法とキャリブレーション基準は、応答の正しさを2値の真/偽評価に頼っている。 本稿では,LLMの応答の正しさと関連する信頼度の両方を,様々なスコアの分布として扱う統一校正フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-02-09T17:00:32Z)
• Towards Calibrated Robust Fine-Tuning of Vision-Language Models [97.19901765814431]
  本研究は、視覚言語モデルにおいて、OOD精度と信頼性校正の両方を同時に改善する頑健な微調整法を提案する。 OOD分類とOOD校正誤差は2つのIDデータからなる共有上限を持つことを示す。 この知見に基づいて,最小の特異値を持つ制約付きマルチモーダルコントラスト損失を用いて微調整を行う新しいフレームワークを設計する。
  論文  参考訳（メタデータ） (2023-11-03T05:41:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。