論文の概要: Reasoning-Aware Multicalibrated Reliability Predictors for Language Models
- arxiv url: http://arxiv.org/abs/2610.26645v1
- Date: Mon, 19 Oct 2026 16:06:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-23 02:12:24.183096
- Title: Reasoning-Aware Multicalibrated Reliability Predictors for Language Models
- Title（参考訳）: 言語モデルに対する推論型多重校正信頼性予測器
- Abstract要約: アプリケーション関連トピックグループを補完するフレームワークである推論対応マルチキャリブレーションを導入する。
我々は,様々なベンチマークで幻覚予測と不安全応答検出にフレームワークを適用した。
CoTグループのみに関して(トピック情報を含まない)マルチキャリブレーションはトピック間のキャリブレーションをすでに改善していることがわかった。
- 参考スコア（独自算出の注目度）: 46.30328530525444
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: As people increasingly rely on large language models (LLMs) for information, model providers need to communicate meaningful estimates of whether individual responses are correct or, more generally, reliable. In the context of hallucinations, existing work uses multicalibration to make such reliability predictions meaningful across application-relevant groups, such as prompt topics. Topic groups alone, however, can conceal systematic errors: within the same topic and confidence level, responses with different chain-of-thought (CoT) properties may exhibit opposing errors that cancel on average. In this work, we introduce reasoning-aware multicalibration, a framework that supplements application-relevant topic groups with groups derived from observable properties of CoT traces. We highlight that, theoretically, groupings based on CoT are "internally important", i.e., groupings for which the multicalibration guarantee is not societally crucial as it is for high-risk topics, but whose inclusion in the multicalibration procedure could easily and significantly improve predictive accuracy of the final reliability predictor. Empirically, we apply our framework to hallucination prediction and unsafe-response detection across a variety of benchmarks, and find that adding CoT groups to topic-based calibration reduces Brier score in both tasks. Interestingly, we find that multicalibrating with respect to CoT groups alone (without any topic information) already improves calibration across topics, suggesting that the predictor's errors depend on how the model reasoned, rather than what it was asked about in the prompt.
- Abstract（参考訳）: 人々が情報に対する大きな言語モデル(LLM)にますます依存しているため、モデルプロバイダは個々のレスポンスが正しいか、より一般的には信頼できるかを有意義に見積もる必要がある。
幻覚の文脈では、既存の研究は多重校正を用いて、プロンプトトピックのようなアプリケーション関連グループ間で、そのような信頼性予測を意味付ける。
しかし、トピックグループだけでも、同じトピックと信頼レベルにおいて、異なるチェーン・オブ・ソート(CoT)特性を持つ応答は、平均的にキャンセルされる反対のエラーを示す可能性がある。
本研究では,CoTトレースの可観測特性から派生したグループを用いたアプリケーション関連トピックグループを補完するフレームワークである推論対応マルチキャリブレーションを提案する。
理論的には、CoTに基づくグループ化は「本質的に重要」であり、すなわち、マルチキャリブレーション保証が社会的に重要ではなく、マルチキャリブレーション手順を取り入れたグループ化は、最終的な信頼性予測器の予測精度を容易かつ確実に向上させることができる。
実証的に,本フレームワークをさまざまなベンチマークで幻覚予測や不安全応答検出に応用し,トピックベースのキャリブレーションにCoTグループを追加することで,両方のタスクにおけるBrierスコアが低下することを確認した。
興味深いことに、CoTグループのみに関して(トピック情報を含まない)マルチキャリブレーションはトピック間のキャリブレーションを既に改善しており、予測器のエラーは、プロンプトで何を尋ねられたかではなく、モデルがどのように推論したかに依存することを示唆している。
関連論文リスト
- Measuring consistency via ensemble margin and local prediction variability: Auditing decision systems in the presence of predictive multiplicity [4.924900955306918]
ラショウモン効果は、同じ精度のモデルが同じ入力に対して異なる予測を生成する機械学習現象である。
本稿では,アンサンブルマージンと各構成モデルに対する局所的予測変数の尺度を組み合わせた一貫性基準を提案する。
実験の結果,Rashomon集合からのアンサンブルモデルにより,誤検出のリスクを大幅に低減できることがわかった。
論文 参考訳（メタデータ） (2026-09-01T15:22:01Z) - CLAIM: Leading Open-domain Active Clarification of Large Language Models with Uncertainty Measurement [50.91045324738942]
CLAIMは、オープンドメイン環境でのアクティブな明確化学習のための不確実性駆動フレームワークである。
本研究では,不確実性推定とセマンティッククラスタリングと推論に基づく判断を統合したエントロピー駆動型合成データ生成パイプラインを提案する。
実験の結果,手動でラベル付けしたデータに頼ることなく,CLAIMが安定かつ一般化可能な明確化戦略を学習できることが確認された。
論文 参考訳（メタデータ） (2026-08-12T04:27:45Z) - Simple Yet Effective: An Information-Theoretic Approach to Multi-LLM Uncertainty Quantification [9.397157329808254]
MUSEは、大規模言語モデルのよく校正されたサブセットを特定し、集約するための単純な情報理論手法である。
二分予測タスクの実験では、単一モデルとナイーブアンサンブルベースラインと比較してキャリブレーションと予測性能が改善された。
論文 参考訳（メタデータ） (2025-07-09T19:13:25Z) - SConU: Selective Conformal Uncertainty in Large Language Models [59.25881667640868]
SconU(Selective Conformal Uncertainity)と呼ばれる新しいアプローチを提案する。
我々は,特定の管理可能なリスクレベルで設定されたキャリブレーションの不確実性分布から,与えられたサンプルが逸脱するかどうかを決定するのに役立つ2つの共形p値を開発する。
我々のアプローチは、単一ドメインと学際的コンテキストの両方にわたる誤発見率の厳密な管理を促進するだけでなく、予測の効率を高める。
論文 参考訳（メタデータ） (2025-04-19T03:01:45Z) - Collective Reasoning Among LLMs: A Framework for Answer Validation Without Ground Truth [0.0]
いくつかの先進的な大規模言語モデルが複雑で博士レベルの確率問題を生成・解き出す新しいアプローチを導入する。
本研究は, 多様なモデル間の合意が, アウトプットの信頼性を如何に示すかに焦点を当てる。
論文 参考訳（メタデータ） (2025-02-28T06:20:52Z) - Mitigating Shortcut Learning with Diffusion Counterfactuals and Diverse Ensembles [104.60508550106618]
拡散確率モデル(DPM)を利用したアンサンブル多様化フレームワークDiffDivを提案する。
DPMは、相関した入力特徴を示すサンプルを用いて訓練しても、新しい特徴の組み合わせで画像を生成することができることを示す。
そこで本研究では,DPM誘導の多様化は,教師付き信号の追加を必要とせず,ショートカットキューへの依存を取り除くのに十分であることを示す。
論文 参考訳（メタデータ） (2023-11-23T15:47:33Z) - From Chaos to Clarity: Claim Normalization to Empower Fact-Checking [57.024192702939736]
Claim Normalization(別名 ClaimNorm)は、複雑でノイズの多いソーシャルメディア投稿を、より単純で分かりやすい形式に分解することを目的としている。
本稿では,チェーン・オブ・ソートとクレーム・チェック・バシネス推定を利用した先駆的アプローチであるCACNを提案する。
実験により, CACNは様々な評価尺度において, いくつかの基準値を上回る性能を示した。
論文 参考訳（メタデータ） (2023-10-22T16:07:06Z) - Modeling the Q-Diversity in a Min-max Play Game for Robust Optimization [61.39201891894024]
群分布的ロバスト最適化(群 DRO)は、事前定義された群に対する最悪の損失を最小限にすることができる。
グループDROフレームワークをQ-Diversityを提案して再構築する。
インタラクティブなトレーニングモードによって特徴付けられるQ-Diversityは、アノテーションからグループ識別を緩和し、直接パラメータ化を行う。
論文 参考訳（メタデータ） (2023-05-20T07:02:27Z) - Fair admission risk prediction with proportional multicalibration [0.16249424686052708]
マルチキャリブレーション制約は、柔軟に定義されたサブポピュレーション間のキャリブレーション誤差を補正する。
意思決定者は特定のグループに対するモデル予測を信頼するか、不信にするかを学ぶことができる。
本稿では,グループ間および予測ビン内における正の校正誤差を制限する基準である比例多重校正を提案する。
論文 参考訳（メタデータ） (2022-09-29T08:15:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。