論文の概要: Confidence-Ordering Reversal under Contextual Priors in Neural Decoding
- arxiv url: http://arxiv.org/abs/2610.08229v1
- Date: Tue, 06 Oct 2026 12:17:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 02:58:29.973991
- Title: Confidence-Ordering Reversal under Contextual Priors in Neural Decoding
- Title(参考訳): ニューラルデコードにおける文脈優先の信頼秩序逆転
- Abstract要約: コンテキスト優先は、候補スコアを変換することで、ニューラルから言語へのデコーディングを改善する。
本稿では,MEG-MASC と Mous を用いた音声検索における事前の信頼度について検討する。
- 参考スコア(独自算出の注目度): 6.47812541008285
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Contextual priors improve neural-to-language decoding by reshaping candidate scores. However, confidence is read from the same reshaped scores, so the errors a prior leaves behind can become more confident with no change in accuracy to reveal it. We study how a prior shapes confidence in speech retrieval on MEG-MASC and MOUS using local decoding scores, a contextual prior combined by additive shallow fusion, and the fused top-two margin as confidence. Among initially incorrect predictions, we find a confidence-ordering reversal: a larger margin makes a repair more likely when the correct candidate starts near the top of the local ranking, but less likely when it starts lower. On MEG-MASC, pooled correctness AUROC is 0.87, yet AUROC separating repairs from residual errors falls from 0.70 at initial ranks 2-3 to 0.39 at ranks 21-50. Errors starting beyond rank 20, inside the reversed region, make up 46.6% of all post-fusion errors. We propose a score-level account: a repair must first close the correct candidate's initial deficit, limiting its final margin, whereas a residual error can build a large margin between two incorrect candidates. A causal intervention that changes only the fusion weight moves the reversal to deeper ranks as predicted. Under a word-level LM prior, it keeps moving after accuracy gain peaks, so a weight chosen for accuracy does not settle confidence. Reading local and prior scores separately improves selective decoding: the decoder answers on 74.5% of windows instead of 56.7%, while 92% of output sets still contain the correct candidate. Confidence after contextual fusion should retain the local and contextual evidence behind each prediction, not just the fused scores. Project website: https://confidencereversal.github.io/; Code: https://github.com/AmadeusFake/NeuDecodingConfReversal
- Abstract(参考訳): コンテキスト優先は、候補スコアを変換することで、ニューラルから言語へのデコーディングを改善する。
しかし、同じ形状のスコアから信頼度を読み取るため、事前の残した誤差は、その点を明らかにするための精度の変化なしに、より自信を増すことができる。
本研究では, MEG-MASC と Mous の音声検索における事前の信頼度を局所復号化スコア, 付加的な浅層融合による文脈的事前評価, 融合した上位2つのマージンの信頼度を用いて検討した。
より大きなマージンは、正しい候補が地元のランキングの一番上近くから始まると、より修復されるが、それより低い場合には、より少ない確率で修復される。
MEG-MASCでは、プールされた正しさ AUROC は 0.87 であるが、残差から修理を分離する AUROC は、初期ランク 2-3 で 0.70 から 21-50 で 0.39 に低下する。
逆転領域内のランク20を超えるエラーは、すべての核融合後のエラーの46.6%を占める。
修理はまず正しい候補者の初期赤字を解消し、最終的な利益率を制限しなければならないが、残差は2つの不正候補の間に大きなマージンを生じさせる可能性がある。
融合重量だけを変える因果的介入は、予測されたように逆転をより深いランクに移動する。
単語レベルのLMの下では、精度がピークに達した後も動き続けるので、精度のために選択された重みが信頼性を損なうことはない。
デコーダは56.7%ではなく74.5%のウィンドウで応答するが、出力セットの92%は正しい候補を含んでいる。
文脈融合後の信頼は、融合されたスコアだけでなく、各予測の背後にある局所的および文脈的証拠を保持するべきである。
プロジェクトウェブサイト: https://confidencereversal.github.io/; Code: https://github.com/AmadeusFake/NeuDecodingConfReversal
関連論文リスト
- Bayesian Entropy-based Reordering for Calibrated Diffusion Language Models [1.888263220307026]
我々は,トークンのコミットメントを導くために予測の不確実性を利用するポストホックベイズ復号フレームワークBayesERを紹介する。
そこで,BayesERは,一般的な復号方式と比較して精度を保ちつつ,シーケンスレベルの校正誤差を低減できることを示す。
論文 参考訳(メタデータ) (2026-10-04T11:13:21Z) - Measuring Collapse and Correction in Homogeneous-Panel LLM Debate [51.03982042769297]
マルチエージェント大言語モデル(LLM)の議論は、最終回答が改善するかどうかによってしばしば評価されるが、運動は必ずしも改善されない。
標準的な最終精度評価は、これらの反対のメカニズムを詳述する。
複数選択質問(MCQ)に関する同質な議論のための監査可能なプロトコルを導入し、各実行を、崩壊、修正、オンセット、署名された介入ユーティリティよりも、遷移台帳として記録する。
論文 参考訳(メタデータ) (2026-09-28T14:31:19Z) - Beyond Verbalized Confidence: Calibrating Reasoners with Differentiable Readouts [57.65087348754571]
検証可能な報酬(RLVR)による強化学習は、モデルに正しい回答を与えるよう推論するモデルを訓練するが、その信頼性が校正されることは保証しない。
近年の手法では、RLVRループ内のキャリブレーションを、モデルが応答に付随して数値的信頼度を持たせることで訓練しているが、これらはすべてテキストとしてサンプリングすることで信頼性を得る。
我々は、サンプリングを決定論的読み出しに置き換えるためにCREDO(Confidence REaDOut)を提案する。
論文 参考訳(メタデータ) (2026-09-28T10:47:41Z) - The Undetected Damage of Quantization on Retrieval and How to Fix It [51.02977749156532]
分類精度を保った量子モデルでは,トップ1検索結果の14ドルから46%の値がまだ変化していることを示す。
この失敗を2つの上位モデルスコア間のギャップに結び付け、そのギャップを使用して、定量化された回答をいつ信頼するかを決めます。
この差が最大の丸め誤差の2倍を超える場合にのみ、トップ1結果が量子化を継続することが保証されていることを示す。
論文 参考訳(メタデータ) (2026-09-21T09:26:35Z) - Unmatched Does Not Mean False: Incomplete Reference Sets Can Reverse Calibration Rankings in Open-Ended Theory-of-Mind Tracking [0.5735035463793009]
Open-ended Theory-of-Mind (ToM) トラッカーは有限参照を欠く有効な信念を出力する。
有限参照+マーチャントパイプラインは、不正な出力をマークし、適切なスコアモデル選択をリバース可能なプロキシラベルを生成する。
論文 参考訳(メタデータ) (2026-08-26T11:36:31Z) - $TCP_α$: Margin-Controlled Confidence estimation for reliable Music Information Retrieval [7.679660052685777]
ディープニューラルネットワークは、しばしば過信であり、誤った予測にも高い信頼を割り当てる。
既存のターゲットは、重複する信頼値を正しい予測と間違った予測に割り当てる一方、決定境界付近のエラーは正しい予測と区別できない信頼スコアを受け取る。
提案するTCP_$は,不特定サンプルに対してマージン制御されたペナルティを導入することで,これらの制限を解消する新しい信頼度ターゲットである。
論文 参考訳(メタデータ) (2026-08-20T17:58:50Z) - Unsure but Certain: Uncovering the Representation-Confidence Gap in Diffusion Language Models [7.457366749109892]
ノイズによって精度が低下するにつれて、信頼性はその最大値に近づき、答えを正しくランク付けする能力はランダムな確率に低下する。
このランキングの赤字は、ノイズの多い条件下での標準モデルを支持し、一般的な治療に抵抗する。
軽量抽出ツールは、この信号を使用してランキングを改善する。
論文 参考訳(メタデータ) (2026-08-09T16:13:46Z) - Selective Prediction and Uncertainty-Aware Referral for Pap Smear Classification [3.093890460224435]
本稿では,Herlev Papスミアデータセットの選択的予測と不確実性を考慮した参照について検討する。
ImageNet-pretrained weights with weighted random samples, and two light transformer backbones are fine-tuned on Herlev from ImageNet-pretrained weights with weighted random sample。
統計的に有意な差は認められなかった。
論文 参考訳(メタデータ) (2026-07-15T05:47:31Z) - Sample Smart, Not Hard: Correctness-First Decoding for Better Reasoning in LLMs [72.82403830490084]
我々は、復号規則は正確さによって校正されるべきであり、自信だけではならないと論じている。
Greedy-Threshold はこの目標を達成するための単純な戦略を提案します。
この結果から,不確実性の下での復号化が問題視され,数学や一般推論のベンチマークで有意な差がみられた。
論文 参考訳(メタデータ) (2025-10-07T14:46:12Z) - CLUE: Non-parametric Verification from Experience via Hidden-State Clustering [64.50919789875233]
隠れアクティベーションの軌跡内の幾何的に分離可能なシグネチャとして解の正しさが符号化されていることを示す。
ClUE は LLM-as-a-judge ベースラインを一貫して上回り、候補者の再選において近代的な信頼に基づく手法に適合または超えている。
論文 参考訳(メタデータ) (2025-10-02T02:14:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。