論文の概要: Correct but Unselectable: The Hidden Interface Tax in Multi-Candidate Reasoning
- arxiv url: http://arxiv.org/abs/2610.32235v1
- Date: Fri, 23 Oct 2026 06:45:07 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 01:38:06.411952
- Title: Correct but Unselectable: The Hidden Interface Tax in Multi-Candidate Reasoning
- Title(参考訳): 正解だが選択不能:マルチチャンネル推論における隠れインタフェース税
- Abstract要約: 正しい解答は候補プールに現れるが、不完全、不完全、あるいは固定されたセレクタが期待する解答モードに一致しないため、選択されない。
提案するCACC(Compatibility-Aware Candidate Construction)は,フラグメントを修復し,応答モードを整列し,いずれのコンポーネントも再学習せずにセレクタの畳み込みノイズを除去する,固定セレクタと候補ソースのインタフェース層である。
- 参考スコア(独自算出の注目度): 10.45417197978482
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Small language models deployed under cost, latency, or privacy constraints cannot simply switch to larger models when reasoning fails. Multi-candidate generate-then-rerank offers a natural test-time scaling route. However, more candidates do not always yield higher accuracy. We identify a previously overlooked bottleneck between generation and selection: a correct answer may appear in the candidate pool yet fail to be selected because it is incomplete, unparseable, or misaligned with the answer mode the fixed selector expects. We term this loss the hidden interface tax and formalize a coverage-conversion decomposition that distinguishes raw oracle coverage from selectable coverage, the subset of problems where a correct candidate can actually be consumed by the selector. We propose Compatibility-Aware Candidate Construction (CACC), an interface layer between the candidate source and the fixed selector that repairs fragments, aligns answer modes, and removes selector-confusing noise without retraining either component. On numeric reasoning (GSM8K, competition_math), CACC raises both oracle coverage and final accuracy. On GPQA Diamond, CACC alone improves final accuracy from 5.6% to 19.2% (+13.6 pp); combined with proposer-side strengthening it reaches 25.8% (+20.2 pp). On MMLU-Pro, CACC exposes a coverage-conversion gap: answer-mode-compatible construction raises oracle coverage, but final accuracy decreases by 0.85 pp under the original selector; adding proposer-side strengthening improves final accuracy.
- Abstract(参考訳): コスト、レイテンシ、プライバシの制約の下でデプロイされる小さな言語モデルは、推論が失敗すると単に大きなモデルに切り替えることはできない。
マルチ候補生成-then-rerankは、自然なテスト時間スケーリングルートを提供する。
しかし、より多くの候補者が常に高い精度を得られるとは限らない。
正しい解答は候補プールに現れるが、不完全であり、パース不能であり、あるいは固定されたセレクタが期待する解答モードと一致しないため、選択できない可能性がある。
この損失を隠蔽インターフェース税と呼び、選択可能なカバレッジから生のオラクルカバレッジを区別するカバレッジ変換分解を形式化し、正しい候補を実際にセレクタが消費できる問題のサブセットとする。
提案するCACC(Compatibility-Aware Candidate Construction)は,フラグメントを修復し,応答モードを整列し,いずれのコンポーネントも再学習せずにセレクタの畳み込みノイズを除去する,固定セレクタと候補ソースのインタフェース層である。
数値推論(GSM8K, competition_math)では、CACCはオラクルカバレッジと最終的な精度の両方を高める。
GPQAダイアモンドでは、CACCのみが最終精度を5.6%から19.2%(+13.6pp)に改善し、提案側を強化して25.8%(+20.2pp)に達する。
MMLU-Proでは、CACCはカバレッジ・コンバージョン・ギャップを露呈する: 応答モード互換構造はオラクルのカバレッジを増大させるが、最終的な精度は元のセレクタで0.85pp低下し、プロジェクタ側の強化により最終的な精度が向上する。
関連論文リスト
- Jeva: System One Models from First Principles [58.432996881401415]
Jevaは4つの重要な構造的要件に対処する、決定ネイティブなアーキテクチャです。
共有エンコーダは独立して要求と各オプションを表現し、コンパクトな決定スタックは要求状態のみを洗練する。
Jevとオープンソースモデルに対する評価全般において、Jevaは強力な型付き決定性能とほぼ完璧なnull検出を組み合わせる。
論文 参考訳(メタデータ) (2026-10-13T17:31:09Z) - Selection, Recombination, or a Fresh Solve? A Candidate-Free Control for Single-Pass Test-Time Aggregation [0.0]
すべての候補が間違っている場合、正しい候補の選択はできないが、アグリゲーションコールは依然として問題を未然に解決することができる。
最大出力の許容範囲で欠落した候補自由制御を導入し、正しい候補数で階層化する。
AIME-2025とHMMT-2025をQwen3-4Bで比較すると、候補条件付けは複数の候補が正しい場合の精度を向上させる。
論文 参考訳(メタデータ) (2026-08-18T23:17:16Z) - A decodability criterion predicts when hidden-state selection beats majority voting in large language models [10.860308169044679]
本稿では,解答点隠れ状態の線形ゲートを訓練し,最上位候補を選択する動的選択結合器を提案する。
その主な貢献は、解答可能性(deodability)であり、ゲートが質問の正しい候補をどれだけ正確にランクづけしているかの漏れのない尺度である。
論文 参考訳(メタデータ) (2026-08-17T21:02:10Z) - Queries Knew More Than We Thought: Uncovering Latent Knowledge in Segmentation Models [7.040438774123036]
凍結DETRモデルにおける出力選択ボトルネックについて検討する。
地道のみのオラクルは、すでに計算済みのマスクの提案に隠れたヘッドルームを最初に示している。
その後、クエリを追加したり、新しいマスクを生成したり、バックボーンを再実行したり、ウェイトを更新したりせずに、ヘッドルームを復元できるかどうかを尋ねます。
論文 参考訳(メタデータ) (2026-07-30T01:46:10Z) - Oracle Gap and Signal Fidelity: A Fixed-Pool Diagnostic for Test-Time Collaboration [8.515185888009833]
テストタイムのコラボレーションはLLM推論の改善と評価されることが多いが、その利益は不均一であり、時にはネガティブである。
固定候補プールに対しては、セレクタまたは検証器のネットゲインを測定可能な要素に分解する。
このことは、マルチエージェントトポロジーの本質的な性質としてではなく、候補選択問題として協調を再構築する。
論文 参考訳(メタデータ) (2026-07-20T04:09:19Z) - Adaptive Conformal Prediction for Improving Factuality of Generations by Large Language Models [86.8650252164764]
大規模言語モデル(LLM)は、事実的に誤った出力を生成する傾向にある。
本研究では,LLMへのコンフォメーションスコア変換法を拡張する適応型コンフォメーション予測手法を提案する。
これにより、アクシデントに依存したキャリブレーションが可能となり、条件付きカバレッジを改善しながら、限界範囲のカバレッジ保証が維持される。
論文 参考訳(メタデータ) (2026-04-15T15:35:42Z) - COIN: Uncertainty-Guarding Selective Question Answering for Foundation Models with Provable Risk Guarantees [51.5976496056012]
COINは、統計的に有効な閾値を校正し、質問毎に1つの生成された回答をフィルタリングする不確実性保護選択フレームワークである。
COINはキャリブレーションセット上で経験的誤差率を推定し、信頼区間法を適用して真誤差率に高い確率上界を確立する。
リスク管理におけるCOINの堅牢性,許容回答を維持するための強いテストタイムパワー,キャリブレーションデータによる予測効率を実証する。
論文 参考訳(メタデータ) (2025-06-25T07:04:49Z) - SpecDec++: Boosting Speculative Decoding via Adaptive Candidate Lengths [41.863092939498316]
投機的復号化は、より小さくより高速なドラフトモデルを利用することで、ターゲットとする大言語モデルの推論遅延を低減する。
候補長Kの選択について検討し、マルコフ決定過程として定式化する。
この理論によって動機付けられたSpecDec++は、投機的復号法の拡張版で、ハエの候補長を適応的に決定する。
論文 参考訳(メタデータ) (2024-05-30T05:49:38Z) - DCR: Divide-and-Conquer Reasoning for Multi-choice Question Answering with LLMs [9.561022942046279]
大規模言語モデル(LLM)の推論能力を高めるため,DCR(Divide and Conquer Reasoning)を提案する。
まず、信頼性スコア(mathcalCS$)に基づいて質問を2つのサブセットに分類する。
特に,質問を信頼性スコア(mathcalCS$)に基づいて2つのサブセットに分類する。
論文 参考訳(メタデータ) (2024-01-10T14:38:46Z) - Confidence-Based Model Selection: When to Take Shortcuts for
Subpopulation Shifts [119.22672589020394]
モデル信頼度がモデル選択を効果的に導くことができるConfidence-based Model Selection (CosMoS)を提案する。
我々はCosMoSを,データ分散シフトのレベルが異なる複数のテストセットを持つ4つのデータセットで評価した。
論文 参考訳(メタデータ) (2023-06-19T18:48:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。