論文の概要: From Candidate Tokens to Final Outcomes: Decoding Relative Long-Horizon Candidate Value from Reasoning Model Representations

• arxiv url: http://arxiv.org/abs/2610.15412v1
• Date: Sun, 11 Oct 2026 07:28:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-20 01:17:27.96761
• Title: From Candidate Tokens to Final Outcomes: Decoding Relative Long-Horizon Candidate Value from Reasoning Model Representations
• Title（参考訳）: 候補トークンから最終結果へ:推論モデル表現から相対的長軸候補値を復号する
• Abstract要約: 本研究は, 有望な次点候補と, その経験的長軸候補値との差が内部表現に反映されているかどうかを考察する。 Reasoning Candidate-Token Value データセットを用いて、隠れ状態、多層パーセプトロン出力、および疎線形プローブを用いた候補位置での注意出力を調べた。 本研究は, 内部表現が相対的長軸推定値に関する情報を符号化し, 局所的候補レベル表現が長軸推論結果とどのように関連しているかを洞察する証拠を提供する。
• 参考スコア（独自算出の注目度）: 62.80808803502441
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large reasoning models generate reasoning trajectories token by token. At a given prefix, multiple next-token candidates may be plausible, yet shape subsequent reasoning and differ in their chances of leading to the correct answer. Whether these differences are reflected in internal representations remains unclear. To study this question, we define relative long-horizon candidate value to quantify within-prefix differences and construct the Reasoning Candidate-Token Value (RCTV) dataset, pairing mathematical reasoning prefixes with plausible next-token candidates and their empirical long-horizon candidate values. Using RCTV, we examine hidden states, multilayer perceptron outputs, and attention outputs at candidate positions with sparse linear probes. Experimental results provide evidence that relative long-horizon candidate value is linearly decodable from these representations at multiple layers. Candidate-value probes can also outperform probability- and embedding-based baselines. Furthermore, a controlled online intervention experiment shows that using the decoded signals to guide token selection during generation can improve the chances of eventual success. Our findings provide evidence that internal representations encode information about relative long-horizon candidate value, offering insights into how local candidate-level representations relate to long-horizon reasoning outcomes.
• Abstract（参考訳）: 大きな推論モデルは、トークンごとに推論トラジェクトリトークンを生成する。 特定の接頭辞では、複数の次候補が妥当であるが、その後の推論を形作っており、正しい答えにつながる確率が異なる。 これらの違いが内部表現に反映されているかどうかは不明である。 そこで,本研究では,相対的な長軸候補値を定義し,その差分を定量化し,推論候補値(Reasoning Candidate-Token Value,RCTV)データセットを構築する。 RCTVを用いて、隠れ状態、多層パーセプトロン出力、および疎線形プローブを用いた候補位置における注意出力について検討した。 実験により, 相対長軸候補値が複数の層におけるこれらの表現から線形にデオード可能であることを示す。 候補値プローブは確率と埋め込みに基づくベースラインよりも優れている。 さらに、制御されたオンライン介入実験により、デコードされた信号を用いて生成中のトークン選択を誘導することで、最終的な成功の可能性を向上させることが示されている。 本研究は, 内部表現が相対的長軸推定値に関する情報を符号化し, 局所的候補レベル表現が長軸推論結果とどのように関連しているかを洞察する証拠を提供する。

関連論文リスト

• Overwhelmed by Choice: Studying LLM Decision Making at Scale [70.45144023754595]
  候補数の増加に伴い,複数選択および候補選択の評価を体系的に評価した。 タスク間での相当な精度劣化、戦略の推進、モデルスケールが見られます。 階層分割と置換に基づく推論は、HotpotQAとMIMICで約20パーセントの精度をN=160$で向上する。
  論文  参考訳（メタデータ） (2026-09-26T17:33:04Z)
• Long-Tail Crisis in Nearest Neighbor Language Models [28.842830134043183]
  k$NN-LMの成功の仮説は、その明示的な記憶、すなわちデータストアが長い尾現象の予測を強化するというものである。 本稿では,低周波トークンに対する$k$NN-LMの挙動,予測確率,検索精度,データストア内のトークン分布,製品量子化の近似誤差について検討する。
  論文  参考訳（メタデータ） (2025-03-28T13:41:07Z)
• FIRP: Faster LLM inference via future intermediate representation prediction [54.897493351694195]
  FIRPはデコードステップ毎に1つではなく複数のトークンを生成する。 いくつかのモデルとデータセットで1.9x-3xのスピードアップ比を示す広範な実験を行った。
  論文  参考訳（メタデータ） (2024-10-27T15:53:49Z)
• Forward-Backward Reasoning in Large Language Models for Mathematical Verification [65.9495774606273]
  自己整合性(Self-Consistency)は、さまざまな推論チェーンの回答をサンプリングし、多数決によって最終回答を選択する。 候補解の検証に後方推論を導入する。 検証のための FOrward と BAckward Reasoning は最先端の性能を達成する。
  論文  参考訳（メタデータ） (2023-08-15T13:19:59Z)
• Candidate Set Re-ranking for Composed Image Retrieval with Dual Multi-modal Encoder [45.60134971181856]
  合成画像検索は、参照画像とテキストペアからなる所定のマルチモーダルユーザクエリに最もよく一致する画像を見つけることを目的としている。 既存の方法では、コーパス全体へのイメージ埋め込みをプリコンプリートし、これらを、テスト時にクエリテキストによって修正された参照イメージ埋め込みと比較する。 両スキームの利点を2段階モデルで組み合わせることを提案する。
  論文  参考訳（メタデータ） (2023-05-25T17:56:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。