論文の概要: STEP: Soft Trajectory Estimation of Prediction Correctness via Per-Step Probability Scoring

• arxiv url: http://arxiv.org/abs/2610.34537v1
• Date: Sun, 25 Oct 2026 19:57:59 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 22:27:13.631646
• Title: STEP: Soft Trajectory Estimation of Prediction Correctness via Per-Step Probability Scoring
• Title（参考訳）: STEP: ステップごとの確率スコアによる予測精度のソフト軌道推定
• Abstract要約: 大規模言語モデル (LLM) 予測の真理にアクセスせずに正しさを推定することは,高精度な設定で信頼性の高い展開を実現する上で重要である。 提案するSTEP(Soft Trajectory Estimation of Prediction correctness)は,各推論ステップを軽量フォワードパスでスコアリングし,候補解に対するソフト確率分布qiを求める学習自由度フレームワークである。
• 参考スコア（独自算出の注目度）: 8.465105365577356
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Estimating the correctness of large language model (LLM) predictions without access to ground truth is critical for reliable deployment in high-stakes settings. Existing approaches, such as entropy and perplexity, operate solely on final output statistics, discarding the rich information encoded in intermediate reasoning steps. To address this limitation, we propose STEP (Soft Trajectory Estimation of Prediction correctness), a training-free framework that scores each reasoning step via lightweight forward passes to obtain a soft probability distribution qi over candidate answers, from which we derive a set of soft trajectory features capturing per-step confidence and its progression toward the final answer. Extensive experiments on various benchmarks demonstrate consistent and substantial improvements, particularly in AUROC, over output-based baselines and hard-indicator trajectory methods. Notably, Temporally-Weighted Consistency, which assigns higher importance to later reasoning steps where answer distributions have stabilized, contributes the largest gains, highlighting the importance of temporal structure in reasoning trajectories. These results further validate the advantage of preserving continuous probability signals over binary discretization.
• Abstract（参考訳）: 大規模言語モデル (LLM) 予測の正確性を評価することは, 高精度な環境下での信頼性の高い展開には不可欠である。 エントロピーやパープレキシティといった既存のアプローチは、中間推論ステップで符号化されたリッチな情報を破棄し、最終的な出力統計のみを運用する。 この制限に対処するため,STEP(Soft Trajectory Estimation of Prediction correctness)を提案する。STEP(Soft Trajectory Estimation of Prediction correctness)は,各推論ステップをライトウェイトフォワードパスでスコアし,候補解に対するソフト確率分布qiを求める。 様々なベンチマークに関する大規模な実験は、特にAUROCにおいて、出力ベースラインやハードインジケータの軌道法よりも、一貫性と実質的な改善を示している。 特に、応答分布が安定化した後の推論ステップにより高い重要性を割り当てる時間的重み付き一貫性は、軌道の推論における時間的構造の重要性を強調し、最大のゲインに寄与する。 これらの結果は、二項離散化よりも連続確率信号を保存する利点を更に検証する。

関連論文リスト

• Model-based Bootstrap for Offline Policy Evaluation in Tabular Reinforcement Learning [11.353442164586932]
  オフライン政策評価(OPE)は,高スループット強化学習アプリケーションにおいて重要である。 しかし、既存のアプローチは、しばしば限られた堅牢性、スケーラビリティ、あるいは有限サンプルの妥当性に悩まされる。 有限水平・時間不均質マルコフ決定過程におけるOPEの不確実性定量化のためのモデルベースブートストラップフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-09-17T13:41:29Z)
• Distribution-Agnostic Robust Trajectory Optimization via Chance-Constrained Reinforcement Learning [0.0]
  本稿では,確率制約付き強化学習に基づく分布に依存しない頑健な軌道最適化フレームワークを提案する。 このフレームワークは、2つの実質的な異なる軌道設計問題に基づいて評価される。
  論文  参考訳（メタデータ） (2026-06-11T17:22:05Z)
• Asymptotically Log-Optimal Bayes-Assisted Confidence Sequences for Bounded Means [0.0]
  ベイズ型動作予測モデルを用いて信頼性シーケンスを適応的に構築するベイズ支援フレームワークを提案する。 LLM評価のための合成データ、シーケンシャルベストアーム識別、および予測駆動推論の実験により、情報的事前は信頼性シーケンス幅とサンプリングの労力を大幅に削減できることが示された。
  論文  参考訳（メタデータ） (2026-05-08T16:27:50Z)
• Stabilizing Efficient Reasoning with Step-Level Advantage Selection [54.563811052329235]
  我々は,長さを意識しない標準のGRPOを用いて,短文のポストトレーニング単独で,すでにかなりの推理圧縮を誘導していることを示す。 そこで本稿では, 適切なロールアウトにおける低信頼度ステップと, 検証済みロールアウトにおける高信頼度ステップにゼロアドバンテージを割り当てるステップレベルアドバンテージ選択(SAS)を提案する。
  論文  参考訳（メタデータ） (2026-04-27T03:34:59Z)
• ELLIPSE: Evidential Learning for Robust Waypoints and Uncertainties [15.18822929289763]
  出力ウェイポイントと多変量学習者t予測分布を1つの前方パスで推定する手法であるtextitELLIPSE を提案する。 専門家の軌道付近での摂動を呈する視点下でのコシフトによる過信を低減するため,我々は軽量な領域拡張手順を導入する。 textitELLIPSEはタスク成功率と不確実性の両方をベースラインと比較して改善することを示す。
  論文  参考訳（メタデータ） (2026-03-04T20:29:19Z)
• Towards Anytime-Valid Statistical Watermarking [63.02116925616554]
  我々は、任意の時間価推論で最適なサンプリングを統一する、最初のe-value-based watermarking frameworkであるAnchored E-Watermarkingを開発した。 本フレームワークはサンプル効率を大幅に向上させ,最先端のベースラインに対して,検出に必要な平均トークン予算を13～15%削減する。
  論文  参考訳（メタデータ） (2026-02-19T18:32:26Z)
• Efficient Thought Space Exploration through Strategic Intervention [54.35208611253168]
  本稿では,この知見を2つの相乗的コンポーネントを通して操作するHint-Practice Reasoning(HPR)フレームワークを提案する。 フレームワークの中核となる革新は、動的に介入点を識別する分散不整合低減(DIR)である。 算術的および常識的推論ベンチマークによる実験は、HPRの最先端の効率-精度トレードオフを実証している。
  論文  参考訳（メタデータ） (2025-11-13T07:26:01Z)
• ResAD: Normalized Residual Trajectory Modeling for End-to-End Autonomous Driving [64.42138266293202]
  ResADは正規化された残留軌道モデリングフレームワークである。 学習タスクを再編成し、慣性参照からの残留偏差を予測する。 NAVSIMベンチマークでは、ResADはバニラ拡散ポリシーを用いて最先端のPDMS 88.6を達成している。
  論文  参考訳（メタデータ） (2025-10-09T17:59:36Z)
• ConCISE: Confidence-guided Compression in Step-by-step Efficient Reasoning [64.93140713419561]
  大型推論モデル (LRM) は、Chain-of-Thought (CoT) による複雑な推論タスクで強く機能するが、しばしば冗長な出力に悩まされる。 既存の微調整ベースの圧縮手法は、ポストホックプルーニングを動作させるか、コヒーレンスを推論する破壊を危険にさらすか、サンプリングベースの選択に依存するかのいずれかである。 ConCISEは、簡潔な推論連鎖を生成するために設計されたフレームワークであり、信頼注入を統合して推論の信頼性を高める。
  論文  参考訳（メタデータ） (2025-05-08T01:40:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。