論文の概要: StepBack: Step-Level Error-Localized Resampling for Efficient Test-Time Reasoning

• arxiv url: http://arxiv.org/abs/2611.08403v1
• Date: Thu, 05 Nov 2026 18:12:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-07 04:55:13.613498
• Title: StepBack: Step-Level Error-Localized Resampling for Efficient Test-Time Reasoning
• Title（参考訳）: StepBack: 効率的なテスト時間推論のためのステップレベルエラーローカライズされたリサンプリング
• Abstract要約: 自己整合性(Self-Consistency, SC)は、思考の連鎖推論を改善するためのデコード戦略として広く用いられている。 本稿では,効率的なテスト時間推論のためのステップレベルのエラー局所化再サンプリング手法であるStepBackを提案する。
• 参考スコア（独自算出の注目度）: 12.216502040341231
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Self-consistency (SC) is a widely used decoding strategy for improving chain-of-thought reasoning, but it requires sampling many complete reasoning trajectories with a preset budget. Its efficient variants reduce the cost mainly by stopping full-trajectory sampling early or distributing the number of samples across questions. In this paper, we propose StepBack, a step-level error-localized resampling method for efficient test-time reasoning. Given a small set of draft trajectories, StepBack localizes likely first error positions using lightweight signals and then resamples the detected error step and its suffix, followed by majority answer voting. Empirically, StepBack matches the accuracy of SC on average across seven mathematical reasoning and multi-hop QA benchmarks, while reducing token usage by up to 41.26%. In addition, by nature, StepBack can be combined with adaptive inference methods such as Adaptive Consistency, further improving their inference-time efficiency.
• Abstract（参考訳）: 自己整合性(英: Self-Consistency, SC)は、連鎖推論を改善するために広く使われている復号法である。 その効率的な変種は、主に全軌道サンプリングを早期に停止するか、質問にまたがるサンプルの数を分散することによってコストを削減する。 本稿では,効率的なテスト時間推論のためのステップレベルのエラー局所化再サンプリング手法であるStepBackを提案する。 ドラフト行の小さなセットが与えられた後、StepBackは、おそらく最初のエラー位置を軽量な信号を使ってローカライズし、検出されたエラーステップとそのサフィックスを再サンプリングし、続いて多数回答投票を行う。 経験的に、StepBackは7つの数学的推論とマルチホップQAベンチマークで平均してSCの精度と一致し、トークン使用量を最大41.26%削減する。 さらに、本質的には、StepBackとAdaptive Consistencyのような適応型推論メソッドを組み合わせることで、推論時間の効率をさらに向上することができる。

関連論文リスト

• Controlled Decoding Attacks on Black-Box LLMs [68.46062477706256]
  Methodは、繰り返しサンプリングとアシスタント-継続を可能にする、テキストのみの継続インターフェイスを通じてジェイルブレイクを行うためのフレームワークである。 Risk-Gated Residual Controlは、進化する応答プレフィックスを使用して、配布の再構築と修正をいつ行うかを決定する。 Speculative Multi-Token Executionは、介入を必要としないドラフトプレフィックスの検証と受け入れによって、さらにターゲットコールを償却する。
  論文  参考訳（メタデータ） (2026-09-29T07:58:49Z)
• PRO-Step: Step-level Process Reward Optimization for Retrieval-Augmented Generation [2.198430261120653]
  Pro-STEPを導入し、各ステップにおける論理的妥当性と明らかな根拠を評価する生成的PRMを訓練する。 シングルホップとマルチホップのQAデータセットの実験では、PRO-STEPが5つのベンチマークで最高の平均EMとF1を達成することが示された。
  論文  参考訳（メタデータ） (2026-08-31T14:34:10Z)
• REVES: REvision and VErification--Augmented Training for Test-Time Scaling [53.197756110943395]
  本稿では,オンラインデータ/プロンプト拡張とポリシー最適化を交互に行う2段階反復フレームワークを提案する。 我々は、RLベースライン上の+6.5点と、標準マルチターントレーニングにおける+4.0点の利得を観察する。
  論文  参考訳（メタデータ） (2026-06-17T10:37:23Z)
• Efficient Test-Time Inference via Deterministic Exploration of Truncated Decoding Trees [68.04613115686509]
  自己整合性は、複数の推論トレースを並列にサンプリングし、投票することで、推論時間のパフォーマンスを向上させる。 そこで本研究では,切り落された標本を伐採木として扱う決定論的復号法であるDLE(Distinct Leafion)を提案する。 DLEは高品質な推論トレースを調査し、数学、コーディング、一般的な推論タスクのパフォーマンスを向上させる。
  論文  参考訳（メタデータ） (2026-04-22T12:42:03Z)
• Test-Time Scaling with Diffusion Language Models via Reward-Guided Stitching [66.39914384073145]
  本稿では,安価な拡散サンプリング推論をステップレベル候補の再利用プールに変換する自己整合性フレームワークを提案する。 ステップレベルの再結合は、難しい問題に対して最も有益であることがわかった。 トレーニング不要のフレームワークは、6つの数学およびコーディングタスクの平均精度を最大2倍改善します。
  論文  参考訳（メタデータ） (2026-02-26T11:08:39Z)
• Arbitrage: Efficient Reasoning via Advantage-Aware Speculation [71.45710345765528]
  投機的復号化は、高速だが不正確なドラフトモデルを用いて推論を加速し、自動回帰的にトークンを提案する。 しかし、意味論的に等価なステップにおけるトークンミスマッチによる不要な拒絶のため、従来のトークンレベルの投機的デコーディングは、タスクの推論に苦労する。 提案するArbitrageは,ドラフトモデルとターゲットモデルとの相対的優位性に基づいて動的に生成をルーティングする,新しいステップレベルの投機生成フレームワークである。
  論文  参考訳（メタデータ） (2025-12-04T17:50:53Z)
• LATTS: Locally Adaptive Test-Time Scaling [45.37857725357838]
  生成ステップ間で変数計算を割り当てるために,emphLocally Adaptive Test-Time Scaling (LATTS)を提案する。 LATTSは検証者ベースの受け入れ基準を用いて、生成プロセスを再サンプリング、バックトラック、再起動、または停止するかを決定する。 実験結果から, LATTS は標準検証手法と比較して, 高い精度で計算トレードオフを達成できることがわかった。
  論文  参考訳（メタデータ） (2025-09-16T17:51:33Z)
• Reasoning Aware Self-Consistency: Leveraging Reasoning Paths for Efficient LLM Sampling [9.44858963874474]
  自己整合性は、複数の推論経路をサンプリングすることによって、大規模言語モデル(LLM)における幻覚を緩和する。 本稿では、サンプリング効率を高め、忠実性を推論する新しいフレームワークであるReasoning-Aware Self-Consistency (RASC)を紹介する。
  論文  参考訳（メタデータ） (2024-08-30T05:14:59Z)
• Path-Consistency with Prefix Enhancement for Efficient Inference in LLMs [3.6696973040141034]
  path-consistencyは推論遅延を最大40.5%改善し、タスク間のタスク精度を維持している。 実験の結果,経路整合性は,タスク間のタスク精度を維持しつつ,最大40.5%の推論遅延を改善することが示された。
  論文  参考訳（メタデータ） (2024-08-25T01:45:53Z)
• Adaptive Sampling for Best Policy Identification in Markov Decision Processes [79.4957965474334]
  本稿では,学習者が生成モデルにアクセスできる場合の,割引マルコフ決定(MDP)における最良の政治的識別の問題について検討する。 最先端アルゴリズムの利点を論じ、解説する。
  論文  参考訳（メタデータ） (2020-09-28T15:22:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。