論文の概要: Test-Time Scaling in Reasoning LLMs: Inference Regimes, Evaluation, and Reproducibility
- arxiv url: http://arxiv.org/abs/2608.04001v1
- Date: Tue, 04 Aug 2026 17:57:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-05 15:30:23.305359
- Title: Test-Time Scaling in Reasoning LLMs: Inference Regimes, Evaluation, and Reproducibility
- Title(参考訳): LLMにおけるテスト時間スケーリング:推論規則,評価,再現性
- Abstract要約: 3つの軸に沿ってテスト時間スケーリングを体系的に記述する。
まず、自動回帰モデルの暗黙の接頭辞木に対する予算付き推論としてテスト時間スケーリングを定式化する。
次に,評価対象を全体推論システムとして扱う。
- 参考スコア(独自算出の注目度): 7.838210213616623
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language models can solve substantially harder reasoning problems with more inference-time compute. The term "test-time scaling," however, now covers diverse inference algorithms that extend deliberation along a single trajectory, sample completed candidates and aggregate them through voting or verification, or search over unfinished partial states. These algorithms differ in their statistical structure, compute accounting, and failure modes. Treating these procedures as interchangeable under a single scalar "budget," or reporting accuracy without the inference protocol that produced it, makes results difficult to compare across studies. We develop a systematic account of test-time scaling along three axes. First, we formalize test-time scaling as budgeted inference over the implicit prefix tree of an autoregressive model and distinguish three structural regimes: single-trajectory sequential scaling, leaf-level scaling with terminal reduction, and prefix-level scaling. Second, we treat the evaluated object as the entire inference system and develop evaluation principles that separate end-to-end system performance from candidate-bank diagnostics. We introduce an evaluation profile whose coordinates and simple functionals recover or bound common repeated-sampling metrics, and prescribe protocol-matched reporting of compute and uncertainty. Third, we specify reproducibility requirements for inference protocols, distinguishing exact replay from distributional reproducibility and identifying the artifacts needed to support each. We also organize the open-weight reasoning ecosystem by model-side and interface mechanisms, apply these principles to broad-knowledge, symbolic-reasoning, and competition-mathematics benchmarks, and assemble over 2 billion full reasoning traces for release with progressively richer verifier and token-level signals.
- Abstract(参考訳): 大規模言語モデルは、より推論時間の計算でかなり難しい推論問題を解くことができる。
しかし、"テストタイムスケーリング"という用語は、単一の軌道に沿って議論を拡張し、候補をサンプル化し、投票や検証、未完成の部分状態の探索を通じてそれらを集約する様々な推論アルゴリズムをカバーしている。
これらのアルゴリズムは、統計構造、計算会計、故障モードが異なる。
これらの手順を単一のスカラー「予算」の下で交換可能であるとして扱うことや、それを生成した推論プロトコルを使わずに精度を報告することは、研究全体で結果を比較するのを困難にしている。
3つの軸に沿ってテスト時間スケーリングを体系的に記述する。
まず、自己回帰モデルの暗黙のプレフィックスツリーに対する予算付き推論としてテスト時間スケーリングを定式化し、単軌道シーケンシャルスケーリング、終端縮小を伴うリーフレベルのスケーリング、プレフィックスレベルのスケーリングの3つの構造的機構を区別する。
第2に、評価対象を全体推論システムとして扱い、候補バンク診断からエンドツーエンドシステム性能を分離する評価原理を開発する。
本稿では、座標と単純な関数が共通の繰り返しサンプリングメトリクスを回復または束縛する評価プロファイルを導入し、計算と不確実性のプロトコルマッチングレポートを規定する。
第三に、推論プロトコルの再現性要件を定義し、分散再現性から正確な再生を区別し、それぞれをサポートするために必要なアーティファクトを特定する。
また、モデル側およびインターフェース機構によってオープンウェイト推論エコシステムを組織し、これらの原則を広義の知識、シンボリック推論、競争数学のベンチマークに適用し、よりリッチな検証とトークンレベルの信号でリリースのための20億以上の完全な推論トレースを組み立てます。
関連論文リスト
- When LLM Meets Tree Search: A Systematic View of Inference as Search in Large Language Models [92.71325249013535]
テスト時間スケーリング(TTS)は、推論時間計算を固定モデルに割り当てることで推論を改善する重要な方向として登場した。
この調査は、木探索に基づく推論の最近の進歩を体系化し、推論をデコードではなく、インスタンス固有の最適化と見なす。
論文 参考訳(メタデータ) (2026-08-31T07:49:56Z) - MedSegBenchmarker: A Raw-Count-First Framework for Controlled 2D Medical Image Segmentation Benchmarks [1.0230975056328007]
MEDSEGBENCHMARKER(MSB)は,2次元データセットのベンチマーク制御のための構成駆動フレームワークである。
MSBは、評価コンテキストとともに、サンプルレベルおよびクラスレベルの画素数と予測をエクスポートする。
3つの異種2Dデータセットと256画素および512ピクセルの入力解像度で評価された複数の視覚モデルを含むケーススタディでMSBを実証した。
論文 参考訳(メタデータ) (2026-08-30T09:20:38Z) - The RAT: A Unified Bayesian Model for RAG Evaluation [8.650407684623714]
本稿では,検索成功,棄却行動,回答正当性を共同でモデル化するベイズ評価フレームワークを提案する。
フレームワークを3つのデータセット、3つのレトリバー、3つのジェネレータにわたる27のRAG構成に適用する。
我々は、LLM-as-a-judgeアノテーションをキャリブレーションされたノイズ観測として組み込むようモデルを拡張した。
論文 参考訳(メタデータ) (2026-08-25T15:54:30Z) - Intent-Level Quantum Programming with Assertion-Guided Execution and Inspectable Intermediate Representation [0.22183164865527472]
量子ドメイン固有言語(Q)は3つのメカニズムを通して問題に対処する。
第1級IRイントロスペクション、回路幅の露光、ワイヤマッピング、操作順序、および実行前の開発者検査のための測定意図。
アサーション誘導モード推論では、エンジンが宣言された検証プロパティを調べて、サンプリング、ステートベクタ、デュアル実行を自動的に選択する。
論文 参考訳(メタデータ) (2026-07-31T18:21:32Z) - Forethought: Verifiable Reasoning from Neurosymbolic Primitive Programming [0.764671395172401]
Forethoughtは、推論を明示的で検証可能なプログラムとして扱う神経象徴的推論システムである。
ベースモデルの精度を約30%向上し、バニラのプロンプト、強化学習足場、即時進化法に勝る。
論文 参考訳(メタデータ) (2026-07-05T03:20:23Z) - Scaling Test-Time Compute for Agentic Coding [126.72747643609274]
本稿では,ロールアウト軌跡のコンパクトな表現に基づくエージェントコーディングのためのテスト時間スケーリングフレームワークを提案する。
当社のフレームワークは,各ロールアウトを,その健全な仮説,進捗,障害モードを保存する構造的な要約に変換する。
提案手法は,SWE-Bench Verified および Terminal-Bench v2.0 におけるフロンティア符号化エージェントの性能を一貫して改善する。
論文 参考訳(メタデータ) (2026-04-16T17:39:33Z) - CausalReasoningBenchmark: A Real-World Benchmark for Disentangled Evaluation of Causal Identification and Estimation [18.187891198793455]
CausalReasoningBenchmarkは、128の現実世界のデータセットにわたる173のクエリのベンチマークである。
因果推論における失敗と数値実行における誤りを区別する。
論文 参考訳(メタデータ) (2026-02-24T05:44:25Z) - A Single Revision Step Improves Token-Efficient LLM Reasoning [3.344806691289323]
大規模言語モデルのためのトレーニングフリーで推論のみのフレームワークであるPacket-Conditioned Revision (PACER)を紹介した。
PACERは、推論トレースを使用して、構造化された調整ステップを通じて結論を修正できる。
競争力のある数学のベンチマークでは、PACERは256サンプルの多数決の正確さと一致または超える。
論文 参考訳(メタデータ) (2026-02-02T21:28:42Z) - Accelerate Speculative Decoding with Sparse Computation in Verification [49.74839681322316]
投機的復号化は、複数のドラフトトークンを並列に検証することにより、自動回帰言語モデル推論を加速する。
既存のスペーシフィケーション方式は主にトークン・バイ・トーケンの自己回帰復号化のために設計されている。
そこで本研究では,注目度,FFN,MoEを両立させるスパース検証フレームワークを提案する。
論文 参考訳(メタデータ) (2025-12-26T07:53:41Z) - Adaptive Test-Time Reasoning via Reward-Guided Dual-Phase Search [62.1546099504045]
本稿では、推論を計画と実行に分離する二相テストタイムスケーリングフレームワークを提案する。
具体的には、推論軌跡を分解し、各フェーズの報酬モデルを構築し、探索者が個別に計画と実行を探索、実行できるようにする。
数学的推論とコード生成ベンチマークの両方の実験により、我々の手法は計算の冗長性を低減しつつ、常に精度を向上することを示した。
論文 参考訳(メタデータ) (2025-09-29T19:27:23Z) - seqBench: A Tunable Benchmark to Quantify Sequential Reasoning Limits of LLMs [1.0519693622157462]
我々は,Large Language Models (LLMs) における逐次推論限界を探索するベンチマークであるseqBenchを紹介する。
検索の複雑さが最小限であるにもかかわらず、セクベンチの構造的推論タスクでは、トップパフォーマンスモデルでさえ体系的に失敗することがわかった。
論文 参考訳(メタデータ) (2025-09-21T01:32:13Z) - CompassVerifier: A Unified and Robust Verifier for LLMs Evaluation and Outcome Reward [50.97588334916863]
評価と結果報酬のための正確で堅牢な軽量検証モデルであるCompassVerifierを開発した。
数学、知識、多種多様な推論タスクにまたがる多分野の能力を示し、様々な答えの型を処理する能力を示す。
我々は,複数のデータソースから収集したモデル出力からなるVerifierBenchベンチマークを導入し,メタエラーパターンを手動で解析してCompassVerifierを強化する。
論文 参考訳(メタデータ) (2025-08-05T17:55:24Z) - Variable Importance Matching for Causal Inference [73.25504313552516]
これらの目標を達成するためのModel-to-Matchと呼ばれる一般的なフレームワークについて説明する。
Model-to-Matchは、距離メートル法を構築するために変数重要度測定を使用する。
LASSO を用いて Model-to-Match フレームワークを運用する。
論文 参考訳(メタデータ) (2023-02-23T00:43:03Z) - Tractable Inference in Credal Sentential Decision Diagrams [116.6516175350871]
確率感性決定図は、解離ゲートの入力が確率値によってアノテートされる論理回路である。
我々は、局所確率を質量関数のクレーダル集合に置き換えることができる確率の一般化である、クレーダル感性決定図を開発する。
まず,ノイズの多い7セグメント表示画像に基づく簡単なアプリケーションについて検討する。
論文 参考訳(メタデータ) (2020-08-19T16:04:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。