論文の概要: When LLM Meets Tree Search: A Systematic View of Inference as Search in Large Language Models
- arxiv url: http://arxiv.org/abs/2608.30395v1
- Date: Mon, 31 Aug 2026 07:49:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-01 18:31:31.29481
- Title: When LLM Meets Tree Search: A Systematic View of Inference as Search in Large Language Models
- Title(参考訳): LLMが木探索と出会うとき:大規模言語モデルにおける推論の体系的視点
- Abstract要約: テスト時間スケーリング(TTS)は、推論時間計算を固定モデルに割り当てることで推論を改善する重要な方向として登場した。
この調査は、木探索に基づく推論の最近の進歩を体系化し、推論をデコードではなく、インスタンス固有の最適化と見なす。
- 参考スコア(独自算出の注目度): 92.71325249013535
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: As pretraining scaling laws approach saturation, Test-Time Scaling (TTS) has emerged as an important direction for improving reasoning by allocating inference-time compute to a fixed model prior. Viewed at a high level, TTS reframes inference as search over a space of partial reasoning states. While Chain-of-Thought (CoT) exposes intermediate steps, common instantiations rely on single-trajectory decoding, limiting recovery from early errors and exploration. This survey systematizes recent progress in tree-search-based reasoning, viewing inference as instance-specific optimization rather than decoding. We trace the evolution from uninformed search to Monte Carlo Tree Search (MCTS), highlighting how sampling-based control supports principled exploration-exploitation trade-offs. To unify a fragmented literature, we introduce a Unified Design Space spanning search topology, evaluation signals, and control dynamics, and advocate a standardized compute-reporting abstraction to make compute-accuracy trade-offs explicit and comparable.
- Abstract(参考訳): 事前のスケーリング法則が飽和に近づくにつれて、テスト時間スケーリング(TTS)は推論時間計算を固定モデルに割り当てることで推論を改善する重要な方向として現れてきた。
高いレベルで見れば、TSは推論を部分的推論状態の空間上の探索として再設定する。
Chain-of-Thought(CoT)は中間ステップを公開するが、一般的なインスタンス化は単一軌道デコードに依存し、早期エラーや探索からの回復を制限する。
この調査は、木探索に基づく推論の最近の進歩を体系化し、推論をデコードではなく、インスタンス固有の最適化と見なす。
非インフォーム検索からモンテカルロ木探索(MCTS)への進化を辿り、サンプリングベースの制御が探索・探索の原則的トレードオフをどのようにサポートするかを強調した。
断片化された文献を統一するために,探索トポロジ,評価信号,制御ダイナミクスにまたがる統一設計空間を導入し,計算精度のトレードオフを明確かつ同等にするための標準化された計算レポート抽象化を提唱する。
関連論文リスト
- Test-Time Scaling in Reasoning LLMs: Inference Regimes, Evaluation, and Reproducibility [7.838210213616623]
3つの軸に沿ってテスト時間スケーリングを体系的に記述する。
まず、自動回帰モデルの暗黙の接頭辞木に対する予算付き推論としてテスト時間スケーリングを定式化する。
次に,評価対象を全体推論システムとして扱う。
論文 参考訳(メタデータ) (2026-08-04T17:57:20Z) - Aligning Large Vision-Language Models at Test Time: A Trajectory-Guided Structured Sampling Approach [26.437913669133874]
訓練後の強化学習アルゴリズムは、視覚言語モデルと人間の意図を合わせるために一般的に使用される。
既存のRLベースのアライメント手法は、しばしばリソース集約的であり、トレーニング目標と推論時間分布のミスマッチに遭遇する。
動的推論時間改善のための軌道誘導型構造化サンプリングを利用する新しいテスト時間アライメント手法を提案する。
論文 参考訳(メタデータ) (2026-08-04T06:47:08Z) - TELLER: Non-intrusive Cross-Layer Root-Cause Analysis for LLM Inference [47.62941623025392]
本稿では,非侵入的でログ対応なLLM推論フレームワークであるTELLERについて紹介する。
TELLERはモデルバイナリを変更することなく、NVTX/CUPTIトレースとサービスログを収集する。
リクエスト毎のコールチェーンツリーを再構築し、ログ行と対応する実行ステップをアライメントする。
これらの表現に加えて、TELLERは数値的候補のローカライゼーションとマルチモーダルな根起因モデルを組み合わせる。
論文 参考訳(メタデータ) (2026-08-03T09:39:11Z) - When Does In-Context Search Help? A Sampling-Complexity Theory of Reflection-Driven Reasoning [9.841011897729338]
拡張推論による大規模言語モデル(LLM)のトレーニングにより、コンテキスト内検索が可能になった。
本研究では、推論トレースに対する近似推論としてモデル化することで、非コンテキスト探索の理論解析を行う。
リフレクションが早期の誤りを確実に局所化すると、非コンテキスト検索はベースモデルよりも指数関数的に改善できることを示す。
論文 参考訳(メタデータ) (2026-07-07T18:36:04Z) - Beyond Semantic Similarity: Rethinking Retrieval for Agentic Search via Direct Corpus Interaction [127.64173950476702]
エージェントが直接、汎用端末ツールを用いて、生コーパスを直接検索する直接コーパス間相互作用(DCI)について検討する。
このアプローチではオフラインインデックスを必要とせず、ローカルコーパスの進化に自然に適応する。
IRベンチマークとエンドツーエンドのエージェント検索タスク全体にわたって、この単純なセットアップは、強いスパース、密度、リランクベースラインよりも大幅に優れています。
論文 参考訳(メタデータ) (2026-05-03T19:13:11Z) - VAR: Visual Attention Reasoning via Structured Search and Backtracking [49.427842994857635]
構造化された検索としてグラウンドド推論をリキャストするフレームワークであるVisual Attention Reasoningを紹介する。
VARは、推論プロセスを2つの重要な段階に分解する。
我々は、我々の7BモデルであるVAR-7Bが、幻覚と安全性のベンチマークの包括的なスイートに新しい最先端を設定していることを示します。
論文 参考訳(メタデータ) (2025-10-21T13:18:44Z) - Unifying Tree Search Algorithm and Reward Design for LLM Reasoning: A Survey [92.71325249013535]
線形木探索はLarge Language Model (LLM) 研究の基盤となっている。
本稿では,検索アルゴリズムを3つのコアコンポーネントに分解する統合フレームワークを提案する。
論文 参考訳(メタデータ) (2025-10-11T03:29:18Z) - Implicit Reasoning in Large Language Models: A Comprehensive Survey [67.53966514728383]
大規模言語モデル(LLM)は、幅広いタスクにまたがる強力な一般化を実証している。
最近の研究は、暗黙の推論に拍車をかけた、明示的な思考の連鎖から注意を向けている。
本調査では,表現形式から計算戦略へ焦点を移し,実行パラダイムを中心とした分類を紹介した。
論文 参考訳(メタデータ) (2025-09-02T14:16:02Z) - Test-time Prompt Intervention [22.35022545068874]
テストタイム・プロンプト・インターベンションのための新しいフレームワークであるPIを提案する。
PIは推論中の推論パスを動的にガイドし、規制するインターフェースを提供する。
これにより、人間の問題解決の専門知識と認知科学の原則がLLMの推論プロセスにシームレスに統合される。
論文 参考訳(メタデータ) (2025-08-04T15:17:13Z) - MCTS-RAG: Enhancing Retrieval-Augmented Generation with Monte Carlo Tree Search [61.11836311160951]
本稿では,知識集約型タスクにおける小言語モデルの推論能力を高める新しいアプローチであるMCTS-RAGを紹介する。
通常、推論から独立して情報を取得する標準的なRAG法とは異なり、MCTS-RAGは構造化推論と適応的検索を組み合わせる。
この統合されたアプローチは意思決定を強化し、幻覚を減らし、事実の正確性と応答の整合性を向上させる。
論文 参考訳(メタデータ) (2025-03-26T17:46:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。