論文の概要: Beyond Fixed Budgets: Characterizing the Inelasticity and Limitations of Tree-of-Thought Reasoning Strategies

• arxiv url: http://arxiv.org/abs/2606.20599v1
• Date: Tue, 19 May 2026 09:13:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-28 19:14:16.626675
• Title: Beyond Fixed Budgets: Characterizing the Inelasticity and Limitations of Tree-of-Thought Reasoning Strategies
• Title（参考訳）: 固定予算を超えて--木組み推論の非弾性と限界を特徴づける
• Abstract要約: 本稿では,モンテカルロ木探索に基づくDPTSと,意味的重複に基づくSSDPの2つのToT手法について検討する。 解析の結果,2つの手法は反対方向に引く限界を示すことがわかった。 我々は,科学的推論エージェントを効果的に探索するには,探索の進捗と利用可能な資源に基づいて,それらの行動に適応できる戦略が必要であると論じる。
• 参考スコア（独自算出の注目度）: 0.5599792629509229
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Tree of Thought (ToT) search has become a promising direction for improving the reasoning capabilities of large language models, but deploying these methods in practice raises a question that has received little systematic attention: how do different search strategies behave under varying compute budgets, model sizes, and problem difficulties? In this work, we evaluate two representative ToT methods; DPTS, a Monte Carlo tree search based approach, and SSDP, a semantic deduplication based approach, across two mathematical reasoning benchmarks (Math500 and GSM8K), two model scales (Llama-3B and Llama-8B), and four token budgets (3k--10k). Our analysis reveals that the two methods exhibit limitations that pull in opposite directions. DPTS suffers from a cold-start bottleneck at low budgets: it requires sufficient exploration before its value estimates become reliable, making it a poor fit for resource-constrained settings despite strong scaling behavior at higher budgets. SSDP, on the other hand, reaches candidate solutions efficiently but is prone to frontier depletion; its aggressive node merging permanently discards unexplored paths, leaving it unable to improve regardless of how much budget remains. Together, these findings suggest that neither a fixed exploration strategy nor a fixed pruning strategy is sufficient across compute continuum. We argue that effective search for scientific reasoning agents requires strategies that can adapt their behavior based on search progress and available resources.
• Abstract（参考訳）: Tree of Thought (ToT) 検索は、大規模言語モデルの推論能力を改善する上で有望な方向となっているが、これらの手法を実際に導入することは、体系的な関心がほとんどない問題を引き起こす: 異なる検索戦略は、様々な計算予算、モデルサイズ、問題困難の下でどのように振る舞うのか? 本研究では,モンテカルロ木探索に基づくアプローチであるDPTSと,意味重複に基づくアプローチであるSSDPと,2つの数学的推論ベンチマーク(Math500とGSM8K),2つのモデルスケール(Llama-3BとLlama-8B)と4つのトークン予算(3k--10k)を比較した。 解析の結果,2つの手法は反対方向に引く限界を示すことがわかった。 DPTSは低い予算でコールドスタートのボトルネックに悩まされており、その価値見積が信頼できるようになる前に十分な調査が必要である。 一方、SSDPは効率よく候補解に達するが、フロンティアの枯渇の傾向にあり、その攻撃的ノードは探索されていない経路を永久に破棄し、予算の残量に関係なく改善することができない。 これらの結果から,固定探索戦略も固定採石戦略も計算連続体全体では不十分であることが示唆された。 我々は,科学的推論エージェントを効果的に探索するには,探索の進捗と利用可能な資源に基づいて,それらの行動に適応できる戦略が必要であると論じる。

関連論文リスト

• Nice Fold or Hero Call: Learning Budget-Efficient Thinking for Adaptive Reasoning [9.687158786222994]
  大規模な推論モデル(LRM)は、拡張推論によって問題解決を改善するが、しばしばテスト時間計算を誤って配置する。 我々は,投資コストに配慮した報酬の下で,GRPOと行動開始を組み合わせた2段階の枠組みであるBudget-Efficient Thinking (BET)を提案する。 BETは、全体的なパフォーマンス改善を達成しながら、推論トークンを平均で55%削減する。
  論文  参考訳（メタデータ） (2026-05-12T06:51:31Z)
• Spend Less, Reason Better: Budget-Aware Value Tree Search for LLM Agents [40.18150559561834]
  Budget-Aware Value Tree (BAVT) は、動的検索ツリーとしてマルチホップ推論をモデル化するトレーニングフリーの推論時間フレームワークである。 BAVTは一貫して並列サンプリングベースラインを上回っている。
  論文  参考訳（メタデータ） (2026-03-13T04:10:27Z)
• Deep Dense Exploration for LLM Reinforcement Learning via Pivot-Driven Resampling [13.584783462913535]
  Deep Dense Exploration (DDE) は、$textitpivots$-deep、リカバリ可能な状態を軌道上で探索する戦略である。 我々の手法はGRPOや木に基づく手法、その他の強力なベースラインを一貫して上回ります。
  論文  参考訳（メタデータ） (2026-02-15T14:44:15Z)
• Neural Chain-of-Thought Search: Searching the Optimal Reasoning Path to Enhance Large Language Models [61.55758048622473]
  最適思考戦略の動的探索として推論を再構成するフレームワークであるNeural Chain-of-Thought Search (NCoTS)を導入する。 解空間を定量的に特徴づけることで、標準出力よりも正確かつ簡潔なスパース優良推論経路の存在を明らかにする。
  論文  参考訳（メタデータ） (2026-01-16T14:38:18Z)
• DecoupleSearch: Decouple Planning and Search via Hierarchical Reward Modeling [56.45844907505722]
  二重値モデルを用いて計画と探索プロセスを分離するフレームワークであるDecoupleSearchを提案する。 提案手法は,各ノードが計画と探索のステップを表す推論木を構築する。 推論中、階層的ビームサーチは、計画と探索候補を二重値モデルで反復的に洗練する。
  論文  参考訳（メタデータ） (2025-09-07T13:45:09Z)
• Hierarchical Budget Policy Optimization for Adaptive Reasoning [49.621779447691665]
  階層的予算政策最適化(Hierarchical Budget Policy Optimization, HBPO)は、モデルが問題固有の推論深度を犠牲にすることなく学習できる強化学習フレームワークである。 HBPOは、探索空間を予算制約付き階層(512-2560トークン)に分割する。 大規模な実験により、HBPOは平均トークン使用量を最大60.6%削減し、4つの推論ベンチマークで精度を3.14%改善した。
  論文  参考訳（メタデータ） (2025-07-21T17:52:34Z)
• RBF++: Quantifying and Optimizing Reasoning Boundaries across Measurable and Unmeasurable Capabilities for Chain-of-Thought Reasoning [60.84707424369494]
  CoT(Chain-of-Thought)推論は、複雑なタスクにおける大規模言語モデル(LLM)の強化に有効であることが証明されている。 CoT 機能の計測可能なバウンダリの評価と最適化を行うフレームワークである Reasoning Boundary Framework++ (RBF++) を紹介する。
  論文  参考訳（メタデータ） (2025-05-19T16:25:55Z)
• Adaptive Thinking via Mode Policy Optimization for Social Language Agents [75.3092060637826]
  動的社会的相互作用における言語エージェントの適応的思考能力を改善するための枠組みを提案する。 本フレームワークは,(1)多言語思考モード設計,(2)コンテキスト認識モード切り替え,(3)深度適応処理によるトークン効率推論の3つの重要な側面において,既存の研究を推し進めている。
  論文  参考訳（メタデータ） (2025-05-04T15:39:58Z)
• Policy Guided Tree Search for Enhanced LLM Reasoning [3.090041654375235]
  Policy-Guided Tree Search (PGTS)は、強化学習と構造化木探索を組み合わせて推論経路を効率的にナビゲートするフレームワークである。 私たちの重要なイノベーションは、手作業や徹底的な検索の必要性をなくし、拡大、分岐、追跡、探索の終了を動的に決定する、学習されたポリシーです。
  論文  参考訳（メタデータ） (2025-02-04T22:08:20Z)
• Metareasoning in uncertain environments: a meta-BAMDP framework [1.0923877073891441]
  正しい$P$を見つけることは、推論プロセスの空間上の最適化問題として表すことができる。 本稿では,未知の報酬/遷移分布を持つ環境におけるメタ推論を扱うメタベイズ適応型MDPフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-08-02T13:15:01Z)
• MR-Ben: A Meta-Reasoning Benchmark for Evaluating System-2 Thinking in LLMs [55.20845457594977]
  大規模言語モデル(LLM)は、問題解決と意思決定の能力の向上を示している。 本稿ではメタ推論技術を必要とするプロセスベースのベンチマークMR-Benを提案する。 メタ推論のパラダイムは,システム2のスロー思考に特に適しています。
  論文  参考訳（メタデータ） (2024-06-20T03:50:23Z)
• Scalable Online Exploration via Coverability [45.66375686120087]
  探索は、特に関数近似を必要とする高次元領域において、強化学習において大きな課題である。 従来の探索手法を一般化し,3つの基本デシラタをサポートする新しい目的である$L_Coverageを導入する。 $L_Coverageは、カバー可能性の低いMDPにおけるオンライン(リワードフリーまたは報酬駆動)強化学習のための、最初の計算効率のよいモデルベースおよびモデルフリーのアルゴリズムを可能にする。
  論文  参考訳（メタデータ） (2024-03-11T10:14:06Z)
• Self-Evaluation Guided Beam Search for Reasoning [61.523627290397556]
  我々は,Large Language Model (LLM) の推論プロセスのガイドと校正を行うための段階的自己評価機構を導入する。 本稿では,ビームサーチによる自己評価ガイダンスを統合した復号アルゴリズムを提案する。 我々のアプローチは、GSM8K、AQuA、StrategyQAにおいて、対応するCodexバックボンドベースラインをわずかに精度6.34%、9.56%、および5.46%で上回る。
  論文  参考訳（メタデータ） (2023-05-01T02:37:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。