論文の概要: Tree of Thoughts as a Classical Heuristic Search Problem: Formal Foundations and Design Patterns
- arxiv url: http://arxiv.org/abs/2605.28566v1
- Date: Wed, 27 May 2026 14:54:48 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-28 17:38:56.131512
- Title: Tree of Thoughts as a Classical Heuristic Search Problem: Formal Foundations and Design Patterns
- Title(参考訳): 古典的ヒューリスティック検索問題としての思考の木--形式的基礎とデザインパターン
- Authors: Guni Sharon,
- Abstract要約: 大きな言語モデル(LLM)は、顕著な推論能力を示している。
Tree-of-Thoughts (ToT)フレームワークは中間推論ステップ上の検索スペースを生成する。
古典的な検索用語に基づく統合分類法により,ToTの景観を合成する。
- 参考スコア(独自算出の注目度): 6.22368977258382
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large Language Models (LLMs) have demonstrated remarkable reasoning capabilities, yet their standard generation process -- auto-regressive token prediction -- is inherently myopic and prone to cascading errors. To address this, the Tree-of-Thoughts (ToT) framework creates a search space over intermediate reasoning steps, allowing search models to explore, look ahead, and backtrack. However, current ToT research remains fragmented across Natural Language Processing and Automated Planning communities, often using inconsistent terminology and ad-hoc implementations. Consequently, we synthesize the ToT landscape through a unified taxonomy based on classical heuristic search terminology. We map LLM-based reasoning to classical search components: state representation (granularity of thoughts), successor generation (prompting operators), and heuristic evaluation (self-assessment of progress). We analyze existing work within the context of our taxonomy and identify emerging design patterns: systematic search (Best-First Search) for shallow, deterministic tasks and lookahead-heavy strategies (DFS, MCTS) for deep multi-step reasoning. We conclude by identifying open algorithmic challenges at the intersection of heuristic search and LLM reasoning, and call on the heuristic search community to engage with this emerging domain.
- Abstract(参考訳): 大きな言語モデル(LLM)は目覚ましい推論能力を示しているが、その標準的な生成プロセスである自動回帰トークン予測は本質的にミオピックであり、エラーをカスケードする傾向がある。
これを解決するために、Tree-of-Thoughts (ToT)フレームワークは、中間的推論ステップを越えて検索スペースを作成し、検索モデルを探索、前方、後方追跡を可能にする。
しかし、現在のToT研究は自然言語処理と自動計画コミュニティで断片化され、しばしば矛盾する用語やアドホックな実装を用いている。
そこで本研究では,古典的ヒューリスティック検索用語に基づく統合分類法により,ToTの景観を合成する。
LLMに基づく推論を、状態表現(思考の粒度)、後継生成(プロンプティング演算子)、ヒューリスティック評価(進歩の自己評価)といった古典的な探索成分にマッピングする。
分類学の文脈における既存の作業を分析し、浅い決定論的タスクのための体系的検索(ベストファーストサーチ)と深い多段階推論のためのルックアヘッド・ヘビー戦略(DFS, MCTS)を同定する。
我々は、ヒューリスティック検索とLLM推論の交差点におけるオープンアルゴリズムの課題を特定し、ヒューリスティック検索コミュニティにこの新興ドメインへの関与を呼びかける。
関連論文リスト
- TSLM: Tree-Structured Language Modeling for Divergent Thinking [32.89058911018328]
木構造言語モデリング(TSLM)を導入し,特殊なトークンを用いて分岐構造を符号化する。
TSLMは、共有プレフィックスの冗長な再計算なしに、体系的な探索を内部化することを学ぶ。
結果は、堅牢な推論のための推論時間スケーリングの新しいパラダイムを示唆している。
論文 参考訳(メタデータ) (2026-01-30T08:04:59Z) - Unifying Tree Search Algorithm and Reward Design for LLM Reasoning: A Survey [92.71325249013535]
線形木探索はLarge Language Model (LLM) 研究の基盤となっている。
本稿では,検索アルゴリズムを3つのコアコンポーネントに分解する統合フレームワークを提案する。
論文 参考訳(メタデータ) (2025-10-11T03:29:18Z) - Inference-time Scaling of Diffusion Models through Classical Search [90.77272206228946]
本稿では,局所的およびグローバルな探索を編成し,生成空間を効率的にナビゲートする汎用フレームワークを提案する。
我々は,計画,オフライン強化学習,画像生成など,さまざまな課題領域に対するアプローチを評価した。
これらの結果は,古典探索が拡散モデルにおける推論時間スケーリングの原理的かつ実践的な基礎を提供することを示している。
論文 参考訳(メタデータ) (2025-05-29T16:22:40Z) - Policy Guided Tree Search for Enhanced LLM Reasoning [3.090041654375235]
Policy-Guided Tree Search (PGTS)は、強化学習と構造化木探索を組み合わせて推論経路を効率的にナビゲートするフレームワークである。
私たちの重要なイノベーションは、手作業や徹底的な検索の必要性をなくし、拡大、分岐、追跡、探索の終了を動的に決定する、学習されたポリシーです。
論文 参考訳(メタデータ) (2025-02-04T22:08:20Z) - Enhancing LLM Reasoning with Reward-guided Tree Search [95.06503095273395]
o1のような推論アプローチは困難で、研究者はこのオープンな研究領域を前進させようとさまざまな試みを行ってきた。
本稿では,報酬誘導木探索アルゴリズムを用いて,LLMの推論能力を高めるための予備的な検討を行う。
論文 参考訳(メタデータ) (2024-11-18T16:15:17Z) - Large Search Model: Redefining Search Stack in the Era of LLMs [63.503320030117145]
我々は,1つの大言語モデル(LLM)で検索タスクを統一することにより,従来の検索スタックを再定義する,大規模検索モデルと呼ばれる新しい概念的フレームワークを導入する。
全てのタスクは自動回帰テキスト生成問題として定式化され、自然言語のプロンプトを使ってタスクをカスタマイズできる。
提案フレームワークは,LLMの強力な言語理解と推論能力を活用し,既存の検索スタックを簡素化しつつ,検索結果の質を向上させる能力を提供する。
論文 参考訳(メタデータ) (2023-10-23T05:52:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。