論文の概要: TreeFlex: Agents Navigating Their Own Search Trees
- arxiv url: http://arxiv.org/abs/2610.20334v1
- Date: Wed, 14 Oct 2026 15:16:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:16.218014
- Title: TreeFlex: Agents Navigating Their Own Search Trees
- Title(参考訳): TreeFlex: 独自の検索ツリーをナビゲートするエージェント
- Abstract要約: TreeFlexは、エージェント自身のポリシーがどこで検索するかを決定するフレームワークである。
我々は、GRPOのツリー対応と共同でナビゲーション、タスクアクション、チェックポイント、提案レビューを訓練する。
TreeFlexは、挑戦的なDeep-Researchベンチマークで48.8%の精度に達し、フラットなReActでは41.5%、FoldAgentでは42.8%に達した。
- 参考スコア(独自算出の注目度): 37.59754705506757
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: A ReAct-style agent accumulates observations, intermediate results, and failed attempts in a single context. As this context grows, stale and off-path information consumes its limited capacity and obscures relevant evidence, making focused reasoning increasingly difficult. We introduce TreeFlex, a framework in which the agent's own policy decides where to search. The agent records each intermediate state, with a short summary, as a node in a search tree maintained by the harness. The policy is a single language model that acts in two roles. In the Reflection role, it has a global view of the tree through these summaries and picks a node to resume, together with an instruction. In the Execution role, the harness restores the path that led to that node, and the model carries out the instruction with the usual task tools until it saves a new node or proposes a solution, which Reflection then approves or sends back to another node. Through these choices, the policy decides whether to deepen the current line, branch from or revisit an earlier state, verify a proposal, or stop, without a fixed traversal order or a score for each node. We train navigation, task actions, checkpointing, and proposal review jointly with a tree-aware adaptation of GRPO, using task-level outcome rewards augmented by process rewards. After small-scale RL of a 4B model, with the same active-context limit for all methods, TreeFlex reaches 48.8% accuracy on a challenging deep-research benchmark, versus 41.5% for flat ReAct and 42.8% for FoldAgent, and its Pass@8 is about ten points higher than either. On SWE-bench Verified, with all three systems trained with RL from the same 9B model, TreeFlex resolves 54.9% of tasks, versus 43.3% for FoldAgent and 45.2% for its step-wise variant.
- Abstract(参考訳): ReActスタイルのエージェントは、観察、中間結果、失敗した試みを単一のコンテキストで蓄積する。
この文脈が拡大するにつれて、古い情報やオフパス情報はその限られた能力を消費し、関連する証拠を曖昧にし、焦点を絞った推論がますます困難になる。
TreeFlexは、エージェント自身のポリシーがどこで検索するかを決定するフレームワークです。
エージェントは、ハーネスが保持する探索ツリー内のノードとして、各中間状態を短い要約で記録する。
ポリシーは2つの役割で機能する単一の言語モデルである。
Reflectionロールでは、これらのサマリーを通してツリーをグローバルに表示し、インストラクションとともに再開するノードを選択する。
Executionロールでは、ハーネスがそのノードに導いたパスを復元し、モデルが通常のタスクツールで命令を実行すると、新しいノードを保存したり、ソリューションを提案する。
これらの選択を通じて、ポリシーは、各ノードに対して、固定されたトラバース順序やスコアなしで、現在の行を深めるか、以前の状態から分岐するか、または再検討するか、提案を検証するか、または停止するかを決定する。
我々は、プロセス報酬によって強化されたタスクレベルの成果報酬を用いて、ナビゲーション、タスクアクション、チェックポイント、提案レビューをGRPOのツリー対応と共同で訓練する。
4Bモデルの小規模なRLの後、すべてのメソッドで同じアクティブコンテキスト制限で、TreeFlexは挑戦的なDeep-Researchベンチマークで48.8%の精度に達し、フラットなReActでは41.5%、FoldAgentでは42.8%、Pass@8はどちらかよりも10ポイント高い。
SWE-bench Verifiedでは、3つのシステムが同じ9BモデルからRLでトレーニングされ、TreeFlexは54.9%のタスクを解決し、FoldAgentは43.3%、Step-wise variantは45.2%である。
関連論文リスト
- Iris: Climbing to the Search Frontier [21.066541702697112]
我々は35B-A3Bスケールと397B-A17Bスケールでトレーニングされた2つの検索エージェントであるIris-miniとIris-proを紹介する。
論文 参考訳(メタデータ) (2026-09-03T17:51:01Z) - Process Reward Informed Tree Rollout for Effective Multi-Turn RL [58.392997761968566]
長期のエージェントタスクでは、均一なロールアウト戦略は、非形式的なデッドエンドの試みに予算を無駄にする可能性がある。
本稿では,マルチターンエージェントRLの品質を意識したロールアウトフレームワークであるProcess-Scorer Guided Adaptive Tree Rollout (PATR)を提案する。
PATRはタスクに適したプロセスフィードバックを使用して部分的軌跡をスコアし、将来性のある状態から選択的に分岐し、共有プレフィックスを再利用し、無駄なサンプリングを減らすために経路を保守的に停止する。
論文 参考訳(メタデータ) (2026-07-17T04:16:58Z) - AgentLens: Revealing The Lucky Pass Problem in SWE-Agent Evaluation [11.272830796781925]
8つのモデルバックエンドから60個のSWEベンチ検証タスクの2,614個のOpenHandsトラジェクトリを評価した。
このサブセットで通過する軌道の中で、10.7%はラッキーパスと呼ばれる振る舞いを示す。
本稿では,SWEエージェント軌道のプロセスレベル評価フレームワークであるAgentLensを紹介する。
論文 参考訳(メタデータ) (2026-05-13T03:00:57Z) - TreePS-RAG: Tree-based Process Supervision for Reinforcement Learning in Agentic RAG [71.06073770344732]
エージェント検索強化生成(RAG)は、推論と情報検索の多段階的な相互作用として質問応答を定式化する。
エージェントRAGのためのオンラインツリーベースRLフレームワークであるTreePS-RAGについて述べる。
論文 参考訳(メタデータ) (2026-01-11T14:07:30Z) - ReAcTree: Hierarchical LLM Agent Trees with Control Flow for Long-Horizon Task Planning [6.600538353483611]
本稿では,複雑な目標を動的に構築されたエージェントツリー内のより管理可能なサブゴールに分解する階層的タスクプランニング手法を提案する。
ReAcTreeは、さまざまな大きな言語モデルでReActのような強力なタスク計画ベースラインを一貫して上回る。
論文 参考訳(メタデータ) (2025-11-04T09:55:40Z) - Tree Search for LLM Agent Reinforcement Learning [23.7084695563981]
Tree-based Group Relative Policy Optimization (Tree-GRPO) は、木探索に基づくグループ化エージェントRL法である。
共通のプレフィックスを共有することで、ツリー検索サンプリングは、達成可能なロールアウトの数を増やす。
木レベルでの相対的政策最適化の目的は、ステップレベルの直接選好学習と同等であることを示す。
論文 参考訳(メタデータ) (2025-09-25T14:37:09Z) - Tree Search for Language Model Agents [73.97960454223164]
対話型Web環境での探索と多段階計画を行うために,LMエージェントの推論時探索アルゴリズムを提案する。
我々のアプローチは、実環境空間内で機能する最優先木探索の一形態である。
現実的なWebタスクにおいて有効性を示すLMエージェントのための最初の木探索アルゴリズムである。
論文 参考訳(メタデータ) (2024-07-01T17:07:55Z) - Autonomous Tree-search Ability of Large Language Models [58.68735916408101]
大規模言語モデルは、高度なプロンプト技術で顕著な推論能力に優れています。
近年の研究では、LLMがより困難な推論タスクを解くために受動的木探索を行えるように、検索ロジックを定義するために外部プログラムを活用することが提案されている。
我々は,LLMの自律木探索能力という新しい概念を提案し,正しい解を求める探索軌跡を含む応答を自動生成する。
論文 参考訳(メタデータ) (2023-10-14T14:14:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。