論文の概要: ToolChain*: Efficient Action Space Navigation in Large Language Models with A* Search

• arxiv url: http://arxiv.org/abs/2310.13227v1
• Date: Fri, 20 Oct 2023 02:24:35 GMT
• ステータス: 処理完了
• システム内更新日: 2023-10-24 00:45:07.223401
• Title: ToolChain*: Efficient Action Space Navigation in Large Language Models with A* Search
• Title（参考訳）: ToolChain*: A*検索付き大規模言語モデルにおける効率的な行動空間ナビゲーション
• Authors: Yuchen Zhuang, Xiang Chen, Tong Yu, Saayan Mitra, Victor Bursztyn, Ryan A. Rossi, Somdeb Sarkhel, Chao Zhang
• Abstract要約: 大規模言語モデル(LLM)は強力な意思決定と計画能力を示している。 LLMエージェントのための効率的な木探索型計画アルゴリズムであるToolChain*を提案する。 アクション空間全体を決定ツリーとして定式化し、各ノードはソリューション計画に関わるAPI関数呼び出しを表現します。
• 参考スコア（独自算出の注目度）: 36.142986105945894
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language models (LLMs) have demonstrated powerful decision-making and planning capabilities in solving complicated real-world problems. LLM-based autonomous agents can interact with diverse tools (e.g., functional APIs) and generate solution plans that execute a series of API function calls in a step-by-step manner. The multitude of candidate API function calls significantly expands the action space, amplifying the critical need for efficient action space navigation. However, existing methods either struggle with unidirectional exploration in expansive action spaces, trapped into a locally optimal solution, or suffer from exhaustively traversing all potential actions, causing inefficient navigation. To address these issues, we propose ToolChain*, an efficient tree search-based planning algorithm for LLM-based agents. It formulates the entire action space as a decision tree, where each node represents a possible API function call involved in a solution plan. By incorporating the A* search algorithm with task-specific cost function design, it efficiently prunes high-cost branches that may involve incorrect actions, identifying the most low-cost valid path as the solution. Extensive experiments on multiple tool-use and reasoning tasks demonstrate that ToolChain* efficiently balances exploration and exploitation within an expansive action space. It outperforms state-of-the-art baselines on planning and reasoning tasks by 3.1% and 3.5% on average while requiring 7.35x and 2.31x less time, respectively.
• Abstract（参考訳）: 大規模言語モデル(llm)は、複雑な現実世界の問題を解決する上で強力な意思決定と計画能力を示している。 LLMベースの自律エージェントは、さまざまなツール(例えば関数型API)と対話し、ステップバイステップで一連のAPI関数呼び出しを実行するソリューションプランを生成することができる。 多数の候補api関数呼び出しは、アクションスペースを大きく拡大し、効率的なアクションスペースナビゲーションの必要性を増大させる。 しかし、既存の手法は、一方向の行動空間の探索に苦しむか、局所的な最適解に閉じ込められるか、または全ての潜在的な行動の徹底的なトラバースに苦しむか、非効率なナビゲーションを引き起こす。 これらの問題に対処するため,LLMエージェントのための効率的な木探索型計画アルゴリズムであるToolChain*を提案する。 アクション空間全体を決定木として定式化し、各ノードはソリューション計画に関わる可能性のあるAPI関数呼び出しを表す。 A*探索アルゴリズムをタスク固有のコスト関数設計に組み込むことで、不正な動作を伴う可能性のある高コストブランチを効率的に作成し、最も低コストで有効なパスをソリューションとして特定する。 複数のツールの使用と推論タスクに関する大規模な実験は、ToolChain*が拡張可能なアクション空間内での探索とエクスプロイトを効率的にバランスしていることを示しています。 計画作業や推論作業における最先端のベースラインを平均で3.1%、平均で3.5%上回り、7.35倍と2.31倍の時間を要する。

関連論文リスト

• Spatial Reasoning and Planning for Deep Embodied Agents [2.7195102129095003]
  この論文は空間的推論と計画タスクのためのデータ駆動手法の開発を探求する。 学習効率、解釈可能性、新しいシナリオ間の伝達可能性の向上に重点を置いている。
  論文  参考訳（メタデータ） (2024-09-28T23:05:56Z)
• Octo-planner: On-device Language Model for Planner-Action Agents [19.627197141903505]
  Planner-Actionフレームワークは、計画とアクションの実行を2つの異なるコンポーネントに分離する。 Agentはまず、タスクをサブステップのシーケンスに分解してユーザクエリに応答し、アクションエージェントによって実行される。 我々は、文脈内学習の代わりにモデル微調整を採用し、計算コストとエネルギー消費を削減した。
  論文  参考訳（メタデータ） (2024-06-26T05:40:10Z)
• LLM-A*: Large Language Model Enhanced Incremental Heuristic Search on Path Planning [91.95362946266577]
  経路計画はロボット工学と自律航法における基本的な科学的問題である。 A*やその変種のような伝統的なアルゴリズムは、パスの妥当性を保証することができるが、状態空間が大きくなるにつれて、計算とメモリの非効率が著しく低下する。 本稿では, A* の正確なパスフィニング能力と LLM のグローバルな推論能力とを相乗的に組み合わせた LLM ベースの経路計画法を提案する。 このハイブリッドアプローチは、特に大規模シナリオにおいて、パス妥当性の完全性を維持しながら、時間と空間の複雑さの観点からパスフィニング効率を向上させることを目的としている。
  論文  参考訳（メタデータ） (2024-06-20T01:24:30Z)
• From Summary to Action: Enhancing Large Language Models for Complex Tasks with Open World APIs [62.496139001509114]
  大規模な現実世界のAPIを制御するために設計された新しいツール呼び出しパイプラインを導入します。 このパイプラインは人間のタスク解決プロセスを反映し、複雑な実際のユーザクエリに対処する。 ToolBenchベンチマークにおけるSum2Actパイプラインの実証的な評価は、大幅なパフォーマンス向上を示している。
  論文  参考訳（メタデータ） (2024-02-28T08:42:23Z)
• When is Tree Search Useful for LLM Planning? It Depends on the Discriminator [15.75807429396126]
  大規模言語モデル(LLM)は、ジェネレータ、識別器、計画方法という3つのコンポーネントを持つ言語エージェントフレームワークの下で、多段階の問題を解決する。 本稿では,先進的な計画手法を用いて,識別精度がエージェント全体の性能に与える影響を包括的に分析する。
  論文  参考訳（メタデータ） (2024-02-16T18:45:58Z)
• Autonomous Tree-search Ability of Large Language Models [58.68735916408101]
  大規模言語モデルは、高度なプロンプト技術で顕著な推論能力に優れています。 近年の研究では、LLMがより困難な推論タスクを解くために受動的木探索を行えるように、検索ロジックを定義するために外部プログラムを活用することが提案されている。 我々は,LLMの自律木探索能力という新しい概念を提案し,正しい解を求める探索軌跡を含む応答を自動生成する。
  論文  参考訳（メタデータ） (2023-10-14T14:14:38Z)
• AI planning in the imagination: High-level planning on learned abstract search spaces [68.75684174531962]
  我々は,エージェントが訓練中に学習する抽象的な検索空間において,エージェントが計画することを可能にする,PiZeroと呼ばれる新しい手法を提案する。 本研究では,旅行セールスマン問題,ソコバン問題,2048年,施設立地問題,パックマン問題など,複数の分野で評価を行った。
  論文  参考訳（メタデータ） (2023-08-16T22:47:16Z)
• Dynamic Multi-Robot Task Allocation under Uncertainty and Temporal Constraints [52.58352707495122]
  本稿では,不確実性およびマルチエージェント協調の下での逐次意思決定における重要な計算課題を分離するマルチロボット割当アルゴリズムを提案する。 都市におけるマルチアームコンベヤベルトピック・アンド・プレイスとマルチドローン配送ディスパッチの2つの異なる領域における広範囲なシミュレーション結果について検証を行った。
  論文  参考訳（メタデータ） (2020-05-27T01:10:41Z)
• Flexible and Efficient Long-Range Planning Through Curious Exploration [13.260508939271764]
  The Curious Sample Planner can realize temporallyextended plan for a wide range of really 3D task。 対照的に、標準的な計画と学習の方法は、多くの場合、これらのタスクを全く解決しなかったり、膨大な数のトレーニングサンプルでのみ実行できなかったりします。
  論文  参考訳（メタデータ） (2020-04-22T21:47:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。