論文の概要: Tree of Agents: Improving Long-Context Capabilities of Large Language Models through Multi-Perspective Reasoning

• arxiv url: http://arxiv.org/abs/2509.06436v1
• Date: Mon, 08 Sep 2025 08:34:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-09-09 14:07:04.019096
• Title: Tree of Agents: Improving Long-Context Capabilities of Large Language Models through Multi-Perspective Reasoning
• Title（参考訳）: エージェントのツリー:マルチパースペクティブ推論による大規模言語モデルの長期能力向上
• Authors: Song Yu, Xiaofei Xu, Ke Deng, Li Li, Lin Tian,
• Abstract要約: Tree of Agents(TOA)は、インプットを独立したエージェントによって処理されたチャンクに分割するマルチエージェント推論フレームワークである。 TOAは、エージェントが複数のパースペクティブな理解のために異なる推論順序を探索することを可能にする。 処理効率を向上させるため,プレフィックスハッシュキャッシュと適応型プルーニング戦略を取り入れた。
• 参考スコア（独自算出の注目度）: 11.045096250408067
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) face persistent challenges when handling long-context tasks, most notably the lost in the middle issue, where information located in the middle of a long input tends to be underutilized. Some existing methods that reduce input have the risk of discarding key information, while others that extend context windows often lead to attention dispersion. To address these limitations, we propose Tree of Agents (TOA), a multi-agent reasoning framework that segments the input into chunks processed by independent agents. Each agent generates its local cognition, then agents dynamically exchange information for collaborative reasoning along tree-structured paths. TOA enables agents to probe different reasoning orders for multi-perspective understanding, effectively mitigating position bias and reducing hallucinations. To improve processing efficiency, we incorporate prefix-hash caching and adaptive pruning strategies, achieving significant performance improvements with comparable API overhead. Experiments show that TOA, powered by compact LLaMA3.1-8B, significantly outperforms multiple baselines and demonstrates comparable performance to the latest and much larger commercial models, such as Gemini1.5-pro, on various long-context tasks. Code is available at https://github.com/Aireduce952/Tree-of-Agents.
• Abstract（参考訳）: 大きな言語モデル(LLM)は、長いコンテキストタスクを扱う際に永続的な課題に直面する。 入力を減らす既存の方法の中には、キー情報を破棄する危険性があるものもあるが、コンテキストウィンドウを拡張するものは、しばしば注意分散を引き起こす。 これらの制約に対処するため、独立エージェントによって処理されたチャンクに入力を分割するマルチエージェント推論フレームワークであるTree of Agents (TOA)を提案する。 各エージェントはその局所的な認知を生成し、それからエージェントは木構造経路に沿って協調的推論のための情報を動的に交換する。 TOAにより、エージェントは多視点理解のための異なる推論順序を探索し、位置バイアスを効果的に軽減し、幻覚を減らすことができる。 処理効率を向上させるため、プレフィックスハッシュキャッシュと適応型プルーニング戦略を導入し、APIオーバーヘッドに匹敵するパフォーマンス向上を実現した。 実験の結果、コンパクトなLLaMA3.1-8Bを動力とするTOAは、複数のベースラインをはるかに上回り、Gemini1.5-proのような最新の商用モデルに匹敵する性能を示した。 コードはhttps://github.com/Aireduce952/Tree-of-Agentsで入手できる。

関連論文リスト

• Visual Document Understanding and Question Answering: A Multi-Agent Collaboration Framework with Test-Time Scaling [83.78874399606379]
  テスト時間スケーリングを備えたマルチエージェント協調フレームワークであるMACTを提案する。 4つの異なる小規模エージェントから構成され、明確に定義された役割と効果的なコラボレーションがある。 一般および数学的タスクの能力を犠牲にすることなく、より小さなパラメータスケールで優れた性能を示す。
  論文  参考訳（メタデータ） (2025-08-05T12:52:09Z)
• T^2Agent A Tool-augmented Multimodal Misinformation Detection Agent with Monte Carlo Tree Search [51.91311158085973]
  多重モーダル誤報は、しばしば混合偽造源から発生し、動的推論と適応的検証を必要とする。 我々はモンテカルロ木探索を用いたツールキットを組み込んだ新しい誤情報検出剤T2Agentを提案する。 大規模な実験により、T2Agentは、混在するマルチモーダル誤報ベンチマークにおいて、既存のベースラインを一貫して上回っていることが示されている。
  論文  参考訳（メタデータ） (2025-05-26T09:50:55Z)
• $C^3$-Bench: The Things Real Disturbing LLM based Agent in Multi-Tasking [12.218102495632937]
  エージェントの堅牢性を評価するためのオープンソースベンチマークをC3$-Benchで提示する。 具体的には,複雑なツール関係をナビゲートし,重要な隠蔽情報を処理し,動的決定経路を管理する,という3つの課題を設計する。 本質的に$C3$-Benchは、これらの課題を通じてモデル脆弱性を公開し、エージェントパフォーマンスの解釈可能性の研究を促進することを目的としている。
  論文  参考訳（メタデータ） (2025-05-24T15:25:44Z)
• MAMM-Refine: A Recipe for Improving Faithfulness in Generation with Multi-Agent Collaboration [63.31211701741323]
  我々はマルチエージェント・マルチモデル推論を生成にまで拡張し、特に改良による忠実度の向上を図っている。 我々は,各サブタスクに対して固有の評価を設計し,マルチエージェント(複数インスタンス)とマルチモデル(多変数LPMタイプ)の両方がエラー検出やクオリティクスに有効であることを示す。 我々はこれらの知見を、マルチエージェント・マルチモデル・リファインメント(MAMM-Refinement)と呼ばれる最終的な"レシピ"に統合し、マルチエージェント・マルチモデルコラボレーションがパフォーマンスを大幅に向上させる。
  論文  参考訳（メタデータ） (2025-03-19T14:46:53Z)
• Scaling Large Language Model-based Multi-Agent Collaboration [72.8998796426346]
  近年の大規模言語モデル駆動型自律エージェントのブレークスルーにより、複数エージェントのコラボレーションが集団的推論を通じて各個人を上回ることが判明している。 本研究は、協調剤の連続的な添加が同様の利益をもたらすかどうかを考察する。
  論文  参考訳（メタデータ） (2024-06-11T11:02:04Z)
• Fleet of Agents: Coordinated Problem Solving with Large Language Models [10.167121757937062]
  Fleet of Agents(FoA)は、動的ツリー検索をナビゲートするエージェントとして大きな言語モデルを利用する、原則化されたフレームワークである。 FoAは多数のエージェントを発生させ、それぞれが自律的に検索空間を探索し、次に選択フェーズを行う。 FoAはすべてのベンチマーク手法の中で最高のコスト品質のトレードオフを実現し、FoA + LMA3.2-11BはLlama3.2-90Bモデルを上回る。
  論文  参考訳（メタデータ） (2024-05-07T09:36:23Z)
• MADiff: Offline Multi-agent Learning with Diffusion Models [79.18130544233794]
  MADiffは拡散型マルチエージェント学習フレームワークである。 分散ポリシと集中型コントローラの両方として機能する。 実験の結果,MADiffは様々なマルチエージェント学習タスクにおいて,ベースラインアルゴリズムよりも優れていた。
  論文  参考訳（メタデータ） (2023-05-27T02:14:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。