論文の概要: A Two-Tier Perspective on Inference-Time Parallelism in Multi-Agent LLM Systems
- arxiv url: http://arxiv.org/abs/2608.05791v1
- Date: Thu, 06 Aug 2026 09:26:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-07 15:25:20.865683
- Title: A Two-Tier Perspective on Inference-Time Parallelism in Multi-Agent LLM Systems
- Title（参考訳）: マルチエージェントLLMシステムにおける推論時間並列性に関する2層視点
- Abstract要約: 大規模言語モデル(LLM)駆動のマルチエージェントシステムは通常、推論中に複数のモデル呼び出しと複雑な調整を必要とする。
本稿では,マルチエージェントシステムにおける並列処理を,Replica Parallelism と Structure Parallelism の2つの異なる決定プロセスのレベルとしてモデル化する。
この2つのレベルの並列処理を統一し,それらの役割を推論プロセス内で協調する実行フレームワークであるTIPEXを提案する。
- 参考スコア（独自算出の注目度）: 8.810136864681994
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language model (LLM)-driven multi-agent systems typically require multiple model invocations and complex coordination during inference, and their execution strategies directly affect system accuracy, latency, and computational cost. Parallel execution provides a means to improve inference-time efficiency. From the perspective of inference-time execution, this paper models parallelism in multi-agent systems as two distinct levels of decision processes: Replica Parallelism, which explores multiple complete solution paths at the task level, and Structural Parallelism, which enables concurrent execution within a single solution path through task decomposition. However, the roles of different forms of parallelism and their interrelationships still lack systematic study in terms of unified organization and coordination. We therefore propose TIPEX, a controllable execution framework that unifies these two levels of parallelism and coordinates their roles within the inference process under a unified execution semantics while supporting systematic combinations and analyses of different parallel strategies and parameter configurations. Systematic experiments on the GAIA benchmark demonstrate that inference-time parallelism can significantly improve accuracy and reduce end-to-end latency at the cost of increased token consumption. Further analysis shows that Replica and Structural Parallelism exhibit complementary effects across task complexities, with tasks of intermediate difficulty benefiting most from their coordination, while overly aggressive parallel strategies do not necessarily yield better performance.
- Abstract（参考訳）: 大規模言語モデル(LLM)を駆動するマルチエージェントシステムは通常、推論中に複数のモデル呼び出しと複雑な調整を必要とし、その実行戦略はシステム精度、レイテンシ、計算コストに直接影響を及ぼす。
並列実行は推論時間の効率を改善する手段を提供する。
本稿では,マルチエージェントシステムにおける並列処理を,タスクレベルでの複数の完全解パスを探索するレプリカ並列処理と,タスク分解による単一解パス内で同時実行を可能にする構造並列処理の2つの異なるレベルとしてモデル化する。
しかし、異なる形態の並列性とそれらの相互関係の役割は、統一された組織と協調という観点ではまだ体系的な研究を欠いている。
そこで我々は,これら2つのレベルの並列処理を統一化し,それらの役割を統一された実行セマンティクスの下で推論プロセス内で調整する,制御可能な実行フレームワークであるTIPEXを提案する。
GAIAベンチマークのシステマティック実験により、推論時並列性は、トークン消費の増加による正確性を大幅に向上し、エンドツーエンドのレイテンシを低減することができることが示された。
さらに分析した結果、ReplicaとStructure Parallelismはタスクの複雑度にまたがって相補的な効果を示し、中間的困難を伴うタスクはコーディネーションから多くの利益を得る一方で、過度に攻撃的な並行戦略は必ずしもより良いパフォーマンスをもたらすとは限らないことが示されている。
関連論文リスト
- EASy: Towards Efficient LLM-Based Agentic System [54.10819421625103]
強化学習によるタスク性能と計算効率を協調的に最適化する訓練可能なエージェントフレームワークであるEASyを提案する。
EASyはLLMベースのオーケストレータに異種エグゼキュータの能力とコストプロファイルを明確に把握し、パフォーマンスのみのルーティング以上のコンテキスト依存的な調整を可能にする。
さらに、複雑なタスクを管理可能なマイルストーンに分解し、依存性を意識した実行グラフを構築し、適切なエグゼキュータを割り当て、その後の決定を中間的な結果に適用しながら、独立したステップを並列化するマイルストーン計画実行ワークフローも導入されている。
論文 参考訳（メタデータ） (2026-08-05T08:50:36Z) - HSAP: A Hierarchical Sequence-aware Parallelism for Hybrid-Context Generative Models [17.09673128667358]
本稿では,集中型テンソル伝達と部分的注意計算の障害を克服する効率的なシーケンス・アウェア並列性アルゴリズムを提案する。
提案アルゴリズムはJITコンパイルを用いてNCCLレベルの全デバイスグループの通信戦略を最適化する。
論文 参考訳（メタデータ） (2026-06-29T15:26:55Z) - Small Model as Master Orchestrator: Learning Unified Agent-Tool Orchestration with Parallel Subtask Decomposition [61.291733522717415]
Agent-as-Toolは並列オーケストレーションのパラダイムであり、エージェントとツールの両方を標準化された学習可能なアクション空間に緩和する。
ParaManagerは、サブタスク解決から計画決定を分離し、ステート対応の並列サブタスク分解、デリゲート、非同期実行を可能にする。
実験により、ParaManagerは複数のベンチマークで高い性能を示し、目に見えないモデルプールの下で堅牢な一般化を示す。
論文 参考訳（メタデータ） (2026-04-18T14:41:27Z) - Para-B&B: Load-Balanced Deterministic Parallelization of Solving MIP [50.917107318582715]
MIP(Mixed-integer Programming)は、連続型と整数型の両方の決定変数を組み込むことで線形プログラミングを拡張する。
本稿では,高性能MIPソルバであるHiGHSに対して,決定論的並列分岐結合の完全なオープンソース実装を初めて提案する。
本手法では,ワーカスレッド間で完全なソルバ状態を複製することにより,厳密な決定性を保証する新しいデータ並列アーキテクチャを提案する。
論文 参考訳（メタデータ） (2026-02-10T14:17:53Z) - Learning to Share: Selective Memory for Efficient Parallel Agentic Systems [49.78267008828593]
エージェントシステムは、反復的に推論する複数のエージェントを調整することで複雑なタスクを解決し、ツールを呼び出し、中間結果を交換する。
最近のアプローチでは、さまざまな推論の軌跡を探索するために、複数のエージェントチームが並行して運用されている。
我々は並列エージェントフレームワークのための学習された共有メモリ機構であるLearning to Share (LTS)を提案する。
論文 参考訳（メタデータ） (2026-02-05T18:20:21Z) - Learning Latency-Aware Orchestration for Parallel Multi-Agent Systems [18.192867631682674]
並列実行下での明示的なレイテンシを持つマルチエージェントシステムの学習に基づくオーケストレーションについて検討する。
本稿では,ワークアウェアなマルチエージェントオーケストレーションフレームワークであるLAMaSを提案する。
提案手法は,マルチエージェントアーキテクチャサーチにおける最先端のベースラインに比べて,クリティカルパス長を38～46%削減することを示す。
論文 参考訳（メタデータ） (2026-01-15T16:23:53Z) - Modular Task Decomposition and Dynamic Collaboration in Multi-Agent Systems Driven by Large Language Models [3.4219049032524804]
本稿では,複雑なタスク実行中におけるタスクの分解と協調における単一エージェントの限界について論じる。
モジュラータスクの分解と大規模言語モデルに基づく動的協調のためのマルチエージェントアーキテクチャを提案する。
論文 参考訳（メタデータ） (2025-11-03T02:00:06Z) - Dynamic Generation of Multi-LLM Agents Communication Topologies with Graph Diffusion Models [99.85131798240808]
我々はtextitGuided Topology Diffusion (GTD) と呼ばれる新しい生成フレームワークを導入する。
条件付き離散グラフ拡散モデルにインスパイアされたGTD式は、反復的な構成過程としてトポロジー合成を行う。
各ステップで生成は、多目的報酬を予測する軽量プロキシモデルによって制御される。
実験により、GTDは高いタスク適応性、スパース、効率的な通信トポロジを生成できることが示されている。
論文 参考訳（メタデータ） (2025-10-09T05:28:28Z) - Optimizing Sequential Multi-Step Tasks with Parallel LLM Agents [15.26802977779826]
M1-Parallelは、異なるソリューションパスを明らかにするために、複数のマルチエージェントチームを並行して実行するフレームワークである。
早期終端を持つM1-Parallelは精度を保ちながら最大2.2倍のスピードアップを達成することを示す。
さらに,多種多様な実行計画を奨励する戦略についても検討するが,反復サンプリングによる追加的なパフォーマンス向上は見つからない。
論文 参考訳（メタデータ） (2025-07-11T18:09:22Z) - Offline Multi-agent Reinforcement Learning via Score Decomposition [51.23590397383217]
オフライン協調型マルチエージェント強化学習(MARL)は、分散シフトによる固有の課題に直面している。
この作業は、オフラインとオンラインのMARL間の分散ギャップを明示的に解決する最初の作業である。
論文 参考訳（メタデータ） (2025-05-09T11:42:31Z) - Parallelized Planning-Acting for Efficient LLM-based Multi-Agent Systems [31.894636711684523]
マルチエージェントシステムのための並列化計画実行フレームワークを提案する。
提案するフレームワークは、同時計画と動作を可能にする割り込み可能な実行を備えたデュアルスレッドアーキテクチャを備えている。
論文 参考訳（メタデータ） (2025-03-05T13:53:10Z) - A Two-stage Framework and Reinforcement Learning-based Optimization
Algorithms for Complex Scheduling Problems [54.61091936472494]
本稿では、強化学習(RL)と従来の運用研究(OR)アルゴリズムを組み合わせた2段階のフレームワークを開発する。
スケジューリング問題は,有限マルコフ決定過程 (MDP) と混合整数計画過程 (mixed-integer programming process) の2段階で解決される。
その結果,本アルゴリズムは,アジャイルな地球観測衛星スケジューリング問題に対して,安定かつ効率的に十分なスケジューリング計画を得ることができた。
論文 参考訳（メタデータ） (2021-03-10T03:16:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。