論文の概要: Recursive Multi-Agent Systems
- arxiv url: http://arxiv.org/abs/2604.25917v1
- Date: Tue, 28 Apr 2026 17:59:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-29 16:49:17.990139
- Title: Recursive Multi-Agent Systems
- Title(参考訳): 再帰的マルチエージェントシステム
- Authors: Xiyuan Yang, Jiaru Zou, Rui Pan, Ruizhong Qiu, Pan Lu, Shizhe Diao, Jindong Jiang, Hanghang Tong, Tong Zhang, Markus J. Buehler, Jingrui He, James Zou,
- Abstract要約: 本稿では,マルチエージェントフレームワークであるRecursiveMASを紹介する。
RecursiveMASは、軽量なRecursiveLinkモジュールを介して、異種エージェントを協調ループとして接続する。
実行時複雑性と学習力学の理論解析により、RecursiveMASは標準テキストベースMASよりも効率的であることが判明した。
- 参考スコア(独自算出の注目度): 106.82473907888497
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Recursive or looped language models have recently emerged as a new scaling axis by iteratively refining the same model computation over latent states to deepen reasoning. We extend such scaling principle from a single model to multi-agent systems, and ask: Can agent collaboration itself be scaled through recursion? To this end, we introduce RecursiveMAS, a recursive multi-agent framework that casts the entire system as a unified latent-space recursive computation. RecursiveMAS connects heterogeneous agents as a collaboration loop through the lightweight RecursiveLink module, enabling in-distribution latent thoughts generation and cross-agent latent state transfer. To optimize our framework, we develop an inner-outer loop learning algorithm for iterative whole-system co-optimization through shared gradient-based credit assignment across recursion rounds. Theoretical analyses of runtime complexity and learning dynamics establish that RecursiveMAS is more efficient than standard text-based MAS and maintains stable gradients during recursive training. Empirically, we instantiate RecursiveMAS under 4 representative agent collaboration patterns and evaluate across 9 benchmarks spanning mathematics, science, medicine, search, and code generation. In comparison with advanced single/multi-agent and recursive computation baselines, RecursiveMAS consistently delivers an average accuracy improvement of 8.3%, together with 1.2$\times$-2.4$\times$ end-to-end inference speedup, and 34.6%-75.6% token usage reduction. Code and Data are provided in https://recursivemas.github.io.
- Abstract(参考訳): 再帰的あるいはループ化された言語モデルは、最近、推論を深めるために、潜在状態に対して同じモデル計算を反復的に精錬することによって、新しいスケーリング軸として現れました。
このようなスケーリングの原則を単一モデルからマルチエージェントシステムに拡張し、次のように問う。
この目的のために,再帰的マルチエージェントフレームワークであるRecursiveMASを導入する。
RecursiveMASは、ライトウェイトなRecursiveLinkモジュールを介して、異種エージェントを協調ループとして接続する。
フレームワークを最適化するために,再帰ラウンド間での共有勾配に基づく信用割当により,システム全体の協調最適化を反復的に行う内外ループ学習アルゴリズムを開発した。
実行時複雑性と学習力学の理論解析により、RecursiveMASは標準のテキストベースMASよりも効率的であり、再帰訓練中に安定した勾配を維持することが証明された。
実験では,RecursiveMASを4つの代表的エージェント協調パターンの下でインスタンス化し,数学,科学,医学,検索,コード生成にまたがる9つのベンチマークで評価する。
高度なシングル/マルチエージェントと再帰的な計算ベースラインと比較して、RecursiveMASは一貫して平均精度を8.3%改善し、1.2$\times$-2.4$\times$ end-to-end推論スピードアップと34.6%-75.6%トークンの使用率削減を実現している。
コードとデータはhttps://recursivemas.github.io.comで提供されている。
関連論文リスト
- SpiralFormer: Looped Transformers Can Learn Hierarchical Dependencies via Multi-Resolution Recursion [24.26069897783496]
SpiralFormerはループトランスフォーマーで、マルチレゾリューション再帰スケジュール下で繰り返し実行される。
モデルスケール160Mから1.4Bのループベースラインと非ループベースラインのどちらよりも,SpralFormerの方がパラメータと計算効率がよいことを示す。
論文 参考訳(メタデータ) (2026-02-12T08:23:21Z) - Looping Back to Move Forward: Recursive Transformers for Efficient and Flexible Large Multimodal Models [63.47909317137073]
大規模マルチモーダルモデル (LMM) は視覚言語計算タスクにおいて顕著な成功を収めた。
しかし、その膨大なパラメータ数は、トレーニングと推論の両方で利用されていないことが多い。
LMMに適した再帰トランスフォーマーアーキテクチャであるRecursiveVLMを提案する。
論文 参考訳(メタデータ) (2026-02-09T17:58:23Z) - MeSH: Memory-as-State-Highways for Recursive Transformers [23.995570647573484]
パラメータが少ない再帰モデルは、マッチした計算の下では非再帰的モデルよりも遅れることが多い。
隠れた状態を探索することで、このパフォーマンスギャップを2つの主要なボトルネックにトレースします。
メモリ管理を明示的なメモリバッファに外部化するメモリ・アズ・ステート・ハイウェイ方式を導入する。
論文 参考訳(メタデータ) (2025-10-09T03:23:38Z) - Mixture-of-Recursions: Learning Dynamic Recursive Depths for Adaptive Token-Level Computation [61.67090981767583]
本研究では,Mixture-of-Recursions (MoR)を導入した。
MoRはパラメータ効率を達成するために再帰ステップをまたいだ共有レイヤのスタックを再利用し、軽量ルータは適応トークンレベルの思考を可能にする。
また、メモリフットプリントをさらに削減するために、KVペアを最初の再帰から再利用するKV共有変種を提案する。
論文 参考訳(メタデータ) (2025-07-14T17:49:00Z) - SiReRAG: Indexing Similar and Related Information for Multihop Reasoning [96.60045548116584]
SiReRAGは、類似情報と関連する情報の両方を明示的に考慮する新しいRAGインデックス方式である。
SiReRAGは、3つのマルチホップデータセットの最先端インデックス手法を一貫して上回る。
論文 参考訳(メタデータ) (2024-12-09T04:56:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。