論文の概要: Differentiable Mixture-of-Agents Incentivizes Swarm Intelligence of Large Language Models
- arxiv url: http://arxiv.org/abs/2605.15706v1
- Date: Fri, 15 May 2026 07:54:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-18 21:22:26.211697
- Title: Differentiable Mixture-of-Agents Incentivizes Swarm Intelligence of Large Language Models
- Title(参考訳): 大言語モデルのスワーミングインテリジェンスにインセンティブを与える差別化可能な混合エージェント
- Authors: Xingjian Wu, Junkai Lu, Siyu Yan, Xiangfei Qiu, Jilin Hu, Chenjuan Guo, Bin Yang,
- Abstract要約: Differentiable Mixture-of-Agents (DMoA) は、推論中に弾性および適応的なエージェントの協調を可能にする自己進化型マルチエージェントフレームワークである。
DMoAは, 高い効率, 堅牢性, アンサンブル性を示しながら, 最先端性能を実現していることを示す。
- 参考スコア(独自算出の注目度): 17.7409616106227
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Recent advances in Large Language Models (LLMs) have catalyzed the development of multi-agent systems (MAS) for complex reasoning tasks. However, existing MAS typically rely on pre-defined or pre-compiled communication topologies, which limits their flexibility and adaptability to dynamic task requirements. In this work, we propose Differentiable Mixture-of-Agents (DMoA), a self-evolving multi-agent framework that enables elastic and adaptive agent collaboration during inference. Instead of statically constructing workflows, DMoA dynamically routes and activates agents at each reasoning step, allowing the system to implicitly simulate diverse communication topologies and adapt to evolving demands. To achieve this, we design a differentiable, context-aware routing mechanism that leverages recurrent structures to incorporate historical and contextual information, producing sparse agent activations in a step-wise manner. Furthermore, we introduce predictive entropy as self-supervised signals to optimize the routing process, enabling efficient test-time adaptation without external annotations. Extensive experiments across 9 benchmarks demonstrate that DMoA achieves state-of-the-art performance while exhibiting strong efficiency, robustness, and ensembling capabilities.
- Abstract(参考訳): 大規模言語モデル(LLM)の最近の進歩は、複雑な推論タスクのためのマルチエージェントシステム(MAS)の開発を触媒している。
しかし、既存のMASは、通常、事前に定義されたまたは事前にコンパイルされた通信トポロジに依存しており、その柔軟性と動的タスク要求への適応性を制限する。
そこで本研究では,自己進化型マルチエージェントフレームワークであるDMoA(Dariable Mixture-of-Agents)を提案する。
ワークフローを静的に構築する代わりに、DMoAは動的に各推論ステップでエージェントをルーティングし、アクティベートし、システムが様々な通信トポロジを暗黙的にシミュレートし、進化する要求に適応できるようにする。
これを実現するために、繰り返し構造を利用して歴史的・文脈的な情報を組み込んで、段階的にスパースエージェントアクティベーションを生成する、微分可能なコンテキスト対応ルーティング機構を設計する。
さらに、予測エントロピーを自己教師付き信号として導入し、ルーティングプロセスを最適化し、外部アノテーションを使わずに効率的なテスト時間適応を可能にする。
9つのベンチマークにわたる大規模な実験により、DMoAは高い効率、堅牢性、アンサンブル能力を示しながら、最先端のパフォーマンスを達成することが示された。
関連論文リスト
- Towards Adaptive, Scalable, and Robust Coordination of LLM Agents: A Dynamic Ad-Hoc Networking Perspective [31.81236449944822]
RAPSは、LLMエージェントの適応性、拡張性、堅牢な調整のための、評判の高いパブリッシュ・サブスクライブ・パラダイムである。
RAPSは2つの一貫性のあるオーバーレイを組み込んでいる: (i) リアクティブ・サブスクライブ(reactive Subscription) エージェントがその意図を動的に洗練することを可能にし、 (ii) ベイジアン・レピュテーション(Bayesian Reputation)。
論文 参考訳(メタデータ) (2026-02-08T15:26:02Z) - ComAgent: Multi-LLM based Agentic AI Empowered Intelligent Wireless Networks [62.031889234230725]
6Gネットワークは複雑な層間最適化に依存している。
数学の定式化に高レベルの意図を手動で翻訳することは、まだボトルネックである。
我々はマルチLLMエージェントAIフレームワークであるComAgentを紹介する。
論文 参考訳(メタデータ) (2026-01-27T13:43:59Z) - HiVA: Self-organized Hierarchical Variable Agent via Goal-driven Semantic-Topological Evolution [13.440964262446558]
HiVA(Hierarchical Variable Agent)は、セマンティック・トポロジカル・エボリューション(STEV)アルゴリズムを用いて、自己組織化グラフとしてエージェントをモデル化する新しいフレームワークである。
対話、コーディング、Longcontext Q&A、数学、エージェントベンチマークの実験では、タスク精度が5~10%向上し、リソース効率が向上した。
論文 参考訳(メタデータ) (2025-08-29T18:51:18Z) - ToolACE-MT: Non-Autoregressive Generation for Agentic Multi-Turn Interaction [84.90394416593624]
大規模言語モデル(LLM)によるエージェント的タスク解決には,多ターン・マルチステップインタラクションが必要である。
既存のシミュレーションベースのデータ生成手法は、複数のエージェント間のコストのかかる自己回帰的相互作用に大きく依存している。
本稿では,高品質なマルチターンエージェント対話を構築するための非自己回帰反復生成フレームワークであるToolACE-MTを提案する。
論文 参考訳(メタデータ) (2025-08-18T07:38:23Z) - Synchronization Dynamics of Heterogeneous, Collaborative Multi-Agent AI Systems [0.0]
本稿では,同期理論とマルチエージェントAIシステムを橋渡しする新たな学際的枠組みを提案する。
我々は,複雑なタスク実行に関わる異種AIエージェントの集合力学を記述するために,倉本モデルを適用した。
論文 参考訳(メタデータ) (2025-08-17T10:16:41Z) - AnyMAC: Cascading Flexible Multi-Agent Collaboration via Next-Agent Prediction [77.62279834617475]
本稿では,グラフ構造ではなくシーケンシャル構造を用いて,マルチエージェント協調を再考するフレームワークを提案する。
提案手法は,(1)各ステップで最も適したエージェントロールを選択するNext-Agent Predictionと,(2)各エージェントが前ステップから関連する情報にアクセスできるようにするNext-Context Selectionの2つの重要な方向に焦点を当てる。
論文 参考訳(メタデータ) (2025-06-21T18:34:43Z) - Multi-Agent Collaboration via Evolving Orchestration [55.574417128944226]
大規模言語モデル(LLM)は、様々な下流タスクで顕著な成果を上げているが、そのモノリシックな性質は複雑な問題解決におけるスケーラビリティと効率を制限している。
LLMに基づくマルチエージェントコラボレーションのためのパウチスタイルのパラダイムを提案し,タスク状態の進化に応じて,中央集権的なオーケストレータ("puppeteer")がエージェント("puppets")を動的に指示する。
クローズドドメインおよびオープンドメインシナリオの実験により,この手法は計算コストを低減し,優れた性能が得られることが示された。
論文 参考訳(メタデータ) (2025-05-26T07:02:17Z) - Neural Orchestration for Multi-Agent Systems: A Deep Learning Framework for Optimal Agent Selection in Multi-Domain Task Environments [0.4640835690336653]
マルチドメインタスク環境における最適なエージェント選択のためのニューラルネットワークフレームワークであるMetaOrchを提案する。
ファジィ評価モジュールは、完全性、妥当性、信頼度に沿ってエージェント応答をスコアし、オーケストレータを訓練するためのソフトインスペクタラベルを生成する。
異種剤を用いた模擬環境実験により, 提案手法が86.3%の選択精度を達成できた。
論文 参考訳(メタデータ) (2025-05-03T02:58:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。