論文の概要: Latent Collaboration in Multi-Agent Systems

• arxiv url: http://arxiv.org/abs/2511.20639v1
• Date: Tue, 25 Nov 2025 18:56:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-11-26 17:37:04.63867
• Title: Latent Collaboration in Multi-Agent Systems
• Title（参考訳）: マルチエージェントシステムにおける潜時協調
• Authors: Jiaru Zou, Xiyuan Yang, Ruizhong Qiu, Gaotang Li, Katherine Tieu, Pan Lu, Ke Shen, Hanghang Tong, Yejin Choi, Jingrui He, James Zou, Mengdi Wang, Ling Yang,
• Abstract要約: マルチエージェントシステム(MAS)は、独立した単一モデル推論から協調的なシステムレベルのインテリジェンスへと拡張される。 LLMエージェント間の純粋な遅延協調を可能にするエンドツーエンドのトレーニングフリーフレームワークであるLatentMASを紹介する。
• 参考スコア（独自算出の注目度）: 140.51506923969345
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Multi-agent systems (MAS) extend large language models (LLMs) from independent single-model reasoning to coordinative system-level intelligence. While existing LLM agents depend on text-based mediation for reasoning and communication, we take a step forward by enabling models to collaborate directly within the continuous latent space. We introduce LatentMAS, an end-to-end training-free framework that enables pure latent collaboration among LLM agents. In LatentMAS, each agent first performs auto-regressive latent thoughts generation through last-layer hidden embeddings. A shared latent working memory then preserves and transfers each agent's internal representations, ensuring lossless information exchange. We provide theoretical analyses establishing that LatentMAS attains higher expressiveness and lossless information preservation with substantially lower complexity than vanilla text-based MAS. In addition, empirical evaluations across 9 comprehensive benchmarks spanning math and science reasoning, commonsense understanding, and code generation show that LatentMAS consistently outperforms strong single-model and text-based MAS baselines, achieving up to 14.6% higher accuracy, reducing output token usage by 70.8%-83.7%, and providing 4x-4.3x faster end-to-end inference. These results demonstrate that our new latent collaboration framework enhances system-level reasoning quality while offering substantial efficiency gains without any additional training. Code and data are fully open-sourced at https://github.com/Gen-Verse/LatentMAS.
• Abstract（参考訳）: マルチエージェントシステム(MAS)は、大規模言語モデル(LLM)を独立した単一モデル推論から協調的なシステムレベルのインテリジェンスへと拡張する。 既存のLCMエージェントは、推論とコミュニケーションのためのテキストベースの仲介に依存していますが、モデルが連続的な潜伏空間内で直接協調できるように、一歩前進します。 LLMエージェント間の純粋な遅延協調を可能にするエンドツーエンドのトレーニングフリーフレームワークであるLatentMASを紹介する。 LatentMASでは、各エージェントは、最後に層を埋め込むことで、まず自己回帰的な潜在思考を生成する。 共有潜在ワーキングメモリは、各エージェントの内部表現を保存および転送し、損失のない情報交換を保証する。 我々は,LatentMASがバニラテキストベースMASよりもかなり少ない複雑さで,表現力とロスレス情報保存を達成できることを示す理論的解析を行う。 さらに、数学と科学の推論、コモンセンスの理解、コード生成を含む9つの総合ベンチマークに関する実証的な評価では、LatntMASは強力な単一モデルとテキストベースのMASベースラインを一貫して上回り、最大14.6%の精度で出力トークンの使用率を70.8%-83.7%削減し、4x-4.3倍高速なエンドツーエンド推論を提供する。 これらの結果から,新たな潜在的コラボレーションフレームワークは,システムレベルの推論品質を高めつつ,新たなトレーニングを伴わずに大幅な効率向上を実現していることがわかった。 コードとデータはhttps://github.com/Gen-Verse/LatentMASで完全にオープンソース化されている。

関連論文リスト

• Harnessing Deep LLM Participation for Robust Entity Linking [14.079957943961276]
  DeepELは大規模言語モデル(LLM)をエンティティリンクタスクのすべてのステージに組み込む包括的なフレームワークです。 この制限に対処するために,グローバルな文脈情報を利用する新しい自己検証機構を提案する。 10のベンチマークデータセットにわたる大規模な経験的評価は、DeepELが既存の最先端メソッドを大幅に上回っていることを示している。
  論文  参考訳（メタデータ） (2025-11-18T06:35:26Z)
• CoMAS: Co-Evolving Multi-Agent Systems via Interaction Rewards [80.78748457530718]
  自己進化(Self-evolution)は、大規模言語モデル(LLM)ベースのエージェントが事前トレーニング後の能力を継続的に改善できるようにする上で、中心的な研究トピックである。 エージェントがエージェント間相互作用から学習することで自律的に改善できる新しいフレームワークであるCo-Evolving Multi-Agent Systems (CoMAS)を紹介する。
  論文  参考訳（メタデータ） (2025-10-09T17:50:26Z)
• L2M-AID: Autonomous Cyber-Physical Defense by Fusing Semantic Reasoning of Large Language Models with Multi-Agent Reinforcement Learning (Preprint) [16.291320202524187]
  L2M-AIDは多エージェント強化学習を用いた自律型産業防衛のための新しいフレームワークである。 大規模言語モデル(LLM)によって駆動される協調エージェントのチームを編成し、適応的でレジリエンスなセキュリティを実現する。 その結果,L2M-AIDは従来のIDS,ディープラーニング異常検出器,単一エージェントRLベースラインよりも有意に優れていた。
  論文  参考訳（メタデータ） (2025-10-08T17:46:39Z)
• IDA-Bench: Evaluating LLMs on Interactive Guided Data Analysis [60.32962597618861]
  IDA-Benchは、多ラウンドの対話シナリオで大規模言語モデルを評価する新しいベンチマークである。 エージェント性能は、最終的な数値出力と人間由来のベースラインを比較して判断する。 最先端のコーディングエージェント(Claude-3.7-thinkingなど)でさえ50%のタスクを成功させ、シングルターンテストでは明らかでない制限を強調している。
  論文  参考訳（メタデータ） (2025-05-23T09:37:52Z)
• ReMA: Learning to Meta-think for LLMs with Multi-Agent Reinforcement Learning [53.817538122688944]
  Reinforced Meta-thinking Agents (ReMA) を導入し,Large Language Models (LLMs) の推論からメタ思考行動を求める。 ReMAは、推論プロセスを2つの階層的なエージェントに分解する。戦略上の監視と計画を生成するハイレベルなメタ思考エージェントと、詳細な実行のための低レベルな推論エージェントである。 単ターン実験による実験結果から、ReMAは複雑な推論タスクにおいて単エージェントRLベースラインよりも優れることが示された。
  論文  参考訳（メタデータ） (2025-03-12T16:05:31Z)
• MALT: Improving Reasoning with Multi-Agent LLM Training [67.76186488361685]
  MALT(Multi-Agent LLM Training)は、推論プロセスを生成、検証、改善ステップに分割する、新しいポストトレーニング戦略である。 MATH、GSM8K、CSQAでは、MALTは、それぞれ15.66%、7.42%、9.40%の相対的な改善で同じベースラインLLMを上回っている。
  論文  参考訳（メタデータ） (2024-12-02T19:30:36Z)
• Smurfs: Multi-Agent System using Context-Efficient DFSDT for Tool Planning [14.635361844362794]
  Smurfsは、DFSDTをモジュール的で、文脈効率が高く、トレーニング不要な設計で強化する新しいマルチエージェントシステムである。 Smurfsは、オープンエンドのStableToolBenchとクローズドエンドのHotpotQAタスクのベースラインメソッドを上回っている。
  論文  参考訳（メタデータ） (2024-05-09T17:49:04Z)
• Cooperate or Collapse: Emergence of Sustainable Cooperation in a Society of LLM Agents [101.17919953243107]
  GovSimは、大規模言語モデル(LLM)における戦略的相互作用と協調的意思決定を研究するために設計された生成シミュレーションプラットフォームである。 最強のLSMエージェントを除く全てのエージェントは、GovSimの持続的均衡を達成することができず、生存率は54%以下である。 道徳的思考の理論である「大学化」に基づく推論を活用するエージェントは、持続可能性を大幅に向上できることを示す。
  論文  参考訳（メタデータ） (2024-04-25T15:59:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。