論文の概要: Beyond tokens: a unified framework for latent communication in LLM-based multi-agent systems
- arxiv url: http://arxiv.org/abs/2606.05711v1
- Date: Thu, 04 Jun 2026 05:10:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-05 22:39:44.568183
- Title: Beyond tokens: a unified framework for latent communication in LLM-based multi-agent systems
- Title(参考訳): トークンを超えて - LLMベースのマルチエージェントシステムにおける潜在通信のための統一フレームワーク
- Authors: Yingzhuo Liu,
- Abstract要約: 大規模言語モデル(LLM)上に構築されたマルチエージェントシステムは、複雑な推論、計画、ツール使用タスクに対処するための主要なパラダイムとなっている。
このようなシステムにおける主要な通信プロトコルは自然言語である: エージェントはメッセージのトークン・バイ・トークンを交換し、同僚が読み、検証し、応答できるように内部の推論を口述する。
エージェントは、テキスト生成のボトルネックを回避して、連続的な表現を直接交換する。
本稿では,潜時コミュニケーションの急速な発展をめざした文献を整理するための統一的な枠組みを提案する。
- 参考スコア(独自算出の注目度): 0.65268245109828
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Multi-agent systems built on large language models (LLMs) have become a prevailing paradigm for tackling complex reasoning, planning, and tool-use tasks. The dominant communication protocol in such systems is natural language: agents exchange messages token-by-token, verbalising their internal reasoning so that peers can read, verify, and respond. While convenient and interpretable, this protocol suffers from three structural drawbacks -- high inference cost, irreversible information loss during discretization, and ambiguity/redundancy of natural language. A growing body of work therefore explores an alternative protocol -- latent communication -- in which agents exchange continuous representations (embeddings, hidden states, or KV-caches) directly, bypassing the bottleneck of text generation. This paper presents a unified framework for organising the rapidly expanding literature on latent communication. We analyse existing methods along three orthogonal axes: (1) WHAT information is communicated (Embeddings, Hidden States, KV-Caches, or other continuous state); (2) WHICH sender-receiver alignment is used (latent-space alignment and layer alignment); and (3) HOW the communicated information is fused into the receiver (concatenation, prepending, mathematical operations, cross-attention, or cache restoration). Under this 3-axis framework, we systematically categorise eighteen representative methods proposed between 2024 and 2026, identify five major design patterns, and surface a set of open challenges -- including cross-architecture alignment, security of latent channels, compression for edge deployment, and the relationship between latent communication and latent chain-of-thought. We hope that this framework both lowers the barrier to entry for new researchers and provides a vocabulary for comparing future work.
- Abstract(参考訳): 大規模言語モデル(LLM)上に構築されたマルチエージェントシステムは、複雑な推論、計画、ツール使用タスクに対処するための主要なパラダイムとなっている。
このようなシステムにおける主要な通信プロトコルは自然言語である: エージェントはメッセージのトークン・バイ・トークンを交換し、同僚が読み、検証し、応答できるように内部の推論を口述する。
便利で解釈可能なプロトコルだが,このプロトコルには,3つの構造的欠点 – 高い推論コスト,離散化時の不可逆的な情報損失,自然言語の曖昧さ/冗長性 – が伴う。そのため,エージェントがテキスト生成のボトルネックを回避し,連続的な表現(埋め込み,隠蔽状態,KV-caches)を直接交換する,代替プロトコル – 潜時通信 – が注目されている。
本稿では,潜時コミュニケーションの急速な発展をめざした文献を整理するための統一的な枠組みを提案する。
我々は,(1)WHAT情報を通信する(埋め込み,隠れ状態,KVキャッシュ,その他の連続状態),(2)WHICH送信者・受信者アライメントを使用する(ラテンスペースアライメント,層アライメント),(3)HOW通信された情報を受信機に融合させる(結合,予測,数学的操作,クロスアテンション,キャッシュ復元),という3つの直交軸に沿って既存の手法を分析する。
この3軸フレームワークでは,2024年から2026年の間に提案された18の代表的な手法を体系的に分類し,5つの主要な設計パターンを特定し,アーキテクチャの整合性,潜時チャネルのセキュリティ,エッジデプロイメントのための圧縮,潜時通信と潜時チェーンの関係など,一連のオープンな課題に対処する。
このフレームワークが、新しい研究者の参入障壁を低くし、将来の研究を比較するための語彙を提供することを期待している。
関連論文リスト
- HyLaT: Efficient Multi-Agent Communication via Hybrid Latent-Text Protocol [54.411053382333996]
HyLaTは、遅延チャネルを介して詳細な認知信号を伝達し、効率を上げるためのハイブリッド潜在テキスト通信プロトコルである。
エージェントがハイブリッドメッセージを生成・解釈できるように、シングルエージェントハイブリッド生成学習とマルチエージェントインタラクティブコトレーニングを組み合わせた2段階のトレーニングフレームワークを提案する。
実験により、HyLaTは、多様な設定で強力な一般化と堅牢性を持って、競争力のあるタスク性能を維持しながら、通信オーバーヘッドを著しく低減することが示された。
論文 参考訳(メタデータ) (2026-05-25T04:50:15Z) - Beyond Message Passing: A Semantic View of Agent Communication Protocols [19.409127393922216]
エージェント通信プロトコルは,大規模言語モデル(LLM)システムにとって重要な基盤になりつつある。
この研究は、エージェントコミュニケーションをコミュニケーション、構文、セマンティックという3つの層にまとめることで、この新興の風景を人間にインスパイアされた視点で表現する。
論文 参考訳(メタデータ) (2026-03-30T00:40:30Z) - A Compressive-Expressive Communication Framework for Compositional Representations [0.6937243101289334]
本稿では,事前学習モデルから学習した表現の合成性を誘導する自己教師型フレームワークCELEBIを紹介する。
提案手法は,Shapes3DおよびMPI3Dデータセット上での学習メッセージの効率性と構成性を向上する。
この研究は、単純性に基づく帰納的バイアスから構造化された一般化可能な通信プロトコルが出現する新たな理論的および実証的な証拠を提供する。
論文 参考訳(メタデータ) (2025-01-31T14:46:11Z) - Bidirectional Emergent Language in Situated Environments [4.950411915351642]
マルチエージェントポンとコレクターの2つの新しい協調環境を紹介した。
最適なパフォーマンスには通信プロトコルの出現が必要ですが、適度な成功はそれなしで達成できます。
エージェントは意味のあるメッセージのみを生成し、調整なしでは成功できない状態の受信メッセージに作用する。
論文 参考訳(メタデータ) (2024-08-26T21:25:44Z) - Agent-driven Generative Semantic Communication with Cross-Modality and Prediction [57.335922373309074]
本稿では,強化学習に基づくエージェント駆動型ジェネリックセマンティックコミュニケーションフレームワークを提案する。
本研究では, エージェント支援型セマンティックエンコーダを開発し, 適応的セマンティック抽出とサンプリングを行う。
設計モデルの有効性をUA-DETRACデータセットを用いて検証し、全体的なA-GSCフレームワークの性能向上を実証した。
論文 参考訳(メタデータ) (2024-04-10T13:24:27Z) - Language-Oriented Communication with Semantic Coding and Knowledge
Distillation for Text-to-Image Generation [53.97155730116369]
我々は言語指向意味コミュニケーション(LSC)の新しい枠組みを提唱した。
LSCでは、機械は人間の言語メッセージを使って通信し、SC効率のために自然言語処理(NLP)技術を用いて解釈および操作することができる。
1) テキストプロンプトをキーヘッドワードに圧縮するセマンティック・ソース・コーディング(SSC)、2) セマンティック・チャネル・コーディング(SCC)、2) セマンティック・チャネル・コーディング(SCC)、3) セマンティック・ナレッジ・蒸留(SKD)、3) リスナーの言語学習を通じてリスナーに適応したプロンプトを生成するセマンティック・ナレッジ・蒸留(SKD)の3つの革新的なアルゴリズムを導入する。
論文 参考訳(メタデータ) (2023-09-20T08:19:05Z) - Cognitive Semantic Communication Systems Driven by Knowledge Graph:
Principle, Implementation, and Performance Evaluation [74.38561925376996]
単一ユーザと複数ユーザのコミュニケーションシナリオに対して,認知意味コミュニケーションフレームワークが2つ提案されている。
知識グラフから推論規則をマイニングすることにより,効果的な意味補正アルゴリズムを提案する。
マルチユーザ認知型セマンティックコミュニケーションシステムにおいて,異なるユーザのメッセージを識別するために,メッセージ復元アルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-03-15T12:01:43Z) - Learning Structured Communication for Multi-agent Reinforcement Learning [104.64584573546524]
本研究では,マルチエージェント強化学習(MARL)環境下での大規模マルチエージェント通信機構について検討する。
本稿では、より柔軟で効率的な通信トポロジを用いて、LSC(Learning Structured Communication)と呼ばれる新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2020-02-11T07:19:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。