論文の概要: Selective and Hybrid-State Communication for Latent Multi-Agent Systems

• arxiv url: http://arxiv.org/abs/2610.37779v1
• Date: Tue, 27 Oct 2026 18:02:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-31 05:25:12.31097
• Title: Selective and Hybrid-State Communication for Latent Multi-Agent Systems
• Title（参考訳）: 潜在マルチエージェントシステムのための選択型およびハイブリッド型通信
• Abstract要約: SelectKVは、継承されたコンテキストを保護しながらKV状態を選択的に通信する境界認識方式であり、HyLaMASはハイブリッド線形アテンションモデルに潜在的コラボレーションを拡張します。 我々は、SelectKVが通信KV位置と論理KVペイロードを9.7-9.9%削減し、HumanEval+で1ポイント、HumanEval+で6ポイントの精度で2つのベンチマークで不一致となることを示す。 Qwen3.5モデル全体で、HyLaMASはデコードされた出力トークンを53-80%削減し、テキストベースのマルチエージェント通信と比較して1.16-2.78倍のスピードアップを達成する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Efficient communication remains a major bottleneck in large language model multiagent systems. Latent communication reduces repeated natural-language exchange by transferring internal model states between agents, but these transfers remain costly and are typically designed around conventional KV-cache representations. We address this problem from two complementary perspectives. We introduce SelectKV, a boundary-aware method that selectively communicates KV states while protecting inherited context, and HyLaMAS, which extends latent collaboration to hybrid linear-attention models by communicating both KV caches and recurrent states through a shared workspace. Across six benchmarks, SelectKV reduces communicated KV positions and logical KV payload by 9.7-9.9%, with accuracy unchanged on two benchmarks, within one percentage point on three, and six points lower on HumanEval+. Across Qwen3.5 model scales, HyLaMAS reduces decoded output tokens by 53-80% and achieves 1.16-2.78x speedups relative to text-based multi-agent communication. Together, these independently evaluated methods represent two complementary approaches to efficient latent-state communication across conventional Transformer and hybrid model architectures.
• Abstract（参考訳）: 効率的なコミュニケーションは、大規模言語モデルマルチエージェントシステムにおいて依然として大きなボトルネックとなっている。 潜時通信は、エージェント間で内部モデル状態の転送によって、繰り返しの自然言語交換を減少させるが、これらの転送はコストがかかるままであり、通常、従来のKV-cache表現を中心に設計される。 2つの相補的な視点からこの問題に対処する。 提案手法では,KVキャッシュとリカレント状態の両方を共有ワークスペースを介して通信することにより,ハイブリッド線形アテンションモデルに潜時協調を拡張したHyLaMASと,KV状態を選択的に通信する境界認識方式であるSelectKVを紹介する。 6つのベンチマークで、SelectKVは通信KV位置と論理KVペイロードを9.7-9.9%削減し、2つのベンチマークでは精度は変化せず、3つのベンチマークでは1ポイント、HumanEval+では6ポイント低下した。 Qwen3.5モデル全体で、HyLaMASはデコードされた出力トークンを53-80%削減し、テキストベースのマルチエージェント通信と比較して1.16-2.78倍のスピードアップを達成する。 独立に評価されたこれらの手法は、従来のトランスフォーマーとハイブリッドモデルアーキテクチャを横断する効率的な潜在状態通信のための2つの補完的なアプローチを示す。

関連論文リスト

• Task-Oriented Key-Layer KV Communication for Efficient Latent Multi-Agent Collaboration [7.337579847360821]
  潜在通信は、自然言語の高推論コストを避けるために、モデル内部状態を直接送信する。 タスク指向鍵層KV通信のためのトレーニングフリーフレームワークKITEを提案する。 2つのモデルファミリと3つのモデルスケールにわたる7つのベンチマークの実験では、KITEは通信量を28-36$times$に削減し、最大3$times$エンドツーエンドの推論速度アップを実現し、最大23.3%の精度向上を実現している。
  論文  参考訳（メタデータ） (2026-09-24T18:11:27Z)
• Modality-Decoupled Federated Learning for Privacy-Preserving Embodied Intelligence in 6G [90.42669277637026]
  第6世代(6G)無線ネットワークは、大規模なインボディードインテリジェンスのための重要な基盤を提供すると期待されている。 本稿では、6Gネットワークにおけるプライバシー保護型インテリジェンスのためのモダリティ分離FLフレームワークであるFedMVLAを提案する。
  論文  参考訳（メタデータ） (2026-09-09T01:36:44Z)
• Dual-Cache Latent Space Communication between Heterogeneous Language Models [11.183066364515094]
  マルチエージェント LLM システムはモデルを分割するので、解答には他のエージェントのコンテキストに置かれる知識が必要となることが多い。 最近の潜在プロトコルは、共有者のキー値(KV)キャッシュをレシーバに変換する。 XKVはLCF-Xより26%、テキスト通信より6.8倍高速である。
  論文  参考訳（メタデータ） (2026-08-20T23:35:36Z)
• HyLaT: Efficient Multi-Agent Communication via Hybrid Latent-Text Protocol [54.411053382333996]
  HyLaTは、遅延チャネルを介して詳細な認知信号を伝達し、効率を上げるためのハイブリッド潜在テキスト通信プロトコルである。 エージェントがハイブリッドメッセージを生成・解釈できるように、シングルエージェントハイブリッド生成学習とマルチエージェントインタラクティブコトレーニングを組み合わせた2段階のトレーニングフレームワークを提案する。 実験により、HyLaTは、多様な設定で強力な一般化と堅牢性を持って、競争力のあるタスク性能を維持しながら、通信オーバーヘッドを著しく低減することが示された。
  論文  参考訳（メタデータ） (2026-05-25T04:50:15Z)
• MiniCPM-SALA: Hybridizing Sparse and Linear Attention for Efficient Long-Context Modeling [80.48332380100915]
  MiniCPM-SALAは、疎注意の高忠実長文モデリングと線形注意のグローバル効率を統合するハイブリッドモデルである。 1つのNVIDIA A6000D GPUでは、256Kトークンのシーケンス長におけるフルアテンションモデルの推論速度が3.5倍に達する。
  論文  参考訳（メタデータ） (2026-02-12T09:37:05Z)
• Q-KVComm: Efficient Multi-Agent Communication Via Adaptive KV Cache Compression [0.0]
  我々は,圧縮キー値(KV)キャッシュ表現をエージェント間で直接送信できる新しいプロトコルであるQ-KVCommを紹介する。 Q-KVCommはセマンティックな忠実さを維持しながら5-6倍の圧縮比を達成し、コヒーレンスの品質スコアはすべてのシナリオで0.77以上である。 我々の研究は、テキストベースの情報交換から表現ベースの情報交換へ移行し、LLMエージェント通信のための新しいパラダイムを確立する。
  論文  参考訳（メタデータ） (2025-11-27T10:45:41Z)
• Direct Semantic Communication Between Large Language Models via Vector Translation [3.81908263930559]
  大規模言語モデル(LLM)は、メッセージをプレーントークンとして渡すことで、最も遅延したセマンティクスを破棄する。 我々は、直接意味交換を可能にする学習されたマッピングを用いて、ベクトル変換を介して潜時ブリッジを形成する。
  論文  参考訳（メタデータ） (2025-11-06T00:43:29Z)
• KVComm: Enabling Efficient LLM Communication through Selective KV Sharing [5.08081184831007]
  大規模言語モデル(LLM)は、効果的なモデル間通信が不可欠であるマルチエージェントシステムにおいて、ますます多くデプロイされている。 我々は,KVペアの選択的共有により,LLM間の効率的な通信を可能にする新しいフレームワークであるKVCommを提案する。 本研究は,KVペアがLLM間通信に有効な媒体となる可能性を強調し,スケーラブルで効率的なマルチエージェントシステムを実現することを目的とした。
  論文  参考訳（メタデータ） (2025-10-02T16:01:54Z)
• Tensor Product Attention Is All You Need [61.3442269053374]
  プロダクトアテンション(TPA)は、テンソル分解を使用してクエリ、キー、値をコンパクトに表現する新しいアテンションメカニズムである。 TPAは、メモリ効率とともに改善されたモデル品質を実現する。 TPAに基づいて,シーケンスモデリングのための新しいモデルアーキテクチャであるProducT ATTion Transformer (T6)を紹介する。
  論文  参考訳（メタデータ） (2025-01-11T03:37:10Z)
• Towards a Competitive End-to-End Speech Recognition for CHiME-6 Dinner Party Transcription [73.66530509749305]
  本稿では,難しい場合であっても,ハイブリッドベースラインに近い性能を示すエンドツーエンドアプローチについて論じる。 CTC-Attention と RNN-Transducer のアプローチと RNN と Transformer のアーキテクチャを比較し,解析する。 RNN-Transducerをベースとしたベストエンド・ツー・エンドモデルでは、ビームサーチの改善とともに、LF-MMI TDNN-F CHiME-6 Challengeのベースラインよりも品質が3.8%向上した。
  論文  参考訳（メタデータ） (2020-04-22T19:08:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。