論文の概要: Task-Oriented Key-Layer KV Communication for Efficient Latent Multi-Agent Collaboration
- arxiv url: http://arxiv.org/abs/2610.08820v1
- Date: Thu, 24 Sep 2026 18:11:27 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-11 16:33:44.544173
- Title: Task-Oriented Key-Layer KV Communication for Efficient Latent Multi-Agent Collaboration
- Title(参考訳): タスク指向キーレイアKV通信による多エージェント協調の効率化
- Abstract要約: 潜在通信は、自然言語の高推論コストを避けるために、モデル内部状態を直接送信する。
タスク指向鍵層KV通信のためのトレーニングフリーフレームワークKITEを提案する。
2つのモデルファミリと3つのモデルスケールにわたる7つのベンチマークの実験では、KITEは通信量を28-36$times$に削減し、最大3$times$エンドツーエンドの推論速度アップを実現し、最大23.3%の精度向上を実現している。
- 参考スコア(独自算出の注目度): 7.337579847360821
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large language model-based multi-agent systems improve complex problem solving through collaboration, while latent communication directly transmits model internal states to avoid the high inference costs of natural language. However, existing KV-based latent communication methods prioritize sender-side state fidelity, leading to substantial communication and computation overhead and potentially introducing redundant information. To address these limitations, we revisit latent communication from a task-oriented perspective, shifting its objective from sender-side state fidelity to receiver-side task sufficiency. Under this formulation, we propose KITE, a training-free framework for task-oriented key-layer KV communication. KITE identifies a task-effective key layer using a receiver trajectory distortion criterion, transmits only the latent working memory associated with the key layer, and further uses the same layer as the entry point for autoregressive latent reasoning. Experiments on seven benchmarks across two model families and three model scales show that, compared with full-layer KV communication, KITE reduces communication volume by 28-36$\times$, achieves up to 3$\times$ end-to-end inference speedup, and improves accuracy by up to 23.3 percentage points.
- Abstract(参考訳): 大規模言語モデルに基づくマルチエージェントシステムは、協調によって複雑な問題解決を改善する一方、潜在通信は、自然言語の高推論コストを回避するために、モデル内部状態を直接送信する。
しかし、既存のKVベースの潜在通信手法は送信側状態の忠実度を優先し、通信と計算のオーバーヘッドが大きくなり、冗長な情報を導入する可能性がある。
これらの制約に対処するため、タスク指向の観点から潜在的コミュニケーションを再考し、その目的を送信側の状態忠実度から受信側タスク満足度にシフトする。
本稿では,タスク指向鍵層KV通信のためのトレーニングフリーフレームワークKITEを提案する。
KITEは、受信軌道歪み基準を用いてタスク有効鍵層を特定し、鍵層に関連付けられた潜時ワーキングメモリのみを送信し、さらに自己回帰潜時推論のエントリーポイントとして同じレイヤを使用する。
2つのモデルファミリーと3つのモデルスケールにわたる7つのベンチマーク実験により、KITEは全層KV通信と比較して通信容量を28-36$\times$に減らし、最大3$\times$エンドツーエンド推論の高速化を実現し、最大23.3ポイントの精度向上を実現した。
関連論文リスト
- Q-KVComm: Efficient Multi-Agent Communication Via Adaptive KV Cache Compression [0.0]
我々は,圧縮キー値(KV)キャッシュ表現をエージェント間で直接送信できる新しいプロトコルであるQ-KVCommを紹介する。
Q-KVCommはセマンティックな忠実さを維持しながら5-6倍の圧縮比を達成し、コヒーレンスの品質スコアはすべてのシナリオで0.77以上である。
我々の研究は、テキストベースの情報交換から表現ベースの情報交換へ移行し、LLMエージェント通信のための新しいパラダイムを確立する。
論文 参考訳(メタデータ) (2025-11-27T10:45:41Z) - UNCAP: Uncertainty-Guided Planning Using Natural Language Communication for Cooperative Autonomous Vehicles [79.10221881250759]
不確実性誘導自然言語協調自律計画(UNCAP)は、視覚言語モデルに基づく計画手法である。
CAVは、意思決定における認識の不確実性を明示的に考慮しながら、軽量な自然言語メッセージを介して通信することができる。
多様な運転シナリオに対する実験では、通信帯域幅が63%減少し、運転安全スコアが31%増加し、決定の不確実性が61%減少し、衝突距離マージンが4倍増加した。
論文 参考訳(メタデータ) (2025-10-14T21:09:09Z) - Rate-Distortion Optimized Communication for Collaborative Perception [47.737814518681326]
本稿では,多エージェント協調のための実用的速度歪み理論を導入し,特に性能・コミュニケーションのトレードオフを解析するために定式化した。
本稿では,コミュニケーション効率のよい協調認識フレームワークRDcommを提案する。
3Dオブジェクト検出とBEVセグメンテーションの実験により、RDcommはDAIR-V2XとOPV2Vの最先端精度を実現し、通信容量を最大108倍に削減した。
論文 参考訳(メタデータ) (2025-09-26T07:21:32Z) - Task-Oriented Semantic Communication in Large Multimodal Models-based Vehicle Networks [55.32199894495722]
LMMに基づく車両用AIアシスタントLarge Language and Vision Assistant(LLaVA)について検討する。
計算要求を減らし、応答時間を短縮するため、LLaVAの画像スライシングを最適化し、ユーザにとって最も関心のある領域に選択的にフォーカスする。
交通シナリオに対する視覚質問応答(VQA)データセットを構築し,有効性を評価する。
論文 参考訳(メタデータ) (2025-05-05T07:18:47Z) - Semantic Communication for Cooperative Perception using HARQ [51.148203799109304]
我々は重要セマンティック情報を抽出するために重要地図を活用し、協調的な知覚セマンティックコミュニケーションフレームワークを導入する。
周波数分割多重化(OFDM)とチャネル推定と等化戦略を併用して,時間変化によるマルチパスフェーディングによる課題に対処する。
我々は,ハイブリッド自動繰り返し要求(HARQ)の精神において,我々の意味コミュニケーションフレームワークと統合された新しい意味エラー検出手法を提案する。
論文 参考訳(メタデータ) (2024-08-29T08:53:26Z) - Communication-Efficient Federated Knowledge Graph Embedding with Entity-Wise Top-K Sparsification [49.66272783945571]
Federated Knowledge Graphs Embedding Learning (FKGE)は、パラメータのかなりのサイズと広範なコミュニケーションラウンドから生じるコミュニケーション効率の課題に直面する。
本稿では,Entity-Wise Top-K Sparsification 戦略に基づく双方向通信効率のFedSを提案する。
論文 参考訳(メタデータ) (2024-06-19T05:26:02Z) - Pragmatic Communication in Multi-Agent Collaborative Perception [80.14322755297788]
協調的な知覚は、知覚能力とコミュニケーションコストのトレードオフをもたらす。
PragCommは2つの重要なコンポーネントを持つマルチエージェント協調認識システムである。
PragCommは、32.7K以上の通信量で従来手法より一貫して優れていた。
論文 参考訳(メタデータ) (2024-01-23T11:58:08Z) - Context-aware Communication for Multi-agent Reinforcement Learning [6.109127175562235]
マルチエージェント強化学習(MARL)のための文脈認識型コミュニケーション手法を開発した。
第1段階では、エージェントは放送方式で粗い表現を交換し、第2段階のコンテキストを提供する。
その後、エージェントは第2段階の注意機構を利用し、受信機用にパーソナライズされたメッセージを選択的に生成する。
CACOMの有効性を評価するため,アクタ批判型と値に基づくMARLアルゴリズムを併用する。
論文 参考訳(メタデータ) (2023-12-25T03:33:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。