論文の概要: Dual-Cache Latent Space Communication between Heterogeneous Language Models

• arxiv url: http://arxiv.org/abs/2608.20617v1
• Date: Thu, 20 Aug 2026 23:35:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-24 14:49:32.278522
• Title: Dual-Cache Latent Space Communication between Heterogeneous Language Models
• Title（参考訳）: 不均一言語モデル間のデュアルキャッシュ遅延空間通信
• Abstract要約: マルチエージェント LLM システムはモデルを分割するので、解答には他のエージェントのコンテキストに置かれる知識が必要となることが多い。 最近の潜在プロトコルは、共有者のキー値(KV)キャッシュをレシーバに変換する。 XKVはLCF-Xより26%、テキスト通信より6.8倍高速である。
• 参考スコア（独自算出の注目度）: 11.183066364515094
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Multi-agent LLM systems split work across models, so answering often requires knowledge that sits in another agent's context: a Sharer has encoded information that a Receiver needs to complete its task. They usually communicate by exchanging text, which puts autoregressive decoding on the critical path and reduces the exchange to a discrete message written without sight of the receiver's state. Recent latent protocols instead translate the sharer's key-value (KV) cache into the receiver's: C2C supports heterogeneous models but requires both to read the same input, while LCF-X removes this shared-context requirement through position-free sharer-cache pooling. Three restrictions remain: LCF-X compresses the sharer alone, supplies the same layer-local summary to every receiver position with no joint cross-layer memory to retrieve from, and assumes matched layer count and KV geometry. We introduce XKV, which lifts all three: learned-query attention pools both caches; self-attention over receiver-aligned layer tokens, with a learned layer map reconciling different depths, mixes the pooled summaries into a compact joint memory; and a shared position decoder lets every raw receiver cache position retrieve its own per-head-gated residual in the receiver's native KV geometry. Both models stay frozen and may differ in family, depth, KV-head count, head dimension, and tokenizer; only the translator is trained. Across 45 dataset-model-pair settings (six heterogeneous and three same-model ordered pairings, five datasets), XKV attains the highest macro score and best average rank, improving on LCF-X on every dataset (by 4.6 exact-match and 4.2 F1 points on ROPES) and surpassing text communication on four of the five, while training 76% fewer parameters and translating a cache pair 10.3x faster (5.8 vs. 59.9 ms); end to end, XKV is 26% faster than LCF-X and 6.8x faster than text communication.
• Abstract（参考訳）: マルチエージェント LLM システムはモデル間で作業を行うため、解答には他のエージェントのコンテキストにある知識が必要となることが多い。 それらは通常、テキストを交換することで通信し、これはクリティカルパスに自己回帰復号を配置し、受信者の状態を見ずに書かれた離散メッセージへの交換を減らす。 C2Cは異種モデルをサポートしているが、両方は同じ入力を読む必要があるが、LCF-Xは位置のない共有コンテキストのプーリングによってこの共有コンテキスト要求を除去する。 3つの制限が残っている: LCF-X は共有層のみを圧縮し、全ての受信機位置に同じ層局所的なサマリを供給し、取得する結合層間メモリを無くし、一致する層数とKV幾何学を仮定する。 両キャッシュの学習クエリアテンションプール、異なる深さを調整した学習層マップ、プールされたサマリーをコンパクトなジョイントメモリに混合する学習層マップ、各生のレシーバキャッシュ位置がレシーバのネイティブなKV形状で独自のヘッドゲート残差を検索できるようにする共有位置デコーダの3つを紹介する。 どちらのモデルも凍結状態であり、家族、深さ、KVヘッドカウント、ヘッドディメンション、トークン化器で異なる可能性がある。 45以上のデータセット-モデルペア設定(6つの異種および3つの同モデル順序ペア、5つのデータセット)、XKVは最高マクロスコアと最高平均ランクを獲得し、各データセットでのLCF-Xの改善(ROPESでは4.6の精度マッチと4.2のF1ポイント)、および5つのうち4つのテキスト通信を上回り、76%のパラメータを減らし、キャッシュペアを10.3倍(5.8対59.9ミリ秒)、最後に、XKVはLCF-Xより26%速く、テキスト通信より6.8倍高速である。

関連論文リスト

• Interface-Aware KV Cache Quantization for Dense On-Chip NVM in Long-Context LLM Decoding [5.984068900226547]
  キーバリュー(KV)キャッシュは、Long-context Large Language Model(LLM)デコードにおいて、主要なメモリボトルネックである。 既存のKV量子化法はGPUスタイルのメモリシステムのために設計された。 本稿では,KVキャッシュが固定レンジコンバータの背後にNVM内に存在する場合のコストについて検討する。
  論文  参考訳（メタデータ） (2026-09-04T22:58:21Z)
• CacheBridge: Efficient Cross-Model KV Cache Transfer [12.058564378845373]
  フルヘッドマッピングは、ターゲットのKVヘッドを各ソースのKVヘッドから選択したレイヤにマッピングすることで、アーキテクチャ上の違いに敏感な転送品質を実現する。 CacheBridgeは、アーキテクチャインデクシングされたマッパーサポート、アテンションアラインなキャリブレーション、バウンダリされたマッパー構築を共同設計する。 Qwen3 $14mathrmBto32mathrmB$では、マッパーストレージを8times$に減らし、アプリケーションを3.0times$に加速し、キャリブレーションデータの10分の1とフルヘッドにマッチし、500シークエンス構築を92.63から8に短縮する。
  論文  参考訳（メタデータ） (2026-09-01T08:20:35Z)
• XBridge: Entity-Grounded Latent Bridge for Heterogeneous LLM Communication [41.12003897083975]
  不均質なマルチエージェントLPMシステムは、冗長な推論パターンを減らして均質な構成を上回り得る。 既存の通信プロトコルはテキストを介して動作し、送信者の内部表現を破棄するか、潜在レベルの転送のためにアーキテクチャ上の均質性を必要とする。 異種LLMファミリー間で連続表現を転送するクロスアテンションブリッジは,稀な圧縮崩壊に悩まされる。 XBRIDGEはデコード不要な通信プロトコルで、2つのメカニズムで処理する。
  論文  参考訳（メタデータ） (2026-08-12T05:32:33Z)
• StereoFactory: A Unified Merging Framework for Robust Stereo Matching [61.973843344605655]
  ステレオマッチングは、大規模なデータセットでトレーニングされた基礎モデルを通じて進歩しているが、このパラダイムはスケーラビリティのボトルネックに悩まされている。 モデルマージは、ソースチェックポイントが利用可能になった後、特別なモデルからの知識を統合することで、スケーラブルなポストホックな代替手段を提供する。 本稿では,適応モデルマージのための粗大な進化的フレームワークであるStereoFactoryを提案する。
  論文  参考訳（メタデータ） (2026-06-16T03:36:59Z)
• Good Agentic Friends Do Not Just Give Verbal Advice: They Can Update Your Weights [58.27172968382275]
  マルチエージェントLLMシステムは、通常自然言語メッセージを交換することで協調する。 送信者のメッセージを受信者のコンテキストに付加する代わりに、送信者の隠された状態を過渡的で受信者固有の重み摂動にコンパイルする。
  論文  参考訳（メタデータ） (2026-05-13T17:58:32Z)
• PackCache: A Training-Free Acceleration Method for Unified Autoregressive Video Generation via Compact KV-Cache [61.57938553036056]
  トレーニング不要なKVキャッシュ管理手法であるPackCacheを導入し,KVキャッシュを3つの協調機構でコンパクト化する。 効率の面では、PackCacheは48フレームの長いシーケンスで1.7-2.2倍のエンドツーエンド生成を高速化する。
  論文  参考訳（メタデータ） (2026-01-07T19:51:06Z)
• Q-KVComm: Efficient Multi-Agent Communication Via Adaptive KV Cache Compression [0.0]
  我々は,圧縮キー値(KV)キャッシュ表現をエージェント間で直接送信できる新しいプロトコルであるQ-KVCommを紹介する。 Q-KVCommはセマンティックな忠実さを維持しながら5-6倍の圧縮比を達成し、コヒーレンスの品質スコアはすべてのシナリオで0.77以上である。 我々の研究は、テキストベースの情報交換から表現ベースの情報交換へ移行し、LLMエージェント通信のための新しいパラダイムを確立する。
  論文  参考訳（メタデータ） (2025-11-27T10:45:41Z)
• KVLink: Accelerating Large Language Models via Efficient KV Cache Reuse [30.48395228595732]
  KVLinkは、大規模言語モデル(LLM)における効率的なキー値(KV)キャッシュ再利用のためのアプローチである。 KVLinkは、連結後のグローバルな位置と一致するように、推論時にKVキャッシュの位置埋め込みを調整することと、自己注意を回復するためにトレーニング可能な特別なトークンを使用することである。 7つのデータセットにわたる実験によると、KVLinkは最先端の手法よりも平均4%の精度で質問応答を改善する。
  論文  参考訳（メタデータ） (2025-02-21T23:34:29Z)
• QuantSpec: Self-Speculative Decoding with Hierarchical Quantized KV Cache [67.84112700032007]
  大きな言語モデル(LLM)は、長いコンテキスト設定のためにエッジデバイスにデプロイされることが増えている。 これらのシナリオでは、キーバリュー(KV)キャッシュがGPUメモリとレイテンシの両方において主要なボトルネックとなっている。 そこで本研究では,ターゲットモデルのアーキテクチャを共有するが,階層的な4ビット量子化KVキャッシュと4ビット量子化重みを併用して高速化を行う,新たな自己推論型デコーディングフレームワークであるQuantSpecを提案する。
  論文  参考訳（メタデータ） (2025-02-05T20:43:48Z)
• LoCoCo: Dropping In Convolutions for Long Context Compression [77.26610232994508]
  本稿では,Long Context Compression(LoCoCo)のための新しいアプローチであるDropping In Convolutionsを提案する。 LoCoCoは、固定サイズキーバリュー(KV)キャッシュのみを使用し、推論と微調整の両方のステージで効率を向上させることができる。
  論文  参考訳（メタデータ） (2024-06-08T01:35:11Z)
• Joint Beam Search Integrating CTC, Attention, and Transducer Decoders [53.297697898510194]
  4つのデコーダが同一のエンコーダを共有するような共同モデリング手法を提案する。 4Dモデルは共同で訓練され、モデルの正規化とモデルの堅牢性を最大化する。 さらに,3つのデコーダを組み合わせることで,新しい3つのビーム探索アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-06-05T05:18:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。