論文の概要: Think Before You Speak: Enabling Training-Free Latent Communication Between Language Models

• arxiv url: http://arxiv.org/abs/2610.16165v1
• Date: Mon, 12 Oct 2026 04:40:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-19 07:16:03.421133
• Title: Think Before You Speak: Enabling Training-Free Latent Communication Between Language Models
• Title（参考訳）: 話す前に考える - トレーニングなしの言語モデル間のラテントコミュニケーションの実現
• Abstract要約: CacheFuseは、上流モデルのKVキャッシュで下流モデルを拡張するためのトレーニング不要のメソッドである。 単一モデルベースラインと比較して最大8.6ポイントの精度を示し,マルチモデル推論におけるテキストベース通信に比べて最大12.2倍のTTFT高速化を示した。
• 参考スコア（独自算出の注目度）: 0.6091702876917281
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) have demonstrated remarkable capabilities in solving complex tasks in coding, mathematical logic, and iterative reasoning, especially by coordinating effectively within multi-agent systems (MAS). However, language agents traditionally communicate via text exchange, which introduces a bottleneck in information transfer and adds prefill latency for downstream agents. Recent work proposes that directly sharing the key-value (KV) cache between language models can enable efficient latent collaboration, entirely bypassing standard text-based communication. To enable latent communication between heterogeneous models of different sizes, prior work introduces trained fusion adapters for each model pair, which limits practical deployment. We introduce CacheFuse, a training-free method which demonstrates that augmenting a downstream model with an upstream model's KV cache using linear interpolation consistently enables superior performance than the standalone downstream model can achieve. We systematically analyze CacheFuse across four reasoning and knowledge benchmarks and demonstrate up to 8.6 percentage points higher accuracy compared to single-model baselines and up to 12.2x TTFT speedup compared to text-based communication in multi-model inference.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、特にマルチエージェントシステム(MAS)内で効果的にコーディネートすることで、コーディング、数学的論理、反復推論の複雑なタスクを解く際、顕著な能力を示した。 しかし、言語エージェントは伝統的にテキスト交換を介して通信し、情報転送のボトルネックを導入し、下流エージェントのプリフィル遅延を追加する。 最近の研究は、キーバリュー(KV)キャッシュを直接言語モデル間で共有することで、標準のテキストベースの通信を完全にバイパスし、効率的な遅延協調を可能にすることを提案している。 異なるサイズの異種モデル間の遅延通信を可能にするために、先行研究では、各モデルペアに対して訓練された融合アダプタを導入し、実際の配置を制限する。 本稿では,リニア補間による上流モデルのKVキャッシュによる下流モデルの拡張により,スタンドアロンの下流モデルよりも優れた性能が得られることを示す,トレーニングフリーの方法であるCacheFuseを紹介する。 我々は、4つの推論と知識のベンチマークでCacheFuseを体系的に分析し、単一モデルベースラインよりも最大8.6ポイント高い精度を示し、マルチモデル推論におけるテキストベースの通信に比べて最大12.2倍のTTFTスピードアップを示す。

関連論文リスト

• Learning to Communicate: Toward End-to-End Optimization of Multi-Agent Language Systems [30.327850022896286]
  本稿では,マルチエージェントシステムの学習可能なコンポーネントとして,潜時通信を扱うトレーニングフレームワークDiffMASを提案する。 実験により,DiffMASは単一エージェント推論,テキストベースマルチエージェントシステム,先行潜時通信方式に対して,推論精度と復号安定性を一貫して向上することが示された。
  論文  参考訳（メタデータ） (2026-04-23T15:53:25Z)
• UniT: Unified Multimodal Chain-of-Thought Test-time Scaling [85.590774707406]
  統一モデルは単一のアーキテクチャ内でマルチモーダル理解と生成の両方を扱うことができるが、通常は出力を反復的に書き換えることなく単一のパスで操作する。 マルチモーダルなテストタイムスケーリングのためのフレームワークであるUniTを導入し、単一の統一モデルで複数のラウンドをまたいだ推論、検証、精査を可能にします。
  論文  参考訳（メタデータ） (2026-02-12T18:59:49Z)
• Latent Space Communication via K-V Cache Alignment [15.229218057888156]
  我々は、複数のモデルのk-vキャッシュを整列する共有表現空間の学習を提案し、協調のための高帯域チャネルを作成する。 Gemma-2モデルを用いた一連の実験により、このアプローチがシームレスなモデル間通信を可能にするだけでなく、個々のモデルの性能を向上させることを実証した。
  論文  参考訳（メタデータ） (2026-01-04T04:15:25Z)
• DroidSpeak: KV Cache Sharing for Cross-LLM Communication and Multi-LLM Serving [14.700431530275132]
  DroidSpeakは分散ノード間でKVキャッシュの再利用を可能にする最初の分散LLM推論システムである。 DroidSpeakは最大4倍のスループット向上と約3.1倍高速プリフィル(タイム・ツー・ファーストトークン)を実現していることを示す。 多様なデータセットとモデルペアの実験では、DroidSpeakは最大4倍のスループット向上と約3.1倍の高速化を実現している。
  論文  参考訳（メタデータ） (2024-11-05T05:41:41Z)
• FLIP: Fine-grained Alignment between ID-based Models and Pretrained Language Models for CTR Prediction [49.510163437116645]
  クリックスルーレート(CTR)予測は、パーソナライズされたオンラインサービスにおいてコア機能モジュールとして機能する。 CTR予測のための従来のIDベースのモデルは、表形式の1ホットエンコードされたID特徴を入力として取る。 事前訓練された言語モデル(PLM)は、テキストのモダリティの文を入力として取る別のパラダイムを生み出した。 本稿では,CTR予測のためのIDベースモデルと事前学習言語モデル(FLIP)間の細粒度特徴レベルのアライメントを提案する。
  論文  参考訳（メタデータ） (2023-10-30T11:25:03Z)
• Bayesian Prompt Learning for Image-Language Model Generalization [64.50204877434878]
  我々はベイズ法の正規化能力を用いて、変分推論問題としてプロンプト学習をフレーム化する。 提案手法は,プロンプト空間を正規化し,目に見えないプロンプトへの過剰適合を低減し,目に見えないプロンプトのプロンプト一般化を改善する。 ベイジアン・プロンプト学習がプロンプト空間の適切なカバレッジを提供する15のベンチマークを実証的に示す。
  論文  参考訳（メタデータ） (2022-10-05T17:05:56Z)
• Leveraging Advantages of Interactive and Non-Interactive Models for Vector-Based Cross-Lingual Information Retrieval [12.514666775853598]
  対話型モデルと非対話型モデルの利点を活用する新しいフレームワークを提案する。 非対話型アーキテクチャ上でモデルを構築できる半対話型機構を導入するが、各文書を関連付けられた多言語クエリと共にエンコードする。 本手法は,計算効率を維持しながら検索精度を大幅に向上させる。
  論文  参考訳（メタデータ） (2021-11-03T03:03:19Z)
• Coreferential Reasoning Learning for Language Representation [88.14248323659267]
  本稿では,コンテキスト内でコアファーデンシャル関係をキャプチャ可能な新しい言語表現モデルCorefBERTを提案する。 実験の結果,既存のベースラインモデルと比較して,CorefBERTは下流のNLPタスクにおいて一貫した大幅な改善を達成できることがわかった。
  論文  参考訳（メタデータ） (2020-04-15T03:57:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。