論文の概要: Receiver-Conditioned Latent Communication gives 94% CacheBack
- arxiv url: http://arxiv.org/abs/2609.32046v1
- Date: Fri, 25 Sep 2026 22:20:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 03:35:00.566418
- Title: Receiver-Conditioned Latent Communication gives 94% CacheBack
- Title（参考訳）: Receiver-Conditioned Latent Communicationが94%のCacheBackを提供
- Abstract要約: 最近の潜時通信は代わりにKVキャッシュを転送する。
完全なKVキャッシュは、個々のエージェントプロセスのコンテキストと、協調するエージェントの数の両方で線形に増加する。
私たちのキーとなる観察は、エージェントは受信エージェントがローカルタスクに必要とするもののみを送信する必要があるということです。
- 参考スコア（独自算出の注目度）: 5.675007684604366
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Multi-agent systems distribute large contexts across agents that communicate to solve a task. Text messages are compact but require decoding and may omit evidence the receiving agent needs. Recent latent communication instead transfers KV caches. This avoids text generation and can improve accuracy and latency. However, a full KV cache grows linearly with both the context an individual agent processes, and the number of agents that coordinate together. This raises memory and context costs, often far exceeding available GPU resources and context window sizes. Our key observation is that agents need only send what the receiving agent requires for its local task -- which we call receiver-conditioned communication. The receiver agent passes the sender a small description of its information needs, which serves to filter and compress the sender agent's KV cache. CacheBack is a simple, robust, training-free instance of receiver conditioning based on the sender's attention weights. On FanOutQA, CacheBack with Qwen 3 removes 75% of the state the agent would otherwise receive, improving accuracy by 14.7 percentage points and reducing median task-completion latency by 3.2x relative to text communication. We show comparable improvements across model families that span dense Transformers, Mamba-attention hybrids, and sliding-window attention.
- Abstract（参考訳）: マルチエージェントシステムは、タスクを解決するために通信するエージェント間で大きなコンテキストを分散する。
テキストメッセージはコンパクトだがデコードが必要であり、受信エージェントが必要とする証拠を省略することができる。
最近の潜時通信は代わりにKVキャッシュを転送する。
これによりテキスト生成が回避され、精度とレイテンシが向上する。
しかしながら、完全なKVキャッシュは、個々のエージェントプロセスのコンテキストと、協調するエージェントの数の両方で線形に増加する。
これにより、利用可能なGPUリソースやコンテキストウィンドウサイズをはるかに超え、メモリとコンテキストのコストが上昇する。
私たちのキーとなる観察は、エージェントは受信エージェントがローカルタスクに必要なものだけを送る必要があるということです。
受信側エージェントは、送信側エージェントのKVキャッシュをフィルタリングして圧縮する機能を持つ、その情報要求の小さな記述を送信側に渡す。
CacheBackは、送信者の注意重みに基づいた、シンプルで堅牢で、トレーニングなしのレシーバコンディショニングインスタンスである。
FanOutQAでは、Qwen 3によるCacheBackは、エージェントが受信する状態の75%を除去し、精度を14.7ポイント向上し、テキスト通信に対するタスク補完遅延を3.2倍削減する。
我々は,高密度トランスフォーマー,マンバ・アテンションハイブリッド,スライディング・ウインドウ・アテンションにまたがるモデルファミリに対して,同等な改善を示す。
関連論文リスト
- KVCMAS: Efficient KV cache Correction for Shared Context in Multi-Agent Systems [12.768679406770984]
KVCMASは、コンパクトな低ランク状態を用いたクロスエージェントキャッシュ逸脱を表す。
追加の参照プリフィルなしで、エージェントワークフローに沿って修正をシームレスにチェーンする。
制御されたサービストレースの下では、KVキャッシュの共有なしに、推論よりも2.0倍のTTFTスピードアップを提供する。
論文 参考訳（メタデータ） (2026-09-28T00:39:50Z) - EfficientAgent: What Makes KV Cache Offloading Work for Concurrent Agents? [31.538628189836828]
LLMエージェントはすべてのターンで会話全体を再送し、そのほとんどが既に前のターンで処理されていた。
同じワークロードでは、ひとつのデプロイメントをスピードアップし、別のデプロイを遅くし、3分の1で何も変更しない。
この作業セットによってホスト層のサイズと管理を行うEfficientAgentを提案する。
論文 参考訳（メタデータ） (2026-09-27T17:01:29Z) - Despite Instructions: Frontier Agents Improvise Covert Channels at Test Time [64.61749234961134]
セキュリティに敏感なアプリケーションでは、言語モデルエージェントは機密情報を開示することなく調整する必要があることが多い。
送信者が4つの秘密状態のうちの1つを観測し、同一の公開レポートの4つの要約のうちの1つを選択する。
モデルペアは、受信機が正しく推測したかどうかを示す1ビットのフィードバックのみを使用して、秘密を伝えることができる。
論文 参考訳（メタデータ） (2026-09-26T15:06:44Z) - Prefill-Free Cross-Family KV Cache Transfer for Heterogeneous Multi-Agent LLMs [26.258892865465878]
テキストベースの通信では、受信側は送信者がすでに処理している共有コンテキストをプリフィルする必要がある。
HeteroFoldはプリフィルフリーのクロスファミリーKVキャッシュ転送方式で、送信側と受信側の両方を凍結させる。
HeteroFoldは、4つの長いコンテキストベンチマークと最も短いコンテキスト設定で最高のキャッシュ転送性能を達成する。
論文 参考訳（メタデータ） (2026-09-26T05:30:18Z) - Capable but Careless: Do Computer-Use Agents Follow Contextual Integrity? [54.701199583505144]
アプリケーション間アクセスは、ほとんど見落とされたプライバシーリスクを生み出す。
我々はAgentCIBenchを紹介します。これは、このリスクを決定論的に評価されたシナリオに変換する評価ハーネスです。
我々は15のフロンティアエージェントを評価し、驚くほど高い失敗率を見出す。
論文 参考訳（メタデータ） (2026-06-22T11:36:58Z) - Good Agentic Friends Do Not Just Give Verbal Advice: They Can Update Your Weights [58.27172968382275]
マルチエージェントLLMシステムは、通常自然言語メッセージを交換することで協調する。
送信者のメッセージを受信者のコンテキストに付加する代わりに、送信者の隠された状態を過渡的で受信者固有の重み摂動にコンパイルする。
論文 参考訳（メタデータ） (2026-05-13T17:58:32Z) - Speculative Interaction Agents: Building Real-Time Agents with Asynchronous I/O and Speculative Tool Calling [64.40340291543971]
我々は,小さなエッジスケールモデルとのリアルタイムインタラクションを実現するための投機的インタラクションエージェントを提案する。
また、ストリーミング入力と非同期応答を処理するためにモデルを適応させるクロックベースのトレーニング手法を提案する。
このアプローチは、Qwen2.5-3B-InstructとLlama-3.2-3B-Instructモデルを複数のツール呼び出しベンチマークで1.6-2.2$times$ Speedupを提供する。
論文 参考訳（メタデータ） (2026-05-13T11:20:52Z) - Agent Attention: On the Integration of Softmax and Linear Attention [70.06472039237354]
本稿では,計算効率と表現力のバランスをとるために,新しい注意パラダイムであるエージェント注意(Agent Attention)を提案する。
提案するエージェントアテンションは,線形アテンションの一般化形式と等価であることを示す。
特に、エージェントの注意は高解像度のシナリオにおいて顕著な性能を示しており、その線形の注意の性質に依拠している。
論文 参考訳（メタデータ） (2023-12-14T16:26:29Z) - GoRela: Go Relative for Viewpoint-Invariant Motion Forecasting [121.42898228997538]
精度や一般化を犠牲にすることなく、全てのエージェントとマップに対して効率的な共有符号化を提案する。
不均一空間グラフにおけるエージェントとマップ要素間の幾何学的関係を表現するために、ペアワイズ相対的な位置符号化を利用する。
我々のデコーダは視点非依存であり、レーングラフ上でエージェント目標を予測し、多様かつコンテキスト対応のマルチモーダル予測を可能にする。
論文 参考訳（メタデータ） (2022-11-04T16:10:50Z) - Decentralized Coordination in Partially Observable Queueing Networks [22.215852332444904]
我々は,エージェントが環境を部分的に観察し,全体の報酬を最大化するために協調して行動する必要がある,完全協調型マルチエージェントシステムにおけるコミュニケーションを考える。
エージェントは、現在のキューの長さの部分的な情報のみに基づいて、パケットをキューにルーティングする。
我々は,パケットドロップレートを低減するために,エージェントが情報を共有するための通信チャネルを実装した。
論文 参考訳（メタデータ） (2022-08-29T14:12:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。