論文の概要: Memory Compression for High-Fanout Agent Sandboxes
- arxiv url: http://arxiv.org/abs/2609.11294v1
- Date: Thu, 10 Sep 2026 09:25:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-11 23:53:35.28162
- Title: Memory Compression for High-Fanout Agent Sandboxes
- Title（参考訳）: 高速エージェントサンドボックスのメモリ圧縮
- Abstract要約: AgentZipはAIエージェントサンドボックス用に設計された最初のメモリ圧縮システムである。
Linuxの2.1倍に比べて、サンドボックスのメモリを最大8.7倍削減する。
- 参考スコア（独自算出の注目度）: 3.726671061903389
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: High-fanout agent workloads create a growing memory bottleneck because a single task may spawn many concurrent sandbox sessions. Yet these sandboxes are far from independent: they originate from a shared template and execute related trajectories, exposing substantial template-relative and cross-sandbox memory redundancy. Conventional memory compression is poorly matched to this setting in three fundamental dimensions: how to compress, because they fail to exploit similarity across non-identical sandbox pages; what to compress, because they control page-fault overhead through conservative page selection; and when to compress, because compression is either triggered by memory pressure or performed without awareness of agent execution phases. We present AgentZip, the first memory compression system designed specifically for AI-agent sandboxes. AgentZip introduces compression mechanisms that exploit both the template-relative and cross-sandbox redundancy. It broadens the compression scope to any page with a profitable representation and shifts overhead control from compression-time page selection to restore-time prefetching. It further aligns expensive compression with LLM waiting periods to avoid interfering with foreground tool execution. Across LLM training and inference workloads, AgentZip reduces sandbox-owned memory by up to 8.7x, compared with 2.1x for the Linux configuration. Restore prefetching and agent-execution-aware scheduling reduce the slowdown of aggressive compression from as high as 3.1x to 1.40x while retaining nearly all of its memory-saving benefit.
- Abstract（参考訳）: 高ファンアウトエージェントワークロードは、ひとつのタスクが複数の同時サンドボックスセッションを発生させる可能性があるため、メモリボトルネックを増大させる。
これらのサンドボックスは、共有テンプレートから派生し、関連するトラジェクトリを実行し、実質的なテンプレート相対性とクロスサンドボックスメモリの冗長性を顕在化する。
圧縮方法は、非同一のサンドボックスページ間の類似性を悪用しないため、圧縮は、保守的なページ選択によってページフォアオーバーヘッドを制御するため、圧縮は、メモリ圧力によって引き起こされるか、エージェントの実行フェーズを意識せずに実行されるためである。
我々は,AIエージェントサンドボックスに特化して設計された,最初のメモリ圧縮システムであるAgentZipを紹介する。
AgentZipはテンプレート相対性とクロスサンドボックスの冗長性を利用する圧縮メカニズムを導入している。
圧縮範囲を利益のある表現で任意のページに拡大し、オーバーヘッド制御を圧縮時ページ選択から復元時プリフェッチに移行する。
フォアグラウンドツールの実行の干渉を避けるため、高価な圧縮をLLM待ち時間と整合させる。
LLMのトレーニングと推論のワークロード全体で、AgentZipはLinux設定の2.1倍に比べて、サンドボックス所有のメモリを最大8.7倍削減する。
プレフェッチとエージェント実行対応のスケジューリングを復元することで、攻撃的な圧縮の速度を最大3.1倍から1.40倍に低下させ、メモリ節約の利点のほとんどを維持できる。
関連論文リスト
- Benchmarking Composable Compression Techniques in Mixture-of-Experts LLMs [50.677556944160216]
MoEXBenchは、構成可能なMoE圧縮をエンドツーエンドのデプロイメントワークフローとして評価するための体系的なベンチマークである。
コンポーザブル圧縮品質、ワークロードとアーキテクチャ、プルーニング/量子化/KVキャッシュ感度、コモディティハードウェアへのデプロイメント効率を測定する。
論文 参考訳（メタデータ） (2026-08-22T00:01:18Z) - VoxZip: Semantic-Anchored Temporal KV Cache Compression for Long-Context Audio Inference [53.883871460875234]
VoxZipは、セマンティックアンコールされたKVキャッシュ圧縮フレームワークである。
第1段階では、音声トークンを時間的に調整、圧縮、融合するために明示的なセマンティックアンカーとして自動音声認識(ASR)文字を使用する。
第2段階では、時間的に減衰した蓄積された注意に基づいて動的フィルタリング戦略を採用し、非定常トークンを除去する。
論文 参考訳（メタデータ） (2026-08-09T08:17:18Z) - SeDeM: Selective Decompression of Hidden-State Memories for Long-Context Question Answering [44.06365338975172]
SeDeMは、デコーダコンディショニングからコンパクトメモリストレージを分離する選択的なデ圧縮フレームワークである。
4つの長文QAベンチマークにおいて、SeDeMは評価された圧縮ベースラインよりも高いQAスコアを達成する。
論文 参考訳（メタデータ） (2026-07-31T21:44:03Z) - Zipage: Maintain High Request Concurrency for LLM Reasoning through Compressed PagedAttention [58.012620801746046]
復号フェーズにおけるKVキャッシュは、高コンカレンシーサービスを制限する重要な要因となっている。
本稿では,トークン単位のKVキャッシュ消去とPagedAttentionを組み合わせたCompressed PagedAttentionを提案する。
そこで我々は,高速LLM推論エンジンZipageを開発した。
論文 参考訳（メタデータ） (2026-03-01T14:01:36Z) - Arbitrary Ratio Feature Compression via Next Token Prediction [52.10426317889982]
Arbitrary Ratio Feature Compression (ARFC)フレームワークは、任意の圧縮比を単一のモデルでサポートする。
ARCは、次の回帰予測によって圧縮を行う自動回帰モデルである。
MoSモジュールは複数の圧縮結果を利用して圧縮トークンを洗練する。
ERGCは、圧縮中の意味的および構造的関係を維持するために、トレーニングプロセスに統合される。
論文 参考訳（メタデータ） (2026-02-12T02:38:57Z) - SWAN: Sparse Winnowed Attention for Reduced Inference Memory via Decompression-Free KV-Cache Compression [7.603859408568262]
大きな言語モデル(LLM)は、キーバリュー(KV)キャッシュの巨大なメモリフットプリントのため、自動回帰推論において重大なボトルネックに直面します。
SWANは、このオーバーヘッドをなくす、新しい、微調整不要なフレームワークである。
提案手法はオフライン行列を用いてKV-cacheを回転させプルークする。
論文 参考訳（メタデータ） (2025-11-24T09:41:24Z) - Compressing Many-Shots in In-Context Learning [61.231471139896506]
マルチショットプロンプトを圧縮することにより,ICL推論のメモリと計算効率を向上させる手法を提案する。
まず,既存のプロンプト圧縮手法がマルチショット圧縮には有効でないことを示す。
本稿では,レイヤワイド圧縮手法であるMemComを提案する。
論文 参考訳（メタデータ） (2025-10-17T16:57:42Z) - Autoencoding-Free Context Compression for LLMs via Contextual Semantic Anchors [43.02557489472655]
現在の文脈圧縮法は、文脈に依存しない圧縮トークンを訓練し、文脈意味論を圧縮する自動符号化タスクに依存している。
本稿では,自動符号化タスクベース圧縮から,この圧縮機能を備えたアーキテクチャへ移行する新しい手法であるSemantic-Anchor Compression (SAC)を提案する。
SACは、様々な圧縮比で既存の文脈圧縮手法より一貫して優れている。
論文 参考訳（メタデータ） (2025-10-10T01:42:14Z) - BitStack: Any-Size Compression of Large Language Models in Variable Memory Environments [53.71158537264695]
大規模言語モデル(LLM)は、多くのアプリケーションに革命をもたらしたが、ローカルデバイスにおけるメモリ制限により、その展開は依然として困難である。
textbfBitStackは,メモリ使用量とモデル性能のトレードオフを可能にする,新しいトレーニング不要な重み圧縮手法である。
論文 参考訳（メタデータ） (2024-10-31T13:26:11Z) - What Operations can be Performed Directly on Compressed Arrays, and with What Error? [1.3307486544794784]
我々は、圧縮されたデータに直接、数十のかなり基本的な操作を可能にする、損失のある圧縮機を開発した。
3つの非自明なアプリケーション上で評価し、内部表現のために異なる数系を選択する。
論文 参考訳（メタデータ） (2024-06-17T05:01:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。