論文の概要: Anatomy of a Quantized Agent: VRAM Stability and Forecasting in Code-Synthesis Agentic Workloads

• arxiv url: http://arxiv.org/abs/2608.15117v1
• Date: Sat, 15 Aug 2026 08:39:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-18 19:59:03.203592
• Title: Anatomy of a Quantized Agent: VRAM Stability and Forecasting in Code-Synthesis Agentic Workloads
• Title（参考訳）: 量子化エージェントの解剖:コード合成エージェントワークロードにおけるVRAM安定性と予測
• Abstract要約: LLM推論におけるピークVRAM消費の分析モデルは、メモリを重み保存、KVキャッシュ、アクティベーション項に分解する。 厳密なスコープ測定実験において, この分解を実証的に評価した。 複雑な予測VRAMモデルを高度に定量化し、重みを支配下に置いたレシエーションに展開する上での正当性は見つからない。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Analytical models of peak VRAM consumption for LLM inference decompose memory into weight-storage, KV-cache, and activation terms parameterized by step count, tool invocations, and context expansion. We evaluate this decomposition empirically within a strictly scoped measurement study: a LangGraph-based CUDA-kernel-synthesis agent (AgentK), a 4-bit quantization family (Q4 K M), a single NVIDIA H100 GPU, and four LLM backbones across 1,920 trajectories. Focusing on peak-memory forecasting behavior, we report two primary observations. First, closed-form analytical models achieve competitive accuracy when provided with two empirical constants: loaded-weight VRAM and a fixed activation-memory overhead. Supplied with live GPU readings and ground-truth trajectory parameters, the closed-form model matches or outperforms the best learned baseline on three of the four backbones (test MAPE 2.2-4.4% vs. 3.4-6.5%, p = 0.76). The exception is the smallest backbone (Phi-4-mini), where minimal VRAM variance (CV 0.3%) causes dynamic modeling to underperform simple regression. Second, compile success strictly bifurcates by backbone capacity (from 5.7% for Phi-4-mini to 62.0% for Qwen2.5-Coder-14B), demonstrating that functional code synthesis remains constrained by intrinsic LLM capabilities rather than available memory. Furthermore, because overall peak-memory variance is remarkably low across all backbones (CV 0.3-9.4%), learned prompt-feature regression offers statistically insignificant improvements over a constant-mean baseline. Consequently, we find no justification for deploying complex predictive VRAM models in highly quantized, weight-dominated regimes. We release the evaluated corpus and anonymized framework to support replication.
• Abstract（参考訳）: LLM推論におけるピークVRAM消費の分析モデルは、メモリを重み付け、KVキャッシュ、アクティベーション用語に分解し、ステップカウント、ツール呼び出し、コンテキスト拡張によってパラメータ化する。 我々は、LangGraphベースのCUDAカーネル合成剤(AgentK)、4ビット量子化ファミリ(Q4KM)、NVIDIA H100 GPU、および1,920トラジェクトリにまたがる4つのLPMバックボーンを用いて、この分解を実験的に評価した。 ピークメモリ予測行動に着目し,2つの主観測結果について報告する。 第一に、閉形式解析モデルは、ロードウェイトVRAMと固定アクティベーションメモリオーバーヘッドの2つの経験的定数を備えると、競合精度を得る。 ライブGPU読取と地軸軌道パラメータが組み合わされたクローズドフォームモデルは、4つのバックボーンのうち3つで最高の学習ベースラインをマッチまたは上回る(テストMAPE 2.2-4.4% vs. 3.4-6.5%, p = 0.76)。 例外は最小のバックボーン(Phi-4-mini)であり、最小のVRAM分散(CV 0.3%)により、動的モデリングは単純な回帰を過小評価する。 第2に、コンパイル成功はバックボーン容量(Phi-4-miniの5.7%からQwen2.5-Coder-14Bの62.0%まで)によって厳密に2倍になり、機能的なコード合成は利用可能なメモリではなく固有のLLM機能によって制約される。 さらに、すべてのバックボーン(CV 0.3-9.4%)でピークメモリのばらつきが著しく低いため、学習された急激な回帰は、一定の平均ベースラインよりも統計的に重要な改善をもたらす。 その結果、複雑な予測VRAMモデルを高度に定量化し、重みを支配下に置いたレシエーションに展開する上での正当性は見つからない。 評価されたコーパスと匿名化フレームワークをリリースし、レプリケーションをサポートします。

関連論文リスト

• TriCalRAG: A Three-Strategy, Retrieval-Augmented Benchmark for On-Premise LLM-Based Root Cause Analysis in AIOps [1.8136615181861766]
  クラウドホスト型大規模言語モデル(LLM)は、AIOpsパイプラインの根本原因分析(RCA)にますます使用されている。 データプライバシのリスク、ネットワークレイテンシ、および運用ログボリュームの低いクエリ単位のコストを導入している。 我々は,従来のLSTMを用いたログ異常検出器に対して,vLLMを介して局所的に提供されるオープンウェイトの評価ベンチマークであるRAGを提示する。
  論文  参考訳（メタデータ） (2026-09-13T19:52:46Z)
• SLAI T-Rex: Full-Parameter Post-training of the DeepSeek-V4 Family on Ascend SuperPOD [91.71050339479261]
  本稿では,Ascend NPU SuperPODにおけるエンドツーエンド最適化手法を提案する。 モデルレベルの並列性、計算通信オーケストレーション、低レベルのカーネル実行にまたがる階層的最適化フレームワークを開発した。 その結果、34.22%のモデルFLOP(Model FLOP)利用が達成され、オープンソースのベースラインレシピよりも2.93倍改善された。
  論文  参考訳（メタデータ） (2026-07-22T13:49:17Z)
• $μ$VLA: On Recurrent Memory for Partially Observable Manipulation in VLA Models [44.66763491853812]
  本研究は,VLA背骨の再発の制御的分離について検討した。 我々の定式化は、タイムステップにまたがる学習可能なメモリトークンの小さなセットでトランスフォーマーを強化します。 我々はこれらの結果を,背骨内再発の最小限のエンベロープの校正と解釈する。
  論文  参考訳（メタデータ） (2026-06-10T13:26:40Z)
• FlashMemory-DeepSeek-V4: Lightning Index Ultra-Long Context via Lookahead Sparse Attention [77.12062766962815]
  Lookahead Sparse Attention (LSA)は、DeepSeek-V4アーキテクチャ上に構築されたNeural Memory Indexerを利用している。 このアーキテクチャをバックボーンフリーの非結合なトレーニング戦略でインスタンス化する。 FM-DS-V4は、物理KVキャッシュのフットプリントを、フルコンテキストベースラインのわずか13.5%まで圧縮することを示した。
  論文  参考訳（メタデータ） (2026-06-08T06:25:54Z)
• MEMTIER: Tiered Memory Architecture and Retrieval Bottleneck Analysis for Long-Running Autonomous AI Agents [6.8552591401084015]
  提案するMEMTIERは,OpenClawエージェントのための三部構成メモリアーキテクチャである。 完全なLongMemEval-Sベンチマークでは、MEMTIERは6GBのGPU上でQwen2.5-7BでAcc.382, F1=.412を達成する。 DeepSeek-V4-Flashでは、シングルセッションリコールは0.686-0.714に達し、これらのカテゴリのRAG GPT-4oを上回っている。
  論文  参考訳（メタデータ） (2026-05-05T12:14:10Z)
• Prism: An Evolutionary Memory Substrate for Multi-Agent Open-Ended Discovery [0.0]
  我々は,マルチエージェントAIシステムのための進化的メモリ基板であるPrism(textbfProbabilistic replicatextbfRetrieval with textbfInformation-textbfStratified textbfMemory)を紹介する。 prismは、階層化されたファイルベースの永続性、ベクトル拡張セマンティックメモリ、グラフ構造化リレーショナルメモリ、マルチエージェント進化探索という、独立して開発された4つのパラダイムを統一する。
  論文  参考訳（メタデータ） (2026-04-08T09:16:43Z)
• Choosing the Right Regularizer for Applied ML: Simulation Benchmarks of Popular Scikit-learn Regularization Frameworks [0.1862063702912854]
  134,400のシミュレーションで、Rook、Lasso、ElasticNet、Post-Lasso OLSの4つの標準フレームワークのパフォーマンスを実証的に評価した。 サンプル/フィール比が十分である場合の予測精度では、Ride、Lasso、ElasticNetはほぼ交換可能である。 サンプルサイズが小さいカッパでLassoまたはPost-Lasso OLSの使用を推奨する。
  論文  参考訳（メタデータ） (2026-04-04T01:33:41Z)
• Optimized Minimal 4D Gaussian Splatting [50.29519144753797]
  4D Gaussian Splattingは動的シーン表現の新しいパラダイムとして登場し、複雑な動きを持つシーンのリアルタイムレンダリングを可能にした。 何百万人ものガウス人が高忠実度再構築を必要としているため、ストレージオーバーヘッドの大きな課題に直面している。 OMG4は、4次元ガウス模型を忠実に表現できる有能なガウスのコンパクトな集合を構成するフレームワークである。
  論文  参考訳（メタデータ） (2025-10-04T16:11:13Z)
• EfficientLLM: Efficiency in Large Language Models [64.3537131208038]
  大規模言語モデル(LLM)は大きな進歩を導いてきたが、その増加とコンテキストウィンドウは計算、エネルギー、金銭的コストを禁止している。 本稿では,新しいベンチマークであるEfficientLLMを紹介する。
  論文  参考訳（メタデータ） (2025-05-20T02:27:08Z)
• SqueezeLLM: Dense-and-Sparse Quantization [80.32162537942138]
  LLMにおける生成推論の主なボトルネックは、単一のバッチ推論のための計算ではなく、メモリ帯域幅である。 学習後量子化フレームワークであるSqueezeLLMを導入し、最大3ビットの超低精度でのロスレス圧縮を実現する。 本フレームワークは,2次情報に基づく最適ビット精度割当を探索する感度ベース非一様量子化法と,2次情報に基づくDense-and-Sparse分解法と,2次情報量割当値と感度重み値を効率的にスパース形式で格納するDense-and-Sparse分解法である。
  論文  参考訳（メタデータ） (2023-06-13T08:57:54Z)
• Inception Convolution with Efficient Dilation Search [121.41030859447487]
  拡散畳み込みは、効果的な受容場を制御し、オブジェクトの大規模な分散を処理するための標準的な畳み込みニューラルネットワークの重要な変異体である。 そこで我々は,異なる軸,チャネル,層間の独立な拡散を有する拡張畳み込みの新たな変異体,すなわち開始(拡張)畳み込みを提案する。 本稿では,データに複雑なインセプション・コンボリューションを適合させる実用的な手法を探索し,統計的最適化に基づく簡易かつ効果的な拡張探索アルゴリズム(EDO)を開発した。
  論文  参考訳（メタデータ） (2020-12-25T14:58:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。