論文の概要: Video-MemComp: Taylor-Guided Sensitivity-Aware Memory Management for Streaming Video Understanding

• arxiv url: http://arxiv.org/abs/2610.32784v1
• Date: Fri, 23 Oct 2026 15:32:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 01:38:06.594474
• Title: Video-MemComp: Taylor-Guided Sensitivity-Aware Memory Management for Streaming Video Understanding
• Title（参考訳）: Video-MemComp:Taylor-Guided Sensitivity-Aware Memory Management for Streaming Video Understanding
• Abstract要約: ビデオデータは、効率的なビデオ理解システムに緊急に必要なものとなっている。 既存の圧縮法は、しばしば近似誤差の爆発的な蓄積を見落としている。 トレーニング不要で感受性に敏感なコンテキスト管理フレームワークであるVideo-MemCompを提案する。
• 参考スコア（独自算出の注目度）: 51.132563853071126
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The rapid growth of video data has created an urgent need for efficient video understanding systems that can handle long and continuous visual inputs, posing significant challenges for Multimodal Large Language Models (MLLMs) due to severe memory bottlenecks. Moreover, existing compression methods often overlook the explosive accumulation of approximation errors. To address this issue, we propose Video-MemComp, a training-free and sensitivity-aware context management framework for memory-constrained streaming video understanding. Our method theoretically decomposes compression error into orthogonal local approximation error and layer-wise structural sensitivity via a first-order Taylor expansion. To minimize local approximation error, we perform token aggregation in a pre-RoPE safe zone with an attention-conserving logit bias, mitigating geometric distortions caused by RoPE rotations. To manage layer-wise structural sensitivity, we dynamically allocate the KV cache budget based on offline gradient priors and online context entropy, prioritizing high-sensitivity layers. Video-MemComp outperforms or achieves performance comparable to full-cache and state-of-the-art compression methods on benchmarks including MLVU, VideoMME, and EgoSchema. Notably, it improves the overall accuracy of Qwen2.5-VL-3B from 62.3% to 64.1% while reducing the KV cache to an equivalent of 6,000 tokens per layer, saving over 90% of KV memory.
• Abstract（参考訳）: ビデオデータの急速な成長は、長時間かつ連続的な視覚入力を処理できる効率的なビデオ理解システムに対する緊急の必要性を生み出し、メモリのボトルネックが激しいため、MLLM(Multimodal Large Language Models)にとって大きな課題となっている。 さらに、既存の圧縮法は近似誤差の爆発的な蓄積をしばしば見落としている。 この問題に対処するために、メモリ制約のあるストリーミングビデオ理解のためのトレーニング不要で感受性に配慮したコンテキスト管理フレームワークであるVideo-MemCompを提案する。 理論的に圧縮誤差を直交局所近似誤差と1次テイラー展開による層次構造感度に分解する。 局所近似誤差を最小限に抑えるため,RoPE回転による幾何歪みを緩和し,ロジットバイアスを考慮に入れた前RoPE安全なゾーンでトークンアグリゲーションを行う。 階層構造感度を管理するため,オフライン勾配とオンラインコンテキストエントロピーに基づいてKVキャッシュ予算を動的に割り当て,高感度層を優先する。 Video-MemCompは、MLVU、VideoMME、EgoSchemaなどのベンチマークで、フルキャッシュおよび最先端の圧縮手法に匹敵するパフォーマンスを向上または達成する。 特に、Qwen2.5-VL-3Bの全体的な精度を62.3%から64.1%に改善し、KVキャッシュを1層あたり6000トークンに削減し、KVメモリの90%以上を節約した。

関連論文リスト

• Offline Makes Online Better: Calibrated Cache Compression for Video Generation [5.628398440633394]
  Calibrated Allocation for Layer-Head Mergingは、オンラインキャッシュ圧縮を改善する。 我々は,CALMが同じメモリ予算の下で統一されたトークンマージを一貫して上回ることを示す。
  論文  参考訳（メタデータ） (2026-10-20T13:33:04Z)
• Attend Locally, Remember Linearly: Linear Attention as Cross-Frame Memory for Autoregressive Video Diffusion [61.57938553036056]
  ARL2は、二次的なクロスフレームアテンションを固定サイズのリカレント状態に置き換えるハイブリッドアテンションモジュールである。 本研究では,フレーム内ソフトマックスブランチとフレーム間リカレント線形ブランチの2つに分割し,ストリームコンテキストの固定サイズ状態を維持する。 75%の層がハイブリッドリニアアテンションに置き換えられ、最大2.26ウォールクロックのスピードアップと54%のメモリ削減を実現した。
  論文  参考訳（メタデータ） (2026-05-15T19:33:45Z)
• Hierarchical Adaptive Eviction for KV Cache Management in Multimodal Language Models [8.944739362562494]
  既存のKVキャッシュ消去戦略は、視覚トークンとテキストトークンの間の不均一な注意分布に対処できない。 MLLMにおけるテキスト-視覚トークンの相互作用を最適化するKVキャッシュ消去フレームワークである階層適応消去(HAE)を提案する。 HAEは層間のKVキャッシュ使用を最小化し、インデックスブロードキャストによる計算オーバーヘッドを低減し、理論的には優れた情報完全性と低いエラー境界を保証する。
  論文  参考訳（メタデータ） (2026-02-02T15:01:44Z)
• HCAttention: Extreme KV Cache Compression via Heterogeneous Attention Computing for LLMs [13.013668526921778]
  既存のKVキャッシュ圧縮手法は、メモリが85%以上削減されたときに顕著な性能劣化を示す。 我々は、鍵量子化、値オフロード、動的KV消去を統合した異種アテンションフレームワークであるHCAttentionを提案する。 また,LongBenchベンチマークを用いて,KVキャッシュメモリのフットプリントを25%に縮めながら,本手法が完全アテンションモデルの精度を維持することを示した。
  論文  参考訳（メタデータ） (2025-07-26T06:43:14Z)
• METok: Multi-Stage Event-based Token Compression for Efficient Long Video Understanding [55.38256656122857]
  トレーニング不要なマルチステージイベントベースのToken圧縮フレームワークであるMETokを提案する。 我々はMETokが情報的視覚トークンを動的に選択することで効率と精度の最適なトレードオフを実現することを示す。 例えば、LongVA-7BをMETokに装備すると、80.6%のFLOPが削減され、93.5%のKVキャッシュメモリが節約される。
  論文  参考訳（メタデータ） (2025-06-03T13:19:41Z)
• VideoLifter: Lifting Videos to 3D with Fast Hierarchical Stereo Alignment [54.66217340264935]
  VideoLifterは、ローカルからグローバルへの戦略を断片的に活用する、新しいビデオから3Dパイプラインである。 再建プロセスを大幅に加速し、訓練時間を82%以上削減し、現在のSOTA法よりも視覚的品質を向上した。
  論文  参考訳（メタデータ） (2025-01-03T18:52:36Z)
• LoRC: Low-Rank Compression for LLMs KV Cache with a Progressive Compression Strategy [59.1298692559785]
  キーバリュー(KV)キャッシュは、トランスフォーマーベースの自己回帰型大言語モデル(LLM)を提供する上で重要なコンポーネントである。 この問題を緩和するためのアプローチとしては、(1) アップサイクルステージに統合された効率的な注意変動、(2) テスト時のKVキャッシュ圧縮、(3) テスト時のKVキャッシュ圧縮がある。 そこで我々は,KV重み行列の低ランク近似を提案し,モデル再学習なしに既存のトランスフォーマーベースLCMとのプラグイン統合を実現する。 本手法は,テスト段階におけるアップサイクリング段階のモデルチューニングやタスク固有のプロファイリングを伴わずに機能するように設計されている。
  論文  参考訳（メタデータ） (2024-10-04T03:10:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。