論文の概要: Compress to Remember: Learning Compact Memory via On-Policy Distillation for Long Video Generation

• arxiv url: http://arxiv.org/abs/2609.36364v1
• Date: Mon, 28 Sep 2026 22:52:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:47.047936
• Title: Compress to Remember: Learning Compact Memory via On-Policy Distillation for Long Video Generation
• Title（参考訳）: Compress to Remember: 長期ビデオ生成のためのオンライン蒸留によるコンパクトメモリの学習
• Abstract要約: 予測適応型コンテキスト圧縮(PACC)を提案する。 PACCは学習した圧縮機を使用して過去のフレームにまたがる情報をコンパクトなメモリトークンに集約する。 PACCをMBench上で評価し,メモリ・イベントのカバレッジと一貫性を共同で測定した。
• 参考スコア（独自算出の注目度）: 43.28377594042877
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Standard video generators do not natively compact historical context into reusable memory tokens. As generation continues, the growing history makes it increasingly difficult to retain information from earlier frames due to long-context degradation. Key-frame-based approaches address this challenge by retaining selected past frames, but can discard information needed for future generation. Rather than relying on frame selection alone, we study whether a frozen video generator can supply the supervision needed to learn a compact representation of the history. We propose Prediction-Aligned Context Compaction (PACC), which uses a learned compressor to aggregate information across past frames into compact memory tokens. We train the compressor through on-policy distillation, using the same frozen generator both as a student when conditioned on compressed memory and as a teacher when conditioned on the full history. The student generates continuations, while the teacher provides targets for the same noisy inputs at each denoising step. Only the compressor is updated to align the student's predictions with these targets. We evaluate PACC on MBench, which jointly measures memory-event coverage and consistency. PACC outperforms the strongest baseline by 6.63 points on Causal-rCM and 3.19 points on Causal Forcing. Evaluation on VBench-Long using MovieGen prompts further shows that PACC produces minute-long videos with generation quality competitive with baselines. Together, these results show that learning to compact historical context can improve long-video memory without modifying the underlying generator.
• Abstract（参考訳）: 標準的なビデオジェネレータは、歴史的コンテキストを再利用可能なメモリトークンにネイティブにコンパクトにしない。 世代が成長するにつれて、長いコンテキストの劣化により、以前のフレームからの情報を保持することがますます困難になる。 キーフレームベースのアプローチは、選択した過去のフレームを保持することでこの問題に対処するが、将来の世代に必要な情報を破棄することができる。 フレーム選択のみに頼るのではなく、冷凍ビデオ生成装置が、歴史のコンパクトな表現を学習するのに必要な監督を提供することができるかどうかを検討する。 本稿では,学習したコンプレッサーを用いて過去のフレームにまたがる情報をコンパクトなメモリトークンに集約する予測適応型コンテキスト圧縮(PACC)を提案する。 本研究は, 圧縮メモリを条件とした場合と, フル履歴を条件にした場合とで, 学生として同じ冷凍発電機を用いて, オンライン蒸留を通じて圧縮機を訓練する。 生徒は継続を生成し、教師は各聴覚ステップで同じノイズ入力のターゲットを提供する。 生徒の予測をこれらの目標に合わせるために、圧縮機のみが更新される。 PACCをMBench上で評価し,メモリ・イベントのカバレッジと一貫性を共同で測定した。 PACCはCausal-rCMでは6.63ポイント、Causal-Forcingでは3.19ポイントで最強のベースラインを上回っている。 MovieGenを用いたVBench-Longの評価は、PACCがベースラインと競合する生成品質の微小ビデオを生成することを示唆している。 これらの結果から,コンパクトな歴史的文脈への学習は,基礎となるジェネレータを変更することなく,長ビデオメモリを改善することが示唆された。

関連論文リスト

• SeDeM: Selective Decompression of Hidden-State Memories for Long-Context Question Answering [44.06365338975172]
  SeDeMは、デコーダコンディショニングからコンパクトメモリストレージを分離する選択的なデ圧縮フレームワークである。 4つの長文QAベンチマークにおいて、SeDeMは評価された圧縮ベースラインよりも高いQAスコアを達成する。
  論文  参考訳（メタデータ） (2026-07-31T21:44:03Z)
• Planning-aligned Token Compression for Long-Context Autonomous Driving [95.59023657139208]
  条件付きVQ-VA上に構築した計画整合型ワーキングメモリフレームワークを提案する。 圧縮は歴史的軌跡と学習した計画意図の両方で条件付けられている。 歴史的文脈が行動の正確性に最も重要となる高信号動的シナリオについて評価する。
  論文  参考訳（メタデータ） (2026-06-05T17:16:21Z)
• Echo-Infinity: Learning Evolving Memory for Real-Time Infinite Video Generation [59.01737077739414]
  本稿では,リアルタイム無限ビデオ生成に向けた自動回帰(AR)フレームワークであるEcho Infinityを紹介する。 学習可能な進化可能なメモリを使用して、任意の長さの履歴を動的にフィルタリングし、抽象化し、圧縮する。 最先端のパフォーマンスを実現し、私たちの知る限り、24時間(>1.3M)のリアルタイムロールアウトを初めて実現しています。
  論文  参考訳（メタデータ） (2026-06-03T07:09:01Z)
• Dynamic Long Context Reasoning over Compressed Memory via End-to-End Reinforcement Learning [47.87361916374891]
  本稿では,チャンクワイズ圧縮と選択的メモリリコールに基づく,効率的な長文推論のためのフレームワークを提案する。 このフレームワークは、長い入力をチャンクに分割し、各チャンクを学習圧縮機を用いて圧縮されたメモリ表現に符号化する。 ピークGPUメモリ使用量の最大2倍の削減と,MemAgent上での6倍の推論高速化を実現している。
  論文  参考訳（メタデータ） (2026-02-09T08:33:11Z)
• Past- and Future-Informed KV Cache Policy with Salience Estimation in Autoregressive Video Diffusion [53.14908419375226]
  既存のアプローチは一般的にKVキャッシュポリシーに依存しており、長期のビデオ生成におけるトークンの重要性の違いを無視している。 我々は,過去・未来型KVキャッシュポリシー(PaFu-KV)を提案する。 特にPaFu-KVは、双方向キャッシュ教師から抽出した軽量なサリエンス推定ヘッドを導入し、サリエンススコアを推定する。 このポリシーは、KVキャッシュ容量を小さくし、推論時にメモリフットプリントを減らすことで、より良い品質効率のトレードオフをもたらす。
  論文  参考訳（メタデータ） (2026-01-29T15:55:29Z)
• Memorize-and-Generate: Towards Long-Term Consistency in Real-Time Video Generation [33.32047364623734]
  Memorize-and-Generate(MAG)は、メモリ圧縮とフレーム生成を別々のタスクに分離するフレームワークである。 我々は、記憶モデルを訓練して、履歴情報をコンパクトなKVキャッシュに圧縮し、この圧縮された表現を用いて、後続のフレームを合成する別個のジェネレータモデルを訓練する。 実験により、MAGは標準的なビデオ生成ベンチマーク上での競争性能を維持しながら、優れた歴史的一貫性を実現することが示された。
  論文  参考訳（メタデータ） (2025-12-21T14:02:53Z)
• MARC: Memory-Augmented RL Token Compression for Efficient Video Understanding [13.02027465520324]
  構造的検索とRLに基づく蒸留を統合したMARCを提案する。 MARCは1フレームのトークンのみを使用してほぼベースラインの精度を達成する。 これにより、リソース制約のある環境での効率的なリアルタイムビデオ理解の可能性を示す。
  論文  参考訳（メタデータ） (2025-10-09T08:07:19Z)
• Perceptual Learned Video Compression with Recurrent Conditional GAN [158.0726042755]
  本稿では, PVC (Perceptual Learned Video Compression) アプローチを提案する。 PLVCは低ビットレートで映像を知覚品質に圧縮することを学ぶ。 ユーザスタディでは、最新の学習ビデオ圧縮手法と比較して、PLVCの優れた知覚性能をさらに検証している。
  論文  参考訳（メタデータ） (2021-09-07T13:36:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。