論文の概要: Stream-R1: Reliability-Perplexity Aware Reward Distillation for Streaming Video Generation
- arxiv url: http://arxiv.org/abs/2605.03849v1
- Date: Tue, 05 May 2026 15:15:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-06 19:35:43.996771
- Title: Stream-R1: Reliability-Perplexity Aware Reward Distillation for Streaming Video Generation
- Title(参考訳): Stream-R1: ストリーミングビデオ生成のためのリワード蒸留を考慮に入れた信頼性
- Authors: Bin Wu, Mengqi Huang, Shaojin Wu, Weinan Jia, Yuxin Wang, Zhendong Mao, Yongdong Zhang,
- Abstract要約: 自動ストリーミングビデオ拡散モデルを実用化するために、蒸留ベースの加速が基礎となっている。
既存の方法は、すべてのロールアウト、フレーム、ピクセルを同様に信頼できる監視として扱う。
本稿では,信頼性に配慮したリワード蒸留フレームワークStream-R1を提案する。
- 参考スコア(独自算出の注目度): 52.10062792673558
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Distillation-based acceleration has become foundational for making autoregressive streaming video diffusion models practical, with distribution matching distillation (DMD) as the de facto choice. Existing methods, however, train the student to match the teacher's output indiscriminately, treating every rollout, frame, and pixel as equally reliable supervision. We argue that this caps distilled quality, since it overlooks two complementary axes of variance in DMD supervision: Inter-Reliability across student rollouts whose supervision varies in reliability, and Intra-Perplexity across spatial regions and temporal frames that contribute unequally to where quality can still be improved. The objective thus conflates two questions under a uniform weight: whether to learn from each rollout, and where to concentrate optimization within it. To address this, we propose Stream-R1, a Reliability-Perplexity Aware Reward Distillation framework that adaptively reweights the distillation objective at both rollout and spatiotemporal-element levels through a single shared reward-guided mechanism. At the Inter-Reliability level, Stream-R1 rescales each rollout's loss by an exponential of a pretrained video reward score, so that rollouts with reliable supervision dominate optimization. At the Intra-Perplexity level, it back-propagates the same reward model to extract per-pixel gradient saliency, which is factored into spatial and temporal weights that concentrate optimization pressure on regions and frames where refinement yields the largest expected gain. An adaptive balancing mechanism prevents any single quality axis from dominating across visual quality, motion quality, and text alignment. Stream-R1 attains consistent improvements on all three dimensions over distillation baselines on standard streaming video generation benchmarks, without architectural modification or additional inference cost.
- Abstract(参考訳): 分散マッチング蒸留(DMD)をデファクト選択として, 自動回帰ストリーミングビデオ拡散モデルを実用化する上で, 蒸留ベースの加速が基礎となっている。
しかし、既存の方法では、生徒に教師の出力を無差別に一致させ、すべてのロールアウト、フレーム、ピクセルを等しく信頼できる監督として扱う。
信頼性の異なる学生のロールアウト間の信頼性と、品質の改善に不平等に寄与する空間的領域と時間的フレーム間のイントラパープレクティリティという2つの相補的軸を見落としているため、このキャップは品質を蒸留したものだと我々は主張する。
この目的は、各ロールアウトから学習するかどうか、最適化をどこに集中させるかという2つの質問を一様に重み付けている。
そこで本研究では,1つの共用型報酬誘導機構により,ロールアウトおよび時空間要素レベルの蒸留目標を適応的に重み付けする,信頼性・複雑度を考慮したリワード蒸留フレームワークStream-R1を提案する。
信頼性レベルにおいて、Stream-R1は、事前訓練されたビデオ報酬スコアの指数によって各ロールアウトの損失を再スケールし、信頼性の高い監視によるロールアウトが最適化を支配する。
イントラパープレクティリティレベルでは、同じ報酬モデルをバックプロパゲートしてピクセルごとの勾配の塩分を抽出し、それは空間的および時間的重みに分解され、改善が期待される最大の利得をもたらす領域やフレームに最適化圧力を集中させる。
アダプティブ・バランシング機構は、視覚的品質、運動品質、テキストアライメントにおいて、任意の単一品質軸が支配的になるのを防ぐ。
Stream-R1は、標準的なストリーミングビデオ生成ベンチマークの蒸留ベースラインに対して、アーキテクチャの変更や追加の推論コストなしで、すべての3次元を一貫した改善を実現している。
関連論文リスト
- Salt: Self-Consistent Distribution Matching with Cache-Aware Training for Fast Video Generation [27.698320788533405]
軌道式整合蒸留(DMD)は、鋭いモード探索サンプルを回収することができるが、その局所的な訓練信号は、時間経過で更新がどのように構成されるかを明確に定めていない。
本稿では,連続的なデノナイジング更新の終端一致合成を明示的に規則化する自己持続分布マッチング蒸留(SC-DMD)を提案する。
論文 参考訳(メタデータ) (2026-04-03T15:43:21Z) - DUO-VSR: Dual-Stream Distillation for One-Step Video Super-Resolution [42.8144221191427]
拡散型ビデオ超解像(VSR)は近年、目覚ましい忠実さを達成しているが、それでも違法なサンプリングコストに悩まされている。
本稿では,一段階のVSRに対して,分散マッチングと敵対的監視を統合する3段階のフレームワークであるDUO-VSRを提案する。
論文 参考訳(メタデータ) (2026-03-23T17:56:17Z) - Astrolabe: Steering Forward-Process Reinforcement Learning for Distilled Autoregressive Video Models [58.3184497327891]
蒸留自己回帰(AR)ビデオモデルは、効率的なストリーミング生成を可能にするが、しばしば人間の視覚的嗜好に反する。
蒸留ARモデルに適した効率的なオンライン強化学習フレームワークであるAstrolabeを提案する。
論文 参考訳(メタデータ) (2026-03-17T18:32:18Z) - Contextual Rollout Bandits for Reinforcement Learning with Verifiable Rewards [69.74686029941881]
RLVR(Reinforcement Learning with Verifiable Rewards)は、大規模言語モデルの推論能力を改善するための効果的なパラダイムである。
トレーニングを通して高価値ロールアウトを適応的に選択する統合型ニューラルネットワークスケジューリングフレームワークを提案する。
6つの数学的推論ベンチマークの実験では、複数のRLVR最適化手法で性能と訓練効率が一貫した向上を示した。
論文 参考訳(メタデータ) (2026-02-09T10:51:58Z) - Reward Forcing: Efficient Streaming Video Generation with Rewarded Distribution Matching Distillation [69.57572900337176]
本稿では,効率的なストリーミングビデオ生成のための新しいフレームワークであるReward Forcingを紹介する。
EMA-Sinkトークンは、長期コンテキストと最近のダイナミクスの両方をキャプチャし、初期フレームコピーを防ぐ。
Re-DMDは、視覚言語モデルにより評価されたより大きなダイナミックスを持つサンプルを優先順位付けすることで、モデル出力分布を高逆領域にバイアスする。
論文 参考訳(メタデータ) (2025-12-04T11:12:13Z) - Rethinking Diffusion Model-Based Video Super-Resolution: Leveraging Dense Guidance from Aligned Features [51.5076190312734]
ビデオ超解法アプローチは、エラーの蓄積、空間的アーティファクト、知覚的品質と忠実さのトレードオフに悩まされる。
ビデオ超解像(DGAF-VSR)に適した特徴を持つ新しい誘導拡散モデルを提案する。
合成および実世界のデータセットの実験では、DGAF-VSRがVSRの重要な側面において最先端の手法を超越していることが示されている。
論文 参考訳(メタデータ) (2025-11-21T03:40:45Z) - Large Scale Diffusion Distillation via Score-Regularized Continuous-Time Consistency [60.74505433956616]
連続時間一貫性モデル(sCM)は理論的に原理化され、学術規模の拡散を加速するために実証的に強力である。
まず並列性互換なFlashAttention-2 JVPカーネルを開発し、100億以上のパラメータと高次元ビデオタスクを持つモデル上でsCMトレーニングを可能にする。
本稿では, スコア蒸留を長軸正則化器として組み込んだスコア規則化連続時間一貫性モデル(rCM)を提案する。
論文 参考訳(メタデータ) (2025-10-09T16:45:30Z) - POSE: Phased One-Step Adversarial Equilibrium for Video Diffusion Models [18.761042377485367]
POSE(Phased One-Step Equilibrium)は、大規模ビデオ拡散モデルのサンプリングステップを削減する蒸留フレームワークである。
PSEはVBench-I2V上の他の加速度法よりもセマンティックアライメント,時間的会議,フレーム品質が平均7.15%向上していることを示す。
論文 参考訳(メタデータ) (2025-08-28T17:20:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。