論文の概要: Trajectory Replay: Continuous-Time Mixture Transport for Lifelong Generative Models
- arxiv url: http://arxiv.org/abs/2610.26749v1
- Date: Mon, 19 Oct 2026 17:14:23 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-23 01:36:53.541739
- Title: Trajectory Replay: Continuous-Time Mixture Transport for Lifelong Generative Models
- Title(参考訳): トラジェクトリ・リプレイ:生涯生成モデルのための連続時間混合輸送
- Abstract要約: 先導的な戦略である生成的リプレイは、過去のタスクで訓練された生成モデルを使用して、経験から得られた合成サンプルで継続的に更新する。
そこで本研究では,更新された速度場をトレーニングして,その軌道に沿った凍結した履歴速度と受信タスクの速度場とを一致させることで,サンプル生成を回避できるトラジェクトリ・リプレイを提案する。
- 参考スコア(独自算出の注目度): 47.35680433911697
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Adapting pre-trained continuous-time generative models to sequentially incoming data without forgetting earlier tasks is a central challenge in lifelong learning. A leading strategy, generative replay, uses a generative model trained on historical tasks to augment its own continual update with synthetic samples from experience. However, it requires full trajectory simulations at every training step, which accumulate discretization errors and can degrade the replayed historical distribution. Here, we propose trajectory replay, which bypasses sample generation by training an updated velocity field to match both a frozen historical velocity along its trajectories and the incoming task's velocity field, weighted by a stability-plasticity coefficient. Through the lens of continuous-time transport, we show the resulting optimum averages the two task velocities by their respective densities and generates the mixture of their probability paths. Combined with mean velocity distillation, trajectory replay accesses historical trajectories using only a few network evaluations per continual update. Empirically, it outperforms generative replay and distillation baselines on class-incremental image generation. In two biological case studies, trajectory replay extends generative perturbation models to new contexts and experimental batches across two data modalities while preserving treatment-effect prediction.
- Abstract(参考訳): トレーニング済みの連続時間生成モデルを、以前のタスクを忘れずに逐次データ入力に適用することは、生涯学習における中心的な課題である。
先導的な戦略である生成的リプレイは、過去のタスクで訓練された生成モデルを使用して、経験から得られた合成サンプルで継続的に更新する。
しかし, 離散化誤差を蓄積し, 再生履歴分布を劣化させる訓練の各段階において, 完全な軌道シミュレーションが必要である。
そこで本研究では,更新速度場をトレーニングして,その軌道に沿った凍結した履歴速度と,安定塑性係数で重み付けされたタスクの速度場とを一致させることで,サンプル生成をバイパスするトラジェクトリ再生を提案する。
連続時間輸送のレンズを用いて、各密度による2つのタスク速度の平均値を示し、それらの確率経路の混合を生成する。
平均速度蒸留と組み合わせて、トラジェクトリ・リプレイは連続更新毎に僅かなネットワーク評価のみを用いて歴史的なトラジェクトリにアクセスする。
経験的には、クラスインクリメンタルな画像生成に基づいて、生成的再生および蒸留ベースラインを上回ります。
2つの生物学的ケーススタディにおいて、トラジェクトリ・リプレイは、治療効果予測を保ちながら、2つのデータモダリティにまたがる新しい文脈と実験バッチに、生成的摂動モデルを拡張する。
関連論文リスト
- RAVEN: Real-time Autoregressive Video Extrapolation with Consistency-model GRPO [53.38929612273108]
因果自己回帰ビデオ拡散モデルは、以前生成されたコンテンツから将来のチャンクを外挿することでリアルタイムストリーミング生成をサポートする。
本稿では,リアルタイム自動回帰ビデオ補間ネットワーク(RAVEN)を紹介した。これは,各自己ロールアウトを,クリーンな歴史的エンドポイントのインターリーブシーケンスに再パッケージするトレーニングタイムテストフレームワークである。
論文 参考訳(メタデータ) (2026-05-14T17:59:30Z) - Physical Fidelity Reconstruction via Improved Consistency-Distilled Flow Matching for Dynamical Systems [3.692960109077297]
本研究では,高速な科学的フロー再構成のためのコンパクトなワンステップモデルに高忠実なフローマッチング生成モデルを圧縮できるかどうかを考察する。
提案手法は, 最適流路整合型教師を1ステップの整合性モデルに抽出する。
輸送路沿いのノイズ観測から生成軌道を初期化することにより,低忠実度観測を推論時に組み込む。
論文 参考訳(メタデータ) (2026-05-07T10:20:50Z) - End-to-End Training for Autoregressive Video Diffusion via Self-Resampling [63.84672807009907]
自己回帰ビデオ拡散モデルは、世界シミュレーションの可能性を保っているが、列車テストミスマッチに起因する露出バイアスに弱い。
教師なしのフレームワークであるResampling Forcingを導入し、スクラッチから大規模まで自動回帰ビデオモデルのトレーニングを可能にする。
論文 参考訳(メタデータ) (2025-12-17T18:53:29Z) - Mitigating Catastrophic Forgetting in Streaming Generative and Predictive Learning via Stateful Replay [0.0]
本稿では,ストリーミング自動エンコード時系列予測と分類のためのステートフルリプレイについて統一的な研究を行う。
我々は,Rotated MNIST, ElectricityLoadDiagrams 2011-2014, Airlines遅延データから構築した6つのストリーミングシナリオに対して,単一再生機構を評価する。
ヘテロジニアスなマルチタスクストリームでは、リプレイは平均忘れを2~3倍に減らし、良質な時間ベースストリームでは、どちらのメソッドも同じように動作する。
論文 参考訳(メタデータ) (2025-11-22T06:25:54Z) - SCoT: Unifying Consistency Models and Rectified Flows via Straight-Consistent Trajectories [31.60548236936739]
本研究では,事前学習した拡散モデルに対する直線一貫性軌道(SCoT)モデルを提案する。
SCoTは、高速サンプリングのための両方のアプローチの利点を享受し、一貫した特性と直線的な性質のトラジェクトリを同時に生成する。
論文 参考訳(メタデータ) (2025-02-24T08:57:19Z) - Improving Consistency Models with Generator-Augmented Flows [16.049476783301724]
一貫性モデルは、ニューラルネットワークの単一前方通過におけるスコアベース拡散の多段階サンプリングを模倣する。
それらは、一貫性の蒸留と一貫性のトレーニングの2つの方法を学ぶことができる。
本稿では,一貫性モデルから得られたノイズデータを対応する出力へ転送する新しい流れを提案する。
論文 参考訳(メタデータ) (2024-06-13T20:22:38Z) - Time-series Generation by Contrastive Imitation [87.51882102248395]
モーメントマッチングの目的によってモチベーションされ、複合的エラーを軽減し、局所的(しかし前方的な)遷移ポリシーを最適化する。
推論において、学習されたポリシーは反復的なサンプリングのジェネレータとして機能し、学習されたエネルギーはサンプルの品質を評価するための軌道レベル尺度として機能する。
論文 参考訳(メタデータ) (2023-11-02T16:45:25Z) - ReDi: Efficient Learning-Free Diffusion Inference via Trajectory
Retrieval [68.7008281316644]
ReDiは学習不要なRetrievalベースの拡散サンプリングフレームワークである。
ReDi はモデル推論効率を 2 倍高速化することを示した。
論文 参考訳(メタデータ) (2023-02-05T03:01:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。