論文の概要: Second Order Drifting Models
- arxiv url: http://arxiv.org/abs/2608.07924v1
- Date: Sat, 08 Aug 2026 05:02:55 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-11 19:16:36.566603
- Title: Second Order Drifting Models
- Title(参考訳): 2次ドリフトモデル
- Abstract要約: ドリフトモデルは、事前定義されたサンプルベースドリフトフィールドを使用してトレーニング中にモデル分布を進化させる。
本研究では, 生成試料を人工的な速度変数で拡張することにより, ドリフトダイナミクスを位相空間に引き上げる2次ドリフトモデルを提案する。
実用的半単純学習アルゴリズムを導出し、合成分布マッチング、逐次データ生成、ロボット制御に基づいて評価する。
- 参考スコア(独自算出の注目度): 9.446439690148713
- License: http://creativecommons.org/publicdomain/zero/1.0/
- Abstract: Drifting models are a recent class of one-step generative models that evolve the model distribution during training using a predefined sample-based drift field. Although they avoid iterative inference, their kernel-based drift fields induce frequency-dependent training dynamics: In the linearized regime, each Fourier mode of the density residual decays at a rate determined by the kernel spectrum, leading to slow recovery of fine-scale structure. We propose Second-Order Drifting Models, which lift drifting dynamics into phase space by augmenting generated samples with artificial velocity variables. We show that the resulting density perturbations obey accelerated second-order dynamics in Fourier space, connecting drifting models to the celebrated Nesterov acceleration from optimization theory. This provides a principled mechanism for mitigating the spectral stiffness of first-order drifting while preserving one-step inference. We derive a practical semi-implicit training algorithm and evaluate it on synthetic distribution matching, sequential data generation, and robotic control. Across these settings, the second-order drifting model improves convergence behavior and achieves competitive or superior performance over first-order drifting baselines.
- Abstract(参考訳): ドリフトモデル(drifting model)は、事前定義されたサンプルベースドリフト場を用いてトレーニング中にモデル分布を進化させる1段階生成モデルの最近のクラスである。
線形化された状態では、密度残留崩壊のそれぞれのフーリエモードは、カーネルスペクトルによって決定される速度で崩壊し、微細構造が緩やかに回復する。
本研究では, 生成試料を人工的な速度変数で拡張することにより, ドリフトダイナミクスを位相空間に引き上げる2次ドリフトモデルを提案する。
得られた密度摂動はフーリエ空間における加速された二階ダイナミクスに従い、ドリフトモデルと最適化理論から有名なネステロフ加速度を接続することを示す。
これは、一段階の推論を保ちながら一階のドリフトのスペクトル剛性を緩和する原理的なメカニズムを提供する。
実用的半単純学習アルゴリズムを導出し、合成分布マッチング、逐次データ生成、ロボット制御に基づいて評価する。
これらの設定全体にわたって、二階ドリフトモデルは収束挙動を改善し、一階ドリフトベースラインよりも競合的または優れた性能を達成する。
関連論文リスト
- PedestrianDiffusion: Multimodal Generative Denoising and Dense State Estimation for Inertial Navigation [1.8620637029128544]
ペデストリアン拡散(PedestrianDiffusion)は、密度の高い6次元状態推定を連続的な条件付き偏微分過程として再構成する生成フレームワークである。
最先端の性能を達成し、衝動の摂動と6Dキネマティックドリフトの結合に対する前例のない頑丈さを示す。
この研究は、次世代ニューラル慣性測定ユニット(N-IMU)のための厳密なアルゴリズム的青写真を提供する。
論文 参考訳(メタデータ) (2026-07-03T14:04:30Z) - Drift Flow Matching [69.16550765154163]
ドリフトフローマッチング(Drift Flow Matching)は,ドリフト生成モデルとフローベース反復生成を結びつけるフレームワークである。
DFMは直接輸送マップの効率を保ちつつ、複数の推論ステップを通じて生成を洗練させる。
論文 参考訳(メタデータ) (2026-05-17T03:58:01Z) - DriftXpress: Faster Drifting Models via Projected RKHS Fields [7.80855192041271]
DriftXpressは、RKHS場に基づくドリフトモデルの加速定式化である。
原ドリフトフィールドのアトラクション・反発構造を保ちながら, フィールド評価のコストを低減させる。
画像生成ベンチマーク全体では、DriftXpressは標準的なドリフトに匹敵するFIDを実現し、ウォールクロックのトレーニングコストを削減している。
論文 参考訳(メタデータ) (2026-05-12T14:26:31Z) - A solver-in-the-loop framework for end-to-end differentiable coastal hydrodynamics [4.010598744735379]
深度積分された非定常浅水方程式に基づいて, 微分可能な流体力学解法である AegirJAX を紹介する。
AegirJAX は連続計算グラフとしてタイムマーチング物理ループを扱う。
我々は、科学的な機械学習タスクのスイートでフレームワークの汎用性を実証する。
論文 参考訳(メタデータ) (2026-04-08T14:21:47Z) - Unveiling the Mechanism of Continuous Representation Full-Waveform Inversion: A Wave Based Neural Tangent Kernel Framework [52.632217600064344]
フルウェーブフォーム・インバージョン(FWI)は、限られた測定値から波動方程式の物理パラメータを推定する。
FWI法は初期モデルの精度に対する悪名高い感度によって制限されている。
連続表現 FWI (CR-FWI) の最近の進歩は、暗黙的ニューラル表現 (INR) のような座標ベースニューラルネットワークによるパラメータモデルを表現することで、初期モデルへの依存を緩和できることを実証している。
論文 参考訳(メタデータ) (2026-03-23T03:22:33Z) - Towards Fast Coarse-graining and Equation Discovery with Foundation Inference Models [6.403678133359229]
高次元記録における潜伏力学は、しばしばより小さな有効変数の集合によって特徴づけられる。
ほとんどの機械学習アプローチは、動的一貫性を強制するモデルとともにオートエンコーダをトレーニングすることで、これらのタスクに共同で取り組む。
我々は最近導入されたファンデーション推論モデル(FIM)を利用して2つの問題を分離することを提案する。
半円拡散を合成ビデオデータに埋め込んだ二重井戸系における概念実証は、高速で再利用可能な粗粒化パイプラインに対するこのアプローチの可能性を示している。
論文 参考訳(メタデータ) (2025-10-14T15:17:23Z) - Langevin Flows for Modeling Neural Latent Dynamics [81.81271685018284]
逐次変分自動エンコーダであるLangevinFlowを導入し、潜伏変数の時間的進化をアンダーダム化したLangevin方程式で制御する。
われわれのアプローチは、慣性、減衰、学習されたポテンシャル関数、力などの物理的事前を組み込んで、ニューラルネットワークにおける自律的および非自律的プロセスの両方を表現する。
本手法は,ロレンツ誘引器によって生成される合成神経集団に対する最先端のベースラインより優れる。
論文 参考訳(メタデータ) (2025-07-15T17:57:48Z) - Improving Consistency Models with Generator-Augmented Flows [16.049476783301724]
一貫性モデルは、ニューラルネットワークの単一前方通過におけるスコアベース拡散の多段階サンプリングを模倣する。
それらは、一貫性の蒸留と一貫性のトレーニングの2つの方法を学ぶことができる。
本稿では,一貫性モデルから得られたノイズデータを対応する出力へ転送する新しい流れを提案する。
論文 参考訳(メタデータ) (2024-06-13T20:22:38Z) - A Geometric Perspective on Diffusion Models [57.27857591493788]
本稿では,人気のある分散拡散型SDEのODEに基づくサンプリングについて検討する。
我々は、最適なODEベースのサンプリングと古典的な平均シフト(モード探索)アルゴリズムの理論的関係を確立する。
論文 参考訳(メタデータ) (2023-05-31T15:33:16Z) - Conditional Denoising Diffusion for Sequential Recommendation [62.127862728308045]
GAN(Generative Adversarial Networks)とVAE(VAE)の2つの顕著な生成モデル
GANは不安定な最適化に苦しむ一方、VAEは後続の崩壊と過度に平らな世代である。
本稿では,シーケンスエンコーダ,クロスアテンティブデノナイジングデコーダ,ステップワイズディフューザを含む条件付きデノナイジング拡散モデルを提案する。
論文 参考訳(メタデータ) (2023-04-22T15:32:59Z) - Manifold Interpolating Optimal-Transport Flows for Trajectory Inference [64.94020639760026]
最適輸送流(MIOFlow)を補間するマニフォールド補間法を提案する。
MIOFlowは、散発的なタイムポイントで撮影された静的スナップショットサンプルから、連続的な人口動態を学習する。
本手法は, 胚体分化および急性骨髄性白血病の治療から得られたscRNA-seqデータとともに, 分岐とマージによるシミュレーションデータについて検討した。
論文 参考訳(メタデータ) (2022-06-29T22:19:03Z) - The Limiting Dynamics of SGD: Modified Loss, Phase Space Oscillations,
and Anomalous Diffusion [29.489737359897312]
勾配降下法(SGD)を訓練した深部ニューラルネットワークの限界ダイナミクスについて検討する。
これらのダイナミクスを駆動する重要な要素は、本来のトレーニング損失ではなく、位相空間の振動を引き起こす速度と確率電流を暗黙的に規則化する修正損失の組み合わせであることを示す。
論文 参考訳(メタデータ) (2021-07-19T20:18:57Z) - Haar Wavelet based Block Autoregressive Flows for Trajectories [129.37479472754083]
歩行者等の軌道予測は,自律型エージェントの性能向上に不可欠である。
本稿では分割結合を利用した新しいハールウェーブレットに基づくブロック自己回帰モデルを提案する。
実世界の2つのデータセット上で、多種多様な正確な軌跡を生成するアプローチの利点について説明する。
論文 参考訳(メタデータ) (2020-09-21T13:57:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。