論文の概要: Time dependent loss reweighting for flow matching and diffusion models is theoretically justified
- arxiv url: http://arxiv.org/abs/2511.16599v1
- Date: Thu, 20 Nov 2025 17:55:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-11-21 17:08:52.775993
- Title: Time dependent loss reweighting for flow matching and diffusion models is theoretically justified
- Title(参考訳): 流れマッチングと拡散モデルのための時間依存損失再重み付けは理論的に正当化される
- Authors: Lukas Billera, Hedwig Nora Nordlinder, Ben Murrell,
- Abstract要約: 我々は、Bregman分散損失とジェネレータの線形パラメータ化が現在の状態$X_t$と時間$t$の両方に依存することを示す。
また、Generator Matchingの外部にあるEdit Flowsにもこれを示します。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This brief note clarifies that, in Generator Matching (which subsumes a large family of flow matching and diffusion models over continuous, manifold, and discrete spaces), both the Bregman divergence loss and the linear parameterization of the generator can depend on both the current state $X_t$ and the time $t$, and we show that the expectation over time in the loss can be taken with respect to a broad class of time distributions. We also show this for Edit Flows, which falls outside of Generator Matching. That the loss can depend on $t$ clarifies that time-dependent loss weighting schemes, often used in practice to stabilize training, are theoretically justified when the specific flow or diffusion scheme is a special case of Generator Matching (or Edit Flows). It also often simplifies the construction of $X_1$-predictor schemes, which are sometimes preferred for model-related reasons. We show examples that rely upon the dependence of linear parameterizations, and of the Bregman divergence loss, on $t$ and $X_t$.
- Abstract(参考訳): この短いノートは、ジェネレータマッチング(連続、多様体、離散空間上のフローマッチングと拡散モデルの大きなファミリーを仮定する)において、Bregman分散損失とジェネレータの線形パラメータ化は、現在の状態$X_t$と時間$t$の両方に依存することができ、損失における時間的期待は、時間的分布の幅広いクラスに関して取ることができることを示している。
また、Generator Matchingの外部にあるEdit Flowsにもこれを示します。
損失が$t$に依存することは、時間依存の損失重み付けスキームが、訓練を安定させるためにしばしば使用されるが、特定のフローまたは拡散スキームがジェネレータマッチング(または編集フロー)の特別なケースである場合に理論的に正当化されることを明らかにする。
また、モデル関連の理由からしばしば好まれる$X_1$-predictorスキームの構築を単純化する。
線形パラメータ化とブレグマン発散損失の依存に依存する例を$t$と$X_t$で示す。
関連論文リスト
- Convergence, design and training of continuous-time dropout as a random batch method [0.0]
ランダムバッチ方式のレンズを用いた連続時間モデルにおけるドロップアウト正規化について検討する。
我々は、長さ$h$の時間間隔でニューロンのバッチをサンプリングすることによって、ドロップアウトを模倣する、偏りのない、よく考えられた推定器を構築した。
次に、単層ニューラルネットワークを専門とし、分類とフローマッチングの理論を検証する。
論文 参考訳(メタデータ) (2025-10-15T04:19:01Z) - Error Analysis of Discrete Flow with Generator Matching [34.847768962128164]
我々は、離散フローモデルの理論的性質を研究するために、計算理論に基づく統一的な枠組みを開発する。
具体的には、遷移速度の異なる2つの連続時間マルコフ連鎖に関する2つの経路測度のKLばらつきを導出する。
遷移速度推定と早期停止から生じる誤差を包括的に分析する。
論文 参考訳(メタデータ) (2025-09-26T05:41:45Z) - Flow based approach for Dynamic Temporal Causal models with non-Gaussian or Heteroscedastic Noises [37.02662517645979]
因果発見のための統合フレームワークであるFANTOMを紹介する。
非定常過程と非ガウス的および異方性雑音を扱う。
同時にレジームの数と対応するインデックスを推測し、各レジームのディレクテッド・アサイクリックグラフを学習する。
論文 参考訳(メタデータ) (2025-06-20T15:12:43Z) - Trajectory Generator Matching for Time Series [0.0]
軌道フローマッチングにインスパイアされたSDEとジャンププロセスの新しいジェネレータを見つける。
ジャンプカーネル密度をパラメータ化することで、基礎となるプロセスの不連続性を扱うことができる。
他のほとんどのアプローチとは異なり、不規則にサンプリングされた時系列を扱うことができる。
論文 参考訳(メタデータ) (2025-05-29T07:56:32Z) - EquiReg: Equivariance Regularized Diffusion for Inverse Problems [67.01847869495558]
拡散に基づく逆問題解法における後方サンプリングを正規化するためのフレームワークであるEquiReg拡散法を提案する。
様々な解法に適用すると、EquiRegは線形および非線形画像復元タスクにおいて最先端の拡散モデルより優れる。
論文 参考訳(メタデータ) (2025-05-29T01:25:43Z) - Non-asymptotic bounds for forward processes in denoising diffusions: Ornstein-Uhlenbeck is hard to beat [49.1574468325115]
本稿では,全変動(TV)における前方拡散誤差の非漸近的境界について述べる。
我々は、R$からFarthestモードまでの距離でマルチモーダルデータ分布をパラメライズし、加法的および乗法的雑音による前方拡散を考察する。
論文 参考訳(メタデータ) (2024-08-25T10:28:31Z) - Rejection via Learning Density Ratios [50.91522897152437]
拒絶による分類は、モデルを予測しないことを許容する学習パラダイムとして現れます。
そこで我々は,事前学習したモデルの性能を最大化する理想的なデータ分布を求める。
私たちのフレームワークは、クリーンでノイズの多いデータセットで実証的にテストされます。
論文 参考訳(メタデータ) (2024-05-29T01:32:17Z) - On Error Propagation of Diffusion Models [77.91480554418048]
DMのアーキテクチャにおける誤り伝播を数学的に定式化するための理論的枠組みを開発する。
累積誤差を正規化項として適用して誤差伝搬を低減する。
提案した正規化はエラーの伝播を低減し,バニラDMを大幅に改善し,以前のベースラインよりも優れていた。
論文 参考訳(メタデータ) (2023-08-09T15:31:17Z) - Scalable Dynamic Mixture Model with Full Covariance for Probabilistic Traffic Forecasting [14.951166842027819]
時間変化誤差過程に対するゼロ平均ガウス分布の動的混合を提案する。
提案手法は,学習すべきパラメータを数つ追加するだけで,既存のディープラーニングフレームワークにシームレスに統合することができる。
提案手法を交通速度予測タスク上で評価し,提案手法がモデル水平線を改良するだけでなく,解釈可能な時間相関構造も提供することを発見した。
論文 参考訳(メタデータ) (2022-12-10T22:50:00Z) - Multivariate Probabilistic Forecasting of Intraday Electricity Prices
using Normalizing Flows [62.997667081978825]
ドイツでは、日内電気価格は通常、EPEXスポット市場の1日当たりの価格に異なる時間帯で変動する。
本研究は,日頭契約の日内価格差をモデル化する確率論的モデリング手法を提案する。
論文 参考訳(メタデータ) (2022-05-27T08:38:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。