論文の概要: Model-Aware Schedules Improve Generation via Fiberwise Optimal Transport
- arxiv url: http://arxiv.org/abs/2609.11842v1
- Date: Thu, 10 Sep 2026 17:30:44 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-11 23:53:35.456419
- Title: Model-Aware Schedules Improve Generation via Fiberwise Optimal Transport
- Title(参考訳): ファイバワイズ最適輸送によるモデル認識スケジューリングの改善
- Abstract要約: 拡散および流れマッチングスケジュールは、アフィン確率経路に沿ってデータとノイズを混合する信号と雑音係数を制御する。
ファイバーワイド最適輸送に基づくモデル認識型スケジュール構築を提案する。
我々は,予測対象,トレーニング構成,リスク推定チェックポイント,データセット,アーキテクチャ間のDDPMとフローマッチングを評価した。
- 参考スコア(独自算出の注目度): 1.1014388269312267
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Diffusion and flow-matching schedules control the signal and noise coefficients that mix data and noise along affine probability paths. Minimizing a kinetic action defined on coefficient paths, motivated by optimal transport, helps explain strong baselines but remains model-agnostic and ignores prediction error. Here we introduce a model-aware schedule construction based on fiberwise optimal transport. At a fixed time and state on the probability path, compatible signal/noise decompositions form an affine fiber. We define a fiberwise prediction risk by averaging optimal-transport costs between the true and predictor-induced decompositions within these fibers. On a fixed coefficient curve, combining this risk with coefficient-path kinetic action yields a closed-form optimal time allocation. This construction extends to general linear prediction targets, and the risk profile can be estimated from an early baseline checkpoint. We evaluate DDPMs and flow matching across prediction targets, training configurations, risk-estimation checkpoints, datasets, and architectures. Our model-aware schedules consistently outperform strong baselines, including a 38.6% relative FID reduction for flow matching on CIFAR-10 at 16 function evaluations. Each model-agnostic kinetic baseline determines its own kinetic reference coordinate. In these coordinates, fiberwise-risk profiles from independently trained models in different settings align closely after normalization to unit area. The resulting schedule deformations used in training also align, suggesting empirical universality across the evaluated models and settings. Pretrained-checkpoint diagnostics extend this normalized-risk agreement to larger conditional latent diffusion and 2-RF models. A frozen analytic allocation template retains most of the model-aware improvement without further risk estimation or model-specific fitting.
- Abstract(参考訳): 拡散および流れマッチングスケジュールは、アフィン確率経路に沿ってデータとノイズを混合する信号と雑音係数を制御する。
最適輸送によって動機付けられた係数経路上で定義される運動的作用を最小化することは、強いベースラインを説明するのに役立つが、モデルに依存しないままであり、予測誤差を無視する。
本稿では,ファイバーワイド最適輸送に基づくモデル認識型スケジュール構築について紹介する。
確率パス上の一定時間と状態において、互換信号/雑音分解はアフィンファイバーを形成する。
本研究は, ファイバ内における真と予測子による分解の最適輸送コストを平均化することにより, ファイバワイズ予測リスクを定義する。
固定係数曲線では、このリスクと係数パス運動作用を組み合わせることで、閉形式の最適時間割当が得られる。
この構造は一般的な線形予測対象にまで拡張され、リスクプロファイルは早期のベースラインチェックポイントから推定できる。
我々は,予測対象,トレーニング構成,リスク推定チェックポイント,データセット,アーキテクチャ間のDDPMとフローマッチングを評価した。
CIFAR-10におけるフローマッチングの相対的FID削減率を16関数評価で38.6%を含む,モデル認識のスケジュールは強いベースラインを一貫して上回ります。
各モデルに依存しない運動ベースラインは、自身の運動基準座標を決定する。
これらの座標において、独立に訓練された異なる設定のモデルのファイバーワイズリスクプロファイルは、正規化後、単位領域に密接に整合する。
トレーニングで使用されるスケジュールの変形も一致し、評価されたモデルと設定にまたがる経験的普遍性を示唆する。
事前チェックポイント診断は、この正規化リスク契約をより大きな条件付き潜伏拡散と2-RFモデルに拡張する。
凍結解析的アロケーションテンプレートは、さらなるリスク推定やモデル固有のフィッティングなしに、モデル認識の改善の大部分を維持できる。
関連論文リスト
- Stochastically Perturbed Weights: Ensembles from Deterministic Machine-Learning Weather Models [0.0]
多くの機械学習気象モデル(MLWM)は決定論的であり、その不確実性を見積もることなく単一の予測を生成する。
訓練された確率的なモデルの家族は、専用トレーニングランの価格で、キャリブレーションされたアンサンブルを直接生成します。
我々は、すでに存在する決定論的チェックポイントから、どの程度の不確実性を取り出すことができるのかを、再訓練することなく尋ねる。
論文 参考訳(メタデータ) (2026-09-08T08:18:40Z) - A Defense of the Quadratic Model [71.57026347416729]
最も単純な最適化モデル -- 二次モデル -- をテストする。
1億5000万のパラメータと3Bのトレーニングトークンを持つLLM設定で驚くほど予測可能であることを示す。
論文 参考訳(メタデータ) (2026-07-23T18:02:03Z) - From Atoms to Entropy: Optimal Noise Allocation for Diffusion Training in the Convex Regime [52.459513910242485]
拡散訓練における最適な雑音レベルアロケーションを研究するための一般統計フレームワークを開発する。
最適化されたトレーニングスケジュールは、有限個のノイズレベルに集中した原子最小値を持つことを示す。
次に,大規模実験におけるエントロピック・スケジュールの評価を行った。
論文 参考訳(メタデータ) (2026-07-10T20:59:06Z) - Curvature-Guided LoRA: Steering in the pretrained NTK subspace [60.35296431630704]
本稿では,PEFTを用いて得られた予測器と,出力レベルにおける完全微調整の予測器との整合性を考慮した予測アライメント問題を提案する。
我々は、この目的が自然に、ニュートンのような、曲率ホワイトの勾配に対応する最適な低ランク更新を行う、曲率対応の2階定式化につながることを示した。
この知見に基づいて、局所曲率情報を用いて適応方向を選択し、スケールする曲率誘導LoRA(CG-LoRA)を提案する。
論文 参考訳(メタデータ) (2026-03-31T14:46:39Z) - Self-Flow-Matching assisted Full Waveform Inversion [10.422441176688597]
フルウェーブフォームインバージョン(Full-waveform Inversion、FWI)は、シミュレーションおよび記録された波形のマッチングにより地下速度を推定する高分解能地震探査法である。
FWIは非常に非線形で、サイクルスキップしやすく、ノイズに敏感である。
本稿では,大規模オフライン事前学習の必要性を解消する物理駆動型フレームワークであるSFM-FWI(Self-Flow-Matching Assisted Full-Waveform Inversion)を紹介する。
論文 参考訳(メタデータ) (2026-03-13T02:10:01Z) - Differentiable Stochastic Traffic Dynamics: Physics-Informed Generative Modelling in Transportation [0.0]
この研究は、物理制約自体が分散的かつ空間的であり、トラフィックフローのダイナミクスから導かれる枠組みを開発する。
このフレームワークは、分散トラフィック状態推定の基礎と、物理インフォームド・ジェネレーティブ・セッティングにおける基礎解析の基盤を提供する。
論文 参考訳(メタデータ) (2026-03-10T04:25:20Z) - Adaptive Conformal Prediction Intervals Over Trajectory Ensembles [50.31074512684758]
将来の軌道は、自律運転、ハリケーン予測、疫病モデルといった領域で重要な役割を果たしている。
本稿では,サンプル軌道を理論的カバレッジ保証付き校正された予測区間に変換する共形予測に基づく統一的なフレームワークを提案する。
論文 参考訳(メタデータ) (2025-08-18T21:14:07Z) - Self-Boost via Optimal Retraining: An Analysis via Approximate Message Passing [58.52119063742121]
独自の予測と潜在的にノイズの多いラベルを使ってモデルをトレーニングすることは、モデルパフォーマンスを改善するためのよく知られた戦略である。
本稿では,モデルの予測と提供ラベルを最適に組み合わせる方法について論じる。
我々の主な貢献は、現在のモデルの予測と与えられたラベルを組み合わせたベイズ最適集約関数の導出である。
論文 参考訳(メタデータ) (2025-05-21T07:16:44Z) - An Adaptive Framework for Autoregressive Forecasting in CFD Using Hybrid Modal Decomposition and Deep Learning [3.1337872355726084]
この研究は著者の知識を最大限に活用するために、ディープラーニング(DL)自己回帰予測モデルを長期間の地平線上で安定化させるために設計された、最初の一般化可能で完全なデータ駆動適応フレームワークを提示する。
提案手法は, (i) 訓練されたDLモデルを用いて, 選択した時間間隔で流れ場の進化を予測し, (ii) 安定度が低下した場合に新たに生成されたCFDデータを用いてモデルを更新することにより, 正確な長期予測を行う。
この枠組みは, 層流から乱流まで, より複雑化する3つの流路にまたがって検証され, 30%から95パーセントの範囲で実証された。
論文 参考訳(メタデータ) (2025-05-02T18:33:41Z) - Improving and generalizing flow-based generative models with minibatch
optimal transport [90.01613198337833]
連続正規化フロー(CNF)のための一般条件流整合(CFM)技術を導入する。
CFMは、拡散モデルのフローをトレーニングするために使用されるような安定した回帰目標を特徴としているが、決定論的フローモデルの効率的な推論を好んでいる。
我々の目的の変種は最適輸送CFM (OT-CFM) であり、訓練がより安定し、より高速な推論をもたらすより単純なフローを生成する。
論文 参考訳(メタデータ) (2023-02-01T14:47:17Z) - Active Learning with Multifidelity Modeling for Efficient Rare Event
Simulation [0.0]
希少事象の効率的に推定することを強調する多忠実度モデリングを用いた能動的学習フレームワークを提案する。
我々のフレームワークは、低忠実度(LF)予測をHF推論補正と融合させ、修正されたLF予測をフィルタリングして、高忠実度モデルを呼び出すかどうかを決定する。
障害確率を小さくする際のロバスト性を改善するため,HFモデルをいつ呼び出すかを決定する動的能動学習関数を提案する。
論文 参考訳(メタデータ) (2021-06-25T17:44:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。