論文の概要: Improved Training of Strong Stochastic Flow Maps
- arxiv url: http://arxiv.org/abs/2610.29605v1
- Date: Wed, 21 Oct 2026 11:43:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-23 00:40:06.350099
- Title: Improved Training of Strong Stochastic Flow Maps
- Title(参考訳): 強確率流図の学習改善
- Abstract要約: フローマップは、解道に沿って直接時間の間をジャンプすることを学ぶことによって、微分方程式(SDE)のわずかなステップサンプリングを約束する。
ブラウンパス自体は無限次元の物体であり、ニューラルネットワークに渡さなければならない。
本研究では,大規模な事前学習フローモデルから強流動マップへの微調整法を提案する。
- 参考スコア(独自算出の注目度): 41.855556530393464
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Stochastic flow maps promise few-step sampling of stochastic differential equations (SDEs) by learning to directly jump between times along the solution path, yet training these models to learn this solution map remains difficult. The primary obstacle is the Brownian path itself: it is an infinite-dimensional object which needs to be passed to the neural network and is nowhere differentiable, which makes the implementation of derivative-based losses that power the state-of-the-art deterministic flow maps just out of reach. We identify two core design principles which address these issues: a) represent the Brownian path with a basis which carries higher-order local information, and b) train with an objective that forces the network to use the full representation of the path, not just the first order. To address this, we leverage the shifted Legendre polynomial expansion with a Wong-Zakai styled objective, unlocking derivative-based losses. Finally, we propose a recipe for fine-tuning large pre-trained flow models into strong stochastic flow maps. We ablate through this design space on several toy problems and use our findings to transform a large flow model into a strong stochastic flow map on ImageNet, achieving roughly a three-fold improvement in FD-DINOv2 over SSFM at four NFE.
- Abstract(参考訳): 確率フローマップは、解経路に沿って時間の間を直接ジャンプすることを学ぶことによって、確率微分方程式(SDE)を数段階サンプリングすることを約束するが、この解写像を学習するためにこれらのモデルを訓練することは困難である。
ニューラルネットワークに渡される必要のある無限次元のオブジェクトであり、何の差別化もできないため、最先端の決定論的フローマップに到達できないような、微分に基づく損失の実装が可能である。
これらの問題に対処する2つの中核的な設計原則を特定します。
a) より高階のローカル情報を運ぶ基礎を持つブラウンパスを表し、
b) ネットワークに第1の順序だけでなく、経路の完全な表現を強制する目的を持つ訓練。
これを解決するために、Wong-Zakaiスタイルの目的によってシフトしたルジャンドル多項式展開を活用し、微分に基づく損失を解放する。
最後に, 学習済みの大規模流れモデルを高度確率的流れマップに微調整する手法を提案する。
我々は,いくつかの玩具問題に関して,このデザイン空間をアブレーションし,我々の研究結果を用いて,大規模なフローモデルをImageNet上の強い確率的フローマップに変換し,SSFMを4 NFEでFD-DINOv2を約3倍改善した。
関連論文リスト
- Normalizing Flow Maps [56.49053712783922]
我々は,正規化フローとフローマップを一般化する,正確に非可逆なプッシュフォワードマップのクラスである正規化フローマップ(NFM)を紹介する。
NFMは、基礎となる力学系の積分子を学習するが、重要なことは、建設による効率的な正確な精度評価を提供することである。
NFMは、パラメータマッチングされた正規化フロー間の最先端のサンプル品質を実現し、可能性ベースのRLHFをサポートする。
論文 参考訳(メタデータ) (2026-10-15T22:28:45Z) - JtT: Rethinking Point Trajectory Diffusion for Diverse and Rigid Motion from an Image [67.09340259579761]
単体画像からの剛体運動の予測について検討した。
我々のモデルであるJtTは座標空間で直接動作する単純な拡散変換器である。
モデルランキングは,モデルのサイズ,メートル法,停止時間にどのように依存するかを示し,より厳密なチェックポイント平均評価プロトコルを採用する。
論文 参考訳(メタデータ) (2026-10-12T11:13:37Z) - Beckmann Transport Models: From Autonomous Flows to One-Step Maps [47.88178310873025]
本稿では,時間非依存な速度場に依存する流れマッチングのインスタンス化を提案し,二つの分布をマッピングする。
また、この流れに付随する一段階生成写像が、単純な保存方程式のユニークな解であることも示している。
論文 参考訳(メタデータ) (2026-08-03T04:45:52Z) - Flow Map Learning via Nongradient Vector Flow [22.985676782036904]
拡散とフローベースのモデルは単純な回帰損失の恩恵を受けるが、サンプリングは統合を必要とするため、推論はかなりのオーバーヘッドを引き起こす。
モデル反復による明示的な可逆性制約や高価な微分を回避し,フローマップを学習するためのアプローチであるSGFlowを紹介する。
論文 参考訳(メタデータ) (2026-07-29T02:17:27Z) - Flow-Map GRPO: Reinforcement Learning for Few-Step Flow-Map Generators via Anchored Stochastic Composition [13.766141027420879]
一貫性モデルやMeanFlowのような数ステップのフローマップジェネレータは、ノイズとデータの間の長距離トランスポートマップを直接学習することで、サンプリングを高速化する。
これらのモデルは典型的には決定論的であり、ポストトレーニング手法では最適化が困難である。
本稿では,数ステップのフローマップ生成のための決定論的ポストトレーニングフレームワークであるFlow-MapOを提案する。
論文 参考訳(メタデータ) (2026-07-01T07:25:11Z) - Strong Stochastic Flow Maps [38.75021352054866]
流れと拡散モデルは多くのモードで高品質なサンプルを生成する。
フローマップは微分方程式の解写像を直接学習することでこの問題を緩和する。
我々は,加法雑音SDEの強解マップを学習するための新しいフレームワークとして,Strong Flow Map (SSFM)を提案する。
論文 参考訳(メタデータ) (2026-05-31T08:14:47Z) - Truncated Consistency Models [57.50243901368328]
トレーニング一貫性モデルは、PF ODE 軌道に沿ったすべての中間点を対応するエンドポイントにマッピングする学習を必要とする。
このトレーニングパラダイムが一貫性モデルの1ステップ生成性能を制限することを実証的に見出した。
整合性関数の新しいパラメータ化と2段階の訓練手順を提案し,時間外学習が崩壊することを防ぐ。
論文 参考訳(メタデータ) (2024-10-18T22:38:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。