論文の概要: Scaling Online Optimal Transport Minibatches for Flow Matching

• arxiv url: http://arxiv.org/abs/2610.18838v1
• Date: Tue, 13 Oct 2026 17:56:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-16 19:24:03.80078
• Title: Scaling Online Optimal Transport Minibatches for Flow Matching
• Title（参考訳）: フローマッチングのためのオンライン最適輸送ミニバッチのスケーリング
• Abstract要約: フローマッチングにおいて、安定性は、ソースサンプルとデータをどのように組み合わせるかに大きく依存する。 アプリケーションが大規模で高次元のデータセットに拡張されるにつれて、ミニバッチはこれらの利点を制限することができる。 我々は,大規模なソースとターゲットの結合を可能にする,スケーラブルなオンラインエントロピーOT近似を開発した。
• 参考スコア（独自算出の注目度）: 55.12648363911538
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: A central challenge in scaling flow models is maintaining stability in training and integration. In flow matching, this stability depends critically on how source samples are paired with data. Independent random pairing introduces substantial stochasticity, motivating minibatch optimal transport (OT) to construct online source-target couplings that reduce this randomness (Tong et al., 2024). However, as applications extend to larger and higher-dimensional datasets, small minibatches can limit these benefits, while scaling the coupling to substantially larger minibatches at every iteration is computationally prohibitive. Moreover, how OT coupling affects the full stochastic gradient and integration remains theoretically unresolved. In this work, we develop a scalable online entropic OT approximation that enables substantially larger source-target couplings while preserving the benefits of OT. We close the theoretical gap for both unregularized and entropic OT by proving strict reductions in full stochastic-gradient variance and integration error relative to independent pairing, and further characterize how these improvements strengthen as the online coupling minibatch grows. Experiments on single-cell gene interpolation-flow and image-flow training validate these predictions, showing that larger online couplings consistently improve training stability and final generation performance.
• Abstract（参考訳）: フローモデルのスケーリングにおける中心的な課題は、トレーニングと統合の安定性を維持することだ。 フローマッチングでは、この安定性はソースサンプルとデータをどのように組み合わせるかに大きく依存する。 独立したランダムペアリングは、このランダム性を減少させるオンラインソースとターゲットのカップリングを構築するために、かなりの確率性を導入し、ミニバッチ最適輸送(OT)を動機付けている(Tong et al , 2024)。 しかしながら、アプリケーションが大規模で高次元のデータセットに拡張されるにつれて、小さなミニバッチはこれらの利点を制限し、一方で、繰り返し毎にかなり大きなミニバッチに結合をスケールすることは、計算的に禁止される。 さらに、OT結合が全確率勾配と積分にどのように影響するかは理論的には未解決のままである。 本研究では、OTの利点を保ちながら、より大規模なソース・ターゲット結合を可能にするスケーラブルなオンライン・エントロピーOT近似を開発する。 我々は,非正規化とエントロピー化を両立させる理論的ギャップを解消し,オンライン結合ミニバッチの増大に伴ってこれらの改善がいかに強化されるかを明らかにした。 単一細胞遺伝子補間フローとイメージフロートレーニングの実験はこれらの予測を検証し、より大きなオンライン結合がトレーニング安定性と最終生成性能を継続的に改善することを示した。

関連論文リスト

• Generative Nested Sampling of Atomistic Thermodynamic Landscapes [37.547720439639015]
  フローベースネストサンプリングは重力波(GW)推論のボトルネックを取り除く。 PBC の LJ ディスクは, エネルギー評価を2桁以上, 壁面時を約3分の1以上削減することを示した。 PBCのLJディスクの場合、このアルゴリズムはエネルギー評価を2桁以上、壁時計時間はおよそ3分の1以上削減する。
  論文  参考訳（メタデータ） (2026-09-02T22:21:10Z)
• Expected Batch Optimal Transport Plans and Consequences for Flow Matching [6.30004266133706]
  ランダムなミニバッチ上で最適なトランスポートを解くことは、大規模学習における正確なOTの一般的なサロゲートである。 我々は、この結合を期待バッチOTプラン$overline_k$として定式化し、実験OTプランを$k$の独立したミニバッチに対して平均化する。 我々は, OTバッチサイズが, 抽出可能な2原子モデルおよび合成および画像実験において, 数値積分とどのように相互作用するかを定量化する。
  論文  参考訳（メタデータ） (2026-05-12T14:19:09Z)
• Iterative Refinement of Flow Policies in Probability Space for Online Reinforcement Learning [56.47948583452555]
  固定ステップのEulerスキームによるフローマッチング推論プロセスの離散化は,最適輸送から変化するJordan-Kinderlehrer-Otto原理と整合する,というキーインサイトに基づいて,SWFP(Stepwise Flow Policy)フレームワークを紹介した。 SWFPは、大域的な流れを、プロキシメート分布間の小さな漸進的な変換の列に分解する。 この分解は、小さな流れブロックのカスケードを介して事前訓練された流れを微調整する効率的なアルゴリズムを導き、大きな利点をもたらす。
  論文  参考訳（メタデータ） (2025-10-17T07:43:51Z)
• Adaptive Deadline and Batch Layered Synchronized Federated Learning [66.93447103966439]
  フェデレートラーニング(FL)は、データプライバシを保持しながら、分散エッジデバイス間で協調的なモデルトレーニングを可能にする。 我々は,レイヤワイドアグリゲーションのために,ラウンド単位の期限とユーザ固有のバッチサイズを共同で最適化する新しいフレームワークADEL-FLを提案する。
  論文  参考訳（メタデータ） (2025-05-29T19:59:18Z)
• Decentralized Nonconvex Composite Federated Learning with Gradient Tracking and Momentum [78.27945336558987]
  分散サーバ(DFL)はクライアント・クライアント・アーキテクチャへの依存をなくす。 非滑らかな正規化はしばしば機械学習タスクに組み込まれる。 本稿では,これらの問題を解決する新しいDNCFLアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2025-04-17T08:32:25Z)
• Communication-Efficient Device Scheduling for Federated Learning Using Lyapunov Optimization [35.34598274073446]
  フェデレートラーニング(FL)は、データを集中的に収集することなく、分散データ上で機械学習モデルのトレーニングを可能にする便利なツールである。 FLを制約された無線環境にデプロイする場合、接続性、断続的な接続品質、および非i.d.データは、機械学習モデルのトレーニングを著しく遅くする。
  論文  参考訳（メタデータ） (2025-03-01T17:30:56Z)
• Low-rank Optimal Transport: Approximation, Statistics and Debiasing [51.50788603386766]
  フロゼットボン2021ローランで提唱された低ランク最適輸送(LOT)アプローチ LOTは興味のある性質と比較した場合、エントロピー正則化の正当な候補と見なされる。 本稿では,これらの領域のそれぞれを対象とし,計算OTにおける低ランクアプローチの影響を補強する。
  論文  参考訳（メタデータ） (2022-05-24T20:51:37Z)
• Minibatch vs Local SGD with Shuffling: Tight Convergence Bounds and Beyond [63.59034509960994]
  シャッフルに基づく変種(ミニバッチと局所ランダムリシャッフル)について検討する。 ポリアック・ロジャシエヴィチ条件を満たす滑らかな函数に対して、これらのシャッフル型不変量(英語版)(shuffling-based variants)がそれらの置換式よりも早く収束することを示す収束境界を得る。 我々は, 同期シャッフル法と呼ばれるアルゴリズムの修正を提案し, ほぼ均一な条件下では, 下界よりも収束速度が速くなった。
  論文  参考訳（メタデータ） (2021-10-20T02:25:25Z)
• Implicit Gradient Alignment in Distributed and Federated Learning [39.61762498388211]
  分散学習とフェデレーション学習においてグローバル収束を達成するための大きな障害は、クライアント間の勾配の誤調整である。 更新毎に任意の大きなバッチを使用できるようにして,同じ暗黙の正規化を誘導する新しいGradAlignアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-06-25T22:01:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。