論文の概要: Discrete Flow Maps
- arxiv url: http://arxiv.org/abs/2604.09784v1
- Date: Fri, 10 Apr 2026 18:10:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-14 20:13:15.672591
- Title: Discrete Flow Maps
- Title(参考訳): 離散フローマップ
- Authors: Peter Potaptchik, Jason Yim, Adhi Saravanan, Peter Holderrieth, Eric Vanden-Eijnden, Michael S. Albergo,
- Abstract要約: Flow Mapは生成軌道を1ステップのマッピングに圧縮する。
標準定式化は、離散データに対して幾何学的に不適なユークリッド回帰損失に依存する。
離散領域の標準的なフローマップトレーニングをリキャストし、トレーニングのダイナミクスと言語の性質を一致させる。
- 参考スコア(独自算出の注目度): 19.374556402778207
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The sequential nature of autoregressive next-token prediction imposes a fundamental speed limit on large language models. While continuous flow models offer a path to parallel generation, they traditionally demand expensive iterative integration. Flow Maps bypass this bottleneck by compressing generative trajectories into single-step mappings, theoretically enabling the generation of full text sequences from noise in a single forward pass. However, standard formulations rely on Euclidean regression losses that are geometrically ill-suited for discrete data. In this work, we resolve this conflict with Discrete Flow Maps, a framework that reconciles trajectory compression with the geometry of the probability simplex. We recast standard flow map training for the discrete domain, aligning the training dynamics with the discrete nature of language. Empirically, this strict geometric alignment allows our method to surpass previous state-of-the-art results in discrete flow modeling.
- Abstract(参考訳): 自己回帰的次トーケン予測のシーケンシャルな性質は、大きな言語モデルに基本的な速度制限を課している。
継続的フローモデルは並列生成へのパスを提供するが、彼らは伝統的に高価な反復的な統合を必要としている。
フローマップはこのボトルネックを回避し、生成軌跡を単一ステップのマッピングに圧縮し、理論的には単一の前方通過のノイズから完全なテキストシーケンスを生成する。
しかし、標準的な定式化は、離散データに幾何学的に不適なユークリッド回帰損失に依存する。
本研究は, 軌道圧縮を確率的単純度の幾何学と整合するフレームワークである離散フローマップとの矛盾を解消する。
離散領域の標準的なフローマップトレーニングをリキャストし、トレーニングのダイナミクスと言語の性質を一致させる。
この厳密な幾何学的アライメントは,従来の流れモデルにおいて,従来の最先端結果を上回る結果が得られることを実証的に示している。
関連論文リスト
- Unrestrained Simplex Denoising for Discrete Data. A Non-Markovian Approach Applied to Graph Generation [50.328122325596865]
本稿では,確率的単純度をベースとした,シンプルで効果的な生成フレームワークであるSimplex Denoisingを紹介する。
与えられたクリーンなデータポイントに対して、異なるタイミングでのノイズ表現は条件独立である。
経験的に、訓練された単純な騒音は、強い離散拡散とフローマッチングベースラインを超越する。
論文 参考訳(メタデータ) (2026-03-30T15:26:56Z) - Categorical Flow Maps [42.309126712129384]
カテゴリーフローマップ(Categorical Flow Map)は, 自己蒸留による数段階のカテゴリーデータ生成を高速化するフローマッチング手法である。
画像, 分子グラフ, テキストにおける最先端数ステップの結果を, 単一ステップ生成においても高い性能で達成する。
論文 参考訳(メタデータ) (2026-02-12T18:10:46Z) - PRISM: Parallel Residual Iterative Sequence Model [52.26239951489612]
我々はこの緊張を解決するためにPRISM(Parallel Residual Iterative Sequence Model)を提案する。
PRISMは、パラレル化可能な形で多段階精製の重要な構造特性を捉える、ソルバに着想を得た帰納バイアスを導入している。
この定式化が Rank-$L$ の蓄積を達成することを証明し、更新多様体を単一ステップの Rank-$1$ ボトルネックを超えて構造的に拡張する。
論文 参考訳(メタデータ) (2026-02-11T12:39:41Z) - FlowConsist: Make Your Flow Consistent with Real Trajectory [99.22869983378062]
現在の高速フロートレーニングパラダイムには,2つの根本的な問題がある,と我々は主張する。
ランダムにペアリングされたノイズデータサンプルから構築された条件付き速度は、系統的な軌跡ドリフトを導入する。
本研究では,高速フローにおける軌道整合性を実現するためのトレーニングフレームワークであるFlowConsistを提案する。
論文 参考訳(メタデータ) (2026-02-06T03:24:23Z) - ProFlow: Zero-Shot Physics-Consistent Sampling via Proximal Flow Guidance [35.08166384258028]
ProFlowはゼロショット物理一貫性サンプリングのためのフレームワークである。
厳密な物理的整合性と観測的忠実さを事前訓練された前の統計構造と整合させる。
これは、より正確な分布統計だけでなく、より優れた物理的および観測的整合性を達成する。
論文 参考訳(メタデータ) (2026-01-28T03:57:00Z) - FlowPath: Learning Data-Driven Manifolds with Invertible Flows for Robust Irregularly-sampled Time Series Classification [14.643457217551484]
本研究では,制御経路の幾何学を可逆的ニューラルフローで学習する新しいアプローチであるFlowPathを提案する。
FlowPathは、固定補間体や非可逆アーキテクチャを用いて、ベースライン上の分類精度の統計的に有意な向上を実現していることを示す。
論文 参考訳(メタデータ) (2025-11-13T22:59:26Z) - On the flow matching interpretability [2.816392009888047]
本稿では,既知の物理分布から各フローステップを抽出するフレームワークを提案する。
流れの軌跡は、シミュレートされた物理過程の平衡状態にマッピングされる(そしてトラバースに制約される)。
このことは、生成フローに物理的意味論を埋め込むことで、神経軌跡を解釈可能な物理過程に変換することを示している。
論文 参考訳(メタデータ) (2025-10-24T07:26:45Z) - Flow map matching with stochastic interpolants: A mathematical framework for consistency models [15.520853806024943]
フローマップマッチングは、基礎となる生成モデルの2時間フローマップを学ぶための原則化されたフレームワークである。
FMMは,高速サンプリングのための既存手法の幅広いクラスを統一し,拡張することを示す。
論文 参考訳(メタデータ) (2024-06-11T17:41:26Z) - Discrete Denoising Flows [87.44537620217673]
分類的確率変数に対する離散的フローベースモデル(DDF)を提案する。
他の離散フローベースモデルとは対照的に、我々のモデルは勾配バイアスを導入することなく局所的に訓練することができる。
そこで本研究では, DDFs が離散フローより優れていることを示し, 対数類似度で測定した2値MNIST と Cityscapes のセグメンテーションマップをモデル化した。
論文 参考訳(メタデータ) (2021-07-24T14:47:22Z) - Haar Wavelet based Block Autoregressive Flows for Trajectories [129.37479472754083]
歩行者等の軌道予測は,自律型エージェントの性能向上に不可欠である。
本稿では分割結合を利用した新しいハールウェーブレットに基づくブロック自己回帰モデルを提案する。
実世界の2つのデータセット上で、多種多様な正確な軌跡を生成するアプローチの利点について説明する。
論文 参考訳(メタデータ) (2020-09-21T13:57:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。