論文の概要: Flow Matching with General Discrete Paths: A Kinetic-Optimal Perspective

• arxiv url: http://arxiv.org/abs/2412.03487v1
• Date: Wed, 04 Dec 2024 17:24:35 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-05 15:09:32.210653
• Title: Flow Matching with General Discrete Paths: A Kinetic-Optimal Perspective
• Title（参考訳）: 一般離散経路とのフローマッチング:動力学的・最適視点
• Authors: Neta Shaul, Itai Gat, Marton Havasi, Daniel Severo, Anuroop Sriram, Peter Holderrieth, Brian Karrer, Yaron Lipman, Ricky T. Q. Chen,
• Abstract要約: 連続時間マルコフ連鎖に基づく離散生成モデルの構築に対して、全体論的アプローチをとる。 任意の確率経路に適用可能な速度公式を提案する。 複数のモダリティにまたがる新しいデザイン空間の有用性を実証的に検証する。
• 参考スコア（独自算出の注目度）: 40.78420449560499
• License:
• Abstract: The design space of discrete-space diffusion or flow generative models are significantly less well-understood than their continuous-space counterparts, with many works focusing only on a simple masked construction. In this work, we aim to take a holistic approach to the construction of discrete generative models based on continuous-time Markov chains, and for the first time, allow the use of arbitrary discrete probability paths, or colloquially, corruption processes. Through the lens of optimizing the symmetric kinetic energy, we propose velocity formulas that can be applied to any given probability path, completely decoupling the probability and velocity, and giving the user the freedom to specify any desirable probability path based on expert knowledge specific to the data domain. Furthermore, we find that a special construction of mixture probability paths optimizes the symmetric kinetic energy for the discrete case. We empirically validate the usefulness of this new design space across multiple modalities: text generation, inorganic material generation, and image generation. We find that we can outperform the mask construction even in text with kinetic-optimal mixture paths, while we can make use of domain-specific constructions of the probability path over the visual domain.
• Abstract（参考訳）: 離散空間拡散またはフロー生成モデルの設計空間は、その連続空間よりもはるかによく理解されておらず、多くの研究は単純なマスク構造のみに焦点を当てている。 本研究では,連続時間マルコフ連鎖に基づく離散生成モデルの構築に対する全体論的なアプローチをめざし,任意の離散確率パス(英語版)を初めて利用できるようにすることを目的とする。 対称運動エネルギーを最適化するレンズを通して、任意の確率パスに適用可能な速度公式を提案し、確率と速度を完全に分離し、データ領域に固有の専門知識に基づいて任意の望ましい確率パスを指定する自由を与える。 さらに、混合確率経路の特別な構成は離散の場合の対称運動エネルギーを最適化する。 本稿では, テキスト生成, 無機材料生成, 画像生成など, 新たなデザイン空間の有用性を実証的に検証する。 我々は,視覚領域上の確率経路の領域固有の構成を利用できる一方で,動力学的・最適混合経路のテキストにおいてもマスク構成よりも優れることがわかった。

関連論文リスト

• Flow Matching: Markov Kernels, Stochastic Processes and Transport Plans [1.9766522384767222]
  フローマッチング技術は、逆問題の解決に利用できる。 逆問題の解法として,フローマッチングが有効であることを示す。 本稿では,連続正規化フローとスコアマッチング手法について簡潔に述べる。
  論文  参考訳（メタデータ） (2025-01-28T10:28:17Z)
• Multi-Agent Path Finding in Continuous Spaces with Projected Diffusion Models [57.45019514036948]
  MAPF(Multi-Agent Path Finding)は、ロボット工学における基本的な問題である。 連続空間におけるMAPFの拡散モデルと制約付き最適化を統合する新しい手法を提案する。
  論文  参考訳（メタデータ） (2024-12-23T21:27:19Z)
• Discrete Flow Matching [74.04153927689313]
  本稿では,離散データ生成に特化して設計された新しい離散フローパラダイムを提案する。 我々のアプローチは、非自己回帰的な方法で高品質な離散データを生成することができる。
  論文  参考訳（メタデータ） (2024-07-22T12:33:27Z)
• Dynamical Measure Transport and Neural PDE Solvers for Sampling [77.38204731939273]
  本研究では, 対象物へのトラクタブル密度関数の移動として, 確率密度からサンプリングする作業に取り組む。 物理インフォームドニューラルネットワーク(PINN)を用いて各偏微分方程式(PDE)の解を近似する。 PINNはシミュレーションと離散化のない最適化を可能にし、非常に効率的に訓練することができる。
  論文  参考訳（メタデータ） (2024-07-10T17:39:50Z)
• Space-Time Diffusion Bridge [0.4527270266697462]
  実確率分布から独立かつ同一に分布する新しい合成サンプルを生成する方法を提案する。 時空間次元にまたがる時空間混合戦略を用いる。 数値実験による時空拡散法の有効性を検証した。
  論文  参考訳（メタデータ） (2024-02-13T23:26:11Z)
• Equivariant Flow Matching with Hybrid Probability Transport [69.11915545210393]
  拡散モデル (DM) は, 特徴量の多いジオメトリの生成に有効であることを示した。 DMは通常、非効率なサンプリング速度を持つ不安定な確率力学に悩まされる。 等変モデリングと安定化確率力学の両方の利点を享受する幾何フローマッチングを導入する。
  論文  参考訳（メタデータ） (2023-12-12T11:13:13Z)
• FreeFlow: A Comprehensive Understanding on Diffusion Probabilistic Models via Optimal Transport [3.8496256387884378]
  拡散確率モデル(DPM)は、その優れた性能と、物理学から引き出されたエレガントなインスピレーションにより、大きな関心を集めている。 時間依存の最適輸送として拡散公式の詳細な説明を提供するフレームワークであるFreeFlowを提案する。 特に、コア方程式FreeFlowは、すべての決定論的および決定論的DPMを単一のケースに縮合し、我々の方法の拡張可能性を示す。
  論文  参考訳（メタデータ） (2023-12-09T07:24:40Z)
• Differentiating Metropolis-Hastings to Optimize Intractable Densities [51.16801956665228]
  我々はメトロポリス・ハスティングス検層の自動識別アルゴリズムを開発した。 難解な対象密度に対する期待値として表現された目的に対して勾配に基づく最適化を適用する。
  論文  参考訳（メタデータ） (2023-06-13T17:56:02Z)
• Stochastic Interpolants: A Unifying Framework for Flows and Diffusions [16.95541777254722]
  フローベースおよび拡散ベースを統一する生成モデルのクラスを紹介する。 これらのモデルは、Albergo & VandenEijnden (2023) で提案されたフレームワークを拡張し、確率補間子と呼ばれる広範囲の連続時間プロセスの使用を可能にする。 これらの補間材は、2つの所定の密度のデータと、橋を柔軟に形作る追加の潜伏変数を組み合わせることで構築される。
  論文  参考訳（メタデータ） (2023-03-15T17:43:42Z)
• Semi-Discrete Normalizing Flows through Differentiable Tessellation [31.474420819149724]
  本稿では,連続空間上の量子化境界を正確に評価し,テッセルレーションに基づく手法を提案する。 これは、微分可能なボロノイ・テッセルレーションによってパラメータ化された凸多面体上の正規化フローを構築することによって行われる。 我々は,データモダリティの多様さにまたがる既存手法の改善を示すとともに,Voronoi混合をベースラインモデルに組み込むことで,大きな利益を得ることができることを見出した。
  論文  参考訳（メタデータ） (2022-03-14T03:06:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。