論文の概要: Learning Distributions on Manifolds with Free-form Flows
- arxiv url: http://arxiv.org/abs/2312.09852v1
- Date: Fri, 15 Dec 2023 14:58:34 GMT
- ステータス: 処理完了
- システム内更新日: 2023-12-18 15:15:38.514970
- Title: Learning Distributions on Manifolds with Free-form Flows
- Title(参考訳): 自由流を伴う多様体上の学習分布
- Authors: Peter Sorrenson, Felix Draxler, Armand Rousselot, Sander Hummerich,
Ullrich K\"othe
- Abstract要約: トレーニングは、最近提案されたフリーフォームフローフレームワークの適応によって達成される。
中心となる考え方は、接空間で評価されたトレースを通して負の対数様の勾配を推定することである。
従来の作業に比べて、競争性能での推測が大幅に速いことが分かりました。
- 参考スコア(独自算出の注目度): 2.0891120283967264
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Many real world data, particularly in the natural sciences and computer
vision, lie on known Riemannian manifolds such as spheres, tori or the group of
rotation matrices. The predominant approaches to learning a distribution on
such a manifold require solving a differential equation in order to sample from
the model and evaluate densities. The resulting sampling times are slowed down
by a high number of function evaluations. In this work, we propose an
alternative approach which only requires a single function evaluation followed
by a projection to the manifold. Training is achieved by an adaptation of the
recently proposed free-form flow framework to Riemannian manifolds. The central
idea is to estimate the gradient of the negative log-likelihood via a trace
evaluated in the tangent space. We evaluate our method on various manifolds,
and find significantly faster inference at competitive performance compared to
previous work. We make our code public at https://github.com/vislearn/FFF.
- Abstract(参考訳): 現実世界のデータの多くは、特に自然科学やコンピュータビジョンにおいて、球面、トーラス、回転行列群のような既知のリーマン多様体上に存在する。
そのような多様体上の分布を学習するには、モデルから標本を採取し密度を評価するために微分方程式を解く必要がある。
得られたサンプリング時間は、多数の関数評価によって遅くなる。
本研究では, 1 つの関数評価と多様体への射影のみを必要とする別の手法を提案する。
トレーニングは、最近提案された自由形式フローフレームワークをリーマン多様体に適応させることによって達成される。
中心となる考え方は、接空間で評価されたトレースを通して負の対数様の勾配を推定することである。
提案手法は様々な多様体上で評価し, 従来の手法に比べ, 性能の面では有意に高速であることがわかった。
コードをhttps://github.com/vislearn/FFF.comで公開しています。
関連論文リスト
- Derivative-Free Guidance in Continuous and Discrete Diffusion Models with Soft Value-Based Decoding [84.3224556294803]
拡散モデルは、画像、分子、DNA、RNA、タンパク質配列の自然なデザイン空間を捉えるのに優れている。
これらの設計空間の自然性を保ちながら、下流の報酬関数を最適化することを目指している。
提案アルゴリズムは,中間雑音状態が将来高い報酬をもたらすことの先駆けとして,ソフトバリュー関数を統合する。
論文 参考訳(メタデータ) (2024-08-15T16:47:59Z) - A Diffusion Model Framework for Unsupervised Neural Combinatorial Optimization [7.378582040635655]
現在のディープラーニングアプローチは、正確なサンプル確率を生み出す生成モデルに依存している。
この研究は、この制限を解除し、高度に表現力のある潜在変数モデルを採用する可能性を開放する手法を導入する。
我々は,データフリーなコンビネーション最適化におけるアプローチを実験的に検証し,幅広いベンチマーク問題に対して新しい最先端の手法を実現することを実証した。
論文 参考訳(メタデータ) (2024-06-03T17:55:02Z) - Optimal Flow Matching: Learning Straight Trajectories in Just One Step [89.37027530300617]
我々は,新しいtextbf Optimal Flow Matching (OFM) アプローチを開発し,理論的に正当化する。
これは2次輸送のための直列のOT変位をFMの1ステップで回復することを可能にする。
提案手法の主な考え方は,凸関数によってパラメータ化されるFMのベクトル場の利用である。
論文 参考訳(メタデータ) (2024-03-19T19:44:54Z) - Generative Modeling on Manifolds Through Mixture of Riemannian Diffusion Processes [57.396578974401734]
一般多様体上に生成拡散過程を構築するための原理的枠組みを導入する。
従来の拡散モデルの認知的アプローチに従う代わりに、橋梁プロセスの混合を用いて拡散過程を構築する。
混合過程を幾何学的に理解し,データ点への接する方向の重み付け平均としてドリフトを導出する。
論文 参考訳(メタデータ) (2023-10-11T06:04:40Z) - Efficient Multimodal Sampling via Tempered Distribution Flow [11.36635610546803]
我々はTemperFlowと呼ばれる新しいタイプのトランスポートベースサンプリング手法を開発した。
種々の実験により, 従来の手法と比較して, 新規サンプリング器の優れた性能が示された。
画像生成などの最新のディープラーニングタスクに応用例を示す。
論文 参考訳(メタデータ) (2023-04-08T06:40:06Z) - Fast Sampling of Diffusion Models via Operator Learning [74.37531458470086]
我々は,拡散モデルのサンプリング過程を高速化するために,確率フロー微分方程式の効率的な解法であるニューラル演算子を用いる。
シーケンシャルな性質を持つ他の高速サンプリング手法と比較して、並列復号法を最初に提案する。
本稿では,CIFAR-10では3.78、ImageNet-64では7.83の最先端FIDを1モデル評価環境で達成することを示す。
論文 参考訳(メタデータ) (2022-11-24T07:30:27Z) - Improving Diffusion Models for Inverse Problems using Manifold Constraints [55.91148172752894]
我々は,現在の解法がデータ多様体からサンプルパスを逸脱し,エラーが蓄積することを示す。
この問題に対処するため、多様体の制約に着想を得た追加の補正項を提案する。
本手法は理論上も経験上も従来の方法よりも優れていることを示す。
論文 参考訳(メタデータ) (2022-06-02T09:06:10Z) - Flow Network based Generative Models for Non-Iterative Diverse Candidate
Generation [110.09855163856326]
本稿では,アクションのシーケンスからオブジェクトを生成するためのポリシーを学習する問題について述べる。
本稿では,生成過程をフローネットワークとして見たGFlowNetを提案する。
提案した目的の任意のグローバルな最小限が、所望の分布から標本化する方針を導出することを証明する。
論文 参考訳(メタデータ) (2021-06-08T14:21:10Z) - Neural Ordinary Differential Equations on Manifolds [0.342658286826597]
近年、ニューラルODEに基づくユークリッド空間の正規化フローは大きな可能性を秘めているが、同じ制限を被っている。
ベクトル場がこれらの空間上の可逆写像の柔軟なクラスをパラメータ化するための一般的なフレームワークを提供する方法を示す。
論文 参考訳(メタデータ) (2020-06-11T17:56:34Z) - Flows for simultaneous manifold learning and density estimation [12.451050883955071]
多様体学習フロー(M-flow)は、多様体構造を持つデータセットをより忠実に表現する。
M-フローはデータ多様体を学習し、周囲のデータ空間の標準フローよりも優れた推論を可能にする。
論文 参考訳(メタデータ) (2020-03-31T02:07:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。