論文の概要: Integrable Nonparametric Flows
- arxiv url: http://arxiv.org/abs/2012.02035v1
- Date: Thu, 3 Dec 2020 16:19:52 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-23 15:08:14.049085
- Title: Integrable Nonparametric Flows
- Title(参考訳): 可積分非パラメトリック流れ
- Authors: David Pfau, Danilo Rezende
- Abstract要約: 本稿では,無限小変化のみを仮定した無限小正規化フローを確率分布に再構成する手法を提案する。
これは、フローの正規化という従来のタスクを逆転させる。
量子モンテカルロ問題と機械学習の潜在的な応用について論じる。
- 参考スコア(独自算出の注目度): 5.9774834479750805
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We introduce a method for reconstructing an infinitesimal normalizing flow
given only an infinitesimal change to a (possibly unnormalized) probability
distribution. This reverses the conventional task of normalizing flows --
rather than being given samples from a unknown target distribution and learning
a flow that approximates the distribution, we are given a perturbation to an
initial distribution and aim to reconstruct a flow that would generate samples
from the known perturbed distribution. While this is an underdetermined
problem, we find that choosing the flow to be an integrable vector field yields
a solution closely related to electrostatics, and a solution can be computed by
the method of Green's functions. Unlike conventional normalizing flows, this
flow can be represented in an entirely nonparametric manner. We validate this
derivation on low-dimensional problems, and discuss potential applications to
problems in quantum Monte Carlo and machine learning.
- Abstract(参考訳): 無限小正規化フローを(多分非正規化の)確率分布への無限小変化のみによって再構成する方法を提案する。
これは、未知のターゲット分布からサンプルが与えられるのではなく、その分布を近似するフローを学ぶという従来のタスクを逆転させ、初期分布に摂動を与え、既知の摂動分布からサンプルを生成するフローを再構築することを目的としている。
これは未決定の問題であるが、積分可能ベクトル場としての流れを選択すると静電気と密接に関連する解が得られ、解はグリーン関数の方法によって計算できる。
従来の正規化フローとは異なり、このフローは完全に非パラメトリックな方法で表現できる。
この導出を低次元問題に適用し,量子モンテカルロ問題と機械学習の潜在的な応用について議論する。
関連論文リスト
- Straightness of Rectified Flow: A Theoretical Insight into Wasserstein Convergence [54.580605276017096]
拡散モデルは画像生成とデノナイズのための強力なツールとして登場した。
最近、Liuらは新しい代替生成モデル Rectified Flow (RF) を設計した。
RFは,一連の凸最適化問題を用いて,ノイズからデータへの直流軌跡の学習を目的としている。
論文 参考訳(メタデータ) (2024-10-19T02:36:11Z) - Detecting and Mitigating Mode-Collapse for Flow-based Sampling of
Lattice Field Theories [6.222204646855336]
格子場理論の文脈における正規化流れのモード崩壊の結果について検討する。
本稿では,モード崩壊の度合いを定量化し,その結果の偏りを導出する指標を提案する。
論文 参考訳(メタデータ) (2023-02-27T19:00:22Z) - Gradient Flows for Sampling: Mean-Field Models, Gaussian Approximations and Affine Invariance [10.153270126742369]
確率密度空間とガウス空間の両方における勾配流について検討する。
ガウス空間のフローは、フローのガウス近似として理解することができる。
論文 参考訳(メタデータ) (2023-02-21T21:44:08Z) - Efficient CDF Approximations for Normalizing Flows [64.60846767084877]
正規化フローの微分同相性に基づいて、閉領域上の累積分布関数(CDF)を推定する。
一般的なフローアーキテクチャとUCIデータセットに関する実験は,従来の推定器と比較して,サンプル効率が著しく向上したことを示している。
論文 参考訳(メタデータ) (2022-02-23T06:11:49Z) - Resampling Base Distributions of Normalizing Flows [0.0]
学習された拒絶サンプリングに基づいて,フローを正規化するためのベース分布を導入する。
ログライクリフの最大化と逆Kulback-Leibler分散の最適化の両方を用いて、適切な学習アルゴリズムを開発する。
論文 参考訳(メタデータ) (2021-10-29T14:44:44Z) - Stochastic Normalizing Flows for Inverse Problems: a Markov Chains
Viewpoint [0.45119235878273]
マルコフ連鎖の観点からのフローの正規化を考える。
遷移密度を一般マルコフ核に置き換え、ラドン-ニコディム微分による証明を確立する。
提案した条件付き正規化フローの性能を数値例で示す。
論文 参考訳(メタデータ) (2021-09-23T13:44:36Z) - Sampling in Combinatorial Spaces with SurVAE Flow Augmented MCMC [83.48593305367523]
ハイブリッドモンテカルロ(Hybrid Monte Carlo)は、複素連続分布からサンプリングする強力なマルコフ連鎖モンテカルロ法である。
本稿では,SurVAEフローを用いたモンテカルロ法の拡張に基づく新しい手法を提案する。
本稿では,統計学,計算物理学,機械学習など,様々な分野におけるアルゴリズムの有効性を実証し,代替アルゴリズムと比較した改良点を考察する。
論文 参考訳(メタデータ) (2021-02-04T02:21:08Z) - Variational Transport: A Convergent Particle-BasedAlgorithm for Distributional Optimization [106.70006655990176]
分散最適化問題は機械学習や統計学で広く発生する。
本稿では,変分輸送と呼ばれる粒子に基づく新しいアルゴリズムを提案する。
目的関数がpolyak-Lojasiewicz (PL) (Polyak, 1963) の機能バージョンと滑らかな条件を満たすとき、変分輸送は線形に収束することを示す。
論文 参考訳(メタデータ) (2020-12-21T18:33:13Z) - Gaussianization Flows [113.79542218282282]
そこで本研究では,サンプル生成における効率のよい繰り返しと効率のよい逆変換を両立できる新しい型正規化フローモデルを提案する。
この保証された表現性のため、サンプル生成の効率を損なうことなく、マルチモーダルなターゲット分布をキャプチャできる。
論文 参考訳(メタデータ) (2020-03-04T08:15:06Z) - Composing Normalizing Flows for Inverse Problems [89.06155049265641]
本稿では,2つの流れモデルの合成として,対象条件を推定する近似推論フレームワークを提案する。
本手法は,様々な逆問題に対して評価し,不確実性のある高品質な試料を作製することを示した。
論文 参考訳(メタデータ) (2020-02-26T19:01:11Z) - Stochastic Normalizing Flows [2.323220706791067]
単純な事前分布の変換を学習するために,フローの正規化が有効であることを示す。
サンプルとフローパラメータの両方をエンドツーエンドに最適化できる効率的なトレーニング手順を導出する。
いくつかのベンチマークでSNFの表現力,サンプリング効率,正当性について述べる。
論文 参考訳(メタデータ) (2020-02-16T23:29:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。