論文の概要: Resampling Base Distributions of Normalizing Flows

• arxiv url: http://arxiv.org/abs/2110.15828v1
• Date: Fri, 29 Oct 2021 14:44:44 GMT
• ステータス: 処理完了
• システム内更新日: 2021-11-01 13:41:56.768563
• Title: Resampling Base Distributions of Normalizing Flows
• Title（参考訳）: 正規化流れのサンプルベース分布
• Authors: Vincent Stimper, Bernhard Sch\"olkopf, Jos\'e Miguel Hern\'andez-Lobato
• Abstract要約: 学習された拒絶サンプリングに基づいて,フローを正規化するためのベース分布を導入する。 ログライクリフの最大化と逆Kulback-Leibler分散の最適化の両方を用いて、適切な学習アルゴリズムを開発する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Normalizing flows are a popular class of models for approximating probability distributions. However, their invertible nature limits their ability to model target distributions with a complex topological structure, such as Boltzmann distributions. Several procedures have been proposed to solve this problem but many of them sacrifice invertibility and, thereby, tractability of the log-likelihood as well as other desirable properties. To address these limitations, we introduce a base distribution for normalizing flows based on learned rejection sampling, allowing the resulting normalizing flow to model complex topologies without giving up bijectivity. Furthermore, we develop suitable learning algorithms using both maximizing the log-likelihood and the optimization of the reverse Kullback-Leibler divergence, and apply them to various sample problems, i.e.\ approximating 2D densities, density estimation of tabular data, image generation, and modeling Boltzmann distributions. In these experiments our method is competitive with or outperforms the baselines.
• Abstract（参考訳）: 正規化フローは確率分布を近似する一般的なモデルのクラスである。 しかし、それらの可逆性はボルツマン分布のような複雑な位相構造を持つ対象分布をモデル化する能力を制限する。 この問題を解決するためにいくつかの手順が提案されているが、その多くが可逆性を犠牲にして、ログライクリッドのトラクタビリティと他の望ましい性質を犠牲にしている。 これらの制限に対処するために,学習された拒絶サンプリングに基づく流れの正規化のためのベース分布を導入し,結果として生じる正規化フローを単射性を諦めずに複雑な位相をモデル化できるようにする。 さらに,2次元密度近似,表データ密度推定,画像生成,ボルツマン分布のモデル化といった様々なサンプル問題に対して,ログライク度最大化と逆カルバック・リーバー分岐の最適化を併用した適切な学習アルゴリズムを開発した。 これらの実験では,本手法はベースラインの競争力や性能に優れる。

関連論文リスト

• Theory on Score-Mismatched Diffusion Models and Zero-Shot Conditional Samplers [49.97755400231656]
  本報告では,明示的な次元の一般スコアミスマッチ拡散サンプリング器を用いた最初の性能保証について述べる。 その結果, スコアミスマッチは, 目標分布とサンプリング分布の分布バイアスとなり, 目標分布とトレーニング分布の累積ミスマッチに比例することがわかった。 この結果は、測定ノイズに関係なく、任意の条件モデルに対するゼロショット条件付きサンプリングに直接適用することができる。
  論文  参考訳（メタデータ） (2024-10-17T16:42:12Z)
• Distributed Markov Chain Monte Carlo Sampling based on the Alternating Direction Method of Multipliers [143.6249073384419]
  本論文では,乗算器の交互方向法に基づく分散サンプリング手法を提案する。 我々は,アルゴリズムの収束に関する理論的保証と,その最先端性に関する実験的証拠の両方を提供する。 シミュレーションでは,線形回帰タスクとロジスティック回帰タスクにアルゴリズムを配置し,その高速収束を既存の勾配法と比較した。
  論文  参考訳（メタデータ） (2024-01-29T02:08:40Z)
• Out-of-distribution detection using normalizing flows on the data manifold [3.725042082196983]
  本研究では,正規化フローを用いた多様体学習が分布外検出に及ぼす影響について検討した。 本研究では,正規化フローとして知られる確率ベースモデルの分布外検出能力を,多様体学習により向上させることを示す。
  論文  参考訳（メタデータ） (2023-08-26T07:35:16Z)
• Piecewise Normalizing Flows [0.0]
  ターゲットのトポロジとベースとのミスマッチは、粗悪なパフォーマンスをもたらす。 多くの異なる研究が、目標に合うように、ベース分布のトポロジーを変更しようと試みている。 対象の分布をクラスタに分割する分別正規化フローを導入し,標準正規化ベース分布によく適合するトポロジを提案する。
  論文  参考訳（メタデータ） (2023-05-04T15:30:10Z)
• Reflected Diffusion Models [93.26107023470979]
  本稿では,データのサポートに基づいて進化する反射微分方程式を逆転する反射拡散モデルを提案する。 提案手法は,一般化されたスコアマッチング損失を用いてスコア関数を学習し,標準拡散モデルの主要成分を拡張する。
  論文  参考訳（メタデータ） (2023-04-10T17:54:38Z)
• Building Normalizing Flows with Stochastic Interpolants [11.22149158986164]
  一対の基底分布と対象分布の間の連続時間正規化フローに基づく単純な2次モデルを提案する。 この流れの速度場は、基地と目標の間を有限時間で補間する時間依存分布の確率電流から推定される。
  論文  参考訳（メタデータ） (2022-09-30T16:30:31Z)
• ManiFlow: Implicitly Representing Manifolds with Normalizing Flows [145.9820993054072]
  正規化フロー(NF)は、複雑な実世界のデータ分布を正確にモデル化することが示されているフレキシブルな明示的な生成モデルである。 摂動分布から標本を与えられた多様体上の最も可能性の高い点を復元する最適化目的を提案する。 最後に、NFsの明示的な性質、すなわち、ログのような勾配とログのような勾配から抽出された表面正規化を利用する3次元点雲に焦点を当てる。
  論文  参考訳（メタデータ） (2022-08-18T16:07:59Z)
• Efficient CDF Approximations for Normalizing Flows [64.60846767084877]
  正規化フローの微分同相性に基づいて、閉領域上の累積分布関数(CDF)を推定する。 一般的なフローアーキテクチャとUCIデータセットに関する実験は,従来の推定器と比較して,サンプル効率が著しく向上したことを示している。
  論文  参考訳（メタデータ） (2022-02-23T06:11:49Z)
• Tractable Density Estimation on Learned Manifolds with Conformal Embedding Flows [0.0]
  正規化フローは、単純な基底分布を複素対象分布に変換することにより、トラクタブル密度推定を提供する。 この問題を治療するための最近の試みは、正確な密度推定という、フローを正規化するという中心的な利益を損なう幾何学的な合併症を導入している。 我々は、訓練可能な共形埋め込みで標準流れを構成することが、多様体が支持するデータをモデル化する最も自然な方法であると主張する。
  論文  参考訳（メタデータ） (2021-06-09T18:00:00Z)
• Variational Mixture of Normalizing Flows [0.0]
  生成逆数ネットワークオートサイトGAN、変分オートエンコーダオートサイトベイペーパー、およびそれらの変種などの深い生成モデルは、複雑なデータ分布をモデル化するタスクに広く採用されている。 正規化フローはこの制限を克服し、確率密度関数にそのような公式の変更を利用する。 本研究は,混合モデルのコンポーネントとして正規化フローを用い,そのようなモデルのエンドツーエンドトレーニング手順を考案することによって,この問題を克服する。
  論文  参考訳（メタデータ） (2020-09-01T17:20:08Z)
• Learning Likelihoods with Conditional Normalizing Flows [54.60456010771409]
  条件正規化フロー(CNF)はサンプリングと推論において効率的である。 出力空間写像に対する基底密度が入力 x 上で条件づけられた CNF について、条件密度 p(y|x) をモデル化する。
  論文  参考訳（メタデータ） (2019-11-29T19:17:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。