論文の概要: Mitigating mode collapse in normalizing flows by annealing with an adaptive schedule: Application to parameter estimation

• arxiv url: http://arxiv.org/abs/2505.03652v1
• Date: Tue, 06 May 2025 15:58:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-07 18:50:11.462211
• Title: Mitigating mode collapse in normalizing flows by annealing with an adaptive schedule: Application to parameter estimation
• Title（参考訳）: 適応スケジュール付焼鈍による正規化流れの緩和モード崩壊:パラメータ推定への応用
• Authors: Yihang Wang, Chris Chi, Aaron R. Dinner,
• Abstract要約: 有効なサンプルサイズ(ESS)に基づく適応スケジュールは,モード崩壊を軽減できることを示す。 提案手法は, マルコフ連鎖モンテカルロ法より10倍少ない時間で時系列データに適合する生化学的発振子モデルの限界確率を収束させることを実証した。
• 参考スコア（独自算出の注目度）: 0.6258471240250307
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Normalizing flows (NFs) provide uncorrelated samples from complex distributions, making them an appealing tool for parameter estimation. However, the practical utility of NFs remains limited by their tendency to collapse to a single mode of a multimodal distribution. In this study, we show that annealing with an adaptive schedule based on the effective sample size (ESS) can mitigate mode collapse. We demonstrate that our approach can converge the marginal likelihood for a biochemical oscillator model fit to time-series data in ten-fold less computation time than a widely used ensemble Markov chain Monte Carlo (MCMC) method. We show that the ESS can also be used to reduce variance by pruning the samples. We expect these developments to be of general use for sampling with NFs and discuss potential opportunities for further improvements.
• Abstract（参考訳）: 正規化フロー(NF)は、複雑な分布から非相関なサンプルを提供するため、パラメータ推定に魅力的なツールである。 しかし、NFsの実用性は、マルチモーダル分布の単一モードに崩壊する傾向によって制限されている。 本研究では, 有効試料サイズ(ESS)に基づくアダプティブスケジュールのアニーリングにより, モード崩壊を緩和できることを示す。 提案手法は, マルコフ連鎖モンテカルロ法(MCMC)法よりも10倍少ない計算時間で, 時系列データに適合する生化学的発振子モデルの限界確率を収束させることができることを示す。 ESSはサンプルを刈り取ることでばらつきを低減するためにも利用できることを示す。 これらの開発は、NFによるサンプリングに一般的に利用されるものと期待し、さらなる改善の可能性について論じる。

関連論文リスト

• AdvNF: Reducing Mode Collapse in Conditional Normalising Flows using Adversarial Learning [1.644043499620662]
  正規化フロー(NF)のような明示的なジェネレータは、ターゲット分布から未バイアスのサンプルを取得するために広く応用されている。 本研究では,高分散,モード崩壊,データ効率などの条件付きNFの中心的問題について検討する。 我々はこれらの問題を改善するため,NFの対角訓練を提案する。
  論文  参考訳（メタデータ） (2024-01-29T08:13:51Z)
• Diffusion models for probabilistic programming [56.47577824219207]
  拡散モデル変分推論(DMVI)は確率型プログラミング言語(PPL)における自動近似推論手法である DMVIは実装が容易で、例えば正規化フローを用いた変分推論の欠点を伴わずに、PPLでヘイズルフリー推論が可能であり、基礎となるニューラルネットワークモデルに制約を課さない。
  論文  参考訳（メタデータ） (2023-11-01T12:17:05Z)
• Detecting and Mitigating Mode-Collapse for Flow-based Sampling of Lattice Field Theories [6.222204646855336]
  格子場理論の文脈における正規化流れのモード崩壊の結果について検討する。 本稿では,モード崩壊の度合いを定量化し,その結果の偏りを導出する指標を提案する。
  論文  参考訳（メタデータ） (2023-02-27T19:00:22Z)
• Continuous-Time Modeling of Counterfactual Outcomes Using Neural Controlled Differential Equations [84.42837346400151]
  反現実的な結果を予測することは、パーソナライズされたヘルスケアをアンロックする可能性がある。 既存の因果推論アプローチでは、観察と治療決定の間の通常の離散時間間隔が考慮されている。 そこで本研究では,腫瘍増殖モデルに基づく制御可能なシミュレーション環境を提案する。
  論文  参考訳（メタデータ） (2022-06-16T17:15:15Z)
• Efficient CDF Approximations for Normalizing Flows [64.60846767084877]
  正規化フローの微分同相性に基づいて、閉領域上の累積分布関数(CDF)を推定する。 一般的なフローアーキテクチャとUCIデータセットに関する実験は,従来の推定器と比較して,サンプル効率が著しく向上したことを示している。
  論文  参考訳（メタデータ） (2022-02-23T06:11:49Z)
• GANs with Variational Entropy Regularizers: Applications in Mitigating the Mode-Collapse Issue [95.23775347605923]
  深層学習の成功に基づいて、GAN(Generative Adversarial Networks)は、観測されたサンプルから確率分布を学習するための現代的なアプローチを提供する。 GANはしばしば、ジェネレータが入力分布の既存のすべてのモードをキャプチャできないモード崩壊問題に悩まされる。 情報理論のアプローチを採り、生成したサンプルのエントロピーの変動的下限を最大化し、それらの多様性を増大させる。
  論文  参考訳（メタデータ） (2020-09-24T19:34:37Z)
• Stochastic Normalizing Flows [2.323220706791067]
  単純な事前分布の変換を学習するために,フローの正規化が有効であることを示す。 サンプルとフローパラメータの両方をエンドツーエンドに最適化できる効率的なトレーニング手順を導出する。 いくつかのベンチマークでSNFの表現力,サンプリング効率,正当性について述べる。
  論文  参考訳（メタデータ） (2020-02-16T23:29:32Z)
• Semi-Supervised Learning with Normalizing Flows [54.376602201489995]
  FlowGMMは、フローの正規化を伴う生成半教師付き学習におけるエンドツーエンドのアプローチである。 我々は AG-News や Yahoo Answers のテキストデータなど,幅広いアプリケーションに対して有望な結果を示す。
  論文  参考訳（メタデータ） (2019-12-30T17:36:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。