論文の概要: Detecting and Mitigating Mode-Collapse for Flow-based Sampling of Lattice Field Theories

• arxiv url: http://arxiv.org/abs/2302.14082v1
• Date: Mon, 27 Feb 2023 19:00:22 GMT
• ステータス: 処理完了
• システム内更新日: 2023-03-01 19:08:06.380464
• Title: Detecting and Mitigating Mode-Collapse for Flow-based Sampling of Lattice Field Theories
• Title（参考訳）: 格子場理論のフローベースサンプリングのためのモード収束の検出と緩和
• Authors: Kim A. Nicoli and Christopher J. Anders and Tobias Hartung and Karl Jansen and Pan Kessel and Shinichi Nakajima
• Abstract要約: 格子場理論の文脈における正規化流れのモード崩壊の結果について検討する。 本稿では,モード崩壊の度合いを定量化し,その結果の偏りを導出する指標を提案する。
• 参考スコア（独自算出の注目度）: 5.394097515463188
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We study the consequences of mode-collapse of normalizing flows in the context of lattice field theory. Normalizing flows allow for independent sampling. For this reason, it is hoped that they can avoid the tunneling problem of local-update MCMC algorithms for multi-modal distributions. In this work, we first point out that the tunneling problem is also present for normalizing flows but is shifted from the sampling to the training phase of the algorithm. Specifically, normalizing flows often suffer from mode-collapse for which the training process assigns vanishingly low probability mass to relevant modes of the physical distribution. This may result in a significant bias when the flow is used as a sampler in a Markov-Chain or with Importance Sampling. We propose a metric to quantify the degree of mode-collapse and derive a bound on the resulting bias. Furthermore, we propose various mitigation strategies in particular in the context of estimating thermodynamic observables, such as the free energy.
• Abstract（参考訳）: 格子場理論における正規化流れのモード崩壊の結果について検討する。 正規化フローは独立したサンプリングを可能にする。 このため,マルチモーダル分布に対する局所更新mcmcアルゴリズムのトンネル問題を回避することが期待されている。 そこで本研究では, 流れの正規化にもトンネル問題が存在するが, サンプリングからアルゴリズムの訓練段階に移行することを指摘した。 特に、正規化フローは、トレーニングプロセスが物理的分布の関連するモードに消滅的に低い確率質量を割り当てるモード崩壊に悩まされることが多い。 これは、Markov-ChainまたはImportance Smplingのサンプルとしてフローが使用される場合、大きなバイアスをもたらす可能性がある。 本稿では,モード崩壊の度合いを定量化し,その結果のバイアスを導出する指標を提案する。 さらに, 自由エネルギーなどの熱力学的観測量の推定の文脈において, 様々な緩和戦略を提案する。

関連論文リスト

• Efficient Multimodal Sampling via Tempered Distribution Flow [11.36635610546803]
  我々はTemperFlowと呼ばれる新しいタイプのトランスポートベースサンプリング手法を開発した。 種々の実験により, 従来の手法と比較して, 新規サンプリング器の優れた性能が示された。 画像生成などの最新のディープラーニングタスクに応用例を示す。
  論文  参考訳（メタデータ） (2023-04-08T06:40:06Z)
• Aspects of scaling and scalability for flow-based sampling of lattice QCD [137.23107300589385]
  格子場理論におけるサンプリングへの機械学習正規化流れの最近の応用は、そのような手法が臨界減速と位相凍結を緩和できる可能性を示唆している。 最先端の格子量子色力学計算に適用できるかどうかはまだ定かではない。
  論文  参考訳（メタデータ） (2022-11-14T17:07:37Z)
• ManiFlow: Implicitly Representing Manifolds with Normalizing Flows [145.9820993054072]
  正規化フロー(NF)は、複雑な実世界のデータ分布を正確にモデル化することが示されているフレキシブルな明示的な生成モデルである。 摂動分布から標本を与えられた多様体上の最も可能性の高い点を復元する最適化目的を提案する。 最後に、NFsの明示的な性質、すなわち、ログのような勾配とログのような勾配から抽出された表面正規化を利用する3次元点雲に焦点を当てる。
  論文  参考訳（メタデータ） (2022-08-18T16:07:59Z)
• Conditioning Normalizing Flows for Rare Event Sampling [61.005334495264194]
  本稿では,ニューラルネットワーク生成構成に基づく遷移経路サンプリング手法を提案する。 本手法は遷移領域の熱力学と運動学の両方の解法を可能にすることを示す。
  論文  参考訳（メタデータ） (2022-07-29T07:56:10Z)
• Efficient CDF Approximations for Normalizing Flows [64.60846767084877]
  正規化フローの微分同相性に基づいて、閉領域上の累積分布関数(CDF)を推定する。 一般的なフローアーキテクチャとUCIデータセットに関する実験は,従来の推定器と比較して,サンプル効率が著しく向上したことを示している。
  論文  参考訳（メタデータ） (2022-02-23T06:11:49Z)
• Resampling Base Distributions of Normalizing Flows [0.0]
  学習された拒絶サンプリングに基づいて,フローを正規化するためのベース分布を導入する。 ログライクリフの最大化と逆Kulback-Leibler分散の最適化の両方を用いて、適切な学習アルゴリズムを開発する。
  論文  参考訳（メタデータ） (2021-10-29T14:44:44Z)
• Stochastic Normalizing Flows for Inverse Problems: a Markov Chains Viewpoint [0.45119235878273]
  マルコフ連鎖の観点からのフローの正規化を考える。 遷移密度を一般マルコフ核に置き換え、ラドン-ニコディム微分による証明を確立する。 提案した条件付き正規化フローの性能を数値例で示す。
  論文  参考訳（メタデータ） (2021-09-23T13:44:36Z)
• Sampling in Combinatorial Spaces with SurVAE Flow Augmented MCMC [83.48593305367523]
  ハイブリッドモンテカルロ(Hybrid Monte Carlo)は、複素連続分布からサンプリングする強力なマルコフ連鎖モンテカルロ法である。 本稿では,SurVAEフローを用いたモンテカルロ法の拡張に基づく新しい手法を提案する。 本稿では,統計学,計算物理学,機械学習など,様々な分野におけるアルゴリズムの有効性を実証し,代替アルゴリズムと比較した改良点を考察する。
  論文  参考訳（メタデータ） (2021-02-04T02:21:08Z)
• Integrable Nonparametric Flows [5.9774834479750805]
  本稿では,無限小変化のみを仮定した無限小正規化フローを確率分布に再構成する手法を提案する。 これは、フローの正規化という従来のタスクを逆転させる。 量子モンテカルロ問題と機械学習の潜在的な応用について論じる。
  論文  参考訳（メタデータ） (2020-12-03T16:19:52Z)
• Composing Normalizing Flows for Inverse Problems [89.06155049265641]
  本稿では,2つの流れモデルの合成として,対象条件を推定する近似推論フレームワークを提案する。 本手法は,様々な逆問題に対して評価し,不確実性のある高品質な試料を作製することを示した。
  論文  参考訳（メタデータ） (2020-02-26T19:01:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。