論文の概要: Ensemble-Based Annealed Importance Sampling
- arxiv url: http://arxiv.org/abs/2401.15645v2
- Date: Wed, 06 Nov 2024 11:31:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-11-07 19:21:01.764127
- Title: Ensemble-Based Annealed Importance Sampling
- Title(参考訳): アンサンブルに基づく重要度サンプリング
- Authors: Haoxuan Chen, Lexing Ying,
- Abstract要約: 本稿では,Annealed Importance Smpling (AIS) のアンサンブルに基づくバージョンを提案する。
我々はアンサンブル内の相互作用を利用して、未発見モードの探索を奨励する。
本稿では,提案アルゴリズムをどのように実装し,アンサンブルの進化を規定する偏微分方程式を導出する方法について論じる。
- 参考スコア(独自算出の注目度): 12.59962335240209
- License:
- Abstract: Sampling from a multimodal distribution is a fundamental and challenging problem in computational science and statistics. Among various approaches proposed for this task, one popular method is Annealed Importance Sampling (AIS). In this paper, we propose an ensemble-based version of AIS by combining it with population-based Monte Carlo methods to improve its efficiency. By keeping track of an ensemble instead of a single particle along some continuation path between the starting distribution and the target distribution, we take advantage of the interaction within the ensemble to encourage the exploration of undiscovered modes. Specifically, our main idea is to utilize either the snooker algorithm or the genetic algorithm used in Evolutionary Monte Carlo. We discuss how the proposed algorithm can be implemented and derive a partial differential equation governing the evolution of the ensemble under the continuous time and mean-field limit. We also test the efficiency of the proposed algorithm on various continuous and discrete distributions.
- Abstract(参考訳): マルチモーダル分布からのサンプリングは、計算科学と統計学の基本的な問題である。
このタスクのために提案された様々なアプローチの中で、一般的な方法は、Annealed Importance Smpling (AIS)である。
本稿では,人口ベースのモンテカルロ法と組み合わせて,AISのアンサンブルベースのバージョンを提案し,その効率を向上する。
開始分布と目標分布の間の連続経路に沿って単一粒子の代わりにアンサンブルをトラックすることにより、アンサンブル内の相互作用を利用して未発見モードの探索を促進する。
具体的には、スヌーカーアルゴリズムか、進化的モンテカルロで使用される遺伝的アルゴリズムを利用するという考え方です。
提案アルゴリズムがどのように実装され、連続時間と平均場制限の下でアンサンブルの進化を規定する偏微分方程式を導出するかを論じる。
また,様々な連続分布および離散分布に対して提案アルゴリズムの有効性を検証した。
関連論文リスト
- Improved off-policy training of diffusion samplers [93.66433483772055]
本研究では,非正規化密度やエネルギー関数を持つ分布からサンプルを抽出する拡散モデルの訓練問題について検討する。
シミュレーションに基づく変分法や非政治手法など,拡散構造推論手法のベンチマークを行った。
我々の結果は、過去の研究の主張に疑問を投げかけながら、既存のアルゴリズムの相対的な利点を浮き彫りにした。
論文 参考訳(メタデータ) (2024-02-07T18:51:49Z) - Distributed Markov Chain Monte Carlo Sampling based on the Alternating
Direction Method of Multipliers [143.6249073384419]
本論文では,乗算器の交互方向法に基づく分散サンプリング手法を提案する。
我々は,アルゴリズムの収束に関する理論的保証と,その最先端性に関する実験的証拠の両方を提供する。
シミュレーションでは,線形回帰タスクとロジスティック回帰タスクにアルゴリズムを配置し,その高速収束を既存の勾配法と比較した。
論文 参考訳(メタデータ) (2024-01-29T02:08:40Z) - Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。
本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
論文 参考訳(メタデータ) (2023-06-27T08:15:28Z) - Diverse Projection Ensembles for Distributional Reinforcement Learning [6.754994171490016]
この研究は、分布的アンサンブルにおけるいくつかの異なる射影と表現の組み合わせを研究する。
我々は、平均1ドル=ワッサーシュタイン距離で測定されるアンサンブル不一致を、深層探査のボーナスとして利用するアルゴリズムを導出する。
論文 参考訳(メタデータ) (2023-06-12T13:59:48Z) - Efficient Informed Proposals for Discrete Distributions via Newton's
Series Approximation [13.349005662077403]
我々は,強い要求を伴わずに任意の離散分布に対する勾配的提案を開発する。
提案手法は,ニュートン級数展開による離散確率比を効率よく近似する。
提案手法は,メトロポリス・ハスティングス・ステップの有無にかかわらず,コンバージェンスレートが保証されていることを実証する。
論文 参考訳(メタデータ) (2023-02-27T16:28:23Z) - Sampling in Combinatorial Spaces with SurVAE Flow Augmented MCMC [83.48593305367523]
ハイブリッドモンテカルロ(Hybrid Monte Carlo)は、複素連続分布からサンプリングする強力なマルコフ連鎖モンテカルロ法である。
本稿では,SurVAEフローを用いたモンテカルロ法の拡張に基づく新しい手法を提案する。
本稿では,統計学,計算物理学,機械学習など,様々な分野におけるアルゴリズムの有効性を実証し,代替アルゴリズムと比較した改良点を考察する。
論文 参考訳(メタデータ) (2021-02-04T02:21:08Z) - A Distributional Analysis of Sampling-Based Reinforcement Learning
Algorithms [67.67377846416106]
定常ステップサイズに対する強化学習アルゴリズムの理論解析に対する分布的アプローチを提案する。
本稿では,TD($lambda$)や$Q$-Learningのような値ベースの手法が,関数の分布空間で制約のある更新ルールを持つことを示す。
論文 参考訳(メタデータ) (2020-03-27T05:13:29Z) - A General Method for Robust Learning from Batches [56.59844655107251]
本稿では,バッチから頑健な学習を行う一般的なフレームワークについて考察し,連続ドメインを含む任意の領域に対する分類と分布推定の限界について考察する。
本手法は,一括分節分類,一括分節,単調,対数凹,ガウス混合分布推定のための,最初の頑健な計算効率の学習アルゴリズムを導出する。
論文 参考訳(メタデータ) (2020-02-25T18:53:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。