論文の概要: Preconditioned Subspace Langevin Monte Carlo
- arxiv url: http://arxiv.org/abs/2412.13928v1
- Date: Wed, 18 Dec 2024 15:12:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-12-19 16:46:52.287329
- Title: Preconditioned Subspace Langevin Monte Carlo
- Title(参考訳): プレコンディション付き部分空間Langevin Monte Carlo
- Authors: Tyler Maunu, Jiayi Yao,
- Abstract要約: 副空間ランゲヴィン・モンテカルロと呼ばれる高次元サンプリングのための新しい効率的な手法を開発した。
これらの手法の第一の応用は、プレコンディション付きランゲヴィンモンテカルロを効率的に実装することである。
- 参考スコア(独自算出の注目度): 5.179504118679301
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We develop a new efficient method for high-dimensional sampling called Subspace Langevin Monte Carlo. The primary application of these methods is to efficiently implement Preconditioned Langevin Monte Carlo. To demonstrate the usefulness of this new method, we extend ideas from subspace descent methods in Euclidean space to solving a specific optimization problem over Wasserstein space. Our theoretical analysis demonstrates the advantageous convergence regimes of the proposed method, which depend on relative conditioning assumptions common to mirror descent methods. We back up our theory with experimental evidence on sampling from an ill-conditioned Gaussian distribution.
- Abstract(参考訳): 副空間ランゲヴィン・モンテカルロと呼ばれる高次元サンプリングのための新しい効率的な手法を開発した。
これらの手法の第一の応用は、プレコンディション付きランゲヴィンモンテカルロを効率的に実装することである。
この新しい手法の有用性を示すため、ユークリッド空間における部分空間降下法からワッサーシュタイン空間上の特定の最適化問題へのアイデアを拡張した。
提案手法は,ミラー降下法に共通する相対条件付仮定に依存する。
未条件ガウス分布からのサンプリングに関する実験的な証拠で、我々の理論を裏付ける。
関連論文リスト
- Accelerating Langevin Monte Carlo Sampling: A Large Deviations Analysis [5.319445868401784]
最も古典的なランゲヴィンモンテカルロアルゴリズムは、過度に破壊されたランゲヴィン力学に基づいている。
ランゲヴィン力学には多くの変種があり、実際は優れた性能を示すことが多い。
論文 参考訳(メタデータ) (2025-03-24T18:52:45Z) - Neural Network Approach to Stochastic Dynamics for Smooth Multimodal Density Estimation [0.0]
我々は、事前条件行列の固有性をランダム行列としてモデル化することで、メトロポリス調整ランゲヴィン拡散アルゴリズムを適用できる。
提案手法は, 統計モデルの局所構造の幾何を活用・適応するために, 提案密度を調整するための完全適応機構を提供する。
論文 参考訳(メタデータ) (2025-03-22T16:17:12Z) - Optimality in importance sampling: a gentle survey [50.79602839359522]
モンテカルロサンプリング法の性能は、提案密度の重要な選択に依存する。
この研究は、重要サンプリングにおける最適性の概念に関する徹底的なレビューである。
論文 参考訳(メタデータ) (2025-02-11T09:23:26Z) - Solving Linear-Gaussian Bayesian Inverse Problems with Decoupled Diffusion Sequential Monte Carlo [11.629137473977888]
線形ガウス逆問題に対する連続モンテカルロ法を設計する。
合成データと画像再構成タスクにおけるDDSMCアルゴリズムの有効性を実証する。
論文 参考訳(メタデータ) (2025-02-10T11:59:02Z) - Distributed Markov Chain Monte Carlo Sampling based on the Alternating
Direction Method of Multipliers [143.6249073384419]
本論文では,乗算器の交互方向法に基づく分散サンプリング手法を提案する。
我々は,アルゴリズムの収束に関する理論的保証と,その最先端性に関する実験的証拠の両方を提供する。
シミュレーションでは,線形回帰タスクとロジスティック回帰タスクにアルゴリズムを配置し,その高速収束を既存の勾配法と比較した。
論文 参考訳(メタデータ) (2024-01-29T02:08:40Z) - Combining Normalizing Flows and Quasi-Monte Carlo [0.0]
近年の機械学習の進歩はモンテカルロ法を改良するための新しい手法の開発に繋がった。
数値実験により,この組み合わせにより,従来のモンテカルロを用いて流れをサンプリングした場合よりも,分散度が著しく低い推定器が得られることを示した。
論文 参考訳(メタデータ) (2024-01-11T14:17:06Z) - Improving sample efficiency of high dimensional Bayesian optimization
with MCMC [7.241485121318798]
本稿ではマルコフ・チェイン・モンテカルロに基づく新しい手法を提案する。
提案アルゴリズムのMetropolis-HastingsとLangevin Dynamicsの両バージョンは、高次元逐次最適化および強化学習ベンチマークにおいて最先端の手法より優れていることを示す。
論文 参考訳(メタデータ) (2024-01-05T05:56:42Z) - Proximal Algorithms for Accelerated Langevin Dynamics [57.08271964961975]
我々は,確率化Nesterovスキームに基づくMCMCアルゴリズムの新たなクラスを開発する。
統計処理と画像処理の異なるモデルに対して,Langevinサンプルよりも提案手法の優れた性能を示す。
論文 参考訳(メタデータ) (2023-11-24T19:56:01Z) - Randomized Runge-Kutta-Nyström Methods for Unadjusted Hamiltonian and Kinetic Langevin Monte Carlo [0.0]
非可逆マルコフ連鎖モンテカルロサンプリング器内のハミルトン流を近似するための5/2$-および7/2$-精度のランダム化ランゲ・クッタ・ニストロ法を導入する。
数値実験により,多種多様な高次元目標分布に対する未調整試料の高効率性を実証した。
論文 参考訳(メタデータ) (2023-10-11T11:35:12Z) - Non-Log-Concave and Nonsmooth Sampling via Langevin Monte Carlo Algorithms [15.718514510878896]
マルチモーダル性により低次元でもしばしば困難となるガウス混合などの非対数圏分布からの近似サンプリング問題について検討する。
我々はマルコフ連鎖モンテカルロ法(MCMC)を用いてこの課題を実行することに集中する。
論文 参考訳(メタデータ) (2023-05-25T12:28:26Z) - Decomposed Diffusion Sampler for Accelerating Large-Scale Inverse
Problems [64.29491112653905]
本稿では, 拡散サンプリング法とクリロフ部分空間法を相乗的に組み合わせた, 新規で効率的な拡散サンプリング手法を提案する。
具体的には、ツイーディの公式による分母化標本における接空間がクリロフ部分空間を成すならば、その分母化データによるCGは、接空間におけるデータの整合性更新を確実に維持する。
提案手法は,従来の最先端手法よりも80倍以上高速な推論時間を実現する。
論文 参考訳(メタデータ) (2023-03-10T07:42:49Z) - Bayesian Experimental Design for Symbolic Discovery [12.855710007840479]
我々は、ハミルトンモンテカルロを用いて、適切な選択基準を最適化するために制約付き一階法を適用する。
畳み込みを含む予測分布を計算するステップは、数値積分または高速変換法によって計算される。
論文 参考訳(メタデータ) (2022-11-29T01:25:29Z) - Low-variance estimation in the Plackett-Luce model via quasi-Monte Carlo
sampling [58.14878401145309]
PLモデルにおいて,より標本効率の高い予測値を生成するための新しい手法を開発した。
Amazon MusicのリアルなレコメンデーションデータとYahooの学習からランクへの挑戦を理論的にも実証的にも使用しています。
論文 参考訳(メタデータ) (2022-05-12T11:15:47Z) - Continual Repeated Annealed Flow Transport Monte Carlo [93.98285297760671]
我々はCRAFT(Continuous Repeated Annealed Flow Transport Monte Carlo)を提案する。
シーケンシャルなモンテカルロサンプリングと正規化フローを用いた変分推論を組み合わせる。
CRAFTは格子場の実例で驚くほど正確な結果が得られることを示す。
論文 参考訳(メタデータ) (2022-01-31T10:58:31Z) - Benchmarking quantum annealing dynamics: the spin-vector Langevin model [58.720142291102135]
本稿では,スピンベクトルLangevin(SVL)モデルを,時間進化をLangevin dynamicsによって記述した代替ベンチマークとして紹介する。
SVLモデルは、量子シグネチャの同定のためのSVMCモデルよりも厳密なテストを提供する。
論文 参考訳(メタデータ) (2021-09-20T18:00:01Z) - Antithetic Riemannian Manifold And Quantum-Inspired Hamiltonian Monte
Carlo [3.686886131767452]
我々は、ハミルトニアンモンテカルロと量子インスパイアされたハミルトニアンモンテカルロのアンチセティックバージョンである新しいアルゴリズムを提案する。
ハミルトニアン・モンテカルロにアンチセティックサンプリングを加えると、バニラ・ハミルトニアン・モンテカルロよりも高い有効試料率が得られることが示されている。
この分析は,実世界の金融市場データを用いたジャンプ拡散プロセス,およびベイジアンロジスティック回帰を用いた実世界のベンチマーク分類タスクで実施される。
論文 参考訳(メタデータ) (2021-07-05T15:03:07Z) - Annealed Flow Transport Monte Carlo [91.20263039913912]
Annealed Flow Transport (AFT) built on Annealed Importance Smpling (AIS) and Sequential Monte Carlo (SMC)
AFTは、連続したターゲットに向かって粒子をプッシュするために順次学習されるNFに依存します。
AFTの人口バージョンの連続時間スケーリング限界は、Feynman--Kac測度によって与えられることを示した。
論文 参考訳(メタデータ) (2021-02-15T12:05:56Z) - Sampling in Combinatorial Spaces with SurVAE Flow Augmented MCMC [83.48593305367523]
ハイブリッドモンテカルロ(Hybrid Monte Carlo)は、複素連続分布からサンプリングする強力なマルコフ連鎖モンテカルロ法である。
本稿では,SurVAEフローを用いたモンテカルロ法の拡張に基づく新しい手法を提案する。
本稿では,統計学,計算物理学,機械学習など,様々な分野におけるアルゴリズムの有効性を実証し,代替アルゴリズムと比較した改良点を考察する。
論文 参考訳(メタデータ) (2021-02-04T02:21:08Z) - Data driven Dirichlet sampling on manifolds [0.0]
提案手法は, データの観測を行う基礎となる多様体を完全に尊重し, 少ない計算労力で大量のサンプリングを行う。
例えば、ニューラルネットワークのトレーニングプロセスや不確実性解析や最適化において、これは非常に役に立ちます。
論文 参考訳(メタデータ) (2020-12-29T11:19:45Z) - Ellipsoidal Subspace Support Vector Data Description [98.67884574313292]
一クラス分類に最適化された低次元空間にデータを変換する新しい手法を提案する。
提案手法の線形および非線形の定式化について述べる。
提案手法は,最近提案されたサブスペースサポートベクトルデータ記述よりもはるかに高速に収束する。
論文 参考訳(メタデータ) (2020-03-20T21:31:03Z) - Distributed Averaging Methods for Randomized Second Order Optimization [54.51566432934556]
我々はヘッセン語の形成が計算的に困難であり、通信がボトルネックとなる分散最適化問題を考察する。
我々は、ヘッセンのサンプリングとスケッチを用いたランダム化二階最適化のための非バイアスパラメータ平均化手法を開発した。
また、不均一なコンピューティングシステムのための非バイアス分散最適化フレームワークを導入するために、二階平均化手法のフレームワークを拡張した。
論文 参考訳(メタデータ) (2020-02-16T09:01:18Z) - Wasserstein Control of Mirror Langevin Monte Carlo [2.7145834528620236]
離散化ランゲヴィン拡散は高次元ターゲット密度からサンプリングする効率的なモンテカルロ法である。
ヘッセン型多様体上のランゲヴィン拡散を考察し、ミラー・ドネサンススキームと密接な関係を持つ離散化を研究する。
論文 参考訳(メタデータ) (2020-02-11T13:16:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。