論文の概要: Preconditioned Subspace Langevin Monte Carlo
- arxiv url: http://arxiv.org/abs/2412.13928v1
- Date: Wed, 18 Dec 2024 15:12:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-12-19 16:49:12.466554
- Title: Preconditioned Subspace Langevin Monte Carlo
- Title(参考訳): プレコンディション付き部分空間Langevin Monte Carlo
- Authors: Tyler Maunu, Jiayi Yao,
- Abstract要約: 副空間ランゲヴィン・モンテカルロと呼ばれる高次元サンプリングのための新しい効率的な手法を開発した。
これらの手法の第一の応用は、プレコンディション付きランゲヴィンモンテカルロを効率的に実装することである。
- 参考スコア(独自算出の注目度): 5.179504118679301
- License:
- Abstract: We develop a new efficient method for high-dimensional sampling called Subspace Langevin Monte Carlo. The primary application of these methods is to efficiently implement Preconditioned Langevin Monte Carlo. To demonstrate the usefulness of this new method, we extend ideas from subspace descent methods in Euclidean space to solving a specific optimization problem over Wasserstein space. Our theoretical analysis demonstrates the advantageous convergence regimes of the proposed method, which depend on relative conditioning assumptions common to mirror descent methods. We back up our theory with experimental evidence on sampling from an ill-conditioned Gaussian distribution.
- Abstract(参考訳): 副空間ランゲヴィン・モンテカルロと呼ばれる高次元サンプリングのための新しい効率的な手法を開発した。
これらの手法の第一の応用は、プレコンディション付きランゲヴィンモンテカルロを効率的に実装することである。
この新しい手法の有用性を示すため、ユークリッド空間における部分空間降下法からワッサーシュタイン空間上の特定の最適化問題へのアイデアを拡張した。
提案手法は,ミラー降下法に共通する相対条件付仮定に依存する。
未条件ガウス分布からのサンプリングに関する実験的な証拠で、我々の理論を裏付ける。
関連論文リスト
- Optimality in importance sampling: a gentle survey [50.79602839359522]
モンテカルロサンプリング法の性能は、提案密度の重要な選択に依存する。
この研究は、重要サンプリングにおける最適性の概念に関する徹底的なレビューである。
論文 参考訳(メタデータ) (2025-02-11T09:23:26Z) - Solving Linear-Gaussian Bayesian Inverse Problems with Decoupled Diffusion Sequential Monte Carlo [11.629137473977888]
線形ガウス逆問題に対する連続モンテカルロ法を設計する。
合成データと画像再構成タスクにおけるDDSMCアルゴリズムの有効性を実証する。
論文 参考訳(メタデータ) (2025-02-10T11:59:02Z) - Distributed Markov Chain Monte Carlo Sampling based on the Alternating
Direction Method of Multipliers [143.6249073384419]
本論文では,乗算器の交互方向法に基づく分散サンプリング手法を提案する。
我々は,アルゴリズムの収束に関する理論的保証と,その最先端性に関する実験的証拠の両方を提供する。
シミュレーションでは,線形回帰タスクとロジスティック回帰タスクにアルゴリズムを配置し,その高速収束を既存の勾配法と比較した。
論文 参考訳(メタデータ) (2024-01-29T02:08:40Z) - Improving sample efficiency of high dimensional Bayesian optimization
with MCMC [7.241485121318798]
本稿ではマルコフ・チェイン・モンテカルロに基づく新しい手法を提案する。
提案アルゴリズムのMetropolis-HastingsとLangevin Dynamicsの両バージョンは、高次元逐次最適化および強化学習ベンチマークにおいて最先端の手法より優れていることを示す。
論文 参考訳(メタデータ) (2024-01-05T05:56:42Z) - Decomposed Diffusion Sampler for Accelerating Large-Scale Inverse
Problems [64.29491112653905]
本稿では, 拡散サンプリング法とクリロフ部分空間法を相乗的に組み合わせた, 新規で効率的な拡散サンプリング手法を提案する。
具体的には、ツイーディの公式による分母化標本における接空間がクリロフ部分空間を成すならば、その分母化データによるCGは、接空間におけるデータの整合性更新を確実に維持する。
提案手法は,従来の最先端手法よりも80倍以上高速な推論時間を実現する。
論文 参考訳(メタデータ) (2023-03-10T07:42:49Z) - Bayesian Experimental Design for Symbolic Discovery [12.855710007840479]
我々は、ハミルトンモンテカルロを用いて、適切な選択基準を最適化するために制約付き一階法を適用する。
畳み込みを含む予測分布を計算するステップは、数値積分または高速変換法によって計算される。
論文 参考訳(メタデータ) (2022-11-29T01:25:29Z) - Sampling in Combinatorial Spaces with SurVAE Flow Augmented MCMC [83.48593305367523]
ハイブリッドモンテカルロ(Hybrid Monte Carlo)は、複素連続分布からサンプリングする強力なマルコフ連鎖モンテカルロ法である。
本稿では,SurVAEフローを用いたモンテカルロ法の拡張に基づく新しい手法を提案する。
本稿では,統計学,計算物理学,機械学習など,様々な分野におけるアルゴリズムの有効性を実証し,代替アルゴリズムと比較した改良点を考察する。
論文 参考訳(メタデータ) (2021-02-04T02:21:08Z) - Data driven Dirichlet sampling on manifolds [0.0]
提案手法は, データの観測を行う基礎となる多様体を完全に尊重し, 少ない計算労力で大量のサンプリングを行う。
例えば、ニューラルネットワークのトレーニングプロセスや不確実性解析や最適化において、これは非常に役に立ちます。
論文 参考訳(メタデータ) (2020-12-29T11:19:45Z) - Ellipsoidal Subspace Support Vector Data Description [98.67884574313292]
一クラス分類に最適化された低次元空間にデータを変換する新しい手法を提案する。
提案手法の線形および非線形の定式化について述べる。
提案手法は,最近提案されたサブスペースサポートベクトルデータ記述よりもはるかに高速に収束する。
論文 参考訳(メタデータ) (2020-03-20T21:31:03Z) - Distributed Averaging Methods for Randomized Second Order Optimization [54.51566432934556]
我々はヘッセン語の形成が計算的に困難であり、通信がボトルネックとなる分散最適化問題を考察する。
我々は、ヘッセンのサンプリングとスケッチを用いたランダム化二階最適化のための非バイアスパラメータ平均化手法を開発した。
また、不均一なコンピューティングシステムのための非バイアス分散最適化フレームワークを導入するために、二階平均化手法のフレームワークを拡張した。
論文 参考訳(メタデータ) (2020-02-16T09:01:18Z) - Wasserstein Control of Mirror Langevin Monte Carlo [2.7145834528620236]
離散化ランゲヴィン拡散は高次元ターゲット密度からサンプリングする効率的なモンテカルロ法である。
ヘッセン型多様体上のランゲヴィン拡散を考察し、ミラー・ドネサンススキームと密接な関係を持つ離散化を研究する。
論文 参考訳(メタデータ) (2020-02-11T13:16:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。