論文の概要: Subspace Langevin Monte Carlo
- arxiv url: http://arxiv.org/abs/2412.13928v2
- Date: Mon, 19 May 2025 18:37:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-21 14:49:51.581434
- Title: Subspace Langevin Monte Carlo
- Title(参考訳): ランゲヴィン・モンテカルロ
- Authors: Tyler Maunu, Jiayi Yao,
- Abstract要約: Subspace Langevin Monte Carlo (SLMC) は新規で効率的なサンプリング法である。
SLMCはランダム座標のランゲバンモンテカルロと事前条件付きランゲバンモンテカルロを一般化する。
- 参考スコア(独自算出の注目度): 5.179504118679301
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Sampling from high-dimensional distributions has wide applications in data science and machine learning but poses significant computational challenges. We introduce Subspace Langevin Monte Carlo (SLMC), a novel and efficient sampling method that generalizes random-coordinate Langevin Monte Carlo and preconditioned Langevin Monte Carlo by projecting the Langevin update onto subsampled eigenblocks of a time-varying preconditioner at each iteration. The advantage of SLMC is its superior adaptability and computational efficiency compared to traditional Langevin Monte Carlo and preconditioned Langevin Monte Carlo. Using coupling arguments, we establish error guarantees for SLMC and demonstrate its practical effectiveness through a few experiments on sampling from ill-conditioned distributions.
- Abstract(参考訳): 高次元分布からのサンプリングは、データサイエンスや機械学習に広く応用されているが、計算上の大きな課題を生じさせている。
本稿では,ランダムコーディネートであるランゲヴィン・モンテカルロとプレコンディショニングされたランゲヴィン・モンテカルロを,各イテレーションで時変プリコンディショナーのサブサンプリングされた固有ブロックに投影することにより,ランダムコーディネートなランゲヴィン・モンテカルロとプレコンディショニングされたランゲヴィン・モンテカルロを一般化する,新規で効率的なサンプリング手法であるSubspace Langevin Monte Carlo(SLMC)を紹介する。
SLMCの利点は、従来のランゲヴィン・モンテ・カルロやプレコンディション付きランゲバン・モンテ・カルロと比較して、適応性と計算効率が優れていることである。
結合論法を用いて、SLMCの誤差保証を確立し、不条件分布のサンプリング実験を通じてその実効性を実証する。
関連論文リスト
- Accelerating Langevin Monte Carlo Sampling: A Large Deviations Analysis [5.319445868401784]
最も古典的なランゲヴィンモンテカルロアルゴリズムは、過度に破壊されたランゲヴィン力学に基づいている。
ランゲヴィン力学には多くの変種があり、実際は優れた性能を示すことが多い。
論文 参考訳(メタデータ) (2025-03-24T18:52:45Z) - Neural Network Approach to Stochastic Dynamics for Smooth Multimodal Density Estimation [0.0]
我々は、事前条件行列の固有性をランダム行列としてモデル化することで、メトロポリス調整ランゲヴィン拡散アルゴリズムを適用できる。
提案手法は, 統計モデルの局所構造の幾何を活用・適応するために, 提案密度を調整するための完全適応機構を提供する。
論文 参考訳(メタデータ) (2025-03-22T16:17:12Z) - Optimality in importance sampling: a gentle survey [50.79602839359522]
モンテカルロサンプリング法の性能は、提案密度の重要な選択に依存する。
この研究は、重要サンプリングにおける最適性の概念に関する徹底的なレビューである。
論文 参考訳(メタデータ) (2025-02-11T09:23:26Z) - Solving Linear-Gaussian Bayesian Inverse Problems with Decoupled Diffusion Sequential Monte Carlo [11.629137473977888]
線形ガウス逆問題に対する連続モンテカルロ法を設計する。
合成データと画像再構成タスクにおけるDDSMCアルゴリズムの有効性を実証する。
論文 参考訳(メタデータ) (2025-02-10T11:59:02Z) - Distributed Markov Chain Monte Carlo Sampling based on the Alternating
Direction Method of Multipliers [143.6249073384419]
本論文では,乗算器の交互方向法に基づく分散サンプリング手法を提案する。
我々は,アルゴリズムの収束に関する理論的保証と,その最先端性に関する実験的証拠の両方を提供する。
シミュレーションでは,線形回帰タスクとロジスティック回帰タスクにアルゴリズムを配置し,その高速収束を既存の勾配法と比較した。
論文 参考訳(メタデータ) (2024-01-29T02:08:40Z) - Combining Normalizing Flows and Quasi-Monte Carlo [0.0]
近年の機械学習の進歩はモンテカルロ法を改良するための新しい手法の開発に繋がった。
数値実験により,この組み合わせにより,従来のモンテカルロを用いて流れをサンプリングした場合よりも,分散度が著しく低い推定器が得られることを示した。
論文 参考訳(メタデータ) (2024-01-11T14:17:06Z) - Improving sample efficiency of high dimensional Bayesian optimization
with MCMC [7.241485121318798]
本稿ではマルコフ・チェイン・モンテカルロに基づく新しい手法を提案する。
提案アルゴリズムのMetropolis-HastingsとLangevin Dynamicsの両バージョンは、高次元逐次最適化および強化学習ベンチマークにおいて最先端の手法より優れていることを示す。
論文 参考訳(メタデータ) (2024-01-05T05:56:42Z) - Proximal Algorithms for Accelerated Langevin Dynamics [57.08271964961975]
我々は,確率化Nesterovスキームに基づくMCMCアルゴリズムの新たなクラスを開発する。
統計処理と画像処理の異なるモデルに対して,Langevinサンプルよりも提案手法の優れた性能を示す。
論文 参考訳(メタデータ) (2023-11-24T19:56:01Z) - Randomized Runge-Kutta-Nyström Methods for Unadjusted Hamiltonian and Kinetic Langevin Monte Carlo [0.0]
非可逆マルコフ連鎖モンテカルロサンプリング器内のハミルトン流を近似するための5/2$-および7/2$-精度のランダム化ランゲ・クッタ・ニストロ法を導入する。
数値実験により,多種多様な高次元目標分布に対する未調整試料の高効率性を実証した。
論文 参考訳(メタデータ) (2023-10-11T11:35:12Z) - Non-Log-Concave and Nonsmooth Sampling via Langevin Monte Carlo Algorithms [15.718514510878896]
マルチモーダル性により低次元でもしばしば困難となるガウス混合などの非対数圏分布からの近似サンプリング問題について検討する。
我々はマルコフ連鎖モンテカルロ法(MCMC)を用いてこの課題を実行することに集中する。
論文 参考訳(メタデータ) (2023-05-25T12:28:26Z) - Decomposed Diffusion Sampler for Accelerating Large-Scale Inverse
Problems [64.29491112653905]
本稿では, 拡散サンプリング法とクリロフ部分空間法を相乗的に組み合わせた, 新規で効率的な拡散サンプリング手法を提案する。
具体的には、ツイーディの公式による分母化標本における接空間がクリロフ部分空間を成すならば、その分母化データによるCGは、接空間におけるデータの整合性更新を確実に維持する。
提案手法は,従来の最先端手法よりも80倍以上高速な推論時間を実現する。
論文 参考訳(メタデータ) (2023-03-10T07:42:49Z) - Bayesian Experimental Design for Symbolic Discovery [12.855710007840479]
我々は、ハミルトンモンテカルロを用いて、適切な選択基準を最適化するために制約付き一階法を適用する。
畳み込みを含む予測分布を計算するステップは、数値積分または高速変換法によって計算される。
論文 参考訳(メタデータ) (2022-11-29T01:25:29Z) - Low-variance estimation in the Plackett-Luce model via quasi-Monte Carlo
sampling [58.14878401145309]
PLモデルにおいて,より標本効率の高い予測値を生成するための新しい手法を開発した。
Amazon MusicのリアルなレコメンデーションデータとYahooの学習からランクへの挑戦を理論的にも実証的にも使用しています。
論文 参考訳(メタデータ) (2022-05-12T11:15:47Z) - Continual Repeated Annealed Flow Transport Monte Carlo [93.98285297760671]
我々はCRAFT(Continuous Repeated Annealed Flow Transport Monte Carlo)を提案する。
シーケンシャルなモンテカルロサンプリングと正規化フローを用いた変分推論を組み合わせる。
CRAFTは格子場の実例で驚くほど正確な結果が得られることを示す。
論文 参考訳(メタデータ) (2022-01-31T10:58:31Z) - Benchmarking quantum annealing dynamics: the spin-vector Langevin model [58.720142291102135]
本稿では,スピンベクトルLangevin(SVL)モデルを,時間進化をLangevin dynamicsによって記述した代替ベンチマークとして紹介する。
SVLモデルは、量子シグネチャの同定のためのSVMCモデルよりも厳密なテストを提供する。
論文 参考訳(メタデータ) (2021-09-20T18:00:01Z) - Antithetic Riemannian Manifold And Quantum-Inspired Hamiltonian Monte
Carlo [3.686886131767452]
我々は、ハミルトニアンモンテカルロと量子インスパイアされたハミルトニアンモンテカルロのアンチセティックバージョンである新しいアルゴリズムを提案する。
ハミルトニアン・モンテカルロにアンチセティックサンプリングを加えると、バニラ・ハミルトニアン・モンテカルロよりも高い有効試料率が得られることが示されている。
この分析は,実世界の金融市場データを用いたジャンプ拡散プロセス,およびベイジアンロジスティック回帰を用いた実世界のベンチマーク分類タスクで実施される。
論文 参考訳(メタデータ) (2021-07-05T15:03:07Z) - Annealed Flow Transport Monte Carlo [91.20263039913912]
Annealed Flow Transport (AFT) built on Annealed Importance Smpling (AIS) and Sequential Monte Carlo (SMC)
AFTは、連続したターゲットに向かって粒子をプッシュするために順次学習されるNFに依存します。
AFTの人口バージョンの連続時間スケーリング限界は、Feynman--Kac測度によって与えられることを示した。
論文 参考訳(メタデータ) (2021-02-15T12:05:56Z) - Sampling in Combinatorial Spaces with SurVAE Flow Augmented MCMC [83.48593305367523]
ハイブリッドモンテカルロ(Hybrid Monte Carlo)は、複素連続分布からサンプリングする強力なマルコフ連鎖モンテカルロ法である。
本稿では,SurVAEフローを用いたモンテカルロ法の拡張に基づく新しい手法を提案する。
本稿では,統計学,計算物理学,機械学習など,様々な分野におけるアルゴリズムの有効性を実証し,代替アルゴリズムと比較した改良点を考察する。
論文 参考訳(メタデータ) (2021-02-04T02:21:08Z) - Data driven Dirichlet sampling on manifolds [0.0]
提案手法は, データの観測を行う基礎となる多様体を完全に尊重し, 少ない計算労力で大量のサンプリングを行う。
例えば、ニューラルネットワークのトレーニングプロセスや不確実性解析や最適化において、これは非常に役に立ちます。
論文 参考訳(メタデータ) (2020-12-29T11:19:45Z) - Ellipsoidal Subspace Support Vector Data Description [98.67884574313292]
一クラス分類に最適化された低次元空間にデータを変換する新しい手法を提案する。
提案手法の線形および非線形の定式化について述べる。
提案手法は,最近提案されたサブスペースサポートベクトルデータ記述よりもはるかに高速に収束する。
論文 参考訳(メタデータ) (2020-03-20T21:31:03Z) - Distributed Averaging Methods for Randomized Second Order Optimization [54.51566432934556]
我々はヘッセン語の形成が計算的に困難であり、通信がボトルネックとなる分散最適化問題を考察する。
我々は、ヘッセンのサンプリングとスケッチを用いたランダム化二階最適化のための非バイアスパラメータ平均化手法を開発した。
また、不均一なコンピューティングシステムのための非バイアス分散最適化フレームワークを導入するために、二階平均化手法のフレームワークを拡張した。
論文 参考訳(メタデータ) (2020-02-16T09:01:18Z) - Wasserstein Control of Mirror Langevin Monte Carlo [2.7145834528620236]
離散化ランゲヴィン拡散は高次元ターゲット密度からサンプリングする効率的なモンテカルロ法である。
ヘッセン型多様体上のランゲヴィン拡散を考察し、ミラー・ドネサンススキームと密接な関係を持つ離散化を研究する。
論文 参考訳(メタデータ) (2020-02-11T13:16:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。