論文の概要: Subspace Langevin Monte Carlo
- arxiv url: http://arxiv.org/abs/2412.13928v2
- Date: Mon, 19 May 2025 18:37:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-21 14:49:51.581434
- Title: Subspace Langevin Monte Carlo
- Title（参考訳）: ランゲヴィン・モンテカルロ
- Authors: Tyler Maunu, Jiayi Yao,
- Abstract要約: Subspace Langevin Monte Carlo (SLMC) は新規で効率的なサンプリング法である。
SLMCはランダム座標のランゲバンモンテカルロと事前条件付きランゲバンモンテカルロを一般化する。
- 参考スコア（独自算出の注目度）: 5.179504118679301
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Sampling from high-dimensional distributions has wide applications in data science and machine learning but poses significant computational challenges. We introduce Subspace Langevin Monte Carlo (SLMC), a novel and efficient sampling method that generalizes random-coordinate Langevin Monte Carlo and preconditioned Langevin Monte Carlo by projecting the Langevin update onto subsampled eigenblocks of a time-varying preconditioner at each iteration. The advantage of SLMC is its superior adaptability and computational efficiency compared to traditional Langevin Monte Carlo and preconditioned Langevin Monte Carlo. Using coupling arguments, we establish error guarantees for SLMC and demonstrate its practical effectiveness through a few experiments on sampling from ill-conditioned distributions.
- Abstract（参考訳）: 高次元分布からのサンプリングは、データサイエンスや機械学習に広く応用されているが、計算上の大きな課題を生じさせている。
本稿では,ランダムコーディネートであるランゲヴィン・モンテカルロとプレコンディショニングされたランゲヴィン・モンテカルロを,各イテレーションで時変プリコンディショナーのサブサンプリングされた固有ブロックに投影することにより,ランダムコーディネートなランゲヴィン・モンテカルロとプレコンディショニングされたランゲヴィン・モンテカルロを一般化する,新規で効率的なサンプリング手法であるSubspace Langevin Monte Carlo(SLMC)を紹介する。
SLMCの利点は、従来のランゲヴィン・モンテ・カルロやプレコンディション付きランゲバン・モンテ・カルロと比較して、適応性と計算効率が優れていることである。
結合論法を用いて、SLMCの誤差保証を確立し、不条件分布のサンプリング実験を通じてその実効性を実証する。
関連論文リスト
- Neural Network Approach to Stochastic Dynamics for Smooth Multimodal Density Estimation [0.0]
我々は、事前条件行列の固有性をランダム行列としてモデル化することで、メトロポリス調整ランゲヴィン拡散アルゴリズムを適用できる。
提案手法は, 統計モデルの局所構造の幾何を活用・適応するために, 提案密度を調整するための完全適応機構を提供する。
論文 参考訳（メタデータ） (2025-03-22T16:17:12Z) - Optimality in importance sampling: a gentle survey [50.79602839359522]
モンテカルロサンプリング法の性能は、提案密度の重要な選択に依存する。
この研究は、重要サンプリングにおける最適性の概念に関する徹底的なレビューである。
論文 参考訳（メタデータ） (2025-02-11T09:23:26Z) - Solving Linear-Gaussian Bayesian Inverse Problems with Decoupled Diffusion Sequential Monte Carlo [11.629137473977888]
線形ガウス逆問題に対する連続モンテカルロ法を設計する。
合成データと画像再構成タスクにおけるDDSMCアルゴリズムの有効性を実証する。
論文 参考訳（メタデータ） (2025-02-10T11:59:02Z) - Distributed Markov Chain Monte Carlo Sampling based on the Alternating
Direction Method of Multipliers [143.6249073384419]
本論文では,乗算器の交互方向法に基づく分散サンプリング手法を提案する。
我々は,アルゴリズムの収束に関する理論的保証と,その最先端性に関する実験的証拠の両方を提供する。
シミュレーションでは,線形回帰タスクとロジスティック回帰タスクにアルゴリズムを配置し,その高速収束を既存の勾配法と比較した。
論文 参考訳（メタデータ） (2024-01-29T02:08:40Z) - Improving sample efficiency of high dimensional Bayesian optimization
with MCMC [7.241485121318798]
本稿ではマルコフ・チェイン・モンテカルロに基づく新しい手法を提案する。
提案アルゴリズムのMetropolis-HastingsとLangevin Dynamicsの両バージョンは、高次元逐次最適化および強化学習ベンチマークにおいて最先端の手法より優れていることを示す。
論文 参考訳（メタデータ） (2024-01-05T05:56:42Z) - Decomposed Diffusion Sampler for Accelerating Large-Scale Inverse
Problems [64.29491112653905]
本稿では, 拡散サンプリング法とクリロフ部分空間法を相乗的に組み合わせた, 新規で効率的な拡散サンプリング手法を提案する。
具体的には、ツイーディの公式による分母化標本における接空間がクリロフ部分空間を成すならば、その分母化データによるCGは、接空間におけるデータの整合性更新を確実に維持する。
提案手法は,従来の最先端手法よりも80倍以上高速な推論時間を実現する。
論文 参考訳（メタデータ） (2023-03-10T07:42:49Z) - Bayesian Experimental Design for Symbolic Discovery [12.855710007840479]
我々は、ハミルトンモンテカルロを用いて、適切な選択基準を最適化するために制約付き一階法を適用する。
畳み込みを含む予測分布を計算するステップは、数値積分または高速変換法によって計算される。
論文 参考訳（メタデータ） (2022-11-29T01:25:29Z) - Sampling in Combinatorial Spaces with SurVAE Flow Augmented MCMC [83.48593305367523]
ハイブリッドモンテカルロ(Hybrid Monte Carlo)は、複素連続分布からサンプリングする強力なマルコフ連鎖モンテカルロ法である。
本稿では,SurVAEフローを用いたモンテカルロ法の拡張に基づく新しい手法を提案する。
本稿では,統計学,計算物理学,機械学習など,様々な分野におけるアルゴリズムの有効性を実証し,代替アルゴリズムと比較した改良点を考察する。
論文 参考訳（メタデータ） (2021-02-04T02:21:08Z) - Data driven Dirichlet sampling on manifolds [0.0]
提案手法は, データの観測を行う基礎となる多様体を完全に尊重し, 少ない計算労力で大量のサンプリングを行う。
例えば、ニューラルネットワークのトレーニングプロセスや不確実性解析や最適化において、これは非常に役に立ちます。
論文 参考訳（メタデータ） (2020-12-29T11:19:45Z) - Ellipsoidal Subspace Support Vector Data Description [98.67884574313292]
一クラス分類に最適化された低次元空間にデータを変換する新しい手法を提案する。
提案手法の線形および非線形の定式化について述べる。
提案手法は,最近提案されたサブスペースサポートベクトルデータ記述よりもはるかに高速に収束する。
論文 参考訳（メタデータ） (2020-03-20T21:31:03Z) - Distributed Averaging Methods for Randomized Second Order Optimization [54.51566432934556]
我々はヘッセン語の形成が計算的に困難であり、通信がボトルネックとなる分散最適化問題を考察する。
我々は、ヘッセンのサンプリングとスケッチを用いたランダム化二階最適化のための非バイアスパラメータ平均化手法を開発した。
また、不均一なコンピューティングシステムのための非バイアス分散最適化フレームワークを導入するために、二階平均化手法のフレームワークを拡張した。
論文 参考訳（メタデータ） (2020-02-16T09:01:18Z) - Wasserstein Control of Mirror Langevin Monte Carlo [2.7145834528620236]
離散化ランゲヴィン拡散は高次元ターゲット密度からサンプリングする効率的なモンテカルロ法である。
ヘッセン型多様体上のランゲヴィン拡散を考察し、ミラー・ドネサンススキームと密接な関係を持つ離散化を研究する。
論文 参考訳（メタデータ） (2020-02-11T13:16:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。