論文の概要: Random Coordinate Underdamped Langevin Monte Carlo
- arxiv url: http://arxiv.org/abs/2010.11366v1
- Date: Thu, 22 Oct 2020 01:12:13 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-04 05:30:32.797966
- Title: Random Coordinate Underdamped Langevin Monte Carlo
- Title(参考訳): ランダムコーディネート アンダーダム モンテカルロ
- Authors: Zhiyan Ding and Qin Li and Jianfeng Lu and Stephen J. Wright
- Abstract要約: アンダーダムド・ランゲヴィン・モンテカルロ(Underdamped Langevin Monte Carlo、ULMC)は、マルコフ連鎖モンテカルロサンプリング法である。
本稿では,Random Coordinate ULMC (RC-ULMC) と呼ばれるサンプリング手法を提案する。
RC-ULMCは従来のULMCよりも常に安価であり,高いスキュードと高次元の場合にはコストが大幅に削減されることを示した。
- 参考スコア(独自算出の注目度): 20.423417125810868
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The Underdamped Langevin Monte Carlo (ULMC) is a popular Markov chain Monte
Carlo sampling method. It requires the computation of the full gradient of the
log-density at each iteration, an expensive operation if the dimension of the
problem is high. We propose a sampling method called Random Coordinate ULMC
(RC-ULMC), which selects a single coordinate at each iteration to be updated
and leaves the other coordinates untouched. We investigate the computational
complexity of RC-ULMC and compare it with the classical ULMC for strongly
log-concave probability distributions. We show that RC-ULMC is always cheaper
than the classical ULMC, with a significant cost reduction when the problem is
highly skewed and high dimensional. Our complexity bound for RC-ULMC is also
tight in terms of dimension dependence.
- Abstract(参考訳): アンダーダムド・ランゲヴィン・モンテカルロ(Underdamped Langevin Monte Carlo、ULMC)は、マルコフ連鎖モンテカルロサンプリング法である。
各繰り返しにおけるログ密度の全勾配の計算が必要であり、問題の大きさが高い場合の高価な演算である。
本稿では,Random Coordinate ULMC (RC-ULMC) と呼ばれるサンプリング手法を提案する。
RC-ULMCの計算複雑性について検討し,従来のULMCと比較した。
RC-ULMCは従来のULMCよりも常に安価であり,高いスキュードと高次元の場合にはコスト削減が図られる。
RC-ULMCの複雑性も、次元依存の観点からは厳密である。
関連論文リスト
- SMC Is All You Need: Parallel Strong Scaling [0.695967916921061]
並列高強度スケーリングを実現するための完全並列シーケンシャルモンテカルロ法(pSMC)を開発した。
pSMC は無限小精度 MSE$=O(varepsilon2)$ に収束し、固定された有限時間複素度コスト=O(1)$ であり、効率リークがない。
論文 参考訳(メタデータ) (2024-02-09T04:13:38Z) - Faster Sampling without Isoperimetry via Diffusion-based Monte Carlo [30.4930148381328]
拡散に基づくモンテカルロ (DMC) は、等尺条件を超えた一般目標分布から試料を採取する手法である。
DMCは、高い勾配の複雑さに遭遇し、その結果、得られたサンプルのエラー耐性$epsilon$に指数関数的に依存する。
本稿では,新しい再帰に基づくスコア推定法に基づくRS-DMCを提案する。
私たちのアルゴリズムは、人気のあるLangevinベースのアルゴリズムよりもはるかに高速です。
論文 参考訳(メタデータ) (2024-01-12T02:33:57Z) - On the Parallel Complexity of Multilevel Monte Carlo in Stochastic
Gradient Descent [0.8158530638728501]
ニューラル微分方程式において、マルチレベルカルロ法(MLMC法)は、単純モンテカルロ法よりも理論的に複雑であることが知られている。
本稿では,以前に計算した部品によるシーケンシャルCリサイクルの並列化を劇的に低減する遅延勾配推定器を提案する。
提案した推定器は, 摂食収束率をわずかに低下させるコストで, 勾配当たりの平均並列複雑性を確実に低減する。
論文 参考訳(メタデータ) (2023-10-03T19:53:12Z) - A Fast Algorithm for the Real-Valued Combinatorial Pure Exploration of Multi-Armed Bandit [55.2480439325792]
多武装バンディット(R-CPE-MAB)の真価純探査問題について検討する。
本稿では,差分に基づく探索法 (CombGapE) アルゴリズムを提案する。
我々は,CombGapEアルゴリズムが,合成データセットと実世界のデータセットの両方において,既存の手法を大幅に上回っていることを数値的に示す。
論文 参考訳(メタデータ) (2023-06-15T15:37:31Z) - Bayesian Decision Trees Inspired from Evolutionary Algorithms [64.80360020499555]
我々は、マルコフ連鎖モンテカルロ(MCMC)を本質的に並列なアルゴリズムであるシーケンシャルモンテカルロ(SMC)に置き換えることを提案する。
実験により、SMCと進化的アルゴリズム(EA)を組み合わせることで、MCMCの100倍のイテレーションでより正確な結果が得られることが示された。
論文 参考訳(メタデータ) (2023-05-30T06:17:35Z) - Beyond Exponentially Fast Mixing in Average-Reward Reinforcement
Learning via Multi-Level Monte Carlo Actor-Critic [61.968469104271676]
本稿では,アクター・アクターとアクター・アクター・アクター・アルゴリズムに埋め込まれた平均報酬に対して,マルチレベルモンテカルロ推定器を用いて混合時間に適応したRL手法を提案する。
不安定な報酬を伴うRL問題において,安定性に要求される技術的条件の緩和効果が,実用上優れた性能に変換されることを実験的に示す。
論文 参考訳(メタデータ) (2023-01-28T04:12:56Z) - Finite Sample Complexity of Sequential Monte Carlo Estimators on
Multimodal Target Distributions [0.0]
我々は、関連するカーネルの局所混合時間のみを必要とするシーケンシャルモンテカルロ(SMC)アルゴリズムに対する有限サンプル複素数を証明する。
対象の分布がマルチモーダルであり、カーネルのグローバルな混合が遅い場合、我々の境界は特に有用である。
論文 参考訳(メタデータ) (2022-08-13T15:06:03Z) - Pipelined correlated minimum weight perfect matching of the surface code [56.01788646782563]
最小ウェイト完全マッチングを用いて表面コードを復号するパイプライン手法について述べる。
独立な非通信可能な並列化処理段階は、潜在的な相関に従ってグラフを再重み付けする。
後続の一般的なステージがマッチングを終了します。
完全にフォールトトレラントなトーリック, 回転しない, 回転する曲面符号に対して, 新たなアルゴリズムの有効性を検証した。
論文 参考訳(メタデータ) (2022-05-19T19:58:02Z) - Reward-Free RL is No Harder Than Reward-Aware RL in Linear Markov
Decision Processes [61.11090361892306]
Reward-free reinforcement learning (RL) は、エージェントが探索中に報酬関数にアクセスできないような環境を考える。
この分離は線形MDPの設定には存在しないことを示す。
我々は$d$次元線形 MDP における報酬のない RL に対する計算効率の良いアルゴリズムを開発した。
論文 参考訳(メタデータ) (2022-01-26T22:09:59Z) - Random Coordinate Langevin Monte Carlo [20.423417125810868]
ランゲヴィン・モンテカルロ(Langevin Monte Carlo、LMC)は、マルコフ連鎖モンテカルロサンプリング法である。
ランダムコーディネート LMC という新しいサンプリング手法を提案する。
論文 参考訳(メタデータ) (2020-10-03T18:18:11Z) - On Thompson Sampling with Langevin Algorithms [106.78254564840844]
多武装バンディット問題に対するトンプソンサンプリングは理論と実践の両方において良好な性能を享受する。
計算上のかなりの制限に悩まされており、反復ごとに後続分布からのサンプルを必要とする。
本稿では,この問題に対処するために,トンプソンサンプリングに適した2つのマルコフ連鎖モンテカルロ法を提案する。
論文 参考訳(メタデータ) (2020-02-23T22:35:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。