論文の概要: Convergence of Dirichlet Forms for MCMC Optimal Scaling with Dependent Target Distributions on Large Graphs
- arxiv url: http://arxiv.org/abs/2210.17042v3
- Date: Fri, 15 Nov 2024 17:13:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-11-18 18:55:31.657846
- Title: Convergence of Dirichlet Forms for MCMC Optimal Scaling with Dependent Target Distributions on Large Graphs
- Title(参考訳): 大規模グラフ上の依存対象分布を用いたMCMC最適スケーリングのためのディリクレ形式の収束
- Authors: Ning Ning,
- Abstract要約: マルコフ連鎖モンテカルロ(MCMC)アルゴリズムは統計学、物理学、機械学習などにおいて重要な役割を果たしている。
最も古典的なMCMCアルゴリズムであるランダムウォーク・メトロポリス(RWM)アルゴリズムは、科学と工学の発展と実践に大きな影響を与えた。
本稿では,ダイリクレ形式のモスコ収束を利用して,大グラフ上のRWMアルゴリズムを解析する。
- 参考スコア(独自算出の注目度): 1.2419096638953384
- License:
- Abstract: Markov chain Monte Carlo (MCMC) algorithms have played a significant role in statistics, physics, machine learning and others, and they are the only known general and efficient approach for some high-dimensional problems. The random walk Metropolis (RWM) algorithm as the most classical MCMC algorithm, has had a great influence on the development and practice of science and engineering. The behavior of the RWM algorithm in high-dimensional problems is typically investigated through a weak convergence result of diffusion processes. In this paper, we utilize the Mosco convergence of Dirichlet forms in analyzing the RWM algorithm on large graphs, whose target distribution is the Gibbs measure that includes any probability measure satisfying a Markov property. The abstract and powerful theory of Dirichlet forms allows us to work directly and naturally on the infinite-dimensional space, and our notion of Mosco convergence allows Dirichlet forms associated with the RWM chains to lie on changing Hilbert spaces. Through the optimal scaling problem, we demonstrate the impressive strengths of the Dirichlet form approach over the standard diffusion approach.
- Abstract(参考訳): マルコフ連鎖モンテカルロ (MCMC) アルゴリズムは統計学、物理学、機械学習などにおいて重要な役割を担い、高次元問題に対する唯一の一般的かつ効率的なアプローチである。
最も古典的なMCMCアルゴリズムであるランダムウォーク・メトロポリス(RWM)アルゴリズムは、科学と工学の発展と実践に大きな影響を与えた。
高次元問題におけるRWMアルゴリズムの挙動は、拡散過程の弱い収束結果を通して研究されるのが一般的である。
本稿では,マルコフ特性を満たす確率測度を含むギブス測度を対象とする大グラフ上でのRWMアルゴリズムの解析において,ディリクレ形式のモスコ収束を利用する。
ディリクレ形式(英語版)の抽象的かつ強力な理論は、無限次元空間に直接自然に作用することができ、モスコ収束の概念は、RWM鎖に付随するディリクレ形式がヒルベルト空間の変化に成り立つことを許す。
最適スケーリング問題を通じて、標準拡散法に対するディリクレ形式アプローチの印象的な強みを実証する。
関連論文リスト
- Bellman Diffusion: Generative Modeling as Learning a Linear Operator in the Distribution Space [72.52365911990935]
本稿では,MDPの線形性を維持する新しいDGMフレームワークであるBellman Diffusionを紹介する。
この結果から,ベルマン拡散は分布RLタスクにおける従来のヒストグラムベースベースラインよりも1.5倍高速に収束し,精度の高い画像生成装置であることがわかった。
論文 参考訳(メタデータ) (2024-10-02T17:53:23Z) - Diffusion Models as Stochastic Quantization in Lattice Field Theory [7.221319972004889]
生成拡散モデル(DM)と量子化(SQ)の直接接続を確立する。
DMは、ランゲヴィン方程式によって予測された過程の逆転を近似し、先行分布からサンプルを生成し、対象分布を効果的に模倣することにより実現される。
我々は,マルコフ連鎖における自己相関時間,特に標準マルコフ連鎖モンテカルロアルゴリズムが臨界減速を経験する臨界領域において,DMが顕著に減少することを示した。
論文 参考訳(メタデータ) (2023-09-29T09:26:59Z) - Learning Graphical Factor Models with Riemannian Optimization [70.13748170371889]
本稿では,低ランク構造制約下でのグラフ学習のためのフレキシブルなアルゴリズムフレームワークを提案する。
この問題は楕円分布のペナルティ化された最大推定値として表される。
楕円モデルによく適合する正定行列と定ランクの正半定行列のジオメトリを利用する。
論文 参考訳(メタデータ) (2022-10-21T13:19:45Z) - The Dynamics of Riemannian Robbins-Monro Algorithms [101.29301565229265]
本稿では,Robins と Monro のセミナル近似フレームワークを一般化し拡張するリーマンアルゴリズムの族を提案する。
ユークリッドのそれと比較すると、リーマンのアルゴリズムは多様体上の大域線型構造が欠如しているため、はるかに理解されていない。
ユークリッド・ロビンス=モンロスキームの既存の理論を反映し拡張するほぼ確実な収束結果の一般的なテンプレートを提供する。
論文 参考訳(メタデータ) (2022-06-14T12:30:11Z) - Lagrangian Manifold Monte Carlo on Monge Patches [5.586191108738564]
この計量でラグランジアンモンテカルロがターゲット分布を効率的に探索する方法を示す。
我々の計量は1次情報しか必要とせず、高速な逆行列式と行列式を持つ。
論文 参考訳(メタデータ) (2022-02-01T21:01:22Z) - Machine Learning and Variational Algorithms for Lattice Field Theory [1.198562319289569]
格子量子場論の研究において、格子理論を定義するパラメータは連続体物理学にアクセスする臨界性に向けて調整されなければならない。
経路積分の領域に適用される輪郭変形に基づいてモンテカルロ推定器を「変形」する手法を提案する。
我々は,フローベースMCMCが臨界減速を緩和し,オブザーシフォールドが原理的応用のばらつきを指数関数的に低減できることを実証した。
論文 参考訳(メタデータ) (2021-06-03T16:37:05Z) - What Are Bayesian Neural Network Posteriors Really Like? [63.950151520585024]
ハミルトニアンモンテカルロは、標準およびディープアンサンブルよりも大きな性能向上を達成できることを示す。
また,深部分布は標準SGLDとHMCに類似しており,標準変動推論に近いことが示された。
論文 参考訳(メタデータ) (2021-04-29T15:38:46Z) - Joint Network Topology Inference via Structured Fusion Regularization [70.30364652829164]
結合ネットワークトポロジ推論は、異種グラフ信号から複数のグラフラプラシア行列を学習する標準的な問題を表す。
新規な構造化融合正規化に基づく一般グラフ推定器を提案する。
提案するグラフ推定器は高い計算効率と厳密な理論保証の両方を享受できることを示す。
論文 参考訳(メタデータ) (2021-03-05T04:42:32Z) - Sampling in Combinatorial Spaces with SurVAE Flow Augmented MCMC [83.48593305367523]
ハイブリッドモンテカルロ(Hybrid Monte Carlo)は、複素連続分布からサンプリングする強力なマルコフ連鎖モンテカルロ法である。
本稿では,SurVAEフローを用いたモンテカルロ法の拡張に基づく新しい手法を提案する。
本稿では,統計学,計算物理学,機械学習など,様々な分野におけるアルゴリズムの有効性を実証し,代替アルゴリズムと比較した改良点を考察する。
論文 参考訳(メタデータ) (2021-02-04T02:21:08Z) - Accelerating MCMC algorithms through Bayesian Deep Networks [7.054093620465401]
マルコフ・チェイン・モンテカルロ(MCMC)アルゴリズムは、複雑な確率分布のサンプリングにおいて、その汎用性のために一般的に用いられる。
分布の次元が大きくなるにつれて、サンプリング空間を十分に探索する計算コストが困難になる。
マルコフ連鎖の最初の提案としてベイズニューラルネットワークの結果を用いて適応MCMCを実行する方法を示す。
論文 参考訳(メタデータ) (2020-11-29T04:29:00Z) - Demystifying Orthogonal Monte Carlo and Beyond [20.745014324028386]
オルソゴン・モンテカルロ(オルソゴン・モンテカルロ、Orthogonal Monte Carlo、OMC)は、構造的幾何学的条件(オルソゴン性)をサンプルに課す非常に効果的なサンプリングアルゴリズムである。
我々は、OMCの背後にある理論原理に新たな光を当て、いくつかの新しい濃度結果を得るために負依存確率変数の理論を適用した。
我々は,Near-Orthogonal Monte Carlo (NOMC)と呼ばれる数論手法と粒子アルゴリズムを利用した新しい拡張法を提案する。
論文 参考訳(メタデータ) (2020-05-27T18:44:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。