論文の概要: Convergence of Dirichlet Forms for MCMC Optimal Scaling with General
Target Distributions on Large Graphs
- arxiv url: http://arxiv.org/abs/2210.17042v1
- Date: Mon, 31 Oct 2022 03:41:17 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-01 19:15:47.464860
- Title: Convergence of Dirichlet Forms for MCMC Optimal Scaling with General
Target Distributions on Large Graphs
- Title(参考訳): 大グラフ上の汎用分布を用いたMCMC最適スケーリングのためのディリクレ形式収束
- Authors: Ning Ning
- Abstract要約: 大規模なグラフ上でのメトロポリス・ハスティングス (MH) アルゴリズムの解析において, ディリクレ形式のモスコ収束を導入する。
モスコ収束の概念は、MHマルコフ連鎖に付随するディリクレ形式がヒルベルト空間の変化に依存することを許す。
- 参考スコア(独自算出の注目度): 0.6599344783327054
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Markov chain Monte Carlo (MCMC) algorithms have played a significant role in
statistics, physics, machine learning and others, and they are the only known
general and efficient approach for some high-dimensional problems. The
Metropolis-Hastings (MH) algorithm as the most classical MCMC algorithm, has
had a great influence on the development and practice of science and
engineering. The behavior of the MH algorithm in high-dimensional problems is
typically investigated through a weak convergence result of diffusion
processes. In this paper, we introduce Mosco convergence of Dirichlet forms in
analyzing the MH algorithm on large graphs, whose target distribution is the
Gibbs measure that includes any probability measure satisfying a Markov
property. The abstract and powerful theory of Dirichlet forms allows us to work
directly and naturally on the infinite-dimensional space, and our notion of
Mosco convergence allows Dirichlet forms associated with the MH Markov chains
to lie on changing Hilbert spaces. Through the optimal scaling problem, we
demonstrate the impressive strengths of the Dirichlet form approach over the
standard diffusion approach.
- Abstract(参考訳): マルコフ連鎖モンテカルロ (MCMC) アルゴリズムは統計学、物理学、機械学習などにおいて重要な役割を担い、高次元問題に対する唯一の一般的かつ効率的なアプローチである。
最も古典的なMCMCアルゴリズムであるMetropolis-Hastings (MH)アルゴリズムは、科学と工学の発展と実践に大きな影響を与えた。
高次元問題におけるMHアルゴリズムの挙動は、拡散過程の弱い収束結果を通して研究される。
本稿では,マルコフ特性を満たす任意の確率測度を含むgibbs測度を対象分布とする大規模グラフ上でのmhアルゴリズムの解析において,ディリクレ形式のmosco収束を導入する。
ディリクレ形式の抽象的かつ強力な理論は、無限次元空間上で直接自然に働くことができ、モスコ収束の概念は、MHマルコフ連鎖に付随するディリクレ形式をヒルベルト空間の変化に置き換えることを可能にする。
最適スケーリング問題を通じて,標準拡散アプローチに対するディリクレ形式アプローチの印象的な強みを示す。
関連論文リスト
- Bellman Diffusion: Generative Modeling as Learning a Linear Operator in the Distribution Space [72.52365911990935]
本稿では,MDPの線形性を維持する新しいDGMフレームワークであるBellman Diffusionを紹介する。
この結果から,ベルマン拡散は分布RLタスクにおける従来のヒストグラムベースベースラインよりも1.5倍高速に収束し,精度の高い画像生成装置であることがわかった。
論文 参考訳(メタデータ) (2024-10-02T17:53:23Z) - Diffusion Models as Stochastic Quantization in Lattice Field Theory [7.221319972004889]
生成拡散モデル(DM)と量子化(SQ)の直接接続を確立する。
DMは、ランゲヴィン方程式によって予測された過程の逆転を近似し、先行分布からサンプルを生成し、対象分布を効果的に模倣することにより実現される。
我々は,マルコフ連鎖における自己相関時間,特に標準マルコフ連鎖モンテカルロアルゴリズムが臨界減速を経験する臨界領域において,DMが顕著に減少することを示した。
論文 参考訳(メタデータ) (2023-09-29T09:26:59Z) - Learning Graphical Factor Models with Riemannian Optimization [70.13748170371889]
本稿では,低ランク構造制約下でのグラフ学習のためのフレキシブルなアルゴリズムフレームワークを提案する。
この問題は楕円分布のペナルティ化された最大推定値として表される。
楕円モデルによく適合する正定行列と定ランクの正半定行列のジオメトリを利用する。
論文 参考訳(メタデータ) (2022-10-21T13:19:45Z) - The Dynamics of Riemannian Robbins-Monro Algorithms [101.29301565229265]
本稿では,Robins と Monro のセミナル近似フレームワークを一般化し拡張するリーマンアルゴリズムの族を提案する。
ユークリッドのそれと比較すると、リーマンのアルゴリズムは多様体上の大域線型構造が欠如しているため、はるかに理解されていない。
ユークリッド・ロビンス=モンロスキームの既存の理論を反映し拡張するほぼ確実な収束結果の一般的なテンプレートを提供する。
論文 参考訳(メタデータ) (2022-06-14T12:30:11Z) - Lagrangian Manifold Monte Carlo on Monge Patches [5.586191108738564]
この計量でラグランジアンモンテカルロがターゲット分布を効率的に探索する方法を示す。
我々の計量は1次情報しか必要とせず、高速な逆行列式と行列式を持つ。
論文 参考訳(メタデータ) (2022-02-01T21:01:22Z) - Machine Learning and Variational Algorithms for Lattice Field Theory [1.198562319289569]
格子量子場論の研究において、格子理論を定義するパラメータは連続体物理学にアクセスする臨界性に向けて調整されなければならない。
経路積分の領域に適用される輪郭変形に基づいてモンテカルロ推定器を「変形」する手法を提案する。
我々は,フローベースMCMCが臨界減速を緩和し,オブザーシフォールドが原理的応用のばらつきを指数関数的に低減できることを実証した。
論文 参考訳(メタデータ) (2021-06-03T16:37:05Z) - What Are Bayesian Neural Network Posteriors Really Like? [63.950151520585024]
ハミルトニアンモンテカルロは、標準およびディープアンサンブルよりも大きな性能向上を達成できることを示す。
また,深部分布は標準SGLDとHMCに類似しており,標準変動推論に近いことが示された。
論文 参考訳(メタデータ) (2021-04-29T15:38:46Z) - Joint Network Topology Inference via Structured Fusion Regularization [70.30364652829164]
結合ネットワークトポロジ推論は、異種グラフ信号から複数のグラフラプラシア行列を学習する標準的な問題を表す。
新規な構造化融合正規化に基づく一般グラフ推定器を提案する。
提案するグラフ推定器は高い計算効率と厳密な理論保証の両方を享受できることを示す。
論文 参考訳(メタデータ) (2021-03-05T04:42:32Z) - Sampling in Combinatorial Spaces with SurVAE Flow Augmented MCMC [83.48593305367523]
ハイブリッドモンテカルロ(Hybrid Monte Carlo)は、複素連続分布からサンプリングする強力なマルコフ連鎖モンテカルロ法である。
本稿では,SurVAEフローを用いたモンテカルロ法の拡張に基づく新しい手法を提案する。
本稿では,統計学,計算物理学,機械学習など,様々な分野におけるアルゴリズムの有効性を実証し,代替アルゴリズムと比較した改良点を考察する。
論文 参考訳(メタデータ) (2021-02-04T02:21:08Z) - Accelerating MCMC algorithms through Bayesian Deep Networks [7.054093620465401]
マルコフ・チェイン・モンテカルロ(MCMC)アルゴリズムは、複雑な確率分布のサンプリングにおいて、その汎用性のために一般的に用いられる。
分布の次元が大きくなるにつれて、サンプリング空間を十分に探索する計算コストが困難になる。
マルコフ連鎖の最初の提案としてベイズニューラルネットワークの結果を用いて適応MCMCを実行する方法を示す。
論文 参考訳(メタデータ) (2020-11-29T04:29:00Z) - Demystifying Orthogonal Monte Carlo and Beyond [20.745014324028386]
オルソゴン・モンテカルロ(オルソゴン・モンテカルロ、Orthogonal Monte Carlo、OMC)は、構造的幾何学的条件(オルソゴン性)をサンプルに課す非常に効果的なサンプリングアルゴリズムである。
我々は、OMCの背後にある理論原理に新たな光を当て、いくつかの新しい濃度結果を得るために負依存確率変数の理論を適用した。
我々は,Near-Orthogonal Monte Carlo (NOMC)と呼ばれる数論手法と粒子アルゴリズムを利用した新しい拡張法を提案する。
論文 参考訳(メタデータ) (2020-05-27T18:44:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。