論文の概要: Fast Doubly-Adaptive MCMC to Estimate the Gibbs Partition Function with Weak Mixing Time Bounds

• arxiv url: http://arxiv.org/abs/2111.07372v1
• Date: Sun, 14 Nov 2021 15:42:02 GMT
• ステータス: 処理完了
• システム内更新日: 2021-11-17 07:03:44.386037
• Title: Fast Doubly-Adaptive MCMC to Estimate the Gibbs Partition Function with Weak Mixing Time Bounds
• Title（参考訳）: 弱混合時間境界を用いたギブズ分割関数推定のための高速2倍適応MCMC
• Authors: Shahrzad Haddadan, Yue Zhuang, Cyrus Cousins, Eli Upfal
• Abstract要約: Gibbs分布の実践的応用に対する大きな障害は、それらの分割関数を見積もる必要があることである。 本稿では,分割関数を厳密に推定する計算複雑性を低減する手法を提案する。
• 参考スコア（独自算出の注目度）: 7.428782604099876
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We present a novel method for reducing the computational complexity of rigorously estimating the partition functions (normalizing constants) of Gibbs (Boltzmann) distributions, which arise ubiquitously in probabilistic graphical models. A major obstacle to practical applications of Gibbs distributions is the need to estimate their partition functions. The state of the art in addressing this problem is multi-stage algorithms, which consist of a cooling schedule, and a mean estimator in each step of the schedule. While the cooling schedule in these algorithms is adaptive, the mean estimation computations use MCMC as a black-box to draw approximate samples. We develop a doubly adaptive approach, combining the adaptive cooling schedule with an adaptive MCMC mean estimator, whose number of Markov chain steps adapts dynamically to the underlying chain. Through rigorous theoretical analysis, we prove that our method outperforms the state of the art algorithms in several factors: (1) The computational complexity of our method is smaller; (2) Our method is less sensitive to loose bounds on mixing times, an inherent component in these algorithms; and (3) The improvement obtained by our method is particularly significant in the most challenging regime of high-precision estimation. We demonstrate the advantage of our method in experiments run on classic factor graphs, such as voting models and Ising models.
• Abstract（参考訳）: 本稿では,Gibs (Boltzmann) 分布の分割関数 (正規化定数) を厳密に推定し,確率的グラフィカルモデルに普遍的に現れる計算複雑性を低減する手法を提案する。 Gibbs分布の実践的応用に対する大きな障害は、それらの分割関数を見積もる必要があることである。 この問題に対処する技術の現状は、冷却スケジュールとスケジュールの各ステップの平均推定器で構成されるマルチステージアルゴリズムである。 これらのアルゴリズムの冷却スケジュールは適応的であるが、平均推定計算ではMCMCをブラックボックスとして使用して近似サンプルを描画する。 我々は,適応冷却スケジュールと適応MCMC平均推定器を組み合わせた2重適応型手法を開発し,マルコフ連鎖のステップの数を基底鎖に動的に適応させる。 厳密な理論的分析を通じて,本手法は,(1)計算複雑性が小さく,(2)混合時間に係わるゆるい境界に敏感でないこと,(3)高精度推定の最も困難な状況において,本手法が得られた改善が特に重要であることを証明した。 投票モデルやイジングモデルなど,古典的因子グラフ上で実施する実験において,本手法の利点を実証する。

関連論文リスト

• Adaptive Federated Learning Over the Air [108.62635460744109]
  オーバー・ザ・エア・モデル・トレーニングの枠組みの中で,適応勾配法,特にAdaGradとAdamの連合バージョンを提案する。 解析の結果,AdaGrad に基づくトレーニングアルゴリズムは $mathcalO(ln(T) / T 1 - frac1alpha の速度で定常点に収束することがわかった。
  論文  参考訳（メタデータ） (2024-03-11T09:10:37Z)
• Large-scale Bayesian Structure Learning for Gaussian Graphical Models using Marginal Pseudo-likelihood [0.26249027950824516]
  我々は2つの新しいマルコフ連鎖モンテカルロ探索アルゴリズムを導入する。 これらのアルゴリズムは、1000変数の大規模問題であっても、標準コンピュータ上でわずか数分で信頼性の高い結果を提供できる。 また,ヒトおよびマウスの遺伝子発現研究における中・大規模応用における本手法の有用性について述べる。
  論文  参考訳（メタデータ） (2023-06-30T20:37:40Z)
• Learning Unnormalized Statistical Models via Compositional Optimization [73.30514599338407]
  実データと人工雑音のロジスティックな損失として目的を定式化することにより, ノイズコントラスト推定(NCE)を提案する。 本稿では,非正規化モデルの負の対数類似度を最適化するための直接的アプローチについて検討する。
  論文  参考訳（メタデータ） (2023-06-13T01:18:16Z)
• An Optimization-based Deep Equilibrium Model for Hyperspectral Image Deconvolution with Convergence Guarantees [71.57324258813675]
  本稿では,ハイパースペクトル画像のデコンボリューション問題に対処する新しい手法を提案する。 新しい最適化問題を定式化し、学習可能な正規化器をニューラルネットワークの形で活用する。 導出した反復解法は、Deep Equilibriumフレームワーク内の不動点計算問題として表現される。
  論文  参考訳（メタデータ） (2023-06-10T08:25:16Z)
• Faster One-Sample Stochastic Conditional Gradient Method for Composite Convex Minimization [61.26619639722804]
  滑らかで非滑らかな項の和として形成される凸有限サム目標を最小化するための条件勾配法(CGM)を提案する。 提案手法は, 平均勾配 (SAG) 推定器を備え, 1回に1回のサンプルしか必要としないが, より高度な分散低減技術と同等の高速収束速度を保証できる。
  論文  参考訳（メタデータ） (2022-02-26T19:10:48Z)
• Minimally Entangled Typical Thermal States Algorithms for Finite Temperature Matsubara Green Functions [0.0]
  有限温度テンソルネットワークを拡張して,松原の仮想時間相関関数を計算する。 ベンチマークとして、単バンドアンダーソン不純物モデルについて検討する。 結果は、最先端の連続したモンテカルロと競合する。
  論文  参考訳（メタデータ） (2021-07-29T13:02:25Z)
• Parallel Stochastic Mirror Descent for MDPs [72.75921150912556]
  無限水平マルコフ決定過程(MDP)における最適政策学習の問題を考える。 リプシッツ連続関数を用いた凸プログラミング問題に対してミラー・ディクセントの変種が提案されている。 このアルゴリズムを一般の場合において解析し,提案手法の動作中に誤差を蓄積しない収束率の推定値を得る。
  論文  参考訳（メタデータ） (2021-02-27T19:28:39Z)
• Efficient semidefinite-programming-based inference for binary and multi-class MRFs [83.09715052229782]
  分割関数やMAP推定をペアワイズMRFで効率的に計算する手法を提案する。 一般のバイナリMRFから完全多クラス設定への半定緩和を拡張し、解法を用いて再び効率的に解けるようなコンパクトな半定緩和を開発する。
  論文  参考訳（メタデータ） (2020-12-04T15:36:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。