論文の概要: The split Gibbs sampler revisited: improvements to its algorithmic
structure and augmented target distribution
- arxiv url: http://arxiv.org/abs/2206.13894v2
- Date: Fri, 28 Apr 2023 19:14:10 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-02 19:58:19.332943
- Title: The split Gibbs sampler revisited: improvements to its algorithmic
structure and augmented target distribution
- Title（参考訳）: スプリットギブス・サンプラーの再検討:アルゴリズム構造の改善とターゲット分布の強化
- Authors: Marcelo Pereyra, Luis A. Vargas-Mieles, Konstantinos C. Zygalakis
- Abstract要約: 現在の最先端の手法は、後部密度を滑らかな近似で置き換えることによってこれらの問題に対処することが多い。
別のアプローチはデータ拡張と緩和に基づいており、補助変数を導入して近似的な拡張後分布を構築する。
本稿では,2つの戦略の利点を密結合した潜在空間SK-ROCKと呼ばれる,新しい加速近位MCMC法を提案する。
- 参考スコア（独自算出の注目度）: 1.1279808969568252
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Developing efficient Bayesian computation algorithms for imaging inverse
problems is challenging due to the dimensionality involved and because Bayesian
imaging models are often not smooth. Current state-of-the-art methods often
address these difficulties by replacing the posterior density with a smooth
approximation that is amenable to efficient exploration by using Langevin
Markov chain Monte Carlo (MCMC) methods. An alternative approach is based on
data augmentation and relaxation, where auxiliary variables are introduced in
order to construct an approximate augmented posterior distribution that is
amenable to efficient exploration by Gibbs sampling. This paper proposes a new
accelerated proximal MCMC method called latent space SK-ROCK (ls SK-ROCK),
which tightly combines the benefits of the two aforementioned strategies.
Additionally, instead of viewing the augmented posterior distribution as an
approximation of the original model, we propose to consider it as a
generalisation of this model. Following on from this, we empirically show that
there is a range of values for the relaxation parameter for which the accuracy
of the model improves, and propose a stochastic optimisation algorithm to
automatically identify the optimal amount of relaxation for a given problem. In
this regime, ls SK-ROCK converges faster than competing approaches from the
state of the art, and also achieves better accuracy since the underlying
augmented Bayesian model has a higher Bayesian evidence. The proposed
methodology is demonstrated with a range of numerical experiments related to
image deblurring and inpainting, as well as with comparisons with alternative
approaches from the state of the art. An open-source implementation of the
proposed MCMC methods is available from
https://github.com/luisvargasmieles/ls-MCMC.
- Abstract（参考訳）: 逆問題のイメージングのための効率的なベイズ計算アルゴリズムの開発は、関連する次元とベイズ画像モデルがしばしば滑らかではないため、難しい。
現在の最先端の手法は、ランゲヴィン・マルコフ連鎖モンテカルロ (MCMC) 法による効率的な探索が可能な滑らかな近似に後部密度を置き換えることによってこれらの困難に対処することが多い。
別のアプローチはデータ拡張と緩和に基づいており、gibbsサンプリングによる効率的な探索に適する近似拡張後続分布を構築するために補助変数が導入された。
本稿では,2つの戦略の利点を密結合した潜在空間SK-ROCK (ls SK-ROCK) と呼ばれる,新しい加速近距離MCMC法を提案する。
さらに, 拡張された後方分布を元のモデルの近似として見るのではなく, このモデルの一般化と考えることを提案する。
この結果から,モデル精度が向上する緩和パラメータの値の範囲が実験的に示され,与えられた問題の最適緩和量を自動的に同定する確率的最適化アルゴリズムを提案する。
この体制では、Ls SK-ROCKは、技術の競合するアプローチよりも早く収束し、基礎となるベイズモデルのベイズ的証拠が高いため、精度も向上する。
提案手法は, 画像の劣化と塗装に関する様々な数値実験と, 技術の現状から得られた代替手法との比較により実証された。
提案されたMCMCメソッドのオープンソース実装はhttps://github.com/luisvargasmieles/ls-MCMCから入手できる。
関連論文リスト
- Learning Gaussian Representation for Eye Fixation Prediction [54.88001757991433]
既存のアイ固定予測方法は、入力画像から原固定点から生成された対応する濃密な固定マップへのマッピングを行う。
本稿ではアイフィグレーションモデリングのためのガウス表現について紹介する。
我々は,リアルタイムな固定予測を実現するために,軽量なバックボーン上にフレームワークを設計する。
論文 参考訳（メタデータ） (2024-03-21T20:28:22Z) - An Optimization-based Deep Equilibrium Model for Hyperspectral Image
Deconvolution with Convergence Guarantees [71.57324258813675]
本稿では,ハイパースペクトル画像のデコンボリューション問題に対処する新しい手法を提案する。
新しい最適化問題を定式化し、学習可能な正規化器をニューラルネットワークの形で活用する。
導出した反復解法は、Deep Equilibriumフレームワーク内の不動点計算問題として表現される。
論文 参考訳（メタデータ） (2023-06-10T08:25:16Z) - Bayesian Pseudo-Coresets via Contrastive Divergence [5.479797073162603]
対照的な発散を利用して擬似コアセットを構築するための新しい手法を提案する。
これは擬似コアセット構築プロセスにおける近似の必要性を排除する。
複数のデータセットに対して広範な実験を行い、既存のBPC技術よりも優れていることを示す。
論文 参考訳（メタデータ） (2023-03-20T17:13:50Z) - Towards Practical Preferential Bayesian Optimization with Skew Gaussian
Processes [8.198195852439946]
本稿では,信頼度が2対比較に限定される優先ベイズ最適化(BO)について検討する。
優越性BOの重要な課題は、優越性ガウス過程(GP)モデルを用いてフレキシブルな選好構造を表現することである。
本研究では,高い計算効率と低いサンプル複雑性を両立させる新しい手法を開発し,その効果を広範囲な数値実験により実証する。
論文 参考訳（メタデータ） (2023-02-03T03:02:38Z) - Langevin Monte Carlo for Contextual Bandits [72.00524614312002]
Langevin Monte Carlo Thompson Sampling (LMC-TS) が提案されている。
提案アルゴリズムは,文脈的帯域幅の特別な場合において,最高のトンプソンサンプリングアルゴリズムと同じサブ線形残差を達成できることを示す。
論文 参考訳（メタデータ） (2022-06-22T17:58:23Z) - Distributed Sketching for Randomized Optimization: Exact
Characterization, Concentration and Lower Bounds [54.51566432934556]
我々はヘシアンの形成が困難である問題に対する分散最適化法を検討する。
ランダム化されたスケッチを利用して、問題の次元を減らし、プライバシを保ち、非同期分散システムにおけるストラグラーレジリエンスを改善します。
論文 参考訳（メタデータ） (2022-03-18T05:49:13Z) - Fast Doubly-Adaptive MCMC to Estimate the Gibbs Partition Function with
Weak Mixing Time Bounds [7.428782604099876]
Gibbs分布の実践的応用に対する大きな障害は、それらの分割関数を見積もる必要があることである。
本稿では,分割関数を厳密に推定する計算複雑性を低減する手法を提案する。
論文 参考訳（メタデータ） (2021-11-14T15:42:02Z) - Nesterov Accelerated ADMM for Fast Diffeomorphic Image Registration [63.15453821022452]
ディープラーニングに基づくアプローチの最近の発展は、DiffIRのサブ秒間実行を実現している。
本稿では,中間定常速度場を機能的に構成する簡易な反復スキームを提案する。
次に、任意の順序の正規化項を用いて、これらの速度場に滑らかさを課す凸最適化モデルを提案する。
論文 参考訳（メタデータ） (2021-09-26T19:56:45Z) - Structured Stochastic Gradient MCMC [20.68905354115655]
近似した後方関数形式を仮定しない新しい非パラメトリック変分近似を提案する。
完全なSGMCMCよりも優れた予測可能性と有効試料サイズが得られる。
論文 参考訳（メタデータ） (2021-07-19T17:18:10Z) - What Are Bayesian Neural Network Posteriors Really Like? [63.950151520585024]
ハミルトニアンモンテカルロは、標準およびディープアンサンブルよりも大きな性能向上を達成できることを示す。
また,深部分布は標準SGLDとHMCに類似しており,標準変動推論に近いことが示された。
論文 参考訳（メタデータ） (2021-04-29T15:38:46Z) - An adaptive Hessian approximated stochastic gradient MCMC method [12.93317525451798]
後方からのサンプリング中に局所的幾何情報を組み込む適応型ヘッセン近似勾配MCMC法を提案する。
我々は,ネットワークの空間性を高めるために,等級に基づく重み付け法を採用する。
論文 参考訳（メタデータ） (2020-10-03T16:22:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。