論文の概要: The split Gibbs sampler revisited: improvements to its algorithmic
structure and augmented target distribution
- arxiv url: http://arxiv.org/abs/2206.13894v1
- Date: Tue, 28 Jun 2022 11:21:41 GMT
- ステータス: 処理完了
- システム内更新日: 2022-07-02 11:30:20.071440
- Title: The split Gibbs sampler revisited: improvements to its algorithmic
structure and augmented target distribution
- Title（参考訳）: スプリットギブス・サンプラーの再検討:アルゴリズム構造の改善とターゲット分布の強化
- Authors: Marcelo Pereyra, Luis A. Vargas-Mieles, Konstantinos C. Zygalakis
- Abstract要約: 本稿では, 画像逆問題におけるベイズ計算を効率的に行うために, 高速化された近位連鎖モンテカルロ法を提案する。
提案手法はランゲヴィン拡散過程から導かれ、2つの最先端の近縁MCMCサンプルを密に統合することに由来する。
- 参考スコア（独自算出の注目度）: 1.1279808969568252
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper proposes a new accelerated proximal Markov chain Monte Carlo
(MCMC) methodology to perform Bayesian computation efficiently in imaging
inverse problems. The proposed methodology is derived from the Langevin
diffusion process and stems from tightly integrating two state-of-the-art
proximal Langevin MCMC samplers, SK-ROCK and split Gibbs sampling (SGS), which
employ distinctively different strategies to improve convergence speed. More
precisely, we show how to integrate, at the level of the Langevin diffusion
process, the proximal SK-ROCK sampler which is based on a stochastic
Runge-Kutta-Chebyshev approximation of the diffusion, with the model
augmentation and relaxation strategy that SGS exploits to speed up Bayesian
computation at the expense of asymptotic bias. This leads to a new and faster
proximal SK-ROCK sampler that combines the accelerated quality of the original
SK-ROCK sampler with the computational benefits of augmentation and relaxation.
Moreover, rather than viewing the augmented and relaxed model as an
approximation of the target model, positioning relaxation in a bias-variance
trade-off, we propose to regard the augmented and relaxed model as a
generalisation of the target model. This then allows us to carefully calibrate
the amount of relaxation in order to simultaneously improve the accuracy of the
model (as measured by the model evidence) and the sampler's convergence speed.
To achieve this, we derive an empirical Bayesian method to automatically
estimate the optimal amount of relaxation by maximum marginal likelihood
estimation. The proposed methodology is demonstrated with a range of numerical
experiments related to image deblurring and inpainting, as well as with
comparisons with alternative approaches from the state of the art.
- Abstract（参考訳）: 本稿では,画像逆問題においてベイズ計算を効率的に行うための,新しい加速度的近位マルコフ連鎖モンテカルロ法を提案する。
提案手法はLangevin拡散過程から導かれ,SK-ROCKと分割ギブスサンプリング(SGS)という2つの最先端の近近距離MCMCサンプリング器を密に統合することにより,収束速度の向上を図っている。
より正確には、ランジュバン拡散過程のレベルにおいて、確率的ランジュ-クッタ-チェビシェフ近似に基づく近位sk-ロックサンプラーと、sgsが漸近バイアスを犠牲にしてベイズ計算を高速化するために利用するモデル拡張と緩和戦略を統合する方法を示す。
これにより、元のsk-rockサンプラーの加速品質と拡張と緩和の計算上の利点を組み合わせた、新しく高速なsk-rockサンプラーが誕生した。
さらに、拡張緩和モデルを対象モデルの近似として見るのではなく、バイアス分散トレードオフにおける緩和の位置を定め、対象モデルの一般化として拡張緩和モデルを考えることを提案する。
これにより、モデルの精度(モデルエビデンスによって測定されるように)とサンプルの収束速度を同時に向上させるため、緩和量を慎重に調整することができる。
これを実現するために経験ベイズ法を導出し,最大限界確率推定による最適緩和量を自動的に推定する。
提案手法は, 画像の劣化と塗装に関する様々な数値実験と, 技術の現状から得られた代替手法との比較により実証された。
関連論文リスト
- Learning Gaussian Representation for Eye Fixation Prediction [54.88001757991433]
既存のアイ固定予測方法は、入力画像から原固定点から生成された対応する濃密な固定マップへのマッピングを行う。
本稿ではアイフィグレーションモデリングのためのガウス表現について紹介する。
我々は,リアルタイムな固定予測を実現するために,軽量なバックボーン上にフレームワークを設計する。
論文 参考訳（メタデータ） (2024-03-21T20:28:22Z) - An Optimization-based Deep Equilibrium Model for Hyperspectral Image
Deconvolution with Convergence Guarantees [71.57324258813675]
本稿では,ハイパースペクトル画像のデコンボリューション問題に対処する新しい手法を提案する。
新しい最適化問題を定式化し、学習可能な正規化器をニューラルネットワークの形で活用する。
導出した反復解法は、Deep Equilibriumフレームワーク内の不動点計算問題として表現される。
論文 参考訳（メタデータ） (2023-06-10T08:25:16Z) - Bayesian Pseudo-Coresets via Contrastive Divergence [5.479797073162603]
対照的な発散を利用して擬似コアセットを構築するための新しい手法を提案する。
これは擬似コアセット構築プロセスにおける近似の必要性を排除する。
複数のデータセットに対して広範な実験を行い、既存のBPC技術よりも優れていることを示す。
論文 参考訳（メタデータ） (2023-03-20T17:13:50Z) - Towards Practical Preferential Bayesian Optimization with Skew Gaussian
Processes [8.198195852439946]
本稿では,信頼度が2対比較に限定される優先ベイズ最適化(BO)について検討する。
優越性BOの重要な課題は、優越性ガウス過程(GP)モデルを用いてフレキシブルな選好構造を表現することである。
本研究では,高い計算効率と低いサンプル複雑性を両立させる新しい手法を開発し,その効果を広範囲な数値実験により実証する。
論文 参考訳（メタデータ） (2023-02-03T03:02:38Z) - Langevin Monte Carlo for Contextual Bandits [72.00524614312002]
Langevin Monte Carlo Thompson Sampling (LMC-TS) が提案されている。
提案アルゴリズムは,文脈的帯域幅の特別な場合において,最高のトンプソンサンプリングアルゴリズムと同じサブ線形残差を達成できることを示す。
論文 参考訳（メタデータ） (2022-06-22T17:58:23Z) - Distributed Sketching for Randomized Optimization: Exact
Characterization, Concentration and Lower Bounds [54.51566432934556]
我々はヘシアンの形成が困難である問題に対する分散最適化法を検討する。
ランダム化されたスケッチを利用して、問題の次元を減らし、プライバシを保ち、非同期分散システムにおけるストラグラーレジリエンスを改善します。
論文 参考訳（メタデータ） (2022-03-18T05:49:13Z) - Fast Doubly-Adaptive MCMC to Estimate the Gibbs Partition Function with
Weak Mixing Time Bounds [7.428782604099876]
Gibbs分布の実践的応用に対する大きな障害は、それらの分割関数を見積もる必要があることである。
本稿では,分割関数を厳密に推定する計算複雑性を低減する手法を提案する。
論文 参考訳（メタデータ） (2021-11-14T15:42:02Z) - Nesterov Accelerated ADMM for Fast Diffeomorphic Image Registration [63.15453821022452]
ディープラーニングに基づくアプローチの最近の発展は、DiffIRのサブ秒間実行を実現している。
本稿では,中間定常速度場を機能的に構成する簡易な反復スキームを提案する。
次に、任意の順序の正規化項を用いて、これらの速度場に滑らかさを課す凸最適化モデルを提案する。
論文 参考訳（メタデータ） (2021-09-26T19:56:45Z) - Structured Stochastic Gradient MCMC [20.68905354115655]
近似した後方関数形式を仮定しない新しい非パラメトリック変分近似を提案する。
完全なSGMCMCよりも優れた予測可能性と有効試料サイズが得られる。
論文 参考訳（メタデータ） (2021-07-19T17:18:10Z) - What Are Bayesian Neural Network Posteriors Really Like? [63.950151520585024]
ハミルトニアンモンテカルロは、標準およびディープアンサンブルよりも大きな性能向上を達成できることを示す。
また,深部分布は標準SGLDとHMCに類似しており,標準変動推論に近いことが示された。
論文 参考訳（メタデータ） (2021-04-29T15:38:46Z) - An adaptive Hessian approximated stochastic gradient MCMC method [12.93317525451798]
後方からのサンプリング中に局所的幾何情報を組み込む適応型ヘッセン近似勾配MCMC法を提案する。
我々は,ネットワークの空間性を高めるために,等級に基づく重み付け法を採用する。
論文 参考訳（メタデータ） (2020-10-03T16:22:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。