論文の概要: SwISS: A Scalable Markov chain Monte Carlo Divide-and-Conquer Strategy

• arxiv url: http://arxiv.org/abs/2208.04080v1
• Date: Mon, 8 Aug 2022 12:02:18 GMT
• ステータス: 処理完了
• システム内更新日: 2022-08-09 14:14:13.260920
• Title: SwISS: A Scalable Markov chain Monte Carlo Divide-and-Conquer Strategy
• Title（参考訳）: SwISS: スケーラブルなMarkovチェーンのMonte Carlo Divide-and-Conquer戦略
• Authors: Callum Vyner, Christopher Nemeth, Chris Sherlock
• Abstract要約: モンテカルロアルゴリズムのディバイド・アンド・コンカー戦略は、ベイジアン推論を大規模データセットにスケーラブルにするアプローチとして、ますます人気が高まっている。 SwISS: Inflation, Scaling, Shiftingを備えたサブポインター, サブポインターのサンプルを再結合するための新しいアプローチを提案する。 我々の変換はアフィン変換の自然な集合において最適であることが証明され、合成および実世界のデータセット上での競合アルゴリズムに対するSwISSの有効性が示される。
• 参考スコア（独自算出の注目度）: 1.6114012813668934
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Divide-and-conquer strategies for Monte Carlo algorithms are an increasingly popular approach to making Bayesian inference scalable to large data sets. In its simplest form, the data are partitioned across multiple computing cores and a separate Markov chain Monte Carlo algorithm on each core targets the associated partial posterior distribution, which we refer to as a sub-posterior, that is the posterior given only the data from the segment of the partition associated with that core. Divide-and-conquer techniques reduce computational, memory and disk bottle-necks, but make it difficult to recombine the sub-posterior samples. We propose SwISS: Sub-posteriors with Inflation, Scaling and Shifting; a new approach for recombining the sub-posterior samples which is simple to apply, scales to high-dimensional parameter spaces and accurately approximates the original posterior distribution through affine transformations of the sub-posterior samples. We prove that our transformation is asymptotically optimal across a natural set of affine transformations and illustrate the efficacy of SwISS against competing algorithms on synthetic and real-world data sets.
• Abstract（参考訳）: モンテカルロアルゴリズムの分割・解法戦略は、ベイズ推論を大規模データセットにスケーラブルにするための、ますます一般的なアプローチである。 最も単純な形式では、データは複数の計算コアにまたがって分割され、各コア上の個別のマルコフ連鎖モンテカルロアルゴリズムは、そのコアに関連付けられた分割のセグメントからのみデータを与える部分的な後方分布(sub-posterior)をターゲットとしている。 分割・分割技術は計算、メモリ、ディスクボトルネックを削減するが、サブポストサンプルの再結合は困難である。 SwISS: Inflation, Scaling and Shifting, a new approach for recombining the sub-posterior sample which is simple to apply, scales to high-dimensional parameters space and corrects the original posterior distribution through the affine transformations of the sub-posterior sample。 我々は,この変換が自然なアフィン変換に対して漸近的に最適であることを証明し,合成および実世界のデータセット上での競合アルゴリズムに対するSwISSの有効性を示す。

関連論文リスト

• Variational Learning of Gaussian Process Latent Variable Models through Stochastic Gradient Annealed Importance Sampling [22.256068524699472]
  本研究では,これらの問題に対処するために,Annealed Importance Smpling (AIS)アプローチを提案する。 シークエンシャルモンテカルロサンプリング器とVIの強度を組み合わせることで、より広い範囲の後方分布を探索し、徐々にターゲット分布に接近する。 実験結果から,本手法はより厳密な変動境界,高い対数類似度,より堅牢な収束率で最先端の手法より優れていることが示された。
  論文  参考訳（メタデータ） (2024-08-13T08:09:05Z)
• An Efficient Algorithm for Clustered Multi-Task Compressive Sensing [60.70532293880842]
  クラスタ化マルチタスク圧縮センシングは、複数の圧縮センシングタスクを解決する階層モデルである。 このモデルに対する既存の推論アルゴリズムは計算コストが高く、高次元ではうまくスケールしない。 本稿では,これらの共分散行列を明示的に計算する必要をなくし,モデル推論を大幅に高速化するアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-09-30T15:57:14Z)
• Langevin Monte Carlo for Contextual Bandits [72.00524614312002]
  Langevin Monte Carlo Thompson Sampling (LMC-TS) が提案されている。 提案アルゴリズムは,文脈的帯域幅の特別な場合において,最高のトンプソンサンプリングアルゴリズムと同じサブ線形残差を達成できることを示す。
  論文  参考訳（メタデータ） (2022-06-22T17:58:23Z)
• Change-point Detection and Segmentation of Discrete Data using Bayesian Context Trees [7.090165638014331]
  最近導入されたBayesian Context Trees (BCT) フレームワークに基づいて構築され、離散時系列における異なるセグメントの分布を可変メモリマルコフ連鎖として記述する。 変化点の存在と位置の推測はマルコフ連鎖モンテカルロサンプリングによって行われる。 シミュレーションと実世界の両方のデータから,提案手法は最先端技術よりも優れた性能を示した。
  論文  参考訳（メタデータ） (2022-03-08T19:03:21Z)
• Improving the Sample-Complexity of Deep Classification Networks with Invariant Integration [77.99182201815763]
  変換によるクラス内分散に関する事前知識を活用することは、ディープニューラルネットワークのサンプル複雑性を改善するための強力な方法である。 そこで本研究では,アプリケーションの複雑な問題に対処するために,プルーニング法に基づく新しい単項選択アルゴリズムを提案する。 本稿では,Rotated-MNIST,SVHN,CIFAR-10データセットにおけるサンプルの複雑さの改善について述べる。
  論文  参考訳（メタデータ） (2022-02-08T16:16:11Z)
• Inferring Manifolds From Noisy Data Using Gaussian Processes [17.166283428199634]
  ほとんどの既存の多様体学習アルゴリズムは、元のデータを低次元座標で置き換える。 本稿では,これらの問題に対処するための新しい手法を提案する。
  論文  参考訳（メタデータ） (2021-10-14T15:50:38Z)
• Sampling in Combinatorial Spaces with SurVAE Flow Augmented MCMC [83.48593305367523]
  ハイブリッドモンテカルロ(Hybrid Monte Carlo)は、複素連続分布からサンプリングする強力なマルコフ連鎖モンテカルロ法である。 本稿では,SurVAEフローを用いたモンテカルロ法の拡張に基づく新しい手法を提案する。 本稿では,統計学,計算物理学,機械学習など,様々な分野におけるアルゴリズムの有効性を実証し,代替アルゴリズムと比較した改良点を考察する。
  論文  参考訳（メタデータ） (2021-02-04T02:21:08Z)
• Kernel learning approaches for summarising and combining posterior similarity matrices [68.8204255655161]
  我々は,ベイズクラスタリングモデルに対するMCMCアルゴリズムの出力を要約するための新しいアプローチを提案するために,後部類似性行列(PSM)の概念を構築した。 我々の研究の重要な貢献は、PSMが正の半定値であり、したがって確率的に動機付けられたカーネル行列を定義するのに使用できることである。
  論文  参考訳（メタデータ） (2020-09-27T14:16:14Z)
• Multilevel Gibbs Sampling for Bayesian Regression [6.2997667081978825]
  データ行列のレベル階層は、データ行列の特徴やサンプルをクラスタリングすることによって作成されます。 マルコフ連鎖の収束を改善するために, 相関試料を用いた分散還元について検討した。 スピードアップは、予測性能に大きな損失を被ることなく、ほぼすべてに対して達成される。
  論文  参考訳（メタデータ） (2020-09-25T11:18:17Z)
• Model Fusion with Kullback--Leibler Divergence [58.20269014662046]
  異種データセットから学習した後続分布を融合する手法を提案する。 我々のアルゴリズムは、融合モデルと個々のデータセット後部の両方に対する平均場仮定に依存している。
  論文  参考訳（メタデータ） (2020-07-13T03:27:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。