論文の概要: Divide-and-Conquer Fusion
- arxiv url: http://arxiv.org/abs/2110.07265v2
- Date: Wed, 12 Jul 2023 11:56:06 GMT
- ステータス: 処理完了
- システム内更新日: 2023-07-13 20:45:00.333256
- Title: Divide-and-Conquer Fusion
- Title（参考訳）: 分割・結合融合
- Authors: Ryan S.Y. Chan, Murray Pollock, Adam M. Johansen and Gareth O. Roberts
- Abstract要約: 補足子と呼ばれるいくつかの(サンプル近似)分布を、その積に比例する単一の分布に組み合わせることは、共通の課題である。
既存の多くのアプローチでは、実際の必要のために個々の後肢を近似し、分析的近似または結果として生じる(積プーリングされた)後肢のサンプル近似を見つける。
近年,後方のモンテカルロ近似を正確に検出し,近似アプローチの欠点を回避したフュージョン法が提案されている。
- 参考スコア（独自算出の注目度）: 1.1470070927586016
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Combining several (sample approximations of) distributions, which we term
sub-posteriors, into a single distribution proportional to their product, is a
common challenge. Occurring, for instance, in distributed 'big data' problems,
or when working under multi-party privacy constraints. Many existing approaches
resort to approximating the individual sub-posteriors for practical necessity,
then find either an analytical approximation or sample approximation of the
resulting (product-pooled) posterior. The quality of the posterior
approximation for these approaches is poor when the sub-posteriors fall
out-with a narrow range of distributional form, such as being approximately
Gaussian. Recently, a Fusion approach has been proposed which finds an exact
Monte Carlo approximation of the posterior, circumventing the drawbacks of
approximate approaches. Unfortunately, existing Fusion approaches have a number
of computational limitations, particularly when unifying a large number of
sub-posteriors. In this paper, we generalise the theory underpinning existing
Fusion approaches, and embed the resulting methodology within a recursive
divide-and-conquer sequential Monte Carlo paradigm. This ultimately leads to a
competitive Fusion approach, which is robust to increasing numbers of
sub-posteriors.
- Abstract（参考訳）: いくつかの(サンプル近似の)分布を積に比例した単一分布に組み合わせることは、よくある問題である。
例えば、分散'ビッグデータ'問題や、複数パーティのプライバシ制約の下で作業する場合に発生する。
既存のアプローチの多くは、実用的必要性のために個々のサブポストレータを近似し、分析的近似または結果の(製品プールの)後方のサンプル近似を求める。
これらのアプローチに対する後部近似の質は、概してガウス的であるような分布の幅の狭い部分ポストが外へ落ちるときに劣る。
近年,後方のモンテカルロ近似を正確に検出し,近似アプローチの欠点を回避したフュージョン法が提案されている。
残念なことに、既存のFusionアプローチには、特に多数のサブポインターを統一する場合に、多くの計算制限がある。
本稿では,既存の融合アプローチを基盤とする理論を一般化し,帰納的分割・包括的モンテカルロパラダイムにその方法論を組み込む。
これは最終的に、競争力のあるフュージョンアプローチにつながり、サブポストの数が増加するのに堅牢である。
関連論文リスト
- A Stein Gradient Descent Approach for Doubly Intractable Distributions [5.63014864822787]
そこで本研究では,2重に抽出可能な分布を推定するために,モンテカルロ・スタイン変分勾配勾配(MC-SVGD)法を提案する。
提案手法は,後続分布に匹敵する推論性能を提供しながら,既存のアルゴリズムよりもかなりの計算ゲインを達成する。
論文 参考訳（メタデータ） (2024-10-28T13:42:27Z) - On diffusion-based generative models and their error bounds: The log-concave case with full convergence estimates [5.13323375365494]
我々は,強い対数対数データの下での拡散に基づく生成モデルの収束挙動を理論的に保証する。
スコア推定に使用される関数のクラスは、スコア関数上のリプシッツネスの仮定を避けるために、リプシッツ連続関数からなる。
この手法はサンプリングアルゴリズムにおいて最もよく知られた収束率をもたらす。
論文 参考訳（メタデータ） (2023-11-22T18:40:45Z) - Improving Diffusion Models for Inverse Problems using Manifold Constraints [55.91148172752894]
我々は,現在の解法がデータ多様体からサンプルパスを逸脱し,エラーが蓄積することを示す。
この問題に対処するため、多様体の制約に着想を得た追加の補正項を提案する。
本手法は理論上も経験上も従来の方法よりも優れていることを示す。
論文 参考訳（メタデータ） (2022-06-02T09:06:10Z) - Posterior and Computational Uncertainty in Gaussian Processes [52.26904059556759]
ガウスのプロセスはデータセットのサイズとともに違法にスケールする。
多くの近似法が開発されており、必然的に近似誤差を導入している。
この余分な不確実性の原因は、計算が限られているため、近似後部を使用すると完全に無視される。
本研究では,観測された有限個のデータと有限個の計算量の両方から生じる組合せ不確実性を一貫した推定を行う手法の開発を行う。
論文 参考訳（メタデータ） (2022-05-30T22:16:25Z) - Residual Overfit Method of Exploration [78.07532520582313]
提案手法は,2点推定値の調整と1点オーバーフィットに基づく近似探索手法を提案する。
このアプローチは、調整されたモデルと比較して、オーバーフィットモデルが最も過度な適合を示すアクションへの探索を促進する。
ROMEを3つのデータセット上の確立されたコンテキスト的帯域幅法と比較し、最も優れたパフォーマンスの1つとみなす。
論文 参考訳（メタデータ） (2021-10-06T17:05:33Z) - Greedy Bayesian Posterior Approximation with Deep Ensembles [22.466176036646814]
独立して訓練された目的の集合は、ディープラーニングにおける予測の不確実性を推定するための最先端のアプローチである。
関数空間における任意の問題に対する成分の混合に対して,本手法は部分モジュラーであることを示す。
論文 参考訳（メタデータ） (2021-05-29T11:35:27Z) - Pathwise Conditioning of Gaussian Processes [72.61885354624604]
ガウス過程後部をシミュレーションするための従来のアプローチでは、有限個の入力位置のプロセス値の限界分布からサンプルを抽出する。
この分布中心の特徴づけは、所望のランダムベクトルのサイズで3次スケールする生成戦略をもたらす。
条件付けのこのパスワイズ解釈が、ガウス過程の後部を効率的にサンプリングするのに役立てる近似の一般族をいかに生み出すかを示す。
論文 参考訳（メタデータ） (2020-11-08T17:09:37Z) - Stacking for Non-mixing Bayesian Computations: The Curse and Blessing of
Multimodal Posteriors [8.11978827493967]
MCMCの並列実行, 変動型, モードベースの推論を用いて, できるだけ多くのモードをヒットさせる手法を提案する。
重み付き推論プロセスが真のデータを近似する例と理論的整合性を示す。
いくつかのモデルファミリで実践的な実装を示す。
論文 参考訳（メタデータ） (2020-06-22T15:26:59Z) - A maximum-entropy approach to off-policy evaluation in average-reward
MDPs [54.967872716145656]
この研究は、無限水平非カウントマルコフ決定過程(MDPs)における関数近似を伴うオフ・ポリティ・アセスメント(OPE)に焦点を当てる。
提案手法は,第1の有限サンプル OPE 誤差境界であり,既存の結果がエピソードおよびディスカウントケースを超えて拡張される。
この結果から,教師あり学習における最大エントロピー的アプローチを並列化して,十分な統計値を持つ指数関数型家族分布が得られた。
論文 参考訳（メタデータ） (2020-06-17T18:13:37Z) - Mean-Field Approximation to Gaussian-Softmax Integral with Application
to Uncertainty Estimation [23.38076756988258]
ディープニューラルネットワークにおける不確実性を定量化するための,新しい単一モデルに基づくアプローチを提案する。
平均場近似式を用いて解析的に難解な積分を計算する。
実験的に,提案手法は最先端の手法と比較して競合的に機能する。
論文 参考訳（メタデータ） (2020-06-13T07:32:38Z) - Efficiently Sampling Functions from Gaussian Process Posteriors [76.94808614373609]
高速後部サンプリングのための簡易かつ汎用的なアプローチを提案する。
分離されたサンプルパスがガウス過程の後部を通常のコストのごく一部で正確に表現する方法を実証する。
論文 参考訳（メタデータ） (2020-02-21T14:03:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。