論文の概要: Independent finite approximations for Bayesian nonparametric inference
- arxiv url: http://arxiv.org/abs/2009.10780v4
- Date: Sun, 5 Nov 2023 17:00:48 GMT
- ステータス: 処理完了
- システム内更新日: 2023-11-08 02:14:17.157805
- Title: Independent finite approximations for Bayesian nonparametric inference
- Title（参考訳）: ベイズ非パラメトリック推論に対する独立有限近似
- Authors: Tin D. Nguyen, Jonathan Huggins, Lorenzo Masoero, Lester Mackey,
Tamara Broderick
- Abstract要約: 等質なランダム測度に対する実用的な有限次元近似を構築するためのレシピを提案する。
我々は、AIFAの近似誤差を、一般的なCRMとNCRMの幅広いクラスに上限付けする。
最悪の場合、TFAはAIFAよりも効率的であることを示す。
- 参考スコア（独自算出の注目度）: 30.367795444044788
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Completely random measures (CRMs) and their normalizations (NCRMs) offer
flexible models in Bayesian nonparametrics. But their infinite dimensionality
presents challenges for inference. Two popular finite approximations are
truncated finite approximations (TFAs) and independent finite approximations
(IFAs). While the former have been well-studied, IFAs lack similarly general
bounds on approximation error, and there has been no systematic comparison
between the two options. In the present work, we propose a general recipe to
construct practical finite-dimensional approximations for homogeneous CRMs and
NCRMs, in the presence or absence of power laws. We call our construction the
automated independent finite approximation (AIFA). Relative to TFAs, we show
that AIFAs facilitate more straightforward derivations and use of parallel
computing in approximate inference. We upper bound the approximation error of
AIFAs for a wide class of common CRMs and NCRMs -- and thereby develop
guidelines for choosing the approximation level. Our lower bounds in key cases
suggest that our upper bounds are tight. We prove that, for worst-case choices
of observation likelihoods, TFAs are more efficient than AIFAs. Conversely, we
find that in real-data experiments with standard likelihoods, AIFAs and TFAs
perform similarly. Moreover, we demonstrate that AIFAs can be used for
hyperparameter estimation even when other potential IFA options struggle or do
not apply.
- Abstract（参考訳）: 完全にランダムな測度(CRM)とその正規化(NCRM)はベイズ非パラメトリックの柔軟なモデルを提供する。
しかし、その無限次元性は推論の挑戦をもたらす。
2つの一般的な有限近似は、有限近似 (TFAs) と独立有限近似 (IFAs) である。
前者はよく研究されているが、IFAも同様に近似誤差の一般的な境界に欠けており、2つの選択肢の体系的な比較は行われていない。
本研究は、電力法の有無にかかわらず、同質CRMとNCRMの実用的な有限次元近似を構築するための一般的なレシピを提案する。
我々はこの構成を自動独立有限近似 (aifa) と呼ぶ。
TFAとは対照的に、AIFAはより直接的な導出と近似推論における並列コンピューティングの利用を促進する。
我々は,AIFAの近似誤差を,一般的なCRMとNCRMの幅広いクラスに上限付けし,近似レベルを選択するためのガイドラインを策定する。
キーケースにおける我々の下限は、上限がきついことを示唆している。
最悪の場合、TFAはAIFAよりも効率的であることを示す。
逆に、標準的な可能性を持つ実データ実験では、AIFAとTFAも同様に機能する。
さらに、AIFAは、他の潜在的なIFAオプションが困難な場合や適用されない場合であっても、ハイパーパラメータ推定に使用できることを示した。
関連論文リスト
- A Correlation-induced Finite Difference Estimator [6.054123928890574]
まず, 最適な摂動を推定するためにブートストラップ法を用いて試料駆動法を提案し, そして, 推定された最適摂動の相関値に基づく効率的なFD推定器を提案する。
数値計算により, 推定器の効率性を確認し, 提案理論, 特にサンプルサイズが小さい場合とよく一致した。
論文 参考訳（メタデータ） (2024-05-09T09:27:18Z) - Latent Feature Relation Consistency for Adversarial Robustness [80.24334635105829]
深層ニューラルネットワークは、人間の知覚できない敵のノイズを自然の例に付加する敵の例を予測するときに、誤分類が起こる。
textbfLatent textbfFeature textbfRelation textbfConsistency (textbfLFRC)を提案する。
LFRCは、潜在空間における逆例の関係を、自然例と整合性に制約する。
論文 参考訳（メタデータ） (2023-03-29T13:50:01Z) - Stable Probability Weighting: Large-Sample and Finite-Sample Estimation
and Inference Methods for Heterogeneous Causal Effects of Multivalued
Treatments Under Limited Overlap [0.0]
異種因果効果を推定・推定するための実用的大サンプルおよび有限サンプル法を提案する。
安定確率重み付け(Stable Probability Weighting)という一般原理を考案する。
また、弱null仮説の一般クラスをテストするための新しい有限サンプル推論手法を提案する。
論文 参考訳（メタデータ） (2023-01-13T18:52:18Z) - Asymptotically Unbiased Instance-wise Regularized Partial AUC
Optimization: Theory and Algorithm [101.44676036551537]
One-way partial AUC (OPAUC) と Two-way partial AUC (TPAUC) はバイナリ分類器の平均性能を測定する。
既存の手法のほとんどはPAUCをほぼ最適化するしかなく、制御不能なバイアスにつながる。
本稿では,分散ロバスト最適化AUCによるPAUC問題の簡易化について述べる。
論文 参考訳（メタデータ） (2022-10-08T08:26:22Z) - A New Central Limit Theorem for the Augmented IPW Estimator: Variance
Inflation, Cross-Fit Covariance and Beyond [0.9172870611255595]
クロスフィッティングを用いたクロスフィッティング逆確率重み付け(AIPW)は、実際は一般的な選択肢である。
本研究では, 高次元状態における結果回帰モデルと確率スコアモデルを用いて, クロスフィット型AIPW推定器について検討する。
本研究は, メッセージパッシング理論, 決定論的等価性理論, 離脱一元的アプローチの3つの異なるツール間の新たな相互作用を利用する。
論文 参考訳（メタデータ） (2022-05-20T14:17:53Z) - Learning to Estimate Without Bias [57.82628598276623]
ガウスの定理は、重み付き最小二乗推定器は線形モデルにおける線形最小分散アンバイアスド推定(MVUE)であると述べている。
本稿では、バイアス制約のあるディープラーニングを用いて、この結果を非線形設定に拡張する第一歩を踏み出す。
BCEの第二の動機は、同じ未知の複数の推定値が平均化されてパフォーマンスが向上するアプリケーションにおいてである。
論文 参考訳（メタデータ） (2021-10-24T10:23:51Z) - Fine-tuning is Fine in Federated Learning [3.222802562733787]
フレームワークにおけるフェデレーション学習アルゴリズムとその変種の性能について検討する。
このマルチクレーターアプローチは、フェデレーション学習の高次元、多次元的な性質を自然にモデル化する。
論文 参考訳（メタデータ） (2021-08-16T18:59:24Z) - Federated Deep AUC Maximization for Heterogeneous Data with a Constant
Communication Complexity [77.78624443410216]
異種胸部データ検出のための改良型FDAMアルゴリズムを提案する。
本研究は,提案アルゴリズムの通信が機械数に強く依存し,精度レベルにも強く依存していることを示す。
FDAMアルゴリズムのベンチマークデータセットと、異なる組織の医療用胸部X線画像に対する効果を実験により実証した。
論文 参考訳（メタデータ） (2021-02-09T04:05:19Z) - $\gamma$-ABC: Outlier-Robust Approximate Bayesian Computation Based on a
Robust Divergence Estimator [95.71091446753414]
最寄りの$gamma$-divergence推定器をデータ差分尺度として用いることを提案する。
本手法は既存の不一致対策よりも高いロバスト性を実現する。
論文 参考訳（メタデータ） (2020-06-13T06:09:27Z) - Lower bounds in multiple testing: A framework based on derandomized
proxies [107.69746750639584]
本稿では, 各種コンクリートモデルへの適用例を示す, デランドマイズに基づく分析戦略を提案する。
これらの下界のいくつかを数値シミュレーションし、Benjamini-Hochberg (BH) アルゴリズムの実際の性能と密接な関係を示す。
論文 参考訳（メタデータ） (2020-05-07T19:59:51Z) - Deterministic Approximate EM Algorithm; Application to the Riemann
Approximation EM and the Tempered EM [0.0]
我々は、Eステップの決定論的近似に対して、最先端の収束を保証する理論的枠組みを導入する。
我々は、難解なEステップに対して、このフレームワークに適合するいくつかの近似を理論的および経験的に分析する。
我々は、新しい非研究プロファイルが、敵の初期化を逃れるのにどう役立つかを示す。
論文 参考訳（メタデータ） (2020-03-23T08:23:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。