論文の概要: Independent finite approximations for Bayesian nonparametric inference
- arxiv url: http://arxiv.org/abs/2009.10780v3
- Date: Mon, 19 Jul 2021 22:36:57 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-15 23:18:48.720981
- Title: Independent finite approximations for Bayesian nonparametric inference
- Title（参考訳）: ベイズ非パラメトリック推論に対する独立有限近似
- Authors: Tin D. Nguyen, Jonathan Huggins, Lorenzo Masoero, Lester Mackey,
Tamara Broderick
- Abstract要約: 簡単な有限次元近似を構築するための一般的なが明示的なレシピを提案する。
IFAと対象非パラメトリック先行値との近似誤差を定量化する。
我々は、最悪の場合の観測可能性の選択に対して、TFAはIFAよりも効率的な近似であることを示した。
- 参考スコア（独自算出の注目度）: 27.502981514646752
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Bayesian nonparametric priors based on completely random measures (CRMs)
offer a flexible modeling approach when the number of latent components in a
dataset is unknown. However, managing the infinite dimensionality of CRMs
typically requires practitioners to derive ad-hoc algorithms, preventing the
use of general-purpose inference methods and often leading to long compute
times. We propose a general but explicit recipe to construct a simple
finite-dimensional approximation that can replace the infinite-dimensional
CRMs. Our independent finite approximation (IFA) is a generalization of
important cases that are used in practice. The independence of atom weights in
our approximation (i) makes the construction well-suited for parallel and
distributed computation and (ii) facilitates more convenient inference schemes.
We quantify the approximation error between IFAs and the target nonparametric
prior. We compare IFAs with an alternative approximation scheme -- truncated
finite approximations (TFAs), where the atom weights are constructed
sequentially. We prove that, for worst-case choices of observation likelihoods,
TFAs are a more efficient approximation than IFAs. However, in real-data
experiments with image denoising and topic modeling, we find that IFAs perform
very similarly to TFAs in terms of task-specific accuracy metrics.
- Abstract（参考訳）: 完全ランダム測度(crms)に基づくベイズ非パラメトリックな前処理は、データセット内の潜在コンポーネント数が不明な場合に柔軟なモデリングアプローチを提供する。
しかし、CRMの無限次元性を管理するには、一般的に実践者はアドホックなアルゴリズムを導出する必要がある。
無限次元CRMを置き換えることのできる単純な有限次元近似を構築するための一般的なが明示的なレシピを提案する。
我々の独立有限近似(IFA)は、実際に用いられる重要なケースの一般化である。
近似における原子重の独立性
(i)並列分散計算に適した構成をし、
(ii)より便利な推論スキームを促進する。
IFAと対象非パラメトリック先行値との近似誤差を定量化する。
ifasを、原子重みが逐次的に構築されるtfas(truncated finite approximations)という別の近似スキームと比較する。
観測確率の最悪の場合において、TFAはIFAよりも効率的な近似であることを示す。
しかし,画像デノベーションとトピックモデリングを用いた実データ実験では,タスク固有精度の指標から,IFAがTFAと非常によく似ていることがわかった。
関連論文リスト
- A Correlation-induced Finite Difference Estimator [6.054123928890574]
まず, 最適な摂動を推定するためにブートストラップ法を用いて試料駆動法を提案し, そして, 推定された最適摂動の相関値に基づく効率的なFD推定器を提案する。
数値計算により, 推定器の効率性を確認し, 提案理論, 特にサンプルサイズが小さい場合とよく一致した。
論文 参考訳（メタデータ） (2024-05-09T09:27:18Z) - Latent Feature Relation Consistency for Adversarial Robustness [80.24334635105829]
深層ニューラルネットワークは、人間の知覚できない敵のノイズを自然の例に付加する敵の例を予測するときに、誤分類が起こる。
textbfLatent textbfFeature textbfRelation textbfConsistency (textbfLFRC)を提案する。
LFRCは、潜在空間における逆例の関係を、自然例と整合性に制約する。
論文 参考訳（メタデータ） (2023-03-29T13:50:01Z) - Stable Probability Weighting: Large-Sample and Finite-Sample Estimation
and Inference Methods for Heterogeneous Causal Effects of Multivalued
Treatments Under Limited Overlap [0.0]
異種因果効果を推定・推定するための実用的大サンプルおよび有限サンプル法を提案する。
安定確率重み付け(Stable Probability Weighting)という一般原理を考案する。
また、弱null仮説の一般クラスをテストするための新しい有限サンプル推論手法を提案する。
論文 参考訳（メタデータ） (2023-01-13T18:52:18Z) - Asymptotically Unbiased Instance-wise Regularized Partial AUC
Optimization: Theory and Algorithm [101.44676036551537]
One-way partial AUC (OPAUC) と Two-way partial AUC (TPAUC) はバイナリ分類器の平均性能を測定する。
既存の手法のほとんどはPAUCをほぼ最適化するしかなく、制御不能なバイアスにつながる。
本稿では,分散ロバスト最適化AUCによるPAUC問題の簡易化について述べる。
論文 参考訳（メタデータ） (2022-10-08T08:26:22Z) - A New Central Limit Theorem for the Augmented IPW Estimator: Variance
Inflation, Cross-Fit Covariance and Beyond [0.9172870611255595]
クロスフィッティングを用いたクロスフィッティング逆確率重み付け(AIPW)は、実際は一般的な選択肢である。
本研究では, 高次元状態における結果回帰モデルと確率スコアモデルを用いて, クロスフィット型AIPW推定器について検討する。
本研究は, メッセージパッシング理論, 決定論的等価性理論, 離脱一元的アプローチの3つの異なるツール間の新たな相互作用を利用する。
論文 参考訳（メタデータ） (2022-05-20T14:17:53Z) - Learning to Estimate Without Bias [57.82628598276623]
ガウスの定理は、重み付き最小二乗推定器は線形モデルにおける線形最小分散アンバイアスド推定(MVUE)であると述べている。
本稿では、バイアス制約のあるディープラーニングを用いて、この結果を非線形設定に拡張する第一歩を踏み出す。
BCEの第二の動機は、同じ未知の複数の推定値が平均化されてパフォーマンスが向上するアプリケーションにおいてである。
論文 参考訳（メタデータ） (2021-10-24T10:23:51Z) - Fine-tuning is Fine in Federated Learning [3.222802562733787]
フレームワークにおけるフェデレーション学習アルゴリズムとその変種の性能について検討する。
このマルチクレーターアプローチは、フェデレーション学習の高次元、多次元的な性質を自然にモデル化する。
論文 参考訳（メタデータ） (2021-08-16T18:59:24Z) - Federated Deep AUC Maximization for Heterogeneous Data with a Constant
Communication Complexity [77.78624443410216]
異種胸部データ検出のための改良型FDAMアルゴリズムを提案する。
本研究は,提案アルゴリズムの通信が機械数に強く依存し,精度レベルにも強く依存していることを示す。
FDAMアルゴリズムのベンチマークデータセットと、異なる組織の医療用胸部X線画像に対する効果を実験により実証した。
論文 参考訳（メタデータ） (2021-02-09T04:05:19Z) - $\gamma$-ABC: Outlier-Robust Approximate Bayesian Computation Based on a
Robust Divergence Estimator [95.71091446753414]
最寄りの$gamma$-divergence推定器をデータ差分尺度として用いることを提案する。
本手法は既存の不一致対策よりも高いロバスト性を実現する。
論文 参考訳（メタデータ） (2020-06-13T06:09:27Z) - Lower bounds in multiple testing: A framework based on derandomized
proxies [107.69746750639584]
本稿では, 各種コンクリートモデルへの適用例を示す, デランドマイズに基づく分析戦略を提案する。
これらの下界のいくつかを数値シミュレーションし、Benjamini-Hochberg (BH) アルゴリズムの実際の性能と密接な関係を示す。
論文 参考訳（メタデータ） (2020-05-07T19:59:51Z) - Deterministic Approximate EM Algorithm; Application to the Riemann
Approximation EM and the Tempered EM [0.0]
我々は、Eステップの決定論的近似に対して、最先端の収束を保証する理論的枠組みを導入する。
我々は、難解なEステップに対して、このフレームワークに適合するいくつかの近似を理論的および経験的に分析する。
我々は、新しい非研究プロファイルが、敵の初期化を逃れるのにどう役立つかを示す。
論文 参考訳（メタデータ） (2020-03-23T08:23:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。