論文の概要: Robust Expected Information Gain for Optimal Bayesian Experimental
Design Using Ambiguity Sets
- arxiv url: http://arxiv.org/abs/2205.09914v1
- Date: Fri, 20 May 2022 01:07:41 GMT
- ステータス: 処理完了
- システム内更新日: 2022-05-24 08:03:26.388398
- Title: Robust Expected Information Gain for Optimal Bayesian Experimental
Design Using Ambiguity Sets
- Title(参考訳): 曖昧性集合を用いたベイズ最適実験設計のためのロバスト予測情報ゲイン
- Authors: Jinwoo Go, Tobin Isaac
- Abstract要約: 我々は、経験的期待情報ゲイン(REIG)を定義し、分析する。
REIGは、摂動分布のあいまいな集合上でのEIGのアフィン緩和を最小化することにより、EIGの目的を変更したものである。
EIGを推定するためのサンプリングベースアプローチと組み合わせると、REIGはEIGを推定するのに使用するサンプルの対数-sum-expの安定化に対応することを示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The ranking of experiments by expected information gain (EIG) in Bayesian
experimental design is sensitive to changes in the model's prior distribution,
and the approximation of EIG yielded by sampling will have errors similar to
the use of a perturbed prior. We define and analyze \emph{robust expected
information gain} (REIG), a modification of the objective in EIG maximization
by minimizing an affine relaxation of EIG over an ambiguity set of
distributions that are close to the original prior in KL-divergence. We show
that, when combined with a sampling-based approach to estimating EIG, REIG
corresponds to a `log-sum-exp' stabilization of the samples used to estimate
EIG, meaning that it can be efficiently implemented in practice. Numerical
tests combining REIG with variational nested Monte Carlo (VNMC), adaptive
contrastive estimation (ACE) and mutual information neural estimation (MINE)
suggest that in practice REIG also compensates for the variability of
under-sampled estimators.
- Abstract(参考訳): ベイズの実験設計における期待情報ゲイン(EIG)による実験のランキングは、モデルの事前分布の変化に敏感であり、サンプリングによって得られるEIGの近似は、乱れた事前の使用と同じような誤差を持つ。
我々は,kl-divergence の原点に近い分布のあいまいさ集合上の eig のアフィン緩和を最小化することにより,eig の最大化における目標の修正である \emph{robust expected information gain} (reig) を定義し,解析する。
EIGを推定するためのサンプリングベースアプローチと組み合わせると、REIGはEIGを推定するために使用されるサンプルの「log-sum-exp」安定化に対応し、実際に効率的に実装できることを示す。
REIGと変分ネストモンテカルロ(VNMC)、適応コントラスト推定(ACE)、相互情報ニューラル推定(MINE)を組み合わせる数値実験により、REIGは実際にはアンダーサンプル推定器の変動性も補償することが示された。
関連論文リスト
- Expected Information Gain Estimation via Density Approximations: Sample Allocation and Dimension Reduction [0.40964539027092906]
一般非線形/非ガウス的設定におけるEIG推定のためのフレキシブルトランスポートに基づくスキームを定式化する。
この最適サンプル割り当てにより、得られたEIG推定器のMSEは標準ネストされたモンテカルロスキームよりも高速に収束することを示す。
次に、パラメータを投影し、低次元部分空間に観測することで失われる相互情報の勾配に基づく上界を導出することにより、高次元でのEIGの推定に対処する。
論文 参考訳(メタデータ) (2024-11-13T07:22:50Z) - Bayesian Experimental Design via Contrastive Diffusions [2.2186678387006435]
実験設計(BOED)は、一連の実験の実行コストを削減する強力なツールである。
コスト効率の良い後続分布を導入し,EIGコントラストへのトラクタアクセスを提供する。
生成モデルをBOEDフレームワークに組み込むことで、以前は非現実的であったシナリオにおいて、そのスコープと使用範囲を広げる。
論文 参考訳(メタデータ) (2024-10-15T17:53:07Z) - Variational Bayesian Optimal Experimental Design with Normalizing Flows [0.837622912636323]
変分OEDは、可能性評価なしでEIGの下位境界を推定する。
本稿では,vOEDにおける変分分布を表現するための正規化フローについて紹介する。
その結果,4〜5層の合成により,より低いEIG推定バイアスが得られることがわかった。
論文 参考訳(メタデータ) (2024-04-08T14:44:21Z) - On Estimating the Gradient of the Expected Information Gain in Bayesian
Experimental Design [5.874142059884521]
我々は,勾配降下アルゴリズムと組み合わせてEIGの勾配を推定する手法を開発し,EIGの効率的な最適化を実現する。
そこで本研究では,EIG勾配を推定するための2つの手法,EIG勾配を推定するために後方サンプルを利用するUEEG-MCMC,パラメータサンプルを繰り返し使用して高いシミュレーション効率を実現するBEEG-APを提案する。
論文 参考訳(メタデータ) (2023-08-19T02:48:44Z) - Scalable method for Bayesian experimental design without integrating
over posterior distribution [0.0]
実験問題のA-最適ベイズ設計における計算効率について検討する。
A-最適性はベイズの実験設計に広く用いられ、容易に解釈できる基準である。
本研究は, A-Optimal 実験設計における新しい可能性のないアプローチを提案する。
論文 参考訳(メタデータ) (2023-06-30T12:40:43Z) - Federated Conformal Predictors for Distributed Uncertainty
Quantification [83.50609351513886]
コンフォーマル予測は、機械学習において厳密な不確実性定量化を提供するための一般的なパラダイムとして現れつつある。
本稿では,共形予測を連邦学習環境に拡張する。
本稿では、FL設定に適した部分交換可能性の弱い概念を提案し、それをフェデレート・コンフォーマル予測フレームワークの開発に利用する。
論文 参考訳(メタデータ) (2023-05-27T19:57:27Z) - Prediction-Oriented Bayesian Active Learning [51.426960808684655]
予測情報ゲイン(EPIG)は、パラメータではなく予測空間における情報ゲインを測定する。
EPIGは、さまざまなデータセットやモデルにわたるBALDと比較して、予測パフォーマンスが向上する。
論文 参考訳(メタデータ) (2023-04-17T10:59:57Z) - Optimization of Annealed Importance Sampling Hyperparameters [77.34726150561087]
Annealed Importance Smpling (AIS) は、深層生成モデルの難易度を推定するために使われる一般的なアルゴリズムである。
本稿では、フレキシブルな中間分布を持つパラメータAISプロセスを提案し、サンプリングに少ないステップを使用するようにブリッジング分布を最適化する。
我々は, 最適化AISの性能評価を行い, 深部生成モデルの限界推定を行い, 他の推定値と比較した。
論文 参考訳(メタデータ) (2022-09-27T07:58:25Z) - Regularizing Variational Autoencoder with Diversity and Uncertainty
Awareness [61.827054365139645]
変分オートエンコーダ(VAE)は、償却変分推論に基づいて潜伏変数の後部を近似する。
よりディバースで不確実な潜在空間を学習するための代替モデルDU-VAEを提案する。
論文 参考訳(メタデータ) (2021-10-24T07:58:13Z) - Variational Refinement for Importance Sampling Using the Forward
Kullback-Leibler Divergence [77.06203118175335]
変分推論(VI)はベイズ推論における正確なサンプリングの代替として人気がある。
重要度サンプリング(IS)は、ベイズ近似推論手順の推定を微調整し、偏りを逸脱するためにしばしば用いられる。
近似ベイズ推論のための最適化手法とサンプリング手法の新たな組み合わせを提案する。
論文 参考訳(メタデータ) (2021-06-30T11:00:24Z) - Cauchy-Schwarz Regularized Autoencoder [68.80569889599434]
変分オートエンコーダ(VAE)は、強力で広く使われている生成モデルのクラスである。
GMMに対して解析的に計算できるCauchy-Schwarz分散に基づく新しい制約対象を導入する。
本研究の目的は,密度推定,教師なしクラスタリング,半教師なし学習,顔分析における変分自動エンコーディングモデルの改善である。
論文 参考訳(メタデータ) (2021-01-06T17:36:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。