論文の概要: Scalable method for Bayesian experimental design without integrating over posterior distribution

• arxiv url: http://arxiv.org/abs/2306.17615v2
• Date: Fri, 11 Aug 2023 08:09:17 GMT
• ステータス: 処理完了
• システム内更新日: 2023-08-14 16:33:43.244950
• Title: Scalable method for Bayesian experimental design without integrating over posterior distribution
• Title（参考訳）: 後方分布を積分しないベイズ実験設計のためのスケーラブルな方法
• Authors: Vinh Hoang, Luis Espath, Sebastian Krumscheid, Ra\'ul Tempone
• Abstract要約: 実験問題のA-最適ベイズ設計における計算効率について検討する。 A-最適性はベイズの実験設計に広く用いられ、容易に解釈できる基準である。 本研究は, A-Optimal 実験設計における新しい可能性のないアプローチを提案する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We address the computational efficiency in solving the A-optimal Bayesian design of experiments problems for which the observational map is based on partial differential equations and, consequently, is computationally expensive to evaluate. A-optimality is a widely used and easy-to-interpret criterion for Bayesian experimental design. This criterion seeks the optimal experimental design by minimizing the expected conditional variance, which is also known as the expected posterior variance. This study presents a novel likelihood-free approach to the A-optimal experimental design that does not require sampling or integrating the Bayesian posterior distribution. The expected conditional variance is obtained via the variance of the conditional expectation using the law of total variance, and we take advantage of the orthogonal projection property to approximate the conditional expectation. We derive an asymptotic error estimation for the proposed estimator of the expected conditional variance and show that the intractability of the posterior distribution does not affect the performance of our approach. We use an artificial neural network (ANN) to approximate the nonlinear conditional expectation in the implementation of our method. We then extend our approach for dealing with the case that the domain of experimental design parameters is continuous by integrating the training process of the ANN into minimizing the expected conditional variance. Through numerical experiments, we demonstrate that our method greatly reduces the number of observation model evaluations compared with widely used importance sampling-based approaches. This reduction is crucial, considering the high computational cost of the observational models. Code is available at https://github.com/vinh-tr-hoang/DOEviaPACE.
• Abstract（参考訳）: 観測写像が偏微分方程式に基づく実験問題のA-最適ベイズ設計を解く際の計算効率に対処し、その結果、評価に計算コストがかかる。 A-最適性はベイズの実験設計に広く用いられ、容易に解釈できる基準である。 この基準は、期待条件分散を最小化することで最適な実験設計を求めるものである。 本研究は,ベイズ後方分布のサンプリングや積分を必要とせず,a-オプティカルな実験設計への新しい可能性のないアプローチを提案する。 条件付き分散は全分散の法則を用いて条件付き期待値の分散によって得られ、条件付き期待値の近似のために直交射影特性を利用する。 提案した条件分散推定器の漸近誤差推定を導出し, 後部分布の誘引性は提案手法の性能に影響を及ぼさないことを示す。 提案手法の実装において, 非線形条件予測を近似するために, 人工ニューラルネットワーク (ANN) を用いる。 次に,実験的な設計パラメータの領域が連続である場合へのアプローチを拡張し,annのトレーニングプロセスを統合し,期待条件分散を最小化する。 数値実験により,本手法は広く用いられている重要サンプリング手法と比較して,観測モデル評価の回数を大幅に削減することを示した。 この削減は、観測モデルの高い計算コストを考える上で非常に重要である。 コードはhttps://github.com/vinh-tr-hoang/DOEviaPACEで入手できる。

関連論文リスト

• Variational Bayesian Optimal Experimental Design with Normalizing Flows [0.837622912636323]
  変分OEDは、可能性評価なしでEIGの下位境界を推定する。 本稿では,vOEDにおける変分分布を表現するための正規化フローについて紹介する。 その結果,4〜5層の合成により,より低いEIG推定バイアスが得られることがわかった。
  論文  参考訳（メタデータ） (2024-04-08T14:44:21Z)
• Variational Sequential Optimal Experimental Design using Reinforcement Learning [0.0]
  ベイジアン・フレームワークと情報ゲイン・ユーティリティを用いた有限列実験を最適に設計する新しい手法である変分逐次最適実験設計(vsOED)を導入する。 以上の結果から,従来の逐次設計アルゴリズムと比較して,サンプル効率が大幅に向上し,前方モデルシミュレーションの数が減少したことが示唆された。
  論文  参考訳（メタデータ） (2023-06-17T21:47:19Z)
• Learning Unnormalized Statistical Models via Compositional Optimization [73.30514599338407]
  実データと人工雑音のロジスティックな損失として目的を定式化することにより, ノイズコントラスト推定(NCE)を提案する。 本稿では,非正規化モデルの負の対数類似度を最適化するための直接的アプローチについて検討する。
  論文  参考訳（メタデータ） (2023-06-13T01:18:16Z)
• Online Bootstrap Inference with Nonconvex Stochastic Gradient Descent Estimator [0.0]
  本稿では,凸問題の文脈における統計的推論のための勾配降下(SGD)の理論的性質について検討する。 多重誤差最小値を含む2つの干渉手順を提案する。
  論文  参考訳（メタデータ） (2023-06-03T22:08:10Z)
• Learning to Estimate Without Bias [57.82628598276623]
  ガウスの定理は、重み付き最小二乗推定器は線形モデルにおける線形最小分散アンバイアスド推定(MVUE)であると述べている。 本稿では、バイアス制約のあるディープラーニングを用いて、この結果を非線形設定に拡張する第一歩を踏み出す。 BCEの第二の動機は、同じ未知の複数の推定値が平均化されてパフォーマンスが向上するアプリケーションにおいてである。
  論文  参考訳（メタデータ） (2021-10-24T10:23:51Z)
• Heavy-tailed Streaming Statistical Estimation [58.70341336199497]
  ストリーミング$p$のサンプルから重み付き統計推定の課題を考察する。 そこで我々は,傾きの雑音に対して,よりニュアンスな条件下での傾きの傾きの低下を設計し,より詳細な解析を行う。
  論文  参考訳（メタデータ） (2021-08-25T21:30:27Z)
• Variational Refinement for Importance Sampling Using the Forward Kullback-Leibler Divergence [77.06203118175335]
  変分推論(VI)はベイズ推論における正確なサンプリングの代替として人気がある。 重要度サンプリング(IS)は、ベイズ近似推論手順の推定を微調整し、偏りを逸脱するためにしばしば用いられる。 近似ベイズ推論のための最適化手法とサンプリング手法の新たな組み合わせを提案する。
  論文  参考訳（メタデータ） (2021-06-30T11:00:24Z)
• Zeroth-Order Hybrid Gradient Descent: Towards A Principled Black-Box Optimization Framework [100.36569795440889]
  この作業は、一階情報を必要としない零次最適化(ZO)の反復である。 座標重要度サンプリングにおける優雅な設計により,ZO最適化法は複雑度と関数クエリコストの両面において効率的であることを示す。
  論文  参考訳（メタデータ） (2020-12-21T17:29:58Z)
• Optimal Bayesian experimental design for subsurface flow problems [77.34726150561087]
  本稿では,設計ユーティリティ機能のためのカオス拡張サロゲートモデル(PCE)の開発のための新しいアプローチを提案する。 この手法により,対象関数に対する適切な品質応答面の導出が可能となり,計算予算は複数の単点評価に匹敵する。
  論文  参考訳（メタデータ） (2020-08-10T09:42:59Z)
• Unbiased MLMC stochastic gradient-based optimization of Bayesian experimental designs [4.112293524466434]
  実験的な設計パラメータに対する期待情報ゲインの勾配は、ネスト予測によって与えられる。 我々は,期待される情報ゲインの勾配を,期待される$ell$-norm,期待されるサンプル当たりの計算コストで推定するモンテカルロ推定器を導入する。
  論文  参考訳（メタデータ） (2020-05-18T01:02:31Z)
• On Low-rank Trace Regression under General Sampling Distribution [9.699586426043885]
  クロスバリデード推定器は一般仮定でほぼ最適誤差境界を満たすことを示す。 また, クロスバリデーション推定器はパラメータ選択理論に着想を得た手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2019-04-18T02:56:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。