論文の概要: Scalable method for Bayesian experimental design without integrating over posterior distribution

• arxiv url: http://arxiv.org/abs/2306.17615v1
• Date: Fri, 30 Jun 2023 12:40:43 GMT
• ステータス: 処理完了
• システム内更新日: 2023-07-03 12:25:07.413548
• Title: Scalable method for Bayesian experimental design without integrating over posterior distribution
• Title（参考訳）: 後方分布を積分しないベイズ実験設計のためのスケーラブルな方法
• Authors: Vinh Hoang, Luis Espath, Sebastian Krumscheid, Ra\'ul Tempone
• Abstract要約: A-最適性(A-optimality)は、ベイズ設計の実験において広く用いられ、解釈し易い基準である。 本研究は, サンプリングなしで実験のA-最適設計を求める新しい可能性のない手法を提案する。 術後の難治性は術式に影響を与えないことが示唆された。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We address the computational efficiency in solving the A-optimal Bayesian design of experiments problems for which the observational model is based on partial differential equations and, consequently, is computationally expensive to evaluate. A-optimality is a widely used and easy-to-interpret criterion for the Bayesian design of experiments. The criterion seeks the optimal experiment design by minimizing the expected conditional variance, also known as the expected posterior variance. This work presents a novel likelihood-free method for seeking the A-optimal design of experiments without sampling or integrating the Bayesian posterior distribution. In our approach, the expected conditional variance is obtained via the variance of the conditional expectation using the law of total variance, while we take advantage of the orthogonal projection property to approximate the conditional expectation. Through an asymptotic error estimation, we show that the intractability of the posterior does not affect the performance of our approach. We use an artificial neural network (ANN) to approximate the nonlinear conditional expectation to implement our method. For dealing with continuous experimental design parameters, we integrate the training process of the ANN into minimizing the expected conditional variance. Specifically, we propose a non-local approximation of the conditional expectation and apply transfer learning to reduce the number of evaluations of the observation model. Through numerical experiments, we demonstrate that our method significantly reduces the number of observational model evaluations compared with common importance sampling-based approaches. This reduction is crucial, considering the computationally expensive nature of these models.
• Abstract（参考訳）: 本稿では,観測モデルが偏微分方程式に基づく実験問題のa-最適ベイズ設計の解法における計算効率について論じる。 A-最適性(A-optimality)は、ベイズ設計の実験において広く用いられ、解釈し易い基準である。 この基準は、期待条件分散(期待後方分散)を最小化することで最適な実験設計を求めるものである。 本研究は,ベイズ後方分布のサンプリングや統合を伴わずに実験のa最適設計を求める新しい可能性のない手法を提案する。 提案手法では, 条件付き期待値の分散を全分散の法則を用いて行い, 条件付き期待値の近似のために直交射影特性を活用し, 条件付き期待値の分散を求める。 漸近的誤差推定により,後肢の難治性は我々のアプローチの性能に影響を与えないことを示した。 提案手法の実装には,ニューラルネットワーク(ANN)を用いて非線形条件予測を近似する。 連続的な実験的な設計パラメータを扱うために、ANNのトレーニングプロセスを統合し、期待される条件分散を最小化する。 具体的には,条件付き期待値の非局所近似を提案し,観察モデルの評価回数を減らすために転送学習を適用する。 数値実験により,本手法は一般的なサンプリング手法と比較して観測モデルの評価回数を大幅に削減することを示した。 この削減は、これらのモデルの計算に費用がかかる性質を考えると極めて重要である。

関連論文リスト

• Prediction-Guided Active Experiments [18.494123886098215]
  予測誘導能動実験(PGAE)のための新しいフレームワークについて紹介する。 PGAEは、既存の機械学習モデルからの予測を活用して、サンプリングと実験をガイドする。 我々は、PGAEが効率的であり続け、一定の正則性仮定の下で同じ半パラメトリック境界を得ることを示す。
  論文  参考訳（メタデータ） (2024-11-18T20:16:24Z)
• Variational Bayesian Optimal Experimental Design with Normalizing Flows [0.837622912636323]
  変分OEDは、可能性評価なしでEIGの下位境界を推定する。 本稿では,vOEDにおける変分分布を表現するための正規化フローについて紹介する。 その結果,4〜5層の合成により,より低いEIG推定バイアスが得られることがわかった。
  論文  参考訳（メタデータ） (2024-04-08T14:44:21Z)
• Learning Unnormalized Statistical Models via Compositional Optimization [73.30514599338407]
  実データと人工雑音のロジスティックな損失として目的を定式化することにより, ノイズコントラスト推定(NCE)を提案する。 本稿では,非正規化モデルの負の対数類似度を最適化するための直接的アプローチについて検討する。
  論文  参考訳（メタデータ） (2023-06-13T01:18:16Z)
• Online Bootstrap Inference with Nonconvex Stochastic Gradient Descent Estimator [0.0]
  本稿では,凸問題の文脈における統計的推論のための勾配降下(SGD)の理論的性質について検討する。 多重誤差最小値を含む2つの干渉手順を提案する。
  論文  参考訳（メタデータ） (2023-06-03T22:08:10Z)
• Learning to Estimate Without Bias [57.82628598276623]
  ガウスの定理は、重み付き最小二乗推定器は線形モデルにおける線形最小分散アンバイアスド推定(MVUE)であると述べている。 本稿では、バイアス制約のあるディープラーニングを用いて、この結果を非線形設定に拡張する第一歩を踏み出す。 BCEの第二の動機は、同じ未知の複数の推定値が平均化されてパフォーマンスが向上するアプリケーションにおいてである。
  論文  参考訳（メタデータ） (2021-10-24T10:23:51Z)
• Heavy-tailed Streaming Statistical Estimation [58.70341336199497]
  ストリーミング$p$のサンプルから重み付き統計推定の課題を考察する。 そこで我々は,傾きの雑音に対して,よりニュアンスな条件下での傾きの傾きの低下を設計し,より詳細な解析を行う。
  論文  参考訳（メタデータ） (2021-08-25T21:30:27Z)
• Variational Refinement for Importance Sampling Using the Forward Kullback-Leibler Divergence [77.06203118175335]
  変分推論(VI)はベイズ推論における正確なサンプリングの代替として人気がある。 重要度サンプリング(IS)は、ベイズ近似推論手順の推定を微調整し、偏りを逸脱するためにしばしば用いられる。 近似ベイズ推論のための最適化手法とサンプリング手法の新たな組み合わせを提案する。
  論文  参考訳（メタデータ） (2021-06-30T11:00:24Z)
• Zeroth-Order Hybrid Gradient Descent: Towards A Principled Black-Box Optimization Framework [100.36569795440889]
  この作業は、一階情報を必要としない零次最適化(ZO)の反復である。 座標重要度サンプリングにおける優雅な設計により,ZO最適化法は複雑度と関数クエリコストの両面において効率的であることを示す。
  論文  参考訳（メタデータ） (2020-12-21T17:29:58Z)
• Optimal Bayesian experimental design for subsurface flow problems [77.34726150561087]
  本稿では,設計ユーティリティ機能のためのカオス拡張サロゲートモデル(PCE)の開発のための新しいアプローチを提案する。 この手法により,対象関数に対する適切な品質応答面の導出が可能となり,計算予算は複数の単点評価に匹敵する。
  論文  参考訳（メタデータ） (2020-08-10T09:42:59Z)
• Unbiased MLMC stochastic gradient-based optimization of Bayesian experimental designs [4.112293524466434]
  実験的な設計パラメータに対する期待情報ゲインの勾配は、ネスト予測によって与えられる。 我々は,期待される情報ゲインの勾配を,期待される$ell$-norm,期待されるサンプル当たりの計算コストで推定するモンテカルロ推定器を導入する。
  論文  参考訳（メタデータ） (2020-05-18T01:02:31Z)
• On Low-rank Trace Regression under General Sampling Distribution [9.699586426043885]
  クロスバリデード推定器は一般仮定でほぼ最適誤差境界を満たすことを示す。 また, クロスバリデーション推定器はパラメータ選択理論に着想を得た手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2019-04-18T02:56:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。