論文の概要: Beyond Expected Information Gain: Stable Bayesian Optimal Experimental Design with Integral Probability Metrics and Plug-and-Play Extensions
- arxiv url: http://arxiv.org/abs/2604.21849v1
- Date: Thu, 23 Apr 2026 16:40:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-24 14:40:06.76776
- Title: Beyond Expected Information Gain: Stable Bayesian Optimal Experimental Design with Integral Probability Metrics and Plug-and-Play Extensions
- Title(参考訳): 期待以上の情報ゲイン: 積分確率メトリックとプラグイン・アンド・プレイ拡張による安定ベイズ最適実験設計
- Authors: Di Wu, Ling Liang, Haizhao Yang,
- Abstract要約: 我々は、密度に基づく発散を積分確率メトリクス(IPM)に置き換えるIPMベースのBOEDフレームワークを導入する。
代用モデル誤差下でIMMベースのユーティリティがより強力な幾何認識安定性を提供することを示す理論的保証を確立する。
また,提案手法を実証的に検証し,IMMに基づく設計が高濃度の信頼性集合が得られることを示した。
- 参考スコア(独自算出の注目度): 10.973529778713441
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Bayesian Optimal Experimental Design (BOED) provides a rigorous framework for decision-making tasks in which data acquisition is often the critical bottleneck, especially in resource-constrained settings. Traditionally, BOED typically selects designs by maximizing expected information gain (EIG), commonly defined through the Kullback-Leibler (KL) divergence. However, classical evaluation of EIG often involves challenging nested expectations, and even advanced variational methods leave the underlying log-density-ratio objective unchanged. As a result, support mismatch, tail underestimation, and rare-event sensitivity remain intrinsic concerns for KL-based BOED. To address these fundamental bottlenecks, we introduce an IPM-based BOED framework that replaces density-based divergences with integral probability metrics (IPMs), including the Wasserstein distance, Maximum Mean Discrepancy, and Energy Distance, resulting in a highly flexible plug-and-play BOED framework. We establish theoretical guarantees showing that IPM-based utilities provide stronger geometry-aware stability under surrogate-model error and prior misspecification than classical EIG-based utilities. We also validate the proposed framework empirically, demonstrating that IPM-based designs yield highly concentrated credible sets. Furthermore, by extending the same sample-based BOED template in a plug-and-play manner to geometry-aware discrepancies beyond the IPM class, illustrated by a neural optimal transport estimator, we achieve accurate optimal designs in high-dimensional settings where conventional nested Monte Carlo estimators and advanced variational methods fail.
- Abstract(参考訳): Bayesian Optimal Experimental Design (BOED)は、特にリソース制約のある環境において、データ取得が重要なボトルネックとなるような意思決定タスクのための厳密なフレームワークを提供する。
BOEDは通常、期待情報ゲイン(EIG)を最大化して設計を選択する。
しかし、EIGの古典的な評価は、しばしばネストされた期待に挑戦するものであり、高度な変分法でさえ、基礎となる対数密度比の目標を変更しないままである。
その結果,KLをベースとしたBOEDでは,サポートミスマッチ,テール過小評価,レアイベント感度が本質的に懸念されている。
これらの基本的なボトルネックに対処するため、我々は密度に基づく発散を積分確率指標(IPM)に置き換えるIMMベースのBOEDフレームワークを導入し、ワッサーシュタイン距離、最大平均離散値、エネルギー距離を計算し、高い柔軟性を持つBOEDフレームワークを提案する。
IPM ベースのユーティリティは,従来の EIG ベースのユーティリティに比べて,サロゲートモデル誤差や事前の誤特定の下で,より強力な幾何認識の安定性を提供することを示す理論的保証を確立する。
また,提案手法を実証的に検証し,IMMに基づく設計が高濃度の信頼性集合が得られることを示した。
さらに, 従来のモンテカルロ推定器や高度な変分法が失敗する高次元環境において, 同じサンプルベースBOEDテンプレートをIPMクラス以外の幾何学的不一致にプラグ・アンド・プレイで拡張し, ニューラルネットワークの最適輸送推定器で示すことにより, 高精度な最適設計を実現する。
関連論文リスト
- Gaussian Joint Embeddings For Self-Supervised Representation Learning [0.0]
自己パラメトリック表現学習は、しばしば決定論的予測アーキテクチャに頼り、潜在空間におけるコンテキストとターゲットビューを整列させる。
生成的関節モデルに基づく確率的代替案を提案する。
論文 参考訳(メタデータ) (2026-03-26T00:54:54Z) - The Procrustean Bed of Time Series: The Optimization Bias of Point-wise Loss [53.542743390809356]
本稿では,最適化バイアス(EOB)の期待に関する第一原理解析を提案する。
時間列が決定論的で構造化されるほど、ポイントワイドの損失関数によるバイアスがより厳しくなる。
本稿では,DFTとDWTの両原理を同時に実現する具体的ソリューションを提案する。
論文 参考訳(メタデータ) (2025-12-21T06:08:22Z) - Bridging the Gap Between Bayesian Deep Learning and Ensemble Weather Forecasts [100.26854618129039]
天気予報は、大気のカオス的な性質によって根本的に挑戦されている。
ベイジアンディープラーニング(BDL)の最近の進歩は、有望だがしばしば非接続な代替手段を提供する。
気象予報のための統合型BDLフレームワークにより,これらのパラダイムを橋渡しする。
論文 参考訳(メタデータ) (2025-11-18T07:49:52Z) - Bayesian Mixture of Experts For Large Language Models [2.889541910837398]
本稿では,Mixture-of-Expertsアーキテクチャに基づく大規模言語モデル(LLM)に対するポストホック不確実性推定フレームワークを提案する。
Bayesian-MoEは、各専門家の2番目の線形層に構造化ラプラス近似を適用し、キャリブレーションされた不確実性推定を可能にする。
Qwen1.5-MoEとDeepSeek-MoEによる常識推論ベンチマークの実験では、ベイジアン-MoEは期待キャリブレーション誤差(ECE)と負のログライクリーフ(NLL)の両方をベースライン上で改善することを示した。
論文 参考訳(メタデータ) (2025-11-12T04:24:20Z) - Revisiting Essential and Nonessential Settings of Evidential Deep Learning [70.82728812001807]
Evidential Deep Learning (EDL) は不確実性推定の新しい手法である。
本報告では,EDLの簡易かつ効果的な拡張型であるRe-EDLを提案する。
論文 参考訳(メタデータ) (2024-10-01T04:27:07Z) - Goal-Oriented Bayesian Optimal Experimental Design for Nonlinear Models using Markov Chain Monte Carlo [0.0]
本稿では,非線形観測および予測モデルに適した予測目標指向OED(GO-OED)の計算フレームワークを提案する。
GO-OEDはQoIで最大のEIGを提供する実験的な設計を求めている。
非線形GO-OED法の有効性を実証し,従来の非GO-OED法と比較した。
論文 参考訳(メタデータ) (2024-03-26T19:49:58Z) - Federated Conformal Predictors for Distributed Uncertainty
Quantification [83.50609351513886]
コンフォーマル予測は、機械学習において厳密な不確実性定量化を提供するための一般的なパラダイムとして現れつつある。
本稿では,共形予測を連邦学習環境に拡張する。
本稿では、FL設定に適した部分交換可能性の弱い概念を提案し、それをフェデレート・コンフォーマル予測フレームワークの開発に利用する。
論文 参考訳(メタデータ) (2023-05-27T19:57:27Z) - Probabilistic electric load forecasting through Bayesian Mixture Density
Networks [70.50488907591463]
確率的負荷予測(PLF)は、スマートエネルギーグリッドの効率的な管理に必要な拡張ツールチェーンの重要なコンポーネントです。
ベイジアン混合密度ネットワークを枠とした新しいPLFアプローチを提案する。
後方分布の信頼性と計算にスケーラブルな推定を行うため,平均場変動推定と深層アンサンブルを統合した。
論文 参考訳(メタデータ) (2020-12-23T16:21:34Z) - Providing reliability in Recommender Systems through Bernoulli Matrix
Factorization [63.732639864601914]
本稿では,予測値と信頼性値の両方を提供するためにBernoulli Matrix Factorization (BeMF)を提案する。
BeMFはメモリベースのフィルタリングではなく、モデルベースの協調フィルタリングに作用する。
予測の信頼性が高ければ高いほど、それが間違っているという責任は少なくなる。
論文 参考訳(メタデータ) (2020-06-05T14:24:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。