論文の概要: Wasserstein Gradient Flows for Batch Bayesian Optimal Experimental Design
- arxiv url: http://arxiv.org/abs/2603.12102v1
- Date: Thu, 12 Mar 2026 16:08:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-13 14:46:26.202481
- Title: Wasserstein Gradient Flows for Batch Bayesian Optimal Experimental Design
- Title(参考訳): バッチベイズ最適設計のためのワッサーシュタイン勾配流れ
- Authors: Louis Sharrock,
- Abstract要約: 設計手法の空間上で期待されるユーティリティのエントロピックな正規化は、より独特であることが示される。
i.d.族の場合、対応する流れを導出し、その長時間の挙動を得る。
- 参考スコア(独自算出の注目度): 8.54530542456452
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Bayesian optimal experimental design (BOED) provides a powerful, decision-theoretic framework for selecting experiments so as to maximise the expected utility of the data to be collected. In practice, however, its applicability can be limited by the difficulty of optimising the chosen utility. The expected information gain (EIG), for example, is often high-dimensional and strongly non-convex. This challenge is particularly acute in the batch setting, where multiple experiments are to be designed simultaneously. In this paper, we introduce a new approach to batch EIG-based BOED via a probabilistic lifting of the original optimisation problem to the space of probability measures. In particular, we propose to optimise an entropic regularisation of the expected utility over the space of design measures. Under mild conditions, we show that this objective admits a unique minimiser, which can be explicitly characterised in the form of a Gibbs distribution. The resulting design law can be used directly as a randomised batch-design policy, or as a computational relaxation from which a deterministic batch is extracted. To obtain scalable approximations when the batch size is large, we then consider two tractable restrictions of the full batch distribution: a mean-field family, and an i.i.d. product family. For the i.i.d. objective, and formally for its mean-field extension, we derive the corresponding Wasserstein gradient flow, characterise its long-time behaviour, and obtain particle-based algorithms via space-time discretisations. We also introduce doubly stochastic variants that combine interacting particle updates with Monte Carlo estimators of the EIG gradient. Finally, we illustrate the performance of the proposed methods in several numerical experiments, demonstrating their ability to explore multimodal optimisation landscapes and obtain high-utility batches in challenging examples.
- Abstract(参考訳): ベイズ最適実験設計(BOED)は、収集されるデータの期待される有用性を最大化するために実験を選択するための強力で決定論的フレームワークを提供する。
しかし、実際には、その適用性は、選択されたユーティリティを最適化することの難しさによって制限される。
例えば、期待情報ゲイン(EIG)は高次元であり、しばしば非凸である。
この課題はバッチ設定において特に深刻で、複数の実験を同時に設計する必要がある。
本稿では,従来の最適化問題から確率測度空間への確率的持ち上げによるバッチEIGベースのBOEDへの新しいアプローチを提案する。
特に,設計手法の空間上において,期待されるユーティリティのエントロピー正則化を最適化することを提案する。
穏やかな条件下では、この目的がギブス分布の形で明確に特徴づけられる独自のミニミザーを持つことが示される。
得られた設計法則は、ランダム化されたバッチ設計ポリシーや、決定論的バッチが抽出される計算緩和として直接使用することができる。
バッチサイズが大きい場合、スケーラブルな近似を得るために、全バッチ分布の2つのトラクタブルな制限(平均フィールドファミリーとi.d.製品ファミリー)を考える。
i.d.目的と公式な平均場拡大のために、対応するワッサーシュタイン勾配の流れを導出し、その長時間の挙動を特徴づけ、時空の考察を通じて粒子ベースのアルゴリズムを得る。
また、相互作用する粒子の更新とEIG勾配のモンテカルロ推定器を組み合わせた2つの確率的変種も導入する。
最後に,提案手法の性能をいくつかの数値実験で説明し,マルチモーダル最適化ランドスケープを探索し,挑戦的な例で高能率バッチを得る能力を示した。
関連論文リスト
- On the Optimal Construction of Unbiased Gradient Estimators for Zeroth-Order Optimization [57.179679246370114]
既存の手法の潜在的な制限は、ステップサイズが提案されない限り、ほとんどの摂動推定器に固有のバイアスである。
本稿では, 良好な構成を維持しつつ, バイアスを排除した非バイアス勾配スケーリング推定器のファミリーを提案する。
論文 参考訳(メタデータ) (2025-10-22T18:25:43Z) - Gradient-Free Sequential Bayesian Experimental Design via Interacting Particle Systems [1.1549572298362782]
ベイズ最適実験設計(BOED)のための勾配のないフレームワークを逐次設定で導入する。
提案手法は,設計最適化のためのEnsemble Kalman Inversion (EKI) と,効率的な後方サンプリングのためのAffine-Invariant Langevin Dynamics (ALDI) サンプリング器を組み合わせたものである。
変分ガウスおよびパラメタライズされたラプラス近似は、期待される情報ゲインの上と下の境界を抽出できる。
論文 参考訳(メタデータ) (2025-04-17T20:16:15Z) - Bayesian Experimental Design via Contrastive Diffusions [2.2186678387006435]
実験設計(BOED)は、一連の実験の実行コストを削減する強力なツールである。
コスト効率の良いサンプリング特性を持つプール勾配分布を導入し、新しいEIG式によるEIGコントラスト後部へのトラクタアクセスを提供する。
BOEDフレームワークに生成モデルを組み込むことで、適用範囲を拡大し、非現実的なシナリオでの利用を拡大する。
論文 参考訳(メタデータ) (2024-10-15T17:53:07Z) - Generalizing Bayesian Optimization with Decision-theoretic Entropies [102.82152945324381]
統計的決定論の研究からシャノンエントロピーの一般化を考える。
まず,このエントロピーの特殊なケースがBO手順でよく用いられる獲得関数に繋がることを示す。
次に、損失に対する選択肢の選択が、どのようにして柔軟な獲得関数の族をもたらすかを示す。
論文 参考訳(メタデータ) (2022-10-04T04:43:58Z) - Surrogate modeling for Bayesian optimization beyond a single Gaussian
process [62.294228304646516]
本稿では,探索空間の活用と探索のバランスをとるための新しいベイズ代理モデルを提案する。
拡張性のある関数サンプリングを実現するため、GPモデル毎にランダムな特徴ベースのカーネル近似を利用する。
提案した EGP-TS を大域的最適に収束させるため,ベイズ的後悔の概念に基づいて解析を行う。
論文 参考訳(メタデータ) (2022-05-27T16:43:10Z) - Optimal Bayesian experimental design for subsurface flow problems [77.34726150561087]
本稿では,設計ユーティリティ機能のためのカオス拡張サロゲートモデル(PCE)の開発のための新しいアプローチを提案する。
この手法により,対象関数に対する適切な品質応答面の導出が可能となり,計算予算は複数の単点評価に匹敵する。
論文 参考訳(メタデータ) (2020-08-10T09:42:59Z) - Likelihood-Free Inference with Deep Gaussian Processes [70.74203794847344]
サーロゲートモデルは、シミュレータ評価の回数を減らすために、可能性のない推論に成功している。
本稿では,より不規則な対象分布を扱えるディープガウス過程(DGP)サロゲートモデルを提案する。
本実験は,DGPがマルチモーダル分布を持つ目的関数上でGPよりも優れ,単調な場合と同等の性能を維持できることを示す。
論文 参考訳(メタデータ) (2020-06-18T14:24:05Z) - Adaptive Learning of the Optimal Batch Size of SGD [52.50880550357175]
本稿では,その繰り返しを通じて最適なバッチサイズを適応的に学習し,凸度と滑らかな関数を求める手法を提案する。
実験では、合成データと実データを用いて、ほぼ最適な振る舞いを示す。
我々は,本手法を分散実装に適したサンプリングを含む,文献上考慮されていないいくつかの新しいバッチ戦略に一般化する。
論文 参考訳(メタデータ) (2020-05-03T14:28:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。