論文の概要: Curvature-aware Expected Free Energy as an Acquisition Function for Bayesian Optimization
- arxiv url: http://arxiv.org/abs/2603.26339v1
- Date: Fri, 27 Mar 2026 12:00:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-30 21:49:48.483849
- Title: Curvature-aware Expected Free Energy as an Acquisition Function for Bayesian Optimization
- Title(参考訳): ベイズ最適化のための獲得関数として自由エネルギーを期待する曲率認識
- Authors: Ajith Anil Meera, Wouter Kouw,
- Abstract要約: 予測自由エネルギーは, 上位信頼境界, 下位信頼境界, 期待情報ゲインに還元されることを示す。
我々は,期待自由エネルギーがコンケーブ関数の収束保証を曖昧にしていることを証明した。
適応型フリーエナジーベースの獲得関数は,最先端の獲得関数よりも優れていることを示す。
- 参考スコア(独自算出の注目度): 0.5801044612920815
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: We propose an Expected Free Energy-based acquisition function for Bayesian optimization to solve the joint learning and optimization problem, i.e., optimize and learn the underlying function simultaneously. We show that, under specific assumptions, Expected Free Energy reduces to Upper Confidence Bound, Lower Confidence Bound, and Expected Information Gain. We prove that Expected Free Energy has unbiased convergence guarantees for concave functions. Using the results from these derivations, we introduce a curvature-aware update law for Expected Free Energy and show its proof of concept using a system identification problem on a Van der Pol oscillator. Through rigorous simulation experiments, we show that our adaptive Expected Free Energy-based acquisition function outperforms state-of-the-art acquisition functions with the least final simple regret and error in learning the Gaussian process.
- Abstract(参考訳): 本稿では,ベイジアン最適化のための期待自由エネルギーに基づく獲得関数を提案する。
我々は,特定の前提下では,期待される自由エネルギーは,上位信頼境界,下位信頼境界,期待される情報ゲインに還元されることを示す。
我々は,期待自由エネルギーがコンケーブ関数の収束保証を曖昧にしていることを証明した。
これらの導出結果を用いて、予測自由エネルギーに対する曲率対応更新法を導入し、Van der Pol発振器のシステム同定問題を用いて概念実証を行った。
厳密なシミュレーション実験により、我々の適応予測自由エネルギーに基づく獲得関数は、ガウス過程の学習において、最小限の単純な後悔と誤りで最先端の獲得関数より優れていることを示す。
関連論文リスト
- A Novel Unified Parametric Assumption for Nonconvex Optimization [53.943470475510196]
非最適化は機械学習の中心であるが、一般の非凸性は弱い収束を保証するため、他方に比べて悲観的すぎる。
非凸アルゴリズムに新しい統一仮定を導入する。
論文 参考訳(メタデータ) (2025-02-17T21:25:31Z) - Optimizing Unitary Coupled Cluster Wave Functions on Quantum Hardware: Error Bound and Resource-Efficient Optimizer [0.0]
本稿では、量子ハードウェア上でのユニタリ結合クラスタ波関数の最適化のための射影量子固有解法(PQE)アプローチについて検討する。
我々は、ハミルトニアンの外部対角係数(残差)とアルゴリズムのエネルギー誤差と得られた波動関数によって達成された重なり関係を導出する。
論文 参考訳(メタデータ) (2024-10-19T15:03:59Z) - Principled Preferential Bayesian Optimization [22.269732173306192]
優先ベイズ最適化(BO)の問題について検討する。
一対の候補解よりも優先的なフィードバックしか持たないブラックボックス関数を最適化することを目指している。
この問題を解決するために,効率的な計算手法を用いた楽観的アルゴリズムを開発した。
論文 参考訳(メタデータ) (2024-02-08T02:57:47Z) - Promises and Pitfalls of the Linearized Laplace in Bayesian Optimization [73.80101701431103]
線形化ラプラス近似(LLA)はベイズニューラルネットワークの構築に有効で効率的であることが示されている。
ベイズ最適化におけるLLAの有用性について検討し,その性能と柔軟性を強調した。
論文 参考訳(メタデータ) (2023-04-17T14:23:43Z) - Generalizing Bayesian Optimization with Decision-theoretic Entropies [102.82152945324381]
統計的決定論の研究からシャノンエントロピーの一般化を考える。
まず,このエントロピーの特殊なケースがBO手順でよく用いられる獲得関数に繋がることを示す。
次に、損失に対する選択肢の選択が、どのようにして柔軟な獲得関数の族をもたらすかを示す。
論文 参考訳(メタデータ) (2022-10-04T04:43:58Z) - Surrogate modeling for Bayesian optimization beyond a single Gaussian
process [62.294228304646516]
本稿では,探索空間の活用と探索のバランスをとるための新しいベイズ代理モデルを提案する。
拡張性のある関数サンプリングを実現するため、GPモデル毎にランダムな特徴ベースのカーネル近似を利用する。
提案した EGP-TS を大域的最適に収束させるため,ベイズ的後悔の概念に基づいて解析を行う。
論文 参考訳(メタデータ) (2022-05-27T16:43:10Z) - Active inference, Bayesian optimal design, and expected utility [1.433758865948252]
活性推論がベイズ決定理論とベイズ設計の最適原理を結合し、期待される自由エネルギーを最小化する方法について述べる。
情報探索行動の自然発生を可能にする、活発な推論のこの側面である。
我々のTmazeシミュレーションは、期待される自由エネルギーを最適化し、期待されるユーティリティを最適化し、純粋に悪用的な振る舞いを誘導することを示す。
論文 参考訳(メタデータ) (2021-09-21T20:56:32Z) - Physics-constrained Bayesian inference of state functions in classical
density-functional theory [0.6445605125467573]
我々は,古典統計力学の逆問題に対する新しいデータ駆動手法を開発した。
我々は, 近似自由エネルギー関数の構成を特徴付ける効率的な学習アルゴリズムを開発した。
我々は、自由エネルギーの観点からモデリングする上で非常に困難である一方、自然界においてユビキタスな体積粒子相互作用を除外することを検討する。
論文 参考訳(メタデータ) (2020-10-07T12:43:42Z) - Randomised Gaussian Process Upper Confidence Bound for Bayesian
Optimisation [60.93091603232817]
改良されたガウス過程上信頼境界(GP-UCB)取得関数を開発した。
これは、分布から探索・探索トレードオフパラメータをサンプリングすることによって行われる。
これにより、期待されるトレードオフパラメータが、関数のベイズ的後悔に縛られることなく、問題によりよく適合するように変更できることが証明される。
論文 参考訳(メタデータ) (2020-06-08T00:28:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。