論文の概要: Practical Bayesian Algorithm Execution via Posterior Sampling
- arxiv url: http://arxiv.org/abs/2410.20596v1
- Date: Sun, 27 Oct 2024 21:11:55 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-10-29 12:16:07.033808
- Title: Practical Bayesian Algorithm Execution via Posterior Sampling
- Title(参考訳): 後方サンプリングによる実用的なベイズアルゴリズムの実行
- Authors: Chu Xin Cheng, Raul Astudillo, Thomas Desautels, Yisong Yue,
- Abstract要約: PS-BAXは後方サンプリングに基づく単純で効果的でスケーラブルなBAX法である。
PS-BAXは、多くの最適化変種やレベルセット推定を含む幅広い問題に適用できる。
- 参考スコア(独自算出の注目度): 24.795916177776856
- License:
- Abstract: We consider Bayesian algorithm execution (BAX), a framework for efficiently selecting evaluation points of an expensive function to infer a property of interest encoded as the output of a base algorithm. Since the base algorithm typically requires more evaluations than are feasible, it cannot be directly applied. Instead, BAX methods sequentially select evaluation points using a probabilistic numerical approach. Current BAX methods use expected information gain to guide this selection. However, this approach is computationally intensive. Observing that, in many tasks, the property of interest corresponds to a target set of points defined by the function, we introduce PS-BAX, a simple, effective, and scalable BAX method based on posterior sampling. PS-BAX is applicable to a wide range of problems, including many optimization variants and level set estimation. Experiments across diverse tasks demonstrate that PS-BAX performs competitively with existing baselines while being significantly faster, simpler to implement, and easily parallelizable, setting a strong baseline for future research. Additionally, we establish conditions under which PS-BAX is asymptotically convergent, offering new insights into posterior sampling as an algorithm design paradigm.
- Abstract(参考訳): ベイズアルゴリズム実行(Bayesian algorithm execution, BAX)は, 基本アルゴリズムの出力として符号化された興味の特性を推論するために, 高価な関数の評価点を効率的に選択するフレームワークである。
基本アルゴリズムは通常、実現可能なよりも多くの評価を必要とするため、直接適用することはできない。
BAX法は確率的数値手法を用いて逐次評価点を選択する。
現在のBAX手法はこの選択を導くために期待情報ゲインを使用する。
しかし、このアプローチは計算集約的である。
多くのタスクにおいて、関心の性質は関数によって定義される点のターゲットセットに対応しており、後続サンプリングに基づく単純で効果的でスケーラブルなBAX法であるPS-BAXを導入する。
PS-BAXは、多くの最適化変種やレベルセット推定を含む幅広い問題に適用できる。
多様なタスクにわたる実験により、PS-BAXは既存のベースラインと競合し、より高速で、実装が簡単で、容易に並列化可能であることが示され、将来の研究の強力なベースラインとなる。
さらに,PS-BAXが漸近的に収束する条件を確立し,アルゴリズム設計パラダイムとしての後方サンプリングに関する新たな知見を提供する。
関連論文リスト
- Identifying Easy Instances to Improve Efficiency of ML Pipelines for Algorithm-Selection [0.20718016474717196]
本稿では,アルゴリズムの選択を必要とせず,ジェネリストソルバを用いて簡単に解決できる簡単なインスタンスを同定する手法を提案する。
これにより、機能計算に関連する計算予算が削減され、ASパイプライン内の他の場所で使用できるようになる。
論文 参考訳(メタデータ) (2024-06-24T12:25:04Z) - Poisson Process for Bayesian Optimization [126.51200593377739]
本稿では、Poissonプロセスに基づくランキングベースの代理モデルを提案し、Poisson Process Bayesian Optimization(PoPBO)と呼ばれる効率的なBOフレームワークを提案する。
従来のGP-BO法と比較すると,PoPBOはコストが低く,騒音に対する堅牢性も良好であり,十分な実験により検証できる。
論文 参考訳(メタデータ) (2024-02-05T02:54:50Z) - Efficient Model-Free Exploration in Low-Rank MDPs [76.87340323826945]
低ランクマルコフ決定プロセスは、関数近似を持つRLに対して単純だが表現力のあるフレームワークを提供する。
既存のアルゴリズムは、(1)計算的に抽出可能であるか、または(2)制限的な統計的仮定に依存している。
提案手法は,低ランクMPPの探索のための最初の実証可能なサンプル効率アルゴリズムである。
論文 参考訳(メタデータ) (2023-07-08T15:41:48Z) - Sparse high-dimensional linear regression with a partitioned empirical
Bayes ECM algorithm [62.997667081978825]
疎高次元線形回帰に対する計算効率が高く強力なベイズ的手法を提案する。
パラメータに関する最小の事前仮定は、プラグイン経験的ベイズ推定(英語版)を用いて用いられる。
提案手法はRパッケージプローブに実装されている。
論文 参考訳(メタデータ) (2022-09-16T19:15:50Z) - Batch Bayesian Optimization via Particle Gradient Flows [0.5735035463793008]
ブラックボックスとしてしか利用できない,あるいは評価に費用がかかる対象関数のグローバルな最適化方法を示す。
確率測度の空間上の多点予測確率に基づく新しい関数を構築する。
論文 参考訳(メタデータ) (2022-09-10T18:10:15Z) - Local policy search with Bayesian optimization [73.0364959221845]
強化学習は、環境との相互作用によって最適な政策を見つけることを目的としている。
局所探索のための政策勾配は、しばしばランダムな摂動から得られる。
目的関数の確率モデルとその勾配を用いたアルゴリズムを開発する。
論文 参考訳(メタデータ) (2021-06-22T16:07:02Z) - Bayesian Algorithm Execution: Estimating Computable Properties of
Black-box Functions Using Mutual Information [78.78486761923855]
多くの現実世界では、T関数の評価の予算を考えると、高価なブラックボックス関数 f の性質を推測したい。
本稿では,アルゴリズムの出力に対して相互情報を最大化するクエリを逐次選択する手法InfoBAXを提案する。
これらの問題に対してInfoBAXは、元のアルゴリズムで要求されるより500倍少ないクエリをfに使用する。
論文 参考訳(メタデータ) (2021-04-19T17:22:11Z) - Grouped Variable Selection with Discrete Optimization: Computational and
Statistical Perspectives [9.593208961737572]
本稿では,離散数理最適化に基づくグループ変数選択のための新しいアルゴリズムフレームワークを提案する。
本手法は,スパースプログラミングを用いた高次元線形回帰法と非加法モデリングの両方を網羅する。
提案手法は,関連する混合整数問題(mip)を解き,最適性が証明できるスタンドアロンの分岐・境界(bnb)フレームワークに基づいている。
論文 参考訳(メタデータ) (2021-04-14T19:21:59Z) - Approximate Bayesian Computation of B\'ezier Simplices [13.105764669733093]
我々はB'ezier Simplexモデルを確率的モデルに拡張し、その新しい学習アルゴリズムを提案する。
公開可能な問題インスタンスに関する実験的評価は、新しいアルゴリズムが有限サンプルに収束することを示している。
論文 参考訳(メタデータ) (2021-04-10T04:20:19Z) - Adaptive Sampling for Best Policy Identification in Markov Decision
Processes [79.4957965474334]
本稿では,学習者が生成モデルにアクセスできる場合の,割引マルコフ決定(MDP)における最良の政治的識別の問題について検討する。
最先端アルゴリズムの利点を論じ、解説する。
論文 参考訳(メタデータ) (2020-09-28T15:22:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。