論文の概要: GIBBON: General-purpose Information-Based Bayesian OptimisatioN
- arxiv url: http://arxiv.org/abs/2102.03324v1
- Date: Fri, 5 Feb 2021 18:04:37 GMT
- ステータス: 処理完了
- システム内更新日: 2021-02-08 15:38:51.112906
- Title: GIBBON: General-purpose Information-Based Bayesian OptimisatioN
- Title(参考訳): GIBBON:汎用情報ベースベイズ最適化
- Authors: Henry B. Moss, David S. Leslie, Javier Gonzalez, Paul Rayson
- Abstract要約: 本稿では,ベイズ最適化(BO)の一般的なアプローチである最大値エントロピー探索の汎用的拡張について述べる。
BO問題を解くための情報理論量である情報ゲインに対して,新しい近似法を提案する。
GIBBONは上記の全てに適合する単一原則のフレームワークを提供する。
- 参考スコア(独自算出の注目度): 18.245059488813492
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper describes a general-purpose extension of max-value entropy search,
a popular approach for Bayesian Optimisation (BO). A novel approximation is
proposed for the information gain -- an information-theoretic quantity central
to solving a range of BO problems, including noisy, multi-fidelity and batch
optimisations across both continuous and highly-structured discrete spaces.
Previously, these problems have been tackled separately within
information-theoretic BO, each requiring a different sophisticated
approximation scheme, except for batch BO, for which no
computationally-lightweight information-theoretic approach has previously been
proposed. GIBBON (General-purpose Information-Based Bayesian OptimisatioN)
provides a single principled framework suitable for all the above,
out-performing existing approaches whilst incurring substantially lower
computational overheads. In addition, GIBBON does not require the problem's
search space to be Euclidean and so is the first high-performance yet
computationally light-weight acquisition function that supports batch BO over
general highly structured input spaces like molecular search and gene design.
Moreover, our principled derivation of GIBBON yields a natural interpretation
of a popular batch BO heuristic based on determinantal point processes.
Finally, we analyse GIBBON across a suite of synthetic benchmark tasks, a
molecular search loop, and as part of a challenging batch multi-fidelity
framework for problems with controllable experimental noise.
- Abstract(参考訳): 本稿では,ベイズ最適化(BO)の一般的なアプローチである最大値エントロピー探索の汎用的拡張について述べる。
連続的および高度に構造化された離散空間間の雑音性、多相性、バッチ最適化など、BO問題を解くための情報理論量である情報ゲインについて、新しい近似が提案されている。
これまで、これらの問題は情報理論BOの中で個別に取り組まれており、計算軽量な情報理論アプローチが提案されていないバッチBOを除いて、それぞれ異なる高度な近似スキームを必要とする。
GIBBON(General-purpose Information-Based Bayesian OptimisatioN)は、計算オーバーヘッドを大幅に削減しながら、上記のすべてのアプローチに適した単一の原則化されたフレームワークを提供します。
さらに、ギボンは問題の探索空間がユークリッドである必要はないので、分子探索や遺伝子設計のような一般的な高構造な入力空間よりもバッチboをサポートする最初の高性能で計算量の多い獲得関数である。
さらに, GIBBONの原理的導出は, 決定点過程に基づく一般的なBOヒューリスティックの自然な解釈をもたらす。
最後に、GIBBONを一連の合成ベンチマークタスク、分子探索ループ、および制御可能な実験ノイズの問題に対する挑戦的なバッチマルチファイダリティフレームワークの一部として分析します。
関連論文リスト
- Evidence that PUBO outperforms QUBO when solving continuous optimization
problems with the QAOA [4.670374869377859]
量子アルゴリズムによる最適化問題の解決における中核的なステップは、問題の定式化である。
近年の研究では、多くの問題を自然の多項式非制約最適化形式でより効率的に解けることが示されている。
適切なベンチマーク関数の評価では、PUBOの定式化は一般により良い結果をもたらすが、キュービットは少ない。
論文 参考訳(メタデータ) (2023-05-05T09:37:48Z) - DeciLS-PBO: an Effective Local Search Method for Pseudo-Boolean
Optimization [10.513103815142731]
PBO(Pseudo-Boolean Optimization)の解法における局所探索アルゴリズムの改良法について検討する。
我々のアルゴリズムであるDeciLS-PBOは最先端のアルゴリズムと比較して有望な性能を持つ。
論文 参考訳(メタデータ) (2023-01-28T17:03:56Z) - Model-based Causal Bayesian Optimization [78.120734120667]
モデルに基づく因果ベイズ最適化(MCBO)を提案する。
MCBOは介入と逆のペアをモデリングするのではなく、完全なシステムモデルを学ぶ。
標準的なベイズ最適化とは異なり、我々の取得関数は閉形式では評価できない。
論文 参考訳(メタデータ) (2022-11-18T14:28:21Z) - Generalizing Bayesian Optimization with Decision-theoretic Entropies [102.82152945324381]
統計的決定論の研究からシャノンエントロピーの一般化を考える。
まず,このエントロピーの特殊なケースがBO手順でよく用いられる獲得関数に繋がることを示す。
次に、損失に対する選択肢の選択が、どのようにして柔軟な獲得関数の族をもたらすかを示す。
論文 参考訳(メタデータ) (2022-10-04T04:43:58Z) - Fast Bayesian Optimization of Needle-in-a-Haystack Problems using
Zooming Memory-Based Initialization [73.96101108943986]
Needle-in-a-Haystack問題は、データセットのサイズに対して最適な条件が極端に不均衡であるときに発生する。
本稿では,従来のベイズ最適化原理に基づくズームメモリに基づく初期化アルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-08-26T23:57:41Z) - Information-theoretic Inducing Point Placement for High-throughput
Bayesian Optimisation [9.732863739456036]
本稿では,情報理論の原理を応用した新しい点設計法を提案する。
目的関数の最大値における大域的不確実性と不確実性の両方を最大化するための誘導点を選択することにより、高精度な高スループットBOをサポートするサロゲートモデルを構築する。
論文 参考訳(メタデータ) (2022-06-06T08:56:56Z) - Surrogate modeling for Bayesian optimization beyond a single Gaussian
process [62.294228304646516]
本稿では,探索空間の活用と探索のバランスをとるための新しいベイズ代理モデルを提案する。
拡張性のある関数サンプリングを実現するため、GPモデル毎にランダムな特徴ベースのカーネル近似を利用する。
提案した EGP-TS を大域的最適に収束させるため,ベイズ的後悔の概念に基づいて解析を行う。
論文 参考訳(メタデータ) (2022-05-27T16:43:10Z) - Trusted-Maximizers Entropy Search for Efficient Bayesian Optimization [39.824086260578646]
本稿では,信頼度最大化エントロピー探索(TES)取得関数を提案する。
インプットがクエリの情報ゲインにどの程度貢献するかを、信頼された最大値の有限セット上で測定する。
論文 参考訳(メタデータ) (2021-07-30T07:25:07Z) - Bayesian Algorithm Execution: Estimating Computable Properties of
Black-box Functions Using Mutual Information [78.78486761923855]
多くの現実世界では、T関数の評価の予算を考えると、高価なブラックボックス関数 f の性質を推測したい。
本稿では,アルゴリズムの出力に対して相互情報を最大化するクエリを逐次選択する手法InfoBAXを提案する。
これらの問題に対してInfoBAXは、元のアルゴリズムで要求されるより500倍少ないクエリをfに使用する。
論文 参考訳(メタデータ) (2021-04-19T17:22:11Z) - Combinatorial Pure Exploration with Full-bandit Feedback and Beyond:
Solving Combinatorial Optimization under Uncertainty with Limited Observation [90.22783139252938]
最適化のためのアルゴリズムを開発するとき、エッジウェイトなどのパラメータは入力として正確に知られています。
本稿では,最近提案された純粋探索問題に対するフィードバックの少ない手法について概説する。
論文 参考訳(メタデータ) (2020-12-31T12:40:52Z) - Distributed Variational Bayesian Algorithms Over Sensor Networks [6.572330981878818]
一般ベイズ推論問題に対する2つの新しい分散VBアルゴリズムを提案する。
提案アルゴリズムは、核融合センターで利用可能な全データに依存する集中型VBアルゴリズムとほぼ同等の性能を有する。
論文 参考訳(メタデータ) (2020-11-27T08:12:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。