論文の概要: GIBBON: General-purpose Information-Based Bayesian OptimisatioN
- arxiv url: http://arxiv.org/abs/2102.03324v1
- Date: Fri, 5 Feb 2021 18:04:37 GMT
- ステータス: 処理完了
- システム内更新日: 2021-02-08 15:38:51.112906
- Title: GIBBON: General-purpose Information-Based Bayesian OptimisatioN
- Title（参考訳）: GIBBON:汎用情報ベースベイズ最適化
- Authors: Henry B. Moss, David S. Leslie, Javier Gonzalez, Paul Rayson
- Abstract要約: 本稿では,ベイズ最適化(BO)の一般的なアプローチである最大値エントロピー探索の汎用的拡張について述べる。
BO問題を解くための情報理論量である情報ゲインに対して,新しい近似法を提案する。
GIBBONは上記の全てに適合する単一原則のフレームワークを提供する。
- 参考スコア（独自算出の注目度）: 18.245059488813492
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper describes a general-purpose extension of max-value entropy search,
a popular approach for Bayesian Optimisation (BO). A novel approximation is
proposed for the information gain -- an information-theoretic quantity central
to solving a range of BO problems, including noisy, multi-fidelity and batch
optimisations across both continuous and highly-structured discrete spaces.
Previously, these problems have been tackled separately within
information-theoretic BO, each requiring a different sophisticated
approximation scheme, except for batch BO, for which no
computationally-lightweight information-theoretic approach has previously been
proposed. GIBBON (General-purpose Information-Based Bayesian OptimisatioN)
provides a single principled framework suitable for all the above,
out-performing existing approaches whilst incurring substantially lower
computational overheads. In addition, GIBBON does not require the problem's
search space to be Euclidean and so is the first high-performance yet
computationally light-weight acquisition function that supports batch BO over
general highly structured input spaces like molecular search and gene design.
Moreover, our principled derivation of GIBBON yields a natural interpretation
of a popular batch BO heuristic based on determinantal point processes.
Finally, we analyse GIBBON across a suite of synthetic benchmark tasks, a
molecular search loop, and as part of a challenging batch multi-fidelity
framework for problems with controllable experimental noise.
- Abstract（参考訳）: 本稿では,ベイズ最適化(BO)の一般的なアプローチである最大値エントロピー探索の汎用的拡張について述べる。
連続的および高度に構造化された離散空間間の雑音性、多相性、バッチ最適化など、BO問題を解くための情報理論量である情報ゲインについて、新しい近似が提案されている。
これまで、これらの問題は情報理論BOの中で個別に取り組まれており、計算軽量な情報理論アプローチが提案されていないバッチBOを除いて、それぞれ異なる高度な近似スキームを必要とする。
GIBBON(General-purpose Information-Based Bayesian OptimisatioN)は、計算オーバーヘッドを大幅に削減しながら、上記のすべてのアプローチに適した単一の原則化されたフレームワークを提供します。
さらに、ギボンは問題の探索空間がユークリッドである必要はないので、分子探索や遺伝子設計のような一般的な高構造な入力空間よりもバッチboをサポートする最初の高性能で計算量の多い獲得関数である。
さらに, GIBBONの原理的導出は, 決定点過程に基づく一般的なBOヒューリスティックの自然な解釈をもたらす。
最後に、GIBBONを一連の合成ベンチマークタスク、分子探索ループ、および制御可能な実験ノイズの問題に対する挑戦的なバッチマルチファイダリティフレームワークの一部として分析します。
関連論文リスト
- Rethinking Clustered Federated Learning in NOMA Enhanced Wireless
Networks [60.09912912343705]
本研究では,新しいクラスタ化フェデレーション学習(CFL)アプローチと,非独立かつ同一に分散した(非IID)データセットを統合することのメリットについて検討する。
データ分布における非IIDの度合いを測定する一般化ギャップの詳細な理論的解析について述べる。
非IID条件によって引き起こされる課題に対処する解決策は、特性の分析によって提案される。
論文 参考訳（メタデータ） (2024-03-05T17:49:09Z) - Reinforced In-Context Black-Box Optimization [64.25546325063272]
RIBBOは、オフラインデータからエンドツーエンドでBBOアルゴリズムを強化学習する手法である。
RIBBOは、複数の動作アルゴリズムとタスクによって生成される最適化履歴を学習するために、表現的なシーケンスモデルを使用している。
提案手法の中心となるのは,テキストレグレット・ツー・ゴートークンによる最適化履歴の増大である。
論文 参考訳（メタデータ） (2024-02-27T11:32:14Z) - Poisson Process for Bayesian Optimization [126.51200593377739]
本稿では、Poissonプロセスに基づくランキングベースの代理モデルを提案し、Poisson Process Bayesian Optimization(PoPBO)と呼ばれる効率的なBOフレームワークを提案する。
従来のGP-BO法と比較すると,PoPBOはコストが低く,騒音に対する堅牢性も良好であり,十分な実験により検証できる。
論文 参考訳（メタデータ） (2024-02-05T02:54:50Z) - Evidence that PUBO outperforms QUBO when solving continuous optimization
problems with the QAOA [4.670374869377859]
量子アルゴリズムによる最適化問題の解決における中核的なステップは、問題の定式化である。
近年の研究では、多くの問題を自然の多項式非制約最適化形式でより効率的に解けることが示されている。
適切なベンチマーク関数の評価では、PUBOの定式化は一般により良い結果をもたらすが、キュービットは少ない。
論文 参考訳（メタデータ） (2023-05-05T09:37:48Z) - DeciLS-PBO: an Effective Local Search Method for Pseudo-Boolean
Optimization [10.513103815142731]
PBO(Pseudo-Boolean Optimization)の解法における局所探索アルゴリズムの改良法について検討する。
我々のアルゴリズムであるDeciLS-PBOは最先端のアルゴリズムと比較して有望な性能を持つ。
論文 参考訳（メタデータ） (2023-01-28T17:03:56Z) - Generalizing Bayesian Optimization with Decision-theoretic Entropies [102.82152945324381]
統計的決定論の研究からシャノンエントロピーの一般化を考える。
まず,このエントロピーの特殊なケースがBO手順でよく用いられる獲得関数に繋がることを示す。
次に、損失に対する選択肢の選択が、どのようにして柔軟な獲得関数の族をもたらすかを示す。
論文 参考訳（メタデータ） (2022-10-04T04:43:58Z) - Fast Bayesian Optimization of Needle-in-a-Haystack Problems using
Zooming Memory-Based Initialization [73.96101108943986]
Needle-in-a-Haystack問題は、データセットのサイズに対して最適な条件が極端に不均衡であるときに発生する。
本稿では,従来のベイズ最適化原理に基づくズームメモリに基づく初期化アルゴリズムを提案する。
論文 参考訳（メタデータ） (2022-08-26T23:57:41Z) - Information-theoretic Inducing Point Placement for High-throughput
Bayesian Optimisation [9.732863739456036]
本稿では,情報理論の原理を応用した新しい点設計法を提案する。
目的関数の最大値における大域的不確実性と不確実性の両方を最大化するための誘導点を選択することにより、高精度な高スループットBOをサポートするサロゲートモデルを構築する。
論文 参考訳（メタデータ） (2022-06-06T08:56:56Z) - Trusted-Maximizers Entropy Search for Efficient Bayesian Optimization [39.824086260578646]
本稿では,信頼度最大化エントロピー探索(TES)取得関数を提案する。
インプットがクエリの情報ゲインにどの程度貢献するかを、信頼された最大値の有限セット上で測定する。
論文 参考訳（メタデータ） (2021-07-30T07:25:07Z) - Combinatorial Pure Exploration with Full-bandit Feedback and Beyond:
Solving Combinatorial Optimization under Uncertainty with Limited Observation [70.41056265629815]
最適化アルゴリズムを開発する際、エッジウェイトなどのパラメータが入力として正確に知られていることが一般的である。
本稿では、最近、限られたフィードバックを伴う純粋探索問題に対する手法について概説する。
論文 参考訳（メタデータ） (2020-12-31T12:40:52Z) - Distributed Variational Bayesian Algorithms Over Sensor Networks [6.572330981878818]
一般ベイズ推論問題に対する2つの新しい分散VBアルゴリズムを提案する。
提案アルゴリズムは、核融合センターで利用可能な全データに依存する集中型VBアルゴリズムとほぼ同等の性能を有する。
論文 参考訳（メタデータ） (2020-11-27T08:12:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。