論文の概要: Fast Bayesian Optimization Through Linear Models
- arxiv url: http://arxiv.org/abs/2610.29580v1
- Date: Wed, 21 Oct 2026 11:22:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-23 00:40:06.345609
- Title: Fast Bayesian Optimization Through Linear Models
- Title(参考訳): 線形モデルによる高速ベイズ最適化
- Abstract要約: 現実の世界では、問題は安価なものから高価なものへと、連続した範囲の値にまたがっています。
本稿では,既存のBOアルゴリズムの線形構造を利用する高速BO手法を提案する。
提案手法は,最先端BOと同等の性能を達成しつつ,102times$から103times$の高速化を実現している。
- 参考スコア(独自算出の注目度): 20.536096036870227
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Bayesian optimization (BO) is typically used only for problems where the underlying function is deemed "expensive" (e.g. in time or money), with the speed of the BO algorithm being of little importance. In the real world, however, problems span a continuous range of values, going from cheap to expensive. In this paper, we present BO algorithms through the lens of a speed-performance Pareto frontier: we compare BO against faster algorithms like CMA-ES, and highlight how certain regions of the Pareto frontier are currently empty. As a solution, we propose a new set of fast BO methods that exploit the linear structure in existing BO algorithms, for both continuous and combinatorial inputs (from ~10 to 6000+ dimensions). Our methods achieve performance similar to state-of-the-art BO, while being more than $10^2\times$ to $10^3\times$ faster, opening the field of BO to an entirely new class of problems.
- Abstract(参考訳): ベイズ最適化(BO)は一般に、BOアルゴリズムの速度がほとんど重要でないため、基礎となる関数が「拡張的(expensive)」な問題(例えば時間やお金)にのみ用いられる。
しかし、現実の世界では、問題は低コストから高価なものへと、連続した範囲の値にまたがっている。
本稿では,高速パレートフロンティアのレンズを通してBOアルゴリズムを提示する。我々はBOをCMA-ESのような高速アルゴリズムと比較し,パレートフロンティアの特定の領域が現在空であることを示す。
そこで本研究では,既存のBOアルゴリズムの線形構造を利用した高速BO手法を提案する。
提案手法は最先端のBOと同じような性能を実現し,10^2\times$から10^3\times$よりも高速に動作し,BOの分野を全く新しい問題へと開放する。
関連論文リスト
- Accelerating Cutting-Plane Algorithms via Reinforcement Learning
Surrogates [49.84541884653309]
凸離散最適化問題に対する現在の標準的なアプローチは、カットプレーンアルゴリズムを使うことである。
多くの汎用カット生成アルゴリズムが存在するにもかかわらず、大規模な離散最適化問題は、難易度に悩まされ続けている。
そこで本研究では,強化学習による切削平面アルゴリズムの高速化手法を提案する。
論文 参考訳(メタデータ) (2023-07-17T20:11:56Z) - Neuromorphic Bayesian Optimization in Lava [0.0]
オープンソースのLava Software Frameworkへのコントリビューションとして、Lava Bayesian Optimization (LavaBO)を紹介します。
LavaBOは、異種できめ細かな並列なインメモリニューロモルフィックコンピューティングアーキテクチャと互換性のあるBOシステムを開発するための最初のステップである。
バックプロパゲーションや進化学習を通じて、最先端のスパイクニューラルネットワークを訓練するといった複数の問題に対して、LavaBOシステムのアルゴリズム性能を評価する。
論文 参考訳(メタデータ) (2023-05-18T15:54:23Z) - Comparison of High-Dimensional Bayesian Optimization Algorithms on BBOB [0.40498500266986387]
我々は,5つの最先端高次元BOアルゴリズムと,バニラとCMA-ESを10変数から60変数の範囲で比較した。
本結果は, CMA-ESに対するBOの優位性を確認し, 限られた評価予算について検証した。
論文 参考訳(メタデータ) (2023-03-02T01:14:15Z) - A Fully Single Loop Algorithm for Bilevel Optimization without Hessian
Inverse [121.54116938140754]
両レベル最適化問題に対して,Hessian 逆フリーな完全単一ループアルゴリズムを提案する。
我々のアルゴリズムは$O(epsilon-2)$と収束することを示す。
論文 参考訳(メタデータ) (2021-12-09T02:27:52Z) - A Fast and Accurate Splitting Method for Optimal Transport: Analysis and
Implementation [19.6590956326761]
我々は,高速かつ信頼性の高い大規模最適輸送(OT)問題を,前例のない速度と精度の組み合わせで解く方法を開発した。
ダグラス・ラフフォード分割法に基づいて構築され、近似正規化問題を解く代わりに、元のOT問題に直接取り組んだ。
論文 参考訳(メタデータ) (2021-10-22T12:16:08Z) - Bayesian Optimistic Optimisation with Exponentially Decaying Regret [58.02542541410322]
現在の実用的なBOアルゴリズムは、$mathcalO(fraclogNsqrtN)$から$mathcalO(e-sqrtN)$まで、$N$は評価の数である。
本稿では,boと木に基づく楽観的楽観化の概念を絡み合うことにより,無音環境における後悔を改善できる可能性について検討する。
次数$mathcal O(N-sqrt)で指数的再帰を達成できる最初の実践的手法であるBOOアルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-05-10T13:07:44Z) - Bayesian Algorithm Execution: Estimating Computable Properties of
Black-box Functions Using Mutual Information [78.78486761923855]
多くの現実世界では、T関数の評価の予算を考えると、高価なブラックボックス関数 f の性質を推測したい。
本稿では,アルゴリズムの出力に対して相互情報を最大化するクエリを逐次選択する手法InfoBAXを提案する。
これらの問題に対してInfoBAXは、元のアルゴリズムで要求されるより500倍少ないクエリをfに使用する。
論文 参考訳(メタデータ) (2021-04-19T17:22:11Z) - Improved Branch and Bound for Neural Network Verification via Lagrangian
Decomposition [161.09660864941603]
ニューラルネットワークの入出力特性を公式に証明するためのブランチとバウンド(BaB)アルゴリズムのスケーラビリティを改善します。
活性化に基づく新しい分岐戦略とBaBフレームワークであるブランチとデュアルネットワーク境界(BaDNB)を提案する。
BaDNBは、従来の完全検証システムを大きなマージンで上回り、対数特性で平均検証時間を最大50倍に削減した。
論文 参考訳(メタデータ) (2021-04-14T09:22:42Z) - Sub-linear Regret Bounds for Bayesian Optimisation in Unknown Search
Spaces [63.22864716473051]
本稿では,反復により探索空間を拡大(およびシフト)する新しいBOアルゴリズムを提案する。
理論的には、どちらのアルゴリズムにおいても、累積的後悔は線形以下の速度で増大する。
論文 参考訳(メタデータ) (2020-09-05T14:24:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。