論文の概要: Bayesian Optimization in Linear Time
- arxiv url: http://arxiv.org/abs/2605.00237v1
- Date: Thu, 30 Apr 2026 21:16:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-04 17:43:28.757571
- Title: Bayesian Optimization in Linear Time
- Title（参考訳）: 線形時間におけるベイズ最適化
- Authors: Jesse Schneider, William J. Welch,
- Abstract要約: 本手法は全試験において優れた最適化性能を示す。
標準的なベイズ最適化のモデリングとアキサイシブな側面の両方を、分割スキームと調和して動作するように適応する。
- 参考スコア（独自算出の注目度）: 1.6500749121196987
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Bayesian optimization is a sequential method for minimizing objective functions that are expensive to evaluate and about which few assumptions can be made. By using all gathered data to train a Gaussian process model for the function and adaptively employing a mixture of global exploration and local exploitation, this method has been used for optimization in many fields including machine learning, automotive engineering and reinforcement learning. However, the standard method suffers from two problems: 1) with cubic computational complexity in the training-set size it eventually becomes computationally infeasible to train the model, and 2) globally modeling the objective function is not necessarily optimal given the local nature of minimization. Using flexible and recursive binary partitioning of the search space, we adapt both the modeling and acquisitive aspects of standard Bayesian optimization to work harmoniously with the partitioning scheme, thereby ameliorating both standard shortcomings. We compare our method against a commonly used Bayesian optimization library on seven challenging test functions, ranging in dimensionality from $6$ to $124$, and show that our method achieves superior optimization performance in all tests. In addition our method has linear computational complexity.
- Abstract（参考訳）: ベイズ最適化 (Bayesian optimization) は、評価に費用がかかり、仮定がほとんどない目的関数を最小化するための逐次的手法である。
全ての収集データを用いてガウスのプロセスモデルを訓練し、グローバルな探索と局所的な利用の混合を適応的に活用することにより、機械学習、自動車工学、強化学習を含む多くの分野の最適化に利用されてきた。
しかし、標準法は2つの問題に悩まされている。
1) トレーニングセットサイズが3乗の計算複雑性を持つと、最終的にはモデルのトレーニングが不可能になる。
2) 最小化の局所的性質を考えると, 対象関数のグローバルなモデル化は必ずしも最適ではない。
探索空間のフレキシブルかつ再帰的な二分分割を用いて、標準ベイズ最適化のモデリングと帰納的側面の両方を適用し、分割スキームと調和して機能し、標準的欠点を緩和する。
提案手法は, 一般的なベイズ最適化ライブラリと比較して, 次元が6ドルから124ドルまでの7つの挑戦的なテスト関数について比較し, 全試験において優れた最適化性能が得られることを示す。
さらに,本手法は線形計算複雑性を有する。
関連論文リスト
- Divide and Learn: Multi-Objective Combinatorial Optimization at Scale [41.78439888126577]
多目的最適化は指数関数的に大きな離散空間上の解を求める。
分割された決定空間上でのオンライン学習問題として再編成し、位置ワイドバンディットのサブプロブレムを解決する。
標準ベンチマークでは,80～98%の特殊解法性能を達成している。
論文 参考訳（メタデータ） (2026-02-11T20:29:35Z) - Make Optimization Once and for All with Fine-grained Guidance [78.14885351827232]
Learning to Optimize (L2O)は、統合ニューラルネットワークによる最適化効率を向上させる。
L2Oパラダイムは、例えば、リフィット、目に見えない解決策を反復的または直接的に生成するなど、大きな成果を達成する。
そこで本研究では,Diff-L2Oと呼ばれる学習最適化のための一般的なフレームワークについて検討した。
論文 参考訳（メタデータ） (2025-03-14T14:48:12Z) - Contextual Stochastic Bilevel Optimization [50.36775806399861]
文脈情報と上層変数の期待を最小化する2レベル最適化フレームワークCSBOを導入する。
メタラーニング、パーソナライズドラーニング、エンド・ツー・エンドラーニング、Wassersteinはサイド情報(WDRO-SI)を分散的に最適化している。
論文 参考訳（メタデータ） (2023-10-27T23:24:37Z) - Accelerating Cutting-Plane Algorithms via Reinforcement Learning
Surrogates [49.84541884653309]
凸離散最適化問題に対する現在の標準的なアプローチは、カットプレーンアルゴリズムを使うことである。
多くの汎用カット生成アルゴリズムが存在するにもかかわらず、大規模な離散最適化問題は、難易度に悩まされ続けている。
そこで本研究では,強化学習による切削平面アルゴリズムの高速化手法を提案する。
論文 参考訳（メタデータ） (2023-07-17T20:11:56Z) - Symmetric Replay Training: Enhancing Sample Efficiency in Deep Reinforcement Learning for Combinatorial Optimization [42.92248233465095]
本稿では,SRT (symmetric replay training) と呼ばれる簡易かつ効果的な手法を提案する。
提案手法は,オンラインインタラクションを伴わない対称領域の探索を促進するために,高解像度サンプルを活用する。
実世界のタスクに適用した多種多様なDRL法に対して,本手法を一貫したサンプル効率向上効果を示す実験結果を得た。
論文 参考訳（メタデータ） (2023-06-02T05:34:01Z) - Bayesian Optimization over Permutation Spaces [30.650753803587794]
BOPS (Permutation Spaces) に対する2つのアルゴリズムの提案と評価を行った。
BOPS-Tの性能を理論的に解析し,その後悔がサブリニアに増加することを示す。
複数の合成および実世界のベンチマーク実験により、BOPS-TとBOPS-Hは、空間に対する最先端のBOアルゴリズムよりも優れた性能を示した。
論文 参考訳（メタデータ） (2021-12-02T08:20:50Z) - Global Optimization of Gaussian processes [52.77024349608834]
少数のデータポイントで学習したガウス過程を訓練した空間定式化を提案する。
このアプローチはまた、より小さく、計算的にもより安価なサブソルバを低いバウンディングに導く。
提案手法の順序の順序による時間収束を,総じて低減する。
論文 参考訳（メタデータ） (2020-05-21T20:59:11Z) - Learning to Guide Random Search [111.71167792453473]
我々は、潜在低次元多様体上の高次元関数の微分自由最適化を考える。
最適化を行いながらこの多様体を学習するオンライン学習手法を開発した。
本研究では,連続最適化ベンチマークと高次元連続制御問題について実験的に評価する。
論文 参考訳（メタデータ） (2020-04-25T19:21:14Z) - Learning to be Global Optimizer [28.88646928299302]
いくつかのベンチマーク関数に対して最適なネットワークとエスケープ能力アルゴリズムを学習する。
学習したアルゴリズムは、よく知られた古典最適化アルゴリズムよりも大幅に優れていることを示す。
論文 参考訳（メタデータ） (2020-03-10T03:46:25Z) - Self-Directed Online Machine Learning for Topology Optimization [58.920693413667216]
自己指向型オンライン学習最適化は、ディープニューラルネットワーク(DNN)と有限要素法(FEM)計算を統合している。
本アルゴリズムは, コンプライアンスの最小化, 流体構造最適化, 伝熱促進, トラス最適化の4種類の問題によって検証された。
その結果, 直接使用法と比較して計算時間を2～5桁削減し, 実験で検証した全ての最先端アルゴリズムより優れていた。
論文 参考訳（メタデータ） (2020-02-04T20:00:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。