論文の概要: Optimizing Through Change: Bounds and Recommendations for Time-Varying Bayesian Optimization Algorithms
- arxiv url: http://arxiv.org/abs/2501.18963v2
- Date: Tue, 08 Apr 2025 23:26:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-04-10 16:25:04.123336
- Title: Optimizing Through Change: Bounds and Recommendations for Time-Varying Bayesian Optimization Algorithms
- Title(参考訳): 変化の最適化:時変ベイズ最適化アルゴリズムにおける境界と勧告
- Authors: Anthony Bardou, Patrick Thiran,
- Abstract要約: 本稿では,TVBOアルゴリズムの累積後悔を軽度かつ現実的な仮定のみに限定した最初の分析法を提案する。
この分析に基づいて,TVBOアルゴリズムの推薦を定式化し,それに従うアルゴリズム(BOLT)がTVBOの最先端技術よりも優れていることを示す。
- 参考スコア(独自算出の注目度): 5.224009487402768
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Time-Varying Bayesian Optimization (TVBO) is the go-to framework for optimizing a time-varying, expensive, noisy black-box function. However, most of the solutions proposed so far either rely on unrealistic assumptions on the nature of the objective function or do not offer any theoretical guarantees. We propose the first analysis that asymptotically bounds the cumulative regret of TVBO algorithms under mild and realistic assumptions only. In particular, we provide an algorithm-independent lower regret bound and an upper regret bound that holds for a large class of TVBO algorithms. Based on this analysis, we formulate recommendations for TVBO algorithms and show how an algorithm (BOLT) that follows them performs better than the state-of-the-art of TVBO through experiments on synthetic and real-world problems.
- Abstract(参考訳): 時変ベイズ最適化(英: Time-Varying Bayesian Optimization、TVBO)は、時変で高価でノイズの多いブラックボックス関数を最適化するためのゴートフレームワークである。
しかし、これまで提案された解のほとんどは、目的関数の性質に関する非現実的な仮定に依存するか、理論的な保証を提供しない。
本稿では,TVBOアルゴリズムの累積的後悔を,軽度かつ現実的な仮定のみで漸近的に束縛する最初の解析法を提案する。
特に,大規模なTVBOアルゴリズムでは,アルゴリズムに依存しない低い後悔境界と,上位後悔境界が成立する。
この分析に基づいて,TVBOアルゴリズムの推薦を定式化し,それに続くアルゴリズム(BOLT)が,合成および実世界の問題に対する実験を通じて,TVBOの最先端技術よりも優れた性能を示すことを示す。
関連論文リスト
- Asymptotic Performance of Time-Varying Bayesian Optimization [5.224009487402768]
我々は,TVBOアルゴリズムの即時後悔が消える可能性を示し,もしそうであるならば,いつなのかを示す。
我々は,TVBOアルゴリズムが非レグレット特性を持つための十分な条件を導出する。
我々の分析は、定常カーネル関数の全ての主要なクラスをカバーしている。
論文 参考訳(メタデータ) (2025-05-19T11:55:02Z) - Dimensionality Reduction Techniques for Global Bayesian Optimisation [1.433758865948252]
減次元部分空間におけるBOの実行に次元還元を適用した潜在空間ベイズ最適化について検討する。
我々は、より複雑なデータ構造や一般的なDRタスクを管理するために、変分オートエンコーダ(VAE)を使用している。
そこで本研究では,分子生成などのタスク用に設計され,より広い最適化目的のためにアルゴリズムを再構成する実装において,いくつかの重要な補正を提案する。
論文 参考訳(メタデータ) (2024-12-12T11:27:27Z) - This Too Shall Pass: Removing Stale Observations in Dynamic Bayesian Optimization [4.6481096949408105]
我々は、データセットから無関係な観測をその場で除去できるDBOアルゴリズムを構築した。
We establish the superiority of W-DBO which is outperforming state-of-the-art method by a comfortable margin。
論文 参考訳(メタデータ) (2024-05-23T13:22:59Z) - Principled Preferential Bayesian Optimization [22.269732173306192]
優先ベイズ最適化(BO)の問題について検討する。
一対の候補解よりも優先的なフィードバックしか持たないブラックボックス関数を最適化することを目指している。
この問題を解決するために,効率的な計算手法を用いた楽観的アルゴリズムを開発した。
論文 参考訳(メタデータ) (2024-02-08T02:57:47Z) - LABCAT: Locally adaptive Bayesian optimization using principal-component-aligned trust regions [0.0]
信頼領域に基づくBOを拡張した LABCAT アルゴリズムを提案する。
このアルゴリズムは、最先端のBOや他のブラックボックス最適化アルゴリズムよりも優れていることを示す。
論文 参考訳(メタデータ) (2023-11-19T13:56:24Z) - A Specialized Semismooth Newton Method for Kernel-Based Optimal
Transport [92.96250725599958]
カーネルベース最適輸送(OT)推定器は、サンプルからOT問題に対処するための代替的機能的推定手順を提供する。
SSN法は, 標準正規性条件下でのグローバル収束率$O (1/sqrtk)$, 局所二次収束率を達成できることを示す。
論文 参考訳(メタデータ) (2023-10-21T18:48:45Z) - Parallel Bayesian Optimization Using Satisficing Thompson Sampling for
Time-Sensitive Black-Box Optimization [0.0]
本稿では,Thompsonサンプリングに基づく並列BO手法を提案する。
ターゲットを最適なソリューションから、学習しやすい満足できるソリューションにシフトします。
リチウムイオン電池の高速充電設計問題に対して提案手法の有効性を実証した。
論文 参考訳(メタデータ) (2023-10-19T07:03:51Z) - Decreasing the Computing Time of Bayesian Optimization using
Generalizable Memory Pruning [56.334116591082896]
本稿では,任意のサロゲートモデルと取得関数で使用可能なメモリプルーニングとバウンダリ最適化のラッパーを示す。
BOを高次元または大規模データセット上で実行することは、この時間の複雑さのために難解になる。
すべてのモデル実装はMIT Supercloudの最先端コンピューティングハードウェア上で実行される。
論文 参考訳(メタデータ) (2023-09-08T14:05:56Z) - Accelerated First-Order Optimization under Nonlinear Constraints [73.2273449996098]
我々は、制約付き最適化のための一階アルゴリズムと非滑らかなシステムの間で、新しい一階アルゴリズムのクラスを設計する。
これらのアルゴリズムの重要な性質は、制約がスパース変数の代わりに速度で表されることである。
論文 参考訳(メタデータ) (2023-02-01T08:50:48Z) - Exploring the Algorithm-Dependent Generalization of AUPRC Optimization
with List Stability [107.65337427333064]
AUPRC(Area Under the Precision-Recall Curve)の最適化は、機械学習にとって重要な問題である。
本研究では, AUPRC最適化の単依存一般化における最初の試行について述べる。
3つの画像検索データセットの実験は、我々のフレームワークの有効性と健全性に言及する。
論文 参考訳(メタデータ) (2022-09-27T09:06:37Z) - Batch Bayesian optimisation via density-ratio estimation with guarantees [26.052368583196426]
本稿では,BOREの後悔を理論的に分析し,不確実性の推定を改良したアルゴリズムの拡張について述べる。
また,BOREを近似ベイズ推論として再キャストすることにより,バッチ最適化設定に自然に拡張可能であることを示す。
論文 参考訳(メタデータ) (2022-09-22T00:42:18Z) - Event-Triggered Time-Varying Bayesian Optimization [47.30677525394649]
本稿では,対象関数の変化を検出してデータセットをリセットするまで,最適化問題を静的に扱うイベントトリガーアルゴリズムET-GP-UCBを提案する。
これにより、アルゴリズムは正確な事前知識を必要とせずに、オンラインで時間変化を実現することができる。
時間的変化を正確に知ることなく、適応的リセットに対する後悔境界を導出し、ET-GP-UCBが合成データと実世界のデータの両方で競合するGP-UCBアルゴリズムより優れていることを示す数値実験を行った。
論文 参考訳(メタデータ) (2022-08-23T07:50:52Z) - Regret Bounds for Expected Improvement Algorithms in Gaussian Process
Bandit Optimization [63.8557841188626]
期待されている改善(EI)アルゴリズムは、不確実性の下で最適化するための最も一般的な戦略の1つである。
本稿では,GP予測平均を通した標準既存値を持つEIの変種を提案する。
我々のアルゴリズムは収束し、$mathcal O(gamma_TsqrtT)$の累積後悔境界を達成することを示す。
論文 参考訳(メタデータ) (2022-03-15T13:17:53Z) - Bayesian Optimistic Optimisation with Exponentially Decaying Regret [58.02542541410322]
現在の実用的なBOアルゴリズムは、$mathcalO(fraclogNsqrtN)$から$mathcalO(e-sqrtN)$まで、$N$は評価の数である。
本稿では,boと木に基づく楽観的楽観化の概念を絡み合うことにより,無音環境における後悔を改善できる可能性について検討する。
次数$mathcal O(N-sqrt)で指数的再帰を達成できる最初の実践的手法であるBOOアルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-05-10T13:07:44Z) - Bayesian Algorithm Execution: Estimating Computable Properties of
Black-box Functions Using Mutual Information [78.78486761923855]
多くの現実世界では、T関数の評価の予算を考えると、高価なブラックボックス関数 f の性質を推測したい。
本稿では,アルゴリズムの出力に対して相互情報を最大化するクエリを逐次選択する手法InfoBAXを提案する。
これらの問題に対してInfoBAXは、元のアルゴリズムで要求されるより500倍少ないクエリをfに使用する。
論文 参考訳(メタデータ) (2021-04-19T17:22:11Z) - An Asymptotically Optimal Primal-Dual Incremental Algorithm for
Contextual Linear Bandits [129.1029690825929]
複数の次元に沿った最先端技術を改善する新しいアルゴリズムを提案する。
非文脈線形帯域の特別な場合において、学習地平線に対して最小限の最適性を確立する。
論文 参考訳(メタデータ) (2020-10-23T09:12:47Z) - Sub-linear Regret Bounds for Bayesian Optimisation in Unknown Search
Spaces [63.22864716473051]
本稿では,反復により探索空間を拡大(およびシフト)する新しいBOアルゴリズムを提案する。
理論的には、どちらのアルゴリズムにおいても、累積的後悔は線形以下の速度で増大する。
論文 参考訳(メタデータ) (2020-09-05T14:24:40Z) - Time-varying Gaussian Process Bandit Optimization with Non-constant
Evaluation Time [93.6788993843846]
非定常評価時間を効果的に処理できる新しい時間変化ベイズ最適化アルゴリズムを提案する。
我々の限界は、評価時間列のパターンが問題の難易度に大きな影響を与えることを決定づける。
論文 参考訳(メタデータ) (2020-03-10T13:28:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。