論文の概要: Rethinking Trust Region Bayesian Optimization in High Dimensions
- arxiv url: http://arxiv.org/abs/2604.22967v1
- Date: Fri, 24 Apr 2026 19:18:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-28 17:12:07.075901
- Title: Rethinking Trust Region Bayesian Optimization in High Dimensions
- Title(参考訳): 高次元における信頼領域ベイズ最適化の再考
- Authors: Wei-Ting Tang, Joel A. Paulson,
- Abstract要約: 信頼領域ベイズ最適化(Trust Region Bayesian Optimization、TuRBO)は、高次元ブラックボックス最適化における次元の呪いを軽減する効果的な戦略である。
我々は、TuRBO の局所 GP が、次元 $D$ と信頼領域側の長さ $L$ が異なるため、過度に複雑あるいは過度に単純であることを示す。
本稿では,GP長スケールを問題次元と信頼領域サイズの両方でスケールする簡易な変種AdaScale-TuRBOを提案する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Trust Region Bayesian Optimization (TuRBO) is an effective strategy for alleviating the curse of dimensionality in high-dimensional black-box optimization. However, inappropriate lengthscale design can cause the local Gaussian process (GP) model within the trust region to degenerate, leading to suboptimal performance in high dimensions. In this work, we show that TuRBO's local GP may remain either excessively complex or overly simple as the dimension $D$ and trust region side length $L$ vary. To address this issue, we propose a straightforward variant, AdaScale-TuRBO, which scales the GP lengthscale with both the problem dimension and trust region size, thereby preserving kernel geometry and maintaining consistent prior complexity. Empirically, we show that AdaScale-TuRBO can robustly outperform standard TuRBO and other popular high-dimensional BO methods on synthetic benchmarks and real-world trajectory planning tasks.
- Abstract(参考訳): 信頼領域ベイズ最適化(Trust Region Bayesian Optimization、TuRBO)は、高次元ブラックボックス最適化における次元の呪いを軽減する効果的な戦略である。
しかし、不適切な長さスケールの設計は、信頼領域内の局所ガウス過程(GP)モデルを退化させ、高次元における準最適性能をもたらす。
本研究では、TuRBO の局所 GP は、次元 $D$ と信頼領域側の長さ $L$ が異なるため、過度に複雑あるいは過度に単純であることを示す。
この問題に対処するために,問題次元と信頼領域サイズの両方でGP長スケールをスケールし,カーネル形状を保存し,一貫した事前複雑性を維持する,簡単なAdaScale-TuRBOを提案する。
実験により,AdaScale-TuRBOは,合成ベンチマークや実世界の軌道計画タスクにおいて,標準TuRBOと他の高次元BO法を頑健に上回ることを示す。
関連論文リスト
- Enhancing Trust-Region Bayesian Optimization via Newton Methods [28.52947510281101]
BOを高次元空間に拡張する新しい手法を開発した。
提案手法は,TuRBOの有効性を高め,合成機能および実世界の応用において,多種多様な高次元BO技術より優れる。
論文 参考訳(メタデータ) (2025-08-25T19:15:12Z) - Convergence of Adam in Deep ReLU Networks via Directional Complexity and Kakeya Bounds [49.1574468325115]
Adamのような一階適応最適化手法は、現代のディープニューラルネットワークをトレーニングするためのデフォルトの選択肢である。
我々は,領域横断の制限を段階的に強化する多層改質フレームワークを開発した。
有効次元において,領域交差の数が指数的からほぼ直線的に崩壊することが証明された。
論文 参考訳(メタデータ) (2025-05-21T01:34:16Z) - Dimensionality Reduction Techniques for Global Bayesian Optimisation [1.433758865948252]
減次元部分空間におけるBOの実行に次元還元を適用した潜在空間ベイズ最適化について検討する。
我々は、より複雑なデータ構造や一般的なDRタスクを管理するために、変分オートエンコーダ(VAE)を使用している。
そこで本研究では,分子生成などのタスク用に設計され,より広い最適化目的のためにアルゴリズムを再構成する実装において,いくつかの重要な補正を提案する。
論文 参考訳(メタデータ) (2024-12-12T11:27:27Z) - Standard Gaussian Process is All You Need for High-Dimensional Bayesian Optimization [20.896331588532984]
Mat'ernカーネルは、標準BOが一貫して上位層の結果を達成することを可能にする。
Mat'ernカーネルは感受性が低く、より高次元を扱うことができる。
論文 参考訳(メタデータ) (2024-02-05T06:00:54Z) - Learning Regions of Interest for Bayesian Optimization with Adaptive
Level-Set Estimation [84.0621253654014]
本稿では,高信頼領域を適応的にフィルタするBALLETというフレームワークを提案する。
理論的には、BALLETは探索空間を効率的に縮小することができ、標準BOよりも厳密な後悔を示すことができる。
論文 参考訳(メタデータ) (2023-07-25T09:45:47Z) - Semantic Segmentation by Early Region Proxy [53.594035639400616]
本稿では,学習可能な領域のテッセルレーションとしてイメージを解釈することから始まる,新規で効率的なモデリングについて述べる。
領域のコンテキストをモデル化するために,Transformerを用いてシーケンス・ツー・シーケンス方式で領域を符号化する。
現在、符号化された領域埋め込みの上に、領域ごとのセマンティックセグメンテーションを行う。
論文 参考訳(メタデータ) (2022-03-26T10:48:32Z) - Misspecified Gaussian Process Bandit Optimization [59.30399661155574]
カーネル化されたバンディットアルゴリズムは、この問題に対して強い経験的および理論的性能を示した。
本稿では、未知関数を$epsilon$-一様近似で近似できるエンフェミス特定カーネル化帯域設定を、ある再生カーネルヒルベルト空間(RKHS)において有界ノルムを持つ関数で導入する。
提案アルゴリズムは,不特定性に関する事前知識を伴わず,$epsilon$への最適依存を実現する。
論文 参考訳(メタデータ) (2021-11-09T09:00:02Z) - TREGO: a Trust-Region Framework for Efficient Global Optimization [63.995130144110156]
信頼領域型EGO法(TREGO)の提案と解析を行う。
TREGOは、信頼領域内の通常のEGOステップとローカルステップを交互に使用する。
我々のアルゴリズムは、最適化ステップのサブセットのみのために、EGOから離脱しながら、強いグローバル収束特性を享受する。
論文 参考訳(メタデータ) (2021-01-18T00:14:40Z) - Large-Scale Methods for Distributionally Robust Optimization [53.98643772533416]
我々のアルゴリズムは、トレーニングセットのサイズとパラメータの数によらず、多くの評価勾配を必要とすることを証明している。
MNIST と ImageNet の実験により,本手法の 9-36 倍の効率性を持つアルゴリズムの理論的スケーリングが確認された。
論文 参考訳(メタデータ) (2020-10-12T17:41:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。