論文の概要: Linear Embedding-based High-dimensional Batch Bayesian Optimization without Reconstruction Mappings

• arxiv url: http://arxiv.org/abs/2211.00947v1
• Date: Wed, 2 Nov 2022 08:11:10 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-03 12:37:04.889163
• Title: Linear Embedding-based High-dimensional Batch Bayesian Optimization without Reconstruction Mappings
• Title（参考訳）: 再構成写像のない線形埋め込みに基づく高次元バッチベイズ最適化
• Authors: Shuhei A. Horiguchi, Tomoharu Iwata, Taku Tsuzuki, Yosuke Ozawa
• Abstract要約: 本手法は,数千次元のバッチ最適化問題に適用可能であることを示す。 提案手法の有効性を,高次元のベンチマークと実世界の関数で実証する。
• 参考スコア（独自算出の注目度）: 21.391136086094225
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The optimization of high-dimensional black-box functions is a challenging problem. When a low-dimensional linear embedding structure can be assumed, existing Bayesian optimization (BO) methods often transform the original problem into optimization in a low-dimensional space. They exploit the low-dimensional structure and reduce the computational burden. However, we reveal that this approach could be limited or inefficient in exploring the high-dimensional space mainly due to the biased reconstruction of the high-dimensional queries from the low-dimensional queries. In this paper, we investigate a simple alternative approach: tackling the problem in the original high-dimensional space using the information from the learned low-dimensional structure. We provide a theoretical analysis of the exploration ability. Furthermore, we show that our method is applicable to batch optimization problems with thousands of dimensions without any computational difficulty. We demonstrate the effectiveness of our method on high-dimensional benchmarks and a real-world function.
• Abstract（参考訳）: 高次元ブラックボックス関数の最適化は難しい問題である。 低次元線形埋め込み構造を仮定できる場合、既存のベイズ最適化(BO)法は、しばしば元の問題を低次元空間における最適化に変換する。 低次元構造を活用し、計算負荷を低減する。 しかし,本手法は,低次元クエリから高次元クエリをバイアスで再構成することにより,高次元空間を探索する際の制限あるいは非効率性を示す。 本稿では,学習した低次元構造からの情報を用いて,元の高次元空間における問題に対処する,簡単な方法を検討する。 探索能力に関する理論的分析を行う。 さらに,本手法は計算を困難にすることなく,数千次元のバッチ最適化問題に適用可能であることを示す。 提案手法の有効性を,高次元のベンチマークと実世界の関数で実証する。

関連論文リスト

• High-Dimensional Bayesian Optimization via Random Projection of Manifold Subspaces [0.0]
  この問題に取り組むための共通の枠組みは、目的関数が高次元の周囲空間に埋め込まれた低次元多様体上の限られた特徴集合に依存すると仮定することである。 本稿では,目的関数の新たな表現を活用することによって,BOの高次元への新たなアプローチを提案する。 提案手法は, BOの低次元空間における取得関数の効率的な最適化を可能にする。
  論文  参考訳（メタデータ） (2024-12-21T09:41:24Z)
• BOIDS: High-dimensional Bayesian Optimization via Incumbent-guided Direction Lines and Subspace Embeddings [14.558601519561721]
  BOIDSは,一次元方向線列による最適化を導く新しい高次元BOアルゴリズムである。 また,各ラウンドのラインベース最適化に対して最適な行を特定するための適応的選択手法を提案する。 実験の結果,BOIDSは様々な総合的および実世界のベンチマーク問題において,最先端のベースラインよりも優れていた。
  論文  参考訳（メタデータ） (2024-12-17T13:51:24Z)
• Fighting the curse of dimensionality: A machine learning approach to finding global optima [77.34726150561087]
  本稿では,構造最適化問題におけるグローバル最適化の方法を示す。 特定のコスト関数を利用することで、最適化手順が確立された場合と比較して、グローバルをベストに得るか、最悪の場合、優れた結果を得るかのどちらかを得る。
  論文  参考訳（メタデータ） (2021-10-28T09:50:29Z)
• High-Dimensional Bayesian Optimisation with Variational Autoencoders and Deep Metric Learning [119.91679702854499]
  本研究では,高次元の入力空間上でベイズ最適化を行うためのディープ・メトリック・ラーニングに基づく手法を提案する。 このような帰納バイアスを、利用可能なラベル付きデータの1%だけを用いて達成する。 実証的な貢献として、実世界の高次元ブラックボックス最適化問題に対する最先端の結果を示す。
  論文  参考訳（メタデータ） (2021-06-07T13:35:47Z)
• Offline Model-Based Optimization via Normalized Maximum Likelihood Estimation [101.22379613810881]
  データ駆動最適化の問題を検討し、一定の点セットでクエリのみを与えられた関数を最大化する必要がある。 この問題は、関数評価が複雑で高価なプロセスである多くの領域に現れる。 我々は,提案手法を高容量ニューラルネットワークモデルに拡張可能なトラクタブル近似を提案する。
  論文  参考訳（メタデータ） (2021-02-16T06:04:27Z)
• Good practices for Bayesian Optimization of high dimensional structured spaces [15.488642552157131]
  高次元構造データセットにおけるベイズ最適化のための異なる探索空間設計の選択の効果について検討する。 遅延空間における最適化境界を自動的に定義する新しい手法を評価します。 我々は実践者に推薦する。
  論文  参考訳（メタデータ） (2020-12-31T07:00:39Z)
• Parameter Optimization using high-dimensional Bayesian Optimization [0.0]
  我々は、電子加速器のパラメータをチューニングしたり、標準のラップトップとちょうど間に合うように実行し最適化できるより単純なタスクのために、実用的な問題に対する解決策に焦点を合わせます。 主なコントリビューションは1) 実射影行列の角度差に対数類似がどう影響するかを比較し, 得られた行列行列 (2。 4) 行列識別に失敗した場合の単純なフォールバック機構を実現する「BORING」と呼ばれる新しいアルゴリズム。
  論文  参考訳（メタデータ） (2020-10-05T13:13:28Z)
• Sub-linear Regret Bounds for Bayesian Optimisation in Unknown Search Spaces [63.22864716473051]
  本稿では,反復により探索空間を拡大(およびシフト)する新しいBOアルゴリズムを提案する。 理論的には、どちらのアルゴリズムにおいても、累積的後悔は線形以下の速度で増大する。
  論文  参考訳（メタデータ） (2020-09-05T14:24:40Z)
• Effective Dimension Adaptive Sketching Methods for Faster Regularized Least-Squares Optimization [56.05635751529922]
  スケッチに基づくL2正規化最小二乗問題の解法を提案する。 我々は、最も人気のあるランダム埋め込みの2つ、すなわちガウス埋め込みとサブサンプリングランダム化アダマール変換(SRHT)を考える。
  論文  参考訳（メタデータ） (2020-06-10T15:00:09Z)
• Learning to Guide Random Search [111.71167792453473]
  我々は、潜在低次元多様体上の高次元関数の微分自由最適化を考える。 最適化を行いながらこの多様体を学習するオンライン学習手法を開発した。 本研究では,連続最適化ベンチマークと高次元連続制御問題について実験的に評価する。
  論文  参考訳（メタデータ） (2020-04-25T19:21:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。