論文の概要: Linear Embedding-based High-dimensional Batch Bayesian Optimization without Reconstruction Mappings

• arxiv url: http://arxiv.org/abs/2211.00947v1
• Date: Wed, 2 Nov 2022 08:11:10 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-03 12:37:04.889163
• Title: Linear Embedding-based High-dimensional Batch Bayesian Optimization without Reconstruction Mappings
• Title（参考訳）: 再構成写像のない線形埋め込みに基づく高次元バッチベイズ最適化
• Authors: Shuhei A. Horiguchi, Tomoharu Iwata, Taku Tsuzuki, Yosuke Ozawa
• Abstract要約: 本手法は,数千次元のバッチ最適化問題に適用可能であることを示す。 提案手法の有効性を,高次元のベンチマークと実世界の関数で実証する。
• 参考スコア（独自算出の注目度）: 21.391136086094225
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The optimization of high-dimensional black-box functions is a challenging problem. When a low-dimensional linear embedding structure can be assumed, existing Bayesian optimization (BO) methods often transform the original problem into optimization in a low-dimensional space. They exploit the low-dimensional structure and reduce the computational burden. However, we reveal that this approach could be limited or inefficient in exploring the high-dimensional space mainly due to the biased reconstruction of the high-dimensional queries from the low-dimensional queries. In this paper, we investigate a simple alternative approach: tackling the problem in the original high-dimensional space using the information from the learned low-dimensional structure. We provide a theoretical analysis of the exploration ability. Furthermore, we show that our method is applicable to batch optimization problems with thousands of dimensions without any computational difficulty. We demonstrate the effectiveness of our method on high-dimensional benchmarks and a real-world function.
• Abstract（参考訳）: 高次元ブラックボックス関数の最適化は難しい問題である。 低次元線形埋め込み構造を仮定できる場合、既存のベイズ最適化(BO)法は、しばしば元の問題を低次元空間における最適化に変換する。 低次元構造を活用し、計算負荷を低減する。 しかし,本手法は,低次元クエリから高次元クエリをバイアスで再構成することにより,高次元空間を探索する際の制限あるいは非効率性を示す。 本稿では,学習した低次元構造からの情報を用いて,元の高次元空間における問題に対処する,簡単な方法を検討する。 探索能力に関する理論的分析を行う。 さらに,本手法は計算を困難にすることなく,数千次元のバッチ最適化問題に適用可能であることを示す。 提案手法の有効性を,高次元のベンチマークと実世界の関数で実証する。

関連論文リスト

• PMaF: Deep Declarative Layers for Principal Matrix Features [37.662505982849844]
  球面上の最小二乗(LESS)と暗黙の固有分解(IED)の2つの微分可能な深い宣言層を探索する。 LESSは、高次元行列から支配的な情報を含む低次元ベクトルでデータ特徴を表現するのに使うことができる。 IEDは、高次元行列から支配的な情報を含む低次元ベクトルでデータ特徴を表現するのに用いられる。
  論文  参考訳（メタデータ） (2023-06-26T15:13:36Z)
• Prescriptive PCA: Dimensionality Reduction for Two-stage Stochastic Optimization [1.1612308609123565]
  最適化フェーズにおける準最適度を最小化することを目的とした,規範的次元削減フレームワークを開発した。 下流最適化問題に期待値の目的がある場合、分散ロバスト最適化問題を解くことにより、規範的次元削減が可能であることを示す。 提案手法は, 実データおよび合成データを用いて主成分分析を著しく上回っている。
  論文  参考訳（メタデータ） (2023-06-04T00:50:35Z)
• Fighting the curse of dimensionality: A machine learning approach to finding global optima [77.34726150561087]
  本稿では,構造最適化問題におけるグローバル最適化の方法を示す。 特定のコスト関数を利用することで、最適化手順が確立された場合と比較して、グローバルをベストに得るか、最悪の場合、優れた結果を得るかのどちらかを得る。
  論文  参考訳（メタデータ） (2021-10-28T09:50:29Z)
• High-Dimensional Bayesian Optimisation with Variational Autoencoders and Deep Metric Learning [119.91679702854499]
  本研究では,高次元の入力空間上でベイズ最適化を行うためのディープ・メトリック・ラーニングに基づく手法を提案する。 このような帰納バイアスを、利用可能なラベル付きデータの1%だけを用いて達成する。 実証的な貢献として、実世界の高次元ブラックボックス最適化問題に対する最先端の結果を示す。
  論文  参考訳（メタデータ） (2021-06-07T13:35:47Z)
• Offline Model-Based Optimization via Normalized Maximum Likelihood Estimation [101.22379613810881]
  データ駆動最適化の問題を検討し、一定の点セットでクエリのみを与えられた関数を最大化する必要がある。 この問題は、関数評価が複雑で高価なプロセスである多くの領域に現れる。 我々は,提案手法を高容量ニューラルネットワークモデルに拡張可能なトラクタブル近似を提案する。
  論文  参考訳（メタデータ） (2021-02-16T06:04:27Z)
• Good practices for Bayesian Optimization of high dimensional structured spaces [15.488642552157131]
  高次元構造データセットにおけるベイズ最適化のための異なる探索空間設計の選択の効果について検討する。 遅延空間における最適化境界を自動的に定義する新しい手法を評価します。 我々は実践者に推薦する。
  論文  参考訳（メタデータ） (2020-12-31T07:00:39Z)
• Parameter Optimization using high-dimensional Bayesian Optimization [0.0]
  我々は、電子加速器のパラメータをチューニングしたり、標準のラップトップとちょうど間に合うように実行し最適化できるより単純なタスクのために、実用的な問題に対する解決策に焦点を合わせます。 主なコントリビューションは1) 実射影行列の角度差に対数類似がどう影響するかを比較し, 得られた行列行列 (2。 4) 行列識別に失敗した場合の単純なフォールバック機構を実現する「BORING」と呼ばれる新しいアルゴリズム。
  論文  参考訳（メタデータ） (2020-10-05T13:13:28Z)
• Sub-linear Regret Bounds for Bayesian Optimisation in Unknown Search Spaces [63.22864716473051]
  本稿では,反復により探索空間を拡大(およびシフト)する新しいBOアルゴリズムを提案する。 理論的には、どちらのアルゴリズムにおいても、累積的後悔は線形以下の速度で増大する。
  論文  参考訳（メタデータ） (2020-09-05T14:24:40Z)
• Effective Dimension Adaptive Sketching Methods for Faster Regularized Least-Squares Optimization [56.05635751529922]
  スケッチに基づくL2正規化最小二乗問題の解法を提案する。 我々は、最も人気のあるランダム埋め込みの2つ、すなわちガウス埋め込みとサブサンプリングランダム化アダマール変換(SRHT)を考える。
  論文  参考訳（メタデータ） (2020-06-10T15:00:09Z)
• Learning to Guide Random Search [111.71167792453473]
  我々は、潜在低次元多様体上の高次元関数の微分自由最適化を考える。 最適化を行いながらこの多様体を学習するオンライン学習手法を開発した。 本研究では,連続最適化ベンチマークと高次元連続制御問題について実験的に評価する。
  論文  参考訳（メタデータ） (2020-04-25T19:21:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。