論文の概要: Bayesian Optimisation for Mixed-Variable Inputs using Value Proposals

• arxiv url: http://arxiv.org/abs/2202.04832v1
• Date: Thu, 10 Feb 2022 04:42:48 GMT
• ステータス: 処理完了
• システム内更新日: 2022-02-12 04:35:04.875867
• Title: Bayesian Optimisation for Mixed-Variable Inputs using Value Proposals
• Title（参考訳）: 値提案を用いた混合可変入力に対するベイズ最適化
• Authors: Yan Zuo, Amir Dezfouli, Iadine Chades, David Alexander, Benjamin Ward Muir
• Abstract要約: カテゴリー変数と連続変数の両方で定義される最適化問題。 包括的視点を採用し、分類的および連続的な部分空間の最適化を統合することを目的としている。 この統一アプローチは、既存の混合変数最適化アプローチよりも大幅に優れていることを示す。
• 参考スコア（独自算出の注目度）: 10.40799693791025
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Many real-world optimisation problems are defined over both categorical and continuous variables, yet efficient optimisation methods such asBayesian Optimisation (BO) are not designed tohandle such mixed-variable search spaces. Re-cent approaches to this problem cast the selection of the categorical variables as a bandit problem, operating independently alongside a BO component which optimises the continuous variables. In this paper, we adopt a holistic view and aim to consolidate optimisation of the categorical and continuous sub-spaces under a single acquisition metric. We derive candidates from the ExpectedImprovement criterion, which we call value proposals, and use these proposals to make selections on both the categorical and continuous components of the input. We show that this unified approach significantly outperforms existing mixed-variable optimisation approaches across several mixed-variable black-box optimisation tasks.
• Abstract（参考訳）: 多くの実世界の最適化問題はカテゴリー変数と連続変数の両方で定義されるが、ベイジアン最適化(BO)のような効率的な最適化手法はそのような混合変数探索空間を扱うように設計されていない。 この問題に対する最近のアプローチでは、連続変数を最適化するboコンポーネントと独立に動作するバンディット問題としてカテゴリ変数の選択が挙げられている。 本稿では,包括的視点を採用し,単一の獲得計量の下でカテゴリ空間と連続部分空間の最適化を一体化することを目的とする。 我々は、価値提案と呼ぶ期待改善基準から候補を導出し、これらの提案を用いて入力のカテゴリー的および連続的な要素の両方で選択を行う。 この統一的なアプローチは、複数の混合変数のブラックボックス最適化タスクにおいて、既存の混合変数最適化アプローチを大きく上回っている。

関連論文リスト

• An incremental preference elicitation-based approach to learning potentially non-monotonic preferences in multi-criteria sorting [53.36437745983783]
  まず最適化モデルを構築し,非単調な選好をモデル化する。 本稿では,情報量測定手法と質問選択戦略を考案し,各イテレーションにおいて最も情報に富む選択肢を特定する。 2つのインクリメンタルな選好に基づくアルゴリズムは、潜在的に単調な選好を学習するために開発された。
  論文  参考訳（メタデータ） (2024-09-04T14:36:20Z)
• CatCMA : Stochastic Optimization for Mixed-Category Problems [9.13074910982872]
  ブラックボックス最適化の問題は、連続変数、整数変数、カテゴリー変数など、異なるタイプの変数を同時に最適化する必要があることが多い。 いくつかのベイズ最適化手法は混合カテゴリブラックボックス最適化(MC-BBO)を扱うことができるが、高次元問題へのスケーラビリティの欠如と内部計算コストに悩まされている。 本稿では,MC-BBO問題に対する新しい最適化手法であるCatCMAを提案する。
  論文  参考訳（メタデータ） (2024-05-16T10:11:18Z)
• Analyzing and Enhancing the Backward-Pass Convergence of Unrolled Optimization [50.38518771642365]
  ディープネットワークにおけるコンポーネントとしての制約付き最適化モデルの統合は、多くの専門的な学習タスクに有望な進歩をもたらした。 この設定における中心的な課題は最適化問題の解によるバックプロパゲーションであり、しばしば閉形式を欠いている。 本稿では, 非線形最適化の後方通過に関する理論的知見を提供し, 特定の反復法による線形システムの解と等価であることを示す。 Folded Optimizationと呼ばれるシステムが提案され、非ローリングなソルバ実装からより効率的なバックプロパゲーションルールを構築する。
  論文  参考訳（メタデータ） (2023-12-28T23:15:18Z)
• SOBER: Highly Parallel Bayesian Optimization and Bayesian Quadrature over Discrete and Mixed Spaces [6.573393706476156]
  離散および混合空間上の任意のカーネルを持つ新しい大域最適化法を提案する。 バッチ二次法は、搾取的ベイズ二次法の利点のバランスをとることによって、両方の問題を効率的に解くことができる。 我々は、SOBERが競合するベースライン効率のバッチとスケーラブルな実世界のタスクより優れていることを示す。
  論文  参考訳（メタデータ） (2023-01-27T16:36:33Z)
• Tree ensemble kernels for Bayesian optimization with known constraints over mixed-feature spaces [54.58348769621782]
  木アンサンブルはアルゴリズムチューニングやニューラルアーキテクチャ検索といったブラックボックス最適化タスクに適している。 ブラックボックス最適化にツリーアンサンブルを使うことの2つのよく知られた課題は、探索のためのモデル不確実性を効果的に定量化し、また、 (ii) ピースワイドな定値取得関数を最適化することである。 我々のフレームワークは、連続/離散的機能に対する非拘束ブラックボックス最適化のための最先端の手法と同様に、混合変数の特徴空間と既知の入力制約を組み合わせた問題の競合する手法よりも優れている。
  論文  参考訳（メタデータ） (2022-07-02T16:59:37Z)
• Optimizer Amalgamation [124.33523126363728]
  私たちは、Amalgamationという新しい問題の研究を動機付けています。"Teacher"アマルガメーションのプールを、より強力な問題固有のパフォーマンスを持つ単一の"学生"にどのように組み合わせるべきなのでしょうか? まず、勾配降下による解析のプールをアマルガメートする3つの異なるメカニズムを定義する。 また, プロセスの分散を低減するため, 目標を摂動させることでプロセスの安定化を図る。
  論文  参考訳（メタデータ） (2022-03-12T16:07:57Z)
• Think Global and Act Local: Bayesian Optimisation over High-Dimensional Categorical and Mixed Search Spaces [26.08218231365666]
  高次元ブラックボックス最適化は、未だに重要な課題である。 そこで我々は,局所最適化とカーネル設計を組み合わせ,高次元のカテゴリと混合探索空間を効果的に扱う新しい手法を提案する。
  論文  参考訳（メタデータ） (2021-02-14T16:18:36Z)
• Adaptive Local Bayesian Optimization Over Multiple Discrete Variables [9.860437640748113]
  本稿では,チームKAIST OSIのアプローチをステップワイズで記述し,ベースラインアルゴリズムを最大20.39%向上させる。 同様の方法では,ベイジアンとマルチアームドバンディット(mab)の手法を組み合わせ,変数型を考慮した値選択を行う。 経験的評価により,提案手法は既存の手法を異なるタスクにまたがる性能を示す。
  論文  参考訳（メタデータ） (2020-12-07T07:51:23Z)
• Robust, Accurate Stochastic Optimization for Variational Inference [68.83746081733464]
  また, 共通最適化手法は, 問題が適度に大きい場合, 変分近似の精度が低下することを示した。 これらの結果から,基礎となるアルゴリズムをマルコフ連鎖の生成とみなして,より堅牢で正確な最適化フレームワークを開発する。
  論文  参考訳（メタデータ） (2020-09-01T19:12:11Z)
• Stochastic Optimization Forests [60.523606291705214]
  標準的なランダムな森林アルゴリズムのように予測精度を向上させるために分割するのではなく、分割を選択した木を栽培し、下流の意思決定品質を直接最適化することで、森林決定政策の訓練方法を示す。 概略分割基準は、各候補分割に対して正確に最適化された森林アルゴリズムに近い性能を保ちながら、100倍のランニング時間を短縮できることを示す。
  論文  参考訳（メタデータ） (2020-08-17T16:56:06Z)
• Efficient Nonmyopic Bayesian Optimization via One-Shot Multi-Step Trees [28.46586066038317]
  一般的なマルチステップ・ルック・ベイズ最適化の最初の効率的な実装を提供する。 これらの問題をネストした方法で解決する代わりに、全木のすべての決定変数を同等に最適化します。 提案手法は,様々なベンチマークにおいて,既存の手法よりも優れた性能を示す。
  論文  参考訳（メタデータ） (2020-06-29T02:17:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。