論文の概要: Hybrid Parameter Search and Dynamic Model Selection for Mixed-Variable
Bayesian Optimization
- arxiv url: http://arxiv.org/abs/2206.01409v4
- Date: Fri, 19 Jan 2024 00:23:28 GMT
- ステータス: 処理完了
- システム内更新日: 2024-01-22 19:54:09.595318
- Title: Hybrid Parameter Search and Dynamic Model Selection for Mixed-Variable
Bayesian Optimization
- Title(参考訳): 混合変数ベイズ最適化のためのハイブリッドパラメータ探索と動的モデル選択
- Authors: Hengrui Luo, Younghyun Cho, James W. Demmel, Xiaoye S. Li, Yang Liu
- Abstract要約: 混合変数の管理に有効なベイズ最適化(BO)のための新しいタイプのハイブリッドモデルを提案する。
提案手法は,モンテカルロ木探索構造 (MCTS) とガウス過程 (GP) を融合したハイブリッドモデルである。
代理モデリングフェーズにおける動的オンラインカーネル選択を含む我々のイノベーションは、ハイブリッドモデルを混合可変代理モデルの進歩として位置づけている。
- 参考スコア(独自算出の注目度): 6.204805504959941
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper presents a new type of hybrid model for Bayesian optimization (BO)
adept at managing mixed variables, encompassing both quantitative (continuous
and integer) and qualitative (categorical) types. Our proposed new hybrid
models (named hybridM) merge the Monte Carlo Tree Search structure (MCTS) for
categorical variables with Gaussian Processes (GP) for continuous ones. hybridM
leverages the upper confidence bound tree search (UCTS) for MCTS strategy,
showcasing the tree architecture's integration into Bayesian optimization. Our
innovations, including dynamic online kernel selection in the surrogate
modeling phase and a unique UCTS search strategy, position our hybrid models as
an advancement in mixed-variable surrogate models. Numerical experiments
underscore the superiority of hybrid models, highlighting their potential in
Bayesian optimization.
- Abstract(参考訳): 本稿では,混合変数(連続型と整数型)と定性型(カテゴリー型)の両方を包含する,ベイズ最適化(bo)のための新しいハイブリッドモデルを提案する。
本研究では,モンテカルロ木探索構造 (mcts) とガウス過程 (gp) を連続的に結合した新しいハイブリッドモデル (hybridm) を提案する。
hybridm は mcts 戦略に upper confidence bound tree search (ucts) を活用し、ツリーアーキテクチャのベイズ最適化への統合を示す。
サーロゲートモデリングフェーズにおける動的オンラインカーネル選択やユニークなUCTS検索戦略を含む我々のイノベーションは、ハイブリッドモデルを混合変数サーロゲートモデルの進歩として位置づけている。
数値実験はハイブリッドモデルの優位性を強調し、ベイズ最適化におけるそれらの可能性を強調する。
関連論文リスト
- Adaptive Fuzzy C-Means with Graph Embedding [84.47075244116782]
ファジィクラスタリングアルゴリズムは、大まかに2つの主要なグループに分類できる: ファジィC平均法(FCM)と混合モデルに基づく方法。
本稿では,FCMを用いたクラスタリングモデルを提案する。
論文 参考訳(メタデータ) (2024-05-22T08:15:50Z) - Automated Model Selection for Generalized Linear Models [0.0]
特徴部分集合選択と全体一般化線形モデルを組み合わせるために,混合整数円錐最適化がいかに利用できるかを示す。
本稿では,符号コヒーレンス制約と古典統計モデルからのアイデアを結合した新しいペアワイズ相関制約を提案する。
論文 参考訳(メタデータ) (2024-04-25T12:16:58Z) - Hybrid State Space-based Learning for Sequential Data Prediction with
Joint Optimization [0.0]
本稿では,従来の非線形予測モデルにおいて,ドメイン固有の特徴工学的問題の必要性を緩和するハイブリッドモデルを提案する。
基本モデルに対する新しい状態空間表現を導入し、ハイブリッドやアンサンブルの完全な状態空間表現を提供する。
このような新しい組み合わせと共同最適化により、広く公開されている実生活競合データセットの大幅な改善が示された。
論文 参考訳(メタデータ) (2023-09-19T12:00:28Z) - AI-Empowered Hybrid MIMO Beamforming [85.48860461696417]
ハイブリッドマルチインプット・マルチアウトプット(MIMO)システムは、アナログおよびデジタルのビームフォーミングの一部を実装している。
近年、ハイブリッドビームフォーミング設計にデータ支援人工知能(AI)ツールを使うことへの関心が高まっている。
本稿では、リアルタイムハイブリッドビームフォーミング設計を改善するために、データを活用するための候補戦略についてレビューする。
論文 参考訳(メタデータ) (2023-03-03T06:04:20Z) - Applying Autonomous Hybrid Agent-based Computing to Difficult
Optimization Problems [56.821213236215634]
本稿では,EMASのハイブリッドバージョンを提案する。
これには、複数のハイブリッド演算子の選択と導入、およびメインアルゴリズムのハイブリッドステップを開始するためのルールの定義が含まれる。
これらのハイブリッドステップは、既存の、よく知られた、そして証明された、効率的なメタヒューリスティックスを活用し、その結果をメインのアルゴリズムに統合する。
論文 参考訳(メタデータ) (2022-10-24T13:28:35Z) - A Pareto-optimal compositional energy-based model for sampling and
optimization of protein sequences [55.25331349436895]
深層生成モデルは、生命科学における逆問題に対する一般的な機械学習ベースのアプローチとして登場した。
これらの問題は、データ分布の学習に加えて、興味のある複数の特性を満たす新しい設計をサンプリングする必要があることが多い。
論文 参考訳(メタデータ) (2022-10-19T19:04:45Z) - Tree ensemble kernels for Bayesian optimization with known constraints
over mixed-feature spaces [54.58348769621782]
木アンサンブルはアルゴリズムチューニングやニューラルアーキテクチャ検索といったブラックボックス最適化タスクに適している。
ブラックボックス最適化にツリーアンサンブルを使うことの2つのよく知られた課題は、探索のためのモデル不確実性を効果的に定量化し、また、 (ii) ピースワイドな定値取得関数を最適化することである。
我々のフレームワークは、連続/離散的機能に対する非拘束ブラックボックス最適化のための最先端の手法と同様に、混合変数の特徴空間と既知の入力制約を組み合わせた問題の競合する手法よりも優れている。
論文 参考訳(メタデータ) (2022-07-02T16:59:37Z) - A hybrid ensemble method with negative correlation learning for
regression [2.8484009470171943]
ヘテロジニアスモデルプールからサブモデルを自動的に選択および重み付けする。
内部点フィルタリング線形探索アルゴリズムを用いて最適化問題を解く。
本研究の価値は、その使いやすさと有効性にあるため、ハイブリッドアンサンブルは多様性と正確性を受け入れることができる。
論文 参考訳(メタデータ) (2021-04-06T06:45:14Z) - Identification of Probability weighted ARX models with arbitrary domains [75.91002178647165]
PieceWise Affineモデルは、ハイブリッドシステムの他のクラスに対する普遍近似、局所線型性、同値性を保証する。
本研究では,任意の領域を持つ固有入力モデル(NPWARX)を用いたPieceWise Auto Regressiveの同定に着目する。
このアーキテクチャは、機械学習の分野で開発されたMixture of Expertの概念に従って考案された。
論文 参考訳(メタデータ) (2020-09-29T12:50:33Z) - Model Agnostic Combination for Ensemble Learning [0.0]
本稿では,モデルを組み合わせるための最適関数を見つけるために,MACという新しいアンサンブル手法を提案する。
サブモデルの数に依存しないため、デプロイ後もサブモデルの追加と置き換えが可能である。
論文 参考訳(メタデータ) (2020-06-16T09:44:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。