論文の概要: An Empirical Study on Ensemble-Based Transfer Learning Bayesian Optimisation with Mixed Variable Types
- arxiv url: http://arxiv.org/abs/2601.15640v1
- Date: Thu, 22 Jan 2026 04:41:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-01-23 21:37:20.490781
- Title: An Empirical Study on Ensemble-Based Transfer Learning Bayesian Optimisation with Mixed Variable Types
- Title(参考訳): 混合変数型を用いたアンサンブルに基づく移動学習ベイズ最適化に関する実証的研究
- Authors: Natasha Trinkle, Huong Ha, Jeffrey Chan,
- Abstract要約: 関連する問題からの歴史的データセットはベイズ最適化の性能向上に役立てることができる。
我々は,様々なアンサンブルに基づく移動学習ベイズ最適化手法とパイプライン成分の実証分析を行った。
一般に、移行学習の改善に役立つ2つのコンポーネントは、温かい開始初期化と、アンサンブルサロゲートモデルで使用される重みの制約が正であることに気付く。
- 参考スコア(独自算出の注目度): 5.417059608633818
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Bayesian optimisation is a sample efficient method for finding a global optimum of expensive black-box objective functions. Historic datasets from related problems can be exploited to help improve performance of Bayesian optimisation by adapting transfer learning methods to various components of the Bayesian optimisation pipeline. In this study we perform an empirical analysis of various ensemble-based transfer learning Bayesian optimisation methods and pipeline components. We expand on previous work in the literature by contributing some specific pipeline components, and three new real-time transfer learning Bayesian optimisation benchmarks. In particular we propose to use a weighting strategy for ensemble surrogate model predictions based on regularised regression with weights constrained to be positive, and a related component for handling the case when transfer learning is not improving Bayesian optimisation performance. We find that in general, two components that help improve transfer learning Bayesian optimisation performance are warm start initialisation and constraining weights used with ensemble surrogate model to be positive.
- Abstract(参考訳): ベイズ最適化(Bayesian optimization)は、高価なブラックボックスの目的関数のグローバルな最適化を見つけるための効率的なサンプル手法である。
ベイズ最適化パイプラインの様々なコンポーネントへの移動学習手法を適用することにより、ベイズ最適化の性能向上に寄与するために、関連する問題の歴史的データセットを利用することができる。
本研究では,様々なアンサンブルに基づく移動学習ベイズ最適化手法とパイプライン成分の実証分析を行った。
我々は、いくつかの特定のパイプラインコンポーネント、および3つの新しいリアルタイムトランスファー学習ベイズ最適化ベンチマークを提供することにより、文献における過去の研究を拡大する。
特に,重み付き正規化回帰に基づく重み付け戦略と,伝達学習がベイズ最適化性能を向上しない場合の処理関連成分を提案する。
一般に、移行学習の改善に役立つ2つのコンポーネントは、温かい開始初期化と、アンサンブルサロゲートモデルで使用される重みの制約が正であることに気付く。
関連論文リスト
- Enhanced Bayesian Optimization via Preferential Modeling of Abstract
Properties [49.351577714596544]
本研究では,非測定抽象特性に関する専門家の嗜好を代理モデルに組み込むための,人間とAIの協調型ベイズフレームワークを提案する。
優先判断において、誤った/誤解を招く専門家バイアスを処理できる効率的な戦略を提供する。
論文 参考訳(メタデータ) (2024-02-27T09:23:13Z) - Data-driven Prior Learning for Bayesian Optimisation [5.199765487172328]
PLeBOと先行転送は少ない評価で良好な入力が得られることを示す。
学習先を検証し,伝達学習手法の広さと比較する。
PLeBOと先行転送は少ない評価で良好な入力が得られることを示す。
論文 参考訳(メタデータ) (2023-11-24T18:37:52Z) - End-to-End Meta-Bayesian Optimisation with Transformer Neural Processes [52.818579746354665]
本稿では,ニューラルネットワークを一般化し,トランスフォーマーアーキテクチャを用いて獲得関数を学習する,エンド・ツー・エンドの差別化可能な最初のメタBOフレームワークを提案する。
我々は、この強化学習(RL)によるエンドツーエンドのフレームワークを、ラベル付き取得データの欠如に対処できるようにします。
論文 参考訳(メタデータ) (2023-05-25T10:58:46Z) - Self-Correcting Bayesian Optimization through Bayesian Active Learning [46.235017111395344]
ハイパーパラメータ学習を明示的に優先する2つの獲得関数を提案する。
次に、SALを拡張してベイズ最適化とアクティブラーニングを同時に行う自己補正ベイズ最適化(SCoreBO)を導入する。
論文 参考訳(メタデータ) (2023-04-21T14:50:53Z) - Transfer Learning with Gaussian Processes for Bayesian Optimization [9.933956770453438]
トランスファーラーニングのための階層型GPモデルについて統一的なビューを提供し、メソッド間の関係を分析する。
我々は,既存のアプローチと複雑性の両立する新しい閉形式GP転送モデルを開発した。
大規模実験における異なる手法の性能評価を行い、異なる移動学習手法の長所と短所を強調した。
論文 参考訳(メタデータ) (2021-11-22T14:09:45Z) - Are we Forgetting about Compositional Optimisers in Bayesian
Optimisation? [66.39551991177542]
本稿では,グローバル最適化のためのサンプル手法を提案する。
この中、重要なパフォーマンス決定の自明さは、取得機能を最大化することです。
3958実験における機能最適化手法の実証的利点を強調する。
論文 参考訳(メタデータ) (2020-12-15T12:18:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。