論文の概要: Practical Bayesian Optimization of Objectives with Conditioning
Variables
- arxiv url: http://arxiv.org/abs/2002.09996v2
- Date: Mon, 2 Nov 2020 21:21:40 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-29 09:37:48.587564
- Title: Practical Bayesian Optimization of Objectives with Conditioning
Variables
- Title(参考訳): 条件変数を持つ対象物のベイズ最適化
- Authors: Michael Pearce, Janis Klaise, Matthew Groves
- Abstract要約: ユーザが複数の問題に直面している場合、状態変数に対してそれぞれを条件付きで最適化する必要がある場合を考える。
目的間の類似性は、それぞれの目的を2つの方法で最適化する。
本稿では条件最適化のためのフレームワークであるConBOを提案する。
- 参考スコア(独自算出の注目度): 1.0497128347190048
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Bayesian optimization is a class of data efficient model based algorithms
typically focused on global optimization. We consider the more general case
where a user is faced with multiple problems that each need to be optimized
conditional on a state variable, for example given a range of cities with
different patient distributions, we optimize the ambulance locations
conditioned on patient distribution. Given partitions of CIFAR-10, we optimize
CNN hyperparameters for each partition. Similarity across objectives boosts
optimization of each objective in two ways: in modelling by data sharing across
objectives, and also in acquisition by quantifying how a single point on one
objective can provide benefit to all objectives. For this we propose a
framework for conditional optimization: ConBO. This can be built on top of a
range of acquisition functions and we propose a new Hybrid Knowledge Gradient
acquisition function. The resulting method is intuitive and theoretically
grounded, performs either similar to or significantly better than recently
published works on a range of problems, and is easily parallelized to collect a
batch of points.
- Abstract(参考訳): ベイズ最適化(英: Bayesian optimization)は、データ効率のよいモデルに基づくアルゴリズムの一種。
例えば、患者分布の異なる都市を対象とする場合、患者分布に基づく救急車の配置を最適化するなど、利用者が状態変数に条件付きで最適化する必要がある複数の問題に直面している場合を考える。
CIFAR-10のパーティションを考慮し、各パーティションに対してCNNハイパーパラメータを最適化する。
目的間の類似性は、それぞれの目的の最適化を2つの方法で促進する: 目的間のデータ共有によるモデリングと、ある目的の1つのポイントがすべての目的にどのように利益をもたらすかを定量化することで獲得する。
本研究では条件最適化のためのフレームワークであるConBOを提案する。
これは, 多様な獲得関数に基づいて構築可能であり, 新たなハイブリッド知識勾配獲得関数を提案する。
結果として得られる方法は直感的かつ理論的に接地され、最近公表された様々な問題に関する作品とよく似ているか、あるいはかなり良い性能を発揮する。
関連論文リスト
- Decoding-Time Language Model Alignment with Multiple Objectives [116.42095026960598]
既存の手法は主に、1つの報酬関数に対してLMを最適化することに集中し、それらの適応性は様々な目的に制限される。
本稿では,予測の線形結合から次のトークンを出力する復号時間アルゴリズムである$textbfmulti-objective decoding (MOD)$を提案する。
提案手法は, 自然条件下であっても, 既存のアプローチが準最適であることを示すとともに, 提案手法の最適性を保証する。
論文 参考訳(メタデータ) (2024-06-27T02:46:30Z) - Optimally Improving Cooperative Learning in a Social Setting [4.200480236342444]
個人所有の分類器を持つネットワークエージェントの集合を動的に更新する協調学習シナリオを考察する。
本稿では,集合目的関数を最適化するための時間アルゴリズムを示し,平等目的関数の最適化がNPハードであることを示す。
全てのアルゴリズムの性能は数学的解析によって保証され、合成データと実データの実験によって裏付けられている。
論文 参考訳(メタデータ) (2024-05-31T14:07:33Z) - Learning Regions of Interest for Bayesian Optimization with Adaptive
Level-Set Estimation [84.0621253654014]
本稿では,高信頼領域を適応的にフィルタするBALLETというフレームワークを提案する。
理論的には、BALLETは探索空間を効率的に縮小することができ、標準BOよりも厳密な後悔を示すことができる。
論文 参考訳(メタデータ) (2023-07-25T09:45:47Z) - R-MBO: A Multi-surrogate Approach for Preference Incorporation in
Multi-objective Bayesian Optimisation [0.0]
本稿では,多目的BOにおける意思決定者の嗜好として,目的関数を目的関数値に組み込むための,a-priori Multi-surrogateアプローチを提案する。
ベンチマークと実世界の最適化問題に対する既存モノ代理手法との比較は,提案手法の可能性を示している。
論文 参考訳(メタデータ) (2022-04-27T19:58:26Z) - A Lagrangian Duality Approach to Active Learning [119.36233726867992]
トレーニングデータのサブセットのみをラベル付けするバッチアクティブな学習問題を考察する。
制約付き最適化を用いて学習問題を定式化し、各制約はラベル付きサンプルにモデルの性能を拘束する。
数値実験により,提案手法は最先端の能動学習法と同等かそれ以上に機能することを示した。
論文 参考訳(メタデータ) (2022-02-08T19:18:49Z) - Approximate Bayesian Optimisation for Neural Networks [6.921210544516486]
モデル選択の重要性を強調するために、機械学習アルゴリズムを自動化するための一連の作業が行われた。
理想主義的な方法で解析的トラクタビリティと計算可能性を解決する必要性は、効率と適用性を確保することを可能にしている。
論文 参考訳(メタデータ) (2021-08-27T19:03:32Z) - Bayesian Optimization with High-Dimensional Outputs [42.311308135418805]
実際には、多くの相関した結果(またはタスク)に対して定義された目的を最適化したいと望んでいます。
共分散行列におけるKronecker構造とMatheronの同一性を組み合わせた,正確なマルチタスクGPサンプリングのための効率的な手法を考案する。
これは、科学と工学の様々なタスクにまたがって、ベイズ最適化のための新しい種類のアプリケーションを、どのように解き放つかを実証する。
論文 参考訳(メタデータ) (2021-06-24T13:15:12Z) - Local policy search with Bayesian optimization [73.0364959221845]
強化学習は、環境との相互作用によって最適な政策を見つけることを目的としている。
局所探索のための政策勾配は、しばしばランダムな摂動から得られる。
目的関数の確率モデルとその勾配を用いたアルゴリズムを開発する。
論文 参考訳(メタデータ) (2021-06-22T16:07:02Z) - Tackling the Objective Inconsistency Problem in Heterogeneous Federated
Optimization [93.78811018928583]
本稿では、フェデレートされた異種最適化アルゴリズムの収束性を分析するためのフレームワークを提供する。
我々は,高速な誤差収束を保ちながら,客観的な矛盾を解消する正規化平均化手法であるFedNovaを提案する。
論文 参考訳(メタデータ) (2020-07-15T05:01:23Z) - Multi-Fidelity Bayesian Optimization via Deep Neural Networks [19.699020509495437]
多くのアプリケーションでは、目的関数を複数の忠実度で評価することで、コストと精度のトレードオフを可能にする。
本稿では,DNN-MFBO(Deep Neural Network Multi-Fidelity Bayesian Optimization)を提案する。
本手法の利点は, 総合的なベンチマークデータセットと, 工学設計における実世界の応用の両方にある。
論文 参考訳(メタデータ) (2020-07-06T23:28:40Z) - Generalized and Scalable Optimal Sparse Decision Trees [56.35541305670828]
様々な目的に対して最適な決定木を生成する手法を提案する。
また,連続変数が存在する場合に最適な結果が得られるスケーラブルなアルゴリズムも導入する。
論文 参考訳(メタデータ) (2020-06-15T19:00:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。