論文の概要: Combined Global and Local Search for Optimization with Gaussian Process
Models
- arxiv url: http://arxiv.org/abs/2107.03217v1
- Date: Wed, 7 Jul 2021 13:40:37 GMT
- ステータス: 処理完了
- システム内更新日: 2021-07-08 14:13:15.731542
- Title: Combined Global and Local Search for Optimization with Gaussian Process
Models
- Title（参考訳）: ガウス過程モデルを用いたグローバル探索と局所探索の併用
- Authors: Qun Meng, Songhao Wang, Szu Hui Ng
- Abstract要約: 本稿では,最適化フレームワークにAdditive Global and Local GP(AGLGP)モデルを導入する。
AGLGPは誘導点に基づくGPスパース近似に根ざしており、異なる領域の独立局所モデルと組み合わせられている。
まず、設計空間全体を非結合な局所領域に分割し、グローバルモデルで有望な領域を特定する。
次に、この領域内の詳細な探索をガイドするために、選択された領域の局所モデルが適合する。
アルゴリズムは、よい局所解が見つかると、グローバルステップに切り替える。
- 参考スコア（独自算出の注目度）: 1.1602089225841632
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Gaussian process (GP) model based optimization is widely applied in
simulation and machine learning. In general, it first estimates a GP model
based on a few observations from the true response and then employs this model
to guide the search, aiming to quickly locate the global optimum. Despite its
successful applications, it has several limitations that may hinder its broader
usage. First, building an accurate GP model can be difficult and
computationally expensive, especially when the response function is multi-modal
or varies significantly over the design space. Second, even with an appropriate
model, the search process can be trapped in suboptimal regions before moving to
the global optimum due to the excessive effort spent around the current best
solution. In this work, we adopt the Additive Global and Local GP (AGLGP) model
in the optimization framework. The model is rooted in the inducing-points-based
GP sparse approximations and is combined with independent local models in
different regions. With these properties, the AGLGP model is suitable for
multi-modal responses with relatively large data sizes. Based on this AGLGP
model, we propose a Combined Global and Local search for Optimization (CGLO)
algorithm. It first divides the whole design space into disjoint local regions
and identifies a promising region with the global model. Next, a local model in
the selected region is fit to guide detailed search within this region. The
algorithm then switches back to the global step when a good local solution is
found. The global and local natures of CGLO enable it to enjoy the benefits of
both global and local search to efficiently locate the global optimum.
- Abstract（参考訳）: ガウス過程(GP)モデルに基づく最適化はシミュレーションや機械学習に広く応用されている。
一般論として,まず実応答からのいくつかの観測に基づいてGPモデルを推定し,このモデルを用いて探索を誘導し,グローバルな最適点の探索を高速に行う。
アプリケーションの成功にもかかわらず、幅広い使用を妨げるいくつかの制限がある。
第一に、特に応答関数がマルチモーダルであるか設計空間で大きく異なる場合、正確なGPモデルの構築は困難で計算コストがかかる。
第二に、たとえ適切なモデルであっても、現在のベストソリューションに費やした過度な労力のために、グローバルな最適化に移行する前に、検索プロセスは最適以下の領域に閉じ込められる。
本研究では,最適化フレームワークにおいて,付加的グローバルおよびローカルgp(aglgp)モデルを採用する。
このモデルは誘導点に基づくGPスパース近似に根ざし、異なる領域の独立局所モデルと組み合わせられる。
これらの特性により、AGLGPモデルは比較的大きなデータサイズを持つマルチモーダル応答に適している。
このAGLGPモデルに基づいて,最適化のためのグローバル・ローカル検索(CGLO)アルゴリズムを提案する。
まず、設計空間全体を非結合な局所領域に分割し、グローバルモデルで有望な領域を特定する。
次に、この領域内の詳細な探索をガイドするために、選択された領域の局所モデルが適合する。
アルゴリズムは、よい局所解が見つかると、グローバルステップに切り替える。
CGLOのグローバルおよびローカルの性質は、グローバル検索とローカル検索の両方の利点を享受し、グローバルな最適な場所を効率的に見つけることができる。
関連論文リスト
- Gaussian Process Thompson Sampling via Rootfinding [2.94944680995069]
トンプソンサンプリング(Thompson sample, TS)は、ベイズ決定における単純かつ効果的な政策である。
連続最適化では、目的関数の後方はしばしばガウス過程(GP)であり、サンプルパスは多数の局所最適値を持つ。
本稿では,勾配に基づくマルチスタートの開始点を慎重に選択するGP-TSの効率的なグローバル最適化手法を提案する。
論文 参考訳（メタデータ） (2024-10-10T16:06:45Z) - Localized Zeroth-Order Prompt Optimization [54.964765668688806]
そこで我々は,ZOPO(Localized zeroth-order prompt optimization)という新しいアルゴリズムを提案する。
ZOPOはニューラル・タンジェント・カーネルをベースとしたガウス法を標準ゼロ階次最適化に取り入れ、高速な局所最適探索を高速化する。
注目すべきは、ZOPOは最適化性能とクエリ効率の両方の観点から、既存のベースラインを上回っていることだ。
論文 参考訳（メタデータ） (2024-03-05T14:18:15Z) - Learning Regions of Interest for Bayesian Optimization with Adaptive
Level-Set Estimation [84.0621253654014]
本稿では,高信頼領域を適応的にフィルタするBALLETというフレームワークを提案する。
理論的には、BALLETは探索空間を効率的に縮小することができ、標準BOよりも厳密な後悔を示すことができる。
論文 参考訳（メタデータ） (2023-07-25T09:45:47Z) - A Global-Local Approximation Framework for Large-Scale Gaussian Process
Modeling [0.0]
本稿では,大規模ガウス過程(GP)モデリングのための新しいフレームワークを提案する。
近似構築にグローバルなアプローチを併用する。
TwinGPと呼ぶ我々のフレームワークの性能は、最先端のGPモデリング手法と同等かそれ以上である。
論文 参考訳（メタデータ） (2023-05-17T12:19:59Z) - Federated and Generalized Person Re-identification through Domain and
Feature Hallucinating [88.77196261300699]
人物再識別(re-ID)におけるフェデレーションドメイン一般化(FedDG)の問題について検討する。
一般化された局所的・グローバルなモデルを学ぶための多様な特徴を創出する手法として,DFH (Domain and Feature Hallucinating) を提案する。
提案手法は4つの大規模re-IDベンチマークにおいてFedDGの最先端性能を実現する。
論文 参考訳（メタデータ） (2022-03-05T09:15:13Z) - Global Aggregation then Local Distribution for Scene Parsing [99.1095068574454]
提案手法は,エンドツーエンドのトレーニング可能なブロックとしてモジュール化され,既存のセマンティックセグメンテーションネットワークに容易に接続可能であることを示す。
私たちのアプローチでは、Cityscapes、ADE20K、Pascal Context、Camvid、COCO-stuffといった主要なセマンティックセグメンテーションベンチマークに基づいて、新しい最先端の技術を構築できます。
論文 参考訳（メタデータ） (2021-07-28T03:46:57Z) - Learning Space Partitions for Path Planning [54.475949279050596]
PlaLaMは2次元ナビゲーションタスクにおける既存の経路計画手法よりも優れており、特に難解な局所最適化の存在下では優れている。
これらは高マルチモーダルな実世界のタスクに移行し、コンパイラフェーズでは最大245%、分子設計では最大0.4の強いベースラインを0-1スケールで上回ります。
論文 参考訳（メタデータ） (2021-06-19T18:06:11Z) - Principles and Algorithms for Forecasting Groups of Time Series:
Locality and Globality [0.5076419064097732]
時系列の集合を局所的および大域的手法で予測する設定を定式化する。
グローバルモデルは以前考えられていたよりも幅広い問題に成功する可能性がある。
故意にこれらの原理から導かれるアルゴリズムは、精度が向上する。
論文 参考訳（メタデータ） (2020-08-02T10:22:05Z) - Localized active learning of Gaussian process state space models [63.97366815968177]
多くの共通制御アプリケーションにおいて、優れた性能を達成するためには、グローバルに正確なモデルを必要としない。
本稿では,状態-作用空間の有界部分集合上の正確なモデルを得ることを目的としたガウス過程状態空間モデルに対する能動的学習戦略を提案する。
モデル予測制御を用いることで、探索中に収集した情報を統合し、探索戦略を適応的に改善する。
論文 参考訳（メタデータ） (2020-05-04T05:35:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。