論文の概要: BREATHE: Second-Order Gradients and Heteroscedastic Emulation based
Design Space Exploration
- arxiv url: http://arxiv.org/abs/2308.08666v1
- Date: Wed, 16 Aug 2023 20:33:57 GMT
- ステータス: 処理完了
- システム内更新日: 2023-08-21 18:45:31.722765
- Title: BREATHE: Second-Order Gradients and Heteroscedastic Emulation based
Design Space Exploration
- Title(参考訳): BREATHE:2次勾配とヘテロセダスティックエミュレーションに基づく設計空間探索
- Authors: Shikhar Tuli and Niraj K. Jha
- Abstract要約: この研究はBREATHEと呼ばれる制約付き多目的最適化(MOO)フレームワークを提案する。
従来のベクトルベースのデザイン空間だけでなく、グラフベースのデザイン空間も探索し、最も優れたグラフを得る。
MOOタスクでは、最先端の手法である多目的ベイズ最適化(MOBOpt)よりも21.9$times$高いハイパーボリュームを達成する。
- 参考スコア(独自算出の注目度): 3.9252231324791675
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Researchers constantly strive to explore larger and more complex search
spaces in various scientific studies and physical experiments. However, such
investigations often involve sophisticated simulators or time-consuming
experiments that make exploring and observing new design samples challenging.
Previous works that target such applications are typically sample-inefficient
and restricted to vector search spaces. To address these limitations, this work
proposes a constrained multi-objective optimization (MOO) framework, called
BREATHE, that searches not only traditional vector-based design spaces but also
graph-based design spaces to obtain best-performing graphs. It leverages
second-order gradients and actively trains a heteroscedastic surrogate model
for sample-efficient optimization. In a single-objective vector optimization
application, it leads to 64.1% higher performance than the next-best baseline,
random forest regression. In graph-based search, BREATHE outperforms the
next-best baseline, i.e., a graphical version of Gaussian-process-based
Bayesian optimization, with up to 64.9% higher performance. In a MOO task, it
achieves up to 21.9$\times$ higher hypervolume than the state-of-the-art
method, multi-objective Bayesian optimization (MOBOpt). BREATHE also
outperforms the baseline methods on most standard MOO benchmark applications.
- Abstract(参考訳): 研究者は、様々な科学的研究や物理実験において、より大きくより複雑な探索空間を常に探索しようと試みている。
しかし、このような調査には高度なシミュレータや時間を要する実験が含まれ、新しい設計サンプルの探索や観察が困難になることが多い。
このようなアプリケーションをターゲットにした以前の仕事は、典型的にはサンプル非効率であり、ベクトル探索空間に限定されている。
これらの制限に対処するため、本研究では、従来のベクタベースの設計空間だけでなく、グラフベースの設計空間も検索し、最もパフォーマンスの高いグラフを得るための制限付き多目的最適化(moo)フレームワークを提案する。
2階勾配を利用して、サンプル効率最適化のためのヘテロセダスティック・サロゲートモデルを積極的に訓練する。
単目的ベクトル最適化アプリケーションでは、次のベストベースラインであるランダムフォレスト回帰よりも64.1%高いパフォーマンスが得られる。
グラフベースのサーチでは、BREATHEは次の最良ベースライン、すなわちガウスプロセスベースのベイズ最適化のグラフィカルバージョンを最大64.9%性能で上回っている。
MOOタスクでは、最先端の手法である多目的ベイズ最適化(MOBOpt)よりも21.9$\times$高いハイパーボリュームを達成する。
また、ほとんどの標準MOOベンチマークアプリケーションでは、ベースラインメソッドよりも優れています。
関連論文リスト
- A survey and benchmark of high-dimensional Bayesian optimization of discrete sequences [12.248793682283964]
個々のブラックボックス機能を最適化することは、タンパク質工学や薬物設計など、いくつかの領域において重要である。
我々は,高次元ベイズ最適化手法と標準化されたブラックボックス関数の集合を幅広くテストするための統一的なフレームワークを開発する。
これらのベンチマークの2つのコンポーネントはそれぞれ、柔軟でスケーラブルで容易に拡張可能なソフトウェアライブラリによってサポートされています。
論文 参考訳(メタデータ) (2024-06-07T08:39:40Z) - Bayesian Inverse Transfer in Evolutionary Multiobjective Optimization [29.580786235313987]
InvTrEMO(InvTrEMO)の第1回リバーストランスファー・マルチオブジェクト(InvTrEMO)を紹介する。
InvTrEMOは、決定空間がタスク間で正確に整合していない場合でも、多くの一般的な領域で共通の目的関数を利用する。
InvTrEMOは、高い精度の逆モデルを重要な副産物とし、オンデマンドで調整されたソリューションの生成を可能にする。
論文 参考訳(メタデータ) (2023-12-22T14:12:18Z) - A Particle-based Sparse Gaussian Process Optimizer [5.672919245950197]
本稿では,下降の動的過程を利用した新しいスワム・スワムベースのフレームワークを提案する。
このアプローチの最大の利点は、降下を決定する前に現在の状態についてより深い探索を行うことである。
論文 参考訳(メタデータ) (2022-11-26T09:06:15Z) - An Empirical Evaluation of Zeroth-Order Optimization Methods on
AI-driven Molecule Optimization [78.36413169647408]
分子目的を最適化するための様々なZO最適化手法の有効性について検討する。
ZO符号に基づく勾配降下(ZO-signGD)の利点を示す。
本稿では,Guurcamol スイートから広く使用されているベンチマークタスクに対して,ZO 最適化手法の有効性を示す。
論文 参考訳(メタデータ) (2022-10-27T01:58:10Z) - Efficient Non-Parametric Optimizer Search for Diverse Tasks [93.64739408827604]
興味のあるタスクを直接検索できる,スケーラブルで汎用的なフレームワークを初めて提示する。
基礎となる数学表現の自然木構造に着想を得て、空間を超木に再配置する。
我々は,モンテカルロ法を木探索に適用し,レジェクションサンプリングと等価形状検出を備える。
論文 参考訳(メタデータ) (2022-09-27T17:51:31Z) - Design-Bench: Benchmarks for Data-Driven Offline Model-Based
Optimization [82.02008764719896]
ブラックボックスモデルに基づく最適化問題は、タンパク質、DNA配列、航空機、ロボットの設計など、幅広い領域で広く使われている。
本稿では,統合評価プロトコルと最近の手法の参照実装を備えたオフラインMBOのためのベンチマークであるDesign-Benchを提案する。
私たちのベンチマークには、生物学、材料科学、ロボット工学における現実世界の最適化問題から派生した、多種多様な現実的なタスクが含まれています。
論文 参考訳(メタデータ) (2022-02-17T05:33:27Z) - ZARTS: On Zero-order Optimization for Neural Architecture Search [94.41017048659664]
微分可能なアーキテクチャサーチ (DARTS) は、NASの高効率性のため、一般的なワンショットパラダイムである。
この作業はゼロオーダーの最適化に変わり、上記の近似を強制せずに探索するための新しいNASスキームであるZARTSを提案する。
特に、12ベンチマークの結果は、DARTSの性能が低下するZARTSの顕著な堅牢性を検証する。
論文 参考訳(メタデータ) (2021-10-10T09:35:15Z) - Directed particle swarm optimization with Gaussian-process-based
function forecasting [15.733136147164032]
パーティクルスワム最適化 (PSO) は、探索空間を囲む一組の候補解を、ランダム化されたステップ長を持つ最もよく知られたグローバルおよびローカルな解へ移動させる反復探索法である。
本アルゴリズムは探索的・搾取的行動に対して望ましい特性が得られることを示す。
論文 参考訳(メタデータ) (2021-02-08T13:02:57Z) - Zeroth-Order Hybrid Gradient Descent: Towards A Principled Black-Box
Optimization Framework [100.36569795440889]
この作業は、一階情報を必要としない零次最適化(ZO)の反復である。
座標重要度サンプリングにおける優雅な設計により,ZO最適化法は複雑度と関数クエリコストの両面において効率的であることを示す。
論文 参考訳(メタデータ) (2020-12-21T17:29:58Z) - Evolving Search Space for Neural Architecture Search [70.71153433676024]
最適化された検索空間サブセットを維持することにより,前回の取り組みから得られた結果を増幅するニューラルサーチ空間進化(NSE)方式を提案する。
我々は333万のFLOPでImageNet上で77.3%のトップ1リトレーニング精度を実現し、最先端の性能を得た。
遅延制約が適用された場合、我々の結果は、77.9%のTop-1再トレーニング精度を持つ、以前の最高のパフォーマンスのモバイルモデルよりも優れた性能が得られる。
論文 参考訳(メタデータ) (2020-11-22T01:11:19Z) - Active Learning over DNN: Automated Engineering Design Optimization for
Fluid Dynamics Based on Self-Simulated Dataset [4.4074213830420055]
本研究は,様々な制約下での性能を予測するために,テストによるディープラーニングアーキテクチャを適用した。
最大の課題は、Deep Neural Network(DNN)の要求する膨大なデータポイントである。
最終段階であるユーザインタフェースは、最小領域と粘度を与えられたユーザ入力で最適化できるモデルを作った。
論文 参考訳(メタデータ) (2020-01-18T07:35:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。