論文の概要: A Robust Scientific Machine Learning for Optimization: A Novel
Robustness Theorem
- arxiv url: http://arxiv.org/abs/2209.06642v1
- Date: Tue, 13 Sep 2022 11:33:06 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-15 14:05:51.301691
- Title: A Robust Scientific Machine Learning for Optimization: A Novel
Robustness Theorem
- Title(参考訳): 最適化のためのロバストな科学的機械学習:新しいロバスト性定理
- Authors: Luana P. Queiroz, Carine M. Rebello, Erber A. Costa, Vinicius V.
Santana, Alirio E. Rodrigues, Ana M. Ribeiro and Idelfonso B. R. Nogueira
- Abstract要約: 本研究では,多目的SciMLに基づく最適化の堅牢性を保証するロバストネステストの導出を提案する。
結果は厳密な最適化の可能な領域と比較される。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Scientific machine learning (SciML) is a field of increasing interest in
several different application fields. In an optimization context, SciML-based
tools have enabled the development of more efficient optimization methods.
However, implementing SciML tools for optimization must be rigorously evaluated
and performed with caution. This work proposes the deductions of a robustness
test that guarantees the robustness of multiobjective SciML-based optimization
by showing that its results respect the universal approximator theorem. The
test is applied in the framework of a novel methodology which is evaluated in a
series of benchmarks illustrating its consistency. Moreover, the proposed
methodology results are compared with feasible regions of rigorous
optimization, which requires a significantly higher computational effort.
Hence, this work provides a robustness test for guaranteed robustness in
applying SciML tools in multiobjective optimization with lower computational
effort than the existent alternative.
- Abstract(参考訳): 科学機械学習(SciML)は、いくつかの異なる応用分野への関心が高まっている分野である。
最適化の文脈において、SciMLベースのツールはより効率的な最適化方法の開発を可能にした。
しかし、最適化のためのSciMLツールの実装は厳格に評価され、慎重に実行されなければならない。
本研究は,多目的scimlに基づく最適化のロバスト性を保証するロバスト性テストの推論を,その結果が普遍近似定理を尊重することを示すことによって提案する。
このテストは、その一貫性を示す一連のベンチマークで評価される新しい方法論のフレームワークに適用される。
さらに,提案手法を厳密な最適化の可能な領域と比較し,高い計算量を必要とすることを示した。
したがって、この研究はSciMLツールを既存の代替よりも少ない計算労力で多目的最適化に適用する際の堅牢性を保証するための堅牢性テストを提供する。
関連論文リスト
- Beyond Single-Model Views for Deep Learning: Optimization versus
Generalizability of Stochastic Optimization Algorithms [13.134564730161983]
本稿では、勾配降下(SGD)とその変種に着目し、ディープラーニングの最適化に新しいアプローチを採用する。
我々はSGDとその変種がSAMのような平らなミニマと同等の性能を示すことを示した。
本研究は、トレーニング損失とホールドアウト精度の関係、およびSGDとノイズ対応変種の性能について、いくつかの重要な知見を明らかにした。
論文 参考訳(メタデータ) (2024-03-01T14:55:22Z) - Federated Conditional Stochastic Optimization [110.513884892319]
条件付き最適化は、不変学習タスク、AUPRC、AMLなど、幅広い機械学習タスクで見られる。
本稿では,分散フェデレーション学習のためのアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-10-04T01:47:37Z) - An Empirical Evaluation of Zeroth-Order Optimization Methods on
AI-driven Molecule Optimization [78.36413169647408]
分子目的を最適化するための様々なZO最適化手法の有効性について検討する。
ZO符号に基づく勾配降下(ZO-signGD)の利点を示す。
本稿では,Guurcamol スイートから広く使用されているベンチマークタスクに対して,ZO 最適化手法の有効性を示す。
論文 参考訳(メタデータ) (2022-10-27T01:58:10Z) - Multi-objective hyperparameter optimization with performance uncertainty [62.997667081978825]
本稿では,機械学習アルゴリズムの評価における不確実性を考慮した多目的ハイパーパラメータ最適化の結果について述べる。
木構造型Parzen Estimator(TPE)のサンプリング戦略と、ガウス過程回帰(GPR)と異種雑音の訓練後に得られたメタモデルを組み合わせる。
3つの解析的テスト関数と3つのML問題の実験結果は、多目的TPEとGPRよりも改善したことを示している。
論文 参考訳(メタデータ) (2022-09-09T14:58:43Z) - Multi-Objective Hyperparameter Optimization in Machine Learning -- An Overview [10.081056751778712]
本稿では,多目的ハイパーパラメータ最適化の基礎を導入し,応用MLにおけるその有用性を動機づける。
進化的アルゴリズムの領域とベイズ最適化の両方から、既存の最適化戦略を広範囲に調査する。
動作条件,予測時間,スパースネス,フェアネス,解釈可能性,ロバストネスなどの目的を考慮し,複数の特定のMLアプリケーションにおけるMOOの有用性を解説する。
論文 参考訳(メタデータ) (2022-06-15T10:23:19Z) - Uncertainty-Aware Search Framework for Multi-Objective Bayesian
Optimization [40.40632890861706]
高価な関数評価を用いたマルチオブジェクト(MO)ブラックボックス最適化の問題点を考察する。
UeMOと呼ばれる新しい不確実性対応検索フレームワークを提案し、評価のための入力シーケンスを効率的に選択する。
論文 参考訳(メタデータ) (2022-04-12T16:50:48Z) - Bilevel Optimization: Convergence Analysis and Enhanced Design [63.64636047748605]
バイレベル最適化は多くの機械学習問題に対するツールである。
Stoc-BiO という新しい確率効率勾配推定器を提案する。
論文 参考訳(メタデータ) (2020-10-15T18:09:48Z) - Global Optimization of Gaussian processes [52.77024349608834]
少数のデータポイントで学習したガウス過程を訓練した空間定式化を提案する。
このアプローチはまた、より小さく、計算的にもより安価なサブソルバを低いバウンディングに導く。
提案手法の順序の順序による時間収束を,総じて低減する。
論文 参考訳(メタデータ) (2020-05-21T20:59:11Z) - Mixed Strategies for Robust Optimization of Unknown Objectives [93.8672371143881]
そこでは,不確実なパラメータの最悪の実現に対して,未知の目的関数を最適化することを目的として,ロバストな最適化問題を考察する。
我々は,未知の目的をノイズ点評価から逐次学習する,新しいサンプル効率アルゴリズムGP-MROを設計する。
GP-MROは、最悪のケースで期待される目標値を最大化する、堅牢でランダムな混合戦略の発見を目指している。
論文 参考訳(メタデータ) (2020-02-28T09:28:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。