論文の概要: Derivative-free tree optimization for complex systems

• arxiv url: http://arxiv.org/abs/2404.04062v1
• Date: Fri, 5 Apr 2024 12:37:08 GMT
• ステータス: 処理完了
• システム内更新日: 2024-04-08 16:14:58.160439
• Title: Derivative-free tree optimization for complex systems
• Title（参考訳）: 複素系に対する微分自由木最適化
• Authors: Ye Wei, Bo Peng, Ruiwen Xie, Yangtao Chen, Yu Qin, Peng Wen, Stefan Bauer, Po-Yen Tung,
• Abstract要約: 材料、物理学、生物学における膨大な範囲の設計タスクは、パラメータを知らずに多くのパラメータに依存する目的関数の最適性を見つけるものとして定式化することができる。 本稿では,高域微分設計システムの発見を可能にする木探索手法を提案する。
• 参考スコア（独自算出の注目度）: 19.359472033285865
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: A tremendous range of design tasks in materials, physics, and biology can be formulated as finding the optimum of an objective function depending on many parameters without knowing its closed-form expression or the derivative. Traditional derivative-free optimization techniques often rely on strong assumptions about objective functions, thereby failing at optimizing non-convex systems beyond 100 dimensions. Here, we present a tree search method for derivative-free optimization that enables accelerated optimal design of high-dimensional complex systems. Specifically, we introduce stochastic tree expansion, dynamic upper confidence bound, and short-range backpropagation mechanism to evade local optimum, iteratively approximating the global optimum using machine learning models. This development effectively confronts the dimensionally challenging problems, achieving convergence to global optima across various benchmark functions up to 2,000 dimensions, surpassing the existing methods by 10- to 20-fold. Our method demonstrates wide applicability to a wide range of real-world complex systems spanning materials, physics, and biology, considerably outperforming state-of-the-art algorithms. This enables efficient autonomous knowledge discovery and facilitates self-driving virtual laboratories. Although we focus on problems within the realm of natural science, the advancements in optimization techniques achieved herein are applicable to a broader spectrum of challenges across all quantitative disciplines.
• Abstract（参考訳）: 材料、物理学、生物学における膨大な範囲の設計タスクは、その閉形式表現や微分を知ることなく、多くのパラメータに依存する目的関数の最適性を見つけるものとして定式化することができる。 従来の微分自由最適化手法は、しばしば客観的関数に関する強い仮定に依存し、したがって100次元を超える非凸系を最適化しない。 本稿では,高次元複素系の最適設計を高速化する,微分自由度最適化のための木探索手法を提案する。 具体的には,局所最適化を回避するため,確率木拡張,動的上層信頼境界,短距離バックプロパゲーション機構を導入し,機械学習モデルを用いてグローバル最適化を反復的に近似する。 この開発は、様々なベンチマーク関数にまたがるグローバル最適化への収束を最大2,000次元まで達成し、既存の手法を10倍から20倍に越え、次元的に困難な問題に効果的に直面する。 本手法は, 物質, 物理, 生物学にまたがる多種多様な実世界の複雑なシステムに適用可能であることを示す。 これにより、効率的な自律的な知識発見が可能になり、自律的な仮想研究所が容易になる。 自然科学の領域における問題に焦点をあてるが、ここで達成された最適化手法の進歩は、あらゆる量的分野にわたる幅広い課題に適用できる。

関連論文リスト

• Learning to optimize with convergence guarantees using nonlinear system theory [0.4143603294943439]
  本研究では,スムーズな目的関数に対するアルゴリズムの非制約パラメトリゼーションを提案する。 特に、私たちのフレームワークは自動微分ツールと直接互換性があります。
  論文  参考訳（メタデータ） (2024-03-14T13:40:26Z)
• End-to-End Learning for Fair Multiobjective Optimization Under Uncertainty [55.04219793298687]
  機械学習における予測-Then-Forecast(PtO)パラダイムは、下流の意思決定品質を最大化することを目的としている。 本稿では,PtO法を拡張して,OWA(Nondifferentiable Ordered Weighted Averaging)の目的を最適化する。 この結果から,不確実性の下でのOWA関数の最適化とパラメトリック予測を効果的に統合できることが示唆された。
  論文  参考訳（メタデータ） (2024-02-12T16:33:35Z)
• Multiform Evolution for High-Dimensional Problems with Low Effective Dimensionality [36.44425198302701]
  進化的アルゴリズムを高次元最適化問題に拡張する。 全ての定式化を単一のマルチタスク設定に統一するマルチフォーム進化アルゴリズムを開発した。 その結果、目的タスクは様々な低次元探索で進化した解を効率的に再利用することができる。
  論文  参考訳（メタデータ） (2023-12-30T08:13:47Z)
• Scalable Bayesian optimization with high-dimensional outputs using randomized prior networks [3.0468934705223774]
  本稿では,確率化された先行するニューラルネットワークの自己ストラップ型アンサンブルに基づくBOとシーケンシャル意思決定のためのディープラーニングフレームワークを提案する。 提案手法は,高次元ベクトル空間や無限次元関数空間の値を取る場合においても,設計変数と関心量の関数的関係を近似することができることを示す。 提案手法をBOの最先端手法に対して検証し,高次元出力の課題に対して優れた性能を示す。
  論文  参考訳（メタデータ） (2023-02-14T18:55:21Z)
• An Empirical Evaluation of Zeroth-Order Optimization Methods on AI-driven Molecule Optimization [78.36413169647408]
  分子目的を最適化するための様々なZO最適化手法の有効性について検討する。 ZO符号に基づく勾配降下(ZO-signGD)の利点を示す。 本稿では,Guurcamol スイートから広く使用されているベンチマークタスクに対して,ZO 最適化手法の有効性を示す。
  論文  参考訳（メタデータ） (2022-10-27T01:58:10Z)
• Fighting the curse of dimensionality: A machine learning approach to finding global optima [77.34726150561087]
  本稿では,構造最適化問題におけるグローバル最適化の方法を示す。 特定のコスト関数を利用することで、最適化手順が確立された場合と比較して、グローバルをベストに得るか、最悪の場合、優れた結果を得るかのどちらかを得る。
  論文  参考訳（メタデータ） (2021-10-28T09:50:29Z)
• Speeding up Computational Morphogenesis with Online Neural Synthetic Gradients [51.42959998304931]
  現代科学および工学の適用の広い範囲は制約として部分的な微分方程式(PDEs)のシステムとの最適化問題として定式化されます。 これらのPDE制約最適化問題は通常、標準のDisretize-then-optimizeアプローチで解決される。 オンラインニューラル合成勾配(ONSG)を用いたPDE制約最適化の高速化のための新しい2スケール最適化手法を提案する。
  論文  参考訳（メタデータ） (2021-04-25T22:43:51Z)
• Generalized and Scalable Optimal Sparse Decision Trees [56.35541305670828]
  様々な目的に対して最適な決定木を生成する手法を提案する。 また,連続変数が存在する場合に最適な結果が得られるスケーラブルなアルゴリズムも導入する。
  論文  参考訳（メタデータ） (2020-06-15T19:00:11Z)
• Optimizing Wireless Systems Using Unsupervised and Reinforced-Unsupervised Deep Learning [96.01176486957226]
  無線ネットワークにおけるリソース割り当てとトランシーバーは、通常最適化問題の解決によって設計される。 本稿では,変数最適化と関数最適化の両問題を解くための教師なし・教師なし学習フレームワークを紹介する。
  論文  参考訳（メタデータ） (2020-01-03T11:01:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。