論文の概要: Fighting the curse of dimensionality: A machine learning approach to finding global optima

• arxiv url: http://arxiv.org/abs/2110.14985v1
• Date: Thu, 28 Oct 2021 09:50:29 GMT
• ステータス: 処理完了
• システム内更新日: 2021-10-29 16:25:50.544986
• Title: Fighting the curse of dimensionality: A machine learning approach to finding global optima
• Title（参考訳）: 次元の呪いと戦う:グローバル・オプティマを見つけるための機械学習アプローチ
• Authors: Julian F. Schumann, Alejandro M. Arag\'on
• Abstract要約: 本稿では,構造最適化問題におけるグローバル最適化の方法を示す。 特定のコスト関数を利用することで、最適化手順が確立された場合と比較して、グローバルをベストに得るか、最悪の場合、優れた結果を得るかのどちらかを得る。
• 参考スコア（独自算出の注目度）: 77.34726150561087
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Finding global optima in high-dimensional optimization problems is extremely challenging since the number of function evaluations required to sufficiently explore the design space increases exponentially with its dimensionality. Furthermore, non-convex cost functions render local gradient-based search techniques ineffective. To overcome these difficulties, here we demonstrate the use of machine learning to find global minima, whereby autoencoders are used to drastically reduce the search space dimensionality, and optima are found by surveying the lower-dimensional latent spaces. The methodology is tested on benchmark functions and on a structural optimization problem, where we show that by exploiting the behavior of certain cost functions we either obtain the global optimum at best or obtain superior results at worst when compared to established optimization procedures.
• Abstract（参考訳）: 高次元最適化問題における大域的最適性の発見は、設計空間を十分に探索するために必要な関数評価の数が、その次元とともに指数関数的に増加するため、極めて困難である。 さらに,非凸コスト関数は局所勾配に基づく探索技術では有効ではない。 このような課題を克服するために,我々は機械学習を用いて大域的ミニマを探索し,探索空間の次元を劇的に減少させるオートエンコーダを用い,低次元の潜在空間を探索することでオプティマを求める。 本手法をベンチマーク関数と構造最適化問題を用いて検証し, 一定のコスト関数の挙動を生かして, 最善のグローバル最適化を得るか, 確立した最適化手法と比較して最悪な結果を得るかを示す。

関連論文リスト

• Super Gradient Descent: Global Optimization requires Global Gradient [0.0]
  本稿では,閉区間上で定義される任意のk-Lipschitz関数に対して,大域最小値への収束を保証する新しい最適化手法を提案する。 従来の最適化アルゴリズムの限界に対処するアプローチは、しばしばローカルなミニマに閉じ込められる。
  論文  参考訳（メタデータ） (2024-10-25T17:28:39Z)
• Discovering Preference Optimization Algorithms with and for Large Language Models [50.843710797024805]
  オフライン優先最適化は、LLM(Large Language Model)出力の品質を向上・制御するための重要な手法である。 我々は、人間の介入なしに、新しい最先端の選好最適化アルゴリズムを自動で発見する客観的発見を行う。 実験は、ロジスティックと指数的損失を適応的にブレンドする新しいアルゴリズムであるDiscoPOPの最先端性能を示す。
  論文  参考訳（メタデータ） (2024-06-12T16:58:41Z)
• Robust Entropy Search for Safe Efficient Bayesian Optimization [40.56709991743249]
  我々は、ロバスト・エントロピー・サーチ(RES)と呼ばれる効率的な情報ベース獲得機能を開発する。 RESは、堅牢で最先端のアルゴリズムよりも確実に最適である。
  論文  参考訳（メタデータ） (2024-05-29T13:00:10Z)
• Derivative-free tree optimization for complex systems [19.359472033285865]
  材料、物理学、生物学における膨大な範囲の設計タスクは、パラメータを知らずに多くのパラメータに依存する目的関数の最適性を見つけるものとして定式化することができる。 本稿では,高域微分設計システムの発見を可能にする木探索手法を提案する。
  論文  参考訳（メタデータ） (2024-04-05T12:37:08Z)
• Localized Zeroth-Order Prompt Optimization [54.964765668688806]
  そこで我々は,ZOPO(Localized zeroth-order prompt optimization)という新しいアルゴリズムを提案する。 ZOPOはニューラル・タンジェント・カーネルをベースとしたガウス法を標準ゼロ階次最適化に取り入れ、高速な局所最適探索を高速化する。 注目すべきは、ZOPOは最適化性能とクエリ効率の両方の観点から、既存のベースラインを上回っていることだ。
  論文  参考訳（メタデータ） (2024-03-05T14:18:15Z)
• Efficient Non-Parametric Optimizer Search for Diverse Tasks [93.64739408827604]
  興味のあるタスクを直接検索できる,スケーラブルで汎用的なフレームワークを初めて提示する。 基礎となる数学表現の自然木構造に着想を得て、空間を超木に再配置する。 我々は,モンテカルロ法を木探索に適用し,レジェクションサンプリングと等価形状検出を備える。
  論文  参考訳（メタデータ） (2022-09-27T17:51:31Z)
• Bayesian Optimization for auto-tuning GPU kernels [0.0]
  GPUカーネルの最適パラメータ設定を見つけることは、たとえ自動化されても、大規模な検索スペースにとって簡単な作業ではない。 拡張性を改善した新しい文脈探索機能と,情報機能選択機構を併用した新しい獲得機能を導入する。
  論文  参考訳（メタデータ） (2021-11-26T11:26:26Z)
• Why Do Local Methods Solve Nonconvex Problems? [54.284687261929115]
  非使用最適化は、現代の機械学習においてユビキタスである。 機械学習問題の場合、厳格に定式化します。 我々はこの現象の統一的な説明を仮定する。
  論文  参考訳（メタデータ） (2021-03-24T19:34:11Z)
• An adaptive stochastic gradient-free approach for high-dimensional blackbox optimization [0.0]
  本研究では,高次元非平滑化問題に対する適応勾配フリー (ASGF) アプローチを提案する。 本稿では,グローバルな問題と学習タスクのベンチマークにおいて,本手法の性能について述べる。
  論文  参考訳（メタデータ） (2020-06-18T22:47:58Z)
• Optimizing Wireless Systems Using Unsupervised and Reinforced-Unsupervised Deep Learning [96.01176486957226]
  無線ネットワークにおけるリソース割り当てとトランシーバーは、通常最適化問題の解決によって設計される。 本稿では,変数最適化と関数最適化の両問題を解くための教師なし・教師なし学習フレームワークを紹介する。
  論文  参考訳（メタデータ） (2020-01-03T11:01:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。