論文の概要: Towards Exploratory Landscape Analysis for Large-scale Optimization: A
Dimensionality Reduction Framework
- arxiv url: http://arxiv.org/abs/2104.10301v1
- Date: Wed, 21 Apr 2021 01:16:57 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-03 00:36:27.571469
- Title: Towards Exploratory Landscape Analysis for Large-scale Optimization: A
Dimensionality Reduction Framework
- Title（参考訳）: 大規模最適化のための探索的景観解析に向けて:次元化フレームワーク
- Authors: Ryoji Tanabe
- Abstract要約: 本稿では,従来の解空間よりも低次元空間における特徴を計算できる次元削減フレームワークを提案する。
提案手法は, 大規模化において, ela_level と ela_meta の計算時間を劇的に削減できることを示す。
また,提案手法によって計算された特徴は,24個の大規模BBOB関数の高次特性を予測する上で有益であることを示す。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Although exploratory landscape analysis (ELA) has shown its effectiveness in
various applications, most previous studies focused only on low- and
moderate-dimensional problems. Thus, little is known about the scalability of
the ELA approach for large-scale optimization. In this context, first, this
paper analyzes the computational cost of features in the flacco package. Our
results reveal that two important feature classes (ela_level and ela_meta)
cannot be applied to large-scale optimization due to their high computational
cost. To improve the scalability of the ELA approach, this paper proposes a
dimensionality reduction framework that computes features in a reduced
lower-dimensional space than the original solution space. We demonstrate that
the proposed framework can drastically reduce the computation time of ela_level
and ela_meta for large dimensions. In addition, the proposed framework can make
the cell-mapping feature classes scalable for large-scale optimization. Our
results also show that features computed by the proposed framework are
beneficial for predicting the high-level properties of the 24 large-scale BBOB
functions.
- Abstract（参考訳）: 探索ランドスケープ解析(ELA)は様々な用途で有効性を示したが、これまでの研究は低次元と中次元の問題にのみ焦点をあてたものだった。
このように、大規模最適化のためのelaアプローチのスケーラビリティについてはほとんど知られていない。
本稿では,まず,フラッコパッケージの特徴の計算コストを解析する。
その結果、計算コストが高いため、2つの重要な特徴クラス(ela_levelとela_meta)が大規模最適化には適用できないことがわかった。
ELA手法のスケーラビリティを向上させるため,本論文では,原解空間よりも低次元空間における特徴量を計算する次元削減フレームワークを提案する。
提案手法は, 大規模化において, ela_level と ela_meta の計算時間を劇的に削減できることを示す。
さらに,提案フレームワークは,セルマッピング機能クラスを大規模最適化のためにスケーラブルにすることができる。
また,提案手法によって計算された特徴は,24個の大規模BBOB関数の高次特性を予測する上で有益であることを示す。
関連論文リスト
- Memory-Efficient Gradient Unrolling for Large-Scale Bi-level Optimization [71.35604981129838]
従来の勾配に基づく二段階最適化アルゴリズムは、大規模アプリケーションの要求を満たすには不適である。
両レベル最適化のためのメタ勾配の偏りのない近似を実現するための$(textFG)2textU$を導入する。
$(textFG)2textU$は本質的に並列コンピューティングをサポートするように設計されており、大規模分散コンピューティングシステムを効果的に活用することができる。
論文 参考訳（メタデータ） (2024-06-20T08:21:52Z) - Differentially Private Optimization with Sparse Gradients [60.853074897282625]
微分プライベート(DP)最適化問題を個人勾配の空間性の下で検討する。
これに基づいて、スパース勾配の凸最適化にほぼ最適な速度で純粋および近似DPアルゴリズムを得る。
論文 参考訳（メタデータ） (2024-04-16T20:01:10Z) - Efficient Model-Free Exploration in Low-Rank MDPs [76.87340323826945]
低ランクマルコフ決定プロセスは、関数近似を持つRLに対して単純だが表現力のあるフレームワークを提供する。
既存のアルゴリズムは、(1)計算的に抽出可能であるか、または(2)制限的な統計的仮定に依存している。
提案手法は,低ランクMPPの探索のための最初の実証可能なサンプル効率アルゴリズムである。
論文 参考訳（メタデータ） (2023-07-08T15:41:48Z) - Prescriptive PCA: Dimensionality Reduction for Two-stage Stochastic
Optimization [1.1612308609123565]
最適化フェーズにおける準最適度を最小化することを目的とした,規範的次元削減フレームワークを開発した。
下流最適化問題に期待値の目的がある場合、分散ロバスト最適化問題を解くことにより、規範的次元削減が可能であることを示す。
提案手法は, 実データおよび合成データを用いて主成分分析を著しく上回っている。
論文 参考訳（メタデータ） (2023-06-04T00:50:35Z) - Optimization for truss design using Bayesian optimization [1.5070398746522742]
トラスの形状は、積載量を決定する上で支配的な要素である。
与えられたパラメータ空間において、我々のゴールは、負荷を持つ容量を最大化し、誘起ストレスに屈しない船体のパラメータを見つけることである。
設計評価のための計算コストの高い設計解析ツールである有限要素解析に頼っている。
論文 参考訳（メタデータ） (2023-05-27T10:28:27Z) - Scalable Bayesian optimization with high-dimensional outputs using
randomized prior networks [3.0468934705223774]
本稿では,確率化された先行するニューラルネットワークの自己ストラップ型アンサンブルに基づくBOとシーケンシャル意思決定のためのディープラーニングフレームワークを提案する。
提案手法は,高次元ベクトル空間や無限次元関数空間の値を取る場合においても,設計変数と関心量の関数的関係を近似することができることを示す。
提案手法をBOの最先端手法に対して検証し,高次元出力の課題に対して優れた性能を示す。
論文 参考訳（メタデータ） (2023-02-14T18:55:21Z) - Backpropagation of Unrolled Solvers with Folded Optimization [55.04219793298687]
ディープネットワークにおけるコンポーネントとしての制約付き最適化モデルの統合は、多くの専門的な学習タスクに有望な進歩をもたらした。
1つの典型的な戦略はアルゴリズムのアンローリングであり、これは反復解法の操作による自動微分に依存している。
本稿では,非ロール最適化の後方通過に関する理論的知見を提供し,効率よく解けるバックプロパゲーション解析モデルを生成するシステムに繋がる。
論文 参考訳（メタデータ） (2023-01-28T01:50:42Z) - On Solution Functions of Optimization: Universal Approximation and
Covering Number Bounds [6.3291148076593355]
線形目標性(1)(LP)と近似可能なQP近似パワーの凸最適化関数解関数の表現可能性について検討する。
この結果から,制約付きプログラミングの特性の厳密な解析と,アルゴリズム設計や性能保証への示唆が得られた。
論文 参考訳（メタデータ） (2022-12-02T17:16:04Z) - Unified Convergence Analysis for Adaptive Optimization with Moving Average Estimator [75.05106948314956]
1次モーメントに対する大きな運動量パラメータの増大は適応的スケーリングに十分であることを示す。
また,段階的に減少するステップサイズに応じて,段階的に運動量を増加させるための洞察を与える。
論文 参考訳（メタデータ） (2021-04-30T08:50:24Z) - Escaping Poor Local Minima in Large Scale Robust Estimation [41.304283715031204]
ロバストなパラメータ推定のための2つの新しいアプローチを紹介します。
最初のアルゴリズムは、貧弱なミニマから逃れる強力な能力を持つ適応的なカーネルスケーリング戦略を使用します。
第2のアルゴリズムは、一般化メジャー化最小化フレームワークと半二次昇降式を組み合わせて、シンプルで効率的なソルバーを得る。
論文 参考訳（メタデータ） (2021-02-22T11:58:29Z) - Zeroth-Order Hybrid Gradient Descent: Towards A Principled Black-Box
Optimization Framework [100.36569795440889]
この作業は、一階情報を必要としない零次最適化(ZO)の反復である。
座標重要度サンプリングにおける優雅な設計により,ZO最適化法は複雑度と関数クエリコストの両面において効率的であることを示す。
論文 参考訳（メタデータ） (2020-12-21T17:29:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。