論文の概要: Enhancing Hyper-To-Real Space Projections Through Euclidean Norm
Meta-Heuristic Optimization
- arxiv url: http://arxiv.org/abs/2301.13671v1
- Date: Tue, 31 Jan 2023 14:40:49 GMT
- ステータス: 処理完了
- システム内更新日: 2023-02-01 16:22:56.856712
- Title: Enhancing Hyper-To-Real Space Projections Through Euclidean Norm
Meta-Heuristic Optimization
- Title(参考訳): ユークリッドノルムメタヒューリスティック最適化による超現実空間投影の促進
- Authors: Luiz C. F. Ribeiro, Mateus Roder, Gustavo H. de Rosa, Leandro A.
Passos, Jo\~ao P. Papa
- Abstract要約: メタヒューリスティック最適化により,計算負荷の少ない様々な問題に対して,ロバストな近似解が得られることを示す。
それまでの作業では、四元数のような検索空間の超複素表現を用いることでこの問題に対処していた。
最適化手順が完了すると、代わりにミンコフスキー$p$-normを用いることでより優れた解を得ることができる。
- 参考スコア(独自算出の注目度): 0.39146761527401425
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The continuous computational power growth in the last decades has made
solving several optimization problems significant to humankind a tractable
task; however, tackling some of them remains a challenge due to the
overwhelming amount of candidate solutions to be evaluated, even by using
sophisticated algorithms. In such a context, a set of nature-inspired
stochastic methods, called meta-heuristic optimization, can provide robust
approximate solutions to different kinds of problems with a small computational
burden, such as derivative-free real function optimization. Nevertheless, these
methods may converge to inadequate solutions if the function landscape is too
harsh, e.g., enclosing too many local optima. Previous works addressed this
issue by employing a hypercomplex representation of the search space, like
quaternions, where the landscape becomes smoother and supposedly easier to
optimize. Under this approach, meta-heuristic computations happen in the
hypercomplex space, whereas variables are mapped back to the real domain before
function evaluation. Despite this latter operation being performed by the
Euclidean norm, we have found that after the optimization procedure has
finished, it is usually possible to obtain even better solutions by employing
the Minkowski $p$-norm instead and fine-tuning $p$ through an auxiliary
sub-problem with neglecting additional cost and no hyperparameters. Such
behavior was observed in eight well-established benchmarking functions, thus
fostering a new research direction for hypercomplex meta-heuristic
optimization.
- Abstract(参考訳): 過去数十年間、連続的な計算能力の増大により、人間にとって重要な最適化問題のいくつかが解決されてきたが、そのいくつかは高度なアルゴリズムを用いても、評価すべき候補解が圧倒的に多いため、依然として課題である。
このような文脈において、メタヒューリスティック最適化(meta-heuristic optimization)と呼ばれる自然に着想を得た一連の確率的手法は、微分自由実関数最適化のような少ない計算負荷で、様々な種類の問題に対する堅牢な近似解を提供することができる。
それでもこれらの手法は、函数のランドスケープが厳しすぎる場合、例えば局所最適化が多すぎるような不適切な解に収束する可能性がある。
これまでの作業では、四元数のような検索空間の超複素表現を用いることでこの問題に対処していた。
このアプローチでは、メタヒューリスティックな計算は超複素空間で起こるが、変数は関数評価の前に実領域にマッピングされる。
後者の演算はユークリッドノルムによって行われるが、最適化手続きが完了した後、minkowski $p$-norm を代わりに使用し、追加コストを無視し、ハイパーパラメータを使わずに補助サブプロブレムを通じて$p$を微調整することで、より優れた解を得ることができる。
このような振舞いは8つのよく確立されたベンチマーク関数で観測されたため、超複素メタヒューリスティック最適化のための新しい研究の方向性が育まれた。
関連論文リスト
- Gradient-free neural topology optimization [0.0]
勾配のないアルゴリズムは勾配に基づくアルゴリズムと比較して多くの繰り返しを収束させる必要がある。
これにより、反復1回あたりの計算コストとこれらの問題の高次元性のため、トポロジ最適化では実現不可能となった。
我々は,潜時空間における設計を最適化する場合に,少なくとも1桁の繰り返し回数の減少につながる事前学習型ニューラルリパラメータ化戦略を提案する。
論文 参考訳(メタデータ) (2024-03-07T23:00:49Z) - Analyzing and Enhancing the Backward-Pass Convergence of Unrolled
Optimization [50.38518771642365]
ディープネットワークにおけるコンポーネントとしての制約付き最適化モデルの統合は、多くの専門的な学習タスクに有望な進歩をもたらした。
この設定における中心的な課題は最適化問題の解によるバックプロパゲーションであり、しばしば閉形式を欠いている。
本稿では, 非線形最適化の後方通過に関する理論的知見を提供し, 特定の反復法による線形システムの解と等価であることを示す。
Folded Optimizationと呼ばれるシステムが提案され、非ローリングなソルバ実装からより効率的なバックプロパゲーションルールを構築する。
論文 参考訳(メタデータ) (2023-12-28T23:15:18Z) - ProGO: Probabilistic Global Optimizer [9.772380490791635]
本稿では,いくつかの温和な条件下でのグローバルオプティマに収束するアルゴリズムを開発する。
提案アルゴリズムは,従来の最先端手法よりも桁違いに優れていることを示す。
論文 参考訳(メタデータ) (2023-10-04T22:23:40Z) - An Empirical Evaluation of Zeroth-Order Optimization Methods on
AI-driven Molecule Optimization [78.36413169647408]
分子目的を最適化するための様々なZO最適化手法の有効性について検討する。
ZO符号に基づく勾配降下(ZO-signGD)の利点を示す。
本稿では,Guurcamol スイートから広く使用されているベンチマークタスクに対して,ZO 最適化手法の有効性を示す。
論文 参考訳(メタデータ) (2022-10-27T01:58:10Z) - Enhanced Opposition Differential Evolution Algorithm for Multimodal
Optimization [0.2538209532048866]
現実の問題は、本質的には複数の最適値からなるマルチモーダルである。
古典的な勾配に基づく手法は、目的関数が不連続あるいは微分不可能な最適化問題に対して失敗する。
我々は,MMOPを解くために,拡張オポポジション微分進化(EODE)アルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-08-23T16:18:27Z) - Learning Proximal Operators to Discover Multiple Optima [66.98045013486794]
非家族問題における近位演算子を学習するためのエンドツーエンド手法を提案する。
本手法は,弱い目的と穏やかな条件下では,世界規模で収束することを示す。
論文 参考訳(メタデータ) (2022-01-28T05:53:28Z) - Faster Algorithm and Sharper Analysis for Constrained Markov Decision
Process [56.55075925645864]
制約付き意思決定プロセス (CMDP) の問題点について検討し, エージェントは, 複数の制約を条件として, 期待される累積割引報酬を最大化することを目的とする。
新しいユーティリティ・デュアル凸法は、正規化ポリシー、双対正則化、ネステロフの勾配降下双対という3つの要素の新たな統合によって提案される。
これは、凸制約を受ける全ての複雑性最適化に対して、非凸CMDP問題が$mathcal O (1/epsilon)$の低い境界に達する最初の実演である。
論文 参考訳(メタデータ) (2021-10-20T02:57:21Z) - Population-Based Methods: PARTICLE SWARM OPTIMIZATION -- Development of
a General-Purpose Optimizer and Applications [0.0]
この論文は、不等式制約を受ける連続、静的、単目的の最適化問題に関係している。
粒子群最適化のパラダイムは、社会で観察された協調行動の以前のシミュレーションから着想を得たものである。
論文 参考訳(メタデータ) (2021-01-25T09:36:25Z) - Learning to Optimize Under Constraints with Unsupervised Deep Neural
Networks [0.0]
機械学習(ML)手法を提案し,汎用的制約付き連続最適化問題の解法を学習する。
本稿では,制約付き最適化問題をリアルタイムに解くための教師なしディープラーニング(DL)ソリューションを提案する。
論文 参考訳(メタデータ) (2021-01-04T02:58:37Z) - Divide and Learn: A Divide and Conquer Approach for Predict+Optimize [50.03608569227359]
予測+最適化問題は、予測係数を使用する最適化プロブレムと、確率係数の機械学習を組み合わせる。
本稿では, 予測係数を1次線形関数として, 最適化問題の損失を直接表現する方法を示す。
本稿では,この制約を伴わずに最適化問題に対処し,最適化損失を用いてその係数を予測する新しい分割アルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-12-04T00:26:56Z) - Optimizing Wireless Systems Using Unsupervised and
Reinforced-Unsupervised Deep Learning [96.01176486957226]
無線ネットワークにおけるリソース割り当てとトランシーバーは、通常最適化問題の解決によって設計される。
本稿では,変数最適化と関数最適化の両問題を解くための教師なし・教師なし学習フレームワークを紹介する。
論文 参考訳(メタデータ) (2020-01-03T11:01:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。