論文の概要: Emergence of Structural Bias in Differential Evolution

• arxiv url: http://arxiv.org/abs/2105.04693v1
• Date: Mon, 10 May 2021 22:22:27 GMT
• ステータス: 処理完了
• システム内更新日: 2023-03-31 23:02:54.433329
• Title: Emergence of Structural Bias in Differential Evolution
• Title（参考訳）: 微分進化における構造バイアスの出現
• Authors: Bas van Stein, Fabio Caraffini and Anna V. Kononova
• Abstract要約: ヒューリスティック最適化アルゴリズムは、複雑な最適化問題の圧倒的に多いため、高い需要がある。 多くのアルゴリズムは、探索空間の特定の領域に惹かれるか、探索空間の領域を一貫して避けることによって構造バイアスを示す。 我々は、分化進化(DE)構成のためのそのような構造バイアスの出現、具体的には、異なる突然変異、交叉および修正戦略の効果を分析する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Heuristic optimisation algorithms are in high demand due to the overwhelming amount of complex optimisation problems that need to be solved. The complexity of these problems is well beyond the boundaries of applicability of exact optimisation algorithms and therefore require modern heuristics to find feasible solutions quickly. These heuristics and their effects are almost always evaluated and explained by particular problem instances. In previous works, it has been shown that many such algorithms show structural bias, by either being attracted to a certain region of the search space or by consistently avoiding regions of the search space, on a special test function designed to ensure uniform 'exploration' of the domain. In this paper, we analyse the emergence of such structural bias for Differential Evolution (DE) configurations and, specifically, the effect of different mutation, crossover and correction strategies. We also analyse the emergence of the structural bias during the run-time of each algorithm. We conclude with recommendations of which configurations should be avoided in order to run DE unbiased.
• Abstract（参考訳）: ヒューリスティック最適化アルゴリズムは、解決しなければならない複雑な最適化問題の膨大な量のために需要が高い。 これらの問題の複雑さは、厳密な最適化アルゴリズムの適用可能性の境界を超えており、従って、実現可能な解を素早く見つけるために現代のヒューリスティックスを必要とする。 これらのヒューリスティックと効果はほとんど常に評価され、特定の問題例によって説明される。 前回の研究では、探索空間の特定の領域に惹かれるか、あるいは探索空間の領域を一貫して避けることによって、ドメインの均一な「展開」を保証するように設計された特別なテスト関数上に、多くのアルゴリズムが構造バイアスを示すことが示されている。 本稿では, 差分進化(DE)構成におけるそのような構造バイアスの出現, 特に, 異なる突然変異, 交叉, 修正戦略の効果について分析する。 また,各アルゴリズムの実行時間における構造バイアスの発生を解析する。 我々はde unbiasedを実行するために、どの設定を避けるべきかを推奨する。

関連論文リスト

• On Probabilistic Embeddings in Optimal Dimension Reduction [1.2085509610251701]
  次元減少アルゴリズムは多くのデータサイエンスパイプラインの重要な部分である。 広く利用されているにもかかわらず、多くの非線形次元還元アルゴリズムは理論的観点からは理解されていない。
  論文  参考訳（メタデータ） (2024-08-05T12:46:21Z)
• Backpropagation of Unrolled Solvers with Folded Optimization [55.04219793298687]
  ディープネットワークにおけるコンポーネントとしての制約付き最適化モデルの統合は、多くの専門的な学習タスクに有望な進歩をもたらした。 1つの典型的な戦略はアルゴリズムのアンローリングであり、これは反復解法の操作による自動微分に依存している。 本稿では,非ロール最適化の後方通過に関する理論的知見を提供し,効率よく解けるバックプロパゲーション解析モデルを生成するシステムに繋がる。
  論文  参考訳（メタデータ） (2023-01-28T01:50:42Z)
• Adaptive Stochastic Optimisation of Nonconvex Composite Objectives [2.1700203922407493]
  一般化された複合ミラー降下アルゴリズムの一群を提案し,解析する。 適応的なステップサイズでは、提案アルゴリズムは問題の事前知識を必要とせずに収束する。 決定集合の低次元構造を高次元問題に活用する。
  論文  参考訳（メタデータ） (2022-11-21T18:31:43Z)
• Exploring the Algorithm-Dependent Generalization of AUPRC Optimization with List Stability [107.65337427333064]
  AUPRC(Area Under the Precision-Recall Curve)の最適化は、機械学習にとって重要な問題である。 本研究では, AUPRC最適化の単依存一般化における最初の試行について述べる。 3つの画像検索データセットの実験は、我々のフレームワークの有効性と健全性に言及する。
  論文  参考訳（メタデータ） (2022-09-27T09:06:37Z)
• The importance of being constrained: dealing with infeasible solutions in Differential Evolution and beyond [0.0]
  我々は、最適化アルゴリズムが生成した結果は、ドメイン外で生成されたソリューションで何をすべきかをアルゴリズムが完全に指定しない限り、再現可能とみなすことはできないと論じる。 ここでは、少なくとも微分進化に基づくアルゴリズムにおいて、この選択が顕著に異なる振る舞いを引き起こすことを実証する。 我々は最適化の分野に対して、オプティマイザに新しいアルゴリズムコンポーネントのアイデアを定式化し、採用するよう促す。
  論文  参考訳（メタデータ） (2022-03-07T16:49:18Z)
• Iterative regularization for low complexity regularizers [18.87017835436693]
  反復正則化は、最適化アルゴリズムの暗黙のバイアスを利用して不正な問題を正則化する。 非滑らかかつ非凸な関数によって記述されるバイアスを処理できる最初の反復正則化手法を提案し,研究する。
  論文  参考訳（メタデータ） (2022-02-01T14:09:00Z)
• Amortized Implicit Differentiation for Stochastic Bilevel Optimization [53.12363770169761]
  決定論的条件と決定論的条件の両方において、二段階最適化問題を解決するアルゴリズムのクラスについて検討する。 厳密な勾配の推定を補正するために、ウォームスタート戦略を利用する。 このフレームワークを用いることで、これらのアルゴリズムは勾配の偏りのない推定値にアクセス可能な手法の計算複雑性と一致することを示す。
  論文  参考訳（メタデータ） (2021-11-29T15:10:09Z)
• Fractal Structure and Generalization Properties of Stochastic Optimization Algorithms [71.62575565990502]
  最適化アルゴリズムの一般化誤差は、その一般化尺度の根底にあるフラクタル構造の複雑性'にバウンドできることを示す。 さらに、特定の問題(リニア/ロジスティックレグレッション、隠れ/層ニューラルネットワークなど)とアルゴリズムに対して、結果をさらに専門化します。
  論文  参考訳（メタデータ） (2021-06-09T08:05:36Z)
• The limits of min-max optimization algorithms: convergence to spurious non-critical sets [82.74514886461257]
  min-max最適化アルゴリズムは周期サイクルや同様の現象が存在するため、はるかに大きな問題に遭遇する。 問題のどの点も引き付けないアルゴリズムが存在することを示す。 ほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほぼほとんどである。
  論文  参考訳（メタデータ） (2020-06-16T10:49:27Z)
• A General Framework for Consistent Structured Prediction with Implicit Loss Embeddings [113.15416137912399]
  構造化予測のための理論的・アルゴリズム的な枠組みを提案し,解析する。 問題に対して適切な幾何を暗黙的に定義する、損失関数の大規模なクラスについて検討する。 出力空間を無限の濃度で扱うとき、推定子の適切な暗黙の定式化が重要であることが示される。
  論文  参考訳（メタデータ） (2020-02-13T10:30:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。