論文の概要: Tuning as a Means of Assessing the Benefits of New Ideas in Interplay with Existing Algorithmic Modules

• arxiv url: http://arxiv.org/abs/2102.12905v2
• Date: Fri, 26 Feb 2021 11:56:43 GMT
• ステータス: 処理完了
• システム内更新日: 2023-04-09 22:50:45.366517
• Title: Tuning as a Means of Assessing the Benefits of New Ideas in Interplay with Existing Algorithmic Modules
• Title（参考訳）: 既存のアルゴリズムモジュールとの相互作用における新しいアイデアの利点を評価する方法としてのチューニング
• Authors: Jacob de Nobel, Diederick Vermetten, Hao Wang, Carola Doerr, Thomas B\"ack
• Abstract要約: 新しいアルゴリズムのアイデアの導入は、既存の最適化アルゴリズムの継続的な改善の鍵となる部分である。 我々は、新しいアルゴリズムコンポーネントの利点を評価する手段として、ハイパーパラメータチューニングを用いる、より広範な手順を導入する。 これにより、パフォーマンスへの影響だけでなく、このパフォーマンスがどのように達成されるかを調査することで、より堅牢な分析が可能になる。
• 参考スコア（独自算出の注目度）: 3.967483941966979
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Introducing new algorithmic ideas is a key part of the continuous improvement of existing optimization algorithms. However, when introducing a new component into an existing algorithm, assessing its potential benefits is a challenging task. Often, the component is added to a default implementation of the underlying algorithm and compared against a limited set of other variants. This assessment ignores any potential interplay with other algorithmic ideas that share the same base algorithm, which is critical in understanding the exact contributions being made. We introduce a more extensive procedure, which uses hyperparameter tuning as a means of assessing the benefits of new algorithmic components. This allows for a more robust analysis by not only focusing on the impact on performance, but also by investigating how this performance is achieved. We implement our suggestion in the context of the Modular CMA-ES framework, which was redesigned and extended to include some new modules and several new options for existing modules, mostly focused on the step-size adaptation method. Our analysis highlights the differences between these new modules, and identifies the situations in which they have the largest contribution.
• Abstract（参考訳）: 新しいアルゴリズムのアイデアの導入は、既存の最適化アルゴリズムの継続的な改善の鍵となる部分である。 しかし、既存のアルゴリズムに新しいコンポーネントを導入する場合、その潜在的な利点を評価することは難しい作業である。 多くの場合、コンポーネントは、基礎となるアルゴリズムのデフォルト実装に追加され、他の限られたセットと比較される。 この評価は、同じベースアルゴリズムを共有する他のアルゴリズムのアイデアとの潜在的な相互作用を無視し、正確な貢献を理解する上で重要である。 我々は、新しいアルゴリズムコンポーネントの利点を評価する手段として、ハイパーパラメータチューニングを用いたより広範な手順を導入する。 これにより、パフォーマンスへの影響だけでなく、このパフォーマンスがどのように達成されるかを調査することで、より堅牢な分析が可能になる。 提案手法をモジュール型cma-esフレームワークの文脈で実装し,新しいモジュールと既存モジュールの新しいオプションを含むように再設計・拡張し,主にステップサイズ適応法に焦点をあてた。 分析では,これらのモジュール間の差異を強調し,貢献度が最も大きい状況を特定する。

関連論文リスト

• Large-scale Benchmarking of Metaphor-based Optimization Heuristics [5.081212121019668]
  BBOB関数スイート上で294のアルゴリズム実装を実行する。 提案手法は, 予算の選択, 性能評価, 実験設計のその他の側面が, これらのアルゴリズムの比較にどう影響するかを考察する。
  論文  参考訳（メタデータ） (2024-02-15T08:54:46Z)
• AbCD: A Component-wise Adjustable Framework for Dynamic Optimization Problems [49.1574468325115]
  動的最適化問題 (DOP) は、常に発生し、現実の応用に共通するフィットネス環境の変化によって特徴づけられる。 我々は、動的問題のための調整可能なコンポーネント(AbCD)と呼ばれるDOPのためのコンポーネント指向フレームワークを開発する。 この結果から,アルゴリズムやコンポーネントの今後の発展に対処する必要があるDOP分野の既存の課題が浮き彫りになる。
  論文  参考訳（メタデータ） (2023-10-09T08:11:31Z)
• META-SMGO-$\Delta$: similarity as a prior in black-box optimization [1.282675419968047]
  本稿では,近年提案されているグローバル最適化手法SMGO-$Delta$にMETA学習理論を組み入れることを提案する。 本稿では,ベースラインアルゴリズムのMETA拡張の実用的メリットを示すとともに,その性能に理論的制約を与える。
  論文  参考訳（メタデータ） (2023-04-30T09:41:04Z)
• Modular Differential Evolution [0.0]
  本稿では,一般的な微分進化(DE)アルゴリズムのためのモジュラーフレームワークを提案する。 モジュールDEの設定のチューニングは、我々のフレームワークで再現された一般的なDEバージョンのセットよりも大幅に優れています。
  論文  参考訳（メタデータ） (2023-04-19T09:29:48Z)
• Improved Algorithms for Neural Active Learning [74.89097665112621]
  非パラメトリックストリーミング設定のためのニューラルネットワーク(NN)ベースの能動学習アルゴリズムの理論的および経験的性能を改善する。 本研究では,SOTA(State-of-the-art (State-the-art)) 関連研究で使用されるものよりも,アクティブラーニングに適する人口減少を最小化することにより,2つの後悔の指標を導入する。
  論文  参考訳（メタデータ） (2022-10-02T05:03:38Z)
• Stabilizing Q-learning with Linear Architectures for Provably Efficient Learning [53.17258888552998]
  本研究では,線形関数近似を用いた基本的な$Q$-learningプロトコルの探索変種を提案する。 このアルゴリズムの性能は,新しい近似誤差というより寛容な概念の下で,非常に優雅に低下することを示す。
  論文  参考訳（メタデータ） (2022-06-01T23:26:51Z)
• Neural Combinatorial Optimization: a New Player in the Field [69.23334811890919]
  本稿では,ニューラルネットワークに基づくアルゴリズムの古典的最適化フレームワークへの導入に関する批判的分析を行う。 性能, 転送可能性, 計算コスト, 大規模インスタンスなど, これらのアルゴリズムの基本的側面を分析するために, 総合的研究を行った。
  論文  参考訳（メタデータ） (2022-05-03T07:54:56Z)
• Component-wise Analysis of Automatically Designed Multiobjective Algorithms on Constrained Problems [0.0]
  本研究では,自動設計アルゴリズムの最終的な構成が与える影響を調査するための新しい手法を提案する。 本手法は,9つの制約付き問題に対して,iraceパッケージによって設計された分解に基づく多目的進化アルゴリズム(MOEA/D)に応用する。 その結果、最も影響力のあるコンポーネントは再起動と更新の戦略であり、パフォーマンスが向上し、メトリック値がより異なることが示唆された。
  論文  参考訳（メタデータ） (2022-03-25T04:35:01Z)
• A Simple Evolutionary Algorithm for Multi-modal Multi-objective Optimization [0.0]
  マルチモーダル・多目的最適化問題(MMOP)を解くための定常進化アルゴリズムを提案する。 本報告では,1000関数評価の低計算予算を用いて,様々なテストスイートから得られた21個のMMOPの性能について報告する。
  論文  参考訳（メタデータ） (2022-01-18T03:31:11Z)
• Modularity in Reinforcement Learning via Algorithmic Independence in Credit Assignment [79.5678820246642]
  提案手法は, 事前決定の順序に対して, スパース変化のみを必要とする伝達問題に対して, 政策段階の手法よりも, より標本効率が高いことを示す。 我々は最近提案された社会的意思決定の枠組みをマルコフ決定プロセスよりもよりきめ細かい形式主義として一般化する。
  論文  参考訳（メタデータ） (2021-06-28T21:29:13Z)
• Extreme Algorithm Selection With Dyadic Feature Representation [78.13985819417974]
  我々は,数千の候補アルゴリズムの固定セットを考慮に入れた,極端なアルゴリズム選択(XAS)の設定を提案する。 我々は、XAS設定に対する最先端のAS技術の適用性を評価し、Dyadic特徴表現を利用したアプローチを提案する。
  論文  参考訳（メタデータ） (2020-01-29T09:40:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。