論文の概要: DynamoRep: Trajectory-Based Population Dynamics for Classification of
Black-box Optimization Problems
- arxiv url: http://arxiv.org/abs/2306.05438v1
- Date: Thu, 8 Jun 2023 06:57:07 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-12 16:03:49.150856
- Title: DynamoRep: Trajectory-Based Population Dynamics for Classification of
Black-box Optimization Problems
- Title（参考訳）: DynamoRep:ブラックボックス最適化問題の分類のための軌道に基づく人口動態
- Authors: Gjorgjina Cenikj, Ga\v{s}per Petelin, Carola Doerr, Peter Koro\v{s}ec,
Tome Eftimov
- Abstract要約: 簡単な統計量を用いて最適化アルゴリズムの軌道を記述する特徴抽出法を提案する。
提案するDynamoRep機能は,最適化アルゴリズムが動作している問題クラスを特定するのに十分な情報を取得する。
- 参考スコア（独自算出の注目度）: 0.755972004983746
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The application of machine learning (ML) models to the analysis of
optimization algorithms requires the representation of optimization problems
using numerical features. These features can be used as input for ML models
that are trained to select or to configure a suitable algorithm for the problem
at hand. Since in pure black-box optimization information about the problem
instance can only be obtained through function evaluation, a common approach is
to dedicate some function evaluations for feature extraction, e.g., using
random sampling. This approach has two key downsides: (1) It reduces the budget
left for the actual optimization phase, and (2) it neglects valuable
information that could be obtained from a problem-solver interaction.
In this paper, we propose a feature extraction method that describes the
trajectories of optimization algorithms using simple descriptive statistics. We
evaluate the generated features for the task of classifying problem classes
from the Black Box Optimization Benchmarking (BBOB) suite. We demonstrate that
the proposed DynamoRep features capture enough information to identify the
problem class on which the optimization algorithm is running, achieving a mean
classification accuracy of 95% across all experiments.
- Abstract（参考訳）: 機械学習(ML)モデルの最適化アルゴリズム解析への応用には,数値的特徴を用いた最適化問題の表現が必要である。
これらの機能は、目の前の問題に対して適切なアルゴリズムを選択または設定するように訓練されたmlモデルの入力として使用できる。
問題インスタンスに関する純粋なブラックボックス最適化情報は関数評価によってのみ得ることができるので、例えばランダムサンプリングを用いて、特徴抽出のためのいくつかの機能評価を専らする手法が一般的である。
このアプローチには,(1)実際の最適化フェーズに残される予算を削減し,(2)問題解決者間相互作用から得られる貴重な情報を無視する,という2つの重要な欠点がある。
本稿では,簡単な記述統計を用いて最適化アルゴリズムの軌跡を記述する特徴抽出手法を提案する。
我々は,Black Box Optimization Benchmarking (BBOB) スイートから問題クラスを分類する作業において生成した特徴を評価する。
提案したDynamoRep機能は,最適化アルゴリズムが動作している問題クラスを特定するのに十分な情報を捕捉し,全ての実験において95%の分類精度を実現する。
関連論文リスト
- Discovering Preference Optimization Algorithms with and for Large Language Models [50.843710797024805]
オフライン優先最適化は、LLM(Large Language Model)出力の品質を向上・制御するための重要な手法である。
我々は、人間の介入なしに、新しい最先端の選好最適化アルゴリズムを自動で発見する客観的発見を行う。
実験は、ロジスティックと指数的損失を適応的にブレンドする新しいアルゴリズムであるDiscoPOPの最先端性能を示す。
論文 参考訳（メタデータ） (2024-06-12T16:58:41Z) - Representation Learning with Multi-Step Inverse Kinematics: An Efficient
and Optimal Approach to Rich-Observation RL [106.82295532402335]
既存の強化学習アルゴリズムは、計算的難易度、強い統計的仮定、最適なサンプルの複雑さに悩まされている。
所望の精度レベルに対して、レート最適サンプル複雑性を実現するための、最初の計算効率の良いアルゴリズムを提供する。
我々のアルゴリズムMusIKは、多段階の逆運動学に基づく表現学習と体系的な探索を組み合わせる。
論文 参考訳（メタデータ） (2023-04-12T14:51:47Z) - Experience in Engineering Complex Systems: Active Preference Learning
with Multiple Outcomes and Certainty Levels [1.5257326975704795]
ブラックボックス最適化とは、目的関数と/または制約集合が未知、到達不能、あるいは存在しない問題を指す。
この特定の情報を活用するために、いわゆるActive Preference Learningと呼ばれるアルゴリズムが開発された。
我々のアプローチは、さらなる情報を効果的に活用できるような方法でアルゴリズムを拡張することを目的としている。
論文 参考訳（メタデータ） (2023-02-27T15:55:37Z) - Improved Algorithms for Neural Active Learning [74.89097665112621]
非パラメトリックストリーミング設定のためのニューラルネットワーク(NN)ベースの能動学習アルゴリズムの理論的および経験的性能を改善する。
本研究では,SOTA(State-of-the-art (State-the-art)) 関連研究で使用されるものよりも,アクティブラーニングに適する人口減少を最小化することにより,2つの後悔の指標を導入する。
論文 参考訳（メタデータ） (2022-10-02T05:03:38Z) - Efficient Non-Parametric Optimizer Search for Diverse Tasks [93.64739408827604]
興味のあるタスクを直接検索できる,スケーラブルで汎用的なフレームワークを初めて提示する。
基礎となる数学表現の自然木構造に着想を得て、空間を超木に再配置する。
我々は,モンテカルロ法を木探索に適用し,レジェクションサンプリングと等価形状検出を備える。
論文 参考訳（メタデータ） (2022-09-27T17:51:31Z) - Per-run Algorithm Selection with Warm-starting using Trajectory-based
Features [5.073358743426584]
インスタンスごとのアルゴリズム選択は、与えられた問題の場合、1つまたは複数の適切なアルゴリズムを推奨する。
提案手法は,実行毎のアルゴリズム選択を行うオンラインアルゴリズム選択方式を提案する。
提案手法は静的なインスタンスごとのアルゴリズム選択よりも優れていることを示す。
論文 参考訳（メタデータ） (2022-04-20T14:30:42Z) - Bayesian Algorithm Execution: Estimating Computable Properties of
Black-box Functions Using Mutual Information [78.78486761923855]
多くの現実世界では、T関数の評価の予算を考えると、高価なブラックボックス関数 f の性質を推測したい。
本稿では,アルゴリズムの出力に対して相互情報を最大化するクエリを逐次選択する手法InfoBAXを提案する。
これらの問題に対してInfoBAXは、元のアルゴリズムで要求されるより500倍少ないクエリをfに使用する。
論文 参考訳（メタデータ） (2021-04-19T17:22:11Z) - Meta Learning Black-Box Population-Based Optimizers [0.0]
人口ベースのブラックボックス一般化を推論するメタラーニングの利用を提案する。
メタロス関数は,学習アルゴリズムが検索動作を変更することを促進し,新たなコンテキストに容易に適合できることを示す。
論文 参考訳（メタデータ） (2021-03-05T08:13:25Z) - Towards Feature-Based Performance Regression Using Trajectory Data [0.9281671380673306]
ブラックボックス最適化は非常に活発な研究領域であり、毎年多くの新しいアルゴリズムが開発されている。
アルゴリズムの多様性はメタプロブレム(メタプロブレム):どのアルゴリズムが与えられた問題を選択するか?
過去の研究では、探索ランドスケープ分析に基づくインスタンスごとのアルゴリズム選択が、このメタプロブレムに取り組むための効率的な手段であることが示されている。
論文 参考訳（メタデータ） (2021-02-10T10:19:13Z) - Landscape-Aware Fixed-Budget Performance Regression and Algorithm
Selection for Modular CMA-ES Variants [1.0965065178451106]
市販の教師あり学習手法を用いて,高品質な性能予測が可能であることを示す。
このアプローチを,モジュール型CMA-ESアルゴリズム群から選択した,非常に類似したアルゴリズムのポートフォリオ上でテストする。
論文 参考訳（メタデータ） (2020-06-17T13:34:57Z) - Stepwise Model Selection for Sequence Prediction via Deep Kernel
Learning [100.83444258562263]
本稿では,モデル選択の課題を解決するために,新しいベイズ最適化(BO)アルゴリズムを提案する。
結果として得られる複数のブラックボックス関数の最適化問題を協調的かつ効率的に解くために,ブラックボックス関数間の潜在的な相関を利用する。
我々は、シーケンス予測のための段階的モデル選択(SMS)の問題を初めて定式化し、この目的のために効率的な共同学習アルゴリズムを設計し、実証する。
論文 参考訳（メタデータ） (2020-01-12T09:42:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。