論文の概要: Hybridizing Target- and SHAP-encoded Features for Algorithm Selection in Mixed-variable Black-box Optimization

• arxiv url: http://arxiv.org/abs/2407.07439v1
• Date: Wed, 10 Jul 2024 07:47:31 GMT
• ステータス: 処理完了
• システム内更新日: 2024-07-11 17:31:45.664971
• Title: Hybridizing Target- and SHAP-encoded Features for Algorithm Selection in Mixed-variable Black-box Optimization
• Title（参考訳）: 混合可変ブラックボックス最適化におけるアルゴリズム選択のためのターゲットとSHAPのハイブリッド化
• Authors: Konstantin Dietrich, Raphael Patrick Prager, Carola Doerr, Heike Trautmann,
• Abstract要約: ELAは問題理解、アルゴリズム設計、自動アルゴリズムの選択や設定などのアプリケーションに使われている。 最近まで、ERAは連続変数または離散変数を持つ探索空間に限られており、混合変数の問題を無視していた。 このギャップは、ターゲットエンコーディングに基づくアプローチを用いて、混合問題に対する探索的な景観特徴を計算する最近の研究で解決された。
• 参考スコア（独自算出の注目度）: 0.9049664874474738
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Exploratory landscape analysis (ELA) is a well-established tool to characterize optimization problems via numerical features. ELA is used for problem comprehension, algorithm design, and applications such as automated algorithm selection and configuration. Until recently, however, ELA was limited to search spaces with either continuous or discrete variables, neglecting problems with mixed variable types. This gap was addressed in a recent study that uses an approach based on target-encoding to compute exploratory landscape features for mixedvariable problems. In this work, we investigate an alternative encoding scheme based on SHAP values. While these features do not lead to better results in the algorithm selection setting considered in previous work, the two different encoding mechanisms exhibit complementary performance. Combining both feature sets into a hybrid approach outperforms each encoding mechanism individually. Finally, we experiment with two different ways of meta-selecting between the two feature sets. Both approaches are capable of taking advantage of the performance complementarity of the models trained on target-encoded and SHAP-encoded feature sets, respectively.
• Abstract（参考訳）: 探索ランドスケープ解析(ELA)は,数値的特徴により最適化問題を特徴づけるツールである。 ELAは問題理解、アルゴリズム設計、自動アルゴリズムの選択や設定などのアプリケーションに使われている。 しかし最近まで、ERAは連続変数または離散変数を持つ探索空間に限られており、混合変数の問題を無視していた。 このギャップは、ターゲットエンコーディングに基づくアプローチを用いて、混合変数問題に対する探索的景観特徴を計算する最近の研究で解決された。 本研究では,SHAP値に基づく代替符号化方式について検討する。 これらの特徴は、以前の研究で考慮されたアルゴリズム選択設定において、より良い結果をもたらすものではないが、2つの異なる符号化機構は相補的な性能を示す。 両方の機能セットをハイブリッドなアプローチに組み合わせることで、各エンコーディングメカニズムを個別にパフォーマンスが向上する。 最後に,2つの特徴集合間のメタ選択方法について実験を行った。 どちらのアプローチも、ターゲット符号化された特徴セットとSHAP符号化された特徴セットで訓練されたモデルのパフォーマンスの相補性を利用することができる。

関連論文リスト

• Exploratory Landscape Analysis for Mixed-Variable Problems [0.7252027234425334]
  決定空間が連続変数、バイナリ変数、整数変数、カテゴリー変数の混合である混合変数問題に対する探索的景観特徴を計算する手段を提供する。 実用化のためのメリットをさらに強調するため,自動アルゴリズム選択研究を設計・実施する。 トレーニングされたアルゴリズムセレクタは、すべてのベンチマーク問題に対して、単一のベストと仮想ベストのギャップを57.5%縮めることができる。
  論文  参考訳（メタデータ） (2024-02-26T10:19:23Z)
• Global and Preference-based Optimization with Mixed Variables using Piecewise Affine Surrogates [1.30536490219656]
  本稿では,線形制約付き混合変数問題の解法として,新しいサロゲートに基づく大域的最適化アルゴリズムを提案する。 本稿では,2種類の探索関数を導入し,混合整数線形計画解法を用いて実現可能な領域を効率的に探索する。 提案アルゴリズムは,既存の手法よりもよく,あるいは同等の結果が得られることが多い。
  論文  参考訳（メタデータ） (2023-02-09T15:04:35Z)
• Tree ensemble kernels for Bayesian optimization with known constraints over mixed-feature spaces [54.58348769621782]
  木アンサンブルはアルゴリズムチューニングやニューラルアーキテクチャ検索といったブラックボックス最適化タスクに適している。 ブラックボックス最適化にツリーアンサンブルを使うことの2つのよく知られた課題は、探索のためのモデル不確実性を効果的に定量化し、また、 (ii) ピースワイドな定値取得関数を最適化することである。 我々のフレームワークは、連続/離散的機能に対する非拘束ブラックボックス最適化のための最先端の手法と同様に、混合変数の特徴空間と既知の入力制約を組み合わせた問題の競合する手法よりも優れている。
  論文  参考訳（メタデータ） (2022-07-02T16:59:37Z)
• Fair Feature Subset Selection using Multiobjective Genetic Algorithm [0.0]
  フェアネスと精度を両立させる特徴部分選択手法を提案する。 モデル性能の指標としてF1-Scoreを用いる。 最も一般的なフェアネスベンチマークデータセットの実験では、進化的アルゴリズムを用いることで、フェアネスと精度のトレードオフを効果的に探索できることが示されている。
  論文  参考訳（メタデータ） (2022-04-30T22:51:19Z)
• A survey on multi-objective hyperparameter optimization algorithms for Machine Learning [62.997667081978825]
  本稿では,多目的HPOアルゴリズムに関する2014年から2020年にかけての文献を体系的に調査する。 メタヒューリスティック・ベース・アルゴリズムとメタモデル・ベース・アルゴリズム,および両者を混合したアプローチを区別する。 また,多目的HPO法と今後の研究方向性を比較するための品質指標についても論じる。
  論文  参考訳（メタデータ） (2021-11-23T10:22:30Z)
• Landscape-Aware Fixed-Budget Performance Regression and Algorithm Selection for Modular CMA-ES Variants [1.0965065178451106]
  市販の教師あり学習手法を用いて,高品質な性能予測が可能であることを示す。 このアプローチを,モジュール型CMA-ESアルゴリズム群から選択した,非常に類似したアルゴリズムのポートフォリオ上でテストする。
  論文  参考訳（メタデータ） (2020-06-17T13:34:57Z)
• Objective-Sensitive Principal Component Analysis for High-Dimensional Inverse Problems [0.0]
  本稿では,大規模乱数場の適応的,微分可能なパラメータ化手法を提案する。 開発した手法は主成分分析(PCA)に基づくが,目的関数の振る舞いを考慮した主成分の純粋にデータ駆動に基づく基礎を変更する。 最適パラメータ分解のための3つのアルゴリズムを2次元合成履歴マッチングの目的に適用した。
  論文  参考訳（メタデータ） (2020-06-02T18:51:17Z)
• Pairwise Supervised Hashing with Bernoulli Variational Auto-Encoder and Self-Control Gradient Estimator [62.26981903551382]
  バイナリ潜在変数を持つ変分自動エンコーダ(VAE)は、文書検索の精度の観点から最先端のパフォーマンスを提供する。 本稿では、クラス内類似度とクラス間類似度に報いるために、個別潜伏型VAEを用いたペアワイズ損失関数を提案する。 この新しいセマンティックハッシュフレームワークは、最先端技術よりも優れたパフォーマンスを実現する。
  論文  参考訳（メタデータ） (2020-05-21T06:11:33Z)
• Discovering Representations for Black-box Optimization [73.59962178534361]
  ブラックボックス最適化符号化は手作業で行うのではなく,自動的に学習可能であることを示す。 学習された表現は、標準的なMAP-Elitesよりも桁違いに少ない評価で高次元の問題を解くことができることを示す。
  論文  参考訳（メタデータ） (2020-03-09T20:06:20Z)
• Extreme Algorithm Selection With Dyadic Feature Representation [78.13985819417974]
  我々は,数千の候補アルゴリズムの固定セットを考慮に入れた,極端なアルゴリズム選択(XAS)の設定を提案する。 我々は、XAS設定に対する最先端のAS技術の適用性を評価し、Dyadic特徴表現を利用したアプローチを提案する。
  論文  参考訳（メタデータ） (2020-01-29T09:40:58Z)
• Stepwise Model Selection for Sequence Prediction via Deep Kernel Learning [100.83444258562263]
  本稿では,モデル選択の課題を解決するために,新しいベイズ最適化(BO)アルゴリズムを提案する。 結果として得られる複数のブラックボックス関数の最適化問題を協調的かつ効率的に解くために,ブラックボックス関数間の潜在的な相関を利用する。 我々は、シーケンス予測のための段階的モデル選択(SMS)の問題を初めて定式化し、この目的のために効率的な共同学習アルゴリズムを設計し、実証する。
  論文  参考訳（メタデータ） (2020-01-12T09:42:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。