論文の概要: Towards Explainable Exploratory Landscape Analysis: Extreme Feature
Selection for Classifying BBOB Functions
- arxiv url: http://arxiv.org/abs/2102.00736v1
- Date: Mon, 1 Feb 2021 10:04:28 GMT
- ステータス: 処理完了
- システム内更新日: 2021-02-04 10:09:37.795192
- Title: Towards Explainable Exploratory Landscape Analysis: Extreme Feature
Selection for Classifying BBOB Functions
- Title（参考訳）: 説明可能なランドスケープ解析に向けて:BBOB関数の極端特徴選択
- Authors: Quentin Renau, Johann Dreo, Carola Doerr and Benjamin Doerr
- Abstract要約: 驚くほど少数の機能(多くの場合4つ未満)が、98%の精度を達成するのに十分であることを示している。
分類精度は、いくつかのインスタンスがトレーニングやテストに関わっている設定に変換されることを示す。
- 参考スコア（独自算出の注目度）: 4.932130498861987
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Facilitated by the recent advances of Machine Learning (ML), the automated
design of optimization heuristics is currently shaking up evolutionary
computation (EC). Where the design of hand-picked guidelines for choosing a
most suitable heuristic has long dominated research activities in the field,
automatically trained heuristics are now seen to outperform human-derived
choices even for well-researched optimization tasks. ML-based EC is therefore
not any more a futuristic vision, but has become an integral part of our
community.
A key criticism that ML-based heuristics are often faced with is their
potential lack of explainability, which may hinder future developments. This
applies in particular to supervised learning techniques which extrapolate
algorithms' performance based on exploratory landscape analysis (ELA). In such
applications, it is not uncommon to use dozens of problem features to build the
models underlying the specific algorithm selection or configuration task. Our
goal in this work is to analyze whether this many features are indeed needed.
Using the classification of the BBOB test functions as testbed, we show that a
surprisingly small number of features -- often less than four -- can suffice to
achieve a 98\% accuracy. Interestingly, the number of features required to meet
this threshold is found to decrease with the problem dimension. We show that
the classification accuracy transfers to settings in which several instances
are involved in training and testing. In the leave-one-instance-out setting,
however, classification accuracy drops significantly, and the
transformation-invariance of the features becomes a decisive success factor.
- Abstract（参考訳）: 最近の機械学習(ML)の進歩により、最適化ヒューリスティックスの自動設計が現在、進化計算(EC)を揺るがしている。
もっとも適したヒューリスティックを選ぶための手書きのガイドラインの設計がこの分野の研究活動を支配してきたのに対し、自動訓練されたヒューリスティックは、よく研究された最適化タスクにおいても、人間由来の選択肢よりも優れていた。
したがって、MLベースのECはもはや未来的なビジョンではありませんが、コミュニティの不可欠な部分になっています。
MLベースのヒューリスティックがしばしば直面する重要な批判は、将来の開発を妨げる可能性のある説明可能性の潜在的な不足である。
これは特に探索的ランドスケープ分析(ELA)に基づいてアルゴリズムのパフォーマンスを外挿する教師付き学習技術に当てはまります。
このようなアプリケーションでは、特定のアルゴリズム選択または構成タスクの基礎となるモデルを構築するために多数の問題機能を使用することは珍しくありません。
この作業の目標は、この多数の機能が本当に必要かどうかを分析することです。
BBOBテスト関数をテストベッドとして分類することで、驚くほど少数の機能(通常は4つ未満)が、98%の精度を達成するのに十分であることを示す。
興味深いことに、このしきい値を満たすのに必要な機能の数は問題次元とともに減少する。
分類精度は,複数のインスタンスがトレーニングやテストに関与している設定に転移することを示す。
しかし, 離間ワンインスタンスアウト設定では分類精度が著しく低下し, 特徴の変換不変性が決定的な成功要因となる。
関連論文リスト
- Machine learning meets the CHSH scenario [0.0]
機械学習(ML)アプローチの有用性と有効性を評価することに注力する。
我々は、単純なデータサイエンスモデルから高密度ニューラルネットワークまで、幅広いアプローチを検討します。
我々は、平均して良いパフォーマンスを達成することは比較的容易であるが、"ハード"ケースでうまく機能するモデルを訓練することは困難である、と結論付けている。
論文 参考訳（メタデータ） (2024-07-19T15:16:31Z) - LLM-Select: Feature Selection with Large Language Models [64.5099482021597]
大規模言語モデル(LLM)は、データサイエンスの標準ツールに匹敵するパフォーマンスで、最も予測可能な機能を選択することができる。
以上の結果から,LSMはトレーニングに最適な機能を選択するだけでなく,そもそもどの機能を収集すべきかを判断する上でも有用である可能性が示唆された。
論文 参考訳（メタデータ） (2024-07-02T22:23:40Z) - Leaving the Nest: Going Beyond Local Loss Functions for
Predict-Then-Optimize [57.22851616806617]
本手法は,文献から得られた4つの領域において,最先端の成果が得られることを示す。
提案手法は, 局所性仮定が破られた場合, 既存手法よりも200%近く性能が向上する。
論文 参考訳（メタデータ） (2023-05-26T11:17:45Z) - Representation Learning with Multi-Step Inverse Kinematics: An Efficient
and Optimal Approach to Rich-Observation RL [106.82295532402335]
既存の強化学習アルゴリズムは、計算的難易度、強い統計的仮定、最適なサンプルの複雑さに悩まされている。
所望の精度レベルに対して、レート最適サンプル複雑性を実現するための、最初の計算効率の良いアルゴリズムを提供する。
我々のアルゴリズムMusIKは、多段階の逆運動学に基づく表現学習と体系的な探索を組み合わせる。
論文 参考訳（メタデータ） (2023-04-12T14:51:47Z) - DoE2Vec: Deep-learning Based Features for Exploratory Landscape Analysis [0.0]
本研究では,地形特性を最適化するための変分オートエンコーダ(VAE)に基づく手法であるDoE2Vecを提案する。
古典的な探索的景観解析(ELA)法とは異なり,本手法では特徴工学は必要としない。
検証のために、潜伏再構成の品質を検査し、異なる実験を用いて潜伏表現を解析する。
論文 参考訳（メタデータ） (2023-03-31T09:38:44Z) - FAStEN: An Efficient Adaptive Method for Feature Selection and Estimation in High-Dimensional Functional Regressions [7.674715791336311]
本稿では,スパース関数オン・ファンクション回帰問題において特徴選択を行うための,新しい,柔軟な,超効率的なアプローチを提案する。
我々はそれをスカラー・オン・ファンクション・フレームワークに拡張する方法を示す。
AOMIC PIOP1による脳MRIデータへの応用について述べる。
論文 参考訳（メタデータ） (2023-03-26T19:41:17Z) - RF+clust for Leave-One-Problem-Out Performance Prediction [0.9281671380673306]
本稿では,LOPO(Left-one-problem-out)のパフォーマンス予測について検討する。
我々は、標準ランダムフォレスト(RF)モデル予測が性能値の重み付き平均値で校正することで改善できるかどうかを解析する。
論文 参考訳（メタデータ） (2023-01-23T16:14:59Z) - Meta-Wrapper: Differentiable Wrapping Operator for User Interest
Selection in CTR Prediction [97.99938802797377]
クリックスルー率(CTR)予測は、ユーザーが商品をクリックする確率を予測することを目的としており、リコメンデーションシステムにおいてますます重要になっている。
近年,ユーザの行動からユーザの興味を自動的に抽出する深層学習モデルが大きな成功を収めている。
そこで我々は,メタラッパー(Meta-Wrapper)と呼ばれるラッパー手法の枠組みに基づく新しい手法を提案する。
論文 参考訳（メタデータ） (2022-06-28T03:28:15Z) - Few-shot Quality-Diversity Optimization [50.337225556491774]
品質多様性(QD)の最適化は、強化学習における知覚的最小値とスパース報酬を扱う上で効果的なツールであることが示されている。
本稿では,タスク分布の例から,パラメータ空間の最適化によって得られる経路の情報を利用して,未知の環境でQD手法を初期化する場合,数発の適応が可能であることを示す。
ロボット操作とナビゲーションベンチマークを用いて、疎密な報酬設定と密集した報酬設定の両方で実施された実験は、これらの環境でのQD最適化に必要な世代数を著しく削減することを示している。
論文 参考訳（メタデータ） (2021-09-14T17:12:20Z) - Gone Fishing: Neural Active Learning with Fisher Embeddings [55.08537975896764]
ディープニューラルネットワークと互換性のあるアクティブな学習アルゴリズムの必要性が高まっている。
本稿では,ニューラルネットワークのための抽出可能かつ高性能な能動学習アルゴリズムBAITを紹介する。
論文 参考訳（メタデータ） (2021-06-17T17:26:31Z) - Feature Selection for Huge Data via Minipatch Learning [0.0]
安定ミニパッチ選択(STAMPS)と適応STAMPSを提案する。
STAMPSは、データの観測と特徴の両方の小さな(適応性の高い)ランダムなサブセットに基づいて訓練された基本特徴セレクタの選択イベントのアンサンブルを構築するメタアルゴリズムである。
われわれのアプローチは一般的であり、様々な機能選択戦略や機械学習技術に応用できる。
論文 参考訳（メタデータ） (2020-10-16T17:41:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。