論文の概要: Fast Genetic Algorithm for feature selection -- A qualitative approximation approach
- arxiv url: http://arxiv.org/abs/2404.03996v1
- Date: Fri, 5 Apr 2024 10:15:24 GMT
- ステータス: 処理完了
- システム内更新日: 2024-04-08 16:24:44.858740
- Title: Fast Genetic Algorithm for feature selection -- A qualitative approximation approach
- Title（参考訳）: 特徴選択のための高速遺伝的アルゴリズム --質的近似アプローチ
- Authors: Mohammed Ghaith Altarabichi, Sławomir Nowaczyk, Sepideh Pashami, Peyman Sheikholharam Mashhadi,
- Abstract要約: 本稿では,遺伝的アルゴリズム(GA)を特徴選択に用いることによって生じる計算問題に対処するための,2段階の代理支援進化的アプローチを提案する。
我々はCHCQXがより高速に収束し、特に100K以上のインスタンスを持つ大規模データセットにおいて、非常に高い精度でサブセットソリューションを特徴付けることを示した。
- 参考スコア（独自算出の注目度）: 5.279268784803583
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Evolutionary Algorithms (EAs) are often challenging to apply in real-world settings since evolutionary computations involve a large number of evaluations of a typically expensive fitness function. For example, an evaluation could involve training a new machine learning model. An approximation (also known as meta-model or a surrogate) of the true function can be used in such applications to alleviate the computation cost. In this paper, we propose a two-stage surrogate-assisted evolutionary approach to address the computational issues arising from using Genetic Algorithm (GA) for feature selection in a wrapper setting for large datasets. We define 'Approximation Usefulness' to capture the necessary conditions to ensure correctness of the EA computations when an approximation is used. Based on this definition, we propose a procedure to construct a lightweight qualitative meta-model by the active selection of data instances. We then use a meta-model to carry out the feature selection task. We apply this procedure to the GA-based algorithm CHC (Cross generational elitist selection, Heterogeneous recombination and Cataclysmic mutation) to create a Qualitative approXimations variant, CHCQX. We show that CHCQX converges faster to feature subset solutions of significantly higher accuracy (as compared to CHC), particularly for large datasets with over 100K instances. We also demonstrate the applicability of the thinking behind our approach more broadly to Swarm Intelligence (SI), another branch of the Evolutionary Computation (EC) paradigm with results of PSOQX, a qualitative approximation adaptation of the Particle Swarm Optimization (PSO) method. A GitHub repository with the complete implementation is available.
- Abstract（参考訳）: 進化的アルゴリズム(EA)は、一般的に高価なフィットネス関数の多くの評価を含むため、現実の環境で適用することがしばしば困難である。
例えば、評価には新しい機械学習モデルのトレーニングが含まれる可能性がある。
真の関数の近似(メタモデルまたはサロゲートとも呼ばれる)は、計算コストを軽減するためにそのようなアプリケーションで使用できる。
本稿では,大規模データセットのラッパー設定において,遺伝的アルゴリズム(GA)を特徴選択に用いることによって生じる計算問題に対処する,2段階のサロゲート支援進化的アプローチを提案する。
我々は,近似を用いた場合のEA計算の正確性を確保するために,必要な条件を捉えるために「近似有用性」を定義した。
この定義に基づいて,データインスタンスのアクティブな選択により,軽量な定性的メタモデルを構築する手法を提案する。
次に、メタモデルを使用して機能選択タスクを実行します。
この手法をGAベースのアルゴリズムCHC(Cross Generational Elitist selection, Heterogeneous Recombination and Cataclysmic mutation)に適用し、定性近似変種CHCQXを作成する。
我々はCHCQXがより高速に収束し、特に100K以上のインスタンスを持つ大規模データセットに対して、非常に高い精度(CHCと比較して)のサブセットソリューションを特徴付けることを示した。
また、進化計算(EC)パラダイムのもう1つの分野であるSwarm Intelligence(SI)に対して、PSOQX(Particle Swarm Optimization(PSO)法を定性的に近似したPSOQX)により、我々のアプローチの背後にある思考の適用性をより広く示す。
完全な実装を備えたGitHubリポジトリが利用可能だ。
関連論文リスト
- Simulation-based optimization of a production system topology -- a
neural network-assisted genetic algorithm [0.0]
遺伝的アルゴリズム(GA)を用いた生産システムのトポロジー最適化のための新しい手法を提案する
GAの拡張では、ニューラルネットワークがシミュレーションの代理モデルとして機能する。
どちらの手法も、産業環境で最適解を見つけるのに効果的である。
論文 参考訳（メタデータ） (2024-02-02T15:52:10Z) - Benchmarking Differential Evolution on a Quantum Simulator [0.0]
微分進化(DE)はラストリギン関数やローゼンブロック関数などの関数の最小値を計算するために用いられる。
この研究は、古典的チューリングモデル計算で生成される候補個体を用いて、これらの関数にDE法を適用した結果の研究である。
論文 参考訳（メタデータ） (2023-11-06T14:27:00Z) - Federated Conditional Stochastic Optimization [110.513884892319]
条件付き最適化は、不変学習タスク、AUPRC、AMLなど、幅広い機械学習タスクで見られる。
本稿では,分散フェデレーション学習のためのアルゴリズムを提案する。
論文 参考訳（メタデータ） (2023-10-04T01:47:37Z) - Sparse high-dimensional linear regression with a partitioned empirical
Bayes ECM algorithm [62.997667081978825]
疎高次元線形回帰に対する計算効率が高く強力なベイズ的手法を提案する。
パラメータに関する最小の事前仮定は、プラグイン経験的ベイズ推定(英語版)を用いて用いられる。
提案手法はRパッケージプローブに実装されている。
論文 参考訳（メタデータ） (2022-09-16T19:15:50Z) - HyperImpute: Generalized Iterative Imputation with Automatic Model
Selection [77.86861638371926]
カラムワイズモデルを適応的かつ自動的に構成するための一般化反復計算フレームワークを提案する。
既製の学習者,シミュレータ,インターフェースを備えた具体的な実装を提供する。
論文 参考訳（メタデータ） (2022-06-15T19:10:35Z) - Surrogate modeling for Bayesian optimization beyond a single Gaussian
process [62.294228304646516]
本稿では,探索空間の活用と探索のバランスをとるための新しいベイズ代理モデルを提案する。
拡張性のある関数サンプリングを実現するため、GPモデル毎にランダムな特徴ベースのカーネル近似を利用する。
提案した EGP-TS を大域的最適に収束させるため,ベイズ的後悔の概念に基づいて解析を行う。
論文 参考訳（メタデータ） (2022-05-27T16:43:10Z) - Fast Feature Selection with Fairness Constraints [49.142308856826396]
モデル構築における最適特徴の選択に関する基礎的問題について検討する。
この問題は、greedyアルゴリズムの変種を使用しても、大規模なデータセットで計算的に困難である。
適応クエリモデルは,最近提案された非モジュラー関数に対する直交整合探索のより高速なパラダイムに拡張する。
提案アルゴリズムは、適応型クエリモデルにおいて指数関数的に高速な並列実行を実現する。
論文 参考訳（メタデータ） (2022-02-28T12:26:47Z) - Surrogate-Assisted Genetic Algorithm for Wrapper Feature Selection [4.89253144446913]
複数レベルの近似やサロゲートを利用する新しい多段階特徴選択フレームワークを提案する。
実験の結果, SAGAはラッパーGAの3倍の速度で, ほぼ最適解に到達できることがわかった。
論文 参考訳（メタデータ） (2021-11-17T12:33:18Z) - A Nature-Inspired Feature Selection Approach based on Hypercomplex
Information [4.733222697135021]
超複合機能選択にメタヒューリスティック最適化フレームワークを導入する。
目的とする超複素特徴選択は、いくつかのメタヒューリスティックアルゴリズムと超複素表現に対してテストされる。
提案手法によって得られた良い結果は,特徴選択研究において有望なツールとなる。
論文 参考訳（メタデータ） (2021-01-14T15:05:13Z) - AdaLead: A simple and robust adaptive greedy search algorithm for
sequence design [55.41644538483948]
我々は、容易で、拡張性があり、堅牢な進化的欲求アルゴリズム(AdaLead)を開発した。
AdaLeadは、様々な生物学的に動機づけられたシーケンスデザインの課題において、アートアプローチのより複雑な状態を克服する、驚くほど強力なベンチマークである。
論文 参考訳（メタデータ） (2020-10-05T16:40:38Z) - GeneCAI: Genetic Evolution for Acquiring Compact AI [36.04715576228068]
ディープニューラルネットワーク(DNN)は、より高い推論精度を達成するために、より複雑なアーキテクチャへと進化している。
モデル圧縮技術は、リソース制限されたモバイルデバイスにそのような計算集約的なアーキテクチャを効率的に展開するために利用することができる。
本稿では,階層ごとの圧縮ハイパーパラメータのチューニング方法を自動的に学習する新しい最適化手法であるGeneCAIを紹介する。
論文 参考訳（メタデータ） (2020-04-08T20:56:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。