論文の概要: A First Look at Kolmogorov-Arnold Networks in Surrogate-assisted Evolutionary Algorithms
- arxiv url: http://arxiv.org/abs/2405.16494v1
- Date: Sun, 26 May 2024 09:12:44 GMT
- ステータス: 処理完了
- システム内更新日: 2024-05-28 20:58:51.618403
- Title: A First Look at Kolmogorov-Arnold Networks in Surrogate-assisted Evolutionary Algorithms
- Title(参考訳): 代理支援進化アルゴリズムにおけるコルモゴロフ・アルノルドネットワークの一考察
- Authors: Hao Hao, Xiaoqun Zhang, Bingdong Li, Aimin Zhou,
- Abstract要約: サロゲート支援進化アルゴリズム(SAEA)は高価な問題を解決するための重要な手法である。
本稿では,SAEA内の代理モデルとしてKAN(Kolmogorov-Arnold Networks)を紹介する。
KansはSAEA内での賞賛可能なパフォーマンスを示し、関数呼び出しの数を効果的に減らし、最適化効率を向上する。
- 参考スコア(独自算出の注目度): 5.198324938447394
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Surrogate-assisted Evolutionary Algorithm (SAEA) is an essential method for solving expensive expensive problems. Utilizing surrogate models to substitute the optimization function can significantly reduce reliance on the function evaluations during the search process, thereby lowering the optimization costs. The construction of surrogate models is a critical component in SAEAs, with numerous machine learning algorithms playing a pivotal role in the model-building phase. This paper introduces Kolmogorov-Arnold Networks (KANs) as surrogate models within SAEAs, examining their application and effectiveness. We employ KANs for regression and classification tasks, focusing on the selection of promising solutions during the search process, which consequently reduces the number of expensive function evaluations. Experimental results indicate that KANs demonstrate commendable performance within SAEAs, effectively decreasing the number of function calls and enhancing the optimization efficiency. The relevant code is publicly accessible and can be found in the GitHub repository.
- Abstract(参考訳): サロゲート支援進化アルゴリズム(SAEA)は高価な問題を解くための重要な手法である。
シュロゲートモデルを用いて最適化関数を置換することにより、探索過程における関数評価への依存を著しく低減し、最適化コストを低減できる。
代理モデルの構築はSAEAにおいて重要な要素であり、モデル構築フェーズにおいて多くの機械学習アルゴリズムが重要な役割を果たしている。
本稿では,SAEA内の代理モデルとしてKAN(Kolmogorov-Arnold Networks)を導入し,その応用と有効性について検討する。
我々は,検索過程において期待できる解の選択に焦点をあてて,回帰処理や分類処理にkanを用いており,その結果,高価な関数評価の回数を減らすことができる。
実験結果から,ANはSAEA内でのコメンタブルな性能を示し,関数呼び出し数を効果的に削減し,最適化効率を向上することが示唆された。
関連するコードは公開されており、GitHubリポジトリで見ることができる。
関連論文リスト
- Large Language Models as Surrogate Models in Evolutionary Algorithms: A Preliminary Study [5.6787965501364335]
サロゲートアシスト選択は、高価な最適化問題を解決する進化アルゴリズムの中核的なステップである。
伝統的に、これは従来の機械学習手法に依存しており、過去の評価を利用して新しいソリューションの性能を予測する。
本研究では,LLM推論機能に基づいた新しいサロゲートモデルを提案する。
論文 参考訳(メタデータ) (2024-06-15T15:54:00Z) - Enhancing SAEAs with Unevaluated Solutions: A Case Study of Relation
Model for Expensive Optimization [6.382398222493027]
本稿では,SAEAの効率を高めるために,未評価解を用いた枠組みを提案する。
代理モデルを用いて、評価無しに新しい解を直接生成するための高品質な解を同定する。
論文 参考訳(メタデータ) (2023-09-21T12:09:55Z) - Improving Sample Efficiency of Model-Free Algorithms for Zero-Sum Markov Games [66.2085181793014]
モデルフリーのステージベースQ-ラーニングアルゴリズムはモデルベースアルゴリズムと同じ$H$依存の最適性を享受できることを示す。
本アルゴリズムは,楽観的値関数と悲観的値関数のペアとして参照値関数を更新するキーとなる新しい設計を特徴とする。
論文 参考訳(メタデータ) (2023-08-17T08:34:58Z) - Efficient Model-Free Exploration in Low-Rank MDPs [76.87340323826945]
低ランクマルコフ決定プロセスは、関数近似を持つRLに対して単純だが表現力のあるフレームワークを提供する。
既存のアルゴリズムは、(1)計算的に抽出可能であるか、または(2)制限的な統計的仮定に依存している。
提案手法は,低ランクMPPの探索のための最初の実証可能なサンプル効率アルゴリズムである。
論文 参考訳(メタデータ) (2023-07-08T15:41:48Z) - Promises and Pitfalls of the Linearized Laplace in Bayesian Optimization [73.80101701431103]
線形化ラプラス近似(LLA)はベイズニューラルネットワークの構築に有効で効率的であることが示されている。
ベイズ最適化におけるLLAの有用性について検討し,その性能と柔軟性を強調した。
論文 参考訳(メタデータ) (2023-04-17T14:23:43Z) - Exploring the effectiveness of surrogate-assisted evolutionary
algorithms on the batch processing problem [0.0]
本稿では,文献におけるよく知られたバッチ処理問題のシミュレーションを紹介する。
遺伝的アルゴリズム(GA)や微分進化(DE)といった進化的アルゴリズムを用いてシミュレーションの最適なスケジュールを見つける。
次に、サロゲート支援されたアルゴリズムによって得られる解の質を、ベースラインアルゴリズムと比較する。
論文 参考訳(メタデータ) (2022-10-31T09:00:39Z) - Improved Algorithms for Neural Active Learning [74.89097665112621]
非パラメトリックストリーミング設定のためのニューラルネットワーク(NN)ベースの能動学習アルゴリズムの理論的および経験的性能を改善する。
本研究では,SOTA(State-of-the-art (State-the-art)) 関連研究で使用されるものよりも,アクティブラーニングに適する人口減少を最小化することにより,2つの後悔の指標を導入する。
論文 参考訳(メタデータ) (2022-10-02T05:03:38Z) - Lipschitz-based Surrogate Model for High-dimensional Computationally
Expensive Problems [0.0]
代理支援進化アルゴリズム (SAEA) は近年, 探索能力により注目されている。
本稿では,コスト対計算対象関数のリプシッツ過小評価に基づく新しいサロゲートモデルを提案する。
また,リプシッツに基づく代理モデルを用いた微分進化に基づくアルゴリズムを開発した。
論文 参考訳(メタデータ) (2022-04-29T17:07:34Z) - RoMA: Robust Model Adaptation for Offline Model-based Optimization [115.02677045518692]
入力出力クエリの静的データセットからブラックボックス目的関数を最大化する入力を探索する問題を考える。
この問題を解決するための一般的なアプローチは、真の客観的関数を近似するプロキシモデルを維持することである。
ここでの大きな課題は、検索中に逆最適化された入力を避ける方法である。
論文 参考訳(メタデータ) (2021-10-27T05:37:12Z) - Automatically Learning Compact Quality-aware Surrogates for Optimization
Problems [55.94450542785096]
未知パラメータで最適化問題を解くには、未知パラメータの値を予測し、これらの値を用いて問題を解くための予測モデルを学ぶ必要がある。
最近の研究によると、複雑なトレーニングモデルパイプラインのレイヤーとして最適化の問題を含めると、観測されていない意思決定の繰り返しを予測することになる。
我々は,大規模最適化問題の低次元サロゲートモデルを学習することにより,解の質を向上させることができることを示す。
論文 参考訳(メタデータ) (2020-06-18T19:11:54Z) - Surrogate Assisted Evolutionary Algorithm for Medium Scale Expensive
Multi-Objective Optimisation Problems [4.338938227238059]
目的関数の代理モデルを構築することは、進化アルゴリズム(EA)が現実世界の複雑な最適化問題を解決するのに効果的であることが示されている。
本稿では,50個の決定変数を持つ中規模の高コスト多目的最適化問題に対して,ガウス過程サロゲートモデルによるEA支援手法を提案する。
提案アルゴリズムの有効性を,3つの最先端SAEAと比較し,10,20,50変数のベンチマーク問題に対して検証した。
論文 参考訳(メタデータ) (2020-02-08T12:06:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。