論文の概要: Early-Stopping Thresholds for ES-HyperNEAT: A Data-Driven Approach from Fitness Dynamics
- arxiv url: http://arxiv.org/abs/2609.13533v1
- Date: Fri, 11 Sep 2026 21:04:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-16 07:15:05.378316
- Title: Early-Stopping Thresholds for ES-HyperNEAT: A Data-Driven Approach from Fitness Dynamics
- Title(参考訳): ES-HyperNEATのアーリーストッピング閾値:フィトネスダイナミクスによるデータ駆動アプローチ
- Abstract要約: 早期フィットネストラジェクトリのバイナリ分類として早期に停止する。
各試行において、最良世代毎のフィットネスの累積中央値を算出し、しきい値に対してテストする。
結果の規則(生成 G* = 3, しきい値 T* = 0.140)は180個の独立検証試験において F1 = 0.872 となる。
- 参考スコア(独自算出の注目度): 0.5872014229110214
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Most hyperparameter configurations for Evolvable-Substrate HyperNEAT (ES-HyperNEAT) produce networks that stagnate at random-guessing performance, wasting computational resources. We frame early stopping as binary classification on early fitness trajectories: for each trial, we compute the cumulative median of best-per-generation fitness and test it against a threshold derived by maximizing the F1 score on an initial 90-trial dataset. The resulting rule (generation G* = 3, threshold T* = 0.140) achieves F1 = 0.872 on 180 independent validation trials, retaining over 90% of successful trials while cutting computational cost by 41.6%. Compared to Hyperband, our domain-specific rule is 64% more efficient with higher mean fitness, though Hyperband occasionally discovers higher peak solutions. On a converged search population the rule becomes too aggressive (recall 31.1%), motivating adaptive thresholds. The specific thresholds are ES-HyperNEAT-specific, but the methodology, deriving stopping criteria from fitness dynamics classification, is applicable to other evolutionary algorithms with stagnation-prone hyperparameter spaces.
- Abstract(参考訳): Evolvable-Substrate HyperNEAT (ES-HyperNEAT) のほとんどのハイパーパラメータ構成は、ランダムガッシング性能で停滞するネットワークを生成し、計算資源を浪費する。
早期フィットネストラジェクトリでは,早期フィットネストラジェクトリのバイナリ分類として早期に停止し,各試行において最良世代フィットネスの累積中央値を算出し,最初の90回のサーキットデータセットでF1スコアを最大化して得られたしきい値と比較した。
生成した規則(G* = 3, threshold T* = 0.140)は180の独立検証試験においてF1 = 0.872を達成し、計算コストを41.6%削減しながら90%以上の試験を継続する。
Hyperbandと比較して、私たちのドメイン固有のルールは平均的なフィットネスよりも64%効率が良いが、Hyperbandは時折高いピークソリューションを発見する。
収束した探索人口では、規則は攻撃的すぎる(31.1%をリコール)ため、適応しきい値の動機となる。
特定のしきい値は ES-HyperNEAT 固有のものであるが、フィットネス力学の分類から停止基準を導出する手法は、停滞しやすいハイパーパラメータ空間を持つ他の進化的アルゴリズムに適用できる。
関連論文リスト
- Domain-Specific Hallucination Detection in Large Language Models [0.0]
大規模言語モデルは、不誠実なクレームを含むことができる流動的なテキストを生成する。
微調整されたDeBERTa-v3分類, Monte Carlo (MC) Dropoutの不確実性定量化を組み合わせた多信号検出パイプラインを提案する。
論文 参考訳(メタデータ) (2026-09-10T17:45:36Z) - Hybridizing a Grouping Metaheuristic with Reinforcement Learning for the One-Dimensional Bin Packing Problem [0.0]
本稿ではFalkenauerのHybrid Grouping Genetic Algorithmを統合したハイブリッドアルゴリズムRL-HGGAを提案する。
平均計算時間を64.22秒から1.29秒に短縮し,50倍の高速化を実現した。
論文 参考訳(メタデータ) (2026-07-02T15:25:16Z) - Iterative Nash Policy Optimization: Aligning LLMs with General Preferences via No-Regret Learning [55.65738319966385]
我々は、新しいオンラインアルゴリズム、反復的ナッシュポリシー最適化(INPO)を提案する。
従来の方法とは異なり、INPOは個々の応答に対する期待される勝利率を推定する必要性を回避している。
LLaMA-3-8BベースのSFTモデルで、INPOはAlpacaEval 2.0で42.6%、Arena-Hardで37.8%の勝利率を達成した。
論文 参考訳(メタデータ) (2024-06-30T08:00:34Z) - Online Continuous Hyperparameter Optimization for Generalized Linear Contextual Bandits [55.03293214439741]
文脈的包帯では、エージェントは過去の経験に基づいた時間依存アクションセットから順次アクションを行う。
そこで本稿では,文脈的包帯のためのオンライン連続型ハイパーパラメータチューニングフレームワークを提案する。
理論上はサブ線形の後悔を達成でき、合成データと実データの両方において既存のすべての手法よりも一貫して優れた性能を発揮することを示す。
論文 参考訳(メタデータ) (2023-02-18T23:31:20Z) - Adaptive R-Peak Detection on Wearable ECG Sensors for High-Intensity
Exercise [3.7808904037372524]
ウェアラブルセンサーによる生体信号の連続モニタリングは、医療・健康分野で急速に拡大している。
提案手法は,教師なし学習,ベイズフィルタリング,非線形正規化に基づく。
BayeSlopeは計算的に重く、デバイスバッテリーを迅速に排水できるので、その頑丈さを突然の生理的変化に適応させるオンライン設計を提案する。
論文 参考訳(メタデータ) (2021-12-08T16:24:23Z) - Towards Robust and Automatic Hyper-Parameter Tunning [39.04604349338802]
我々は,新しいHPO法を導入し,畳み込みネットワークの中間層の低ランク因子分解を用いて解析応答面を定義する方法について検討する。
我々は,この表面がモデル性能の代理としてどのように振る舞うかを定量化し,オートHyperと呼ぶ信頼領域探索アルゴリズムを用いて解くことができる。
論文 参考訳(メタデータ) (2021-11-28T05:27:34Z) - High Probability Complexity Bounds for Non-Smooth Stochastic Optimization with Heavy-Tailed Noise [51.31435087414348]
アルゴリズムが高い確率で小さな客観的残差を与えることを理論的に保証することが不可欠である。
非滑らか凸最適化の既存の方法は、信頼度に依存した複雑性境界を持つ。
そこで我々は,勾配クリッピングを伴う2つの手法に対して,新たなステップサイズルールを提案する。
論文 参考訳(メタデータ) (2021-06-10T17:54:21Z) - Detecting COVID-19 from Breathing and Coughing Sounds using Deep Neural
Networks [68.8204255655161]
私たちは、Convolutional Neural Networksのアンサンブルを適応させて、スピーカーがCOVID-19に感染しているかどうかを分類します。
最終的には、74.9%のUnweighted Average Recall(UAR)、またはニューラルネットワークをアンサンブルすることで、ROC曲線(AUC)の80.7%を達成する。
論文 参考訳(メタデータ) (2020-12-29T01:14:17Z) - ROOT-SGD: Sharp Nonasymptotics and Near-Optimal Asymptotics in a Single Algorithm [71.13558000599839]
第一次アルゴリズムを用いて,厳密な凸と滑らかな非制約最適化問題の解法について検討する。
我々は,過去の勾配を平均化し,実装が容易な小説「Recursive One-Over-T SGD」を考案した。
有限サンプル, 漸近感覚, 感覚の両面において, 最先端の性能を同時に達成できることを実証する。
論文 参考訳(メタデータ) (2020-08-28T14:46:56Z) - ADAHESSIAN: An Adaptive Second Order Optimizer for Machine Learning [91.13797346047984]
本稿では,2次最適化アルゴリズムであるADAHESSIANを紹介する。
ADAHESSIANは、他の適応最適化手法と比較して、新しい最先端の成果を大きなマージンで達成することを示す。
論文 参考訳(メタデータ) (2020-06-01T05:00:51Z) - HyperSTAR: Task-Aware Hyperparameters for Deep Networks [52.50861379908611]
HyperSTARは、ディープニューラルネットワークのためのHPOをウォームスタートするタスク認識方式である。
生の画像から直接、データセット(タスク)表現とパフォーマンス予測器を学習する。
既存のメソッドと比較して、最高のパフォーマンスを達成するために、構成を50%少なく評価する。
論文 参考訳(メタデータ) (2020-05-21T08:56:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。