論文の概要: Selection Hyper-heuristics Can Automatically Adjust the Learning Period to Optimally Solve Pseudo-Boolean Problems
- arxiv url: http://arxiv.org/abs/2605.29916v1
- Date: Thu, 28 May 2026 13:31:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-30 02:45:56.350011
- Title: Selection Hyper-heuristics Can Automatically Adjust the Learning Period to Optimally Solve Pseudo-Boolean Problems
- Title(参考訳): 選択ハイパーヒューリスティックは、擬似ブール問題を最適解ける学習期間を自動調整できる
- Authors: Benjamin Doerr, Pietro S. Oliveto, John Alasdair Warwicker,
- Abstract要約: このアルゴリズムパラメータを制御する非自明なタスクからユーザを救い、新しいパラメータ値を自動的に設定する方法を示す。
結果の超ヒューリスティックは、イテレーションの1-o(1)$の分数で最適な近傍サイズを選択することを証明している。
- 参考スコア(独自算出の注目度): 21.869601901930668
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The Random Gradient hyper-heuristic was recently shown to be able to learn the optimal neighbourhood size when optimizing the LeadingOnes benchmark via the Randomised Local Search (RLS) meta-heuristic. However, for this to happen, a learning period of a certain length $τ$ had to be used, differently from classic hyper-heuristics, which change their behaviour based on the success of only the previous iteration. In this paper, we show how to automatically set this new parameter value, relieving the user from the non-trivial task of controlling this novel algorithm parameter. We prove that the resulting hyper-heuristic selects the optimal neighbourhood size in a $1-o(1)$ fraction of the iterations and, consequently, optimises the LeadingOnes benchmark in the best possible time (apart from lower-order terms) achievable with these neighborhood sizes.
- Abstract(参考訳): Random Gradient hyper-heuristicは、Randomized Local Search(RLS)メタヒューリスティックを介してLeadingOnesベンチマークを最適化する際に、最適な近傍サイズを学習できることが最近示されている。
しかし、これが起こるためには、ある長さのτ$の学習期間を使う必要があり、従来の超ヒューリスティックとは違い、前のイテレーションの成功に基づいて行動を変える必要があった。
本稿では,このアルゴリズムパラメータを制御する非自明なタスクからユーザを解放し,新しいパラメータ値を自動的に設定する方法を示す。
得られた超ヒューリスティックは、イテレーションの1-o(1)$分で最適近傍サイズを選択し、その結果、これらの近傍サイズに到達可能な(下位項を除いて)最良の時間でLeadingOnesベンチマークを最適化する。
関連論文リスト
- Fine-Tuning Adaptive Stochastic Optimizers: Determining the Optimal Hyperparameter $ε$ via Gradient Magnitude Histogram Analysis [0.7366405857677226]
我々は、損失の大きさの経験的確率密度関数に基づく新しい枠組みを導入し、これを「緩やかな等級ヒストグラム」と呼ぶ。
そこで本稿では, 最適安全のための精密かつ高精度な探索空間を自動推定するために, 勾配等級ヒストグラムを用いた新しいアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-11-20T04:34:19Z) - Online Continuous Hyperparameter Optimization for Generalized Linear Contextual Bandits [55.03293214439741]
文脈的包帯では、エージェントは過去の経験に基づいた時間依存アクションセットから順次アクションを行う。
そこで本稿では,文脈的包帯のためのオンライン連続型ハイパーパラメータチューニングフレームワークを提案する。
理論上はサブ線形の後悔を達成でき、合成データと実データの両方において既存のすべての手法よりも一貫して優れた性能を発揮することを示す。
論文 参考訳(メタデータ) (2023-02-18T23:31:20Z) - STORM+: Fully Adaptive SGD with Momentum for Nonconvex Optimization [74.1615979057429]
本研究では,スムーズな損失関数に対する期待値である非バッチ最適化問題について検討する。
我々の研究は、学習率と運動量パラメータを適応的に設定する新しいアプローチとともに、STORMアルゴリズムの上に構築されている。
論文 参考訳(メタデータ) (2021-11-01T15:43:36Z) - Byzantine-Resilient Non-Convex Stochastic Gradient Descent [61.6382287971982]
敵対的レジリエントな分散最適化。
機械は独立して勾配を計算し 協力することができます
私達のアルゴリズムは新しい集中の技術およびサンプル複雑性に基づいています。
それは非常に実用的です:それはないときすべての前の方法の性能を改善します。
セッティングマシンがあります。
論文 参考訳(メタデータ) (2020-12-28T17:19:32Z) - Optimizing generalization on the train set: a novel gradient-based
framework to train parameters and hyperparameters simultaneously [0.0]
一般化は機械学習における中心的な問題である。
本稿では,新たなリスク尺度に基づく新しい手法を提案する。
論文 参考訳(メタデータ) (2020-06-11T18:04:36Z) - Stochastic batch size for adaptive regularization in deep network
optimization [63.68104397173262]
ディープラーニングフレームワークにおける機械学習問題に適用可能な適応正規化を取り入れた一階最適化アルゴリズムを提案する。
一般的なベンチマークデータセットに適用した従来のネットワークモデルに基づく画像分類タスクを用いて,提案アルゴリズムの有効性を実証的に実証した。
論文 参考訳(メタデータ) (2020-04-14T07:54:53Z) - Analysis of the Performance of Algorithm Configurators for Search
Heuristics with Global Mutation Operators [0.0]
ParamRLSは、局所探索で使用する最適な近傍サイズを効率的に特定できる。
そこで,ParamRLS-Fは,両問題クラスにおける最適パラメータ値の最適化時間よりもかなり小さいカットオフ時間を用いても,最適な突然変異率を識別できることを示す。
論文 参考訳(メタデータ) (2020-04-09T12:42:30Z) - Weighted Random Search for Hyperparameter Optimization [0.0]
本稿では,機械学習アルゴリズムのハイパーパラメータ最適化に使用されるRandom Search(RS)の改良版を紹介する。
我々は、標準RSとは異なり、変化の確率で各ハイパーパラメータに対して新しい値を生成する。
同じ計算予算内で、我々の手法は標準のRSよりも優れた結果が得られる。
論文 参考訳(メタデータ) (2020-04-03T15:41:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。