論文の概要: On the Runtime Analysis of Reinforcement Learning Hyper-Heuristics
- arxiv url: http://arxiv.org/abs/2607.22036v1
- Date: Fri, 24 Jul 2026 07:02:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-27 20:58:57.070338
- Title: On the Runtime Analysis of Reinforcement Learning Hyper-Heuristics
- Title（参考訳）: 強化学習ハイパーヒューリスティックスの実行時解析について
- Abstract要約: 本稿では,Reinforcement Learning Hyper-Heuristic (RLHH) が標準LeadingOnesベンチマーク関数に対して適切に選択できることを示す。
実験により、現実的な問題サイズでは、一般化ランダム勾配 HH よりも高速であることが示されている。
- 参考スコア（独自算出の注目度）: 8.96868555005386
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Selection Hyper-heuristics (HHs) automate algorithmic design by selecting from a set of low-level heuristics which one to apply at each stage of the optimisation process. Several impressive results have been recently rigorously proven regarding the performance of selection hyper-heuristics (HHs) for standard benchmark functions. However, the learning mechanisms employed by these HHs are considerably simplified compared to the machine learning techniques typically used in real world applications. In this paper we analyse a Reinforcement Learning Hyper-heuristic (RLHH) from the literature. The only previous result available proved that for a wide range of parameter settings, RLHH does not learn to select heuristics appropriately for the standard LeadingOnes benchmark function. In this paper, we rigorously prove that with appropriate parameter values RLHH equipped with two random local search operators, RLS_1 and RLS_2 optimises the LeadingOnes benchmark function in the best possible expected runtime achievable with the two operators up to lower order terms. Experiments show that for realistic problem sizes it is faster than the Generalised Random Gradient HH which was previously proven to also have optimal expected runtime up to lower order terms.
- Abstract（参考訳）: Selection Hyper-Heuristics (HHs)は、最適化プロセスの各段階で適用すべき低レベルのヒューリスティックセットから選択することで、アルゴリズム設計を自動化する。
標準ベンチマーク関数の選択ハイパーヒューリスティックス(HHs)の性能について、いくつかの顕著な結果が最近証明されている。
しかしながら、これらのHHsで使用される学習メカニズムは、現実世界のアプリケーションで一般的に使用される機械学習技術と比較して、かなり単純化されている。
本稿では,RLHH(Reinforcement Learning Hyper-Heuristic)を文献から分析する。
以前の結果は、幅広いパラメータ設定において、RLHHは標準のLeadingOnesベンチマーク関数に対して適切にヒューリスティックを選択することを学ばないことを示した。
本稿では, RLS_1 と RLS_2 という2つのランダム局所探索演算子を備えたパラメータ値 RLHH が最適であることを示す。
実験により、現実的な問題サイズでは、以前予測されるランタイムがより低次の条件で最適であることが証明された一般化ランダム勾配 HH よりも高速であることが示されている。
関連論文リスト
- Selection Hyper-heuristics Can Automatically Adjust the Learning Period to Optimally Solve Pseudo-Boolean Problems [21.869601901930668]
このアルゴリズムパラメータを制御する非自明なタスクからユーザを救い、新しいパラメータ値を自動的に設定する方法を示す。
結果の超ヒューリスティックは、イテレーションの1-o(1)$の分数で最適な近傍サイズを選択することを証明している。
論文 参考訳（メタデータ） (2026-05-28T13:31:16Z) - Fine-grained Analysis of Stability and Generalization for Stochastic Bilevel Optimization [71.33048115652474]
バイレベル最適化(SBO)は、最近多くの機械学習パラダイムに統合されている。
本稿では,二段階最適化手法の体系的解析について述べる。
結果は再読解を必要とせず、より汎用的な目的関数に適用できる。
論文 参考訳（メタデータ） (2026-04-05T12:12:58Z) - Stochastic Primal-Dual Double Block-Coordinate for Two-way Partial AUC Maximization [45.99743804547533]
2方向部分AUCAUCは、不均衡なデータを持つバイナリ分類における重要な性能指標である。
TPAUC最適化のための既存のアルゴリズムは未探索のままである。
TPAUC最適化のための2つの革新的な二重座標ブロック座標アルゴリズムを導入する。
論文 参考訳（メタデータ） (2025-05-28T03:55:05Z) - Efficient Differentiable Approximation of Generalized Low-rank Regularization [64.73416824444328]
低ランク正規化(LRR)は様々な機械学習タスクに広く応用されている。
本稿では,LRRの効率的な微分可能近似を提案する。
論文 参考訳（メタデータ） (2025-05-21T11:49:17Z) - Combining Automated Optimisation of Hyperparameters and Reward Shape [7.407166175374958]
本稿では,ハイパーパラメータと報酬関数を組み合わせた最適化手法を提案する。
近似ポリシー最適化とソフト・アクター・クリティカルを用いた広範囲な実験を行った。
以上の結果から,統合最適化は環境の半分のベースライン性能よりも有意に向上し,他の環境との競争性能も向上することが示された。
論文 参考訳（メタデータ） (2024-06-26T12:23:54Z) - Hyperparameters in Continual Learning: A Reality Check [50.784080714897776]
連続学習(CL)は、可塑性(新しいタスクを学ぶ)と安定性(事前知識を保持する)のトレードオフをバランスしながら、一連のタスクでモデルを訓練することを目的としている。
論文 参考訳（メタデータ） (2024-03-14T03:13:01Z) - Deep Ranking Ensembles for Hyperparameter Optimization [9.453554184019108]
本稿では,メタ学習型ニューラルネットワークが構成性能のランク付けに最適化され,アンサンブルによる不確実性をモデル化する手法を提案する。
12のベースライン、16のHPO検索スペース、86のデータセット/タスクからなる大規模実験プロトコルにおいて、本手法がHPOの新たな最先端結果を実現することを示す。
論文 参考訳（メタデータ） (2023-03-27T13:52:40Z) - Towards Learning Universal Hyperparameter Optimizers with Transformers [57.35920571605559]
我々は,テキストベースのトランスフォーマーHPOフレームワークであるOptFormerを紹介した。
実験の結果,OptFormerは少なくとも7種類のHPOアルゴリズムを模倣できることがわかった。
論文 参考訳（メタデータ） (2022-05-26T12:51:32Z) - Min-Max Bilevel Multi-objective Optimization with Applications in
Machine Learning [30.25074797092709]
本稿では,min-maxバイレベル多目的最適化フレームワークを提案する。
表現学習と超目的学習の応用を強調している。
論文 参考訳（メタデータ） (2022-03-03T18:56:13Z) - Reducing the Variance of Gaussian Process Hyperparameter Optimization
with Preconditioning [54.01682318834995]
プレコンディショニングは、行列ベクトル乗算を含む反復的な方法にとって非常に効果的なステップである。
プレコンディショニングには、これまで検討されていなかった付加的なメリットがあることを実証する。
基本的に無視可能なコストで、同時に分散を低減することができる。
論文 参考訳（メタデータ） (2021-07-01T06:43:11Z) - Bilevel Optimization: Convergence Analysis and Enhanced Design [63.64636047748605]
バイレベル最適化は多くの機械学習問題に対するツールである。
Stoc-BiO という新しい確率効率勾配推定器を提案する。
論文 参考訳（メタデータ） (2020-10-15T18:09:48Z) - Weighted Random Search for Hyperparameter Optimization [0.0]
本稿では,機械学習アルゴリズムのハイパーパラメータ最適化に使用されるRandom Search(RS)の改良版を紹介する。
我々は、標準RSとは異なり、変化の確率で各ハイパーパラメータに対して新しい値を生成する。
同じ計算予算内で、我々の手法は標準のRSよりも優れた結果が得られる。
論文 参考訳（メタデータ） (2020-04-03T15:41:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。