論文の概要: Hyper Algorithm Design Agent: Evolving Learnable Optimizer from Zero
- arxiv url: http://arxiv.org/abs/2609.35328v1
- Date: Mon, 28 Sep 2026 14:53:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-02 06:28:04.991852
- Title: Hyper Algorithm Design Agent: Evolving Learnable Optimizer from Zero
- Title(参考訳): 超アルゴリズム設計エージェント:ゼロから学習可能な最適化を進化させる
- Abstract要約: 本稿では,MetaBBOの設計ループにオープンネスをコーディングタスクとして導入する。
最新のMetaBBOベースラインよりも優れた新しいバリエーションが見つかる。
この研究は、複雑な学習支援最適化アルゴリズムの設計を自動化するための最初の調査となる。
- 参考スコア(独自算出の注目度): 41.78303889208008
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Meta-Black-Box Optimization (MetaBBO) is one of the highlights in the recent AI for Optimization trend. This paradigm's bi-level workflow leverages the learnable algorithm design policy at meta level to ensure the performance and generalization improvement on the low-level optimization task. While MetaBBO helps advance the performance lower bound of the resulted optimization system, it is currently handcrafted and customized case by case to adapt different optimization problems, which inevitably introduces inherent subjectivity and hence restricts the performance upper bound and usability in practice. In this paper, we address this issue by regarding MetaBBO's design loop as coding task, where we could introduce openendedness into MetaBBO with recursive self-improvement capability of advanced coding agents. Specifically, we propose a dual-agent framework: i) a task agent continuously refines the codebase of a target MetaBBO approach through code evolution; ii) a hyper agent progressively modifies the task agent and itself to provide open-ended design behavior; iii) the evolved MetaBBO codebase is evaluated and all in-execution information is fed back to the agents for recursive self-referential improvement. As a result, given a naive MetaBBO template, our framework automates a design evolution and finds novel variants superior to up-to-date human-made MetaBBO baselines. Surprisingly, the experimental results also demonstrate that our framework supports fast adaption across different optimization domains. Solid interpretation analysis further reveals interesting design principles emerge in such open-ended process. This work serves as the first exploration on automating design of complex learning-assisted optimization algorithms.
- Abstract(参考訳): Meta-Black-Box Optimization (MetaBBO)は、最近のAI for Optimizationトレンドのハイライトのひとつだ。
このパラダイムのバイレベルワークフローは、メタレベルでの学習可能なアルゴリズム設計ポリシーを活用し、低レベル最適化タスクのパフォーマンスと一般化の改善を保証する。
MetaBBOは結果の最適化システムの性能低下に寄与するが、現在、異なる最適化問題に適応するために手作りでカスタマイズされたケースであり、必然的に固有の主観性を導入し、実行時のパフォーマンス上の上限とユーザビリティを制限している。
本稿では,メタBBOの設計ループをコーディングタスクとして扱うことでこの問題に対処する。
具体的には、二重エージェントフレームワークを提案する。
一 タスクエージェントは、コード進化により、目標のMetaBBOアプローチのコードベースを継続的に洗練する。
二 ハイパーエージェントは、タスクエージェント及びそれ自身を段階的に変更して、オープンエンドデザインの挙動を提供する。
三 進化したMetaBBOコードベースを評価し、再帰的な自己参照改善のためにすべての実行情報をエージェントに送付する。
その結果,MetaBBOテンプレートを生かして設計の進化を自動化し,最新のMetaBBOベースラインよりも優れた新しいバリエーションを見出すことができた。
驚くべきことに、実験結果は、我々のフレームワークが様々な最適化領域にまたがる高速な適応をサポートすることも示している。
ソリッド解釈分析により、このようなオープンなプロセスで興味深い設計原則がもたらされる。
この研究は、複雑な学習支援最適化アルゴリズムの設計を自動化するための最初の調査となる。
関連論文リスト
- Task-free Adaptive Meta Black-box Optimization [55.461814601130044]
対象タスクからのみ最適化データを用いてオンラインパラメータ適応を行うアダプティブメタブラックボックス最適化モデル(ABOM)を提案する。
メタトレーニングと最適化フェーズを分離する従来のメタBBOフレームワークとは異なり、ABOMはクローズドループパラメータ学習機構を導入し、パラメータ化された進化演算子を継続的に自己更新する。
このパラダイムシフトはゼロショット最適化を可能にする: 合成BBOベンチマークにおけるABOMの競合性能と、手作りのトレーニングタスクを伴わない現実的な無人飛行路計画問題。
論文 参考訳(メタデータ) (2026-01-29T09:54:10Z) - Large Language Model Assisted Automated Algorithm Generation and Evolution via Meta-black-box optimization [9.184788298623062]
AwesomeDEは大規模言語モデル(LLM)をメタ最適化の戦略として活用し、人間の介入なしに制約付き進化アルゴリズムの更新ルールを生成する。
素早い設計と反復的な改良を含む重要なコンポーネントは、設計品質への影響を判断するために体系的に分析される。
実験の結果,提案手法は計算効率と解の精度で既存手法よりも優れていることがわかった。
論文 参考訳(メタデータ) (2025-09-16T17:02:24Z) - Neural Exploratory Landscape Analysis for Meta-Black-Box-Optimization [12.6318861144205]
本稿では,2段階の注目型ニューラルネットワークを用いてランドスケープの特徴を動的にプロファイリングする新しいフレームワークを提案する。
NeurELAは、マルチタスクの神経進化戦略を用いて、様々なMetaBBOアルゴリズム上で事前訓練されている。
実験によると、NeurELAは異なるMetaBBOタスクに統合された場合、一貫して優れたパフォーマンスを発揮する。
論文 参考訳(メタデータ) (2024-08-20T09:17:11Z) - End-to-End Meta-Bayesian Optimisation with Transformer Neural Processes [52.818579746354665]
本稿では,ニューラルネットワークを一般化し,トランスフォーマーアーキテクチャを用いて獲得関数を学習する,エンド・ツー・エンドの差別化可能な最初のメタBOフレームワークを提案する。
我々は、この強化学習(RL)によるエンドツーエンドのフレームワークを、ラベル付き取得データの欠如に対処できるようにします。
論文 参考訳(メタデータ) (2023-05-25T10:58:46Z) - Meta-Learning with Neural Tangent Kernels [58.06951624702086]
メタモデルのニューラルタンジェントカーネル(NTK)によって誘導される再生カーネルヒルベルト空間(RKHS)における最初のメタラーニングパラダイムを提案する。
このパラダイムでは,MAMLフレームワークのように,最適な反復内ループ適応を必要としない2つのメタ学習アルゴリズムを導入する。
本研究の目的は,1) 適応をRKHSの高速適応正則化器に置き換えること,2) NTK理論に基づいて解析的に適応を解くことである。
論文 参考訳(メタデータ) (2021-02-07T20:53:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。