論文の概要: Instance Generation for Meta-Black-Box Optimization through Latent Space Reverse Engineering

• arxiv url: http://arxiv.org/abs/2509.15810v1
• Date: Fri, 19 Sep 2025 09:37:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-09-22 18:18:11.110342
• Title: Instance Generation for Meta-Black-Box Optimization through Latent Space Reverse Engineering
• Title（参考訳）: 潜時空間リバースエンジニアリングによるメタブラックボックス最適化のためのインスタンス生成
• Authors: Chen Wang, Zeyuan Ma, Zhiguang Cao, Yue-Jiao Gong,
• Abstract要約: 我々は,MetaBBOsがより一般化可能なポリシを学習するための多様なトレーニング問題インスタンスを生成する,textbfLSREと呼ばれるインスタンス生成手法を提案する。 各種メタBBOをDiverse-BBOでトレーニングすることでLSREの有効性を検証し,その一般化性能を合成シナリオか現実シナリオかで観察する。
• 参考スコア（独自算出の注目度）: 40.87441419713584
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: To relieve intensive human-expertise required to design optimization algorithms, recent Meta-Black-Box Optimization (MetaBBO) researches leverage generalization strength of meta-learning to train neural network-based algorithm design policies over a predefined training problem set, which automates the adaptability of the low-level optimizers on unseen problem instances. Currently, a common training problem set choice in existing MetaBBOs is well-known benchmark suites CoCo-BBOB. Although such choice facilitates the MetaBBO's development, problem instances in CoCo-BBOB are more or less limited in diversity, raising the risk of overfitting of MetaBBOs, which might further results in poor generalization. In this paper, we propose an instance generation approach, termed as \textbf{LSRE}, which could generate diverse training problem instances for MetaBBOs to learn more generalizable policies. LSRE first trains an autoencoder which maps high-dimensional problem features into a 2-dimensional latent space. Uniform-grid sampling in this latent space leads to hidden representations of problem instances with sufficient diversity. By leveraging a genetic-programming approach to search function formulas with minimal L2-distance to these hidden representations, LSRE reverse engineers a diversified problem set, termed as \textbf{Diverse-BBO}. We validate the effectiveness of LSRE by training various MetaBBOs on Diverse-BBO and observe their generalization performances on either synthetic or realistic scenarios. Extensive experimental results underscore the superiority of Diverse-BBO to existing training set choices in MetaBBOs. Further ablation studies not only demonstrate the effectiveness of design choices in LSRE, but also reveal interesting insights on instance diversity and MetaBBO's generalization.
• Abstract（参考訳）: 最近のMetaBBO(Meta-Black-Box Optimization)研究は、最適化アルゴリズムの設計に必要な人為的な知識を緩和するために、メタ学習の一般化強度を活用して、事前に定義されたトレーニング問題セット上でニューラルネットワークベースのアルゴリズム設計ポリシーをトレーニングし、目に見えない問題インスタンスに対する低レベルオプティマイザの適応性を自動化する。 現在、既存のMetaBBOsの一般的なトレーニングセットは、CoCo-BBOBのベンチマークスイートとしてよく知られている。 このような選択はMetaBBOの発展を促進するが、CoCo-BBOBの問題インスタンスは多かれ少なかれ多様性に制限されており、MetaBBOの過度な適合のリスクが高くなり、さらに一般化が悪化する可能性がある。 本稿では,MetaBBOsがより一般化可能なポリシを学習するための多様なトレーニング問題インスタンスを生成するための,‘textbf{LSRE}’と呼ばれるインスタンス生成手法を提案する。 LSREはまず、高次元問題特徴を2次元潜在空間にマッピングするオートエンコーダを訓練する。 この潜在空間における一様グリッドサンプリングは、十分な多様性を持つ問題インスタンスの隠れ表現につながる。 これらの隠蔽表現に最小L2距離の探索関数公式に対する遺伝的プログラミングアプローチを活用することで、LSREリバースエンジニアは「textbf{Diverse-BBO}」と呼ばれる多様な問題集合を逆転する。 各種メタBBOをDiverse-BBOでトレーニングすることでLSREの有効性を検証し,その一般化性能を合成シナリオか現実シナリオかで観察する。 大規模な実験結果から,MetaBBOの既存のトレーニングセット選択に対するDiverse-BBOの優位性が確認された。 さらなるアブレーション研究は、LSREにおける設計選択の有効性を示すだけでなく、インスタンスの多様性とMetaBBOの一般化に関する興味深い洞察も示している。

関連論文リスト

• Toward Automated Algorithm Design: A Survey and Practical Guide to Meta-Black-Box-Optimization [22.902923118981857]
  進化計算(EC)コミュニティの新たな道としてメタブラックボックス最適化(MetaBBO)を導入する。 MetaBBOの成功にもかかわらず、現在の文献は主要な側面の要約が不十分であり、実装に関する実践的なガイダンスが欠如している。
  論文  参考訳（メタデータ） (2024-11-01T14:32:19Z)
• Neural Exploratory Landscape Analysis for Meta-Black-Box-Optimization [12.6318861144205]
  本稿では,2段階の注目型ニューラルネットワークを用いてランドスケープの特徴を動的にプロファイリングする新しいフレームワークを提案する。 NeurELAは、マルチタスクの神経進化戦略を用いて、様々なMetaBBOアルゴリズム上で事前訓練されている。 実験によると、NeurELAは異なるMetaBBOタスクに統合された場合、一貫して優れたパフォーマンスを発揮する。
  論文  参考訳（メタデータ） (2024-08-20T09:17:11Z)
• Reinforced In-Context Black-Box Optimization [64.25546325063272]
  RIBBOは、オフラインデータからエンドツーエンドでBBOアルゴリズムを強化学習する手法である。 RIBBOは、複数の動作アルゴリズムとタスクによって生成される最適化履歴を学習するために、表現的なシーケンスモデルを使用している。 提案手法の中心となるのは,テキストレグレット・ツー・ゴートークンによる最適化履歴の増大である。
  論文  参考訳（メタデータ） (2024-02-27T11:32:14Z)
• Meta-Learning with Neural Tangent Kernels [58.06951624702086]
  メタモデルのニューラルタンジェントカーネル(NTK)によって誘導される再生カーネルヒルベルト空間(RKHS)における最初のメタラーニングパラダイムを提案する。 このパラダイムでは,MAMLフレームワークのように,最適な反復内ループ適応を必要としない2つのメタ学習アルゴリズムを導入する。 本研究の目的は,1) 適応をRKHSの高速適応正則化器に置き換えること,2) NTK理論に基づいて解析的に適応を解くことである。
  論文  参考訳（メタデータ） (2021-02-07T20:53:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。