論文の概要: LLM-Driven Evolutionary Generation of Multi-Objective Bayesian Optimization Algorithms
- arxiv url: http://arxiv.org/abs/2607.08791v1
- Date: Mon, 06 Jul 2026 08:44:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-13 14:47:12.716474
- Title: LLM-Driven Evolutionary Generation of Multi-Objective Bayesian Optimization Algorithms
- Title(参考訳): LLMによる多目的ベイズ最適化アルゴリズムの進化的生成
- Abstract要約: 我々は、進化戦略において、大きな言語モデルを突然変異とクロスオーバー演算子として使用し、完全なアルゴリズムの実装を生成する。
9回の進化的実行で約900のアルゴリズムを生成し、12の合成問題と3つの実世界の工学的問題をベンチマークした。
- 参考スコア(独自算出の注目度): 2.012877764904354
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Designing effective multi-objective Bayesian optimization (MOBO) algorithms requires balancing many interdependent design choices whose optimal configuration is problem-dependent and typically demands deep expertise. We extend the LLaMEA framework to MOBO, using large language models as mutation and crossover operators within evolutionary strategies to generate complete algorithm implementations, with SMAC hyperparameter optimization integrated into the evolutionary loop. Across nine evolutionary runs we generated approximately 900 algorithms and benchmarked them on twelve synthetic problems (ZDT, DTLZ, WFG) and three real-world engineering problems (RE), using a BoFire qParEGO implementation as a state-of-the-art Bayesian-optimization baseline. On the synthetic suite the strongest generated algorithm attains the highest mean normalized hypervolume (0.971, vs. 0.869 for qParEGO) while requiring roughly 60x less wall-clock time; a Friedman test with post-hoc analysis places the two in a single top-performing group, and per-problem tests find the generated algorithm significantly better than qParEGO on 7 of the 12 problems and never worse, matching state-of-the-art accuracy at an order-of-magnitude lower cost. On the three unseen real-world engineering problems a generated algorithm attains the best mean normalized hypervolume (0.985, vs. 0.971 for qParEGO)--significantly better than qParEGO on two of the three problems--at roughly 3.4x lower wall-clock cost, confirming that the gains transfer beyond the synthetic regime. LLM-driven evolutionary search can thus discover algorithm designs that achieve Pareto-efficient trade-offs difficult to reach through manual design.
- Abstract(参考訳): 効果的な多目的ベイズ最適化(MOBO)アルゴリズムの設計には、最適構成が問題に依存しており、一般的に深い専門知識を必要とする多くの相互依存設計選択のバランスが必要である。
我々は、LLaMEAフレームワークをMOBOに拡張し、大きな言語モデルを進化戦略における突然変異とクロスオーバー演算子として使用し、SMACハイパーパラメータ最適化を進化ループに統合し、完全なアルゴリズム実装を生成する。
9つの進化的実行で約900のアルゴリズムを生成し、それらを12の合成問題(ZDT, DTLZ, WFG)と3つの実世界の工学問題(RE)でベンチマークし、BoFire qParEGO実装を最先端のベイズ最適化ベースラインとして使用した。
合成スイート上では, 最大平均正規化ハイパーボリューム (0.971, 0.869, qParEGO) を達成し, 壁面時間を約60倍削減した。
3つの目に見えない実世界の工学的問題において、生成されたアルゴリズムは最高の平均正規化ハイパーボリューム(0.985、qParEGOは0.971)を達成し、これら3つの問題のうち2つにおいてqParEGOよりも顕著に優れている。
LLMによる進化的探索は、手動設計により到達し難いパレート効率のトレードオフを実現するアルゴリズム設計を発見することができる。
関連論文リスト
- A new dual-population constrained multi-objective evolutionary optimization algorithm with repair constraint handling for structural optimization [0.0]
本稿では,多目的工学応用のための制約付き進化最適化アルゴリズムを提案する。
このアルゴリズムは2つの相互作用する集団を用いて情報を交換し、効果的なグローバルな探索を可能にし、局所的な最適性への収束のリスクを低減する。
提案アルゴリズムは72バールトラス,120バールトラス,および数百の非線形故障制約を含む3つの工学的問題で検証される。
論文 参考訳(メタデータ) (2026-07-14T00:57:07Z) - FrontierOR: Benchmarking LLMs' Capacity for Efficient Algorithm Design in Large-Scale Optimization [61.43300970020897]
大規模言語モデル(LLM)は、最適化モデリングとソルバコード生成にますます使われている。
既存のベンチマークは、実際のスケールと複雑さよりもはるかに低い、小さな、あるいは単純化された例に限られている。
現実的な大規模最適化問題に対して,LLMに基づく効率的なアルゴリズム設計を評価するための最初のベンチマークとしてFrontierORを紹介した。
論文 参考訳(メタデータ) (2026-05-24T20:10:42Z) - optimize_anything: A Universal API for Optimizing any Text Parameter [98.42497715725356]
単一タスク検索をサポートする1つのAIベースの最適化システム、クロスプロブレム転送によるマルチタスク検索、および目に見えない入力への一般化を示す。
LLMに基づく検索によるテキストの最適化は汎用的な問題解決パラダイムであることを示す。
論文 参考訳(メタデータ) (2026-05-19T10:18:12Z) - S-LCG: Structured Linear Congruential Generator-Based Deterministic Algorithm for Search and Optimization [3.033196534183858]
本研究では,Linear Congruential Generator (LCG) の特殊変種に基づく新しい決定論的最適化アルゴリズムを提案する。
発電機の内在構造が動機であり、構造線形連成発電機 (Structured Linear Congruential Generator, S-LCG) の命名の背景にある。
論文 参考訳(メタデータ) (2026-05-06T17:57:41Z) - BEAM: Bi-level Memory-adaptive Algorithmic Evolution for LLM-Powered Heuristic Design [49.50107918295052]
大規模言語モデルに基づくハイパーヒューリスティック(LHH)は、最近、自動設計の効率的な方法として登場した。
この問題に対処するために textbfBEAM (Bi-level Memory-adaptive Algorithmic Evolution) を提案する。
BEAMは既存のLHHよりも著しく優れており、特に最適性ギャップが37.84%減少している。
論文 参考訳(メタデータ) (2026-04-14T15:46:47Z) - K-Search: LLM Kernel Generation via Co-Evolving Intrinsic World Model [57.440609834690385]
既存のアプローチでは、進化ループ内の高速コードジェネレータとして、LLM(Large Language Models)を扱います。
我々は,共進化的世界モデルによる検索を提案し,この手法に基づいてK-Searchを構築する。
GQA, MLA, MoE カーネルを含む多種多様な複雑なカーネル上で K-Search を評価する。
論文 参考訳(メタデータ) (2026-02-22T11:06:22Z) - QUASAR: An Evolutionary Algorithm to Accelerate High-Dimensional Optimization [0.0]
本稿では,漸近再帰型準適応探索(quaSAR)を提案する。
QUASARは、次元の呪いによる複雑で微分不可能な問題の収束を加速する進化的アルゴリズムである。
論文 参考訳(メタデータ) (2025-11-17T19:02:31Z) - LLM4CMO: Large Language Model-aided Algorithm Design for Constrained Multiobjective Optimization [54.35609820607923]
大規模言語モデル(LLM)は、アルゴリズム設計を支援する新しい機会を提供する。
LLM4CMOは,2つの人口構成をもつ2段階のフレームワークをベースとした新しいCMOEAである。
LLMは複雑な進化最適化アルゴリズムの開発において効率的な共同設計者として機能する。
論文 参考訳(メタデータ) (2025-08-16T02:00:57Z) - A Novel Solver for QUBO Problems: Performance Analysis and Comparative Study with State-of-the-Art Algorithms [18.408755407920744]
本稿では,分枝分枝分枝分枝分枝分枝分枝分枝分枝分枝分枝分枝分枝分枝分枝分枝分枝分枝分枝分枝分枝分枝分枝分枝分枝分枝分枝分枝分枝分枝分枝分枝分枝分枝分枝分枝分枝分枝分枝分枝分枝分枝分枝分枝分枝分枝分枝分枝分枝分枝分枝分数分法,および分枝分枝分枝分枝分根分枝分枝分枝分枝分
我々は、遺伝的アルゴリズム、コヒーレントなイジングマシン、シミュレートされた分岐を含む8つの最先端の解法に対して、QIS3をベンチマークする。
均一なランタイム予算の下で、QIS3は、ほぼすべてのインスタンスで最高のソリューションを獲得し、最大カットインスタンスの94%で最適性を達成する。
論文 参考訳(メタデータ) (2025-06-05T03:22:48Z) - DAPO-QAOA: An algorithm for solving combinatorial optimization problems by dynamically constructing phase operators [3.146466735747661]
本稿では,従来のレイヤの出力と近傍探索手法に基づいて位相演算子を構成する動的適応位相演算子 (DAPO) アルゴリズムを提案する。
DAPOは高い近似比を達成し、2量子RZZゲート、特に密度グラフにおいて著しく減少する。
バニラQAOAと比較すると、DAPOは同じ深さでRZZゲートの66%しか使用せず、より良い結果をもたらす。
論文 参考訳(メタデータ) (2025-02-06T14:24:05Z) - Provably Faster Algorithms for Bilevel Optimization via Without-Replacement Sampling [96.47086913559289]
勾配に基づくアルゴリズムはバイレベル最適化に広く用いられている。
本研究では,より高速な収束率を実現する非置換サンプリングに基づくアルゴリズムを提案する。
合成および実世界の両方のアプリケーションに対してアルゴリズムを検証する。
論文 参考訳(メタデータ) (2024-11-07T17:05:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。