論文の概要: ES-AHD: An Evolution Strategy Framework for Automatic Heuristic Design
- arxiv url: http://arxiv.org/abs/2609.00023v1
- Date: Wed, 26 Aug 2026 06:43:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-02 16:31:35.703065
- Title: ES-AHD: An Evolution Strategy Framework for Automatic Heuristic Design
- Title（参考訳）: ES-AHD - 自動ヒューリスティック設計のための進化戦略フレームワーク
- Abstract要約: 進化戦略(ES)を大規模言語モデル(LLM)駆動型自動ヒューリスティックデザイン(AHD)に統合する新しいフレームワークであるES-AHDを紹介する。
ES-AHDは、高度に指向性があり、堅牢で効率的な探索パラダイムを提供し、高品質なアルゴリズムの生成を著しく加速する。
- 参考スコア（独自算出の注目度）: 7.824692248307952
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this paper, we introduce ES-AHD, a novel framework that fundamentally integrates Evolution Strategy (ES) into Large Language Model (LLM)-driven Automatic Heuristic Design (AHD). Existing evolutionary approaches predominantly rely on random, individual-level mutation, leading to blind search and an imbalance between exploration and exploitation. To address these issues, ES-AHD introduces two core mechanisms. First, Semantic Recombination via LLMs discards traditional point-to-point reproduction. By leveraging the LLM's contextual reasoning to explicitly extract core insights from top-performing individuals, the algorithm establishes a promising semantic search direction. This transforms random code mutation into targeted, center-guided sampling inspired by ES. Second, Stochastic Covariance Adaptation via Temperature Sampling dynamically addresses the exploration-exploitation dilemma. By mapping the covariance matrix in ES to the LLM's sampling temperature, the framework employs a stochastic random walk mechanism with momentum. This approach primarily shrinks the search radius for micro-level code refinement, while retaining the critical ability to occasionally sample higher temperatures to escape semantic local optima. Ultimately, ES-AHD provides a highly directional, robust, and efficient search paradigm, significantly accelerating the generation of high-quality heuristic algorithms. The source code is available at: https://github.com/Mriya0306/ES-AHD.
- Abstract（参考訳）: 本稿では,進化戦略(ES)を大規模言語モデル(LLM)駆動型自動ヒューリスティックデザイン(AHD)に根本的に統合する新しいフレームワークであるES-AHDを紹介する。
既存の進化的アプローチは、主にランダムで個々のレベルの突然変異に依存しており、ブラインドサーチと探索と搾取の間の不均衡をもたらす。
これらの問題に対処するため、ES-AHDは2つのコアメカニズムを導入している。
まず、LLMによるセマンティック・リコンビネーションは従来のポイント・ツー・ポイントの再生を捨てる。
LLMの文脈推論を利用して、トップパフォーマンスの個人からコアインサイトを明示的に抽出することで、アルゴリズムは有望なセマンティック検索の方向を確立する。
これにより、ESにインスパイアされたランダムコード変異を、ターゲットとなる中心誘導サンプリングに変換する。
第2に、温度サンプリングによる確率的共分散適応は、探索・探索ジレンマを動的に処理する。
ESの共分散行列をLLMのサンプリング温度にマッピングすることにより、このフレームワークは運動量を持つ確率的ランダムウォーク機構を用いる。
このアプローチは、主にマイクロレベルのコード改善のための探索半径を縮小する一方で、セマンティックな局所最適化から逃れるために、時折高い温度をサンプリングする重要な能力を保っている。
最終的にES-AHDは、高度に指向性があり、堅牢で、効率的な探索パラダイムを提供し、高品質なヒューリスティックアルゴリズムの生成を著しく加速する。
ソースコードは、https://github.com/Mriya0306/ES-AHDで入手できる。
関連論文リスト
- Prototype-Anchored Generalized Manifold Regression for Unknown-Domain Object Detection [58.25418970608328]
単一ソースドメイン上でトレーニングされた検出器を複数の未確認領域に転送することを目的としたシングルドメイン一般化オブジェクト検出(Single-DGOD)について検討する。
既存の手法は主に、トレーニング分布を拡大するために、データ拡張やテキストプロンプトといったシミュレーション駆動の戦略に依存している。
本稿では, 未知領域の一般化を多様体回帰問題として定式化する, Visual-Text Dual Chain-of-Thought (MR-DCoT) を用いたマニフォールド回帰を提案する。
論文 参考訳（メタデータ） (2026-07-08T09:27:15Z) - Latent Heuristic Search: Continuous Optimization for Automated Algorithm Design [6.870020562464171]
この研究は、競合しない風景をナビゲートする継続的発見フレームワークを提案する。
我々は、潜微分可能サロゲートの連続埋め込みに埋め込み勾配写像アルゴリズムを用いる。
その結果、最適化された実行可能ファイルは、学習されたマッパーを通してソフトプロンプトに投影される。
論文 参考訳（メタデータ） (2026-05-16T20:03:01Z) - Discovering Multiagent Learning Algorithms with Large Language Models [8.649235365712004]
我々は,大規模言語モデルを用いた進化的符号化エージェントであるAlphaEvolveを用いて,新しいマルチエージェント学習アルゴリズムを自動発見する。
ゲーム理論学習の2つの異なるパラダイムのための新しい変種を進化させることにより、この枠組みの一般化を実証する。
論文 参考訳（メタデータ） (2026-02-18T22:41:00Z) - Self-Rewarding Sequential Monte Carlo for Masked Diffusion Language Models [58.946955321428845]
本研究は自己回帰型モンテカルロ(SMC)を提示する。
提案アルゴリズムは,既存のMDLMのほとんどが信頼性に基づくサンプリング戦略に依存している点に起因している。
粒子重み付けのための自己回帰信号として軌道レベルの信頼性を導入する。
論文 参考訳（メタデータ） (2026-02-02T09:21:45Z) - Game-Theoretic Co-Evolution for LLM-Based Heuristic Discovery [37.96481049421407]
大規模言語モデル(LLM)は、自動発見の急速な進歩を可能にした。
本稿では,発見を問題解決者とインスタンスジェネレータのプログラムレベルの共進化として再編成するゲーム理論フレームワークを提案する。
論文 参考訳（メタデータ） (2026-01-30T12:14:52Z) - GEGO: A Hybrid Golden Eagle and Genetic Optimization Algorithm for Efficient Hyperparameter Tuning in Resource-Constrained Environments [4.417564179511245]
HyperEGOチューニングは、ハイパーサーチネットワークにおいて、重要ではあるが計算コストのかかるステップである。
ゴールデンイーグル最適化(GEGO)は、ゴールデンイーグル演算子の選択と突然変異のハイブリッド移動戦略を統合する。
GEGOは標準の単調、マルチモーダル、複合ベンチマーク関数で評価される。
論文 参考訳（メタデータ） (2026-01-21T05:35:38Z) - Learning to Evolve with Convergence Guarantee via Neural Unrolling [37.99564850768798]
両レベルのメタ最適化フレームワークであるL2E(Learning to Evolve)を導入する。
L2Eは、KM(Krasnosel'skii-Mann)固定点理論に基づくニューラルアンローリング過程として進化探索を再構成する。
実験では、高次元空間におけるL2Eのスケーラビリティと、合成および実世界の制御タスクにまたがる堅牢なゼロショット一般化が示される。
論文 参考訳（メタデータ） (2025-12-12T10:46:25Z) - Enhancing Adversarial Transferability by Balancing Exploration and Exploitation with Gradient-Guided Sampling [82.52485740425321]
アドリアックは、ディープニューラルネットワークの堅牢性にとって重要な課題である。
敵攻撃の伝達性は、爆発(最大攻撃能力)と探索(クロスモデル一般化の促進)のジレンマに直面している
論文 参考訳（メタデータ） (2025-11-01T05:43:47Z) - Experience-Guided Reflective Co-Evolution of Prompts and Heuristics for Automatic Algorithm Design [124.54166764570972]
組合せ最適化問題は伝統的に手作りのアルゴリズムで取り組まれている。
最近の進歩は、大規模言語モデルによる自動設計の可能性を強調している。
本稿では,自動アルゴリズム設計のためのPmpt and Heuristics (EvoPH) を用いた経験進化的リフレクティブ・ガイドを提案する。
論文 参考訳（メタデータ） (2025-09-29T09:24:09Z) - Inference-Time Scaling of Diffusion Language Models with Particle Gibbs Sampling [70.8832906871441]
我々は、モデルを再訓練することなく、所望の報酬に向けて世代を操る方法を研究する。
従来の手法では、通常は1つの認知軌道内でサンプリングやフィルタを行い、軌道レベルの改善なしに報酬をステップバイステップで最適化する。
本稿では,拡散言語モデル(PG-DLM)の粒子ギブスサンプリングについて紹介する。
論文 参考訳（メタデータ） (2025-07-11T08:00:47Z) - Self-Exploring Language Models: Active Preference Elicitation for Online Alignment [88.56809269990625]
本研究では, 分布域外領域を積極的に探索するために, 潜在的に高次応答に対して楽観的に偏りを呈する2段階的客観性を提案する。
実験の結果,Zephyr-7B-SFTとLlama-3-8B-Instructモデルで微調整した場合,SELM(Self-Exploring Language Models)は命令追従ベンチマークの性能を大幅に向上させることがわかった。
論文 参考訳（メタデータ） (2024-05-29T17:59:07Z) - NAG-GS: Semi-Implicit, Accelerated and Robust Stochastic Optimizer [45.47667026025716]
2つの重要な要素に依存した、新しく、堅牢で、加速された反復を提案する。
NAG-GSと呼ばれる手法の収束と安定性は、まず広範に研究されている。
我々は、NAG-arityが、重量減衰を伴う運動量SGDや機械学習モデルのトレーニングのためのAdamWといった最先端の手法と競合していることを示す。
論文 参考訳（メタデータ） (2022-09-29T16:54:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。