論文の概要: Latent Heuristic Search: Continuous Optimization for Automated Algorithm Design

• arxiv url: http://arxiv.org/abs/2605.17137v1
• Date: Sat, 16 May 2026 20:03:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-19 17:57:47.700828
• Title: Latent Heuristic Search: Continuous Optimization for Automated Algorithm Design
• Title（参考訳）: Latent Heuristic Search: 自動アルゴリズム設計のための連続最適化
• Authors: Cheikh Ahmed, Mahdi Mostajabdaveh, Zirui Zhou,
• Abstract要約: この研究は、競合しない風景をナビゲートする継続的発見フレームワークを提案する。 我々は、潜微分可能サロゲートの連続埋め込みに埋め込み勾配写像アルゴリズムを用いる。 その結果、最適化された実行可能ファイルは、学習されたマッパーを通してソフトプロンプトに投影される。
• 参考スコア（独自算出の注目度）: 6.870020562464171
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The integration of Large Language Models (LLMs) into evolutionary frameworks has established a new paradigm for automated heuristic discovery. Despite their promise, these methods typically search in the discrete space of program syntax, relying on stochastic sampling to navigate a highly non-convex optimization landscape. This work proposes a continuous heuristic discovery framework that shifts optimization to a learned latent manifold. We employ an encoder to map discrete programs into continuous embeddings and train a differentiable surrogate model to predict performance, enabling gradient-based search. To regularize the optimization trajectory, an invertible normalizing flow maps these embeddings to a structured Gaussian prior, where we perform gradient ascent. The resulting optimized latent vectors are projected through a learned mapper into soft prompts, which condition a frozen LLM to synthesize novel executable heuristics. We evaluate the proposed method on the Traveling Salesman Problem (TSP), the Capacitated Vehicle Routing Problem (CVRP), the Knapsack Problem (KSP), and Online Bin Packing (OBP). Empirical results demonstrate that continuous latent-space optimization achieves performance competitive with state-of-the-art discrete evolutionary baselines while offering a complementary methodological alternative for automated algorithm design. The implementation code is available at \url{https://github.com/cheikh025/LHS}.
• Abstract（参考訳）: 大規模言語モデル(LLM)の進化的フレームワークへの統合は、自動ヒューリスティック発見のための新しいパラダイムを確立した。 それらの約束にもかかわらず、これらの手法は典型的にはプログラム構文の離散的な空間を探索し、高度に凸のない最適化ランドスケープをナビゲートするために確率的サンプリングに依存する。 この研究は、最適化を学習された潜在多様体にシフトする連続ヒューリスティックな発見フレームワークを提案する。 我々は、離散プログラムを連続的な埋め込みにマッピングし、異なる代理モデルを訓練して性能を予測し、勾配に基づく探索を可能にするエンコーダを用いる。 最適化軌道を正規化するために、非可逆正規化フローはこれらの埋め込みを構造付きガウス事前に写像し、勾配上昇を行う。 得られた最適化された潜在ベクトルは、学習されたマッパーを通してソフトプロンプトに投影される。 提案手法は,トラベリングセールスマン問題(TSP),キャパシタンドカールーティング問題(CVRP),クナップサック問題(KSP),オンラインビンパッキング(OBP)について検討する。 実験により、連続潜時空間最適化は、自動アルゴリズム設計の補完的な方法論的な代替手段を提供しながら、最先端の離散的進化ベースラインと競合する性能を実現することを示した。 実装コードは \url{https://github.com/cheikh025/LHS} で公開されている。

関連論文リスト

• Gradient-Free Noise Optimization for Reward Alignment in Generative Models [52.42087778653147]
  ZeNOは、経路積分制御問題としてノイズ最適化を定式化する、勾配のないフレームワークである。 効果的な推論時間スケーリングを可能にし、多様なジェネレータと報酬関数間で強力なパフォーマンスを示す。
  論文  参考訳（メタデータ） (2026-05-12T00:05:36Z)
• POLCA: Stochastic Generative Optimization with LLM [26.342554900977003]
  局所文脈を用いた優先順位付け最適化(POLCA)を導入する。 POLCAは、最適化におけるパラメータ性を扱うために設計されたスケーラブルなフレームワークである。 我々は,POLCAが頑健,サンプル,時間効率の両立を実証した。
  論文  参考訳（メタデータ） (2026-03-16T03:07:44Z)
• DyACE: Dynamic Algorithm Co-evolution for Online Automated Heuristic Design with Large Language Model [12.490525543266807]
  非定常バイレベル制御問題としてDyACE(Dynamic Co-evolution)を導入する。 DyACEの中核となる要素はLook-Ahead Rollout Searchである。 結果は、DyACEが最先端の静的ベースラインを大幅に上回っていることを示している。
  論文  参考訳（メタデータ） (2026-03-07T06:46:53Z)
• Learning Gradient Flow: Using Equation Discovery to Accelerate Engineering Optimization [0.0]
  我々は軌道データを用いて勾配降下、ニュートン法、ADAM最適化に関連する連続時間ダイナミクスを学習する。 発見された勾配は、元の最適化問題の代役として解かれる。 本稿では,工学的な力学と科学的な機械学習の標準的な問題に対して,このアプローチの有効性を実証する。
  論文  参考訳（メタデータ） (2026-02-13T22:44:33Z)
• Local Entropy Search over Descent Sequences for Bayesian Optimization [48.7994415668802]
  実用的な方法は、勾配降下のような局所最適化手法を用いて初期設計の近傍を反復的に洗練することである。 降下列で到達可能な解を明示的に対象とするベイズ最適化パラダイムである局所エントロピー探索(LES)を提案する。
  論文  参考訳（メタデータ） (2025-11-24T15:52:17Z)
• Federated Conditional Stochastic Optimization [110.513884892319]
  条件付き最適化は、不変学習タスク、AUPRC、AMLなど、幅広い機械学習タスクで見られる。 本稿では,分散フェデレーション学習のためのアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-10-04T01:47:37Z)
• Finite-Sample Bounds for Adaptive Inverse Reinforcement Learning using Passive Langevin Dynamics [13.440621354486906]
  本稿では,受動勾配ランゲヴィンダイナミクス(PSGLD)アルゴリズムの有限サンプル解析を行う。 Adaptive IRLは、勾配アルゴリズムを実行する前方学習者のコスト関数を推定することを目的としている。
  論文  参考訳（メタデータ） (2023-04-18T16:39:51Z)
• Performance Embeddings: A Similarity-based Approach to Automatic Performance Optimization [71.69092462147292]
  パフォーマンス埋め込みは、アプリケーション間でパフォーマンスチューニングの知識伝達を可能にする。 本研究では, 深層ニューラルネットワーク, 密度およびスパース線形代数合成, および数値風速予測ステンシルのケーススタディにおいて, この伝達チューニング手法を実証する。
  論文  参考訳（メタデータ） (2023-03-14T15:51:35Z)
• An Empirical Evaluation of Zeroth-Order Optimization Methods on AI-driven Molecule Optimization [78.36413169647408]
  分子目的を最適化するための様々なZO最適化手法の有効性について検討する。 ZO符号に基づく勾配降下(ZO-signGD)の利点を示す。 本稿では,Guurcamol スイートから広く使用されているベンチマークタスクに対して,ZO 最適化手法の有効性を示す。
  論文  参考訳（メタデータ） (2022-10-27T01:58:10Z)
• Global Optimization of Gaussian processes [52.77024349608834]
  少数のデータポイントで学習したガウス過程を訓練した空間定式化を提案する。 このアプローチはまた、より小さく、計算的にもより安価なサブソルバを低いバウンディングに導く。 提案手法の順序の順序による時間収束を,総じて低減する。
  論文  参考訳（メタデータ） (2020-05-21T20:59:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。