論文の概要: Breaking Validity-Induced Boundaries to Expand Algorithm Search Space: A Two-Stage AST-Based Operator for LLM-Driven Automated Heuristic Evolution
- arxiv url: http://arxiv.org/abs/2604.16420v1
- Date: Fri, 03 Apr 2026 07:35:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-04 02:32:13.981553
- Title: Breaking Validity-Induced Boundaries to Expand Algorithm Search Space: A Two-Stage AST-Based Operator for LLM-Driven Automated Heuristic Evolution
- Title(参考訳): LLM駆動型自動ヒューリスティック進化のための2段階ASTベースの演算子
- Authors: Sun Shengming, Shi Jialong,
- Abstract要約: LLM-AHDのための2段階構造に基づく進化演算子を提案する。
最初の段階では、コードの抽象構文木(AST)上で、クロスオーバーと突然変異を直接実行します。
第2段階では、LLMはこれらの無効コードを実行可能で高品質なコードに修復するために使用される。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large Language Model (LLM) based automated heuristic design (AHD) has shown great potential in discovering efficient heuristics. Most existing LLM-AHD frameworks use semantic evolutionary operators that rely entirely on the LLM's pre-trained knowledge. These one-stage methods strictly require the generated code to be valid during the operation and often rely on a ``thought-code'' representation. We argue that this end-to-end generation fundamentally limits the exploration ability within the algorithm search space. In this paper, we propose a two-stage, structure-based evolutionary operator for LLM-AHD. In the first stage, our approach directly performs crossover and mutation on the Abstract Syntax Trees (ASTs) of the heuristic code, intentionally generating diverse but often invalid structural variants. In the second stage, the LLM is employed to repair these invalid heuristics into executable, high-quality code. Depending on the underlying framework, either the raw invalid variants or the repaired heuristics are integrated into the population to preserve potential structural patterns. We demonstrate that the proposed operator can significantly enhance the search ability of state-of-the-art LLM-AHD algorithms, such as EoH-S. Experimental results on the Traveling Salesman Problem (TSP) and the Online Bin Packing Problem (OBP) show that our method effectively improves both optimization performance and convergence speed.
- Abstract(参考訳): 大言語モデル(LLM)に基づく自動ヒューリスティック設計(AHD)は、効率的なヒューリスティックを発見する大きな可能性を示している。
既存のLLM-AHDフレームワークの多くは、LLMの事前訓練された知識に完全に依存する意味論的進化的演算子を使用している。
これらのワンステージメソッドは、生成したコードが操作中に有効であることが厳密に要求され、しばしば ` Thought-code'' 表現に依存します。
このエンドツーエンド生成は、アルゴリズム検索空間内の探索能力を根本的に制限していると論じる。
本稿では,LLM-AHDのための2段階構造に基づく進化演算子を提案する。
最初の段階では、ヒューリスティックコードの抽象構文木(AST)上で直接クロスオーバーと突然変異を行い、多様だがしばしば無効な構造変異を意図的に生成する。
第2段階では、LLMはこれらの無効なヒューリスティックを、実行可能で高品質なコードに修復するために使用される。
基盤となる枠組みによっては、生の無効な変種または修復されたヒューリスティックが、潜在的構造パターンを維持するために人口に統合される。
提案手法は,EoH-S などの最先端 LLM-AHD アルゴリズムの探索能力を大幅に向上させることができることを示す。
The Traveling Salesman Problem (TSP) and the Online Bin Packing Problem (OBP) の実験結果から,本手法は最適化性能と収束速度の両方を効果的に改善することが示された。
関連論文リスト
- A2DEPT: Large Language Model-Driven Automated Algorithm Design via Evolutionary Program Trees [8.49373236378493]
大規模言語モデル(LLM)に基づく自動ヒューリスティックデザイン(AHD)は、人間の介入を最小限に抑えて、自律的にコンポーネントを生成することを約束している。
剛性テンプレートを超えたオープンエンドソルバを実現するために,A2DEPT(Automated Evolutionary Program Trees)を提案する。
A2DEPTは、ハイブリッド選択と階層演算子による木構造進化探索を通じて広大なプログラム空間を探索し、完全なアルゴリズムを反復的に洗練することができる。
論文 参考訳(メタデータ) (2026-04-27T05:07:10Z) - BEAM: Bi-level Memory-adaptive Algorithmic Evolution for LLM-Powered Heuristic Design [49.50107918295052]
大規模言語モデルに基づくハイパーヒューリスティック(LHH)は、最近、自動設計の効率的な方法として登場した。
この問題に対処するために textbfBEAM (Bi-level Memory-adaptive Algorithmic Evolution) を提案する。
BEAMは既存のLHHよりも著しく優れており、特に最適性ギャップが37.84%減少している。
論文 参考訳(メタデータ) (2026-04-14T15:46:47Z) - G-LNS: Generative Large Neighborhood Search for LLM-Based Automatic Heuristic Design [7.681872137995253]
本稿では,Large Neighborhood Search(LNS)演算子を拡張した生成的進化的フレームワークを提案する。
G-LNSはLarge Language Models (LLMs)を活用して、密結合した破壊と修復のオペレータを共同開発する。
実験により、G-LNSは強力な古典解法と同様にLLMベースのAHD法よりも著しく優れていた。
論文 参考訳(メタデータ) (2026-02-09T04:13:35Z) - Prism: Efficient Test-Time Scaling via Hierarchical Search and Self-Verification for Discrete Diffusion Language Models [96.0074341403456]
LLM推論を改善するための実用的な方法として、推論時計算が再導入されている。
テスト時間スケーリング(TTS)アルゴリズムの多くは、自動回帰デコーディングに依存している。
そこで我々は,dLLM のための効率的な TTS フレームワーク Prism を提案する。
論文 参考訳(メタデータ) (2026-02-02T09:14:51Z) - LLaMEA-SAGE: Guiding Automated Algorithm Design with Structural Feedback from Explainable AI [4.440668887299803]
大規模言語モデルは、自然言語プロンプトから直接最適化アルゴリズムを生成することにより、自動アルゴリズム設計(AAD)を可能にした。
生成したアルゴリズムの抽象構文木から抽出したグラフ理論および複雑性特徴から構築したフィードバックを用いてAADを誘導する機構を提案する。
提案手法は,小制御実験においてバニラLLaMEAよりも高速に動作可能であることを示す。
論文 参考訳(メタデータ) (2026-01-29T10:27:29Z) - Experience-Guided Reflective Co-Evolution of Prompts and Heuristics for Automatic Algorithm Design [124.54166764570972]
組合せ最適化問題は伝統的に手作りのアルゴリズムで取り組まれている。
最近の進歩は、大規模言語モデルによる自動設計の可能性を強調している。
本稿では,自動アルゴリズム設計のためのPmpt and Heuristics (EvoPH) を用いた経験進化的リフレクティブ・ガイドを提案する。
論文 参考訳(メタデータ) (2025-09-29T09:24:09Z) - LLM4CMO: Large Language Model-aided Algorithm Design for Constrained Multiobjective Optimization [54.35609820607923]
大規模言語モデル(LLM)は、アルゴリズム設計を支援する新しい機会を提供する。
LLM4CMOは,2つの人口構成をもつ2段階のフレームワークをベースとした新しいCMOEAである。
LLMは複雑な進化最適化アルゴリズムの開発において効率的な共同設計者として機能する。
論文 参考訳(メタデータ) (2025-08-16T02:00:57Z) - Monte Carlo Tree Search for Comprehensive Exploration in LLM-Based Automatic Heuristic Design [33.58608225370497]
大規模言語モデル (LLM) に基づく自動設計 (AHD) 手法は、手作業による介入なしに高品質な設計を作成することを約束している。
本稿では,進化進化にモンテカルロ木探索(MCTS)を用いることを提案する。
論文 参考訳(メタデータ) (2025-01-15T06:00:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。