論文の概要: FunL2O: LLM-Guided Feature Function Design for Learning to Optimize

• arxiv url: http://arxiv.org/abs/2607.27389v1
• Date: Wed, 29 Jul 2026 18:52:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-31 21:37:00.311232
• Title: FunL2O: LLM-Guided Feature Function Design for Learning to Optimize
• Title（参考訳）: FunL2O: 最適化学習のためのLLMガイド機能設計
• Abstract要約: FunL2Oは、LLM駆動型プログラム進化による機能設計を自動化し、学習から最適化(L2O)を実現するための最初の統一フレームワークである。 我々は、GNN誘導のバックドア分岐と予測と探索を用いた混合整数最適化タスクと同様に、解予測とウォームスタートを含む線形および二次的プログラミングタスクについてFunL2Oを評価する。
• 参考スコア（独自算出の注目度）: 19.743858295045182
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Learning-to-optimize (L2O) methods accelerate repeated optimization by training models to predict solutions, warm starts, branching decisions, or other forms of solver guidance. A critical yet largely overlooked component of these pipelines is the feature function that maps problem instances to inputs for machine learning models. Existing L2O methods typically rely on hand-crafted features, making representation design manual and largely fixed across domains. We introduce FunL2O, the first unified framework for automating feature design through LLM-driven program evolution for L2O. In a FunSearch-style loop, an LLM proposes executable feature functions, while a fixed evaluation process retrains the original L2O model and measures downstream optimization performance. We evaluate FunL2O on linear and quadratic programming tasks involving solution prediction and warm-starting, as well as on mixed-integer optimization tasks using GNN-guided backdoor branching and Predict-and-Search. Across continuous and discrete optimization tasks and four LLMs, the evolved features consistently outperform hand-crafted representations. These results establish LLM-driven feature evolution as a general and effective approach to automating representation design in L2O.
• Abstract（参考訳）: L2O(Learning-to-Optimize)メソッドは、ソリューションの予測やウォームスタート、分岐決定、その他の問題解決指導のためのトレーニングモデルによって、繰り返し最適化を加速する。 これらのパイプラインの重要なコンポーネントは、問題インスタンスを機械学習モデルのインプットにマッピングする機能機能である。 既存のL2Oメソッドは通常手作りの機能に依存しており、表現設計を手作業で行う。 我々は,L2OのためのLLM駆動型プログラム進化による機能設計を自動化するための,最初の統合フレームワークであるFunL2Oを紹介する。 FunSearchスタイルのループでは、LLMが実行可能な特徴関数を提案し、固定評価プロセスが元のL2Oモデルを再トレーニングし、下流の最適化性能を測定する。 我々は、GNN誘導のバックドア分岐と予測と探索を用いた混合整数最適化タスクと同様に、解予測とウォームスタートを含む線形および二次的プログラミングタスクについてFunL2Oを評価する。 連続的かつ離散的な最適化タスクと4つのLLMにおいて、進化した機能は手作りの表現よりも一貫して優れていた。 これらの結果は、L2Oにおける表現設計を自動化するための汎用的で効果的なアプローチとして、LLM駆動型特徴進化を確立している。

関連論文リスト

• OPT-Engine: Benchmarking the Limits of LLMs in Optimization Modeling via Complexity Scaling [13.57588221678224]
  大規模言語モデル(LLM)は、最適化モデリングの驚くべき進歩を示している。 自動定式化と問題解決におけるそれらの能力の境界は、まだよく理解されていない。 OPT-ENGINEは、制御可能でスケーラブルな難易度を持つ最適化モデルにおいて、LCMを評価するために設計されたベンチマークフレームワークである。
  論文  参考訳（メタデータ） (2026-01-09T09:22:33Z)
• Make Optimization Once and for All with Fine-grained Guidance [78.14885351827232]
  Learning to Optimize (L2O)は、統合ニューラルネットワークによる最適化効率を向上させる。 L2Oパラダイムは、例えば、リフィット、目に見えない解決策を反復的または直接的に生成するなど、大きな成果を達成する。 そこで本研究では,Diff-L2Oと呼ばれる学習最適化のための一般的なフレームワークについて検討した。
  論文  参考訳（メタデータ） (2025-03-14T14:48:12Z)
• Using Large Language Models for Parametric Shape Optimization [2.464331481632096]
  パラメータ化工学設計の最適形状を決定するための最適化フレームワーク LLM-PSO を開発した。 我々の予備調査は、LLMの形状最適化と工学設計をより広範囲に活用するためのさらなる研究を刺激する可能性がある。
  論文  参考訳（メタデータ） (2024-12-11T03:35:38Z)
• Revisiting Zeroth-Order Optimization for Memory-Efficient LLM Fine-Tuning: A Benchmark [166.40879020706151]
  本稿では、微調整時のメモリコスト低減のためのソリューションとして、BPフリーゼロオーダー最適化(ZO)への移行を提案する。 従来のZO-SGD法とは異なり、我々の研究はより広い範囲のZO最適化手法に探索を広げる。 本研究は,タスクアライメントの重要性,前方勾配法の役割,アルゴリズムの複雑さと微調整性能のバランスについて,これまで見過ごされてきた最適化原理を明らかにした。
  論文  参考訳（メタデータ） (2024-02-18T14:08:48Z)
• M-L2O: Towards Generalizable Learning-to-Optimize by Test-Time Fast Self-Adaptation [145.7321032755538]
  L2O(Learning to Optimize)は、複雑なタスクの最適化手順を著しく加速させるため、注目を集めている。 本稿では, アウト・オブ・ディストリビューションタスクへの高速なテスト時間自己適応を実現するL2Oをメタトレーニングすることで, このオープンな課題に対する潜在的な解決策を検討する。
  論文  参考訳（メタデータ） (2023-02-28T19:23:20Z)
• Learning to Generalize Provably in Learning to Optimize [185.71326306329678]
  最適化学習(L2O)は、データ駆動アプローチによる最適化設計を自動化することで、人気が高まっている。 現在のL2O法は、少なくとも2回は一般化性能の低下に悩まされることが多い。 我々はこの2つのメトリクスを平坦性を考慮した正規化器としてL2Oフレームワークに組み込むことを提案する。
  論文  参考訳（メタデータ） (2023-02-22T01:17:31Z)
• Symbolic Learning to Optimize: Towards Interpretability and Scalability [113.23813868412954]
  近年のL2O(Learning to Optimize)研究は,複雑なタスクに対する最適化手順の自動化と高速化に期待できる道のりを示唆している。 既存のL2Oモデルは、ニューラルネットワークによる最適化ルールをパラメータ化し、メタトレーニングを通じてそれらの数値ルールを学ぶ。 本稿では,L2Oの総合的な記号表現と解析の枠組みを確立する。 そこで本稿では,大規模問題にメタトレーニングを施す軽量なL2Oモデルを提案する。
  論文  参考訳（メタデータ） (2022-03-13T06:04:25Z)
• Learning to Optimize: A Primer and A Benchmark [94.29436694770953]
  最適化への学習(L2O)は、機械学習を活用して最適化方法を開発する新しいアプローチです。 この記事では、継続的最適化のためのL2Oの総合的な調査とベンチマークを行う。
  論文  参考訳（メタデータ） (2021-03-23T20:46:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。