Fugu-MT 論文翻訳(概要): LLMize: A Framework for Large Language Model-Based Numerical Optimization

論文の概要: LLMize: A Framework for Large Language Model-Based Numerical Optimization

arxiv url: http://arxiv.org/abs/2601.00874v1
Date: Tue, 30 Dec 2025 20:05:30 GMT
ステータス: 翻訳完了
システム内更新日: 2026-01-06 16:25:21.815636
Title: LLMize: A Framework for Large Language Model-Based Numerical Optimization
Title（参考訳）: LLMize: 大規模言語モデルに基づく数値最適化のためのフレームワーク
Authors: M. Rizki Oktavian,
Abstract要約: 大規模言語モデル(LLM)は、最近、従来の言語タスク以上の強力な推論能力を示している。本稿では,LLM駆動最適化を実現するオープンソースPythonフレームワークであるLLMizeを提案する。
参考スコア（独自算出の注目度）: 0.0
License: http://creativecommons.org/licenses/by-nc-nd/4.0/
Abstract: Large language models (LLMs) have recently shown strong reasoning capabilities beyond traditional language tasks, motivating their use for numerical optimization. This paper presents LLMize, an open-source Python framework that enables LLM-driven optimization through iterative prompting and in-context learning. LLMize formulates optimization as a black-box process in which candidate solutions are generated in natural language, evaluated by an external objective function, and refined over successive iterations using solution-score feedback. The framework supports multiple optimization strategies, including Optimization by Prompting (OPRO) and hybrid LLM-based methods inspired by evolutionary algorithms and simulated annealing. A key advantage of LLMize is the ability to inject constraints, rules, and domain knowledge directly through natural language descriptions, allowing practitioners to define complex optimization problems without requiring expertise in mathematical programming or metaheuristic design. LLMize is evaluated on convex optimization, linear programming, the Traveling Salesman Problem, neural network hyperparameter tuning, and nuclear fuel lattice optimization. Results show that while LLM-based optimization is not competitive with classical solvers for simple problems, it provides a practical and accessible approach for complex, domain-specific tasks where constraints and heuristics are difficult to formalize.
Abstract（参考訳）: 大規模言語モデル(LLM)は、最近、従来の言語タスクを超える強力な推論能力を示し、数値最適化にその使用を動機付けている。本稿では,反復的プロンプトとインコンテキスト学習によるLLM駆動最適化を実現する,オープンソースのPythonフレームワークであるLLMizeを提案する。 LLMizeは、自然言語で候補解が生成されるブラックボックスプロセスとして最適化を定式化し、外部目的関数で評価し、解スコアフィードバックを用いて連続的な反復に対して洗練する。このフレームワークは、OPRO(Optimization by Prompting)や、進化的アルゴリズムやシミュレートされたアニーリングにインスパイアされたLLMベースのハイブリッド手法を含む、複数の最適化戦略をサポートしている。 LLMizeの重要な利点は、制約、ルール、ドメイン知識を直接自然言語記述を通じて注入できることであり、数学的プログラミングやメタヒューリスティック設計の専門知識を必要とせず、複雑な最適化問題を定義することができる。 LLMizeは凸最適化、線形プログラミング、トラベリングセールスマン問題、ニューラルネットワークハイパーパラメータチューニング、核燃料格子最適化に基づいて評価される。 LLMに基づく最適化は、単純な問題に対して古典的な解法と競合するわけではないが、制約やヒューリスティックが形式化が難しい複雑なドメイン固有のタスクに対して、実用的でアクセスしやすいアプローチを提供する。

関連論文リスト

Optimization through In-Context Learning and Iterative LLM Prompting for Nuclear Engineering Design Problems [0.0]
本研究では,これらの課題に対処するために,大規模言語モデル (LLM) を用いた反復的アプローチである Prompting による最適化の利用について検討する。 LLMの文脈内学習能力により、問題ニュアンスを理解することができるため、従来のメタヒューリスティック最適化手法を超越する可能性がある。
論文参考訳（メタデータ） (2025-03-25T13:08:46Z)
Can Large Language Models Be Trusted as Evolutionary Optimizers for Network-Structured Combinatorial Problems? [8.431866560904753]
大規模言語モデル(LLM)は、言語理解とさまざまなドメイン間の推論において強力な能力を示している。本研究では,問題構造に係わるLLMの能力を評価するための体系的枠組みを提案する。我々は、よく使われる進化的手法(EVO)を採用し、LLM演算子の出力忠実度を厳格に評価する包括的評価フレームワークを提案する。
論文参考訳（メタデータ） (2025-01-25T05:19:19Z)
Autoformulation of Mathematical Optimization Models Using LLMs [50.030647274271516]
本稿では,自然言語問題記述から解法対応最適化モデルを自動生成する,$textitautoformulation$の問題にアプローチする。オートフォーミュレーションの3つの主要な課題を識別する: $textit(1)$ 巨大で問題に依存した仮説空間、および$textit(2)$ 不確実性の下でこの空間を効率的かつ多様に探索する。我々は,$textitLarge Language Models$と$textitMonte-Carlo Tree Search$を併用した新しい手法を提案する。
論文参考訳（メタデータ） (2024-11-03T20:41:38Z)
Scaffolded Language Models with Language Supervision for Mixed-Autonomy: A Survey [52.00674453604779]
本調査は,戦後のLM周辺における新規構造物の設計と最適化に関する文献を整理した。本稿では,この階層構造を足場型LMと呼び,ツールを用いた多段階プロセスに統合されたLMに焦点を当てる。
論文参考訳（メタデータ） (2024-10-21T18:06:25Z)
LLMOPT: Learning to Define and Solve General Optimization Problems from Scratch [16.174567164068037]
最適化の一般化を促進するため,LLMOPTと呼ばれる統合学習ベースのフレームワークを提案する。 LLMOPTは、様々な最適化問題タイプを定義するための普遍モデルとして導入された5要素の定式化を構築している。 LLMOPTは線形/非線形プログラミングや混合整数プログラミングといった様々な最適化問題をモデル化することができる。
論文参考訳（メタデータ） (2024-10-17T04:37:37Z)
OptiBench Meets ReSocratic: Measure and Improve LLMs for Optimization Modeling [62.19438812624467]
大規模言語モデル (LLM) は数学的推論における問題解決能力を示した。本稿では,人間可読入力と出力を用いたエンドツーエンド最適化問題のベンチマークであるOptiBenchを提案する。
論文参考訳（メタデータ） (2024-07-13T13:27:57Z)
Solving General Natural-Language-Description Optimization Problems with Large Language Models [34.50671063271608]
外部ソルバでLLMを増強するOPtLLMという新しいフレームワークを提案する。 OptLLMは自然言語でユーザクエリを受け付け、それらを数学的定式化やプログラミングコードに変換し、解決者を呼び出して結果を計算する。 OptLLMフレームワークのいくつかの機能は、2023年6月から試用されている。
論文参考訳（メタデータ） (2024-07-09T07:11:10Z)
Discovering Preference Optimization Algorithms with and for Large Language Models [50.843710797024805]
オフライン優先最適化は、LLM(Large Language Model)出力の品質を向上・制御するための重要な手法である。我々は、人間の介入なしに、新しい最先端の選好最適化アルゴリズムを自動で発見する客観的発見を行う。実験は、ロジスティックと指数的損失を適応的にブレンドする新しいアルゴリズムであるDiscoPOPの最先端性能を示す。
論文参考訳（メタデータ） (2024-06-12T16:58:41Z)
LLM as a Complementary Optimizer to Gradient Descent: A Case Study in Prompt Tuning [69.95292905263393]
グラデーションベースとハイレベルなLLMは、協調最適化フレームワークを効果的に組み合わせることができることを示す。本稿では,これらを相互に補完し,組み合わせた最適化フレームワークを効果的に連携させることができることを示す。
論文参考訳（メタデータ） (2024-05-30T06:24:14Z)
Large Language Model-Based Evolutionary Optimizer: Reasoning with elitism [1.1463861912335864]
大規模言語モデル(LLM)は、顕著な推論能力を示している。本稿では,LLMが様々なシナリオにまたがるゼロショット最適化能力を有していることを主張する。 LLMを用いた数値最適化手法を提案する。
論文参考訳（メタデータ） (2024-03-04T13:57:37Z)
Analyzing and Enhancing the Backward-Pass Convergence of Unrolled Optimization [50.38518771642365]
ディープネットワークにおけるコンポーネントとしての制約付き最適化モデルの統合は、多くの専門的な学習タスクに有望な進歩をもたらした。この設定における中心的な課題は最適化問題の解によるバックプロパゲーションであり、しばしば閉形式を欠いている。本稿では, 非線形最適化の後方通過に関する理論的知見を提供し, 特定の反復法による線形システムの解と等価であることを示す。 Folded Optimizationと呼ばれるシステムが提案され、非ローリングなソルバ実装からより効率的なバックプロパゲーションルールを構築する。
論文参考訳（メタデータ） (2023-12-28T23:15:18Z)
Large Language Models as Optimizers [106.52386531624532]
本稿では,大規模言語モデル (LLM) をプロンプトとして活用するためのシンプルで効果的な手法である Prompting (OPRO) を提案する。各最適化ステップにおいて、LLMは、前述した値を含むプロンプトから新しい解を生成する。 OPROにより最適化された最良のプロンプトは、GSM8Kで最大8%、Big-Bench Hardタスクで最大50%向上することを示した。
論文参考訳（メタデータ） (2023-09-07T00:07:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。