論文の概要: Optimization and Constraint Modeling using LLMs with a Retrieval Augmented Generation Process
- arxiv url: http://arxiv.org/abs/2608.00015v1
- Date: Wed, 24 Jun 2026 23:55:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-30 00:29:36.209067
- Title: Optimization and Constraint Modeling using LLMs with a Retrieval Augmented Generation Process
- Title(参考訳): 検索拡張プロセスを用いたLLMの最適化と制約モデリング
- Abstract要約: 本稿では,Retrieval-Augmented Generationパイプラインが最適化モデルの性能を有意に向上できるかどうかを評価する。
合計500の最適化問題をText2Zincデータセットのシード記述を用いて合成した。
精度はNL4OPTで40%から72%、MAMO Easyで40%から56%、MAMO Complexで32%から56%に上昇した。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Both optimization modeling and constraint modeling are non-trivial problems requiring deep domain expertise and proficiency in modeling formalism languages. Despite their importance across logistics, healthcare, and supply chain management, current large language models regularly produce structurally inconsistent or incomplete optimization formulations, particularly in combinatorial settings. This paper evaluates whether a Retrieval-Augmented Generation pipeline built on a curated synthetic dataset can meaningfully improve LLM optimization modeling performance. A total of 500 optimization problems were synthesized using seed descriptions from the Text2Zinc dataset and professional personas created using an LLM, specified in JSON and associated with validated Python solver scripts. These problems were encoded in a Chroma vector database. For each inference problem, semantically similar problems were retrieved and used as contextual guidance for a LangChain LLM agent. Three benchmark testbeds were used to evaluate the proposed pipeline under the Qwen 3 30B Instruct model. Accuracy rose from 40% to 72% on NL4OPT, 40% to 56% on MAMO Easy, and 32% to 56% on MAMO Complex. The use of semantically validated synthetic examples greatly improves both solution accuracy and structure. The combination of synthetic dataset generation with retrieval augmentation provides an effective alternative to fine-tuning, suggesting that domain-specific synthetic corpora paired with retrieval augmentation can serve as a practical pathway for deploying LLM-based optimization tools in real-world decision-support contexts without costly model retraining.
- Abstract(参考訳): 最適化モデリングと制約モデリングはどちらも、形式主義言語をモデル化する際に深いドメインの専門知識と習熟性を必要とする非自明な問題である。
物流、医療、サプライチェーン管理において重要であるにもかかわらず、現在の大きな言語モデルは構造的に一貫性のない、あるいは不完全な最適化の定式化を定期的に生成している。
本稿では,構造化合成データセット上に構築された検索・拡張生成パイプラインが,LLM最適化モデルの性能を有意に向上できるかどうかを評価する。
合計500の最適化問題は、Text2Zincデータセットのシード記述と、JSONで指定され、検証済みのPythonソルバスクリプトに関連するLLMを使用したプロフェッショナルペルソナを使用して合成された。
これらの問題はクロマベクトルデータベースにエンコードされた。
各推論問題に対して,LangChain LLMエージェントのコンテキストガイダンスとして,意味論的に類似した問題を検索した。
3つのベンチマークテストベッドを使用して、Qwen 3 30Bインストラクトモデルで提案されたパイプラインを評価した。
精度はNL4OPTで40%から72%、MAMO Easyで40%から56%、MAMO Complexで32%から56%に上昇した。
意味論的に検証された合成例の使用は、解の精度と構造の両方を大幅に改善する。
検索拡張と合成データセット生成の組み合わせは、微調整の効果的な代替手段となり、検索拡張と組み合わせたドメイン固有合成コーパスは、コストのかかるモデル再構成を伴わずに、LLMベースの最適化ツールを現実の意思決定支援コンテキストに展開するための実用的な経路として役立つことを示唆している。
関連論文リスト
- LM4Opt-RA: A Multi-Candidate LLM Framework with Structured Ranking for Automating Network Resource Allocation [0.7933039558471408]
我々は,複雑な解析的および数学的推論タスクに,文脈的理解が不要であることに対処する。
既存のベンチマークデータセットは、動的な環境、変数、不均一な制約でそのような問題の複雑さに対処できない。
NL4RAは、LP、ILP、MILPとして定式化された50のリソース割り当て最適化問題からなるキュレートデータセットである。
次に,パラメータ数が異なるオープンソースのLLMの性能評価を行った。
論文 参考訳(メタデータ) (2025-11-13T23:19:43Z) - Toward a Trustworthy Optimization Modeling Agent via Verifiable Synthetic Data Generation [11.988926173584154]
本稿では,信頼性の高い大規模言語モデル(LLM)エージェントを合成データ生成パイプラインを介して訓練するためのフレームワークを提案する。
OptiTrustは、自然言語からソルバ対応コードへの多言語翻訳を行うモジュール型LLMエージェントである。
我々のエージェントは、標準ベンチマークで最先端のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2025-08-05T05:54:20Z) - OptMATH: A Scalable Bidirectional Data Synthesis Framework for Optimization Modeling [9.617742955894247]
高品質な最適化モデリングデータセットの欠如は、大きな言語モデルを悩ませます。
本稿では,OptMATHという高品質なデータセットを合成するためのスケーラブルなフレームワークを提案する。
我々は,OptMATHでトレーニングした様々なサイズのモデルが,複数のモデリングベンチマークにおいて優れた結果が得られることを実証した。
論文 参考訳(メタデータ) (2025-02-16T12:38:37Z) - Autoformulation of Mathematical Optimization Models Using LLMs [50.030647274271516]
本稿では,自然言語問題記述から解法対応最適化モデルを自動生成する,$textitautoformulation$の問題にアプローチする。
オートフォーミュレーションの3つの主要な課題を識別する: $textit(1)$ 巨大で問題に依存した仮説空間、および$textit(2)$ 不確実性の下でこの空間を効率的かつ多様に探索する。
我々は,$textitLarge Language Models$と$textitMonte-Carlo Tree Search$を併用した新しい手法を提案する。
論文 参考訳(メタデータ) (2024-11-03T20:41:38Z) - OptiBench Meets ReSocratic: Measure and Improve LLMs for Optimization Modeling [62.19438812624467]
大規模言語モデル (LLM) は数学的推論における問題解決能力を示した。
本稿では,人間可読入力と出力を用いたエンドツーエンド最適化問題のベンチマークであるOptiBenchを提案する。
論文 参考訳(メタデータ) (2024-07-13T13:27:57Z) - MLLM-DataEngine: An Iterative Refinement Approach for MLLM [62.30753425449056]
本稿では,データ生成,モデルトレーニング,評価を橋渡しする新しいクローズドループシステムを提案する。
各ループ内で、MLLM-DataEngineはまず評価結果に基づいてモデルの弱点を分析する。
ターゲットとして,異なる種類のデータの比率を調整する適応型バッドケースサンプリングモジュールを提案する。
品質については、GPT-4を用いて、各データタイプで高品質なデータを生成する。
論文 参考訳(メタデータ) (2023-08-25T01:41:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。