論文の概要: Harnessing Language Models as Optimization Modeling Agents
- arxiv url: http://arxiv.org/abs/2610.30917v1
- Date: Thu, 22 Oct 2026 08:36:27 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-24 02:08:44.2859
- Title: Harnessing Language Models as Optimization Modeling Agents
- Title(参考訳): 最適化モデリングエージェントとしての言語モデルの調和
- Abstract要約: 最適化モデルのための2つの軽量推論ハーネスであるOPTICYCLEとOPTISTATEを紹介する。
我々は、0.6B-27Bパラメータにまたがる11のQwen変種を用いて、2,634の問題を9つのベンチマークで評価した。
その結果,実行誘導型リビジョンは直接生成よりもマクロ精度を常に向上させることがわかった。
- 参考スコア(独自算出の注目度): 14.277876112987682
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large language models (LLMs) can translate natural-language optimization problems into solver programs, but reliably producing correct formulations and implementations remains challenging. Existing approaches improve optimization modeling through agentic workflows or task-specific post-training. This raises a practical question: can a lightweight harness using a single model role achieve competitive performance without additional training? We introduce OPTICYCLE and OPTISTATE, two lightweight inference harnesses for optimization modeling, and evaluate them on nine benchmarks comprising 2,634 problems using 11 Qwen variants spanning 0.6B-27B parameters. Our results show that execution-guided revision consistently improves macro accuracy over direct generation for all evaluated models, with gains of up to 49.46 percentage points. Despite their simplicity, both harnesses outperform six adapted agentic workflows in same-model comparisons and four evaluated post-trained optimization models at comparable model sizes, without additional training. Explicit formulation state provides further but model-dependent improvements, suggesting that additional structure is not universally beneficial.
- Abstract(参考訳): 大規模言語モデル(LLM)は、自然言語最適化問題を解法プログラムに変換することができるが、正しい定式化と実装を確実に生成することは困難である。
既存のアプローチはエージェントワークフローやタスク固有のポストトレーニングを通じて最適化モデルを改善する。
単一のモデルロールを使用する軽量なハーネスは、追加のトレーニングなしで競争的なパフォーマンスを達成することができるのか?
我々は最適化モデルのための2つの軽量推論ハーネスであるOPTICYCLEとOPTISTATEを導入し、0.6B-27Bパラメータにまたがる11のQwen変種を用いて2,634個の問題からなる9つのベンチマークで評価した。
その結果, 実行誘導リビジョンは, 最大49.46ポイントのゲインで, 全ての評価モデルに対して, 直接生成よりもマクロ精度を向上することがわかった。
その単純さにもかかわらず、両者は同一モデルの比較において6つの適応エージェントワークフローを上回り、4つの評価された後最適化モデルを同等のモデルサイズで、追加のトレーニングなしで実行した。
明示的な定式化状態はさらなる改善を提供するが、モデルに依存した改善であり、追加構造は普遍的に有益ではないことを示唆している。
関連論文リスト
- CoMerge: Conflict-Driven Preference Optimization for Multi-Task Model Merging [59.836482609414816]
モデルマージのための競合駆動型優先最適化フレームワーク(CoMerge)を提案する。
CoMergeは、タスク固有の機能を保持しながら、パラメータ空間の競合を軽減するモデルを可能にする。
実験の結果、CoMerge は MergeBench 上で平均 0.9968 の正規化性能を達成した。
論文 参考訳(メタデータ) (2026-09-02T08:21:28Z) - Opt-Verifier: Unleashing the Power of LLMs for Optimization Modeling via Dual-Side Verification [53.763212981479455]
本稿では、構造と解の両方の観点から、デュアルサイド検証(Opt-Verifier)を用いた新しいフレームワークを提案する。
一般的なベンチマーク実験により、我々の手法は精度が20%以上向上していることが示された。
論文 参考訳(メタデータ) (2026-05-28T08:09:52Z) - CALM Before the STORM: Unlocking Native Reasoning for Optimization Modeling [60.55856973678002]
大規模推論モデル (LRM) は、複雑な多段階推論において強力な機能を示した。
既存のドメイン適応手法は、元々は命令調整モデル用に設計されていたが、現代のLEMの高度な推論パターンをうまく利用できなかった。
我々は、最適化モデリングタスクのためのネイティブ推論モード内でのLEMを段階的に洗練するフレームワークである textbfCALM を提案する。
論文 参考訳(メタデータ) (2025-10-05T13:38:31Z) - Toward a Trustworthy Optimization Modeling Agent via Verifiable Synthetic Data Generation [11.988926173584154]
本稿では,信頼性の高い大規模言語モデル(LLM)エージェントを合成データ生成パイプラインを介して訓練するためのフレームワークを提案する。
OptiTrustは、自然言語からソルバ対応コードへの多言語翻訳を行うモジュール型LLMエージェントである。
我々のエージェントは、標準ベンチマークで最先端のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2025-08-05T05:54:20Z) - Self-Boost via Optimal Retraining: An Analysis via Approximate Message Passing [58.52119063742121]
独自の予測と潜在的にノイズの多いラベルを使ってモデルをトレーニングすることは、モデルパフォーマンスを改善するためのよく知られた戦略である。
本稿では,モデルの予測と提供ラベルを最適に組み合わせる方法について論じる。
我々の主な貢献は、現在のモデルの予測と与えられたラベルを組み合わせたベイズ最適集約関数の導出である。
論文 参考訳(メタデータ) (2025-05-21T07:16:44Z) - Extrapolation Merging: Keep Improving With Extrapolation and Merging [14.786100203787194]
大規模言語モデル(LLM)は、異なる下流タスクを実行するために命令の微調整を必要とする。
モデルマージは、異なるモデルのパラメータを組み合わせることでパフォーマンスを向上させることを目的としている。
本稿では,余分な計算資源やデータを必要とすることなく,モデル性能の向上を継続するパラダイムであるExtrapolation Mergingを提案する。
論文 参考訳(メタデータ) (2025-03-05T14:28:22Z) - Pruning Large Language Models via Accuracy Predictor [0.0]
数十億のパラメータ(あるいはそれ以上)を含む大規模言語モデル(LLM)は、様々なNLPタスクにおいて印象的な機能を示している。
まず,一定の数のアーキテクチャと精度のペアのトレーニングセットを構築し,非ニューラルネットワークモデルを精度予測器として訓練する。
論文 参考訳(メタデータ) (2023-09-18T06:38:24Z) - Bayesian Optimization for Selecting Efficient Machine Learning Models [53.202224677485525]
本稿では,予測効率とトレーニング効率の両面において,モデルを協調最適化するための統一ベイズ最適化フレームワークを提案する。
レコメンデーションタスクのためのモデル選択の実験は、この方法で選択されたモデルがモデルのトレーニング効率を大幅に改善することを示している。
論文 参考訳(メタデータ) (2020-08-02T02:56:30Z) - Automatically Learning Compact Quality-aware Surrogates for Optimization
Problems [55.94450542785096]
未知パラメータで最適化問題を解くには、未知パラメータの値を予測し、これらの値を用いて問題を解くための予測モデルを学ぶ必要がある。
最近の研究によると、複雑なトレーニングモデルパイプラインのレイヤーとして最適化の問題を含めると、観測されていない意思決定の繰り返しを予測することになる。
我々は,大規模最適化問題の低次元サロゲートモデルを学習することにより,解の質を向上させることができることを示す。
論文 参考訳(メタデータ) (2020-06-18T19:11:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。