論文の概要: GRIMIP: A General Framework for Instance-Specific Configuration of MIP Solvers Using LLMs
- arxiv url: http://arxiv.org/abs/2606.23299v1
- Date: Mon, 22 Jun 2026 13:10:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-24 22:42:53.498314
- Title: GRIMIP: A General Framework for Instance-Specific Configuration of MIP Solvers Using LLMs
- Title（参考訳）: GRIMIP: LLMを用いたMIPソリューションのインスタンス特異的構成のための汎用フレームワーク
- Authors: Yidong Luo, Xuemin Chen, Chenguang Wang, Fangzhou Zhu, Tao Zhong, Tianshu Yu,
- Abstract要約: 本稿では,新しいハイブリッドインテリジェンスフレームワークであるtextbfunderline(textbfunderline General textbfunderlineReasoning for textbfunderlineInstance-specific textbfunderlineMIP configuration)を紹介する。
- 参考スコア（独自算出の注目度）: 9.2939109839777
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Configuring the hyperparameters of Mixed-integer programming (MIP) solvers is a high-dimensional, instance-dependent optimization problem where suboptimal settings can degrade solving time by orders of magnitude. Default configurations are often suboptimal, while traditional tuning methods either suffer from the ``cold-start'' problem and inefficient search or heavily rely on expert experience. This paper introduces \textbf{GRIMIP} (\textbf{\underline{G}}eneral \textbf{\underline{R}}easoning for \textbf{\underline{I}}nstance-specific \textbf{\underline{MIP}} configuration), a novel hybrid intelligence framework that synergistically integrates the semantic reasoning capabilities of Large Language Models (LLMs) with the sample-efficient search of Bayesian Optimization (BO). GRIMIP enables the LLM to function as a complete probabilistic surrogate within the BO loop, significantly improving performance and reducing sampling and evaluation costs. On seven benchmarks including MIPLIB, GRIMIP achieves over 40\% reduction in Primal-Dual Integral on hard instances, outperforming SMAC and other LLM-assisted BO methods. By granting LLMs sufficient autonomy, GRIMIP combines the expert-level reasoning of LLMs with the efficient search of BO, achieving state-of-the-art performance.
- Abstract（参考訳）: MIP(Mixed-Integer Programming)ソルバのハイパーパラメータの設定は高次元のインスタンス依存最適化問題である。
デフォルト設定は、しばしばサブ最適化されるが、従来のチューニングメソッドは `cold-start'' 問題に悩まされ、検索の効率が悪くなるか、専門家の経験に大きく依存する。
本稿では,大規模言語モデル (LLMs) のセマンティック推論能力とサンプル効率でベイズ最適化 (BO) の探索を相乗的に統合する,新しいハイブリッドインテリジェンスフレームワークである \textbf{GRIMIP} (\textbf{\underline{G}}eneral \textbf{\underline{R}}easoning for \textbf{\underline{I}}nstance-specific \textbf{\underline{MIP}}config) を紹介する。
GRIMIPにより、LLMはBOループ内の完全な確率的サロゲートとして機能し、性能を大幅に改善し、サンプリングと評価コストを削減できる。
MIPLIBを含む7つのベンチマークでは、GRIMIPはハードインスタンス上でのPrimal-Dual Integralの40%以上削減し、SMACや他のLCM支援BO法より優れている。
LLMに十分な自律性を与えることで、GRIMIPはLLMのエキスパートレベルの推論とBOの効率的な探索を組み合わせ、最先端のパフォーマンスを達成する。
関連論文リスト
- A Meta-Knowledge-Augmented LLM Framework for Hyperparameter Optimization in Time-Series Forecasting [0.0]
LLM-AutoOptは,BOとLLMに基づく文脈推論を組み合わせたハイブリッドHPOフレームワークである。
LLM-AutoOpt はメタ知識のない BO や LLM のベースラインと比較して,予測性能の向上と解釈可能な最適化動作の向上を実現している。
論文 参考訳（メタデータ） (2026-02-01T21:26:57Z) - LB-MCTS: Synergizing Large Language Models and Bayesian Optimization for Efficient CASH [10.806107994473495]
モンテカルロ木探索構造における大規模言語モデル(LLM)とBOの相乗化フレームワークであるLB-MCTSを提案する。
STM(Selective Tuning Memory)と明示的な探索-探索トレードオフによる推論を最大化する。
104のAMLBデータセットに対する実験は、LB-MCTSが競合ベースラインよりも優れていることを示した。
論文 参考訳（メタデータ） (2026-01-18T11:26:31Z) - Sequential Large Language Model-Based Hyper-parameter Optimization [0.0]
本研究では,大規模言語モデル(LLM)をハイパーパラメータ最適化(HPO)に活用する革新的なフレームワークSLLMBOを紹介する。
動的探索空間適応性、拡張パラメータ空間利用、新しいLLM木構造パーゼン推定器(LLM-TPE)が組み込まれている。
この総合ベンチマークは、GPT-3.5-Turbo、GPT-4o、Claude-Sonnet-3.5、Gemini-1.5-Flashを含む複数のLCMを評価する。
論文 参考訳（メタデータ） (2024-10-27T00:50:30Z) - In-the-loop Hyper-Parameter Optimization for LLM-Based Automated Design of Heuristics [0.020482269513546456]
大規模言語モデル(LLM)は、(メタ)ヒューリスティックを自動的に生成し最適化する大きな可能性を示している。
本稿では,オープンソースのLLaMEAフレームワークとハイパー進化最適化(HPO)手法を統合した新しいハイブリッドアプローチであるLLaMEA-HPOを提案する。
論文 参考訳（メタデータ） (2024-10-07T14:04:31Z) - LLaMA-Berry: Pairwise Optimization for O1-like Olympiad-Level Mathematical Reasoning [56.273799410256075]
このフレームワークはMonte Carlo Tree Search (MCTS)と反復的なSelf-Refineを組み合わせて推論パスを最適化する。
このフレームワークは、一般的なベンチマークと高度なベンチマークでテストされており、探索効率と問題解決能力の点で優れた性能を示している。
論文 参考訳（メタデータ） (2024-10-03T18:12:29Z) - Search for Efficient Large Language Models [52.98684997131108]
大規模言語モデル(LLMs)は、人工知能研究の領域で長い間停滞してきた。
軽量プルーニング、量子化、蒸留がLLMの圧縮に取り入れられ、メモリの削減と推論の加速を狙った。
ほとんどのモデル圧縮技術は、最適アーキテクチャの探索を見越して重量最適化に重点を置いている。
論文 参考訳（メタデータ） (2024-09-25T21:32:12Z) - Bypass Back-propagation: Optimization-based Structural Pruning for Large Language Models via Policy Gradient [57.9629676017527]
本研究では,プルーンドモデルの損失を最適化することにより,確率空間におけるプルーニングマスクを直接学習する最適化に基づく構造的プルーニングを提案する。
我々は、基底となるベルヌーイ分布をサンプルのバイナリ・プルーニングマスクに学習することでこれを実現する。
LLaMA, LLaMA-2, LLaMA-3, Vicuna, Mistral モデルによる実験により, 本手法の有効性と有効性を示すことができた。
論文 参考訳（メタデータ） (2024-06-15T09:31:03Z) - SparseLLM: Towards Global Pruning for Pre-trained Language Models [12.057369029549534]
本研究では,グローバルプルーニングプロセスを再定義する新しいフレームワークであるSparseLLMを提案する。
SparseLLMのアプローチは、LLMをモジュラ関数の連鎖として概念化し、問題の分解に補助変数を利用する。
高いスパーシティ・レシエーションにおいて、特に顕著なパフォーマンス向上を示す。
論文 参考訳（メタデータ） (2024-02-28T00:09:07Z) - Large Language Models to Enhance Bayesian Optimization [57.474613739645605]
本稿では,大規模言語モデル(LLM)の能力をベイズ最適化に組み込む新しいアプローチであるLLAMBOを提案する。
高いレベルでは、自然言語のBO問題を枠組み化し、LLMが歴史的評価に照らした有望な解を反復的に提案し、評価することを可能にする。
以上の結果から,LLAMBOはゼロショットウォームスタートに有効であり,サロゲートモデリングや候補サンプリングの促進,特に観察が不十分な場合の探索の初期段階において有効であることが示唆された。
論文 参考訳（メタデータ） (2024-02-06T11:44:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。