論文の概要: Fix What's Wrong, Keep What's Right: Hallucination Repair for LLM-Based Optimization Modeling
- arxiv url: http://arxiv.org/abs/2610.12529v1
- Date: Thu, 08 Oct 2026 09:42:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-13 04:06:29.216362
- Title: Fix What's Wrong, Keep What's Right: Hallucination Repair for LLM-Based Optimization Modeling
- Title(参考訳): 誤りの修正, 正しいことの維持: LLMに基づく最適化モデリングのための幻覚修復
- Abstract要約: OPT-Krakenは、トレーニング不要の幻覚修復フレームワークである。
問題モデルの忠実さ、モデルコードの一貫性、データグラウンディングをチェックすることでエラーをローカライズする。
確立された最適化モデルベンチマークの実験では、自動モデリングフレームワークと微調整モデル間で正の利得を示している。
- 参考スコア(独自算出の注目度): 27.592375726010772
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large language models (LLMs) are increasingly being explored to automate operations research modeling, reduce modeling time and lower the expertise barrier to optimization based decision support. However, this process often introduces inconsistencies between generated artifacts and the original problem, which we refer to as optimization modeling hallucinations. Despite progress in general-purpose hallucination mitigation, optimization modeling poses a distinct repair challenge: restoring fidelity to the original problem through coordinated model-code updates. We introduce OPT-Kraken, a training-free hallucination repair framework. To the best of our knowledge, it is the first post-hoc framework for repairing hallucinations in LLM-based optimization modeling artifacts. It extracts problem requirements and instance data, localizes errors by checking problem-model fidelity, model-code consistency, and data grounding, and selects repair granularity by the affected scope. For local repair, category rules and instance evidence are compiled into contracts specifying permitted edits, expected effects, and protected content. Experiments on established optimization modeling benchmarks show positive gains across automatic modeling frameworks and fine-tuned models. On zero-shot artifacts from multiple base models, OPT-Kraken effectively repairs optimization modeling hallucinations while preserving initially correct artifacts. These results demonstrate effective and controlled repair for LLM-based optimization modeling artifacts.
- Abstract(参考訳): 大規模言語モデル(LLM)は、オペレーションリサーチモデリングの自動化、モデリング時間の短縮、最適化に基づく意思決定支援の専門的障壁の低減のために、ますます研究されている。
しかし、このプロセスは、生成したアーティファクトと元の問題との矛盾をしばしば生じさせ、最適化モデリング幻覚と呼ぶ。
汎用幻覚緩和の進展にもかかわらず、最適化モデリングは、コーディネートされたモデルコード更新によって元の問題に忠実さを回復させることという、明確な修復課題を生じさせる。
トレーニング不要の幻覚修復フレームワークであるOPT-Krakenを紹介する。
我々の知る限り、LLMに基づく最適化モデリングアーティファクトの幻覚を修復するための最初のポストホックフレームワークである。
問題要件とインスタンスデータを抽出し、問題モデル忠実度、モデルコードの整合性、データの接地性をチェックしてエラーをローカライズし、影響を受けるスコープによって修理の粒度を選択する。
局所的な修復のために、カテゴリルールとインスタンスエビデンスを、許可された編集、期待された効果、保護されたコンテンツを指定するコントラクトにコンパイルする。
確立された最適化モデルベンチマークの実験では、自動モデリングフレームワークと微調整モデル間で正の利得を示している。
複数のベースモデルのゼロショットアーティファクトに対して、OPT-Krakenは、当初正しいアーティファクトを保存しながら、最適化されたモデル幻覚を効果的に修復する。
これらの結果から, LLMに基づく最適化モデリングアーティファクトの有効かつ制御された修復が示された。
関連論文リスト
- Improving Constraint Models with LLM Agents [23.96475985648844]
オープンな空間から制約モデルを再構成するエージェントフレームワークを導入し、建設よりも経験的に正確性を確立する。
モデルと3つのトレーニングインスタンスが与えられたLarge Language Model (LLM)エージェントは、代替の定式化を提案し、そのソリューションを元のモデルに注入することでそれぞれを検証する。
9つの最適化問題において、生成されたモデルは27の試験インスタンスのうち21のオリジナルよりも優れており、いくつかの問題では2桁以上高速に解決されている。
論文 参考訳(メタデータ) (2026-08-08T13:22:30Z) - Co-Harness: Co-Evolving Harnesses and Model Weights for LLM Agents [37.91666123749406]
Co-Harnessは、ポストトレーニング中にエージェントハーネスとモデルパラメータを共同で最適化するフレームワークである。
自律的なケーススタディによると、Co-Harnessはシステムのクラッシュから回復し、推論効率を改善し、人間の介入なしにアンサンブル戦略を発見することができる。
論文 参考訳(メタデータ) (2026-07-17T02:39:57Z) - Opt-Verifier: Unleashing the Power of LLMs for Optimization Modeling via Dual-Side Verification [53.763212981479455]
本稿では、構造と解の両方の観点から、デュアルサイド検証(Opt-Verifier)を用いた新しいフレームワークを提案する。
一般的なベンチマーク実験により、我々の手法は精度が20%以上向上していることが示された。
論文 参考訳(メタデータ) (2026-05-28T08:09:52Z) - OptArgus: A Multi-Agent System to Detect Hallucinations in LLM-based Optimization Modeling [26.959984886152466]
最適化モデル, 目的, 変数, 制約, 実装障害にまたがる, 最初の微粒化幻覚分類法を開発した。
一致した単一エージェントベースラインに対して、OptArgusはクリーンアーティファクトに対する偽のアラームを少なくし、コントロールされた単一エラーケースにおけるより正確なトップランクのローカライゼーションと、自然なモデル出力に対するより強力な検出を実現している。
論文 参考訳(メタデータ) (2026-05-12T08:19:14Z) - Fine-tuning Done Right in Model Editing [83.79661791576103]
大規模な言語モデルを適応するための基礎的な手法であるファインチューニングは、長い間モデル編集には有効ではないと考えられてきた。
ミニバッチ最適化により、標準的な幅優先パイプライン(エポックベース)に微調整を復元する。
我々は、復元された微調整フレームワーク上に構築された、シンプルで効果的なローカライズド編集手法であるLocFT-BFを導出する。
論文 参考訳(メタデータ) (2025-09-26T08:53:13Z) - Solver-Informed RL: Grounding Large Language Models for Authentic Optimization Modeling [3.253908111652627]
大型言語モデル(LLM)は、しばしば幻覚に対する形式的正当で使用可能なモデルを生成するのに苦労する。
本稿では,検証リワードを用いた強化学習を用いた最適化モデルのためのLLMの信頼性を向上する新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2025-05-17T02:32:03Z) - SMILE: Zero-Shot Sparse Mixture of Low-Rank Experts Construction From Pre-Trained Foundation Models [85.67096251281191]
我々は、ゼロショットスパースミクチャー(SMILE)と呼ばれるモデル融合に対する革新的なアプローチを提案する。
SMILEは、余分なデータやさらなるトレーニングなしに、ソースモデルをMoEモデルにアップスケーリングできる。
画像分類やテキスト生成タスクなど,さまざまなシナリオに対して,フル微調整とLoRA微調整を用いて広範な実験を行う。
論文 参考訳(メタデータ) (2024-08-19T17:32:15Z) - The Butterfly Effect of Model Editing: Few Edits Can Trigger Large Language Models Collapse [58.0132400208411]
単一の編集でさえモデル崩壊を引き起こし、様々なベンチマークタスクで大幅なパフォーマンス低下を示す。
編集後の大規模言語モデルのベンチマークは、過激な時間とリソース集約である。
我々は、GPT-3.5を用いて、ハードケースに基づいた新しいデータセット、HardEditを開発した。
論文 参考訳(メタデータ) (2024-02-15T01:50:38Z) - Re-parameterizing Your Optimizers rather than Architectures [119.08740698936633]
本稿では,モデル固有の事前知識を構造学に取り入れ,汎用モデル(簡易モデル)の学習に使用する新しいパラダイムを提案する。
実装として,モデル固有のハイパーパラメータの集合に従って勾配を変更することによって,事前知識を付加する手法を提案する。
Reprでトレーニングされた単純なモデルに対しては、VGGスタイルのプレーンモデルに注目し、ReprでトレーニングされたそのようなシンプルなモデルがRep-VGGと呼ばれ、最近のよく設計されたモデルと同等に動作することを示す。
論文 参考訳(メタデータ) (2022-05-30T16:55:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。