論文の概要: Reliable Reasoning with Large Language Models via Preference-Based Maximum Satisfiability
- arxiv url: http://arxiv.org/abs/2605.29687v1
- Date: Thu, 28 May 2026 09:51:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-30 02:45:56.158965
- Title: Reliable Reasoning with Large Language Models via Preference-Based Maximum Satisfiability
- Title(参考訳): 嗜好に基づく最大満足度を用いた大規模言語モデルによる信頼性推論
- Authors: Pedro Orvalho, Marta Kwiatkowska, Guillem Alenyà, Felip Manyà,
- Abstract要約: 大きな言語モデル(LLM)は、自然言語を理解するのに優れているが、ユーザ定義の好みを含む最適化タスクに苦労する。
本稿では,LLMがコード生成を通じて推論を外部化するハイブリッド推論手法を提案する。
この結果から,LLMによるコード生成と嗜好に基づくMaxSATが組み合わさることで,ソルバ検証の最適化が可能であることが示唆された。
- 参考スコア(独自算出の注目度): 19.16962344736341
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large Language Models (LLMs) excel at understanding natural language but struggle with optimisation tasks involving multiple constraints and user-defined preferences, which commonly arise in domains such as robotics. We propose a hybrid reasoning approach in which LLMs externalise reasoning through code generation. Given a natural language problem description, an LLM generates Python code that encodes user-defined constraints and preferences as a preference-based Maximum Satisfiability (MaxSAT) problem, which is then solved by an exact MaxSAT solver. To ensure correctness, solutions returned by the model-generated code are independently verified for feasibility and optimality against a canonical MaxSAT encoding, allowing for different encodings and multiple optimal solutions. We evaluate our approach using both open-source and closed-access LLMs on three families of preference-based reasoning tasks, and compare it against direct-answer, chain-of-thought, and program-of-thought baselines using the same models. While these baselines rarely produce feasible solutions, the MaxSAT-based pipeline achieves substantially higher acceptance rates, in some cases exceeding 80%. Our results demonstrate that LLM-driven code generation combined with preference-based MaxSAT enables solver-verifiable optimisation with respect to generated encodings, and substantially improves correctness under independently verified reference semantics.
- Abstract(参考訳): 大規模言語モデル(LLM)は自然言語の理解に長けているが、ロボット工学などの領域で一般的に発生する複数の制約やユーザ定義の好みを含む最適化タスクに苦慮している。
本稿では,LLMがコード生成を通じて推論を外部化するハイブリッド推論手法を提案する。
自然言語による問題記述が与えられた後、LLMはPythonコードを生成し、ユーザが定義した制約と好みを優先ベースのMaxSAT(Maximum Satisfiability)問題としてエンコードする。
正当性を確保するため、モデル生成コードによって返される解は、標準MaxSATエンコーディングに対する実現可能性と最適性に対して独立に検証され、異なるエンコーディングと複数の最適解が可能である。
選好に基づく推論タスクの3つのファミリに対して,オープンソースとクローズドアクセス LLM の両方を用いてアプローチを評価し,同じモデルを用いて直接回答,チェーン・オブ・プリート,プログラム・オブ・プリート・ベースラインと比較した。
これらのベースラインが実現可能なソリューションを生み出すことはめったにないが、MaxSATベースのパイプラインは80%を超える場合があり、かなり高い受け入れ率を達成する。
この結果から,LLMによるコード生成と嗜好に基づくMaxSATが組み合わさって,生成したエンコーディングに対するソルバ検証の最適化を可能にし,独立に検証された参照セマンティクスの精度を大幅に向上することを示した。
関連論文リスト
- Generating Robust Portfolios of Optimization Models using Large Language Models [27.600634702684733]
我々は最適化モデルの生成と評価を行う新しい方法を開発した。
ポートフォリオが人間の好みによく適合していることを示す理論的保証を提供する。
範囲最適化モデリングタスクにおける高い性能を示す。
論文 参考訳(メタデータ) (2026-05-26T13:30:43Z) - Formalize, Don't Optimize: The Heuristic Trap in LLM-Generated Combinatorial Solvers [52.23061619664667]
大規模言語モデル(LLM)は直接推論によって複雑な問題を解くのに苦慮しているため、近年のニューロシンボリックシステムは、それを実行可能な解法を合成するためにますます利用している。
我々は,100の問題をベンチマークしたCP-SynC-XL(4,577インスタンス)を導入し,ネイティブアルゴリズム検索(Python),PythonソルバAPI(Python + OR-Tools)による制約モデリング,宣言的制約モデリングという3つのコンストラクションパラダイムを評価した。
論文 参考訳(メタデータ) (2026-05-12T17:15:45Z) - Multi-Objective Hierarchical Optimization with Large Language Models [41.41567058185742]
大規模言語モデル(LLM)は、多目的最適化を推進するための既定の選択肢ではない。
本稿では,このギャップを,構造化階層型探索戦略内での代理モデルと候補サンプルとしてLLMを活用することで解決する。
論文 参考訳(メタデータ) (2026-01-20T12:10:13Z) - LLMize: A Framework for Large Language Model-Based Numerical Optimization [0.0]
大規模言語モデル(LLM)は、最近、従来の言語タスク以上の強力な推論能力を示している。
本稿では,LLM駆動最適化を実現するオープンソースPythonフレームワークであるLLMizeを提案する。
論文 参考訳(メタデータ) (2025-12-30T20:05:30Z) - Toward a Trustworthy Optimization Modeling Agent via Verifiable Synthetic Data Generation [11.988926173584154]
本稿では,信頼性の高い大規模言語モデル(LLM)エージェントを合成データ生成パイプラインを介して訓練するためのフレームワークを提案する。
OptiTrustは、自然言語からソルバ対応コードへの多言語翻訳を行うモジュール型LLMエージェントである。
我々のエージェントは、標準ベンチマークで最先端のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2025-08-05T05:54:20Z) - Self-ensemble: Mitigating Confidence Mis-calibration for Large Language Models [67.62810111789338]
大規模言語モデルでは,複数問合せ質問に対する信頼度歪みが問題となる。
この問題を解決するために自己組織化を提案する。
3つのLLMおよびデータセットの実験結果から,自己アンサンブルが信頼歪問題に包括的に対処できることが示されている。
論文 参考訳(メタデータ) (2025-06-02T17:59:29Z) - Latent Preference Coding: Aligning Large Language Models via Discrete Latent Codes [54.93980123979578]
我々は、暗黙の要因をモデル化する新しいフレームワークであるLatent Preference Coding (LPC)を紹介する。
LPCは様々なオフラインアライメントアルゴリズムとシームレスに統合し、基礎となる要因とデータからその重要性を自動的に推測する。
論文 参考訳(メタデータ) (2025-05-08T06:59:06Z) - Syntactic and Semantic Control of Large Language Models via Sequential Monte Carlo [90.78001821963008]
広い範囲のLMアプリケーションは、構文的制約や意味論的制約に適合するテキストを生成する必要がある。
我々は、連続モンテカルロ(SMC)に基づく制御LM生成のためのアーキテクチャを開発する。
我々のシステムはLew et al. (2023) のフレームワーク上に構築されており、言語モデル確率型プログラミング言語と統合されている。
論文 参考訳(メタデータ) (2025-04-17T17:49:40Z) - LLaMA-Berry: Pairwise Optimization for O1-like Olympiad-Level Mathematical Reasoning [56.273799410256075]
このフレームワークはMonte Carlo Tree Search (MCTS)と反復的なSelf-Refineを組み合わせて推論パスを最適化する。
このフレームワークは、一般的なベンチマークと高度なベンチマークでテストされており、探索効率と問題解決能力の点で優れた性能を示している。
論文 参考訳(メタデータ) (2024-10-03T18:12:29Z) - Solving General Natural-Language-Description Optimization Problems with Large Language Models [34.50671063271608]
外部ソルバでLLMを増強するOPtLLMという新しいフレームワークを提案する。
OptLLMは自然言語でユーザクエリを受け付け、それらを数学的定式化やプログラミングコードに変換し、解決者を呼び出して結果を計算する。
OptLLMフレームワークのいくつかの機能は、2023年6月から試用されている。
論文 参考訳(メタデータ) (2024-07-09T07:11:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。