論文の概要: Combining Constraint Programming Reasoning with Large Language Model Predictions
- arxiv url: http://arxiv.org/abs/2407.13490v1
- Date: Thu, 18 Jul 2024 13:15:55 GMT
- ステータス: 処理完了
- システム内更新日: 2024-07-19 15:20:54.697678
- Title: Combining Constraint Programming Reasoning with Large Language Model Predictions
- Title(参考訳): 制約型プログラミング推論と大規模言語モデル予測の併用
- Authors: Florian Régin, Elisabetta De Maria, Alexandre Bonlarron,
- Abstract要約: 制約プログラミング(CP)と機械学習(ML)は、テキスト生成において課題に直面します。
本稿では,Large Language Model (LLM) をCPに組み込んだ手法を提案する。
- 参考スコア(独自算出の注目度): 44.99833362998488
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Constraint Programming (CP) and Machine Learning (ML) face challenges in text generation due to CP's struggle with implementing "meaning'' and ML's difficulty with structural constraints. This paper proposes a solution by combining both approaches and embedding a Large Language Model (LLM) in CP. The LLM handles word generation and meaning, while CP manages structural constraints. This approach builds on GenCP, an improved version of On-the-fly Constraint Programming Search (OTFS) using LLM-generated domains. Compared to Beam Search (BS), a standard NLP method, this combined approach (GenCP with LLM) is faster and produces better results, ensuring all constraints are satisfied. This fusion of CP and ML presents new possibilities for enhancing text generation under constraints.
- Abstract(参考訳): 制約プログラミング(CP)と機械学習(ML)は、CPが「意味」とMLが構造的制約に難航しているために、テキスト生成の課題に直面している。
本稿では,Large Language Model (LLM) をCPに組み込んだ手法を提案する。
LLMは単語生成と意味を扱うが、CPは構造的制約を管理する。
このアプローチは、LLM生成ドメインを使用したOn-the-fly Constraint Programming Search (OTFS)の改良版であるGenCPをベースにしている。
標準NLP法であるビームサーチ(BS)と比較して、この組み合わせアプローチ(GenCPとLLM)は高速で、より良い結果をもたらし、全ての制約が満たされることを保証する。
このCPとMLの融合は制約下でのテキスト生成を向上する新たな可能性を示す。
関連論文リスト
- Interactive and Expressive Code-Augmented Planning with Large Language Models [62.799579304821826]
大きな言語モデル(LLM)は、常識的推論と対話的な意思決定において強力な能力を示す。
近年,制御フローなどのコード・アジャセント技術を用いてLCM出力を構造化し,計画性能を向上させる技術が提案されている。
完全コード表現で動的なLEM計画手法であるREPL-Planを提案する。
論文 参考訳(メタデータ) (2024-11-21T04:23:17Z) - Realtime Generation of Streamliners with Large Language Models [20.580584407211486]
本稿では,Large Language Models (LLM) を用いた制約プログラミングにおけるストリームライナー生成手法を提案する。
StreamLLMは、MiniZinc制約プログラミング言語で指定された問題に対する合理化器を生成する。
論文 参考訳(メタデータ) (2024-08-16T14:17:26Z) - Intertwining CP and NLP: The Generation of Unreasonably Constrained Sentences [49.86129209397701]
本稿では,この問題を解決するためにConstraints First Frameworkを提案する。
これは、言語特性とより古典的な制約を組み合わせた制約プログラミング手法によって解決される。
このアプローチの有効性は、より退屈な制約付きテキスト生成問題に取り組むことで実証される。
論文 参考訳(メタデータ) (2024-06-15T17:40:49Z) - From LLMs to Actions: Latent Codes as Bridges in Hierarchical Robot Control [58.72492647570062]
我々は,制限を克服する代替アーキテクチャとして,Learningable Latent Codes as Bridges (LCB)を導入した。
methodoutperforms baselines that leverage pure language as the interface layer on tasks that requires reasoning and multi-step behaviors。
論文 参考訳(メタデータ) (2024-05-08T04:14:06Z) - Evaluating, Understanding, and Improving Constrained Text Generation for Large Language Models [49.74036826946397]
本研究では,大言語モデル(LLM)の制約付きテキスト生成について検討する。
本研究は主に,制約を語彙型,構造型,関係型に分類するオープンソース LLM に重点を置いている。
その結果、LLMの能力と不足を照らし、制約を取り入れ、制約付きテキスト生成における将来の発展に対する洞察を提供する。
論文 参考訳(メタデータ) (2023-10-25T03:58:49Z) - Tractable Control for Autoregressive Language Generation [82.79160918147852]
本稿では,自動回帰テキスト生成モデルに語彙制約を課すために,トラクタブル確率モデル(TPM)を提案する。
本稿では,GeLaToが制約付きテキスト生成のための挑戦的ベンチマークにおいて,最先端のパフォーマンスを実現することを示す。
我々の研究は、大きな言語モデルを制御するための新しい道を開き、さらに表現力のあるTPMの開発を動機付けます。
論文 参考訳(メタデータ) (2023-04-15T00:19:44Z) - On Codex Prompt Engineering for OCL Generation: An Empirical Study [10.184056098238765]
Object Constraint Language (OCL)は、MOFモデルに制約とオブジェクトクエリ式を追加する宣言型言語である。
GPT-3のような最近のLPMの進歩は、多くのNLPタスクにおいてその能力を示している。
自然言語仕様からCodexが生成するOCL制約の信頼性について検討する。
論文 参考訳(メタデータ) (2023-03-28T18:50:51Z) - Language Generation via Combinatorial Constraint Satisfaction: A Tree
Search Enhanced Monte-Carlo Approach [24.897552102098324]
文生成のための制約の指定を可能にするフレームワークを提案する。
本稿では,事前学習した言語モデルに対して,高い確率文を生成する効率的なTSMHを提案する。
このアプローチは非常に柔軟で、タスク固有のトレーニングを必要とせず、効率的な制約満足度解決技術を活用しています。
論文 参考訳(メタデータ) (2020-11-24T19:21:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。