論文の概要: Learning Context-Free Grammars for Grammar-Constrained Decoding via Declarative Agentic Programming with Guarantees
- arxiv url: http://arxiv.org/abs/2608.05493v1
- Date: Thu, 06 Aug 2026 00:44:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-07 17:43:06.689927
- Title: Learning Context-Free Grammars for Grammar-Constrained Decoding via Declarative Agentic Programming with Guarantees
- Title（参考訳）: 保証付き宣言型エージェントプログラミングによる文法制約付きデコーディングのための文脈自由文法の学習
- Abstract要約: 文法制約の復号化はそのような失敗を排除できるが、構文制約を必要とする。
本研究では,文書や実行データから文脈自由文法を自動的に学習するAutogrammarというエージェントを定義する。
3つのDSL上でAutogrammarの4つのバージョンを評価し、未確認データに対してほぼ完全精度の文法を生成することを発見した。
- 参考スコア（独自算出の注目度）: 5.635931633252131
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Language models (LMs) are increasingly used to interact with external services via programs written in domain-specific languages (DSLs). Unfortunately, since DSLs are often low-resource and esoteric, LMs frequently produce syntactically invalid programs in these languages. Grammar-constrained decoding can eliminate such failures, but requires syntactic constraints. These are usually in the form of a context-free grammar for the target language, an artifact that is hard to come by for third-party DSLs. In this work, we define an agent, called Autogrammar, that automatically learns context-free grammars from documentation and execution data. Autogrammar is formalized as a Kripke structure whose nondeterministic choices are resolved by a language model, enabling declarative control of agent behavior via linear temporal logic constraints. We evaluate four versions of Autogrammar on three DSLs (i.e., Amazon CloudWatch Logs Insights, Dynatrace Query Language, and Datadog Search Syntax) and find that it generates grammars that achieve near perfect precision on unseen data; that temporal restrictions reduce execution time by 3.8x without incurring statistically-significant loss in precision; that execution data is crucial while documentation is dispensable; and that grammar-constrained decoding using Autogrammar-generated grammars significantly improves end-to-end LM performance on eight out of ten real tasks, matching or exceeding the performance of a professionally-maintained grammar. In comparison, the context-free grammars generated by existing LM baselines and a state-of-the-art formal technique perform significantly worse over the same evaluation.
- Abstract（参考訳）: 言語モデル(LM)は、ドメイン固有言語(DSL)で記述されたプログラムを介して外部サービスと対話するためにますます使われています。
残念なことに、DSLは低リソースで難解な場合が多いため、LMはこれらの言語で構文的に無効なプログラムをしばしば生成します。
文法制約による復号化はそのような失敗を排除できるが、構文制約を必要とする。
これらは通常、ターゲット言語のための文脈自由文法の形式であり、サードパーティのDSLでは見つからないアーティファクトである。
本研究では,文書や実行データから文脈自由文法を自動的に学習するAutogrammarというエージェントを定義する。
オート文法は、言語モデルによって非決定論的選択が解決されるクリプキ構造として形式化され、線形時間論理制約によるエージェントの振る舞いの宣言的制御を可能にする。
我々は,3つのDSL(Amazon CloudWatch Logs Insights,Dynatrace Query Language,Datadog Search Syntax)上でAutogrammarの4つのバージョンを評価し,未確認データに対してほぼ完全精度の文法を生成すること,時間的制限により統計的に重要な精度の損失を発生させることなく実行時間を3.8倍削減すること,ドキュメント作成時に重要なデータであること,Autogrammar生成文法を使用した文法制約デコーディングにより10のタスクのうち8つにおいて,エンドツーエンドのLMパフォーマンスが大幅に向上し,プロフェッショナルに保持された文法のパフォーマンスが向上することが確認された。
比較して,既存のLMベースラインと最先端の形式技術によって生成された文脈自由文法は,同じ評価に対して著しく悪化する。
関連論文リスト
- Weave of Formal Thought [51.56484100374058]
WoFT(Weave of Formal Thought)は、厳密な構文的検証と学習された構造的表現を結合したパラダイムである。
本稿では,非終端文法記号を直接生成にインターリーブするために,言語モデルを訓練する潜時可変微調整法を提案する。
Pythonでは、RWS目的のStarCoder2-3Bを微調整することで、テキストのみのSFTベースラインと比較して、トーケン毎のクロスエントロピーが14.3%削減される。
論文 参考訳（メタデータ） (2026-06-24T15:58:11Z) - Encode Errors: Representational Retrieval of In-Context Demonstrations for Multilingual Grammatical Error Correction [28.920985595976873]
文法誤り訂正(英: Grammatical Error Correction, GEC)とは、文法の誤用を検出し、訂正することである。
インコンテキスト学習(ICL)機能を持つ大規模言語モデル(LLM)は、様々な自然言語処理(NLP)タスクにおいて大きな進歩を見せている。
これは主に、セマンティックな類似性ではなく、エラーパターンをキャプチャする適切なコンテキスト内デモを取得することによる。
論文 参考訳（メタデータ） (2026-06-13T18:00:26Z) - Reasoning over Grammar: Can Synthetic Linguistic Reasoning Traces Enhance Low-Resource Machine Translation? [49.7935995447581]
我々は,低リソース機械翻訳が言語解析と文法推論の中間段階の構造化の恩恵を受けるか検討する。
本稿では,Universal Dependencies Treebank,Dictionary,Gram-rule Bankから,ステップバイステップの言語推論トレースを自動的に生成するパイプラインを提案する。
その結果,言語的推論の痕跡は推論時ガイダンスとして最も有効であることが示唆された。
論文 参考訳（メタデータ） (2026-06-02T15:36:12Z) - Evaluating In-Context Translation with Synchronous Context-Free Grammar Transduction [17.60599688606413]
低リソース言語は大きな言語モデル(LLM)を用いた機械翻訳に挑戦する
形式言語のペアを定義する同期文脈自由文法を構築した。
LLMが文法とソース言語文の両方を与えられたとき、ある形式言語から別の形式言語への文の翻訳にどの程度役立つかを計測する。
論文 参考訳（メタデータ） (2026-04-08T17:35:44Z) - Doc2Spec: Synthesizing Formal Programming Specifications from Natural Language via Grammar Induction [3.13621719351502]
Doc2Specは、自然言語規則から仕様文法を自動的に誘導するフレームワークである。
誘導文法でガイドされた形式仕様を生成する。
この文法は必須のドメイン知識を捉え、仕様空間を制約し、一貫した表現を強制する。
論文 参考訳（メタデータ） (2026-01-30T02:58:27Z) - Automatic Syntax Error Repair for Discrete Controller Synthesis using Large Language Model [8.741815980649667]
本稿では,Large Language Models (LLMs) を利用してDCSモデルの構文誤りを修復する自動手法を提案する。
LLMには形式文法規則やイラストレーション例を含むDCS固有のドメイン知識が備わっており、正確な修正を導く。
人間の開発者に比べて3.46倍のスピードアップを実現している。
論文 参考訳（メタデータ） (2025-12-08T07:57:15Z) - Grammar Prompting for Domain-Specific Language Generation with Large
Language Models [40.831045850285776]
大規模言語モデル(LLM)は、コンテキスト内サンプルのごく一部から、幅広い自然言語タスクを実行することを学べる。
本稿では,LLMが外部知識やドメイン固有の制約を利用できるための簡単な手法であるEmphgrammar promptingを提案する。
論文 参考訳（メタデータ） (2023-05-30T17:26:01Z) - Grammar-Constrained Decoding for Structured NLP Tasks without Finetuning [27.59524153097858]
文法制約付き復号法(GCD)は、大言語モデル(LM)の生成を制御するために用いられる。
GCDは一般に構造化NLPタスクの統一フレームワークとして機能する。
文法制約付きLMは、制約なしLMよりも大幅に優れるか、タスク固有の微調整モデルよりも優れていることを示す。
論文 参考訳（メタデータ） (2023-05-23T11:54:37Z) - CLSE: Corpus of Linguistically Significant Entities [58.29901964387952]
専門家が注釈を付けた言語学的に重要なエンティティ(CLSE)のコーパスをリリースする。
CLSEは74種類のセマンティックタイプをカバーし、航空券売機からビデオゲームまで様々なアプリケーションをサポートする。
言語的に代表されるNLG評価ベンチマークを,フランス語,マラティー語,ロシア語の3言語で作成する。
論文 参考訳（メタデータ） (2022-11-04T12:56:12Z) - A Syntax-Guided Grammatical Error Correction Model with Dependency Tree
Correction [83.14159143179269]
文法的誤り訂正(英: Grammatical Error Correction, GEC)は、文中の文法的誤りを検出し、訂正するタスクである。
本稿では,依存木の構文知識を利用するためのグラフアテンション機構を採用した構文誘導型GECモデル(SG-GEC)を提案する。
我々は、GECタスクの公開ベンチマークでモデルを評価し、競争結果を得る。
論文 参考訳（メタデータ） (2021-11-05T07:07:48Z) - LM-Critic: Language Models for Unsupervised Grammatical Error Correction [128.9174409251852]
文を文法的に判断する LM-Critic の定義において,事前訓練された言語モデル (LM) の活用法を示す。
このLM-Critic と BIFI と、ラベルなし文の集合を併用して、現実的な非文法的/文法的ペアをブートストラップし、修正子を訓練する。
論文 参考訳（メタデータ） (2021-09-14T17:06:43Z) - GATE: Graph Attention Transformer Encoder for Cross-lingual Relation and
Event Extraction [107.8262586956778]
言語に依存しない文表現を学習するために、普遍的な依存解析を伴うグラフ畳み込みネットワーク(GCN)を導入する。
GCNは、長い範囲の依存関係を持つ単語をモデル化するのに苦労する。
そこで本研究では,構文的距離の異なる単語間の依存関係を学習するための自己認識機構を提案する。
論文 参考訳（メタデータ） (2020-10-06T20:30:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。