論文の概要: GRID: Grammar-Railed Decoding for Enterprise SQL Generation
- arxiv url: http://arxiv.org/abs/2607.11951v1
- Date: Sat, 11 Jul 2026 19:25:23 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-15 17:08:29.893344
- Title: GRID: Grammar-Railed Decoding for Enterprise SQL Generation
- Title(参考訳): GRID: エンタープライズSQL生成のためのGrammar-Railedデコーディング
- Abstract要約: 文法制約付き復号エンジンGRID(Grammar-Railed Decoding)を提案する。
LALR(1)自体を実行可能なオラクルとして使用する。
4つの保証(音量、完全性、終了、およびほぼ一定に近いコスト)は明示的な前提条件で記述される。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language models can write SQL, but enterprise deployment demands more than plausible text: outputs must be syntactically valid, must respect per-role and per-schema policy, must carry provable (not best-effort) guarantees, must not slow down as generations grow, and must leave a compliance-grade record of every decision. We present GRID (Grammar-Railed Decoding), a grammar-constrained decoding engine that keys exact next-token masks on parser configurations (lexer scan state x LALR(1) stack) rather than on token sequences, and uses the incrementally advanced LALR(1) parser itself as a viable-prefix oracle. LLM tokens are bridged to grammar terminals by a byte-level trie walk with a context-independent/context-dependent split that makes cache-key soundness hold by construction. Role-based access control is compiled into the language: role projections subset the grammar's productions and schema lexicons restrict identifier terminals, so forbidden verbs and identifiers are unreachable at mask level. Four guarantees (soundness, completeness, termination, and near-constant per-token cost) are stated with explicit preconditions and each paired with a test or benchmark. Rust kernels bring the per-token mask to a 3.6-6.7 us median, ahead of llguidance at p50 and p90 on two tokenizers with zero false rejects; per-token guard cost is position-flat at n=16,000. On Spider, constrained decoding is worth +13 execution-accuracy points at 0.5B, and one checker-guided repair pass over the provably mask-unenforceable residue (column-level policy) lifts a 7B model to 94.5% executable. A hash-chained per-token audit trail replays bit-identically with 100% tamper detection. We state plainly what the mask cannot do (distribution faithfulness, column-level RBAC, non-LALR(1) languages) and where measured cost remains.
- Abstract(参考訳): アウトプットは構文的に有効で、ロールごととスキーマごとのポリシーを尊重し、証明可能な(最善ではない)保証を実行し、世代が成長するにつれて速度を落とさなければならず、あらゆる決定のコンプライアンスグレードの記録を残さなければならない。
我々は、トークンシーケンスではなく、パーサ構成(lexer scan state x LALR(1) stack)に正確に次トーケンマスクをキーする文法制約付きデコードエンジンであるGRID(Grammar-Railed Decoding)について述べる。
LLMトークンは、バイトレベルのトリップウォークによって文法端末にブリッジされ、コンテキスト非依存/コンテキスト依存のスプリットにより、キャッシュキーの音質を構成によって保持する。
ロールプロジェクションは文法の生産をサブセットし、スキーマレキシコンは識別子端末を制限するため、禁止された動詞と識別子はマスクレベルでは到達できない。
4つの保証(音量、完全性、終端、ほぼ一定に近いコスト)が明示的な前提条件で記述され、それぞれがテストまたはベンチマークとペアリングされる。
ラストカーネルは、トークン1個あたりのマスクを3.6-6.7USの中央値まで持ち込み、p50とp90は偽の拒絶をゼロとする2つのトークン化剤のラストに先行する。
スパイダーでは、制約付き復号化は0.5Bで +13 の精度で実行可能であり、1つのチェッカー誘導修理は証明可能なマスク非強化残差(カラムレベルのポリシー)を通過させることで 7B モデルを94.5% に引き上げる。
ハッシュチェイン付きトーケン監査トレイルは、100%タンパ検出でビットIDを再生する。
マスクができないこと(分布忠実性、列レベルのRBAC、非LALR(1)言語)と、測定コストが残っていることを明確に述べる。
関連論文リスト
- Dependency-Aware Revocable Decoding for Efficient Diffusion Large Language Model Inference [26.756607509798382]
Dependency-Aware Revocable Decoding (DARD) は、トークンをマスク、候補、非マスク状態に分離するトレーニング不要のフレームワークである。
DARDは、最近のデコード方式よりも、スピードクオリティのフロンティアを一貫して改善している。
論文 参考訳(メタデータ) (2026-08-27T03:34:47Z) - The Parser Already Knows: Lightweight Bias Correction in Constrained Decoding [30.042720796822085]
Grammar Constrained Decoding (GCD)は、言語モデル(LM)に対して、各ステップで非コンフォーミングトークンをマスキングすることで、構文的に有効な出力を生成するように強制する。
オンラインサンプリングはこの分布を復元するが、計算的に高価な反復的再サンプリングが必要である。
我々は,この構文的および語彙的状態と,候補となる次のトークンとを条件に,軽量でオフラインでトレーニングされたロジット補正を提案する。
論文 参考訳(メタデータ) (2026-08-10T18:52:43Z) - Weave of Formal Thought [51.56484100374058]
WoFT(Weave of Formal Thought)は、厳密な構文的検証と学習された構造的表現を結合したパラダイムである。
本稿では,非終端文法記号を直接生成にインターリーブするために,言語モデルを訓練する潜時可変微調整法を提案する。
Pythonでは、RWS目的のStarCoder2-3Bを微調整することで、テキストのみのSFTベースラインと比較して、トーケン毎のクロスエントロピーが14.3%削減される。
論文 参考訳(メタデータ) (2026-06-24T15:58:11Z) - CODEBLOCK: Learning to Supervise Code at the Right Granularity [32.949996770189834]
孤立トークンではなく,構造完備なコードエビデンスを選択する構造対応スパース監視フレームワークを提案する。
実験の結果、CodeBlockは本格的なSFTと競争力のある選択ベースラインよりも平均パス@1を達成している。
論文 参考訳(メタデータ) (2026-06-10T04:46:04Z) - MaskForge: Structure-Aware Adaptive Attacks for Jailbreaking Diffusion Large Language Models [53.05463623673949]
MaskForgeは完全にブラックボックス対応の攻撃で、構造パターンのライブラリを最適化した検索としてdLLMのレッドチームを実行する。
攻撃成功率は79.3%であり、最強のdLLMベースラインよりも17.6%向上している。
論文 参考訳(メタデータ) (2026-06-01T18:10:21Z) - SimSD: Simple Speculative Decoding in Diffusion Language Models [61.33773959352141]
拡散大言語モデル (dLLMs) は、並列またはブロックワイド復号による高速な推論を提供する。
彼らのマスク付き言語モデリングの定式化は、標準的なトークンレベルの投機的復号法とは相容れないままである。
我々は,dLLMに時間的に有効なトークンレベルのコンテキストを付与する,SimSDと呼ばれるdLLMの投機的復号アルゴリズムを提案する。
提案手法は,平均生成品質を維持しつつ,最大7.46倍高い復号スループットを実現する。
論文 参考訳(メタデータ) (2026-06-01T17:46:46Z) - Attention Meets Reachability: Structural Equivalence and Efficiency in Grammar-Constrained LLM Decoding [0.2864713389096699]
我々は、文脈自由文法(CFG)からコンパイルされたプッシュダウンシステム上での自己回帰的次トーケン分布と到達可能性との結合として文法制約デコーディング(GCD)を研究する。
文法の復号コスト等価クラスを定義し、有界書き直し科における最小SAC代表者の存在を証明した。
論文 参考訳(メタデータ) (2026-03-04T11:49:55Z) - Residual Context Diffusion Language Models [90.07635240595926]
Residual Context Diffusion (RCD) は、捨てられたトークン表現をコンテキスト残留に変換し、次のデノイングステップでそれらを注入するモジュールである。
RCDは、最小限の計算オーバーヘッドで、5-10ポイントの精度でフロンティアdLLMを一貫して改善する。
論文 参考訳(メタデータ) (2026-01-30T13:16:32Z) - Broken Tokens? Your Language Model can Secretly Handle Non-Canonical Tokenizations [83.93566096400723]
ランダムにサンプリングされたトークン化が与えられた場合、命令調整されたモデルは元の性能の最大93.4%を維持している。
文字レベルのセグメンテーションは文字列操作とコード理解タスクを最大+14%改善する。
右列桁のグルーピングは、大数の算術を+33%向上させる。
論文 参考訳(メタデータ) (2025-06-23T18:02:26Z) - Flexible and Efficient Grammar-Constrained Decoding [5.671312847528642]
文法制約付き復号法(GCD)は、LLM出力がそのような規則と一致することを保証できる。
既存のGCDアルゴリズムでは、共通文法を前処理するのに何分もかかる。
本稿では,既存の手法よりも17.71倍高速なオフライン前処理を実現するGCDアルゴリズムを提案する。
論文 参考訳(メタデータ) (2025-02-07T17:35:17Z) - Not all tokens are created equal: Perplexity Attention Weighted Networks for AI generated text detection [49.15148871877941]
大規模言語モデル(LLM)の検出に理論的に魅力的なアプローチを提供する次点分布出力
本稿では,LLMの最後の隠蔽状態を用いて,列長の次トーケン分布のメトリクスに基づく一連の特徴量の重み付けを行うパープレキシティ注意重み付けネットワーク(PAWN)を提案する。
PAWNは、トレーニング可能なパラメータのごく一部を持つ最強のベースラインよりも、競争力があり、より優れた分散性能を示している。
論文 参考訳(メタデータ) (2025-01-07T17:00:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。