論文の概要: Constrained Decoding Eliminates Structural Failures in Small LLMs but Reveals a Scale-Dependent Semantic Gap
- arxiv url: http://arxiv.org/abs/2609.23742v1
- Date: Sun, 20 Sep 2026 16:44:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-22 20:29:00.974331
- Title: Constrained Decoding Eliminates Structural Failures in Small LLMs but Reveals a Scale-Dependent Semantic Gap
- Title（参考訳）: 制約付き復号化は小型LLMの構造欠陥を解消するが, スケール依存セマンティックギャップを解消する
- Abstract要約: 0.6B-4Bパラメータ範囲の小さなオープンソース大言語モデル(LLM)は、構造化された出力生成のためにますます多くデプロイされている。
3つの復号条件下で、14の構造化出力タスクの3つのファミリーから5つのモデルをベンチマークする。
CDは全てのモデルにまたがる全ての構造的欠陥を排除しているが、コンテンツ精度は永続的なセマンティックギャップを明らかにする。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Small open-source large language models (LLMs) in the 0.6B-4B parameter range are increasingly deployed for structured output generation (JSON, function calling, data extraction), yet little is known about how constrained decoding (CD) interacts with model scale in this regime. We benchmark five models from three families across 14 structured-output tasks under three decoding conditions (native, Outlines, XGrammar). We introduce a two-axis evaluation that separates structural correctness (schema validity) from semantic correctness (content accuracy). We find that CD eliminates all structural failures across all models (schema validity: 78.6-92.9% to 100%), but content accuracy reveals a persistent semantic gap that is scale-dependent: type coercion failures are fully CD-rescuable, while instruction-semantic failures (e.g., multi-step function calling) remain CD-resistant. Schema conformance is necessary but not sufficient for semantic correctness; CD's reach ends exactly where schema conformance ends.
- Abstract（参考訳）: 0.6B-4Bパラメータ範囲の小さなオープンソースの大言語モデル(LLM)は、構造化された出力生成(JSON、関数呼び出し、データ抽出)のためにますますデプロイされているが、この体制におけるモデルスケールとの相互作用についてはほとんど分かっていない。
3つのデコード条件(ネイティブ、アウトライン、XGrammar)の下で、14の構造化出力タスクにまたがる3つのファミリーから5つのモデルをベンチマークする。
本稿では,構造的正当性(スキーマ妥当性)と意味的正当性(コンテンツ精度)を分離する2軸評価を提案する。
CDは全モデルにまたがる全ての構造的障害(スキーマの有効性:78.6-92.9%から100%)を排除しているが、コンテンツ精度はスケール依存の永続的な意味的ギャップを明らかにしている。
スキーマ適合性は必要だが、意味的正確性には十分ではない。
関連論文リスト
- Where vs What: Decomposing Structural and Content Failures in LLM-Generated Structured Outputs [15.823269213947347]
本稿では,構造忠実度と内容精度を計測するフレームワークであるStructure-Content Decomposition(SCD)を紹介する。
ネストされたタスクとテーブルタスクを6つのモデル(フロンティアに7B)に適用すると、一貫した現象が明らかになる。
我々は,SA-RLVRを提案し,SCDメトリクスを学習のための検証可能な報酬に変換する。
論文 参考訳（メタデータ） (2026-08-26T04:32:06Z) - Fantastic Adaptive Taxonomies and How to Use Them [100.20614173157708]
AdaMASTは、実行トレースをコンパクトでエビデンスに基づく障害分類に変換する。
コードには手書きのコードはなく、人間による注釈もない。
エージェント・システム・サーチでは、失敗候補の分類コード診断が自由形式より優れている。
論文 参考訳（メタデータ） (2026-07-17T17:41:16Z) - Constrained Decoding for Diffusion Language Models via Efficient Inference over Finite Automata [57.27430779838529]
有限オートマトンとして表現可能な任意の制約の下で,制約付き平均場後部からサンプリングする,正確かつトラクタブルなアルゴリズムを提案する。
このアプローチは、構築による制約満足度を保証し、欲求とサンプリングベースのデコーディングの両方をサポートし、並列およびブロックワイドデコーディングと互換性がある。
Dream-7B と LLaDA-8 の実証的な評価は、様々なタスクにおいてかなりの精度の向上を示した。
論文 参考訳（メタデータ） (2026-07-08T05:48:57Z) - Weave of Formal Thought [51.56484100374058]
WoFT(Weave of Formal Thought)は、厳密な構文的検証と学習された構造的表現を結合したパラダイムである。
本稿では,非終端文法記号を直接生成にインターリーブするために,言語モデルを訓練する潜時可変微調整法を提案する。
Pythonでは、RWS目的のStarCoder2-3Bを微調整することで、テキストのみのSFTベースラインと比較して、トーケン毎のクロスエントロピーが14.3%削減される。
論文 参考訳（メタデータ） (2026-06-24T15:58:11Z) - MEME: Multi-entity & Evolving Memory Evaluation [76.57263966646404]
MEMEは、マルチエンタリティと進化する軸によって定義される全空間にまたがる6つのタスクを定義している。
3つの記憶パラダイムにまたがる6つの記憶システムの評価。
デフォルト設定の下では、すべてのシステムが依存性の推論で崩壊しているのが分かります。
論文 参考訳（メタデータ） (2026-05-12T17:55:10Z) - TSCG: Deterministic Tool-Schema Compilation for Agentic LLM Deployments [0.0]
生産エージェントフレームワークは、言語モデルによる解釈ではなく、機械解析用に設計されたフォーマットであるMPPとしてツールスキーマを送信する。
小型モデル(4B-14B)では、このプロトコルのミスマッチが、本番サイズでのツール使用障害の大部分の原因となっている。
本稿では,このミスマッチをAPI境界で解決する決定論的ツールスキーマコンパイラTSCGを提案する。
論文 参考訳（メタデータ） (2026-05-04T15:35:45Z) - Semantic Layers for Reliable LLM-Powered Data Analytics: A Paired Benchmark of Accuracy and Hallucination Across Three Frontier Models [0.0]
解析データベースの自然言語クエリ用にデプロイされたLLMは、2つの障害に悩まされる。
ClickHouseのCleaned Contoso Retailデータセットに対して,100の自然言語質問に対して,3つのフロンティアLSMをベンチマークした。
論文 参考訳（メタデータ） (2026-04-28T02:53:23Z) - How Contrastive Decoding Enhances Large Audio Language Models? [49.26664187543512]
Contrastive Decoding (CD) は,Large Audio Language Models (LALM) の強化に有効であることが証明された。
本研究はLALMアーキテクチャの異なる4つのCD戦略を体系的に評価する。
オーディオ・アウェア・デコーディングとオーディオ・コントラスト・デコーディングを最も効果的な方法として同定する。
論文 参考訳（メタデータ） (2026-03-10T06:05:51Z) - ECR: Manifold-Guided Semantic Cues for Compact Language Models [0.0]
埋め込み整合性規制(ECR)と呼ばれる新しい枠組み
ECRは一貫してトレーニングを安定させ、タスクや言語間のセマンティック構造を保存する。
また、よりコンパクトでタスク対応の表現空間も生成する。
論文 参考訳（メタデータ） (2026-01-02T03:16:24Z) - Every Step Counts: Decoding Trajectories as Authorship Fingerprints of dLLMs [63.82840470917859]
本稿では,dLLMの復号化機構をモデル属性の強力なツールとして利用できることを示す。
本稿では、デコードステップ間の構造的関係を捉え、モデル固有の振る舞いをよりよく明らかにする、DDM(Directed Decoding Map)と呼ばれる新しい情報抽出手法を提案する。
論文 参考訳（メタデータ） (2025-10-02T06:25:10Z) - SLOT: Structuring the Output of Large Language Models [5.683327173793259]
SLOT(Structured LLM Output Transformer)は,非構造化LCM出力を正確な構造化形式に変換するモデルに依存しない手法である。
この結果から,制約付き復号化による微調整Mistral-7Bモデルでは,ほぼ完全なスキーマ精度が得られた。
特に、Llama-3.2-1Bのようなコンパクトなモデルでさえ、はるかに大きなプロプライエタリなモデルの出力能力にマッチまたは超えることができる。
論文 参考訳（メタデータ） (2025-05-06T23:29:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。