論文の概要: Constrained Code Generation with Discrete Diffusion
- arxiv url: http://arxiv.org/abs/2605.16829v1
- Date: Sat, 16 May 2026 06:15:47 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-19 17:57:47.189051
- Title: Constrained Code Generation with Discrete Diffusion
- Title(参考訳): 離散拡散による制約付きコード生成
- Authors: Lize Shao, Michael Cardei, Zichen Xie, Ferdinando Fioretto, Wenxi Wang,
- Abstract要約: Constrained Diffusion for Code (CDC)は、コード生成のためのトレーニング不要なニューロシンボリック推論フレームワークである。
CDCは制約満足度を直接リバース・デノナイジング・プロセスに統合する。
CDCは機能的正確性、セキュリティ、構文の制約満足度を継続的に改善する。
- 参考スコア(独自算出の注目度): 40.46661913038948
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Discrete diffusion models are a powerful, emerging paradigm for code generation. They construct programs through iterative refinement of partially corrupted token sequences and enable parallel token refinement. Importantly, this paradigm exposes a global program state at each denoising step, which provides a natural intervention point for enforcing program-level functionality and security constraints, guiding the generation before the final code is committed. Building on this observation, the paper introduces Constrained Diffusion for Code (CDC), a training-free neurosymbolic inference framework that integrates constraint satisfaction directly into the reverse denoising process. CDC augments the base discrete diffusion sampler with constraint-aware denoising operators that combine mathematical optimization with program analysis to identify constraint-relevant regions of the intermediate program state and locally adjust the denoising trajectory, steering generation toward feasible programs while remaining close to the base model. Across code generation benchmarks, CDC consistently improves constraint satisfaction in functional correctness, security, and even syntax, outperforming discrete diffusion and autoregressive baselines with less corrective computation and more localized edits.
- Abstract(参考訳): 離散拡散モデルは、コード生成のための強力で新興のパラダイムです。
彼らは部分的に破損したトークンシーケンスを反復的に洗練することでプログラムを構築し、並列トークンの洗練を可能にする。
これは、プログラムレベルの機能とセキュリティ制約を強制し、最終的なコードがコミットされる前に生成を誘導するための自然な介入ポイントを提供する。
この観察に基づいて,制約満足度を直接逆復調プロセスに統合するトレーニング不要なニューロシンボリック推論フレームワークであるConstrained Diffusion for Code (CDC)を紹介した。
CDCは、数学的最適化とプログラム解析を組み合わせ、中間プログラム状態の制約関連領域を同定し、基本モデルに近づきながら、実行可能プログラムに対するデノベーション、ステアリング生成を局所的に調整する制約付き離散拡散サンプリング演算子をベースに拡張する。
コード生成ベンチマーク全体で、CDCは機能的正当性、セキュリティ、構文の制約満足度を一貫して改善し、離散拡散や自己回帰ベースラインよりも高い精度で、修正計算の削減とより局所的な編集を実現している。
関連論文リスト
- Primal-Dual Guided Decoding for Constrained Discrete Diffusion [5.219025684249083]
KL正規化最適化問題として制約付き生成を定式化する推定時間法であるプリマル・デュアルガイド付き復号法を提案する。
各復調ステップでは、制約違反に基づくミラー降下により乗算器が更新され、付加的制約依存バイアスによりトークンロジットを修飾する。
ドメイン固有のスコアリング機能によってインスタンス化された1つのアルゴリズムは、関連するドメイン固有の品質指標を保存しながら制約満足度を向上することを示す。
論文 参考訳(メタデータ) (2026-05-10T20:55:19Z) - Early Decisions Matter: Proximity Bias and Initial Trajectory Shaping in Non-Autoregressive Diffusion Language Models [54.16797570104461]
拡散ベースの言語モデル (dLLMs) は自己回帰型言語モデルに代わる有望な代替品として登場した。
時間軸に沿った推論ダイナミクスを系統的に解析し, dLLMの非自己回帰復号化について検討した。
論文 参考訳(メタデータ) (2026-04-12T10:26:41Z) - Reinforcement Learning for Diffusion LLMs with Entropy-Guided Step Selection and Stepwise Advantages [7.728607011076579]
強化学習は、自己回帰言語モデル(AR)の訓練後において有効であるが、これらの手法を拡散言語モデル(DLM)に拡張することは、難易度が高いため困難である。
拡散に基づくシーケンス生成を有限水平マルコフ決定過程としてデノベーション軌道上で定式化し、正確な偏りのない政策勾配を導出する。
コーディングと論理的推論ベンチマークの実験は、数学的推論に強い競争性能を持つ最先端の結果を示している。
論文 参考訳(メタデータ) (2026-03-13T01:38:44Z) - Progressive Refinement Regulation for Accelerating Diffusion Language Model Decoding [18.99795632160924]
本稿では, 軌道場改良制御フレームワークであるemphProgressive Refinement Regulation (PRR)を提案する。
PRRは軽量なトークンワイドコントローラを学習し、温度ベースの分布整形による精細化を調節する。
実験の結果,PRRは生成品質を維持しながら拡散言語モデルのデコードを大幅に高速化することがわかった。
論文 参考訳(メタデータ) (2026-03-04T19:04:22Z) - Causal Autoregressive Diffusion Language Model [70.7353007255797]
CARDは厳密な因果注意マスク内の拡散過程を再構成し、単一の前方通過で密集した1対1の監視を可能にする。
我々の結果は,CARDが並列生成のレイテンシの利点を解放しつつ,ARMレベルのデータ効率を実現することを示す。
論文 参考訳(メタデータ) (2026-01-29T17:38:29Z) - READER: Retrieval-Assisted Drafter for Efficient LLM Inference [0.0386965802948046]
自己回帰言語モデルはトークンシーケンスよりも分解された確率をインスタンス化するが、その厳密なシーケンシャルなデコーディングプロセスは、遅延推論に固有の低いバウンドを課す。
このボトルネックは、大規模生成モデルのスケーラブルなデプロイにおける中心的な障害として現れています。
本稿では,補助的ドラフトモデルのトレーニングを回避した投機的復号化フレームワークREADERを提案する。
論文 参考訳(メタデータ) (2025-08-12T16:47:48Z) - Constrained Discrete Diffusion [61.81569616239755]
本稿では,拡散過程における微分可能制約最適化の新たな統合であるCDD(Constrained Discrete Diffusion)を紹介する。
CDDは直接、離散拡散サンプリングプロセスに制約を課し、トレーニング不要で効果的なアプローチをもたらす。
論文 参考訳(メタデータ) (2025-03-12T19:48:12Z) - Denoising-Contrastive Alignment for Continuous Sign Language Recognition [22.800767994061175]
連続手話認識は,手話ビデオからテキストグルースへの符号認識を目的としている。
現在のクロスモダリティアライメントパラダイムは、ビデオ表現を導くためにテキスト文法の役割を無視することが多い。
本稿では,映像の表現性を高めるために,Denoising-Contrastive Alignmentパラダイムを提案する。
論文 参考訳(メタデータ) (2023-05-05T15:20:27Z) - Conditional Denoising Diffusion for Sequential Recommendation [62.127862728308045]
GAN(Generative Adversarial Networks)とVAE(VAE)の2つの顕著な生成モデル
GANは不安定な最適化に苦しむ一方、VAEは後続の崩壊と過度に平らな世代である。
本稿では,シーケンスエンコーダ,クロスアテンティブデノナイジングデコーダ,ステップワイズディフューザを含む条件付きデノナイジング拡散モデルを提案する。
論文 参考訳(メタデータ) (2023-04-22T15:32:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。