論文の概要: Self-Decomposing Diffusion for Code Generation
- arxiv url: http://arxiv.org/abs/2610.27600v1
- Date: Tue, 20 Oct 2026 04:07:10 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-21 21:58:47.628482
- Title: Self-Decomposing Diffusion for Code Generation
- Title(参考訳): コード生成のための自己分解拡散
- Abstract要約: 拡散言語モデル(DLM)は、コード生成の有望なパラダイムとして浮上しています。
並列生成中に相互依存ユニットを協調する実装前における計画プログラムの分解を提案する。
我々は、複雑なプログラムを分解し、並列にユニットを実装する新しいフレームワークであるSelf-Decomposing Diffusion for Code (SDDC)を紹介する。
- 参考スコア(独自算出の注目度): 5.7742249974375985
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Diffusion language models (DLMs) are emerging as a promising paradigm for code generation, offering the potential for fast, parallel decoding. However, generating complex programs remains challenging, as their interdependent components must maintain consistent interfaces, data flows, and shared assumptions. Aggressive parallel decoding can compromise these dependencies and undermine program correctness, while conservative decoding sacrifices efficiency. To address this trade-off, we propose planning program decomposition before implementation to coordinate interdependent units during parallel generation. We introduce Self-Decomposing Diffusion for Code (SDDC), a novel framework that decomposes complex programs and implements their units in parallel, entirely through diffusion. SDDC first generates a contract specifying the program's decomposition and inter-unit dependencies, then uses it to guide coordinated parallel implementation. Across five benchmarks and two 7B diffusion backbones, SDDC substantially improves the accuracy--latency trade-off, raising pass@1 by up to 31.1 percentage points while decoding 7.5--13.7$\times$ faster than the base models, and outperforming a fine-tuning baseline by up to 23.5 points with lower latency.
- Abstract(参考訳): 拡散言語モデル(DLM)はコード生成の有望なパラダイムとして登場し、高速で並列なデコーディングの可能性を秘めている。
しかし、相互依存するコンポーネントは、一貫したインターフェース、データフロー、共有された仮定を維持しなければならないため、複雑なプログラムを生成することは依然として困難である。
攻撃的な並列デコーディングはこれらの依存関係を損なう可能性があり、プログラムの正確性を損なう。
このトレードオフに対処するため,並列生成時に相互依存ユニットを協調する実装前における計画プログラムの分解を提案する。
複雑なプログラムを分解し,そのユニットを並列に実装する新しいフレームワークであるSelf-Decomposing Diffusion for Code (SDDC)を紹介する。
SDDCはまず、プログラムの分解とユニット間の依存関係を指定する契約を生成し、それを協調した並列実装のガイドに使用する。
5つのベンチマークと2つの7B拡散バックボーンでSDDCは精度とレイテンシのトレードオフを大幅に改善し、パス@1を最大31.1ポイント引き上げ、7.5--13.7$\times$をベースモデルより高速に復号し、微調整のベースラインを最大23.5ポイント向上させた。
関連論文リスト
- Ripple-Pivot Search: Active Parallel Decoding for Diffusion Large Language Models [66.32132912853372]
Diffusion Large Language Models (dLLMs) は自己回帰型言語モデルの競合代替として登場した。
本研究では,中間エントロピー位置を有望な候補ピボットとして求める訓練自由復号法であるRipple-Pivot Search (RPS)を提案する。
RPSは、生成品質を維持しながら標準デコーダの4-10$times$wall-clockスピードアップを実現し、以前のルックアヘッドベースラインの精度を最大5.49%向上させる。
論文 参考訳(メタデータ) (2026-08-12T07:32:29Z) - When Parallelism Pays Off: Cohesion-Aware Task Partitioning for Multi-Agent Coding [19.03671411536556]
マルチエージェント大規模言語モデル(LLM)システムは、並列化やコンテキスト分離を通じて、コーディングのような複雑なタスクを分解する方法を提供する。
我々は,マルチエージェントオーケストレーションをグラフ分割問題として定式化し,通信対計算のトレードオフを捉える。
静的解析から依存性グラフを構築し,構造的ハブファイルを分離し,コミュニティ検出を通じてグラフを分割し,依存関係対応スケジューラで分割を実行するCohesion-aware Coder(Co-Coder)を提案する。
論文 参考訳(メタデータ) (2026-05-31T02:10:12Z) - DC-Leap: Training-Free Acceleration of dLLMs via Draft-Guided Contiguous Leaping Decoding [52.13809682603516]
DC-Leapは、中程度信頼体制におけるdLLMの信頼性の高いアクセラレーションを可能にする、トレーニング不要のフレームワークである。
厳密に順序付けられた因果制約を並列復号プロセスに組み込む。
KVキャッシュと組み合わせると、MBPPでは最大53.19倍、最大105.02倍のスピードアップを実現している。
論文 参考訳(メタデータ) (2026-05-19T06:27:58Z) - ParEVO: Synthesizing Code for Irregular Data: High-Performance Parallelism through Agentic Evolution [13.109726609738749]
ParEVOは不規則データのための高性能並列アルゴリズムを合成するフレームワークである。
ParEvalベンチマークでは、ParEVOは平均106倍のスピードアップ、複雑な不規則グラフ問題に対する堅牢な13.6倍のスピードアップを達成する。
論文 参考訳(メタデータ) (2026-03-03T01:41:07Z) - Why Diffusion Language Models Struggle with Truly Parallel (Non-Autoregressive) Decoding? [48.59679063480356]
拡散言語モデル(DLM)は、しばしばパラレルトークン生成を可能にするものとして宣伝されるが、実用的な高速DLMは左から右へ自動回帰(AR)のような復号力学に収束する。
我々は、ARライクなデコードの主要なドライバは、DLMの目的と、広く使われているトレーニングデータの高度に連続した構造とのミスマッチであると主張している。
この診断を契機に,非AR並列デコーディングと監視の整合性を向上する概念実証型データ中心型アプローチであるNAP(Non-Autoregressive Parallel DLMs)を提案する。
論文 参考訳(メタデータ) (2026-02-26T17:04:57Z) - CD4LM: Consistency Distillation and aDaptive Decoding for Diffusion Language Models [27.070045950001532]
CD4LMは、推論からトレーニングを分離するフレームワークである。
GSM8Kでは、CD4LMはLLaDAベースラインと5.18倍のウォールクロック速度でマッチする。
論文 参考訳(メタデータ) (2026-01-05T16:09:22Z) - Native Parallel Reasoner: Reasoning in Parallelism via Self-Distilled Reinforcement Learning [68.9332598692234]
我々はNative Parallel Reasoner(NPR)を紹介した。これは、LLM(Large Language Models)が真の並列推論能力を自己発展させることを可能にする、教師なしのフレームワークである。
NPRは、モデルをシーケンシャルエミュレーションから3つの重要な革新を通じてネイティブ並列認識に変換する。
論文 参考訳(メタデータ) (2025-12-08T11:39:43Z) - ThreadWeaver: Adaptive Threading for Efficient Parallel Reasoning in Language Models [99.6720868215076]
適応並列推論のためのフレームワークThreadWeaverを紹介します。
ThreadWeaverは、同等サイズの一般的なシーケンシャル推論モデルと同等の精度を達成する。
ThreadWeaverはトークンのレイテンシの平均速度を最大1.53倍にします。
論文 参考訳(メタデータ) (2025-11-24T18:55:59Z) - ASPD: Unlocking Adaptive Serial-Parallel Decoding by Exploring Intrinsic Parallelism in LLMs [34.477777651648914]
大規模言語モデル(LLM)は、自動回帰デコードパラダイムのため、推論遅延の大きな問題を生じさせる。
本稿では、並列化可能なデータの自動構築と効率的な並列化機構の2つの課題に対処する適応シリアル-パラレルデコーディング(ASPD)を提案する。
我々のフレームワークは、効率的なLCM並列推論のための基盤となるベンチマークを設定し、AIによるカスタマーサービスボットや回答検索エンジンのようなレイテンシに敏感なアプリケーションへのデプロイの道を開く。
論文 参考訳(メタデータ) (2025-08-12T12:35:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。