Fugu-MT 論文翻訳(概要): Exploring the Power of Diffusion Large Language Models for Software Engineering: An Empirical Investigation

論文の概要: Exploring the Power of Diffusion Large Language Models for Software Engineering: An Empirical Investigation

arxiv url: http://arxiv.org/abs/2510.04605v1
Date: Mon, 06 Oct 2025 09:13:25 GMT
ステータス: 翻訳完了
システム内更新日: 2025-10-07 16:52:59.766495
Title: Exploring the Power of Diffusion Large Language Models for Software Engineering: An Empirical Investigation
Title（参考訳）: ソフトウェア工学のための拡散大言語モデルの力を探る:実証的研究
Authors: Jingyao Zhang, Tianlin Li, Xiaoyu Zhang, Qiang Hu, Bin Shi,
Abstract要約: DiffusionDLLMsはAR-LLM(Autoregressive Large Language Models)に代わる有望な選択肢を提供する 7BDLLMはAR-LLMよりも30%精度が向上し、ファイル間の修復で113%向上した。
参考スコア（独自算出の注目度）: 27.11701612946034
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Autoregressive Large Language Models (AR-LLMs) are widely used in software engineering (SE) but face limitations in processing code structure information and suffer from high inference latency. Diffusion LLMs (DLLMs) offer a promising alternative with global bidirectional encoding and decoupled generation steps. This work presents the first comprehensive evaluation of DLLMs across the software development lifecycle, including code generation, defect detection, and program repair. On a large-scale benchmark of 52,937 tasks, 7Bparameter DLLMs outperform AR-LLMs with a 30% average accuracy improvement achieving a 113% gain on cross-file repair, while maintaining superior efficiency and reduced latency. Our results establish DLLMs as a superior paradigm for SE tasks.
Abstract（参考訳）: 自動回帰大言語モデル(AR-LLM)は、ソフトウェア工学(SE)において広く使われているが、コード構造情報の処理には制限があり、高い推論遅延に悩まされている。 Diffusion LLMs (DLLMs) は、グローバルな双方向符号化とデカップリング生成ステップの代替となる有望な手段を提供する。本研究は,コード生成,欠陥検出,プログラム修復など,ソフトウェア開発ライフサイクルにおけるDLLMの総合的な評価を行う。 52,937タスクの大規模なベンチマークでは、7Bparameter DLLMがAR-LLMを30%平均精度で上回った。本研究は,SEタスクの優れたパラダイムとしてDLLMを確立した。

関連論文リスト

Beyond Next-Token Prediction: A Performance Characterization of Diffusion versus Autoregressive Language Models [82.87985794856803]
大規模言語モデル(LLM)は、幅広い自然言語処理(NLP)タスクにおいて最先端のパフォーマンスを達成した。最近、Diffusion Language Models (DLM) が有望な代替アーキテクチャとして登場した。
論文参考訳（メタデータ） (2025-10-05T10:50:52Z)
Beyond Single LLMs: Enhanced Code Generation via Multi-Stage Performance-Guided LLM Orchestration [12.674888937998086]
大規模言語モデル(LLM)は、自動コード生成の主要なパラダイムとなっている。本稿では,マルチステージなパフォーマンス誘導オーケストレーションフレームワークを導入することで,シングルモデルコンベンションに挑戦する。 Perchは、ステージワイドバリデーションとロールバックメカニズムを通じて、各タスクコンテキストでトップパフォーマンスのLLMをオーケストレーションする。
論文参考訳（メタデータ） (2025-10-01T19:07:16Z)
Wide-In, Narrow-Out: Revokable Decoding for Efficient and Effective DLLMs [57.69190972274813]
Diffusion Large Language Models (DLLM) は、自動回帰モデルの魅力的な代替品として登場した。既存のDLLMは、高速な並列復号化によって性能が著しく低下する、厳しい品質と速度のトレードオフに悩まされている。本稿では,DLLMの復号化を可能にするトレーニング不要復号アルゴリズムであるWide-In, Narrow-Out (WINO)を紹介する。
論文参考訳（メタデータ） (2025-07-24T16:51:33Z)
The CodeInverter Suite: Control-Flow and Data-Mapping Augmented Binary Decompilation with LLMs [43.591384969171614]
バイナリ逆コンパイルを改善するためのCodeInverter Suiteを開発した。我々は、逆コンパイルを改善するために制御フローグラフと明示的なデータマッピングを使用します。我々のCIM-6.7Bは最先端の逆コンパイル性能を達成できる。
論文参考訳（メタデータ） (2025-03-10T11:52:48Z)
Quantizing Large Language Models for Code Generation: A Differentiated Replication [51.85505914274633]
大規模言語モデル(LLM)は、コード生成において印象的な能力を示しており、特に自然言語で記述された要求を自動的に実装する。 LLMはメモリ(そして結果として炭素)のフットプリントに重大な課題をもたらす。 LLM量子化の新しいフロンティアは4ビット精度であり、平均メモリフットプリントが70%減少する。
論文参考訳（メタデータ） (2025-03-10T09:26:08Z)
Improving the Ability of Pre-trained Language Model by Imparting Large Language Model's Experience [4.814313782484443]
大規模言語モデル (LLM) と事前訓練型言語モデル (LM) は多くのソフトウェア工学のタスクにおいて驚くべき成功を収めた。我々は、LLMを用いてドメイン固有のデータを生成し、目標タスクにおける事前学習されたLMの性能を向上させる。
論文参考訳（メタデータ） (2024-08-16T06:37:59Z)
What's Wrong with Your Code Generated by Large Language Models? An Extensive Study [80.18342600996601]
大規模言語モデル(LLM)は、標準解に比べて短いがより複雑なコードを生成する。 3つのカテゴリと12のサブカテゴリを含む誤ったコードに対するバグの分類を開発し、一般的なバグタイプに対する根本原因を分析する。そこで本研究では,LLMがバグタイプやコンパイラフィードバックに基づいて生成したコードを批判し,修正することのできる,自己批判を導入した新たな学習自由反復手法を提案する。
論文参考訳（メタデータ） (2024-07-08T17:27:17Z)
MORepair: Teaching LLMs to Repair Code via Multi-Objective Fine-tuning [25.03477973238162]
プログラム修復タスクに対するLLM(Large Language Model)の微調整アプローチは、コード変更の背後にあるロジックを推論する必要性を見落としている。サイズやアーキテクチャの異なる4つのオープンソース LLM にMOobjective を適用する。我々の微調整戦略は、最先端のアプローチよりも優れた性能が得られることを示す。
論文参考訳（メタデータ） (2024-04-19T05:36:21Z)
LLM-Assisted Code Cleaning For Training Accurate Code Generators [53.087019724256606]
コードの品質を調査した結果,より構造化され,読みやすくなれば,コード生成性能が向上することがわかった。私たちは、これらの原則を使って既存のプログラムを変換する、新しいデータクリーニングパイプラインを構築します。提案手法を2つのアルゴリズムコード生成ベンチマークで評価した結果,微調整のCodeLLaMa-7Bでは,元のデータセットの微調整に比べて最大30%性能が向上していることがわかった。
論文参考訳（メタデータ） (2023-11-25T02:45:50Z)
Accelerating LLaMA Inference by Enabling Intermediate Layer Decoding via Instruction Tuning with LITE [62.13435256279566]
大規模言語モデル(LLM)は、様々な自然言語タスクで顕著なパフォーマンスを実現している。しかし、その大きなサイズは推論を遅く、計算的に高価にする。最終層の生成能力に影響を与えることなく、これらの層が「良い」生成能力を得ることができることを示す。
論文参考訳（メタデータ） (2023-10-28T04:07:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。