論文の概要: Self-planning Code Generation with Large Language Models

• arxiv url: http://arxiv.org/abs/2303.06689v3
• Date: Fri, 31 May 2024 16:50:23 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-03 21:00:54.979377
• Title: Self-planning Code Generation with Large Language Models
• Title（参考訳）: 大規模言語モデルを用いた自己計画コード生成
• Authors: Xue Jiang, Yihong Dong, Lecheng Wang, Zheng Fang, Qiwei Shang, Ge Li, Zhi Jin, Wenpin Jiao,
• Abstract要約: 本稿では,大規模言語モデルを用いた自己計画型コード生成手法を提案する。 計画段階では、モデルは意図から簡潔な解決手順と数発のプロンプトを組み合わせることを計画している。 実装フェーズでは、モデルが前のソリューションステップでガイドされたステップごとにコードを生成する。
• 参考スコア（独自算出の注目度）: 31.992593966465545
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Although large language models (LLMs) have demonstrated impressive ability in code generation, they are still struggling to address the complicated intent provided by humans. It is widely acknowledged that humans typically employ planning to decompose complex problems and schedule solution steps prior to implementation. To this end, we introduce planning into code generation to help the model understand complex intent and reduce the difficulty of problem-solving. This paper proposes a self-planning code generation approach with large language models, which consists of two phases, namely planning phase and implementation phase. Specifically, in the planning phase, LLM plans out concise solution steps from the intent combined with few-shot prompting. Subsequently, in the implementation phase, the model generates code step by step, guided by the preceding solution steps. We conduct extensive experiments on various code-generation benchmarks across multiple programming languages. Experimental results show that self-planning code generation achieves a relative improvement of up to 25.4% in Pass@1 compared to direct code generation, and up to 11.9% compared to Chain-of-Thought of code generation. Moreover, our self-planning approach also enhances the quality of the generated code with respect to correctness, readability, and robustness, as assessed by humans.
• Abstract（参考訳）: 大きな言語モデル(LLM)は、コード生成において印象的な能力を示しているが、人間によって提供される複雑な意図に対処するのに依然として苦労している。 人間は通常、複雑な問題を分解し、実装前に解決手順をスケジュールする計画を採用すると広く認められている。 この目的のために、複雑な意図を理解し、問題解決の難しさを軽減するために、コード生成に計画を導入する。 本稿では,大規模言語モデルを用いた自己計画型コード生成手法を提案する。 特に計画段階では、LLMは意図からの簡潔な解法ステップと数発のプロンプトの組み合わせを計画している。 その後、実装フェーズでは、前のソリューションステップでガイドされたステップごとにコードを生成する。 複数のプログラミング言語にまたがる様々なコード生成ベンチマークについて広範な実験を行った。 実験結果から、自己計画コード生成は、直接コード生成と比較してPass@1で25.4%、Chain-of-Thoughtコード生成と比較して11.9%の相対的な改善を実現している。 さらに,我々の自己計画手法は,人間の評価した正確性,可読性,堅牢性に関して,生成したコードの品質を向上させる。

関連論文リスト

• What's Wrong with Your Code Generated by Large Language Models? An Extensive Study [80.18342600996601]
  大規模言語モデル(LLM)は、標準解に比べて短いがより複雑なコードを生成する。 3つのカテゴリと12のサブカテゴリを含む誤ったコードに対するバグの分類を開発し、一般的なバグタイプに対する根本原因を分析する。 そこで本研究では,LLMがバグタイプやコンパイラフィードバックに基づいて生成したコードを批判し,修正することのできる,自己批判を導入した新たな学習自由反復手法を提案する。
  論文  参考訳（メタデータ） (2024-07-08T17:27:17Z)
• MapCoder: Multi-Agent Code Generation for Competitive Problem Solving [3.3856216159724983]
  マルチエージェントプロンプトを利用したコード生成タスクに新たなアプローチを導入する。 私たちのフレームワークであるMapCoderは、プログラム合成の段階をエミュレートするために設計された4つのLLMエージェントで構成されています。 我々の手法は、様々なプログラミング言語で一貫して優れた性能を提供する。
  論文  参考訳（メタデータ） (2024-05-18T22:10:15Z)
• Enhancing Code Generation Performance of Smaller Models by Distilling the Reasoning Ability of LLMs [36.409470894115074]
  我々は、LLMのコード生成推論機能をより小さなモデルに転送することを目的としたCodePLANフレームワークを提案する。 提案手法は,APPSベンチマークにおいて,より小さなモデルのコード生成性能を130%以上向上させる。
  論文  参考訳（メタデータ） (2024-03-20T03:09:54Z)
• Code Representation Learning At Scale [75.04686476303436]
  2段階の事前学習スキームを用いて,大量のコードデータを用いてコード表現学習を行う。 まず、マスキング言語モデリングにおけるランダム性と、プログラミング言語の構造的側面の両方を活用して、エンコーダを訓練する。 そして、教師なしの方法で強陰性かつ強正に構築された対照的な学習を通して表現を強化する。
  論文  参考訳（メタデータ） (2024-02-02T22:19:15Z)
• PPM: Automated Generation of Diverse Programming Problems for Benchmarking Code Generation Models [10.491051578439722]
  本稿では,PPM(Programling problem merging)の概念を提案し,この概念の2つの実装を提供し,このツールを広く利用されている2つのデータセット上で活用する。 その結果、より困難で多様な、そして自然なプログラミング問題を生み出す上で、我々のツールの有効性が示された。
  論文  参考訳（メタデータ） (2024-01-28T02:27:38Z)
• SparseCoder: Identifier-Aware Sparse Transformer for File-Level Code Summarization [51.67317895094664]
  本稿では,大規模なソースコードプロジェクトの理解と維持を支援するファイルレベルのコード要約について検討する。 長いコードシーケンスを効果的に処理するための識別子対応スパース変換器であるSparseCoderを提案する。
  論文  参考訳（メタデータ） (2024-01-26T09:23:27Z)
• A Syntax-Guided Multi-Task Learning Approach for Turducken-Style Code Generation [19.489202790935902]
  本稿では,構文誘導型マルチタスク学習手法TurduckenGenを提案する。 具体的には、まず最初に型情報をコードトークンに明示的に付加し、構文制約の表現をキャプチャします。 次に,構文制約表現を用いたコード生成を補助タスクとして形式化し,モデルの構文制約学習を可能にする。
  論文  参考訳（メタデータ） (2023-03-09T06:22:07Z)
• CodeExp: Explanatory Code Document Generation [94.43677536210465]
  既存のコード・トゥ・テキスト生成モデルは、コードの高レベルな要約のみを生成する。 我々は、コードのための高品質な説明記述の基準を特定するために、人間の研究を行う。 タスクのための多段階微調整戦略とベースラインモデルを提案する。
  論文  参考訳（メタデータ） (2022-11-25T18:05:44Z)
• Measuring Coding Challenge Competence With APPS [54.22600767666257]
  コード生成のベンチマークであるAPPSを紹介する。 私たちのベンチマークには1万の問題が含まれています。 GPT-Neoのような最近のモデルでは、導入問題のテストケースの約15%をパスできる。
  論文  参考訳（メタデータ） (2021-05-20T17:58:42Z)
• Data-to-text Generation with Macro Planning [61.265321323312286]
  本稿では,マクロ計画段階のニューラルモデルと,従来の手法を連想させる生成段階を提案する。 提案手法は, 自動評価と人的評価の両面で, 競争ベースラインを上回っている。
  論文  参考訳（メタデータ） (2021-02-04T16:32:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。