論文の概要: Incorporating External Knowledge through Pre-training for Natural Language to Code Generation

• arxiv url: http://arxiv.org/abs/2004.09015v1
• Date: Mon, 20 Apr 2020 01:45:27 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-11 18:27:51.870447
• Title: Incorporating External Knowledge through Pre-training for Natural Language to Code Generation
• Title（参考訳）: 自然言語からコード生成への事前学習による外部知識の導入
• Authors: Frank F. Xu, Zhengbao Jiang, Pengcheng Yin, Bogdan Vasilescu, Graham Neubig
• Abstract要約: オープンドメインコード生成は、自然言語(NL)の意図から汎用プログラミング言語でコードを生成することを目的としている。 オンラインプログラミングQAフォーラムStackOverflowとプログラミング言語APIドキュメントからNL-codeペアを自動的にマイニングする。 評価の結果,2つのソースとデータ拡張と検索ベースデータ再サンプリングを組み合わせることで,コード生成テストベッドCoNaLa上でのBLEUスコアが最大2.2%向上することがわかった。
• 参考スコア（独自算出の注目度）: 97.97049697457425
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Open-domain code generation aims to generate code in a general-purpose programming language (such as Python) from natural language (NL) intents. Motivated by the intuition that developers usually retrieve resources on the web when writing code, we explore the effectiveness of incorporating two varieties of external knowledge into NL-to-code generation: automatically mined NL-code pairs from the online programming QA forum StackOverflow and programming language API documentation. Our evaluations show that combining the two sources with data augmentation and retrieval-based data re-sampling improves the current state-of-the-art by up to 2.2% absolute BLEU score on the code generation testbed CoNaLa. The code and resources are available at https://github.com/neulab/external-knowledge-codegen.
• Abstract（参考訳）: オープンドメインコード生成は、自然言語(NL)から汎用プログラミング言語(Pythonなど)でコードを生成することを目的としている。 開発者がコードを書くとき、通常、Web上でリソースを取得するという直感に触発され、オンラインプログラミングQAフォーラムStackOverflowとプログラミング言語APIドキュメントからNL-to-code生成に2種類の外部知識を組み込むことの有効性について検討する。 本研究では,データ拡張と検索に基づくデータ再サンプリングとを組み合わせることで,コード生成テストベッド・コナラにおける絶対bleuスコアを最大2.2%向上できることを示す。 コードとリソースはhttps://github.com/neulab/external-knowledge-codegenで入手できる。

関連論文リスト

• CodeGRAG: Bridging the Gap between Natural Language and Programming Language via Graphical Retrieval Augmented Generation [58.84212778960507]
  我々は,LLMの性能を高めるため,グラフィカル検索拡張コード生成フレームワークであるCodeGRAGを提案する。 CodeGRAGは、制御フローとデータフローに基づいて、コードブロックのグラフィカルなビューを構築し、プログラミング言語と自然言語のギャップを埋める。 ハードメタグラフプロンプト、ソフトプロンプト技術、事前訓練されたGNN専門家の目的の有効性を検証するために、C++言語とピソン言語の両方を含む4つのデータセットで様々な実験と改善が行われた。
  論文  参考訳（メタデータ） (2024-05-03T02:48:55Z)
• IRCoder: Intermediate Representations Make Language Models Robust Multilingual Code Generators [49.903001442804594]
  本研究では、コンパイラ中間表現(IR)を活用して、Code-LMの多言語機能を改善する可能性について検討する。 まず,約400万のソースコードファイルからなる並列データセットであるSLTransをコンパイルする。 次に、SLTransにおける因果言語モデリングトレーニングを継続して実施し、Code-LMはIR言語を学習せざるを得なかった。 IRCoderと呼ばれる結果のモデルは、さまざまなコード生成タスクやメトリクスに対して、サイズと一貫性のあるゲインを表示します。
  論文  参考訳（メタデータ） (2024-03-06T17:52:08Z)
• Neural Models for Source Code Synthesis and Completion [0.0]
  コード提案システムへの自然言語(NL)は、NL発話をコンパイル可能なコードスニペットに変換することで、統合開発環境(IDE)の開発者を支援する。 現在のアプローチは主に意味解析に基づくハードコードなルールベースのシステムである。 我々は,NLを汎用プログラミング言語にマッピングするためのシーケンス・ツー・シーケンス深層学習モデルと訓練パラダイムを提案する。
  論文  参考訳（メタデータ） (2024-02-08T17:10:12Z)
• Neural Machine Translation for Code Generation [0.7607163273993514]
  コード生成のためのNMTでは、入力で表現された制約を満たすソースコードを生成する。 本稿では,コード生成文献のNMTを調査し,これまで検討されてきた様々な手法のカタログ化を行う。 本稿では,既存手法の限界と今後の研究方向性について論じる。
  論文  参考訳（メタデータ） (2023-05-22T21:43:12Z)
• Knowledge Transfer for Pseudo-code Generation from Low Resource Programming Language [13.716669765394293]
  我々は、並列コード-擬似コードデータを用いて、高リソースPL(C++)で訓練されたコード-擬似コードニューラルモデルによって得られた知識の伝達に焦点をあてる。 後方翻訳により生成されたC符号の成功率を23.27%向上させる。
  論文  参考訳（メタデータ） (2023-03-16T03:38:08Z)
• DocCoder: Generating Code by Retrieving and Reading Docs [87.88474546826913]
  コードマニュアルとドキュメントを明示的に活用するアプローチであるDocCoderを紹介します。 我々のアプローチは一般的に、どんなプログラミング言語にも適用でき、基礎となるニューラルモデルとは無関係です。
  論文  参考訳（メタデータ） (2022-07-13T06:47:51Z)
• MCoNaLa: A Benchmark for Code Generation from Multiple Natural Languages [76.93265104421559]
  英語以外の自然言語コマンドからコード生成をベンチマークします。 スペイン語,日本語,ロシア語の3言語で896個のNLコードペアを注釈した。 難易度はこれらの3つの言語によって異なるが、全てのシステムは英語にかなり遅れている。
  論文  参考訳（メタデータ） (2022-03-16T04:21:50Z)
• Retrieve and Refine: Exemplar-based Neural Comment Generation [27.90756259321855]
  同様のコードスニペットのコメントはコメントの生成に役立ちます。 我々は、与えられたコード、AST、類似したコード、そして入力として見劣りする新しいセク2seqニューラルネットワークを設計する。 約200万のサンプルを含む大規模Javaコーパスに対するアプローチを評価した。
  論文  参考訳（メタデータ） (2020-10-09T09:33:10Z)
• CodeBERT: A Pre-Trained Model for Programming and Natural Languages [117.34242908773061]
  CodeBERTは、プログラミング言語(PL)とナット言語(NL)のための事前訓練されたモデルである。 我々はTransformerベースのニューラルアーキテクチャを用いたCodeBERTを開発した。 モデルパラメータの微調整による2つのNL-PLアプリケーション上でのCodeBERTの評価を行った。
  論文  参考訳（メタデータ） (2020-02-19T13:09:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。