論文の概要: The Vault: A Comprehensive Multilingual Dataset for Advancing Code Understanding and Generation

• arxiv url: http://arxiv.org/abs/2305.06156v1
• Date: Tue, 9 May 2023 09:35:03 GMT
• ステータス: 処理完了
• システム内更新日: 2023-05-11 12:52:15.639000
• Title: The Vault: A Comprehensive Multilingual Dataset for Advancing Code Understanding and Generation
• Title（参考訳）: Vault: コードの理解と生成を促進するための総合的な多言語データセット
• Authors: Dung Nguyen Manh, Nam Le Hai, Anh T. V. Dau, Anh Minh Nguyen, Khanh Nghiem, Jin Guo, Nghi D. Q. Bui
• Abstract要約: Vaultは、コード中心の大規模言語モデル(LLM)のトレーニングを強化するために設計された、大規模なコードテキストデータセットである。 Vaultは、10の人気のあるプログラミング言語に4000万のコードテキストペアを提供することで、制限を克服している。
• 参考スコア（独自算出の注目度）: 6.9089133844372785
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We present The Vault, an open-source, large-scale code-text dataset designed to enhance the training of code-focused large language models (LLMs). Existing open-source datasets for training code-based LLMs often face challenges in terms of size, quality (due to noisy signals), and format (only containing code function and text explanation pairings). The Vault overcomes these limitations by providing 40 million code-text pairs across 10 popular programming languages, thorough cleaning for 10+ prevalent issues, and various levels of code-text pairings, including class, function, and line levels. Researchers and practitioners can utilize The Vault for training diverse code-focused LLMs or incorporate the provided data cleaning methods and scripts to improve their datasets. By employing The Vault as the training dataset for code-centric LLMs, we anticipate significant advancements in code understanding and generation tasks, fostering progress in both artificial intelligence research and software development practices.
• Abstract（参考訳）: 本稿では,llm(code-focus large language model)のトレーニングを強化する目的で設計された,オープンソースの大規模コードテキストデータセットであるvaultを紹介する。 コードベースのLLMをトレーニングするための既存のオープンソースデータセットは、サイズ、品質(ノイズ信号による)、フォーマット(コード関数とテキスト説明ペアのみを含む)の面で、しばしば課題に直面します。 Vaultは10のプログラミング言語で4000万のコードテキストペアを提供し、10以上の問題に対して徹底的なクリーニングを行い、クラス、関数、ラインレベルを含むさまざまなレベルのコードテキストペアリングを提供することによって、これらの制限を克服している。 研究者や実践者はThe Vaultを使って、さまざまなコード中心のLLMをトレーニングしたり、提供されたデータクリーニングメソッドやスクリプトを組み込んでデータセットを改善することができる。 コード中心LLMのトレーニングデータセットとしてThe Vaultを使用することで、コード理解と生成タスクの大幅な進歩が期待でき、人工知能研究とソフトウェア開発プラクティスの進歩が促進される。

関連論文リスト

• Building A Coding Assistant via the Retrieval-Augmented Language Model [24.654428111628242]
  本研究では,コーディング中の人間の知識探索行動を模倣してコードアシスタントを構築するための検索補助言語モデル(CONAN)を提案する。 コード構造対応検索器(CONAN-R)とデュアルビューコード表現に基づく検索拡張生成モデル(CONAN-G)で構成される。
  論文  参考訳（メタデータ） (2024-10-21T17:34:39Z)
• Contextualized Data-Wrangling Code Generation in Computational Notebooks [131.26365849822932]
  我々は、マルチモーダルなコンテキスト依存を明確にしたデータラングリングコード生成例をマイニングするために、CoCoMineという自動アプローチを提案する。 コンテクスト化されたデータラングリングコード生成のための58,221のサンプルを含むデータセットであるCoCoNoteをNotebooksで構築する。 実験結果は、データラングリングコード生成にデータコンテキストを組み込むことの重要性を示す。
  論文  参考訳（メタデータ） (2024-09-20T14:49:51Z)
• Exploring Large Language Models for Code Explanation [3.2570216147409514]
  大規模言語モデル(LLM)は自然言語処理において顕著な進歩を遂げている。 本研究では,様々なLLMを用いて,コードスニペットの自然言語要約を生成するタスクについて検討する。
  論文  参考訳（メタデータ） (2023-10-25T14:38:40Z)
• CodeExp: Explanatory Code Document Generation [94.43677536210465]
  既存のコード・トゥ・テキスト生成モデルは、コードの高レベルな要約のみを生成する。 我々は、コードのための高品質な説明記述の基準を特定するために、人間の研究を行う。 タスクのための多段階微調整戦略とベースラインモデルを提案する。
  論文  参考訳（メタデータ） (2022-11-25T18:05:44Z)
• Multi-lingual Evaluation of Code Generation Models [82.7357812992118]
  本稿では,MBXPとMultilingual HumanEval,MathQA-Xという,評価コード生成モデルに関する新しいベンチマークを提案する。 これらのデータセットは10以上のプログラミング言語をカバーする。 コード生成モデルの性能を多言語で評価することができる。
  論文  参考訳（メタデータ） (2022-10-26T17:17:06Z)
• Enhancing Semantic Code Search with Multimodal Contrastive Learning and Soft Data Augmentation [50.14232079160476]
  コード検索のためのマルチモーダルコントラスト学習とソフトデータ拡張を用いた新しい手法を提案する。 我々は,6つのプログラミング言語を用いた大規模データセットにおけるアプローチの有効性を評価するために,広範囲な実験を行った。
  論文  参考訳（メタデータ） (2022-04-07T08:49:27Z)
• CodeRetriever: Unimodal and Bimodal Contrastive Learning [128.06072658302165]
  関数レベルのコードセマンティック表現を訓練するために,一様および二様のコントラスト学習を組み合わせたCodeRetrieverモデルを提案する。 ノンモーダルなコントラスト学習のために、文書と関数名に基づいてポジティブなコードペアを構築するためのセマンティックガイド付き手法を設計する。 バイモーダルなコントラスト学習では、コードのドキュメンテーションとインラインコメントを活用して、テキストコードペアを構築します。
  論文  参考訳（メタデータ） (2022-01-26T10:54:30Z)
• Deep Graph Matching and Searching for Semantic Code Retrieval [76.51445515611469]
  本稿では,グラフニューラルネットワークに基づくエンドツーエンドのディープグラフマッチングと探索モデルを提案する。 まず、自然言語クエリテキストとプログラミング言語のコードスニペットをグラフ構造化データで表現する。 特に、DGMSは、個々のクエリテキストやコードスニペットのより構造的な情報をキャプチャするだけでなく、それらの微妙な類似性も学習する。
  論文  参考訳（メタデータ） (2020-10-24T14:16:50Z)
• Leveraging Code Generation to Improve Code Retrieval and Summarization via Dual Learning [18.354352985591305]
  コード要約は、ソースコードスニペットが与えられた短い自然言語記述を生成し、コード検索は、自然言語クエリが与えられた関連するソースコードを取得する。 最近の研究は、これらの2つのタスクを組み合わせてパフォーマンスを改善している。 本稿では,新たなコード生成タスクを導入することによって,2つのタスクのエンド・ツー・エンド・モデルを提案する。
  論文  参考訳（メタデータ） (2020-02-24T12:26:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。