論文の概要: COSEA: Convolutional Code Search with Layer-wise Attention

• arxiv url: http://arxiv.org/abs/2010.09520v1
• Date: Mon, 19 Oct 2020 13:53:38 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-05 22:42:29.970929
• Title: COSEA: Convolutional Code Search with Layer-wise Attention
• Title（参考訳）: COSEA:レイヤワイドアテンションによる畳み込みコード検索
• Authors: Hao Wang, Jia Zhang, Yingce Xia, Jiang Bian, Chao Zhang, Tie-Yan Liu
• Abstract要約: 我々は、畳み込みニューラルネットワークを階層的注意で活用し、コード固有の構造論理をキャプチャする新しいディープラーニングアーキテクチャ、COSEAを提案する。 COSEAは、コード検索タスクの最先端メソッドよりも大幅に改善できる。
• 参考スコア（独自算出の注目度）: 90.35777733464354
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Semantic code search, which aims to retrieve code snippets relevant to a given natural language query, has attracted many research efforts with the purpose of accelerating software development. The huge amount of online publicly available code repositories has prompted the employment of deep learning techniques to build state-of-the-art code search models. Particularly, they leverage deep neural networks to embed codes and queries into a unified semantic vector space and then use the similarity between code's and query's vectors to approximate the semantic correlation between code and the query. However, most existing studies overlook the code's intrinsic structural logic, which indeed contains a wealth of semantic information, and fails to capture intrinsic features of codes. In this paper, we propose a new deep learning architecture, COSEA, which leverages convolutional neural networks with layer-wise attention to capture the valuable code's intrinsic structural logic. To further increase the learning efficiency of COSEA, we propose a variant of contrastive loss for training the code search model, where the ground-truth code should be distinguished from the most similar negative sample. We have implemented a prototype of COSEA. Extensive experiments over existing public datasets of Python and SQL have demonstrated that COSEA can achieve significant improvements over state-of-the-art methods on code search tasks.
• Abstract（参考訳）: 自然言語クエリに関連するコードスニペットの検索を目的としたセマンティックコード検索は,ソフトウェア開発を加速する目的で,多くの研究成果を集めている。 オンラインで公開されている大量のコードリポジトリは、最先端のコード検索モデルを構築するためにディープラーニング技術が採用されている。 特に、深層ニューラルネットワークを利用して、コードとクエリを統一されたセマンティックベクトル空間に埋め込み、コードとクエリのベクトル間の類似性を利用して、コードとクエリ間のセマンティック相関を近似する。 しかし、既存のほとんどの研究は、コード固有の構造論理を見落としており、それは実際には多くの意味情報を含んでおり、コード固有の特徴を捉えていない。 本稿では,畳み込みニューラルネットワークを利用した新しいディープラーニングアーキテクチャCOSEAを提案する。 COSEAの学習効率をさらに高めるために,コード検索モデルのトレーニングにおいて,最も類似した負のサンプルと接点の符号を区別するコントラスト損失のバリエーションを提案する。 我々はCOSEAのプロトタイプを実装した。 PythonとSQLの既存の公開データセットに対する大規模な実験は、COSEAがコード検索タスクの最先端メソッドよりも大幅に改善できることを示した。

関連論文リスト

• Comments as Natural Logic Pivots: Improve Code Generation via Comment Perspective [85.48043537327258]
  本稿では, MANGO (comMents As Natural loGic pivOts) を提案する。 その結果、MANGOは強いベースラインに基づいてコードパス率を大幅に改善することがわかった。 論理的なコメントの復号化戦略の堅牢性は、考えの連鎖よりも顕著に高い。
  論文  参考訳（メタデータ） (2024-04-11T08:30:46Z)
• Survey of Code Search Based on Deep Learning [11.94599964179766]
  この調査は、コード検索、すなわち、あるクエリにマッチするコードを取得することに焦点を当てている。 複雑な意味情報を抽出できるディープラーニングは、この分野で大きな成功を収めている。 本稿では,最先端のディープラーニングに基づくコード検索を記述した新しい分類法を提案する。
  論文  参考訳（メタデータ） (2023-05-10T08:07:04Z)
• Enhancing Semantic Code Search with Multimodal Contrastive Learning and Soft Data Augmentation [50.14232079160476]
  コード検索のためのマルチモーダルコントラスト学習とソフトデータ拡張を用いた新しい手法を提案する。 我々は,6つのプログラミング言語を用いた大規模データセットにおけるアプローチの有効性を評価するために,広範囲な実験を行った。
  論文  参考訳（メタデータ） (2022-04-07T08:49:27Z)
• ReACC: A Retrieval-Augmented Code Completion Framework [53.49707123661763]
  本稿では,語彙のコピーと類似したセマンティクスを持つコード参照の両方を検索により活用する検索拡張コード補完フレームワークを提案する。 我々は,Python および Java プログラミング言語のコード補完タスクにおけるアプローチを評価し,CodeXGLUE ベンチマークで最先端のパフォーマンスを実現する。
  論文  参考訳（メタデータ） (2022-03-15T08:25:08Z)
• Learning Deep Semantic Model for Code Search using CodeSearchNet Corpus [17.6095840480926]
  マルチモーダル・ソースのユーティリティを利用する新しいディープ・セマンティック・モデルを提案する。 提案したモデルを適用して,意味的コード検索に関するCodeSearchNetの課題に対処する。 我々のモデルはCodeSearchNetコーパスでトレーニングされ、ホールドアウトデータに基づいて評価され、最終モデルは0.384 NDCGに達し、このベンチマークで優勝した。
  論文  参考訳（メタデータ） (2022-01-27T04:15:59Z)
• CodeRetriever: Unimodal and Bimodal Contrastive Learning [128.06072658302165]
  関数レベルのコードセマンティック表現を訓練するために,一様および二様のコントラスト学習を組み合わせたCodeRetrieverモデルを提案する。 ノンモーダルなコントラスト学習のために、文書と関数名に基づいてポジティブなコードペアを構築するためのセマンティックガイド付き手法を設計する。 バイモーダルなコントラスト学習では、コードのドキュメンテーションとインラインコメントを活用して、テキストコードペアを構築します。
  論文  参考訳（メタデータ） (2022-01-26T10:54:30Z)
• BERT2Code: Can Pretrained Language Models be Leveraged for Code Search? [0.7953229555481884]
  我々は,本モデルが埋め込み空間と改良のスコープに対するさらなるプローブの間に固有の関係を学習することを示す。 本稿では,コード埋め込みモデルの品質が,我々のモデルの性能のボトルネックであることを示す。
  論文  参考訳（メタデータ） (2021-04-16T10:28:27Z)
• GraphCodeBERT: Pre-training Code Representations with Data Flow [97.00641522327699]
  本稿では,コード固有の構造を考慮したプログラミング言語の事前学習モデルであるGraphCodeBERTを提案する。 これは変数間の"where-the-value-comes-from"の関係をエンコードするコードのセマンティックレベルの構造です。 コード検索,クローン検出,コード翻訳,コード改良の4つのタスクにおいて,本モデルを評価する。
  論文  参考訳（メタデータ） (2020-09-17T15:25:56Z)
• CoNCRA: A Convolutional Neural Network Code Retrieval Approach [0.0]
  本稿では,コード検索のための畳み込みニューラルネットワーク手法を提案する。 私たちの技術は、自然言語で表現された開発者の意図に最も近いコードスニペットを見つけることを目的としています。 Stack Overflowから収集した質問やコードスニペットからなるデータセットに対して,このアプローチの有効性を評価した。
  論文  参考訳（メタデータ） (2020-09-03T23:38:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。