論文の概要: GN-Transformer: Fusing Sequence and Graph Representation for Improved
Code Summarization
- arxiv url: http://arxiv.org/abs/2111.08874v1
- Date: Wed, 17 Nov 2021 02:51:37 GMT
- ステータス: 処理完了
- システム内更新日: 2021-11-18 22:05:44.673904
- Title: GN-Transformer: Fusing Sequence and Graph Representation for Improved
Code Summarization
- Title(参考訳): GN変換器:改良されたコード要約のためのFusing SequenceとGraph Representation
- Authors: Junyan Cheng, Iordanis Fostiropoulos, and Barry Boehm
- Abstract要約: 融合シーケンスとグラフのモダリティに基づいてエンドツーエンドの学習を行う新しい手法であるGN-Transformerを提案する。
提案手法は,2つのコード要約データセットと3つの自動コード要約メトリクスにおいて,最先端のパフォーマンスを実現する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: As opposed to natural languages, source code understanding is influenced by
grammatical relationships between tokens regardless of their identifier name.
Graph representations of source code such as Abstract Syntax Tree (AST) can
capture relationships between tokens that are not obvious from the source code.
We propose a novel method, GN-Transformer to learn end-to-end on a fused
sequence and graph modality we call Syntax-Code-Graph (SCG). GN-Transformer
expands on Graph Networks (GN) framework using a self-attention mechanism. SCG
is the result of the early fusion between a source code snippet and the AST
representation. We perform experiments on the structure of SCG, an ablation
study on the model design, and the hyper-parameters to conclude that the
performance advantage is from the fused representation. The proposed methods
achieve state-of-the-art performance in two code summarization datasets and
across three automatic code summarization metrics (BLEU, METEOR, ROUGE-L). We
further evaluate the human perceived quality of our model and previous work
with an expert-user study. Our model outperforms the state-of-the-art in human
perceived quality and accuracy.
- Abstract(参考訳): 自然言語とは対照的に、ソースコードの理解は識別子名に関係なくトークン間の文法的関係に影響される。
AST(Abstract Syntax Tree)のようなソースコードのグラフ表現は、ソースコードから明らかでないトークン間の関係をキャプチャすることができる。
本稿では,Syntax-Code-Graph (SCG) と呼ばれる,融合シーケンスとグラフモダリティに基づいてエンドツーエンドの学習を行う新しい手法GN-Transformerを提案する。
gn-transformerはグラフネットワーク(gn)フレームワークに自己接続機構を用いて拡張する。
SCGはソースコードスニペットとAST表現との初期の融合の結果である。
我々は,SCGの構造,モデル設計に関するアブレーション研究,およびハイパーパラメータについて実験を行い,性能上の優位性は融合表現によるものであると結論づける。
提案手法は,2つのコード要約データセットと3つの自動コード要約メトリクス(BLEU, METEOR, ROUGE-L)で最先端性能を実現する。
さらに,本モデルと先行研究の人間の知覚的品質を,専門家・ユーザによる研究により評価した。
我々のモデルは、人間の知覚する品質と正確さにおいて最先端を上回っている。
関連論文リスト
- Efficient Graph Similarity Computation with Alignment Regularization [7.143879014059894]
グラフ類似性計算(GSC)は、グラフニューラルネットワーク(GNN)を用いた学習に基づく予測タスクである。
適応正規化(AReg)と呼ばれる,シンプルながら強力な正規化技術によって,高品質な学習が達成可能であることを示す。
推論段階では、GNNエンコーダによって学習されたグラフレベル表現は、ARegを再度使用せずに直接類似度スコアを計算するために使用される。
論文 参考訳(メタデータ) (2024-06-21T07:37:28Z) - CONCORD: Towards a DSL for Configurable Graph Code Representation [3.756550107432323]
カスタマイズ可能なグラフ表現を構築するためのドメイン固有言語であるCONCORDを紹介する。
実例として,コードの臭い検出に有効であることを示す。
ConCORDは、研究者がカスタマイズ可能なグラフベースのコード表現を作成し、実験するのに役立つ。
論文 参考訳(メタデータ) (2024-01-31T16:16:48Z) - Neural Machine Translation with Dynamic Graph Convolutional Decoder [32.462919670070654]
本稿では,グラフとシーケンス)構造入力から(グラフとシーケンス)出力への変換アーキテクチャを提案する。
我々は5つの広く知られている翻訳ベンチマークで広範な実験を行い、提案手法がベースラインや他の構文認識の変種よりも一貫した改善を実現することを検証した。
論文 参考訳(メタデータ) (2023-05-28T11:58:07Z) - Transforming Visual Scene Graphs to Image Captions [69.13204024990672]
我々は、Scene Graphs (TSG) をより説明的なキャプションに変換することを提案する。
TSGでは、シーングラフの埋め込みのためのグラフニューラルネットワーク(GNN)の設計にマルチヘッドアテンション(MHA)を適用している。
TSGでは、各専門家はMHAに基づいてグラフ埋め込みを識別し、異なる種類の単語を生成する。
論文 参考訳(メタデータ) (2023-05-03T15:18:37Z) - Training Free Graph Neural Networks for Graph Matching [103.45755859119035]
TFGMは、グラフニューラルネットワーク(GNN)ベースのグラフマッチングのパフォーマンスをトレーニングなしで向上するフレームワークである。
TFGMをさまざまなGNNに適用することは、ベースラインよりも有望な改善を示している。
論文 参考訳(メタデータ) (2022-01-14T09:04:46Z) - MGAE: Masked Autoencoders for Self-Supervised Learning on Graphs [55.66953093401889]
Masked Graph Autoencoder (MGAE) フレームワークは、グラフ構造データの効果的な学習を行う。
自己指導型学習から洞察を得て、私たちはランダムに大量のエッジを隠蔽し、トレーニング中に欠落したエッジを再構築しようとします。
論文 参考訳(メタデータ) (2022-01-07T16:48:07Z) - Joint Graph Learning and Matching for Semantic Feature Correspondence [69.71998282148762]
本稿では,グラフマッチングを向上するための信頼度の高いグラフ構造を探索するために,GLAMという共用電子グラフ学習とマッチングネットワークを提案する。
提案手法は,3つの人気ビジュアルマッチングベンチマーク (Pascal VOC, Willow Object, SPair-71k) で評価される。
すべてのベンチマークにおいて、従来の最先端のグラフマッチング手法よりも大きなマージンを達成している。
論文 参考訳(メタデータ) (2021-09-01T08:24:02Z) - deGraphCS: Embedding Variable-based Flow Graph for Neural Code Search [15.19181807445119]
ソースコードを変数ベースのフローグラフに変換する学習可能なDeGraph for Code Search(deGraphCSと呼ばれる)を提案する。
C言語で記述された41,152のコードスニペットを含む大規模なデータセットをGitHubから収集しています。
論文 参考訳(メタデータ) (2021-03-24T06:57:44Z) - A Transformer-based Approach for Source Code Summarization [86.08359401867577]
コードトークン間のペア関係をモデル化することにより,要約のためのコード表現を学習する。
アプローチは単純であるにもかかわらず、最先端技術よりもかなりの差があることが示される。
論文 参考訳(メタデータ) (2020-05-01T23:29:36Z) - Improved Code Summarization via a Graph Neural Network [96.03715569092523]
一般に、ソースコード要約技術はソースコードを入力として使用し、自然言語記述を出力する。
これらの要約を生成するために、ASTのデフォルト構造によくマッチするグラフベースのニューラルアーキテクチャを使用するアプローチを提案する。
論文 参考訳(メタデータ) (2020-04-06T17:36:42Z) - Self-Constructing Graph Convolutional Networks for Semantic Labeling [23.623276007011373]
本稿では,学習可能な潜伏変数を用いて埋め込みを生成する自己構築グラフ(SCG)を提案する。
SCGは、空中画像中の複雑な形状の物体から、最適化された非局所的なコンテキストグラフを自動的に取得することができる。
本稿では,ISPRS Vaihingen データセット上で提案した SCG の有効性と柔軟性を示す。
論文 参考訳(メタデータ) (2020-03-15T21:55:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。