Fugu-MT 論文翻訳(概要): A Neural Network Architecture for Program Understanding Inspired by Human Behaviors

論文の概要: A Neural Network Architecture for Program Understanding Inspired by Human Behaviors

arxiv url: http://arxiv.org/abs/2206.04730v1
Date: Tue, 10 May 2022 06:53:45 GMT
ステータス: 処理完了
システム内更新日: 2023-02-13 17:23:28.400226
Title: A Neural Network Architecture for Program Understanding Inspired by Human Behaviors
Title（参考訳）: 人間行動に触発されたプログラム理解のためのニューラルネットワークアーキテクチャ
Authors: Renyu Zhu, Lei Yuan, Xiang Li, Ming Gao, Wenyuan Cai
Abstract要約: 本稿では,分割型グラフニューラルネットワークモデル PGNN を改良AST 上で提案する。外部知識で生コードを変換し,情報抽出のための事前学習手法を適用する。コード要約およびコードクローン検出タスクにおいて,PGNN-EKの優れた性能を示すため,広範な実験を行った。
参考スコア（独自算出の注目度）: 10.745648153049965
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Program understanding is a fundamental task in program language processing. Despite the success, existing works fail to take human behaviors as reference in understanding programs. In this paper, we consider human behaviors and propose the PGNN-EK model that consists of two main components. On the one hand, inspired by the "divide-and-conquer" reading behaviors of humans, we present a partitioning-based graph neural network model PGNN on the upgraded AST of codes. On the other hand, to characterize human behaviors of resorting to other resources to help code comprehension, we transform raw codes with external knowledge and apply pre-training techniques for information extraction. Finally, we combine the two embeddings generated from the two components to output code embeddings. We conduct extensive experiments to show the superior performance of PGNN-EK on the code summarization and code clone detection tasks. In particular, to show the generalization ability of our model, we release a new dataset that is more challenging for code clone detection and could advance the development of the community. Our codes and data are publicly available at https://github.com/RecklessRonan/PGNN-EK.
Abstract（参考訳）: プログラム理解は、プログラム言語処理における基本的なタスクである。成功にもかかわらず、既存の作品はプログラムを理解する上で人間の行動を参考にしない。本稿では,人間の行動について考察し,2つの主成分からなるpgnn-ekモデルを提案する。一方、人間の「分母」読解行動に触発されて、コードのアップグレードASTにパーティショニングに基づくグラフニューラルネットワークモデルPGNNを提案する。一方で、コード理解を助けるために他のリソースに頼る人間の行動を特徴付けるために、生のコードを外部の知識で変換し、情報抽出に事前学習技術を適用する。最後に、2つのコンポーネントから生成された2つの組込みを組み合わせることで、コード組込みを出力します。コード要約およびコードクローン検出タスクにおけるPGNN-EKの優れた性能を示すため、広範な実験を行った。特に、我々のモデルの一般化能力を示すために、コードクローンの検出をより困難にし、コミュニティの発展を促進する新しいデータセットをリリースする。私たちのコードとデータはhttps://github.com/RecklessRonan/PGNN-EK.comで公開されています。

関連論文リスト

Codebook Features: Sparse and Discrete Interpretability for Neural Networks [43.06828312515959]
ニューラルネットワークが、疎く、離散的で、より解釈可能な隠された状態を持つように訓練できるかどうかを探る。コードブックの特徴は、各層にベクトル量子化ボトルネックを持つニューラルネットワークを微調整することによって生成される。ニューラルネットワークは、パフォーマンスをわずかに低下させるだけで、この極端なボトルネックの下で動作できることがわかりました。
論文参考訳（メタデータ） (2023-10-26T08:28:48Z)
Graph Neural Networks Provably Benefit from Structural Information: A Feature Learning Perspective [53.999128831324576]
グラフニューラルネットワーク(GNN)は、グラフ表現学習の先駆けとなった。本研究では,特徴学習理論の文脈におけるグラフ畳み込みの役割について検討する。
論文参考訳（メタデータ） (2023-06-24T10:21:11Z)
CONCORD: Clone-aware Contrastive Learning for Source Code [64.51161487524436]
セルフ教師付き事前トレーニングは、多くのダウンストリームSEタスクに価値のあるジェネリックコード表現を学ぶための牽引役になった。汎用的な表現学習のために、開発者が日々どのようにコードをコーディングするかは、要因としても不可欠である、と私たちは主張する。特に,表現空間に良性クローンを近づける自己教師型コントラスト学習戦略であるCONCORDを提案する。
論文参考訳（メタデータ） (2023-06-05T20:39:08Z)
TransCoder: Towards Unified Transferable Code Representation Learning Inspired by Human Skills [31.75121546422898]
本稿では,コード表現学習のためのTransCoderについて述べる。我々は、メタラーナーとして調整可能なプレフィックスエンコーダを用いて、クロスタスクおよびクロス言語変換可能な知識をキャプチャする。本手法は, 各種コード関連タスクの性能向上と相互強化の促進に寄与する。
論文参考訳（メタデータ） (2023-05-23T06:59:22Z)
Towards Better Out-of-Distribution Generalization of Neural Algorithmic Reasoning Tasks [51.8723187709964]
ニューラルネットワーク推論タスクのOOD一般化について検討する。目標は、ディープニューラルネットワークを使用して入出力ペアからアルゴリズムを学ぶことである。
論文参考訳（メタデータ） (2022-11-01T18:33:20Z)
Pointer Value Retrieval: A new benchmark for understanding the limits of neural network generalization [40.21297628440919]
我々は、ニューラルネットワークの一般化の限界を探求する新しいベンチマーク、Pointer Value Retrieval(PVR)タスクを導入する。 PVRタスクは視覚的および記号的な入力で構成され、それぞれが様々な難易度を持つ。このタスク構造が一般化を理解するための豊富なテストベッドを提供することを示す。
論文参考訳（メタデータ） (2021-07-27T03:50:31Z)
Node2Seq: Towards Trainable Convolutions in Graph Neural Networks [59.378148590027735]
今回提案するグラフネットワーク層であるNode2Seqは,隣接ノードの重みを明示的に調整可能なノード埋め込みを学習する。対象ノードに対して,当手法は注意メカニズムを介して隣接ノードをソートし,さらに1D畳み込みニューラルネットワーク(CNN)を用いて情報集約のための明示的な重み付けを行う。また, 特徴学習のための非局所的情報を, 注意スコアに基づいて適応的に組み込むことを提案する。
論文参考訳（メタデータ） (2021-01-06T03:05:37Z)
Learning to Execute Programs with Instruction Pointer Attention Graph Neural Networks [55.98291376393561]
グラフニューラルネットワーク(GNN)は、ソフトウェアエンジニアリングタスクを学習するための強力なツールとして登場した。リカレントニューラルネットワーク(RNN)は、長いシーケンシャルな推論の連鎖に適しているが、プログラム構造を自然に組み込んでいるわけではない。本稿では,新しいGNNアーキテクチャ,IPA-GNN(Instruction Pointer Attention Graph Neural Networks)を導入する。
論文参考訳（メタデータ） (2020-10-23T19:12:30Z)
Towards Demystifying Dimensions of Source Code Embeddings [5.211235558099913]
Code2vecニューラルソースコードの埋め込み内容の理解を深めるための予備的な結果を示す。以上の結果から,手工芸品は高次元のcode2vec 埋め込みに非常に近い性能が得られることが示唆された。また、code2vecの埋め込みは、手作りの特徴よりも情報ゲインの少ない次元の除去に対して、より弾力性が高いことが判明した。
論文参考訳（メタデータ） (2020-08-29T21:59:11Z)
Improved Code Summarization via a Graph Neural Network [96.03715569092523]
一般に、ソースコード要約技術はソースコードを入力として使用し、自然言語記述を出力する。これらの要約を生成するために、ASTのデフォルト構造によくマッチするグラフベースのニューラルアーキテクチャを使用するアプローチを提案する。
論文参考訳（メタデータ） (2020-04-06T17:36:42Z)
Leveraging Code Generation to Improve Code Retrieval and Summarization via Dual Learning [18.354352985591305]
コード要約は、ソースコードスニペットが与えられた短い自然言語記述を生成し、コード検索は、自然言語クエリが与えられた関連するソースコードを取得する。最近の研究は、これらの2つのタスクを組み合わせてパフォーマンスを改善している。本稿では,新たなコード生成タスクを導入することによって,2つのタスクのエンド・ツー・エンド・モデルを提案する。
論文参考訳（メタデータ） (2020-02-24T12:26:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。