論文の概要: Comparison of Syntactic and Semantic Representations of Programs in Neural Embeddings

• arxiv url: http://arxiv.org/abs/2001.09201v1
• Date: Fri, 24 Jan 2020 21:30:03 GMT
• ステータス: 処理完了
• システム内更新日: 2023-01-07 05:34:00.121710
• Title: Comparison of Syntactic and Semantic Representations of Programs in Neural Embeddings
• Title（参考訳）: 神経組込みにおけるプログラムの構文表現と意味表現の比較
• Authors: Austin P. Wright, Herbert Wiklicky
• Abstract要約: プログラム埋め込みのタスクにおいて、異なるグラフ表現を用いてグラフ畳み込みネットワークを比較する。 制御フローグラフの空間性やグラフ畳み込みネットワークの暗黙の集約は、これらのモデルがナイーブモデルよりも悪い結果をもたらすことを示している。
• 参考スコア（独自算出の注目度）: 1.0878040851638
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Neural approaches to program synthesis and understanding have proliferated widely in the last few years; at the same time graph based neural networks have become a promising new tool. This work aims to be the first empirical study comparing the effectiveness of natural language models and static analysis graph based models in representing programs in deep learning systems. It compares graph convolutional networks using different graph representations in the task of program embedding. It shows that the sparsity of control flow graphs and the implicit aggregation of graph convolutional networks cause these models to perform worse than naive models. Therefore it concludes that simply augmenting purely linguistic or statistical models with formal information does not perform well due to the nuanced nature of formal properties introducing more noise than structure for graph convolutional networks.
• Abstract（参考訳）: プログラムの合成と理解に対するニューラルネットワークのアプローチはここ数年で広く普及し、同時にグラフベースのニューラルネットワークは有望な新しいツールとなった。 本研究は、ディープラーニングシステムにおけるプログラム表現における自然言語モデルと静的解析グラフモデルの有効性を比較する最初の実証研究である。 プログラム埋め込みのタスクにおいて、異なるグラフ表現を用いてグラフ畳み込みネットワークを比較する。 制御フローグラフの空間性とグラフ畳み込みネットワークの暗黙の集約は、これらのモデルが単純なモデルよりも悪い結果をもたらすことを示す。 したがって、グラフ畳み込みネットワークの構造よりもノイズを多く導入する形式特性のニュアンスな性質のため、純粋言語モデルや統計モデルに形式的情報を加えるだけではうまく機能しない。

関連論文リスト

• A Theory of Link Prediction via Relational Weisfeiler-Leman on Knowledge Graphs [6.379544211152605]
  グラフニューラルネットワークは、グラフ構造化データ上での表現学習のための顕著なモデルである。 私たちの目標は、知識グラフのためのグラフニューラルネットワークのランドスケープを体系的に理解することです。
  論文  参考訳（メタデータ） (2023-02-04T17:40:03Z)
• State of the Art and Potentialities of Graph-level Learning [54.68482109186052]
  グラフレベルの学習は、比較、回帰、分類など、多くのタスクに適用されている。 グラフの集合を学習する伝統的なアプローチは、サブストラクチャのような手作りの特徴に依存している。 ディープラーニングは、機能を自動的に抽出し、グラフを低次元表現に符号化することで、グラフレベルの学習をグラフの規模に適応させるのに役立っている。
  論文  参考訳（メタデータ） (2023-01-14T09:15:49Z)
• Generative Graph Neural Networks for Link Prediction [13.643916060589463]
  欠落したリンクを推測したり、観測されたグラフに基づいて急激なリンクを検出することは、グラフデータ分析における長年の課題である。 本稿では,GraphLPと呼ばれるネットワーク再構成理論に基づく,新しい,根本的に異なるリンク予測アルゴリズムを提案する。 リンク予測に使用される識別ニューラルネットワークモデルとは異なり、GraphLPは生成可能であり、ニューラルネットワークベースのリンク予測の新しいパラダイムを提供する。
  論文  参考訳（メタデータ） (2022-12-31T10:07:19Z)
• Learning Graph Structure from Convolutional Mixtures [119.45320143101381]
  本稿では、観測されたグラフと潜伏グラフのグラフ畳み込み関係を提案し、グラフ学習タスクをネットワーク逆(デコンボリューション)問題として定式化する。 固有分解に基づくスペクトル法の代わりに、近似勾配反復をアンロール・トランケートして、グラフデコンボリューションネットワーク(GDN)と呼ばれるパラメータ化ニューラルネットワークアーキテクチャに到達させる。 GDNは、教師付き方式でグラフの分布を学習し、損失関数を適応させることでリンク予測やエッジウェイト回帰タスクを実行し、本質的に帰納的である。
  論文  参考訳（メタデータ） (2022-05-19T14:08:15Z)
• Optimal Propagation for Graph Neural Networks [51.08426265813481]
  最適グラフ構造を学習するための二段階最適化手法を提案する。 また、時間的複雑さをさらに軽減するために、低ランク近似モデルについても検討する。
  論文  参考訳（メタデータ） (2022-05-06T03:37:00Z)
• Explanation Graph Generation via Pre-trained Language Models: An Empirical Study with Contrastive Learning [84.35102534158621]
  エンドツーエンドで説明グラフを生成する事前学習言語モデルについて検討する。 本稿では,ノードとエッジの編集操作によるグラフ摂動の簡易かつ効果的な方法を提案する。 提案手法は,説明グラフの構造的精度と意味的精度を両立させる。
  論文  参考訳（メタデータ） (2022-04-11T00:58:27Z)
• How Neural Processes Improve Graph Link Prediction [35.652234989200956]
  リンク予測のためのグラフニューラルネットワークを用いたメタラーニング手法:グラフニューラルネットワークのためのニューラルプロセス(NPGNN)を提案する。 NPGNNは、トランスダクティブな学習タスクとインダクティブな学習タスクの両方を実行し、小さなサブグラフでトレーニングした後、大きな新しいグラフのパターンに適応することができる。
  論文  参考訳（メタデータ） (2021-09-30T07:35:13Z)
• A Unifying Generative Model for Graph Learning Algorithms: Label Propagation, Graph Convolutions, and Combinations [39.8498896531672]
  グラフに関する半教師付き学習は、ネットワーク科学と機械学習において広く適用可能な問題である。 我々は,ノード属性のデータ生成プロセスのためのマルコフ確率場モデルを開発した。 ラベル伝播,線形化グラフ畳み込みネットワーク,それらの組み合わせが条件付き期待値として導出できることを示す。
  論文  参考訳（メタデータ） (2021-01-19T17:07:08Z)
• Towards Deeper Graph Neural Networks [63.46470695525957]
  グラフ畳み込みは近傍の集約を行い、最も重要なグラフ操作の1つである。 いくつかの最近の研究で、この性能劣化は過度に滑らかな問題に起因している。 本研究では,大きな受容領域からの情報を適応的に組み込むディープ適応グラフニューラルネットワーク(DAGNN)を提案する。
  論文  参考訳（メタデータ） (2020-07-18T01:11:14Z)
• Beyond Graph Neural Networks with Lifted Relational Neural Networks [14.63152363481139]
  我々は,Lfted Neural Networks の言語に基づく宣言型微分可能プログラミングフレームワークを実演する。 小さなパラメータ化プログラムは学習を符号化するために使用される。 このアイデアは、様々な高度なニューラルネットワークの効率的な符号化にどのように使用できるかを示す。
  論文  参考訳（メタデータ） (2020-07-13T10:10:58Z)
• Tensor Graph Convolutional Networks for Multi-relational and Robust Learning [74.05478502080658]
  本稿では,テンソルで表されるグラフの集合に関連するデータから,スケーラブルな半教師付き学習(SSL)を実現するためのテンソルグラフ畳み込みネットワーク(TGCN)を提案する。 提案アーキテクチャは、標準的なGCNと比較して大幅に性能が向上し、最先端の敵攻撃に対処し、タンパク質間相互作用ネットワーク上でのSSL性能が著しく向上する。
  論文  参考訳（メタデータ） (2020-03-15T02:33:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。