論文の概要: HEAT: Hyperedge Attention Networks
- arxiv url: http://arxiv.org/abs/2201.12113v1
- Date: Fri, 28 Jan 2022 13:42:01 GMT
- ステータス: 処理完了
- システム内更新日: 2022-01-31 16:07:33.284106
- Title: HEAT: Hyperedge Attention Networks
- Title(参考訳): HEAT: ハイパーエッジアテンションネットワーク
- Authors: Dobrik Georgiev, Marc Brockschmidt, Miltiadis Allamanis
- Abstract要約: HEATは型付きハイパーグラフと資格付きハイパーグラフを表現可能なニューラルモデルである。
これは、メッセージパッシングニューラルネットワークとトランスフォーマーの両方の一般化と見なすことができる。
プログラムの新たなハイパーグラフ表現を用いた知識ベース補完とバグ検出と修復について評価する。
- 参考スコア(独自算出の注目度): 34.65832569321654
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Learning from structured data is a core machine learning task. Commonly, such
data is represented as graphs, which normally only consider (typed) binary
relationships between pairs of nodes. This is a substantial limitation for many
domains with highly-structured data. One important such domain is source code,
where hypergraph-based representations can better capture the semantically rich
and structured nature of code.
In this work, we present HEAT, a neural model capable of representing typed
and qualified hypergraphs, where each hyperedge explicitly qualifies how
participating nodes contribute. It can be viewed as a generalization of both
message passing neural networks and Transformers. We evaluate HEAT on knowledge
base completion and on bug detection and repair using a novel hypergraph
representation of programs. In both settings, it outperforms strong baselines,
indicating its power and generality.
- Abstract(参考訳): 構造化データからの学習は、コア機械学習タスクである。
一般的に、そのようなデータはグラフとして表現され、通常はノードのペア間の(型付けされた)バイナリ関係しか考慮しない。
これは、高度に構造化されたデータを持つ多くのドメインにとって実質的な制限である。
このようなドメインの重要な1つはソースコードであり、ハイパーグラフベースの表現は、セマンティックにリッチで構造化されたコードの性質をよりよく捉えることができる。
本稿では,型付きハイパーグラフと資格付きハイパーグラフを表現可能なニューラルモデルであるHEATについて述べる。
これは、メッセージパッシングニューラルネットワークとトランスフォーマーの両方の一般化と見なすことができる。
本稿では,プログラムのハイパーグラフ表現を用いた知識ベース補完とバグ検出と修復について評価する。
どちらの設定でも、強力なベースラインよりも優れており、そのパワーと汎用性を示している。
関連論文リスト
- Hypergraph Transformer for Semi-Supervised Classification [50.92027313775934]
我々は新しいハイパーグラフ学習フレームワークHyperGraph Transformer(HyperGT)を提案する。
HyperGTはTransformerベースのニューラルネットワークアーキテクチャを使用して、すべてのノードとハイパーエッジのグローバル相関を効果的に検討する。
局所接続パターンを保ちながら、グローバルな相互作用を効果的に組み込むことで、包括的なハイパーグラフ表現学習を実現する。
論文 参考訳(メタデータ) (2023-12-18T17:50:52Z) - Hypergraph Node Representation Learning with One-Stage Message Passing [28.311325846217574]
ハイパーグラフのグローバルおよびローカル情報伝搬をモデル化するための,新しいワンステージメッセージパッシングパラダイムを提案する。
我々はこのパラダイムをハイパーグラフノード表現学習のためのトランスフォーマーベースのフレームワークであるHGraphormerに統合する。
論文 参考訳(メタデータ) (2023-12-01T04:10:00Z) - UniG-Encoder: A Universal Feature Encoder for Graph and Hypergraph Node
Classification [6.977634174845066]
グラフおよびハイパーグラフ表現学習のための普遍的特徴エンコーダ(UniG-Encoder)が設計されている。
アーキテクチャは、連結ノードのトポロジ的関係をエッジやハイパーエッジに前方変換することから始まる。
符号化されたノードの埋め込みは、投影行列の変換によって記述された逆変換から導かれる。
論文 参考訳(メタデータ) (2023-08-03T09:32:50Z) - From Hypergraph Energy Functions to Hypergraph Neural Networks [94.88564151540459]
パラメータ化されたハイパーグラフ正規化エネルギー関数の表現型族を示す。
次に、これらのエネルギーの最小化がノード埋め込みとして効果的に機能することを実証する。
提案した双レベルハイパーグラフ最適化と既存のGNNアーキテクチャを共通的に用いている。
論文 参考訳(メタデータ) (2023-06-16T04:40:59Z) - Classification of Edge-dependent Labels of Nodes in Hypergraphs [17.454063924648896]
エッジ依存ノードラベルの分類を新しい問題として紹介する。
この問題はハイパーグラフニューラルネットワークのベンチマークタスクとして使用できる。
提案するWHATsNetは,参加するハイパーエッジに応じて同一ノードを異なる表現で表現する,新しいハイパーグラフニューラルネットワークである。
論文 参考訳(メタデータ) (2023-06-05T16:50:34Z) - Seq-HGNN: Learning Sequential Node Representation on Heterogeneous Graph [57.2953563124339]
本稿では,シーケンシャルノード表現,すなわちSeq-HGNNを用いた新しい異種グラフニューラルネットワークを提案する。
Heterogeneous Graph Benchmark (HGB) と Open Graph Benchmark (OGB) の4つの広く使われているデータセットについて広範な実験を行った。
論文 参考訳(メタデータ) (2023-05-18T07:27:18Z) - Dynamic Graph Message Passing Networks for Visual Recognition [112.49513303433606]
長距離依存のモデリングは、コンピュータビジョンにおけるシーン理解タスクに不可欠である。
完全連結グラフはそのようなモデリングには有益であるが、計算オーバーヘッドは禁じられている。
本稿では,計算複雑性を大幅に低減する動的グラフメッセージパッシングネットワークを提案する。
論文 参考訳(メタデータ) (2022-09-20T14:41:37Z) - A Robust Stacking Framework for Training Deep Graph Models with
Multifaceted Node Features [61.92791503017341]
数値ノード特徴とグラフ構造を入力とするグラフニューラルネットワーク(GNN)は,グラフデータを用いた各種教師付き学習タスクにおいて,優れた性能を示した。
IID(non-graph)データをGNNに簡単に組み込むことはできない。
本稿では、グラフ認識の伝播をIDデータに意図した任意のモデルで融合するロバストな積み重ねフレームワークを提案する。
論文 参考訳(メタデータ) (2022-06-16T22:46:33Z) - Hypergraph Convolutional Networks via Equivalency between Hypergraphs
and Undirected Graphs [59.71134113268709]
本稿では,EDVWおよびEIVWハイパーグラフを処理可能な一般学習フレームワークであるGeneral Hypergraph Spectral Convolution(GHSC)を提案する。
本稿では,提案するフレームワークが最先端の性能を達成できることを示す。
ソーシャルネットワーク分析,視覚的客観的分類,タンパク質学習など,様々な分野の実験により,提案手法が最先端の性能を達成できることが実証された。
論文 参考訳(メタデータ) (2022-03-31T10:46:47Z) - Adaptive Neural Message Passing for Inductive Learning on Hypergraphs [21.606287447052757]
本稿では,新しいハイパーグラフ学習フレームワークHyperMSGを紹介する。
各ノードの次数集中度に関連する注意重みを学習することで、データとタスクに適応する。
堅牢で、幅広いタスクやデータセットで最先端のハイパーグラフ学習手法より優れています。
論文 参考訳(メタデータ) (2021-09-22T12:24:02Z) - HyperSAGE: Generalizing Inductive Representation Learning on Hypergraphs [24.737560790401314]
2段階のニューラルメッセージパッシング戦略を用いて、ハイパーグラフを介して情報を正確かつ効率的に伝播する新しいハイパーグラフ学習フレームワークHyperSAGEを提案する。
本稿では,HyperSAGEが代表的ベンチマークデータセット上で最先端のハイパーグラフ学習手法より優れていることを示す。
論文 参考訳(メタデータ) (2020-10-09T13:28:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。