論文の概要: FeatureNorm: L2 Feature Normalization for Dynamic Graph Embedding
- arxiv url: http://arxiv.org/abs/2103.00164v1
- Date: Sat, 27 Feb 2021 09:13:47 GMT
- ステータス: 処理完了
- システム内更新日: 2021-03-03 15:59:33.084718
- Title: FeatureNorm: L2 Feature Normalization for Dynamic Graph Embedding
- Title（参考訳）: FeatureNorm: 動的グラフ埋め込みのためのL2機能正規化
- Authors: Menglin Yang, Ziqiao Meng, Irwin King
- Abstract要約: グラフ畳み込みネットワーク(GCN)は、非ユークリッドアプリケーションドメインで広く研究され、利用されている。
本稿では,まずノード埋め込み空間における縮小特性を解析し,単純で汎用的な手法を設計する。
実世界の4つの動的グラフデータセットと競合ベースラインモデルの比較実験により,提案手法の有効性が示された。
- 参考スコア（独自算出の注目度）: 39.527059564775094
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Dynamic graphs arise in a plethora of practical scenarios such as social
networks, communication networks, and financial transaction networks. Given a
dynamic graph, it is fundamental and essential to learn a graph representation
that is expected not only to preserve structural proximity but also jointly
capture the time-evolving patterns. Recently, graph convolutional network (GCN)
has been widely explored and used in non-Euclidean application domains. The
main success of GCN, especially in handling dependencies and passing messages
within nodes, lies in its approximation to Laplacian smoothing. As a matter of
fact, this smoothing technique can not only encourage must-link node pairs to
get closer but also push cannot-link pairs to shrink together, which
potentially cause serious feature shrink or oversmoothing problem, especially
when stacking graph convolution in multiple layers or steps. For learning
time-evolving patterns, a natural solution is to preserve historical state and
combine it with the current interactions to obtain the most recent
representation. Then the serious feature shrink or oversmoothing problem could
happen when stacking graph convolution explicitly or implicitly according to
current prevalent methods, which would make nodes too similar to distinguish
each other. To solve this problem in dynamic graph embedding, we analyze the
shrinking properties in the node embedding space at first, and then design a
simple yet versatile method, which exploits L2 feature normalization constraint
to rescale all nodes to hypersphere of a unit ball so that nodes would not
shrink together, and yet similar nodes can still get closer. Extensive
experiments on four real-world dynamic graph datasets compared with competitive
baseline models demonstrate the effectiveness of the proposed method.
- Abstract（参考訳）: 動的グラフは、ソーシャルネットワーク、通信ネットワーク、金融取引ネットワークといった多くの実践的なシナリオに現れます。
動的グラフが与えられた場合、構造的近接性を保持するだけでなく、時間発展パターンを共同で捉えることが期待されるグラフ表現を学ぶことは、基本的で不可欠である。
近年,非ユークリッドアプリケーション領域において,グラフ畳み込みネットワーク (GCN) が広く研究されている。
GCNの主な成功、特に依存関係の処理とノード内のメッセージ転送は、Laplacianのスムーズ化への近似にある。
実際、このスムーズなテクニックは、必須リンクノードペアの接近を奨励するだけでなく、ナントリンクペアの縮小を促進することで、特にグラフの畳み込みを複数のレイヤやステップに積み重ねる際に、深刻な機能縮小や過度な問題を引き起こす可能性がある。
時間発展パターンを学ぶための自然な解決策は、過去の状態を保存し、現在の相互作用と組み合わせて最新の表現を得ることである。
次に、グラフ畳み込みを現在の一般的な方法に従って明示的にまたは暗黙的に積み重ねると、深刻な機能が縮小または過剰になってしまう可能性がある。
動的グラフ埋め込みにおけるこの問題を解決するため、まずノード埋め込み空間における縮小特性を解析し、L2特徴正規化制約を利用して全てのノードを単位球の超球面に再スケールし、ノードが一緒に縮み合わないようにし、類似ノードが近づき続けることができる簡易な多目的手法を設計する。
実世界の4つの動的グラフデータセットと競合ベースラインモデルの比較実験により,提案手法の有効性が示された。
関連論文リスト
- Towards Dynamic Message Passing on Graphs [104.06474765596687]
グラフニューラルネットワーク(GNN)のための新しい動的メッセージパッシング機構を提案する。
グラフノードと学習可能な擬似ノードを、測定可能な空間関係を持つ共通空間に投影する。
ノードが空間内を移動すると、その進化する関係は動的メッセージパッシングプロセスのための柔軟な経路構築を促進する。
論文 参考訳（メタデータ） (2024-10-31T07:20:40Z) - Input Snapshots Fusion for Scalable Discrete Dynamic Graph Nerual Networks [27.616083395612595]
入力 bf Snapshots bf Fusion ベースの動的 bf Graph Neural Network (SFDyG) を導入する。
入力ウィンドウ内でスナップショットのパーティショニングを取り除くことで、マルチグラフ(2つのノード間の1つ以上のエッジ)を得る。
スケーラブルな3段階のミニバッチトレーニング手法を提案し、フルバッチトレーニング手法と等価性を実証する。
論文 参考訳（メタデータ） (2024-05-11T10:05:55Z) - Deep Manifold Graph Auto-Encoder for Attributed Graph Embedding [51.75091298017941]
本稿では,属性付きグラフデータに対する新しいDeep Manifold (Variational) Graph Auto-Encoder (DMVGAE/DMGAE)を提案する。
提案手法は,最先端のベースラインアルゴリズムを,一般的なデータセット間でのダウンストリームタスクの差を大きく越える。
論文 参考訳（メタデータ） (2024-01-12T17:57:07Z) - NodeFormer: A Scalable Graph Structure Learning Transformer for Node
Classification [70.51126383984555]
本稿では,任意のノード間のノード信号を効率的に伝搬する全ペアメッセージパッシング方式を提案する。
効率的な計算は、カーナライズされたGumbel-Softmax演算子によって実現される。
グラフ上のノード分類を含む様々なタスクにおいて,本手法の有望な有効性を示す実験を行った。
論文 参考訳（メタデータ） (2023-06-14T09:21:15Z) - Addressing Heterophily in Node Classification with Graph Echo State
Networks [11.52174067809364]
ノード分類のためのグラフエコー状態ネットワーク(GESN)を用いた異種グラフの課題に対処する。
GESNはグラフのための貯水池計算モデルであり、ノードの埋め込みは訓練されていないメッセージパッシング関数によって計算される。
実験の結果, 貯水池モデルでは, ほぼ完全に訓練された深層モデルに対して, より優れた精度あるいは同等の精度が得られることがわかった。
論文 参考訳（メタデータ） (2023-05-14T19:42:31Z) - Temporal Aggregation and Propagation Graph Neural Networks for Dynamic
Representation [67.26422477327179]
時間グラフは連続時間を通してノード間の動的相互作用を示す。
本研究では,周辺地域全体と時間的グラフ畳み込みの新たな手法を提案する。
提案するTAP-GNNは,予測性能とオンライン推論遅延の両面で,既存の時間グラフ手法よりも優れた性能を示す。
論文 参考訳（メタデータ） (2023-04-15T08:17:18Z) - Expander Graph Propagation [0.0]
本稿では,拡張グラフ上での情報伝達に基づくエレガントなアプローチを提案する。
EGPは、セットアップに最小限の労力を要しながら、上記の懸念に対処できることを示します。
我々の分析は、GNNの過剰な監視に対処する、スケーラブルな方法の新たなクラスへの道を開くものだと信じています。
論文 参考訳（メタデータ） (2022-10-06T15:36:37Z) - Dynamic Graph Message Passing Networks for Visual Recognition [112.49513303433606]
長距離依存のモデリングは、コンピュータビジョンにおけるシーン理解タスクに不可欠である。
完全連結グラフはそのようなモデリングには有益であるが、計算オーバーヘッドは禁じられている。
本稿では,計算複雑性を大幅に低減する動的グラフメッセージパッシングネットワークを提案する。
論文 参考訳（メタデータ） (2022-09-20T14:41:37Z) - CatGCN: Graph Convolutional Networks with Categorical Node Features [99.555850712725]
CatGCNはグラフ学習に適したノード機能である。
エンドツーエンドでCatGCNを訓練し、半教師付きノード分類でそれを実証する。
論文 参考訳（メタデータ） (2020-09-11T09:25:17Z) - Dynamic Spatiotemporal Graph Neural Network with Tensor Network [12.278768477060137]
動的空間グラフ構築は時系列データ問題に対するグラフニューラルネットワーク(GNN)の課題である。
我々は、全ての動的空間関係を収集する空間テンソルグラフ(STG)と、各ノードにおける遅延パターンを見つけるための時間テンソルグラフ(TTG)を生成する。
提案手法の精度と時間的コストを,公共交通データセット上での最先端のGNN手法と比較した。
論文 参考訳（メタデータ） (2020-03-12T20:47:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。