論文の概要: Exploring Oversmoothing with Householder Matrices
- arxiv url: http://arxiv.org/abs/2608.12514v1
- Date: Wed, 12 Aug 2026 18:47:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-14 18:29:38.306545
- Title: Exploring Oversmoothing with Householder Matrices
- Title(参考訳): 家庭内マトリクスによる過平滑化の探索
- Abstract要約: 住宅用グラフニューラルネットワーク(HouseGNN)について検討する。
標準的なGCNのように隠れた状態を更新する代わりに、HouseGNNは集約された近隣メッセージを使用して反射方向を推定する。
i) すべての内部層がノードワイドユークリッドノルムを保ち、 (ii) ハウスリフレクタはメッセージのスケールと符号不変量であり、 (iii) ノード間のペアワイド距離はノードワイド直交作用素間のミスマッチによって変化する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deep graph neural networks(GNNs) suffer from oversmoothing- a progressive collapse of node representation towards a low information subspace as network depth increases because the normalized graph propagation operator is repeatedly applied directly to the hidden representations. In this work we study Householder Graph Neural Network (HouseGNN). Rather than updating the hidden state like standard GCN, HouseGNN uses the aggregated neighbourhood message solely to estimate a reflection direction; the node embedding is then updated by a Householder reflector followed by GroupSort, yielding a piecewise orthogonal layer that preserves Euclidean norm at every node and at every depth. We prove three core properties: (i) every internal layer preserves the node-wise Euclidean norm; (ii) the Householder reflector is scale scale and sign-invariant in the message; and (iii) pairwise distance between nodes can change through mismatch between node-wise orthogonal operators.
- Abstract(参考訳): ディープグラフニューラルネットワーク(GNN)は、正規化グラフ伝搬演算子が隠れた表現に直接繰り返し適用されるため、ネットワーク深度が増加するにつれて、ノード表現の低情報部分空間への進行的な崩壊に苦しむ。
本研究では,家庭用グラフニューラルネットワーク(HouseGNN)について検討する。
HouseGNNは、標準GCNのように隠れた状態を更新する代わりに、集約された近隣メッセージを単に反射方向を推定するために使用する。
3つのコア特性を証明します。
i) すべての内部層は、ノードワイドユークリッドノルムを保存する。
(二 家庭用リフレクタは、メッセージのスケール及び符号不変量である。)
三 ノード間のペアワイズ距離は、ノードワイズ直交作用素間のミスマッチによって変更することができる。
関連論文リスト
- Degree-based stratification of nodes in Graph Neural Networks [66.17149106033126]
グラフニューラルネットワーク(GNN)アーキテクチャを変更して,各グループのノードに対して,重み行列を個別に学習する。
このシンプルな実装変更により、データセットとGNNメソッドのパフォーマンスが改善されているようだ。
論文 参考訳(メタデータ) (2023-12-16T14:09:23Z) - On Generalized Degree Fairness in Graph Neural Networks [18.110053023118294]
Deg-FairGNN(Generalized Degree Fairness-centric Graph Neural Network)と呼ばれる新しいGNNフレームワークを提案する。
具体的には、各GNN層において、学習可能なデバイアス機能を用いて、デバイアスのコンテキストを生成する。
3つのベンチマークデータセットに対する大規模な実験は、精度と公正度の両方において、我々のモデルの有効性を示す。
論文 参考訳(メタデータ) (2023-02-08T05:00:37Z) - Local Graph Embeddings Based on Neighbors Degree Frequency of Nodes [0.0]
本稿では,ノードの特定の局所的特徴とベクトル表現を定義することによって,グラフ機械学習とネットワーク解析の戦略を提案する。
Breath-First Search を通じてノードの次数の概念を拡張することにより、bf 中心関数の一般族が定義される。
これらの局所的な特徴に深層学習を適用することで、中心性と近接性を学ぶことができることを示す。
論文 参考訳(メタデータ) (2022-07-30T07:07:30Z) - Mixed Graph Contrastive Network for Semi-Supervised Node Classification [63.924129159538076]
我々はMixed Graph Contrastive Network(MGCN)と呼ばれる新しいグラフコントラスト学習手法を提案する。
本研究では,非摂動増強戦略と相関還元機構により,潜伏埋め込みの識別能力を向上する。
これら2つの設定を組み合わせることで、識別表現学習のために、豊富なノードと稀に価値あるラベル付きノードの両方から、豊富な監視情報を抽出する。
論文 参考訳(メタデータ) (2022-06-06T14:26:34Z) - Geometric Graph Representation Learning via Maximizing Rate Reduction [73.6044873825311]
学習ノード表現は、コミュニティ検出やノード分類などのグラフ解析において、さまざまな下流タスクの恩恵を受ける。
教師なしの方法でノード表現を学習するための幾何学グラフ表現学習(G2R)を提案する。
G2R は異なるグループ内のノードを異なる部分空間にマッピングし、各部分空間はコンパクトで異なる部分空間が分散される。
論文 参考訳(メタデータ) (2022-02-13T07:46:24Z) - Graph Neural Networks with Feature and Structure Aware Random Walk [7.143879014059894]
典型的な好適なグラフでは、エッジを指向する可能性があり、エッジをそのまま扱うか、あるいは単純に非指向にするかは、GNNモデルの性能に大きな影響を与える。
そこで我々は,グラフの方向性を適応的に学習するモデルを開発し,ノード間の長距離相関を生かした。
論文 参考訳(メタデータ) (2021-11-19T08:54:21Z) - SEA: Graph Shell Attention in Graph Neural Networks [8.565134944225491]
グラフニューラルネットワーク(GNN)の一般的な問題は、オーバー・スムーシング(over-smoothing)として知られている。
本研究では、ルーティングを実装することでGNNアーキテクチャを緩和し、特にノードの表現を専用の専門家にルーティングする。
この手順をグラフシェル注意(SEA)と呼び、専門家がトランスフォーマーを動機づけた方法で異なるサブグラフを処理する。
論文 参考訳(メタデータ) (2021-10-20T17:32:08Z) - Feature Correlation Aggregation: on the Path to Better Graph Neural
Networks [37.79964911718766]
グラフニューラルネットワーク(GNN)が導入される以前、不規則なデータ、特にグラフのモデリングと解析は、ディープラーニングのアキレスのヒールであると考えられていた。
本稿では,GNNのコア操作に対して,極めて単純かつ無作為な修正を施した中央ノード置換変分関数を提案する。
モデルの具体的な性能向上は、モデルがより少ないパラメータを使用しながら、有意なマージンで過去の最先端結果を上回った場合に観察される。
論文 参考訳(メタデータ) (2021-09-20T05:04:26Z) - Towards Deeper Graph Neural Networks with Differentiable Group
Normalization [61.20639338417576]
グラフニューラルネットワーク(GNN)は、隣接するノードを集約することでノードの表現を学習する。
オーバースムーシングは、レイヤーの数が増えるにつれてGNNのパフォーマンスが制限される重要な問題のひとつです。
2つのオーバースムースなメトリクスと新しいテクニック、すなわち微分可能群正規化(DGN)を導入する。
論文 参考訳(メタデータ) (2020-06-12T07:18:02Z) - Graph Highway Networks [77.38665506495553]
グラフ畳み込みネットワーク(GCN)は、グラフ表現の有効性と効率性から、グラフ表現の学習に広く利用されている。
彼らは、多くの層が積み重ねられたとき、学習された表現が類似したベクトルに収束するという悪名高い過度に滑らかな問題に悩まされる。
本稿では,GCN学習プロセスにおける均一性と不均一性との間のトレードオフのバランスをとるため,ゲーティングユニットを利用したグラフハイウェイネットワークを提案する。
論文 参考訳(メタデータ) (2020-04-09T16:26:43Z) - Bilinear Graph Neural Network with Neighbor Interactions [106.80781016591577]
グラフニューラルネットワーク(GNN)は,グラフデータ上で表現を学習し,予測を行う強力なモデルである。
本稿では,グラフ畳み込み演算子を提案し,隣接するノードの表現の対の相互作用で重み付け和を増大させる。
このフレームワークをBGNN(Bilinear Graph Neural Network)と呼び、隣ノード間の双方向相互作用によるGNN表現能力を向上させる。
論文 参考訳(メタデータ) (2020-02-10T06:43:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。