論文の概要: Graph Hierarchical Recurrence for Long-Range Generalization

• arxiv url: http://arxiv.org/abs/2605.18387v1
• Date: Mon, 18 May 2026 13:31:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-19 17:57:49.633895
• Title: Graph Hierarchical Recurrence for Long-Range Generalization
• Title（参考訳）: 長距離一般化のためのグラフ階層的再帰
• Authors: Stefano Carotti, Marco Pacini, Alessio Gravina, Davide Bacciu, Bruno Lepri, Sebastiano Bontorin,
• Abstract要約: グラフニューラルネットワーク(GNN)とグラフトランスフォーマー(GT)は現在、グラフ学習の基本的なパラダイムとなっている。 グラフ階層再帰(GHR: Graph Hierarchical Recurrence)は,入力グラフとプールによって得られる階層的抽象化を併用した新しいフレームワークである。 我々はGHRが既存のグラフモデルより一貫して優れており、現在の最先端モデルのパラメータの1%しか使用していないことを示す。
• 参考スコア（独自算出の注目度）: 25.351165089986868
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Graph Neural Networks (GNNs) and Graph Transformers (GTs) are now a fundamental paradigm for graph learning, combining the representation-learning capabilities of deep models with the sample efficiency induced by their inductive biases. Despite their effectiveness, a large body of work has shown that these models still face fundamental limitations in tasks that require capturing correlations between distant regions of a graph. To address this issue, we introduce Graph Hierarchical Recurrence (GHR), a novel framework that operates jointly on the input graph and on a hierarchical abstraction obtained through pooling. We also show that the limitations of existing models are even more pronounced in out-of-range generalization, where test instances involve interactions over distances longer than those observed during training. By contrast, despite its simple design, GHR provides three key advantages: strong performance on long-range dependencies, improved out-of-range generalization, and high parameter efficiency. To corroborate these claims, we show that across a broad set of long-range benchmarks, GHR consistently outperforms existing graph models while using as little as 1% of the parameters of current state-of-the-art models. These results suggest a complementary direction to the current trend of scaling architectures to obtain graph foundation models, indicating that increased model capacity alone may not be sufficient for generalization.
• Abstract（参考訳）: グラフニューラルネットワーク(GNN)とグラフトランスフォーマー(GT)はグラフ学習の基本的なパラダイムであり、深層モデルの表現学習能力と、誘導バイアスによって誘導されるサンプル効率を組み合わせる。 その効果にもかかわらず、大規模な研究により、これらのモデルがグラフの遠い領域間の相関を捉えることを必要とするタスクにおいて、依然として基本的な制限に直面していることが示されている。 この問題に対処するために、入力グラフとプーリングによって得られる階層的抽象化を併用する新しいフレームワークであるGHR(Graph Hierarchical Recurrence)を導入する。 また、既存のモデルの制限は、テストインスタンスがトレーニング中に観察されるものよりも長い距離にわたる相互作用を含むような、アウト・オブ・レンジの一般化においてさらに顕著であることを示す。 対照的に、GHRは単純な設計にもかかわらず、長距離依存に対する強い性能、アウト・オブ・レンジの一般化の改善、高いパラメータ効率の3つの大きな利点を提供している。 これらの主張を裏付けるために、GHRは幅広い長距離ベンチマークにおいて、既存のグラフモデルよりも一貫して優れており、現在の最先端モデルのパラメータの1%しか使用していないことを示す。 これらの結果は、グラフ基盤モデルを得るための現在のスケーリングアーキテクチャの傾向と相補的な方向を示唆しており、モデル容量の増加だけでは一般化には不十分であることを示している。

関連論文リスト

• Scalable Graph Generative Modeling via Substructure Sequences [50.32639806800683]
  本稿では,グラフ生成用トランスフォーマー事前学習フレームワークである生成グラフパターンマシン(G$2$PM)を紹介する。 G$2$PMはグラフインスタンス(ノード、エッジ、グラフ全体)をサブ構造のシーケンスとして表現する。 それは、一般化可能かつ伝達可能な表現を学ぶために、シーケンスに関する生成的事前学習を採用する。
  論文  参考訳（メタデータ） (2025-05-22T02:16:34Z)
• Higher-order Structure Boosts Link Prediction on Temporal Graphs [33.483289891869426]
  時間グラフニューラルネットワーク(TGNN)は,時間グラフの構造をモデル化し,予測するために注目を集めている。 本稿では,ハイパーグラフ表現を時間グラフ学習に組み込んだ高次構造時間グラフニューラルネットワークを提案する。 HTGNは,従来の手法と比較してメモリコストを最大50%削減しながら,動的リンク予測において優れた性能を発揮することを示す。
  論文  参考訳（メタデータ） (2025-05-21T16:51:44Z)
• Do Graph Diffusion Models Accurately Capture and Generate Substructure Distributions? [28.19526635775658]
  拡散モデルは、複素グラフデータの分布スコアを正確にモデル化する普遍的な表現性を持っていない。 本研究は,対象とするグラフ分布の鍵となる特徴として,特定の部分構造の周波数に着目して,この制限に対処する。 グラフニューラルネットワーク(GNN)の表現性とグラフ拡散モデル全体の性能との理論的関係を確立する。
  論文  参考訳（メタデータ） (2025-02-04T17:04:16Z)
• Revisiting Graph Neural Networks on Graph-level Tasks: Comprehensive Experiments, Analysis, and Improvements [54.006506479865344]
  グラフレベルグラフニューラルネットワーク(GNN)のための統一評価フレームワークを提案する。 このフレームワークは、さまざまなデータセットにわたるGNNを評価するための標準化された設定を提供する。 また,表現性の向上と一般化機能を備えた新しいGNNモデルを提案する。
  論文  参考訳（メタデータ） (2025-01-01T08:48:53Z)
• Graph as a feature: improving node classification with non-neural graph-aware logistic regression [2.952177779219163]
  Graph-aware Logistic Regression (GLR) はノード分類タスク用に設計された非神経モデルである。 GNNにアクセスできる情報のごく一部しか使わない従来のグラフアルゴリズムとは異なり、提案モデルではノードの特徴とエンティティ間の関係を同時に活用する。
  論文  参考訳（メタデータ） (2024-11-19T08:32:14Z)
• Generalization of Graph Neural Networks is Robust to Model Mismatch [84.01980526069075]
  グラフニューラルネットワーク(GNN)は、その一般化能力によってサポートされている様々なタスクにおいて、その効果を実証している。 本稿では,多様体モデルから生成される幾何グラフで動作するGNNについて検討する。 本稿では,そのようなモデルミスマッチの存在下でのGNN一般化の堅牢性を明らかにする。
  論文  参考訳（メタデータ） (2024-08-25T16:00:44Z)
• MGNNI: Multiscale Graph Neural Networks with Implicit Layers [53.75421430520501]
  暗黙グラフニューラルネットワーク(GNN)は、基礎となるグラフの長距離依存性をキャプチャするために提案されている。 暗黙的GNNの2つの弱点は、長距離依存を捉えるための限られた有効範囲による制約付き表現性と、複数の解像度でグラフ上のマルチスケール情報をキャプチャする能力の欠如である。 グラフ上のマルチスケール構造をモデル化できる暗黙の層(MGNNI)を持つマルチスケールグラフニューラルネットワークを提案する。
  論文  参考訳（メタデータ） (2022-10-15T18:18:55Z)
• Comprehensive Graph Gradual Pruning for Sparse Training in Graph Neural Networks [52.566735716983956]
  本稿では,CGPと呼ばれるグラフの段階的プルーニングフレームワークを動的にGNNに提案する。 LTHに基づく手法とは異なり、提案手法では再学習を必要とせず、計算コストを大幅に削減する。 提案手法は,既存の手法の精度を一致させたり,あるいは超えたりしながら,トレーニングと推論の効率を大幅に向上させる。
  論文  参考訳（メタデータ） (2022-07-18T14:23:31Z)
• Graph Generative Model for Benchmarking Graph Neural Networks [73.11514658000547]
  本稿では,プライバシ制御により実世界のグラフの分布を学習し,再現する新しいグラフ生成モデルを提案する。 我々のモデルは、GNNモデルのベンチマークに効果的に使用できる大規模な実世界のグラフの、プライバシ制御された合成代用をうまく生成することができる。
  論文  参考訳（メタデータ） (2022-07-10T06:42:02Z)
• Generalization of graph network inferences in higher-order graphical models [5.33024001730262]
  確率的グラフィカルモデルは、複雑な統計構造を記述する強力なツールを提供する。 辺化のような推論は 一般グラフでは難解です 我々は,多変数相互作用を含むグラフィカルモデル上での高速な近似推定を実現するために,Recurrent Factor Graph Neural Network (RF-GNN) を定義する。
  論文  参考訳（メタデータ） (2021-07-12T20:51:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。