論文の概要: NodeJEPA: Structure-Conditioned Latent Prediction for Node-Level Graph Self-Supervised Learning

• arxiv url: http://arxiv.org/abs/2608.04381v1
• Date: Wed, 05 Aug 2026 02:39:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-06 14:48:43.693856
• Title: NodeJEPA: Structure-Conditioned Latent Prediction for Node-Level Graph Self-Supervised Learning
• Title（参考訳）: NodeJEPA: ノードレベルグラフによる自己教師付き学習のための構造制約付き潜時予測
• Authors: Tinghe Zhang, Jian Xu, Jiaheng Chen, Jiaxing Li, Yucheng Xiao, Qiang Wang,
• Abstract要約: 統合埋め込み予測アーキテクチャ(JEPA)は、入力を再構築するのではなく、潜在目標を予測することによって学習する。 ノードレベルのグラフ自己教師型学習のための,共同埋め込み型予測アーキテクチャNodeJEPAを提案する。 本研究では,グラフ上のノードレベルのJEPA型潜伏予測の実践的レシピを提供し,構造条件付けが表現学習に役立つかを明らかにする。
• 参考スコア（独自算出の注目度）: 15.001623833965757
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Self-supervised learning on graphs is largely shaped by contrastive methods that depend on carefully designed augmentations, and by generative methods that reconstruct node attributes in the input space. Both paradigms can entangle representations with low-level input statistics rather than with relational structure. Joint-embedding predictive architectures (JEPA) instead learn by predicting latent targets rather than reconstructing inputs. Recent work has explored this idea for graph-level representation learning, but how to design JEPA-style objectives for node-level tasks, and which structural signals the predictor should condition on, remains less clear. We present NodeJEPA, a joint-embedding predictive architecture for node-level graph self-supervised learning. NodeJEPA masks structure-aware k-hop ego-subgraphs and trains a context encoder to predict the latent representations of the masked nodes. These targets come from an EMA-updated target encoder with stop-gradient. A structure-conditioned predictor integrates spectral and centrality descriptors through cross-attention. Variance, covariance, and Laplacian spectral regularizers help stabilize the embedding geometry, and an optional curriculum gradually increases masking difficulty during training. Because prediction occurs in latent space, NodeJEPA does not rely on input reconstruction or hand-crafted graph augmentations. We evaluate NodeJEPA on standard node classification benchmarks under linear probing and fine-tuning protocols, and conduct ablations on masking, prediction, and regularization design choices. Our study offers a practical recipe for node-level JEPA-style latent prediction on graphs, and clarifies when structural conditioning helps representation learning. Code, configurations, and evaluation scripts are publicly available at https://github.com/OliverZ-dot/Node-Jepa.
• Abstract（参考訳）: グラフ上の自己教師付き学習は、慎重に設計された拡張に依存する対照的な手法と、入力空間のノード属性を再構成する生成方法によって主に形作られる。 どちらのパラダイムも、リレーショナル構造よりも低レベルな入力統計量で表現を絡めることができる。 JEPA(Joint-embedding predictive Architecture)は、入力を再構築するのではなく、潜在目標を予測することで学習する。 最近の研究は、グラフレベルの表現学習のアイデアを探求しているが、ノードレベルのタスクに対してJEPAスタイルの目的をどのように設計するか、予測器が指定すべき構造信号は、まだ明らかになっていない。 ノードレベルのグラフ自己教師型学習のための,共同埋め込み型予測アーキテクチャNodeJEPAを提案する。 NodeJEPAは構造を意識したk-hop ego-subgraphをマスクし、コンテキストエンコーダをトレーニングして、マスクされたノードの潜在表現を予測する。 これらのターゲットは、停止段階のEMA更新ターゲットエンコーダから来ている。 構造条件付き予測器は、クロスアテンションを通してスペクトルと中央性記述器を統合する。 可変性、共分散性、ラプラシアンスペクトル正規化器は埋め込み幾何学の安定化に役立ち、任意のカリキュラムはトレーニング中のマスクの難しさを徐々に増大させる。 予測は潜時空間で発生するため、NodeJEPAは入力の再構成や手作りのグラフ拡張に依存しない。 線形探索および微調整プロトコルに基づく標準ノード分類ベンチマークでNodeJEPAを評価し,マスキング,予測,正規化設計の選択に関する改善を行う。 本研究では,グラフ上のノードレベルのJEPA型潜伏予測の実践的レシピを提供し,構造条件付けが表現学習に役立つかを明らかにする。 コード、設定、評価スクリプトはhttps://github.com/OliverZ-dot/Node-Jepa.comで公開されている。

関連論文リスト

• Semi-supervised Instruction Tuning for Large Language Models on Text-Attributed Graphs [62.544129365882014]
  本稿では,SIT-Graph というグラフ学習用セミ教師付きインストラクションチューニングパイプラインを提案する。 SIT-Graphはモデルに依存しず、LSMを予測子として利用するグラフ命令チューニングメソッドにシームレスに統合することができる。 SIT-Graphは、最先端グラフチューニング手法に組み込むと、テキスト分散グラフベンチマークの性能を大幅に向上することを示した。
  論文  参考訳（メタデータ） (2026-01-19T08:10:53Z)
• Predict, Cluster, Refine: A Joint Embedding Predictive Self-Supervised Framework for Graph Representation Learning [0.0]
  グラフ表現学習は、ノード分類やリンク予測といったタスクの基盤として登場した。 現在の自己教師付き学習(SSL)手法は、計算の非効率性、対照的な目的への依存、表現の崩壊といった課題に直面している。 本稿では,意味情報と構造情報を保存しながら,対照的な目的と負のサンプリングを排除したグラフSSLのための新しい結合埋め込み予測フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-02-02T07:42:45Z)
• Graph Spring Neural ODEs for Link Sign Prediction [49.71046810937725]
  本稿では,春の力によってモデル化されたグラフスプリングネットワーク(GSN)と呼ばれる新しいメッセージパッシング層アーキテクチャを提案する。 提案手法は,大規模グラフ上で最大28,000のノード生成時間高速化係数を持つ最先端手法に近い精度を実現する。
  論文  参考訳（メタデータ） (2024-12-17T13:50:20Z)
• Deep Manifold Graph Auto-Encoder for Attributed Graph Embedding [51.75091298017941]
  本稿では,属性付きグラフデータに対する新しいDeep Manifold (Variational) Graph Auto-Encoder (DMVGAE/DMGAE)を提案する。 提案手法は,最先端のベースラインアルゴリズムを,一般的なデータセット間でのダウンストリームタスクの差を大きく越える。
  論文  参考訳（メタデータ） (2024-01-12T17:57:07Z)
• Graph-level Representation Learning with Joint-Embedding Predictive Architectures [43.89120279424267]
  JEPA(Joint-Embedding Predictive Architectures)は、自己指導型表現学習の斬新で強力な技術である。 グラフ結合埋め込み予測アーキテクチャ(Graph-JEPA)を提案することにより、このパラダイムを用いてグラフレベルの表現を効果的にモデル化できることを示す。 特に、マスク付きモデリングを採用し、コンテキストサブグラフの潜時表現から始まるマスク付きサブグラフの潜時表現を予測することに焦点をあてる。
  論文  参考訳（メタデータ） (2023-09-27T20:42:02Z)
• Transductive Linear Probing: A Novel Framework for Few-Shot Node Classification [56.17097897754628]
  自己教師付きグラフと対照的な事前学習による帰納的線形探索は、同じプロトコル下での最先端の完全教師付きメタラーニング手法より優れていることを示す。 この研究が、数ショットのノード分類問題に新たな光を当て、グラフ上のわずかにラベル付けされたインスタンスから学ぶことの今後の研究を促進することを願っている。
  論文  参考訳（メタデータ） (2022-12-11T21:10:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。