論文の概要: Are Common Substructures Transferable? Riemannian Graph Foundation Model with Neural Vector Bundles
- arxiv url: http://arxiv.org/abs/2606.03270v1
- Date: Tue, 02 Jun 2026 07:35:42 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-03 22:00:04.841116
- Title: Are Common Substructures Transferable? Riemannian Graph Foundation Model with Neural Vector Bundles
- Title(参考訳): 共通部分構造は転移可能か? ニューラルベクトル束を持つリーマングラフ基礎モデル
- Authors: Li Sun, Zhenhao Huang, Yiding Wang, Qin Chen, Pietro Lio, Philip S. Yu,
- Abstract要約: 我々はニューラルベクトルバンドルと呼ばれるグラフ固有の幾何学学習フレームワークを開発した。
GAUGEは,ベクトルバンドルを構築し,幾何学的に整合した局所座標を平坦化する,事前学習可能なニューラルネットワークアーキテクチャである。
ゼロショットリンク予測やグラフ同型を含む課題タスクにおいて,その優れた表現性を実証的に検証する。
- 参考スコア(独自算出の注目度): 53.65187206795911
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Foundation models have sparked a revolution via a pretraining-adaptation paradigm, with recent efforts extending this success to graphs. Unlike other modalities, graphs contain rich structural patterns, yet their structural transferability remains poorly understood. Prior studies consider common substructures in the discrete realm, and we are motivated by a fundamental question: Are common substructures transferable? The underlying theory is largely underexplored. In this work, we shift toward learning transferable structures through the lens of functional behavior. Theoretically, we connect transferable substructures to intrinsic geometry of the representation space. However, characterizing such intrinsic geometry has rarely been touched. Grounded in Riemannian geometry, we develop a graph intrinsic geometry learning framework called Neural Vector Bundle, which enables parsing intrinsic geometry with local coordinates. Building on this, we design GAUGE, a pretrainable neural architecture that constructs the vector bundle, flattening geometrically compatible local coordinates, and a new Dirichlet loss, which also measures the transfer effort. We empirically validate its superior expressiveness in challenging tasks including zero-shot link prediction and graph isomorphism.
- Abstract(参考訳): ファウンデーションモデルは、事前学習適応パラダイムを通じて革命を引き起こし、最近の試みでは、この成功をグラフに拡張している。
他のモダリティとは異なり、グラフは豊富な構造パターンを含むが、それらの構造移動性は未だ理解されていない。
先行研究は離散領域における共通部分構造を考察しており、我々は基本的な疑問によって動機づけられている: 共通部分構造は転移可能か?
根底にある理論は、ほとんど解明されていない。
本研究では,機能的行動のレンズを通して伝達可能な構造を学習する。
理論的には、変換可能な部分構造を表現空間の内在幾何学に接続する。
しかし、そのような本質的な幾何学を特徴付けることはめったにない。
リーマン幾何学に基づくグラフ固有幾何学学習フレームワークNeural Vector Bundleを開発した。
そこで我々はGAUGEを設計し,ベクターバンドルの構築,幾何学的に互換性のある局所座標のフラット化,そして転送の労力を計測する新しいディリクレロスを設計した。
ゼロショットリンク予測やグラフ同型を含む課題タスクにおいて,その優れた表現性を実証的に検証する。
関連論文リスト
- Riemannian Geometry Speaks Louder Than Words: From Graph Foundation Model to Next-Generation Graph Intelligence [51.30336200738606]
グラフ基礎モデル(GFM)がグラフ学習に不可欠であるという強い合意がある。
LLM(Large Language Models)に類似した強力で汎用的なGFMを構築する方法については、かなりの意見の相違が続いている。
論文 参考訳(メタデータ) (2026-03-23T05:49:19Z) - Multi-Domain Riemannian Graph Gluing for Building Graph Foundation Models [43.64910777659052]
マルチドメイングラフ事前学習は、様々なドメインからの知識を統合し、ターゲットドメインのパフォーマンスを向上させる。
既存のソリューションは、ドメイン間の知識の統合や伝達の方法という、基本的な質問に答えるには足りません。
本稿では,EMAプロトタイピングによるバッチ事前学習をサポートするGraphGlueフレームワークについて述べる。
論文 参考訳(メタデータ) (2026-02-28T12:22:19Z) - Learning the Structure of Connection Graphs [13.687470962704744]
接続グラフ(CG)は、ネットワークトポロジーと変換を結合することで従来のグラフモデルを拡張し、グローバルな幾何学的一貫性の表現を可能にする。
本稿では,ラプラシアン接続と基礎となるラプラシアンをリンクするスペクトル特性を強制する,一貫した仮定の下での最大擬似構造に基づく原理的枠組みを提案する。
本稿では,ネットワークトポロジ,エッジウェイト,幾何学的構造を共同推論するブロック最適化手法であるStructured Connection Graph Learning (SCGL)アルゴリズムを紹介する。
論文 参考訳(メタデータ) (2025-10-13T10:33:31Z) - Adaptive Riemannian Graph Neural Networks [29.859977834688625]
グラフ上の連続および異方性計量テンソル場を学習する新しいフレームワークを導入する。
これにより各ノードがその最適な局所幾何学を決定でき、モデルがグラフの構造的景観に流動的に適応できる。
本手法は, ヘテロ親和性ベンチマークとホモ親和性ベンチマークの双方において, 優れた性能を示す。
論文 参考訳(メタデータ) (2025-08-04T16:55:02Z) - Why Neural Network Can Discover Symbolic Structures with Gradient-based Training: An Algebraic and Geometric Foundation for Neurosymbolic Reasoning [73.18052192964349]
我々は、連続的なニューラルネットワークトレーニングのダイナミックスから、離散的なシンボル構造が自然に現れるかを説明する理論的枠組みを開発する。
ニューラルパラメータを測度空間に上げ、ワッサーシュタイン勾配流としてモデル化することにより、幾何的制約の下では、パラメータ測度 $mu_t$ が2つの同時現象となることを示す。
論文 参考訳(メタデータ) (2025-06-26T22:40:30Z) - RiemannGFM: Learning a Graph Foundation Model from Riemannian Geometry [19.299795173943476]
グラフニューラルネットワークは、非ユークリッド構造であるグラフデータの学習に優れるが、一般化能力に欠けることが多い。
近年,大規模言語モデルの活用が試みられている。
鍵となる革新は、木やサイクルの単純で効果的な構造語彙の発見である。
論文 参考訳(メタデータ) (2025-02-05T15:06:09Z) - Curve Your Attention: Mixed-Curvature Transformers for Graph
Representation Learning [77.1421343649344]
本稿では,一定曲率空間の積を完全に操作するトランスフォーマーの一般化を提案する。
また、非ユークリッド注意に対するカーネル化されたアプローチを提供し、ノード数とエッジ数に線形に時間とメモリコストでモデルを実行できるようにします。
論文 参考訳(メタデータ) (2023-09-08T02:44:37Z) - Geometrically Principled Connections in Graph Neural Networks [66.51286736506658]
我々は、幾何学的深層学習の新興分野におけるイノベーションの原動力は、幾何が依然として主要な推進力であるべきだと論じている。
グラフニューラルネットワークとコンピュータグラフィックスとデータ近似モデルとの関係:放射基底関数(RBF)
完全連結層とグラフ畳み込み演算子を組み合わせた新しいビルディングブロックであるアフィンスキップ接続を導入する。
論文 参考訳(メタデータ) (2020-04-06T13:25:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。