論文の概要: Zero-Shot Size Transfer for Neural ODEs on Sparse Random Graphs: Graphon Limits and Adjoint Convergence
- arxiv url: http://arxiv.org/abs/2606.26662v1
- Date: Thu, 25 Jun 2026 06:53:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-26 18:46:32.187078
- Title: Zero-Shot Size Transfer for Neural ODEs on Sparse Random Graphs: Graphon Limits and Adjoint Convergence
- Title(参考訳): スパースランダムグラフ上のニューラルODEのゼロショットサイズ転送:グラフオン限界と随伴収束
- Abstract要約: グラフオン微分方程式 (Graphon Differential Equations, Graphon-NDEs) と随伴グラフオン-NDEs をフォワードおよび随伴E系の無限極極限とみなす。
また,DTO(disretize-then-Optimize)とOTD(Optimized-then-Discretize)のトレーニングについても検討した。
- 参考スコア(独自算出の注目度): 3.9125686386321195
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Graph Neural Differential Equations (GNDEs) model continuous-time graph dynamics by parameterizing Neural ODE velocity fields with Graph Neural Networks. Their local, size-independent filters suggest a zero-shot size-transfer principle: train on a small graph and deploy on larger, similar graphs without retraining. We develop a quantitative theory for this principle on sparse random graphs sampled from graphons. We consider Graphon Neural Differential Equations (Graphon-NDEs) and adjoint Graphon-NDEs as the infinite-node limits of the forward and adjoint GNDE systems, and establish well-posedness. For an $n$-node random graph with sparsity parameter $α_n$, we prove trajectory-wise convergence of GNDE solutions to Graphon-NDE solutions at rate $O((α_n n)^{-1/2})$, up to logarithmic factors, with high probability. We also establish uniform-in-time convergence bounds for adjoint systems governing hidden-state and parameter gradients. We further study discretize-then-optimize (DTO) and optimize-then-discretize (OTD) training. Under explicit Euler discretization with $M$ steps, we show that DTO and OTD are asymptotically consistent, with hidden-state and local parameter-gradient discrepancies of orders $O(1/M)$ and $O(1/M^2)$, respectively, up to sparsity and logarithmic factors. Experiments on HSBM and tent graphons support the theoretical rates, while zero-shot transfer experiments across four graphon classes demonstrate accurate deployment of learned GNDEs on larger independently sampled graphs.
- Abstract(参考訳): Graph Neural Differential Equations (GNDEs) Model continuous-time graph dynamics by parameterizing Neural ODE velocity field with Graph Neural Networks
ローカルでサイズに依存しないフィルタは、ゼロショットサイズ転送の原則を示唆している。
グラノンからサンプリングされたスパースランダムグラフのこの原理の定量的理論を開発する。
グラフオンニューラル微分方程式 (Graphon Neural Differential Equations, Graphon-NDEs) と随伴グラフオンニューラル微分方程式 (Graphon Neural Differential Equations, Graphon-NDEs) を、GNDE系と随伴GNDE系の無限ノード極限とみなし、正当性を確立する。
空間パラメータ $α_n$ の $n$-ノードランダムグラフに対して、GNDE 解のグラフオン-NDE 解への軌道収束を、高い確率で、対数因子を除いて$O((α_n n)^{-1/2})$ で証明する。
また、隠れ状態およびパラメータ勾配を規定する随伴系に対して、一様時間収束境界を確立する。
さらに,DTO(disretize-then-Optimize)とOTD(Optimized-then-Discretize)トレーニングについて検討した。
M$の明示的なオイラー離散化の下では、DTO と OTD は漸近的に整合性を示し、各次数$O(1/M)$ と$O(1/M^2)$ の隠れ状態および局所パラメータ勾配の離散性を持つ。
HSBMとテントグラノンの実験は理論的な速度を支持し、一方、4つのグラフロンクラスにわたるゼロショット転送実験は、学習したGNDEをより大きな独立したサンプルグラフ上に正確に配置することを示した。
関連論文リスト
- DiPhon: Diffusion on Graphons for Scalable Graph Generation [100.75398811422308]
拡散モデルはグラフ生成の主要なパラダイムであり、分子設計のような領域に顕著な影響を与えている。
有限グラフ上のこれらのダイナミクスを模倣する離散化グラフレベルプロセスであるDiPhonを提案する。
我々は、DiPhonが連続グラノン過程によって引き起こされる限界分布の第一モーメントと正確に一致することを証明し、第二モーメントを閉形式差まで近似する。
論文 参考訳(メタデータ) (2026-07-08T10:15:17Z) - On the Convergence and Size Transferability of Continuous-depth Graph Neural Networks [3.3390650922528184]
連続深度グラフニューラルネットワーク(GNN)は、グラフニューラルネットワーク(GNN)の構造誘導バイアスと、グラフニューラル微分方程式(ODE)の連続深度アーキテクチャを結合する。
無限極極限における時間パラメータを持つNeuralEsの厳密な収束解析を行い、そのサイズ伝達可能性に関する理論的知見を提供する。
論文 参考訳(メタデータ) (2025-10-04T19:59:21Z) - Graph Spring Neural ODEs for Link Sign Prediction [49.71046810937725]
本稿では,春の力によってモデル化されたグラフスプリングネットワーク(GSN)と呼ばれる新しいメッセージパッシング層アーキテクチャを提案する。
提案手法は,大規模グラフ上で最大28,000のノード生成時間高速化係数を持つ最先端手法に近い精度を実現する。
論文 参考訳(メタデータ) (2024-12-17T13:50:20Z) - Neural Snowflakes: Universal Latent Graph Inference via Trainable Latent Geometries [9.438207505148947]
トレーニング可能なディープラーニングアーキテクチャであるニューラルスノーフレークを導入し、$mathbbRd$でフラクタル的なメトリクスを適応的に実装する。
ニューラル・スノーフレーク・モデルは,最先端の潜伏グラフ推論モデルと一致するか,あるいは上回る予測性能を達成できることを示す。
論文 参考訳(メタデータ) (2023-10-23T14:57:26Z) - Supercharging Graph Transformers with Advective Diffusion [28.40109111316014]
本稿では,この課題に対処するために,物理に着想を得たグラフトランスモデルであるAdvDIFFormerを提案する。
本稿では,AdvDIFFormerが位相シフトによる一般化誤差を制御できることを示す。
経験的に、このモデルは情報ネットワーク、分子スクリーニング、タンパク質相互作用の様々な予測タスクにおいて優位性を示す。
論文 参考訳(メタデータ) (2023-10-10T08:40:47Z) - A Fractional Graph Laplacian Approach to Oversmoothing [15.795926248847026]
非直交グラフから有向グラフへのオーバースムーシングの概念を一般化する。
非局所力学を記述した分数グラフ Laplacian Neural ODE を提案する。
グラフのディリクレエネルギーの収束に関して、我々の方法はより柔軟である。
論文 参考訳(メタデータ) (2023-05-22T14:52:33Z) - Gradient scarcity with Bilevel Optimization for Graph Learning [0.0]
勾配不足は、ノードのサブセットの損失を最小限にすることでグラフを学習する際に発生する。
我々は、この現象の正確な数学的特徴を与え、双レベル最適化にも現れることを証明した。
この問題を緩和するために,グラフ・ツー・グラフモデル(G2G)を用いた潜時グラフ学習,グラフに先行構造を課すグラフ正規化,あるいは直径を縮小した元のグラフよりも大きなグラフを最適化することを提案する。
論文 参考訳(メタデータ) (2023-03-24T12:37:43Z) - Score-based Generative Modeling of Graphs via the System of Stochastic
Differential Equations [57.15855198512551]
本稿では,連続時間フレームワークを用いたグラフのスコアベース生成モデルを提案する。
本手法は, トレーニング分布に近い分子を生成できるが, 化学価数則に違反しないことを示す。
論文 参考訳(メタデータ) (2022-02-05T08:21:04Z) - Learning Graphon Autoencoders for Generative Graph Modeling [91.32624399902755]
Graphonは任意のサイズでグラフを生成する非パラメトリックモデルであり、グラフから簡単に誘導できる。
解析可能でスケーラブルなグラフ生成モデルを構築するために,textitgraphon autoencoder という新しいフレームワークを提案する。
線形グルーポン分解モデルはデコーダとして機能し、潜在表現を活用して誘導されたグルーポンを再構成する。
論文 参考訳(メタデータ) (2021-05-29T08:11:40Z) - Dirichlet Graph Variational Autoencoder [65.94744123832338]
本稿では,グラフクラスタメンバシップを潜在因子とするDGVAE(Dirichlet Graph Variational Autoencoder)を提案する。
バランスグラフカットにおける低パス特性により、入力グラフをクラスタメンバシップにエンコードする、Heattsと呼ばれるGNNの新しい変種を提案する。
論文 参考訳(メタデータ) (2020-10-09T07:35:26Z) - Block-Approximated Exponential Random Graphs [77.4792558024487]
指数乱グラフ(ERG)の分野における重要な課題は、大きなグラフ上の非自明なERGの適合である。
本稿では,非自明なERGに対する近似フレームワークを提案する。
我々の手法は、数百万のノードからなるスパースグラフにスケーラブルである。
論文 参考訳(メタデータ) (2020-02-14T11:42:16Z) - The Power of Graph Convolutional Networks to Distinguish Random Graph
Models: Short Version [27.544219236164764]
グラフ畳み込みネットワーク(GCN)はグラフ表現学習において広く使われている手法である。
サンプルグラフの埋め込みに基づいて異なるランダムグラフモデルを区別するGCNのパワーについて検討する。
論文 参考訳(メタデータ) (2020-02-13T17:58:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。