論文の概要: Coupling Graph Neural Networks with Fractional Order Continuous
Dynamics: A Robustness Study
- arxiv url: http://arxiv.org/abs/2401.04331v2
- Date: Mon, 4 Mar 2024 05:57:06 GMT
- ステータス: 処理完了
- システム内更新日: 2024-03-07 00:59:11.603077
- Title: Coupling Graph Neural Networks with Fractional Order Continuous
Dynamics: A Robustness Study
- Title（参考訳）: フラクショナル次連続ダイナミクスを用いたグラフニューラルネットワークの結合:ロバストネススタディ
- Authors: Qiyu Kang, Kai Zhao, Yang Song, Yihang Xie, Yanan Zhao, Sijie Wang,
Rui She, and Wee Peng Tay
- Abstract要約: グラフニューラル分数次微分方程式(FDE)モデルのロバスト性について厳密に検討する。
このフレームワークは、時間差分カプトー微分を実装することで、従来のグラフニューラル(整数階)常微分方程式(ODE)モデルを超えて拡張する。
- 参考スコア（独自算出の注目度）: 24.950680319986486
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this work, we rigorously investigate the robustness of graph neural
fractional-order differential equation (FDE) models. This framework extends
beyond traditional graph neural (integer-order) ordinary differential equation
(ODE) models by implementing the time-fractional Caputo derivative. Utilizing
fractional calculus allows our model to consider long-term memory during the
feature updating process, diverging from the memoryless Markovian updates seen
in traditional graph neural ODE models. The superiority of graph neural FDE
models over graph neural ODE models has been established in environments free
from attacks or perturbations. While traditional graph neural ODE models have
been verified to possess a degree of stability and resilience in the presence
of adversarial attacks in existing literature, the robustness of graph neural
FDE models, especially under adversarial conditions, remains largely
unexplored. This paper undertakes a detailed assessment of the robustness of
graph neural FDE models. We establish a theoretical foundation outlining the
robustness characteristics of graph neural FDE models, highlighting that they
maintain more stringent output perturbation bounds in the face of input and
graph topology disturbances, compared to their integer-order counterparts. Our
empirical evaluations further confirm the enhanced robustness of graph neural
FDE models, highlighting their potential in adversarially robust applications.
- Abstract（参考訳）: 本研究では,グラフニューラル分数次微分方程式(FDE)モデルのロバスト性について精査する。
このフレームワークは、時間差分カプトー微分を実装することで、従来のグラフニューラル(整数階)常微分方程式(ODE)モデルを超えて拡張する。
分数計算を利用することで、従来のグラフニューラルネットワークodeモデルに見られるメモリレスマルコフ更新から逸脱して、機能更新プロセス中に長期記憶を考慮できる。
グラフニューラルODEモデルよりもグラフニューラルFDEモデルの優位性は、攻撃や摂動のない環境で確立されている。
従来のグラフニューラルODEモデルは、既存の文献における敵攻撃の存在下での安定性とレジリエンスの程度が証明されているが、グラフニューラルFDEモデルの堅牢性は、特に敵対的条件下では、ほとんど解明されていない。
本稿では,グラフニューラルFDEモデルの堅牢性を詳細に評価する。
我々は,グラフニューラルFDEモデルの頑健性特性を概説する理論基盤を確立し,入力やグラフトポロジの乱れに対して,より厳密な出力摂動境界を維持することを強調した。
実験結果より,グラフニューラルネットワークfdeモデルのロバスト性がさらに向上し,対向ロバストなアプリケーションにおけるその可能性を強調した。
関連論文リスト
- CGNSDE: Conditional Gaussian Neural Stochastic Differential Equation for Modeling Complex Systems and Data Assimilation [1.4322470793889193]
条件付きニューラル微分方程式(CGNSDE)と呼ばれる新しい知識ベースおよび機械学習ハイブリッドモデリング手法を開発した。
標準的なニューラルネットワーク予測モデルとは対照的に、CGNSDEは前方予測タスクと逆状態推定問題の両方に効果的に取り組むように設計されている。
論文 参考訳（メタデータ） (2024-04-10T05:32:03Z) - GNRK: Graph Neural Runge-Kutta method for solving partial differential
equations [0.0]
本研究はグラフニューラルランゲ・クッタ(GNRK)と呼ばれる新しいアプローチを紹介する。
GNRKはグラフニューラルネットワークモジュールを古典的解法にインスパイアされた再帰構造に統合する。
これは、初期条件やPDE係数に関係なく、一般的なPDEに対処する能力を示す。
論文 参考訳（メタデータ） (2023-10-01T08:52:46Z) - Graph Neural Stochastic Differential Equations [3.568455515949288]
グラフニューラル微分方程式(Graph Neural Differential Equations: Graph Neural SDEs)を提案する。
この手法は、ブラウン運動を用いたデータ表現にランダム性を埋め込むことにより、グラフニューラル正規微分方程式(Graph Neural Ordinary Differential Equations, Graph Neural ODEs)を強化する。
我々は、グラフ畳み込みネットワークやグラフニューラルODEといった従来のモデル、特に信頼性予測において、潜在グラフニューラルSDEが超越していることを発見した。
論文 参考訳（メタデータ） (2023-08-23T09:20:38Z) - Dynamic Causal Explanation Based Diffusion-Variational Graph Neural
Network for Spatio-temporal Forecasting [60.03169701753824]
時間予測のための動的拡散型グラフニューラルネットワーク(DVGNN)を提案する。
提案したDVGNNモデルは最先端のアプローチよりも優れ,Root Mean Squared Errorの結果が優れている。
論文 参考訳（メタデータ） (2023-05-16T11:38:19Z) - On the Robustness of Graph Neural Diffusion to Topology Perturbations [30.284359808863588]
グラフニューラルPDEは,他のGNNと比較して本質的にトポロジ的摂動に対して頑健であることを示す。
本稿では,新しい堅牢なGNNを定義可能なグラフニューラルPDEフレームワークを提案する。
論文 参考訳（メタデータ） (2022-09-16T07:19:35Z) - EINNs: Epidemiologically-Informed Neural Networks [75.34199997857341]
本稿では,疫病予測のための新しい物理インフォームドニューラルネットワークEINNを紹介する。
メカニスティックモデルによって提供される理論的柔軟性と、AIモデルによって提供されるデータ駆動表現性の両方を活用する方法について検討する。
論文 参考訳（メタデータ） (2022-02-21T18:59:03Z) - Score-based Generative Modeling of Graphs via the System of Stochastic
Differential Equations [57.15855198512551]
本稿では,連続時間フレームワークを用いたグラフのスコアベース生成モデルを提案する。
本手法は, トレーニング分布に近い分子を生成できるが, 化学価数則に違反しないことを示す。
論文 参考訳（メタデータ） (2022-02-05T08:21:04Z) - Closed-form Continuous-Depth Models [99.40335716948101]
連続深度ニューラルモデルは高度な数値微分方程式解法に依存している。
我々は,CfCネットワークと呼ばれる,記述が簡単で,少なくとも1桁高速な新しいモデル群を提示する。
論文 参考訳（メタデータ） (2021-06-25T22:08:51Z) - Sparse Flows: Pruning Continuous-depth Models [107.98191032466544]
生成モデルにおいて,プルーニングによりニューラルネットワークの一般化が向上することを示す。
また、プルーニングは、元のネットワークに比べて最大98%少ないパラメータで、精度を損なうことなく、最小かつ効率的なニューラルODE表現を見出すことを示した。
論文 参考訳（メタデータ） (2021-06-24T01:40:17Z) - Stochasticity in Neural ODEs: An Empirical Study [68.8204255655161]
ニューラルネットワークの正規化(ドロップアウトなど)は、より高度な一般化を可能にするディープラーニングの広範な技術である。
トレーニング中のデータ拡張は、同じモデルの決定論的およびバージョンの両方のパフォーマンスを向上させることを示す。
しかし、データ拡張によって得られる改善により、経験的正規化の利得は完全に排除され、ニューラルODEとニューラルSDEの性能は無視される。
論文 参考訳（メタデータ） (2020-02-22T22:12:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。