論文の概要: Reducing Smoothness with Expressive Memory Enhanced Hierarchical Graph Neural Networks

• arxiv url: http://arxiv.org/abs/2504.00349v1
• Date: Tue, 01 Apr 2025 02:03:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-04-03 13:20:29.411662
• Title: Reducing Smoothness with Expressive Memory Enhanced Hierarchical Graph Neural Networks
• Title（参考訳）: 表現型メモリ強化階層型グラフニューラルネットワークによる滑らかさの低減
• Authors: Thomas Bailie, Yun Sing Koh, S. Karthik Mukkavilli, Varvara Vetrova,
• Abstract要約: 階層的変種は、複数の解像度にわたる時系列を分析することで、明確な利点をもたらす。 階層モデルにおける重要な課題は、フォワードまたは後方通過中の情報損失である。 本稿では、動的サイズのメモリバッファ変数を導入し、以前に見た情報を格納する階層グラフフローネットワークを提案する。
• 参考スコア（独自算出の注目度）: 3.187381965457262
• License:
• Abstract: Graphical forecasting models learn the structure of time series data via projecting onto a graph, with recent techniques capturing spatial-temporal associations between variables via edge weights. Hierarchical variants offer a distinct advantage by analysing the time series across multiple resolutions, making them particularly effective in tasks like global weather forecasting, where low-resolution variable interactions are significant. A critical challenge in hierarchical models is information loss during forward or backward passes through the hierarchy. We propose the Hierarchical Graph Flow (HiGFlow) network, which introduces a memory buffer variable of dynamic size to store previously seen information across variable resolutions. We theoretically show two key results: HiGFlow reduces smoothness when mapping onto new feature spaces in the hierarchy and non-strictly enhances the utility of message-passing by improving Weisfeiler-Lehman (WL) expressivity. Empirical results demonstrate that HiGFlow outperforms state-of-the-art baselines, including transformer models, by at least an average of 6.1% in MAE and 6.2% in RMSE. Code is available at https://github.com/TB862/ HiGFlow.git.
• Abstract（参考訳）: グラフ予測モデルは,グラフ上に投影することで時系列データの構造を学習する。 階層的変種は、複数の解像度にわたる時系列を分析し、低解像度の変動相互作用が重要である大域的な天気予報のようなタスクに特に有効である、という明確な利点を提供する。 階層モデルにおける重要な課題は、フォワードまたは後方通過中の情報損失である。 本稿では,動的サイズのメモリバッファ変数を導入した階層グラフフロー(HiGFlow)ネットワークを提案する。 Wesfeiler-Lehman (WL) の表現性を改善することにより、階層内の新しい特徴空間へのマッピング時の滑らかさを低減し、非制限的にメッセージパッシングの有用性を向上する。 実証実験の結果、HiGFlowはトランスフォーマーモデルを含む最先端のベースラインを少なくともMAEは6.1%、RMSEは6.2%上回った。 コードはhttps://github.com/TB862/ HiGFlow.git.comで入手できる。

関連論文リスト

• DA-MoE: Addressing Depth-Sensitivity in Graph-Level Analysis through Mixture of Experts [70.21017141742763]
  グラフニューラルネットワーク(GNN)は、グラフ構造化データを処理することで人気を集めている。 既存のメソッドは通常、固定数のGNNレイヤを使用して、すべてのグラフの表現を生成する。 本稿では,GNNに2つの改良を加えたDA-MoE法を提案する。
  論文  参考訳（メタデータ） (2024-11-05T11:46:27Z)
• A Pure Transformer Pretraining Framework on Text-attributed Graphs [50.833130854272774]
  グラフ構造を先行として扱うことで,特徴中心の事前学習の視点を導入する。 我々のフレームワークであるGraph Sequence Pretraining with Transformer (GSPT)はランダムウォークを通してノードコンテキストをサンプリングする。 GSPTはノード分類とリンク予測の両方に容易に適応でき、様々なデータセットで有望な経験的成功を示す。
  論文  参考訳（メタデータ） (2024-06-19T22:30:08Z)
• EGRC-Net: Embedding-induced Graph Refinement Clustering Network [66.44293190793294]
  埋め込みによるグラフリファインメントクラスタリングネットワーク (EGRC-Net) という新しいグラフクラスタリングネットワークを提案する。 EGRC-Netは学習した埋め込みを利用して初期グラフを適応的に洗練し、クラスタリング性能を向上させる。 提案手法はいくつかの最先端手法より一貫して優れている。
  論文  参考訳（メタデータ） (2022-11-19T09:08:43Z)
• Dynamic Graph Message Passing Networks for Visual Recognition [112.49513303433606]
  長距離依存のモデリングは、コンピュータビジョンにおけるシーン理解タスクに不可欠である。 完全連結グラフはそのようなモデリングには有益であるが、計算オーバーヘッドは禁じられている。 本稿では,計算複雑性を大幅に低減する動的グラフメッセージパッシングネットワークを提案する。
  論文  参考訳（メタデータ） (2022-09-20T14:41:37Z)
• Multi-Level Attention Pooling for Graph Neural Networks: Unifying Graph Representations with Multiple Localities [4.142375560633827]
  グラフニューラルネットワーク(GNN)は、グラフ構造データのベクトル表現を学ぶために広く使用されている。 潜在的な原因は、深いGNNモデルは、多くのメッセージ通過ステップを通じてノードのローカル情報を失う傾向にある。 このいわゆる過度な問題を解くために,マルチレベルアテンションプールアーキテクチャを提案する。
  論文  参考訳（メタデータ） (2021-03-02T05:58:12Z)
• Robust Optimization as Data Augmentation for Large-scale Graphs [117.2376815614148]
  学習中に勾配に基づく逆方向摂動を伴うノード特徴を反復的に拡張するFLAG(Free Large-scale Adversarial Augmentation on Graphs)を提案する。 FLAGはグラフデータに対する汎用的なアプローチであり、ノード分類、リンク予測、グラフ分類タスクで普遍的に機能する。
  論文  参考訳（メタデータ） (2020-10-19T21:51:47Z)
• Multivariate Time Series Classification with Hierarchical Variational Graph Pooling [23.66868187446734]
  既存のディープラーニングに基づくMTSC技術は、主に単一時系列の時間依存性に関係している。 MTSの表現的グローバル表現を得るために,グラフプーリングに基づく新しいフレームワークMTPoolを提案する。 10のベンチマークデータセットの実験では、MTSCタスクでMTPoolが最先端の戦略を上回っている。
  論文  参考訳（メタデータ） (2020-10-12T12:36:47Z)
• Adaptive Context-Aware Multi-Modal Network for Depth Completion [107.15344488719322]
  我々は,観測された空間コンテキストを捉えるために,グラフ伝搬を採用することを提案する。 次に、注意機構を伝搬に適用し、ネットワークが文脈情報を適応的にモデル化することを奨励する。 最後に、抽出したマルチモーダル特徴を効果的に活用するための対称ゲート融合戦略を導入する。 本稿では,Adaptive Context-Aware Multi-Modal Network (ACMNet) を2つのベンチマークで評価した。
  論文  参考訳（メタデータ） (2020-08-25T06:00:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。