論文の概要: Sub-Graph Learning for Spatiotemporal Forecasting via Knowledge
Distillation
- arxiv url: http://arxiv.org/abs/2211.09740v1
- Date: Thu, 17 Nov 2022 18:02:55 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-18 16:54:06.911042
- Title: Sub-Graph Learning for Spatiotemporal Forecasting via Knowledge
Distillation
- Title(参考訳): 知識蒸留による時空間予測のためのサブグラフ学習
- Authors: Mehrtash Mehrabi and Yingxue Zhang
- Abstract要約: サブグラフを効果的に学習するためのフレームワークKD-SGLを提案する。
グラフの全体構造と各サブグラフの複数の局所モデルを学ぶために,グローバルモデルを定義する。
- 参考スコア(独自算出の注目度): 22.434970343698676
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: One of the challenges in studying the interactions in large graphs is to
learn their diverse pattern and various interaction types. Hence, considering
only one distribution and model to study all nodes and ignoring their diversity
and local features in their neighborhoods, might severely affect the overall
performance. Based on the structural information of the nodes in the graph and
the interactions between them, the main graph can be divided into multiple
sub-graphs. This graph partitioning can tremendously affect the learning
process, however the overall performance is highly dependent on the clustering
method to avoid misleading the model. In this work, we present a new framework
called KD-SGL to effectively learn the sub-graphs, where we define one global
model to learn the overall structure of the graph and multiple local models for
each sub-graph. We assess the performance of the proposed framework and
evaluate it on public datasets. Based on the achieved results, it can improve
the performance of the state-of-the-arts spatiotemporal models with comparable
results compared to ensemble of models with less complexity.
- Abstract(参考訳): 大きなグラフにおける相互作用を研究する際の課題の1つは、その多様なパターンと様々な相互作用タイプを学ぶことである。
したがって、すべてのノードを研究するための1つの分布とモデルと、近隣の多様性と局所的な特徴を無視して、全体的なパフォーマンスに重大な影響を与える可能性がある。
グラフ内のノードの構造情報とそれらの相互作用に基づいて、メイングラフを複数のサブグラフに分割することができる。
このグラフ分割は学習プロセスに大きな影響を及ぼすが、全体的な性能はクラスタリング法に大きく依存し、モデルの誤解を招くのを避けることができる。
そこで我々は,グラフの全体構造と各サブグラフに対する複数の局所モデルを学習するために,ひとつのグローバルモデルを定義する。
提案するフレームワークの性能を評価し,公開データセット上で評価する。
得られた結果に基づいて、複雑さの少ないモデルのアンサンブルと比較して、最先端の時空間モデルの性能を比較できる。
関連論文リスト
- Multi-View Stochastic Block Models [34.55723218769512]
我々は、この設定をキャプチャするtextitmulti-viewブロックモデルと呼ばれる、新しいモデルのファミリーを形式化する。
本モデルでは,まず,複数のグラフの和合体をネーティブに扱う効率的なアルゴリズムについて検討する。
そこで本研究では,各グラフの構造を別々に解析することで,従来の手法を確実に上回るアルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-06-07T11:45:31Z) - GraphGLOW: Universal and Generalizable Structure Learning for Graph
Neural Networks [72.01829954658889]
本稿では,この新たな問題設定の数学的定義を紹介する。
一つのグラフ共有構造学習者と複数のグラフ固有GNNを協調する一般的なフレームワークを考案する。
十分に訓練された構造学習者は、微調整なしで、目に見えない対象グラフの適応的な構造を直接生成することができる。
論文 参考訳(メタデータ) (2023-06-20T03:33:22Z) - Globally Interpretable Graph Learning via Distribution Matching [12.885580925389352]
我々は、まだ十分に研究されていない重要な質問に答えることを目指している。グラフ学習手順のグローバルな解釈を提供するには、どうすればよいのか?
我々は,この問題を,学習過程を支配する高レベルかつ人間の知能なパターンを蒸留することを目的とした,グローバルな解釈可能なグラフ学習として定式化する。
本稿では,解釈に基づいて学習したモデルの忠実度を評価するために,新しいモデル忠実度尺度を提案する。
論文 参考訳(メタデータ) (2023-06-18T00:50:36Z) - Learning Strong Graph Neural Networks with Weak Information [64.64996100343602]
我々は、弱い情報(GLWI)を用いたグラフ学習問題に対する原則的アプローチを開発する。
非完全構造を持つ入力グラフ上で長距離情報伝搬を行うデュアルチャネルGNNフレームワークであるD$2$PTを提案するが、グローバルな意味的類似性を符号化するグローバルグラフも提案する。
論文 参考訳(メタデータ) (2023-05-29T04:51:09Z) - Effective and Efficient Graph Learning for Multi-view Clustering [173.8313827799077]
マルチビュークラスタリングのための効率的かつ効率的なグラフ学習モデルを提案する。
本手法はテンソルシャッテンp-ノルムの最小化により異なるビューのグラフ間のビュー類似性を利用する。
提案アルゴリズムは時間経済であり,安定した結果を得るとともに,データサイズによく対応している。
論文 参考訳(メタデータ) (2021-08-15T13:14:28Z) - Graph Representation Learning by Ensemble Aggregating Subgraphs via
Mutual Information Maximization [5.419711903307341]
グラフニューラルネットワークが学習するグラフレベルの表現を高めるための自己監視型学習法を提案する。
グラフ構造を網羅的に理解するために,サブグラフ法のようなアンサンブル学習を提案する。
また, 効率的かつ効果的な対位学習を実現するために, ヘッドテールコントラストサンプル構築法を提案する。
論文 参考訳(メタデータ) (2021-03-24T12:06:12Z) - Model-Agnostic Graph Regularization for Few-Shot Learning [60.64531995451357]
グラフ組み込み数ショット学習に関する包括的な研究を紹介します。
本稿では,ラベル間のグラフ情報の組み込みによる影響をより深く理解できるグラフ正規化手法を提案する。
提案手法は,Mini-ImageNetで最大2%,ImageNet-FSで6.7%の性能向上を実現する。
論文 参考訳(メタデータ) (2021-02-14T05:28:13Z) - Structured Graph Learning for Clustering and Semi-supervised
Classification [74.35376212789132]
データの局所構造とグローバル構造の両方を保存するためのグラフ学習フレームワークを提案する。
本手法は, サンプルの自己表現性を利用して, 局所構造を尊重するために, 大域的構造と適応的隣接アプローチを捉える。
我々のモデルは、ある条件下でのカーネルk平均法とk平均法の組合せと等価である。
論文 参考訳(メタデータ) (2020-08-31T08:41:20Z) - Structural Landmarking and Interaction Modelling: on Resolution Dilemmas
in Graph Classification [50.83222170524406]
解法ジレンマの統一概念に基づくグラフ分類における本質的難易度の研究」
構造ランドマークと相互作用モデリングのためのインダクティブニューラルネットワークモデルSLIM'を提案する。
論文 参考訳(メタデータ) (2020-06-29T01:01:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。