論文の概要: Topological Blindspots: Understanding and Extending Topological Deep Learning Through the Lens of Expressivity

• arxiv url: http://arxiv.org/abs/2408.05486v2
• Date: Wed, 12 Feb 2025 17:29:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-13 13:46:39.562001
• Title: Topological Blindspots: Understanding and Extending Topological Deep Learning Through the Lens of Expressivity
• Title（参考訳）: トポロジカルブラインドスポット:表現性レンズによるトポロジカルディープラーニングの理解と拡張
• Authors: Yam Eitan, Yoav Gelberg, Guy Bar-Shalom, Fabrizio Frasca, Michael Bronstein, Haggai Maron,
• Abstract要約: トポロジカルディープラーニング(TDL)は、トポロジカルなデータ構造を活用し、トポロジカルなオブジェクトでサポートされているデータからの学習を容易にする。 ほとんどのTDLアーキテクチャは、グラフメッセージパッシングを高階ドメインに一般化する高階メッセージパッシング(HOMP)の枠組みの下で統一することができる。 本研究は,TDLの表現性について,エンフォトロジーの観点から研究する最初の試みである。
• 参考スコア（独自算出の注目度）: 16.85143734063591
• License:
• Abstract: Topological deep learning (TDL) is a rapidly growing field that seeks to leverage topological structure in data and facilitate learning from data supported on topological objects, ranging from molecules to 3D shapes. Most TDL architectures can be unified under the framework of higher-order message-passing (HOMP), which generalizes graph message-passing to higher-order domains. In the first part of the paper, we explore HOMP's expressive power from a topological perspective, demonstrating the framework's inability to capture fundamental topological and metric invariants such as diameter, orientability, planarity, and homology. In addition, we demonstrate HOMP's limitations in fully leveraging lifting and pooling methods on graphs. To the best of our knowledge, this is the first work to study the expressivity of TDL from a \emph{topological} perspective. In the second part of the paper, we develop two new classes of architectures -- multi-cellular networks (MCN) and scalable MCN (SMCN) -- which draw inspiration from expressive GNNs. MCN can reach full expressivity, but scaling it to large data objects can be computationally expansive. Designed as a more scalable alternative, SMCN still mitigates many of HOMP's expressivity limitations. Finally, we create new benchmarks for evaluating models based on their ability to learn topological properties of complexes. We then evaluate SMCN on these benchmarks and on real-world graph datasets, demonstrating improvements over both HOMP baselines and expressive graph methods, highlighting the value of expressively leveraging topological information. Code and data are available at https://github.com/yoavgelberg/SMCN.
• Abstract（参考訳）: トポロジカルディープラーニング(トポロジカルディープラーニング、TDL)は、データにおけるトポロジカルな構造を活用し、分子から3次元形状まで、トポロジカルなオブジェクトで支えられたデータから学ぶことを容易にする、急速に成長する分野である。 ほとんどのTDLアーキテクチャは、グラフメッセージパッシングを高階ドメインに一般化する高階メッセージパッシング(HOMP)の枠組みの下で統一することができる。 論文の前半では、hoMPの表現力について、トポロジ的観点から検討し、このフレームワークが直径、オリエンタビリティ、平面性、ホモロジーといった基本的なトポロジ的および計量的不変量を捉えることができないことを示す。 さらに,グラフ上のリフト法とプーリング法を完全に活用する上で,HOMPの限界を実証する。 我々の知識を最大限に活用するために、これは \emph{topological} の観点から TDL の表現性を研究する最初の研究である。 論文の第2部では,マルチセルネットワーク(MCN)とスケーラブルMCN(SMCN)という,表現力のあるGNNからインスピレーションを得た2種類のアーキテクチャを新たに開発する。 MCNは完全な表現性に到達できるが、大規模データオブジェクトへのスケーリングは計算的に拡張可能である。 よりスケーラブルな代替品として設計されたSMCNは、今でもHOMPの表現性制限の多くを緩和している。 最後に,錯体のトポロジ的特性を学習する能力に基づいて,モデル評価のための新しいベンチマークを作成する。 次に、これらのベンチマークおよび実世界のグラフデータセット上でSMCNを評価し、HOMPベースラインと表現グラフ法の両方の改善を実証し、トポロジ情報を表現的に活用する価値を強調した。 コードとデータはhttps://github.com/yoavgelberg/SMCN.comで公開されている。

関連論文リスト

• Neural Graph Pattern Machine [50.78679002846741]
  本稿では,グラフパターンから直接学習するためのフレームワークであるNeural Graph Pattern Machine (GPM)を提案する。 GPMは、下流タスクにおいて最も関連性の高いものを特定しながら、下位構造を効率的に抽出し、エンコードする。
  論文  参考訳（メタデータ） (2025-01-30T20:37:47Z)
• Topology-guided Hypergraph Transformer Network: Unveiling Structural Insights for Improved Representation [1.1606619391009658]
  位相誘導型ハイパーグラフトランスネットワーク(THTN)を提案する。 このモデルでは、まず、構造的本質を維持しながらグラフからハイパーグラフを定式化し、グラフ内の高次関係を学習する。 本稿では,意味的,構造的両面から重要なノードとハイパーエッジを発見する構造認識型自己認識機構を提案する。
  論文  参考訳（メタデータ） (2023-10-14T20:08:54Z)
• Weisfeiler and Lehman Go Paths: Learning Topological Features via Path Complexes [4.23480641508611]
  グラフニューラルネットワーク(GNN)は理論上、1-Weisfeiler-Lehmanテストによって拘束される。 本研究では, トポロジ的メッセージパッシング過程において, グラフ内の単純な経路に着目し, 新たな視点を示す。
  論文  参考訳（メタデータ） (2023-08-13T19:45:20Z)
• Dist2Cycle: A Simplicial Neural Network for Homology Localization [66.15805004725809]
  単純複体は多方向順序関係を明示的にエンコードするグラフの高次元一般化と見なすことができる。 単体錯体の$k$-homological特徴によってパラメータ化された関数のグラフ畳み込みモデルを提案する。
  論文  参考訳（メタデータ） (2021-10-28T14:59:41Z)
• Z-GCNETs: Time Zigzags at Graph Convolutional Networks for Time Series Forecasting [3.9195417834390907]
  我々はジグザグ永続性の概念をGCN(Time-Aware Graph Convolutional Network)に導入する。 我々は,新しい位相的要約であるジグザグ持続像を開発し,その理論的安定性保証を導出する。 その結果、z-gcnetは4つの時系列データセットで13の最先端メソッドを上回ることがわかった。
  論文  参考訳（メタデータ） (2021-05-10T04:01:04Z)
• Multi-Level Attention Pooling for Graph Neural Networks: Unifying Graph Representations with Multiple Localities [4.142375560633827]
  グラフニューラルネットワーク(GNN)は、グラフ構造データのベクトル表現を学ぶために広く使用されている。 潜在的な原因は、深いGNNモデルは、多くのメッセージ通過ステップを通じてノードのローカル情報を失う傾向にある。 このいわゆる過度な問題を解くために,マルチレベルアテンションプールアーキテクチャを提案する。
  論文  参考訳（メタデータ） (2021-03-02T05:58:12Z)
• Multi-Level Graph Convolutional Network with Automatic Graph Learning for Hyperspectral Image Classification [63.56018768401328]
  HSI分類のための自動グラフ学習法(MGCN-AGL)を用いたマルチレベルグラフ畳み込みネットワーク(GCN)を提案する。 空間的に隣接する領域における重要度を特徴付けるために注意機構を利用することで、最も関連性の高い情報を適応的に組み込んで意思決定を行うことができる。 MGCN-AGLは局所的に生成した表現表現に基づいて画像領域間の長距離依存性を符号化する。
  論文  参考訳（メタデータ） (2020-09-19T09:26:20Z)
• Towards Deeper Graph Neural Networks [63.46470695525957]
  グラフ畳み込みは近傍の集約を行い、最も重要なグラフ操作の1つである。 いくつかの最近の研究で、この性能劣化は過度に滑らかな問題に起因している。 本研究では,大きな受容領域からの情報を適応的に組み込むディープ適応グラフニューラルネットワーク(DAGNN)を提案する。
  論文  参考訳（メタデータ） (2020-07-18T01:11:14Z)
• AM-GCN: Adaptive Multi-channel Graph Convolutional Networks [85.0332394224503]
  グラフ畳み込みネットワーク(GCN)は,豊富な情報を持つ複雑なグラフにおいて,ノードの特徴と位相構造を最適に統合できるかどうかを検討する。 半教師付き分類(AM-GCN)のための適応型マルチチャネルグラフ畳み込みネットワークを提案する。 実験の結果,AM-GCNはノードの特徴とトポロジ的構造の両方から最も相関性の高い情報を抽出することがわかった。
  論文  参考訳（メタデータ） (2020-07-05T08:16:03Z)
• Building powerful and equivariant graph neural networks with structural message-passing [74.93169425144755]
  本稿では,2つのアイデアに基づいた,強力かつ同変なメッセージパッシングフレームワークを提案する。 まず、各ノードの周囲の局所的コンテキスト行列を学習するために、特徴に加えてノードの1ホット符号化を伝搬する。 次に,メッセージのパラメトリゼーション手法を提案する。
  論文  参考訳（メタデータ） (2020-06-26T17:15:16Z)
• Interpretable and Efficient Heterogeneous Graph Convolutional Network [27.316334213279973]
  異種情報ネットワーク(HIN)におけるオブジェクトの表現を学習するための、解釈可能で効率的な異種グラフ畳み込みネットワーク(e-HGCN)を提案する。 ie-HGCNは、長さ制限内で可能なすべてのメタパスから、各オブジェクトの有用なメタパスを自動的に抽出することができる。 また、中間HIN変換や近傍の注意を回避して計算コストを削減できる。
  論文  参考訳（メタデータ） (2020-05-27T06:06:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。