論文の概要: ChebLieNet: Invariant Spectral Graph NNs Turned Equivariant by Riemannian Geometry on Lie Groups

• arxiv url: http://arxiv.org/abs/2111.12139v1
• Date: Tue, 23 Nov 2021 20:19:36 GMT
• ステータス: 処理完了
• システム内更新日: 2021-11-26 02:13:09.584523
• Title: ChebLieNet: Invariant Spectral Graph NNs Turned Equivariant by Riemannian Geometry on Lie Groups
• Title（参考訳）: cheblienet: リーマン幾何学によるリーマン群上の不変スペクトルグラフnns
• Authors: Hugo Aguettaz, Erik J. Bekkers, Micha\"el Defferrard
• Abstract要約: ChebLieNet は(異方性)多様体上の群同変法である。 異方性畳み込み層からなるグラフニューラルネットワークを開発した。 CIFAR10上の異方性パラメータに対する(データに依存した)スイートスポットの存在を実証的に証明した。
• 参考スコア（独自算出の注目度）: 9.195729979000404
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We introduce ChebLieNet, a group-equivariant method on (anisotropic) manifolds. Surfing on the success of graph- and group-based neural networks, we take advantage of the recent developments in the geometric deep learning field to derive a new approach to exploit any anisotropies in data. Via discrete approximations of Lie groups, we develop a graph neural network made of anisotropic convolutional layers (Chebyshev convolutions), spatial pooling and unpooling layers, and global pooling layers. Group equivariance is achieved via equivariant and invariant operators on graphs with anisotropic left-invariant Riemannian distance-based affinities encoded on the edges. Thanks to its simple form, the Riemannian metric can model any anisotropies, both in the spatial and orientation domains. This control on anisotropies of the Riemannian metrics allows to balance equivariance (anisotropic metric) against invariance (isotropic metric) of the graph convolution layers. Hence we open the doors to a better understanding of anisotropic properties. Furthermore, we empirically prove the existence of (data-dependent) sweet spots for anisotropic parameters on CIFAR10. This crucial result is evidence of the benefice we could get by exploiting anisotropic properties in data. We also evaluate the scalability of this approach on STL10 (image data) and ClimateNet (spherical data), showing its remarkable adaptability to diverse tasks.
• Abstract（参考訳）: 我々は(異方性)多様体上の群同変法であるChebLieNetを紹介する。 グラフとグループベースのニューラルネットワークの成功を振り返って、幾何学的深層学習分野における最近の進歩を利用して、データの異方性を利用する新しいアプローチを導出する。 リー群の離散近似により、異方性畳み込み層(チェビシェフ畳み込み)、空間プールおよびアンプール層、グローバルプール層からなるグラフニューラルネットワークを開発した。 群同分散は、辺に符号化された異方性左不変のリーマン距離に基づくアフィニティを持つグラフ上の同変および不変作用素を介して達成される。 単純形式のおかげで、リーマン計量は任意の異方性(空間領域と向き領域の両方)をモデル化できる。 このリーマン計量の異方性制御により、グラフ畳み込み層の不変性(等方性計量)と等分散(異方性計量)のバランスをとることができる。 したがって、異方性の性質をよりよく理解するために扉を開く。 さらに,cifar10における異方性パラメータに対する(データ依存)スイートスポットの存在を実験的に証明した。 この決定的な結果は、データにおける異方性の性質を利用して得られる利益の証拠である。 また,stl10 (画像データ) とclimatenet (球面データ) におけるこのアプローチのスケーラビリティを評価し,多様なタスクへの適応性を示す。

関連論文リスト

• Geometric Generative Models based on Morphological Equivariant PDEs and GANs [3.6498648388765513]
  群畳み込みニューラルネットワーク(G-CNN)のための等変偏微分方程式(PDE)に基づく幾何学的生成モデルを提案する。 提案手法は, PDE-G-CNNにおける形態的同変畳み込みを用いて, GM-GAN (Geological morphological GAN) を求める。 予備的な結果は、GM-GANモデルが古典的GANより優れていることを示している。
  論文  参考訳（メタデータ） (2024-03-22T01:02:09Z)
• Improving embedding of graphs with missing data by soft manifolds [51.425411400683565]
  グラフ埋め込みの信頼性は、連続空間の幾何がグラフ構造とどの程度一致しているかに依存する。 我々は、この問題を解決することができる、ソフト多様体と呼ばれる新しい多様体のクラスを導入する。 グラフ埋め込みにソフト多様体を用いることで、複雑なデータセット上のデータ解析における任意のタスクを追求するための連続空間を提供できる。
  論文  参考訳（メタデータ） (2023-11-29T12:48:33Z)
• Gradient-Based Feature Learning under Structured Data [57.76552698981579]
  異方性設定では、一般的に使用される球面勾配力学は真の方向を回復できないことがある。 バッチ正規化を連想させる適切な重み正規化は、この問題を軽減することができることを示す。 特に、スパイクモデルの下では、勾配に基づくトレーニングのサンプルの複雑さは情報指数とは独立にできる。
  論文  参考訳（メタデータ） (2023-09-07T16:55:50Z)
• VTAE: Variational Transformer Autoencoder with Manifolds Learning [144.0546653941249]
  深層生成モデルは、多くの潜伏変数を通して非線形データ分布の学習に成功している。 ジェネレータの非線形性は、潜在空間がデータ空間の不満足な射影を示し、表現学習が不十分になることを意味する。 本研究では、測地学と正確な計算により、深部生成モデルの性能を大幅に向上させることができることを示す。
  論文  参考訳（メタデータ） (2023-04-03T13:13:19Z)
• Optimization Dynamics of Equivariant and Augmented Neural Networks [2.7918308693131135]
  対称データに基づくニューラルネットワークの最適化について検討する。 アーキテクチャを制約する戦略を、データ拡張を使用する戦略と同等に扱う戦略と比較する。 後者の状況においても, 定常点が拡張トレーニングにおいて不安定であることは明らかだが, 明らかな同変モデルに対しては安定である。
  論文  参考訳（メタデータ） (2023-03-23T17:26:12Z)
• Geometric Scattering on Measure Spaces [12.0756034112778]
  測度空間上での幾何散乱の一般統一モデルを導入する。 未知多様体をランダムにサンプリングして得られる有限測度空間を考える。 本稿では, 関連するグラフ散乱変換が基礎多様体上の散乱変換を近似するデータ駆動グラフを構築するための2つの方法を提案する。
  論文  参考訳（メタデータ） (2022-08-17T22:40:09Z)
• Topographic VAEs learn Equivariant Capsules [84.33745072274942]
  本稿では, 地理的に整理された潜伏変数を用いた深部生成モデルを効率的に学習するための新しい手法であるTopographic VAEを紹介する。 このようなモデルでは,MNIST上での桁数クラス,幅,スタイルなどの健全な特徴に応じて,その活性化を組織化することが実際に学べることが示される。 我々は、既存の群同変ニューラルネットワークの能力を拡張して、複素変換に近似した同値性を示す。
  論文  参考訳（メタデータ） (2021-09-03T09:25:57Z)
• Symmetry-driven graph neural networks [1.713291434132985]
  ノード座標に影響を及ぼすいくつかの変換に同値なグラフネットワークアーキテクチャを2つ導入する。 我々はこれらの機能を$n$次元の幾何学的オブジェクトからなる合成データセット上で実証する。
  論文  参考訳（メタデータ） (2021-05-28T18:54:12Z)
• Gauge Equivariant Mesh CNNs: Anisotropic convolutions on geometric graphs [81.12344211998635]
  メッシュ上の畳み込みを定義する一般的なアプローチは、それらをグラフとして解釈し、グラフ畳み込みネットワーク(GCN)を適用することである。 本稿では、GCNを一般化して異方性ゲージ同変カーネルを適用するGauge Equivariant Mesh CNNを提案する。 本実験は,従来のGCNおよび他の手法と比較して,提案手法の表現性を大幅に向上することを示した。
  論文  参考訳（メタデータ） (2020-03-11T17:21:15Z)
• Generalizing Convolutional Neural Networks for Equivariance to Lie Groups on Arbitrary Continuous Data [52.78581260260455]
  任意の特定のリー群からの変換に同値な畳み込み層を構築するための一般的な方法を提案する。 同じモデルアーキテクチャを画像、ボール・アンド・スティック分子データ、ハミルトン力学系に適用する。
  論文  参考訳（メタデータ） (2020-02-25T17:40:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。