論文の概要: Unified Fourier-based Kernel and Nonlinearity Design for Equivariant Networks on Homogeneous Spaces

• arxiv url: http://arxiv.org/abs/2206.08362v1
• Date: Thu, 16 Jun 2022 17:59:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2022-06-17 15:53:32.659050
• Title: Unified Fourier-based Kernel and Nonlinearity Design for Equivariant Networks on Homogeneous Spaces
• Title（参考訳）: 統一フーリエ核と等質空間上の同変ネットワークの非線形性設計
• Authors: Yinshuang Xu and Jiahui Lei and Edgar Dobriban and Kostas Daniilidis
• Abstract要約: 等質空間上の群同変ネットワークに対する統一的枠組みを導入する。 昇降した特徴場のフーリエ係数の空間性を利用する。 安定化部分群におけるフーリエ係数としての特徴を取り扱う他の方法が、我々のアクティベーションの特別な場合であることを示す。
• 参考スコア（独自算出の注目度）: 52.424621227687894
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We introduce a unified framework for group equivariant networks on homogeneous spaces derived from a Fourier perspective. We address the case of feature fields being tensor valued before and after a convolutional layer. We present a unified derivation of kernels via the Fourier domain by taking advantage of the sparsity of Fourier coefficients of the lifted feature fields. The sparsity emerges when the stabilizer subgroup of the homogeneous space is a compact Lie group. We further introduce an activation method via an elementwise nonlinearity on the regular representation after lifting and projecting back to the field through an equivariant convolution. We show that other methods treating features as the Fourier coefficients in the stabilizer subgroup are special cases of our activation. Experiments on $SO(3)$ and $SE(3)$ show state-of-the-art performance in spherical vector field regression, point cloud classification, and molecular completion.
• Abstract（参考訳）: フーリエパースペクティブから導かれた同次空間上の群同変ネットワークに対する統一的枠組みを導入する。 我々は、畳み込み層の前後にテンソル値を持つ特徴フィールドのケースに対処する。 本稿では, フーリエ領域を経由する核の統一導出について, 持ち上げられた特徴場のフーリエ係数のスパース性を利用して述べる。 疎度は、同次空間の安定化部分群がコンパクトリー群であるときに現れる。 さらに,同変畳み込みによってフィールドへ持ち上げ,投影した後,正則表現の要素的非線形性を介して活性化法を導入する。 安定化部分群におけるフーリエ係数としての特徴を取り扱う他の方法が、我々のアクティベーションの特別な場合であることを示す。 so(3)$ と $se(3)$ の実験は、球面ベクトルの回帰、点雲の分類、分子の完成における最先端のパフォーマンスを示す。

関連論文リスト

• Tensor cumulants for statistical inference on invariant distributions [49.80012009682584]
  我々は,PCAが信号の大きさの臨界値で計算的に困難になることを示す。 我々は、与えられた次数の不変量に対して明示的でほぼ直交的な基底を与える新しい対象の集合を定義する。 また、異なるアンサンブルを区別する新しい問題も分析できます。
  論文  参考訳（メタデータ） (2024-04-29T14:33:24Z)
• On the Fourier analysis in the SO(3) space : EquiLoPO Network [2.7624021966289605]
  既存のディープラーニングアプローチでは、離散的な回転に制限されたグループ畳み込みネットワークまたは制約付きフィルタ構造を持つステアブル畳み込みネットワークを利用する。 本研究は, 連続SO(3)群における局所パターン配向に対する解析的等価性を実現する, 新たな同変ニューラルネットワークアーキテクチャを提案する。 本稿では,これらの操作をResNetスタイルのアーキテクチャに統合することにより,従来の手法の限界を克服するモデルを提案する。
  論文  参考訳（メタデータ） (2024-04-24T16:54:39Z)
• Enabling Efficient Equivariant Operations in the Fourier Basis via Gaunt Tensor Products [14.984349569810275]
  そこで本研究では, テンソル積の複雑さを加速する体系的手法を提案する。 本稿では,効率的な同変演算を行うための新しい手法として機能するGaunt Productを紹介する。 Open Catalyst Projectと3BPAデータセットの実験では、効率の向上と性能向上の両面が示されている。
  論文  参考訳（メタデータ） (2024-01-18T18:57:10Z)
• Harmonics of Learning: Universal Fourier Features Emerge in Invariant Networks [14.259918357897408]
  ある条件下では、ニューラルネットワークが有限群に不変であれば、その重みはその群上のフーリエ変換を回復する。 これは、生物学的および人工的な学習システムにおいて、ユビキタスな現象であるフーリエ特徴の出現に関する数学的説明を提供する。
  論文  参考訳（メタデータ） (2023-12-13T22:42:55Z)
• A Geometric Insight into Equivariant Message Passing Neural Networks on Riemannian Manifolds [1.0878040851638]
  座標独立な特徴体に付随する計量は、主バンドルの原計量を最適に保存すべきである。 一定の時間ステップで拡散方程式の流れを離散化することにより, 多様体上のメッセージパッシング方式を得る。 グラフ上の高次拡散過程の離散化は、同変 GNN の新しい一般クラスをもたらす。
  論文  参考訳（メタデータ） (2023-10-16T14:31:13Z)
• Third quantization of open quantum systems: new dissipative symmetries and connections to phase-space and Keldysh field theory formulations [77.34726150561087]
  3つの方法全てを明示的に接続する方法で第3量子化の手法を再構成する。 まず、我々の定式化は、すべての二次ボゾンあるいはフェルミオンリンドブラディアンに存在する基本散逸対称性を明らかにする。 ボソンに対して、ウィグナー関数と特徴関数は密度行列の「波動関数」と考えることができる。
  論文  参考訳（メタデータ） (2023-02-27T18:56:40Z)
• Deep Fourier Up-Sampling [100.59885545206744]
  フーリエ領域のアップサンプリングは、そのような局所的な性質に従わないため、より難しい。 これらの問題を解決するために理論的に健全なDeep Fourier Up-Sampling (FourierUp)を提案する。
  論文  参考訳（メタデータ） (2022-10-11T06:17:31Z)
• VolterraNet: A higher order convolutional network with group equivariance for homogeneous manifolds [19.39397826006002]
  畳み込みニューラルネットワークは、画像ベースの学習タスクで非常に成功した。 最近の研究は、畳み込みニューラルネットワークの伝統的な畳み込み層を非ユークリッド空間に一般化した。 本稿では,関数のサンプルとして定義されたデータに対する高次Volterra畳み込みニューラルネットワーク(VolterraNet)を提案する。
  論文  参考訳（メタデータ） (2021-06-05T19:28:16Z)
• LieTransformer: Equivariant self-attention for Lie Groups [49.9625160479096]
  群等価ニューラルネットワークは群不変ニューラルネットワークの構成要素として用いられる。 我々は、文学の範囲を、ディープラーニングモデルの顕著な構築ブロックとして現れつつある自己注意にまで広げる。 任意のリー群とその離散部分群に同値なリー自己結合層からなる構造であるリー変換器を提案する。
  論文  参考訳（メタデータ） (2020-12-20T11:02:49Z)
• Learning Set Functions that are Sparse in Non-Orthogonal Fourier Bases [73.53227696624306]
  フーリエスパース集合関数を学習するための新しいアルゴリズム群を提案する。 Walsh-Hadamard変換に焦点をあてた他の研究とは対照的に、我々の新しいアルゴリズムは最近導入された非直交フーリエ変換で機能する。 いくつかの実世界のアプリケーションで有効性を示す。
  論文  参考訳（メタデータ） (2020-10-01T14:31:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。