論文の概要: Group-Equivariant Neural Networks with Fusion Diagrams
- arxiv url: http://arxiv.org/abs/2211.07482v1
- Date: Mon, 14 Nov 2022 16:06:59 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-15 15:41:41.974933
- Title: Group-Equivariant Neural Networks with Fusion Diagrams
- Title(参考訳): 融合図を用いた群同変ニューラルネットワーク
- Authors: Zimu Li, Han Zheng, Erik Thiede, Junyu Liu, and Risi Kondor
- Abstract要約: 等変ニューラルネットワークは、空間群の下で変形する様々なテンソル間のテンソル積を用いる。
我々は、SU($2$)-対称量子多体問題のシミュレートに広く用いられている融合図を用いて、新しい等変成分を設計することを提案する。
与えられた局所近傍の粒子に適用すると、核融合ブロックと呼ばれる結果の成分は任意の連続同変関数の普遍近似器であることが示される。
- 参考スコア(独自算出の注目度): 13.31159358431767
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Many learning tasks in physics and chemistry involve global spatial
symmetries as well as permutational symmetry between particles. The standard
approach to such problems is equivariant neural networks, which employ tensor
products between various tensors that transform under the spatial group.
However, as the number of different tensors and the complexity of relationships
between them increases, the bookkeeping associated with ensuring parsimony as
well as equivariance quickly becomes nontrivial. In this paper, we propose to
use fusion diagrams, a technique widely used in simulating SU($2$)-symmetric
quantum many-body problems, to design new equivariant components for use in
equivariant neural networks. This yields a diagrammatic approach to
constructing new neural network architectures. We show that when applied to
particles in a given local neighborhood, the resulting components, which we
call fusion blocks, are universal approximators of any continuous equivariant
function defined on the neighborhood. As a practical demonstration, we
incorporate a fusion block into a pre-existing equivariant architecture
(Cormorant) and show that it improves performance on benchmark molecular
learning tasks.
- Abstract(参考訳): 物理学や化学における多くの学習課題は、粒子間の置換対称性と同様に、大域的な空間対称性を含む。
このような問題に対する標準的なアプローチは、空間群の下で変換される様々なテンソル間のテンソル積を用いる等変ニューラルネットワークである。
しかし、異なるテンソルの数とそれらの間の関係の複雑さが増すにつれて、同値性や同値性を保証するための簿記は急速に非自明になる。
本稿では,su($2$)対称量子多体問題のシミュレーションに広く用いられている核融合ダイアグラムを用いて,等価ニューラルネットワークに用いる新しい等価成分を設計することを提案する。
これにより、新しいニューラルネットワークアーキテクチャを構築するための図式的アプローチが生まれます。
与えられた局所近傍の粒子に適用した場合、融合ブロックと呼ばれる結果の成分は、その近傍で定義される任意の連続同変関数の普遍近似であることを示す。
実演として、既存の同変アーキテクチャ(Cormorant)に融合ブロックを組み込んで、ベンチマーク分子学習タスクの性能を向上させることを示す。
関連論文リスト
- Neural Functional Transformers [99.98750156515437]
本稿では,ニューラルファンクショナルトランスフォーマー (NFT) と呼ばれる新しい変分同変量空間層を定義するために,アテンション機構を用いる。
NFTは重み空間の置換対称性を尊重し、注意の利点を取り入れ、複数の領域で顕著な成功を収めた。
Inr2Arrayは暗黙的ニューラル表現(INR)の重みから置換不変表現を計算する新しい方法である。
論文 参考訳(メタデータ) (2023-05-22T23:38:27Z) - Permutation Equivariant Neural Functionals [92.0667671999604]
この研究は、他のニューラルネットワークの重みや勾配を処理できるニューラルネットワークの設計を研究する。
隠れた層状ニューロンには固有の順序がないため, 深いフィードフォワードネットワークの重みに生じる置換対称性に着目する。
実験の結果, 置換同変ニューラル関数は多種多様なタスクに対して有効であることがわかった。
論文 参考訳(メタデータ) (2023-02-27T18:52:38Z) - Spatial Attention Kinetic Networks with E(n)-Equivariance [0.951828574518325]
回転、翻訳、反射、n次元幾何学空間上の置換と等価なニューラルネットワークは、物理モデリングにおいて有望であることを示している。
本稿では, エッジベクトルの線形結合をニューラルネットワークでパラメトリケートし, 等価性を実現するための, 簡易な代替関数形式を提案する。
E(n)-等価性を持つ空間的注意運動ネットワーク(SAKE)を設計する。
論文 参考訳(メタデータ) (2023-01-21T05:14:29Z) - Interrelation of equivariant Gaussian processes and convolutional neural
networks [77.34726150561087]
現在、ニューラルネットワーク(NN)とガウス過程(GP)の関係に基づく機械学習(ML)には、かなり有望な新しい傾向がある。
本研究では、ベクトル値のニューロン活性化を持つ2次元ユークリッド群とそれに対応する独立に導入された同変ガウス過程(GP)との関係を確立する。
論文 参考訳(メタデータ) (2022-09-17T17:02:35Z) - Generalization capabilities of neural networks in lattice applications [0.0]
翻訳等変ニューラルネットワークを用いた非同変ニューラルネットワークの利点について検討する。
我々の最良の同変アーキテクチャは、その非同変アーキテクチャよりも大幅に性能を向上し、一般化できることが示される。
論文 参考訳(メタデータ) (2021-12-23T11:48:06Z) - Revisiting Transformation Invariant Geometric Deep Learning: Are Initial
Representations All You Need? [80.86819657126041]
変換不変および距離保存初期表現は変換不変性を達成するのに十分であることを示す。
具体的には、多次元スケーリングを変更することで、変換不変かつ距離保存された初期点表現を実現する。
我々は、TinvNNが変換不変性を厳密に保証し、既存のニューラルネットワークと組み合わせられるほど汎用的で柔軟なことを証明した。
論文 参考訳(メタデータ) (2021-12-23T03:52:33Z) - Equivariant vector field network for many-body system modeling [65.22203086172019]
Equivariant Vector Field Network (EVFN) は、新しい同変層と関連するスカラー化およびベクトル化層に基づいて構築されている。
シミュレーションされたニュートン力学系の軌跡を全観測データと部分観測データで予測する手法について検討した。
論文 参考訳(メタデータ) (2021-10-26T14:26:25Z) - UNiTE: Unitary N-body Tensor Equivariant Network with Applications to
Quantum Chemistry [33.067344811580604]
一般の対称テンソルに対するユニタリ$N$ボディテンソル同変ニューラルネットワーク(UNiTE)を提案する。
UNiTE は、3次元回転群のようなユニタリ群の作用に関して同変である。
量子化学に適用すると、UNiTEは最先端の機械学習手法をすべて上回っている。
論文 参考訳(メタデータ) (2021-05-31T00:48:18Z) - Multipole Graph Neural Operator for Parametric Partial Differential
Equations [57.90284928158383]
物理系をシミュレーションするためのディープラーニングベースの手法を使用する際の大きな課題の1つは、物理ベースのデータの定式化である。
線形複雑度のみを用いて、あらゆる範囲の相互作用をキャプチャする、新しいマルチレベルグラフニューラルネットワークフレームワークを提案する。
実験により, 離散化不変解演算子をPDEに学習し, 線形時間で評価できることを確認した。
論文 参考訳(メタデータ) (2020-06-16T21:56:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。