Fugu-MT 論文翻訳(概要): Equivariant neural networks and piecewise linear representation theory

論文の概要: Equivariant neural networks and piecewise linear representation theory

arxiv url: http://arxiv.org/abs/2408.00949v1
Date: Thu, 1 Aug 2024 23:08:37 GMT
ステータス: 処理完了
システム内更新日: 2024-08-05 14:46:34.121006
Title: Equivariant neural networks and piecewise linear representation theory
Title（参考訳）: 等変ニューラルネットワークとピースワイズ線形表現理論
Authors: Joel Gibson, Daniel Tubbenhauer, Geordie Williamson,
Abstract要約: 等価ニューラルネットワークは対称性を持つニューラルネットワークである。群表現の理論により、同変ニューラルネットワークの層を単純な表現に分解する。
参考スコア（独自算出の注目度）: 0.0
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Equivariant neural networks are neural networks with symmetry. Motivated by the theory of group representations, we decompose the layers of an equivariant neural network into simple representations. The nonlinear activation functions lead to interesting nonlinear equivariant maps between simple representations. For example, the rectified linear unit (ReLU) gives rise to piecewise linear maps. We show that these considerations lead to a filtration of equivariant neural networks, generalizing Fourier series. This observation might provide a useful tool for interpreting equivariant neural networks.
Abstract（参考訳）: 等価ニューラルネットワークは対称性を持つニューラルネットワークである。群表現の理論により、同変ニューラルネットワークの層を単純な表現に分解する。非線形活性化関数は、単純表現の間の興味深い非線形同変写像をもたらす。例えば、正則線型単位 (rerectified linear unit, ReLU) は、分割線型写像をもたらす。これらの考察は、フーリエ級数(英語版)を一般化した同変ニューラルネットワークのフィルタリングにつながることを示す。この観察は、同変ニューラルネットワークの解釈に有用なツールとなるかもしれない。

関連論文リスト

Recurrent Neural Networks Learn to Store and Generate Sequences using Non-Linear Representations [54.17275171325324]
線形表現仮説(LRH)に対する反例を提示する。入力トークンシーケンスを繰り返すように訓練されると、ニューラルネットワークは、方向ではなく、特定の順序で各位置のトークンを表現することを学ぶ。これらの結果は、解釈可能性の研究はLRHに限定されるべきでないことを強く示唆している。
論文参考訳（メタデータ） (2024-08-20T15:04:37Z)
Graph Neural Networks for Learning Equivariant Representations of Neural Networks [55.04145324152541]
本稿では,ニューラルネットワークをパラメータの計算グラフとして表現することを提案する。我々のアプローチは、ニューラルネットワークグラフを多種多様なアーキテクチャでエンコードする単一モデルを可能にする。本稿では,暗黙的ニューラル表現の分類や編集など,幅広いタスクにおける本手法の有効性を示す。
論文参考訳（メタデータ） (2024-03-18T18:01:01Z)
On Representing Electronic Wave Functions with Sign Equivariant Neural Networks [10.80375466357108]
最近のニューラルネットワークは、電子基底波関数の驚くほど正確な近似を示した。これらのニューラルネットワークは通常、置換同変ニューラルネットワークと置換反対称演算からなる。正確性はあるものの、そのようなニューラルネットワークは計算コストが高い。
論文参考訳（メタデータ） (2024-03-08T12:13:11Z)
A Characterization Theorem for Equivariant Networks with Point-wise Activations [13.00676132572457]
回転同変ネットワークは、連結コンパクト群に対して同変である任意のネットワークに対してのみ不変であることを示す。本稿では, 畳み込み可能な畳み込み型ニューラルネットワークの特徴空間が, 自明な表現であることを示す。
論文参考訳（メタデータ） (2024-01-17T14:30:46Z)
On the hardness of learning under symmetries [31.961154082757798]
勾配勾配勾配を用いた同変ニューラルネットワークの学習問題について検討する。対称性による帰納バイアスにもかかわらず、実際には勾配降下を通じて同変ニューラルネットワークで表される関数の完全なクラスを学習することは難しいままである。
論文参考訳（メタデータ） (2024-01-03T18:24:18Z)
Non Commutative Convolutional Signal Models in Neural Networks: Stability to Small Deformations [111.27636893711055]
非可換畳み込みフィルタのフィルタ特性と安定性について検討する。この結果は,グループニューラルネットワーク,マルチグラフニューラルネットワーク,四元系ニューラルネットワークに直接影響する。
論文参考訳（メタデータ） (2023-10-05T20:27:22Z)
Permutation Equivariant Neural Functionals [92.0667671999604]
この研究は、他のニューラルネットワークの重みや勾配を処理できるニューラルネットワークの設計を研究する。隠れた層状ニューロンには固有の順序がないため, 深いフィードフォワードネットワークの重みに生じる置換対称性に着目する。実験の結果, 置換同変ニューラル関数は多種多様なタスクに対して有効であることがわかった。
論文参考訳（メタデータ） (2023-02-27T18:52:38Z)
In Search of Projectively Equivariant Networks [14.275801110186885]
本稿では,プロジェクティブ同変ニューラルネットワークを構築する方法を提案する。線形層からネットワークを構築する場合,我々のアプローチが最も一般的に可能であることを示す。
論文参考訳（メタデータ） (2022-09-29T12:26:18Z)
Convolutional Filtering and Neural Networks with Non Commutative Algebras [153.20329791008095]
本研究では,非可換畳み込みニューラルネットワークの一般化について検討する。非可換畳み込み構造は作用素空間上の変形に対して安定であることを示す。
論文参考訳（メタデータ） (2021-08-23T04:22:58Z)
Lattice gauge equivariant convolutional neural networks [0.0]
汎用機械学習アプリケーションのためのLattice gauge equivariant Convolutional Neural Networks (L-CNNs)を提案する。 L-CNNは従来の畳み込みニューラルネットワークでは見つけられないゲージ不変量を学習・一般化できることを示した。
論文参考訳（メタデータ） (2020-12-23T19:00:01Z)
Generalizing Convolutional Neural Networks for Equivariance to Lie Groups on Arbitrary Continuous Data [52.78581260260455]
任意の特定のリー群からの変換に同値な畳み込み層を構築するための一般的な方法を提案する。同じモデルアーキテクチャを画像、ボール・アンド・スティック分子データ、ハミルトン力学系に適用する。
論文参考訳（メタデータ） (2020-02-25T17:40:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。