論文の概要: Convolutional Filtering and Neural Networks with Non Commutative Algebras

• arxiv url: http://arxiv.org/abs/2108.09923v1
• Date: Mon, 23 Aug 2021 04:22:58 GMT
• ステータス: 処理完了
• システム内更新日: 2021-08-24 22:33:46.427028
• Title: Convolutional Filtering and Neural Networks with Non Commutative Algebras
• Title（参考訳）: 非可換代数を用いた畳み込みフィルタとニューラルネットワーク
• Authors: Alejandro Parada-Mayorga and Alejandro Ribeiro
• Abstract要約: 非可換代数におけるフィルタの安定性について、準同型上の摂動について研究する。 シフト作用素とシフトと摂動の間の可換性は、安定なアーキテクチャの性質に影響を与えないことを示す。
• 参考スコア（独自算出の注目度）: 180.74169086838805
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In this paper we provide stability results for algebraic neural networks (AlgNNs) based on non commutative algebras. AlgNNs are stacked layered structures with each layer associated to an algebraic signal model (ASM) determined by an algebra, a vector space, and a homomorphism. Signals are modeled as elements of the vector space, filters are elements in the algebra, while the homomorphism provides a realization of the filters as concrete operators. We study the stability of the algebraic filters in non commutative algebras to perturbations on the homomorphisms, and we provide conditions under which stability is guaranteed. We show that the commutativity between shift operators and between shifts and perturbations does not affect the property of an architecture of being stable. This provides an answer to the question of whether shift invariance was a necessary attribute of convolutional architectures to guarantee stability. Additionally, we show that although the frequency responses of filters in non commutative algebras exhibit substantial differences with respect to filters in commutative algebras, their derivatives for stable filters have a similar behavior.
• Abstract（参考訳）: 本稿では,非可換代数に基づく代数的ニューラルネットワーク(AlgNN)の安定性について述べる。 AlgNNは代数、ベクトル空間、準同型によって決定される代数信号モデル(ASM)に関連付けられた各層を持つ積層構造である。 信号はベクトル空間の要素としてモデル化され、フィルターは代数の要素であり、準同型はフィルターを具体的作用素として実現する。 非可換代数における代数フィルタの準同型摂動に対する安定性について検討し、安定性が保証される条件を提供する。 シフト作用素とシフトと摂動の間の可換性は、安定であることのアーキテクチャの性質に影響を与えないことを示す。 これは、安定性を保証するのにシフト不変性が畳み込みアーキテクチャの必要特性であったかどうかという疑問に対する答えを提供する。 さらに、非可換代数におけるフィルタの周波数応答は可換代数におけるフィルタとはかなり異なるが、安定なフィルタに対するそれらの導関数は類似した挙動を持つことを示した。

関連論文リスト

• Non Commutative Convolutional Signal Models in Neural Networks: Stability to Small Deformations [111.27636893711055]
  非可換畳み込みフィルタのフィルタ特性と安定性について検討する。 この結果は,グループニューラルネットワーク,マルチグラフニューラルネットワーク,四元系ニューラルネットワークに直接影響する。
  論文  参考訳（メタデータ） (2023-10-05T20:27:22Z)
• Function-Space Optimality of Neural Architectures With Multivariate Nonlinearities [30.762063524541638]
  我々は、バナッハ空間上の学習問題に対する解集合が、非線形性を持つニューラルアーキテクチャによって完全に特徴づけられることを示す代表者定理を証明した。 我々の結果は、データに基づいてトレーニングされたニューラルネットワークによって学習された関数の規則性に光を当て、実際に見つかったいくつかのアーキテクチャ選択に対する新たな理論的動機を与えました。
  論文  参考訳（メタデータ） (2023-10-05T17:13:16Z)
• Bispectral Neural Networks [1.0323063834827415]
  ニューラルネットワークアーキテクチャBNN(Bispectral Neural Networks)を提案する。 BNNは、群、その既約表現、および対応する同変写像と完全不変写像を同時に学習することができる。
  論文  参考訳（メタデータ） (2022-09-07T18:34:48Z)
• Exploring Linear Feature Disentanglement For Neural Networks [63.20827189693117]
  Sigmoid、ReLU、Tanhなどの非線形活性化関数は、ニューラルネットワーク(NN)において大きな成功を収めた。 サンプルの複雑な非線形特性のため、これらの活性化関数の目的は、元の特徴空間から線形分離可能な特徴空間へサンプルを投影することである。 この現象は、現在の典型的なNNにおいて、すべての特徴がすべての非線形関数によって変換される必要があるかどうかを探求することに興味をそそる。
  論文  参考訳（メタデータ） (2022-03-22T13:09:17Z)
• Stability of Algebraic Neural Networks to Small Perturbations [179.55535781816343]
  Algebraic Neural Network (AlgNN) は、代数的信号モデルと関連する各層のカスケードで構成されている。 畳み込みという形式的な概念を用いるアーキテクチャは、シフト演算子の特定の選択を超えて、いかに安定であるかを示す。
  論文  参考訳（メタデータ） (2020-10-22T09:10:16Z)
• Sparse Quantized Spectral Clustering [85.77233010209368]
  このような非線形変換の下で行列の固有スペクトルがどのように変化するのかを、ランダム行列理論のツールを用いて正確に述べる。 急激なスペーシング/量子化の下でも,情報的固有構造にはほとんど変化は見られなかった。
  論文  参考訳（メタデータ） (2020-10-03T15:58:07Z)
• Algebraic Neural Networks: Stability to Deformations [179.55535781816343]
  可換代数を用いた代数ニューラルネットワーク(AlgNN)について検討する。 AlgNNはユークリッド畳み込みニューラルネットワーク、グラフニューラルネットワーク、グループニューラルネットワークなどの多様なアーキテクチャを統合する。
  論文  参考訳（メタデータ） (2020-09-03T03:41:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。