論文の概要: VC dimensions of group convolutional neural networks
- arxiv url: http://arxiv.org/abs/2212.09507v1
- Date: Mon, 19 Dec 2022 14:43:22 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-20 15:55:51.652577
- Title: VC dimensions of group convolutional neural networks
- Title(参考訳): グループ畳み込みニューラルネットワークのvc次元
- Authors: Philipp Christian Petersen, Anna Sepliarskaia
- Abstract要約: 群畳み込みニューラルネットワークの一般化能力について検討する。
グループ畳み込みニューラルネットワークの単純な集合のVC次元の正確な推定を行う。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We study the generalization capacity of group convolutional neural networks.
We identify precise estimates for the VC dimensions of simple sets of group
convolutional neural networks. In particular, we find that for infinite groups
and appropriately chosen convolutional kernels, already two-parameter families
of convolutional neural networks have an infinite VC dimension, despite being
invariant to the action of an infinite group.
- Abstract(参考訳): 群畳み込みニューラルネットワークの一般化能力について検討する。
我々は、グループ畳み込みニューラルネットワークの単純な集合のvc次元の正確な推定を同定する。
特に、無限群と適切に選択された畳み込み核の場合、既に2パラメータの畳み込みニューラルネットワークの族は、無限群の作用に不変であるにもかかわらず、無限のVC次元を持つ。
関連論文リスト
- On the VC dimension of deep group convolutional neural networks [7.237068561453083]
本稿では,グループ畳み込みニューラルネットワーク(GCNN)のReLU活性化機能を用いた一般化機能について検討する。
層数,重み,入力次元などの因子がVapnik-Chervonenkis(VC)次元にどのように影響するかを分析する。
論文 参考訳(メタデータ) (2024-10-21T09:16:06Z) - Equivariant Neural Tangent Kernels [2.373992571236766]
我々は、グループ畳み込みニューラルネットワークのニューラルネットワーク(NTK)に対する明示的な表現を与える。
数値実験では, 医用画像の分類タスクにおいて, 非同変NTKに対して, 同変NTKよりも優れた性能を示す。
論文 参考訳(メタデータ) (2024-06-10T17:43:13Z) - Novel Kernel Models and Exact Representor Theory for Neural Networks Beyond the Over-Parameterized Regime [52.00917519626559]
本稿では、ニューラルネットワークの2つのモデルと、任意の幅、深さ、トポロジーのニューラルネットワークに適用可能なトレーニングについて述べる。
また、局所外在性神経核(LeNK)の観点から、非正規化勾配降下を伴う階層型ニューラルネットワークトレーニングのための正確な表現子理論を提示する。
この表現論は、ニューラルネットワークトレーニングにおける高次統計学の役割と、ニューラルネットワークのカーネルモデルにおけるカーネル進化の影響について洞察を与える。
論文 参考訳(メタデータ) (2024-05-24T06:30:36Z) - Permutation Equivariant Neural Functionals [92.0667671999604]
この研究は、他のニューラルネットワークの重みや勾配を処理できるニューラルネットワークの設計を研究する。
隠れた層状ニューロンには固有の順序がないため, 深いフィードフォワードネットワークの重みに生じる置換対称性に着目する。
実験の結果, 置換同変ニューラル関数は多種多様なタスクに対して有効であることがわかった。
論文 参考訳(メタデータ) (2023-02-27T18:52:38Z) - Norm-based Generalization Bounds for Compositionally Sparse Neural
Networks [11.987589603961622]
畳み込みニューラルネットワークを含む多層スパースReLUニューラルネットワークに対する一般化境界を証明した。
これらの結果から, 深いニューラルネットワークの成功には, 対象関数の組成空間が重要であることが示唆された。
論文 参考訳(メタデータ) (2023-01-28T00:06:22Z) - Equivariant and Steerable Neural Networks: A review with special
emphasis on the symmetric group [0.76146285961466]
畳み込みニューラルネットワークはコンピュータビジョンとナトリウム言語処理に革命をもたらした。
その効率性は、完全に接続されたニューラルネットワークと比較して、アーキテクチャに起源を持つ。
等変層やフィルタバンク,カプセルの活性化,グループプールなどのネットワークアーキテクチャを概観する。
論文 参考訳(メタデータ) (2023-01-08T11:05:31Z) - Neural Networks with Sparse Activation Induced by Large Bias: Tighter Analysis with Bias-Generalized NTK [86.45209429863858]
ニューラル・タンジェント・カーネル(NTK)における一層ReLUネットワークのトレーニングについて検討した。
我々は、ニューラルネットワークが、テクティトビア一般化NTKと呼ばれる異なる制限カーネルを持っていることを示した。
ニューラルネットの様々な特性をこの新しいカーネルで研究する。
論文 参考訳(メタデータ) (2023-01-01T02:11:39Z) - Extrapolation and Spectral Bias of Neural Nets with Hadamard Product: a
Polynomial Net Study [55.12108376616355]
NTKの研究は典型的なニューラルネットワークアーキテクチャに特化しているが、アダマール製品(NNs-Hp)を用いたニューラルネットワークには不完全である。
本研究では,ニューラルネットワークの特別なクラスであるNNs-Hpに対する有限幅Kの定式化を導出する。
我々は,カーネル回帰予測器と関連するNTKとの等価性を証明し,NTKの適用範囲を拡大する。
論文 参考訳(メタデータ) (2022-09-16T06:36:06Z) - Identifying and interpreting tuning dimensions in deep networks [83.59965686504822]
チューニングディメンションは、ニューロン群の活性化分散の大部分を占める刺激特性である。
この研究は、ディープ・ネットワークにおける「チューニング・ディメンション」を特定し解釈するための教師なしのフレームワークに貢献している。
論文 参考訳(メタデータ) (2020-11-05T21:26:03Z) - Neural Group Actions [0.0]
本稿では、与えられた有限群の法則を満たす対称変換をモデル化するディープニューラルネットワークアーキテクチャの集合であるニューラル・グループ・アクションを設計するアルゴリズムを提案する。
実験により、四元数群$Q_8$に対するニューラル群作用が、Q_8$群法則を満たす非普遍量子ゲートの集合が単一量子ビット量子状態に対してどのように作用するかを学習できることを示した。
論文 参考訳(メタデータ) (2020-10-08T02:27:05Z) - Learn to Predict Sets Using Feed-Forward Neural Networks [63.91494644881925]
本稿では、ディープフィードフォワードニューラルネットワークを用いた設定予測の課題に対処する。
未知の置換と基数を持つ集合を予測するための新しい手法を提案する。
関連視覚問題に対する集合定式化の有効性を実証する。
論文 参考訳(メタデータ) (2020-01-30T01:52:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。