論文の概要: The Symmetry of Differential Neural Tangent Kernel under the Orthogonal Group

• arxiv url: http://arxiv.org/abs/2610.34023v1
• Date: Sun, 25 Oct 2026 03:27:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 22:27:13.519248
• Title: The Symmetry of Differential Neural Tangent Kernel under the Orthogonal Group
• Title（参考訳）: 直交群における差動型ニューラルタンジェントカーネルの対称性
• Abstract要約: 我々は、同じ群軌道上の作用素によって誘導される単位球面上の積分作用素がスペクトルを共有することを示す。 また、作用素固定 DNTK が対称作用素の単位球面上に zonal symmetric を示すことも証明する。
• 参考スコア（独自算出の注目度）: 0.6319731355340598
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The differential neural tangent kernel (DNTK) is a tool for analyzing the training dynamics of overparameterized physics informed neural networks. In this work, we investigate the symmetry of the infinite DNTK under an orthogonal group, for two layer and deep neural networks separately, based on the explicit expression of the DNTK and recursive formula, respectively. The results are for all activations with or without a bias term, and shed insight into the structure of the infinite width DNTK. Then we prove that the integral operators over the unit sphere induced by operators from the same group orbit share the spectrum, and their reproducing kernel Hilbert spaces differ only by an orthogonal transformation, and that the operator fixed DNTK exhibits zonal symmetry on the unit sphere for symmetric operators. Thus the eigenvalue decay rate of the associated integral operator can be derived for shallow networks with RePU activation and zero bias initialization.
• Abstract（参考訳）: ディファレンシャル・ニューラル・タンジェント・カーネル(DNTK)は、過パラメータ化物理情報ニューラルネットワークのトレーニングダイナミクスを解析するためのツールである。 本研究では,直交群におけるDNTKの対称性について,DNTKと再帰公式の明示的表現に基づいて,2層とディープニューラルネットワークを別々に検討する。 結果は、バイアス項の有無にかかわらず全てのアクティベーションに対して行われ、無限幅DNTKの構造に関する洞察を隠蔽する。 そして、同じ群軌道上の作用素によって誘導される単位球面上の積分作用素がスペクトルを共有し、その再現された核ヒルベルト空間は直交変換によってのみ異なること、および作用素固定 DNTK が対称作用素の単位球面上の粒子対称性を示すことを証明した。 したがって、関連する積分作用素の固有値減衰速度は、RePUアクティベーションとゼロバイアス初期化を持つ浅いネットワークに対して導出することができる。

関連論文リスト

• The role of parameter Jacobians in the stability of network outputs [2.000834478067184]
  対応する線形化力学が自然に半群定式化につながることを示す。 対応する半群摂動のノルム有界性を証明する。 我々は, 片方向凍結近似による非正則NTK進化との比較を拡張した。
  論文  参考訳（メタデータ） (2026-08-27T22:21:10Z)
• Neural Networks Provably Learn Spectral Representations for Group Composition [51.637084292404616]
  ニューラルネットワークトレーニング中に内部構造がどのように現れるかを検討する。 トレーニング力学は表現理論エネルギー汎関数上の勾配上昇によって支配されていることを証明する。 このフレームワークは特徴学習の表現論的記述を提供し、新しい低ランク圧縮現象を特徴付ける。
  論文  参考訳（メタデータ） (2026-06-02T01:04:21Z)
• Shorting Dynamics and Structured Kernel Regularization [0.0]
  正作用素の誘導列は単調であり、完全分解を認め、古典的ショート演算子に収束する。 これにより、不変カーネルの構築とデータ解析における構造化正規化に対する演算子解析の統一化が実現される。
  論文  参考訳（メタデータ） (2025-12-04T15:02:42Z)
• Revolutionizing Fractional Calculus with Neural Networks: Voronovskaya-Damasclin Theory for Next-Generation AI Systems [0.0]
  この研究は、対称性と双曲型摂動関数によって活性化されるニューラルネットワーク演算子に対する厳密な収束率を導入する。 古典近似理論をカプトー微分を通じて分数計算に拡張する。
  論文  参考訳（メタデータ） (2025-04-01T21:03:00Z)
• A tensor network formulation of Lattice Gauge Theories based only on symmetric tensors [0.0]
  対称な基本テンソルに基づくゲージ不変理論の新しいPEPSテンソルネットワークの定式化を提供する。 新しい定式化は、利用可能な最先端テンソルネットワークライブラリを用いて数値シミュレーションで実装することができる。 このような新しい定式化は、格子ゲージ理論と大域不変系の特定のセクターの間の新しい双対変換をもたらすことを示す。
  論文  参考訳（メタデータ） (2024-12-22T10:42:05Z)
• Benign Overfitting in Deep Neural Networks under Lazy Training [72.28294823115502]
  データ分布が適切に分離された場合、DNNは分類のためのベイズ最適テスト誤差を達成できることを示す。 よりスムーズな関数との補間により、より一般化できることを示す。
  論文  参考訳（メタデータ） (2023-05-30T19:37:44Z)
• Resolution-Invariant Image Classification based on Fourier Neural Operators [1.3190581566723918]
  画像分類における一般化ニューラルネットワーク (FNO) の利用について, 標準畳み込みニューラルネットワーク (CNN) と比較して検討した。 我々は、ルベーグ空間上の連続およびFr'echet微分可能なニューラル作用素の例としてFNOアーキテクチャを導出する。
  論文  参考訳（メタデータ） (2023-04-02T10:23:36Z)
• Gradient Descent in Neural Networks as Sequential Learning in RKBS [63.011641517977644]
  初期重みの有限近傍にニューラルネットワークの正確な電力系列表現を構築する。 幅にかかわらず、勾配降下によって生成されたトレーニングシーケンスは、正規化された逐次学習によって正確に複製可能であることを証明した。
  論文  参考訳（メタデータ） (2023-02-01T03:18:07Z)
• Tangent Bundle Filters and Neural Networks: from Manifolds to Cellular Sheaves and Back [114.01902073621577]
  畳み込みを用いて、タンジェントバンドルフィルタとタンジェントバンドルニューラルネットワーク(TNN)を定義する。 我々は、TNNを時間領域と空間領域の両方で識別し、その離散性は、最近導入されたSheaf Neural Networksの原則的な変種であることを示す。 単体2次元球面上の接ベクトル場の復調作業における提案手法の有効性を数値的に評価する。
  論文  参考訳（メタデータ） (2022-10-26T21:55:45Z)
• Interrelation of equivariant Gaussian processes and convolutional neural networks [77.34726150561087]
  現在、ニューラルネットワーク(NN)とガウス過程(GP)の関係に基づく機械学習(ML)には、かなり有望な新しい傾向がある。 本研究では、ベクトル値のニューロン活性化を持つ2次元ユークリッド群とそれに対応する独立に導入された同変ガウス過程(GP)との関係を確立する。
  論文  参考訳（メタデータ） (2022-09-17T17:02:35Z)
• Provably Efficient Neural Estimation of Structural Equation Model: An Adversarial Approach [144.21892195917758]
  一般化構造方程式モデル(SEM)のクラスにおける推定について検討する。 線形作用素方程式をmin-maxゲームとして定式化し、ニューラルネットワーク(NN)でパラメータ化し、勾配勾配を用いてニューラルネットワークのパラメータを学習する。 提案手法は,サンプル分割を必要とせず,確固とした収束性を持つNNをベースとしたSEMの抽出可能な推定手順を初めて提供する。
  論文  参考訳（メタデータ） (2020-07-02T17:55:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。