論文の概要: A Commutator Framework for Selective Spectral Alignment in Deep Neural Networks

• arxiv url: http://arxiv.org/abs/2608.22910v1
• Date: Mon, 24 Aug 2026 07:42:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-25 13:29:43.954273
• Title: A Commutator Framework for Selective Spectral Alignment in Deep Neural Networks
• Title（参考訳）: ディープニューラルネットワークにおける選択スペクトルアライメントのためのコミュテータフレームワーク
• Abstract要約: 学習した特徴量がどのように組織化され、輸送され、選択的に深層ニューラルネットワークに整列されるかを記述する、有限幅の幾何学的枠組みを開発する。 重み付き共分散、ゲート、後方感度の不適合性は、通勤者の3つのファミリーによって定量化される。 我々は、スペクトルギャップ、プロジェクター進化、安定化推定を確立し、明示的な幾何学的誤差境界あるいは本質的な減衰仮定の下で崩壊する条件付きリアプノフの原理を定式化する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We develop a finite-width geometric framework describing how learned feature geometries are organized, transported, and selectively aligned in deep neural networks. Incompatibility among weight-generated covariance, gates, and backward sensitivities is quantified through three families of commutators: between gates and covariance, between sensitivities and covariance, and between average gradient outer products (AGOPs) and neural feature matrices (NFMs). An exact layerwise identity decomposes the sensitivity-covariance commutator into four sources: downstream transport, adjacent-layer imbalance, pointwise sensitivity fluctuations, and nonlinear gate-covariance interactions. The AGOP-NFM commutator is a singular-value-weighted transport of the internal commutator, explaining why observed feature-side alignment alone does not determine the internal geometry from which it emerges. Buffered localized energies resolve mixing between separated covariance subspaces. We establish spectral-gap, projector-evolution, and stabilization estimates, and formulate conditional Lyapunov principles that yield decay under explicit geometric error-bound or intrinsic-damping assumptions. These criteria do not follow from gradient flow alone and clarify why risk reduction need not imply commutator collapse. Analytic examples and numerical experiments exhibit factorization of spectral and activation geometry, transient growth, and cancellation among nonzero sources. In tested finite-time regimes, cancellation dominated by a negative transport-imbalance interaction persists across depths, widths, and two regression benchmarks. Spectral alignment therefore appears as a layer- and scale-dependent compatibility phenomenon governed by transport, interaction, cancellation, and possible damping, rather than a universal consequence of training.
• Abstract（参考訳）: 学習した特徴量がどのように組織化され、輸送され、選択的に深層ニューラルネットワークに整列されるかを記述する、有限幅の幾何学的枠組みを開発する。 重み付き共分散, ゲート, 後方感度の不適合性は, ゲートと共分散, 感度と共分散, 平均勾配外積 (AGOPs) とニューラル特徴行列 (NFMs) の3種類のコンピュテーターによって定量される。 正確な層単位は、感度共分散可換器を下流輸送、隣接層不均衡、点方向の感度変動、非線形ゲート-共分散相互作用の4つの源に分解する。 AGOP-NFM 可換器は内部可換器の特異値重み付き輸送であり、なぜ観測された特徴側アライメントだけでそれが現れる内部幾何学を決定できないのかを説明する。 バッファ化された局所化エネルギーは分離された共分散部分空間間の混合を解消する。 我々は、スペクトルギャップ、プロジェクター進化、安定化推定を確立し、明示的な幾何学的誤差境界あるいは本質的な減衰仮定の下で崩壊する条件付きリアプノフの原理を定式化する。 これらの基準は勾配流のみに従わず、なぜリスク低減が通勤者崩壊を示唆しないのかを明らかにする。 分析例と数値実験は、スペクトルおよび活性化幾何学の分解、過渡的な成長、非ゼロ源間のキャンセルを示す。 試験された有限時間体制では、負の輸送-不均衡相互作用に支配されるキャンセルは深さ、幅、および2つの回帰ベンチマークにわたって持続する。 したがって、スペクトルアライメントは、訓練の普遍的な結果ではなく、輸送、相互作用、キャンセル、および可能な減衰によって支配される層およびスケール依存の互換性現象として現れる。

関連論文リスト

• Nonlocality-induced critical-length hierarchy from non-Hermitian competition [48.9823527611878]
  2つの連結鎖からなる短距離系において、競合は臨界長法則$N_csimln D$に導かれる。 ここでは、長距離ホッピングがこの臨界挙動を根本的に再編成し、異なるスケーリング法則の階層を生成することを示す。 この結果は,プログラム可能なトポ誘電回路,フォトニック格子,デジタル量子シミュレータでテスト可能なプラットフォーム非依存のフレームワークを提供する。
  論文  参考訳（メタデータ） (2026-08-03T18:00:18Z)
• Learning Bidirectional Causal Interactions with Heteroscedastic Neural Networks [1.0356094515229846]
  本稿では,ヘテロセダスティックなニューラル同時方程式推定器であるSEM-DNNを提案する。 外部機器を使わずに相互構造相互作用を学習する。 シーレアルスキャナーデータへの応用は、同時期の価格-セールフィードバックを研究する方法を示している。
  論文  参考訳（メタデータ） (2026-07-24T13:53:58Z)
• Bypassing Minimization Bias: A Shift-Invariant Variance Estimator for Off-Equilibrium Local Learning Coefficients [0.0]
  シフト不変変数推定器(SIVE) SIVE は分散に基づく局所 LLC プローブで、分散演算子を通して未知の加法基底線を構造的に除去する。 ディープニューラルネットワークの適用により、SIVEは、トレーニング全体を通して構造的なフェーズ遷移を追跡する、堅牢でローカライズされたオンライン診断を提供する。
  論文  参考訳（メタデータ） (2026-06-21T08:32:34Z)
• A Gauge-Covariant Theoretical Framework for Non-Abelian Holonomy Estimation and Feed-Forward Correction in Time-Bin Photonic Qudits [0.0]
  時間ビンフォトニック・クエット処理における非アベリア幾何学的歪みを推定・補正するための理論的枠組みを開発する。 この研究は、デバイス固有の転送行列、損失モデル、検出器モデル、実験キャリブレーションパイプラインを想定していない。
  論文  参考訳（メタデータ） (2026-05-26T08:40:26Z)
• Commutator-Induced Uncertainty in VAEs [20.84327211490012]
  変分オートエンコーダ(VAE)は、学習された潜在空間における非可換構造を表現するのにしばしば苦労する。 我々は不確実性に関する幾何学的視点と代数的視点を組み合わせたリー群VAEフレームワークを導入する。 dSprites, 3DShapes, 3DCars, CelebAのフレームワークを, 汎用的および対称性を考慮したベースラインに対して評価した。
  論文  参考訳（メタデータ） (2026-05-22T10:03:46Z)
• Gauge-Equivariant Intrinsic Neural Operators for Geometry-Consistent Learning of Elliptic PDE Maps [0.0]
  幾何偏微分方程式(PDE)に対するゲージ同変固有ニューラル演算子(GINO)を提案する。 GINOは、幾何依存スペクトルに作用する固有スペクトル乗法を通して楕円解をパラメータ化し、ゲージ-等変非線形性と結合する。 我々は, GINO が低演算子近似誤差, 機械精度ゲージの等値, 構造的計量摂動に対する等剛性, 制約/延長条件下での小さい可換誤差による強いクロスレゾリューション一般化, 正規化された完全/コンパクトな分解タスクにおける構造保存性能を実現することを示す。
  論文  参考訳（メタデータ） (2026-03-16T02:10:06Z)
• Stability and Generalization of Push-Sum Based Decentralized Optimization over Directed Graphs [55.77845440440496]
  プッシュベースの分散通信は、情報交換が非対称である可能性のある通信ネットワークの最適化を可能にする。 我々は、グラディエント・プッシュ(SGP)アルゴリズムのための統一的な一様安定性フレームワークを開発する。 重要な技術的要素は、2つの量に束縛された不均衡認識の一般化である。
  論文  参考訳（メタデータ） (2026-02-24T05:32:03Z)
• Revisiting Zeroth-Order Optimization: Minimum-Variance Two-Point Estimators and Directionally Aligned Perturbations [57.179679246370114]
  乱摂動の分布は, 摂動段差がゼロになる傾向にあるため, 推定子の分散を最小限に抑える。 以上の結果から, 一定の長さを維持するのではなく, 真の勾配に方向を合わせることが可能であることが示唆された。
  論文  参考訳（メタデータ） (2025-10-22T19:06:39Z)
• Non Commutative Convolutional Signal Models in Neural Networks: Stability to Small Deformations [111.27636893711055]
  非可換畳み込みフィルタのフィルタ特性と安定性について検討する。 この結果は,グループニューラルネットワーク,マルチグラフニューラルネットワーク,四元系ニューラルネットワークに直接影響する。
  論文  参考訳（メタデータ） (2023-10-05T20:27:22Z)
• Learning Discretized Neural Networks under Ricci Flow [48.47315844022283]
  低精度重みとアクティベーションからなる離散ニューラルネットワーク(DNN)について検討する。 DNNは、訓練中に微分不可能な離散関数のために無限あるいはゼロの勾配に悩まされる。
  論文  参考訳（メタデータ） (2023-02-07T10:51:53Z)
• On Convergence of Training Loss Without Reaching Stationary Points [62.41370821014218]
  ニューラルネットワークの重み変数は、損失関数の勾配が消える定常点に収束しないことを示す。 エルゴード理論の力学系に基づく新しい視点を提案する。
  論文  参考訳（メタデータ） (2021-10-12T18:12:23Z)
• Convolutional Filtering and Neural Networks with Non Commutative Algebras [153.20329791008095]
  本研究では,非可換畳み込みニューラルネットワークの一般化について検討する。 非可換畳み込み構造は作用素空間上の変形に対して安定であることを示す。
  論文  参考訳（メタデータ） (2021-08-23T04:22:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。