論文の概要: A General Topological Symmetry Index for Critical Orbits In Neural Network Loss Landscapes

• arxiv url: http://arxiv.org/abs/2610.28864v1
• Date: Tue, 20 Oct 2026 19:35:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-23 00:40:06.134808
• Title: A General Topological Symmetry Index for Critical Orbits In Neural Network Loss Landscapes
• Title（参考訳）: ニューラルネットワークロスランドスケープにおける臨界軌道の一般的なトポロジカル対称性指標
• Abstract要約: ニューラルネットワーク損失ランドスケープのグローバル構造に関する体系的な理解は、その高次元性のため、依然として困難である。 この研究において、同変次数理論の族からの方法論に基づいて位相対称性指数を確立し、これらの対称性を復号する。 インデックスは臨界点の等方性を検出し、対応するネットコントリビューションを定量化する。
• 参考スコア（独自算出の注目度）: 3.2063364612188416
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: A systematic understanding of the global structure of neural-network loss landscapes remains challenging due to their high dimensionality. Symmetries arising from network architectures and learning objectives provide a way to investigate aspects of this structure. Although a growing number of studies have drawn attention to these symmetries, a systematic characterization of them, as well as of the critical orbits they give rise to, remains incomplete. To address this gap, in this work we establish a topological symmetry index, based on the methodologies from the family of equivariant degree theories, to decode these symmetries. The frameworks apply to arbitrary network architectures and include methods applicable to degenerate critical orbits. The index detects the isotropy of the critical points and quantifies the corresponding net topological contributions. Several examples, including softplus MLPs, Transformers, and equivariant neural networks, are presented to illustrate the computations.
• Abstract（参考訳）: ニューラルネットワークロスランドスケープのグローバル構造に関する体系的な理解は、その高次元性のため、依然として困難である。 ネットワークアーキテクチャと学習目的から生じる対称性は、この構造の側面を調査する方法を提供する。 多くの研究がこれらの対称性に注意を向けているが、それらの体系的な特徴とそれらが生み出す臨界軌道は不完全である。 このギャップに対処するため、この研究において、同変次数理論の族からの方法論に基づいて位相対称性指数を確立し、これらの対称性をデコードする。 フレームワークは任意のネットワークアーキテクチャに適用され、臨界軌道を縮退する手法を含む。 指数は臨界点の等方性を検出し、対応するネットトポロジカルな寄与を定量化する。 ソフトプラスMLP、トランスフォーマー、同変ニューラルネットワークなどのいくつかの例が、計算の例を示すために提示されている。

関連論文リスト

• Discovering Symmetries in Neural Network Parameter Spaces [38.735380435048256]
  宇宙対称性は、ニューラルネットワークの損失ランドスケープ、トレーニングダイナミクス、一般化を理解するために重要である。 筆者らのフレームワークは,従来未知のパラメータを含むパラメータ対称性を体系的に発見する。 無限小キャラクタリゼーションとサブネットワーク構築を用いて,パラメータ対称性の自動発見のためのフレームワークを実装した。
  論文  参考訳（メタデータ） (2026-09-27T12:51:22Z)
• Stochastic Neural Network Symmetrisation in Markov Categories [2.0668277618112203]
  我々は、群準同型に沿ってニューラルネットワークをシンメトリする問題を考察する。 これをマルコフ圏の項で定式化する。 シンメトリションのためのフレキシブルで構成的な枠組みを得る。
  論文  参考訳（メタデータ） (2024-06-17T17:54:42Z)
• The Empirical Impact of Neural Parameter Symmetries, or Lack Thereof [50.49582712378289]
  ニューラル・ネットワーク・アーキテクチャの導入により,ニューラル・パラメータ・対称性の影響について検討する。 我々は,パラメータ空間対称性を低減するために,標準的なニューラルネットワークを改良する2つの手法を開発した。 実験により,パラメータ対称性の経験的影響に関する興味深い観察がいくつか示された。
  論文  参考訳（メタデータ） (2024-05-30T16:32:31Z)
• Lie Point Symmetry and Physics Informed Networks [59.56218517113066]
  本稿では、損失関数を用いて、PINNモデルが基礎となるPDEを強制しようとするのと同じように、リー点対称性をネットワークに通知するロス関数を提案する。 我々の対称性の損失は、リー群の無限小生成元がPDE解を保存することを保証する。 実験により,PDEのリー点対称性による誘導バイアスはPINNの試料効率を大幅に向上させることが示された。
  論文  参考訳（メタデータ） (2023-11-07T19:07:16Z)
• Understanding Graph Neural Networks with Generalized Geometric Scattering Transforms [67.88675386638043]
  散乱変換は、畳み込みニューラルネットワークのモデルとして機能する多層ウェーブレットベースのディープラーニングアーキテクチャである。 非対称ウェーブレットの非常に一般的なクラスに基づくグラフに対して、窓付きおよび非窓付き幾何散乱変換を導入する。 これらの非対称グラフ散乱変換は、対称グラフ散乱変換と多くの理論的保証を持つことを示す。
  論文  参考訳（メタデータ） (2019-11-14T17:23:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。