論文の概要: Parameter-Level Attribution of Symmetry in Trained Networks Though Parameter-Wise Functional Sensitivity

• arxiv url: http://arxiv.org/abs/2608.24700v1
• Date: Tue, 25 Aug 2026 15:24:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-26 14:09:35.062206
• Title: Parameter-Level Attribution of Symmetry in Trained Networks Though Parameter-Wise Functional Sensitivity
• Title（参考訳）: パラメータ幅関数感度を考慮した学習ネットワークにおける対称性のパラメータレベル属性
• Abstract要約: 滑らかなパラメータ空間の作用は、函数の対称性軌道への接空間が$mathrm d_$の像内にある場合にのみ存在することを示す。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: When a network has learned a function with a known symmetry, can that symmetry be moved through the parametrisation---is there a motion in parameter space realising the group action in function space? We formulate this as a lifting problem for the realisation map $Φ:θ\mapsto f_θ$, and show that a smooth parameter-space action exists only if the tangent space to the function's symmetry orbit lies within the image of $\mathrm dΦ_θ$, whose columns are the \emph{functional sensitivities} of individual parameters. This condition is also sufficient for pointwise first-order lifting. Relaxing it in least squares yields two local parameter directions: one following the symmetry orbit, one descending towards the equivariant subspace, with residuals measuring what the parametrisation cannot reach. On a rotationally invariant classifier we find these directions induce their predicted function-space motion, but only locally: recomputed directions track the orbit and reduce the equivariance defect, while directions held fixed depart from both after training. The same holds for Hamiltonian neural networks trained on a rotationally symmetric potential, even though the architecture does not explicitly enforce the symmetry.
• Abstract（参考訳）: ネットワークが既知の対称性を持つ関数を学んだとき、その対称性はパラメトリシエーションを通して移動することができるか-----関数空間における群作用を実現するパラメータ空間に運動が存在するか? これを実現写像の持ち上げ問題として定式化し、関数の対称性軌道に対する接空間が、個々のパラメータの 'emph{functional sensitities' である$\mathrm d\_θ$ の像内にある場合にのみ、滑らかなパラメータ空間作用が存在することを示す。 この条件は、一階昇降にも十分である。 最小二乗法で緩和すると、2つの局所パラメータ方向が得られる: 1つは対称性の軌道に沿って、もう1つは同変部分空間に向かって下降し、残差はパラメトリゼーションが到達できないものを測定する。 回転不変な分類器では、これらの方向は予測された関数空間運動を誘導するが、局所的にのみ、再計算された方向は軌道を追跡し、同値な欠陥を減少させる。 同じことは、アーキテクチャが対称性を明示的に強制していないにもかかわらず、回転対称ポテンシャルで訓練されたハミルトンニューラルネットワークにも当てはまる。

関連論文リスト

• Scale redundancy and soft gauge fixing in positively homogeneous neural networks [0.0]
  正に均質な活性化を持つニューラルネットワークは、正確な連続的な再パラメータ化対称性を示す。 不変方向とスケール不均衡方向を分離するゲージ適応座標を導入する。 電場理論におけるゲージ固定に着想を得て、冗長スケール座標のみに作用するソフト軌道選択関数を導入する。
  論文  参考訳（メタデータ） (2026-02-16T13:21:49Z)
• Deep Learning for Subspace Regression [42.94349364701736]
  そのようなスキームを適用する実践的な方法は、計算的に要求されるオフラインステージにおいて、選択されたパラメータセットのサブスペースを計算することである。 現実的な問題に対して、パラメータの空間は高次元であり、古典的な戦略は実現不可能か信頼できない。 本稿では, 回帰問題を緩和し, 部分空間データに適したいくつかの損失関数を導入し, ニューラルネットワークを高次元目標関数の近似として用いることを提案する。
  論文  参考訳（メタデータ） (2025-09-27T10:56:03Z)
• Generalized Linear Mode Connectivity for Transformers [87.32299363530996]
  驚くべき現象はリニアモード接続(LMC)であり、独立に訓練されたモデルを低損失またはゼロ損失の経路で接続することができる。 以前の研究は主に置換によるニューロンの並べ替えに焦点を合わせてきたが、そのようなアプローチは範囲に限られている。 我々は、4つの対称性クラス(置換、半置換、変換、一般可逆写像)をキャプチャする統一的なフレームワークを導入する。 この一般化により、独立に訓練された視覚変換器とGPT-2モデルの間の低障壁とゼロバリア線形経路の発見が可能となった。
  論文  参考訳（メタデータ） (2025-06-28T01:46:36Z)
• AtlasD: Automatic Local Symmetry Discovery [27.793766164323532]
  本稿では、局所対称性の概念をアトラス同値として定式化する。 提案するパイプライン,自動局所対称性探索(AtlasD)は,局所予測ネットワークを訓練することにより関数の局所対称性を回復する。 検出された局所対称性は、気候セグメンテーションや視覚タスクにおける下流タスクのパフォーマンスを向上させる有用な帰納バイアスであることが示されている。
  論文  参考訳（メタデータ） (2025-04-15T00:41:55Z)
• Beyond the Permutation Symmetry of Transformers: The Role of Rotation for Model Fusion [43.299430093251736]
  変圧器のパラメータ空間対称性の新たな形式である回転対称性を導入する。 置換対称性とは異なり、回転対称性は連続領域で作用し、変圧器の同値集合を著しく拡大する。 モデル融合を強化するためのプラグアンドプレイモジュールとして理論的に最適なマッチングアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2025-02-01T01:44:55Z)
• The Empirical Impact of Neural Parameter Symmetries, or Lack Thereof [50.49582712378289]
  ニューラル・ネットワーク・アーキテクチャの導入により,ニューラル・パラメータ・対称性の影響について検討する。 我々は,パラメータ空間対称性を低減するために,標準的なニューラルネットワークを改良する2つの手法を開発した。 実験により,パラメータ対称性の経験的影響に関する興味深い観察がいくつか示された。
  論文  参考訳（メタデータ） (2024-05-30T16:32:31Z)
• A Galois theorem for machine learning: Functions on symmetric matrices and point clouds via lightweight invariant features [26.619014249559942]
  対称行列と点雲上の関数の機械学習のための数学的定式化を提案する。 ガロア理論にインスパイアされたアイデアを用いて、一般的に不変な特徴を分離する一般的な構成を提供する。 我々は、不変な特徴の数が、表現性を失うことなく総称的に$O(n)$に還元できることを証明している。
  論文  参考訳（メタデータ） (2024-05-13T18:24:03Z)
• Symmetry-guided gradient descent for quantum neural networks [5.170906880400192]
  対称性の制約を簡潔な数学的形式に定式化する。 コスト関数に制約を適用する2つの方法を設計します。 我々は対称性誘導勾配降下法(SGGD)と呼ぶ。
  論文  参考訳（メタデータ） (2024-04-09T08:19:33Z)
• Learning Layer-wise Equivariances Automatically using Gradients [66.81218780702125]
  畳み込みは等価対称性をニューラルネットワークにエンコードし、より優れた一般化性能をもたらす。 対称性は、ネットワークが表現できる機能、事前に指定する必要、適応できない機能に対して、固定されたハード制約を提供する。 私たちのゴールは、勾配を使ってデータから自動的に学習できるフレキシブル対称性の制約を可能にすることです。
  論文  参考訳（メタデータ） (2023-10-09T20:22:43Z)
• Latent Space Symmetry Discovery [31.28537696897416]
  本稿では,非線形群作用の対称性を発見できる新しい生成モデルであるLatent LieGANを提案する。 本モデルでは,群作用に関する条件下で非線形対称性を表現できることが示されている。 LaLiGANはまた、方程式発見や長期予測を含む下流のタスクに有用な構造化された潜在空間をもたらす。
  論文  参考訳（メタデータ） (2023-09-29T19:33:01Z)
• Towards Antisymmetric Neural Ansatz Separation [48.80300074254758]
  反対称関数の2つの基本モデル、すなわち $f(x_sigma(1), ldots, x_sigma(N)) の形の函数 $f$ の分離について研究する。 これらは量子化学の文脈で発生し、フェルミオン系の波動関数の基本的なモデリングツールである。
  論文  参考訳（メタデータ） (2022-08-05T16:35:24Z)
• Reflection and Rotation Symmetry Detection via Equivariant Learning [40.61825212385055]
  我々は、EquiSymと呼ばれる対称性検出のためのグループ同変畳み込みネットワークを導入する。 DENse と Diverse symmetric (DENDI) という新しいデータセットを提案し、既存の反射・回転対称性検出のためのベンチマークの制限を緩和する。 実験により,LDRSおよびDENDIデータセットの対称性検出において,本手法が芸術の状態を達成できることが確認された。
  論文  参考訳（メタデータ） (2022-03-31T04:18:33Z)
• Machine-learning hidden symmetries [0.0]
  本稿では,新しい座標系にのみ現れる隠れ対称性を自動検出する手法を提案する。 その中心となる考え方は、ある偏微分方程式の違反として非対称性を定量化し、すべての可逆変換の空間上のそのような違反を数値的に最小化し、可逆ニューラルネットワークとしてパラメータ化することである。
  論文  参考訳（メタデータ） (2021-09-20T17:55:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。