論文の概要: SEIS: Subspace-based Equivariance and Invariance Scores for Neural Representations

• arxiv url: http://arxiv.org/abs/2602.04054v1
• Date: Tue, 03 Feb 2026 22:38:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-02-05 19:45:11.297534
• Title: SEIS: Subspace-based Equivariance and Invariance Scores for Neural Representations
• Title（参考訳）: SEIS:ニューラル表現のための部分空間に基づく等分散と不変スコア
• Authors: Huahua Lin, Katayoun Farrahi, Xiaohao Cai,
• Abstract要約: 幾何学的変換の下で階層的特徴表現を解析するためのサブスペースメトリックであるSEISを紹介する。 合成検証は、SEISが既知の変換を正しく回復することを確認する。 マルチタスク学習は、共有エンコーダにおける両方の特性の相乗効果を誘導することを示す。
• 参考スコア（独自算出の注目度）: 1.2431372110088466
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Understanding how neural representations respond to geometric transformations is essential for evaluating whether learned features preserve meaningful spatial structure. Existing approaches primarily assess robustness by comparing model outputs under transformed inputs, offering limited insight into how geometric information is organized within internal representations and failing to distinguish between information loss and re-encoding. In this work, we introduce SEIS (Subspace-based Equivariance and Invariance Scores), a subspace metric for analyzing layer-wise feature representations under geometric transformations, disentangling equivariance from invariance without requiring labels or explicit knowledge of the transformation. Synthetic validation confirms that SEIS correctly recovers known transformations. Applied to trained classification networks, SEIS reveals a transition from equivariance in early layers to invariance in deeper layers, and that data augmentation increases invariance while preserving equivariance. We further show that multi-task learning induces synergistic gains in both properties at the shared encoder, and skip connections restore equivariance lost during decoding.
• Abstract（参考訳）: 学習した特徴が意味のある空間構造を保持するかどうかを評価するためには、神経表現が幾何変換にどう反応するかを理解することが不可欠である。 既存のアプローチは主に、変換された入力の下でモデル出力を比較することでロバスト性を評価し、幾何学的情報が内部表現の中でどのように組織化され、情報損失と再符号化の区別ができないかについての限られた洞察を提供する。 本研究は,階層的特徴表現を幾何学的変換の下で解析し,ラベルや変換の明示的な知識を必要とせず,不変性から等値性を引き離すための部分空間計量であるSEIS(Subspace-based Equivariance and Invariance Scores)を紹介する。 合成検証は、SEISが既知の変換を正しく回復することを確認する。 トレーニングされた分類網に適用すると、SEISは初期層における等分散からより深い層における等分散への移行を明らかにし、データの増大は等分散を保ちながら不変性を増加させる。 さらに、マルチタスク学習は、共有エンコーダにおける両方の特性の相乗的ゲインを誘導し、復号時に失われる接続をスキップする。

関連論文リスト

• PseudoNeg-MAE: Self-Supervised Point Cloud Learning using Conditional Pseudo-Negative Embeddings [55.55445978692678]
  PseudoNeg-MAEは、ポイントクラウドマスマスキングオートエンコーダのグローバルな特徴表現を強化する。 本研究では,ネットワークが識別的表現を保ちながら,よりリッチな変換キューをキャプチャできる新たな損失を提案する。
  論文  参考訳（メタデータ） (2024-09-24T07:57:21Z)
• What Affects Learned Equivariance in Deep Image Recognition Models? [10.590129221143222]
  ImageNet上で,学習した翻訳の等価性と検証精度の相関関係を示す証拠が発見された。 データ拡張、モデルのキャパシティの低減、畳み込みの形での帰納バイアスは、ニューラルネットワークにおいてより高い学習等価性をもたらす。
  論文  参考訳（メタデータ） (2023-04-05T17:54:25Z)
• The Lie Derivative for Measuring Learned Equivariance [84.29366874540217]
  我々は、CNN、トランスフォーマー、ミキサーアーキテクチャにまたがる数百の事前訓練されたモデルの同値性について検討する。 その結果,不等式違反の多くは,不等式などのユビキタスネットワーク層における空間エイリアスに関連付けられることがわかった。 例えば、トランスはトレーニング後の畳み込みニューラルネットワークよりも同種である。
  論文  参考訳（メタデータ） (2022-10-06T15:20:55Z)
• Equivariant Disentangled Transformation for Domain Generalization under Combination Shift [91.38796390449504]
  ドメインとラベルの組み合わせは、トレーニング中に観察されるのではなく、テスト環境に現れる。 我々は、同型の概念、同値性、および整合性の定義に基づく結合シフト問題の一意的な定式化を提供する。
  論文  参考訳（メタデータ） (2022-08-03T12:31:31Z)
• Equivariance Discovery by Learned Parameter-Sharing [153.41877129746223]
  データから解釈可能な等価性を発見する方法について検討する。 具体的には、モデルのパラメータ共有方式に対する最適化問題として、この発見プロセスを定式化する。 また,ガウスデータの手法を理論的に解析し,研究された発見スキームとオラクルスキームの間の平均2乗ギャップを限定する。
  論文  参考訳（メタデータ） (2022-04-07T17:59:19Z)
• Grounding inductive biases in natural images:invariance stems from variations in data [20.432568247732206]
  本研究では,実際のデータセットであるImageNetの変動要因について検討する。 標準的な拡張は、翻訳とスケールの正確な組み合わせに依存していることを示す。 ImageNetの変動の主な要因は外見に大きく関係していることがわかりました。
  論文  参考訳（メタデータ） (2021-06-09T14:58:57Z)
• Learning Invariances in Neural Networks [51.20867785006147]
  ネットワークパラメータや拡張パラメータに関して,拡張性よりも分布をパラメータ化し,トレーニング損失を同時に最適化する方法を示す。 画像分類,回帰,セグメンテーション,分子特性予測における不均一性の正確なセットと範囲を,拡張の広い空間から復元することができる。
  論文  参考訳（メタデータ） (2020-10-22T17:18:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。