論文の概要: Measuring Learned Equivariance: An Information Theoretic Approach
- arxiv url: http://arxiv.org/abs/2610.17269v1
- Date: Mon, 12 Oct 2026 18:24:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:15.439794
- Title: Measuring Learned Equivariance: An Information Theoretic Approach
- Title(参考訳): 学習した等価性の測定:情報理論のアプローチ
- Abstract要約: 等価性は、互いに正確に決定するために、元の入力と変換された入力の表現を必要とすることを示す。
アーキテクチャやタスク全体にわたって、拡張は通常、変換の一貫性を高めます。
- 参考スコア(独自算出の注目度): 13.50798470994887
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Learning symmetries through data augmentation offers an alternative to architectural equivariance, but does not guarantee that a network respects those symmetries. Measuring learned equivariance is especially difficult for intermediate representations, whose group actions are not specified. In a finite discrete setting, we show that equivariance requires representations of original and transformed inputs to determine one another exactly, yielding a test based on normalized mutual information (NMI). For high-dimensional activations, we use centered kernel alignment (CKA) as a scalable test, with an exact guarantee for orthogonal feature transformations. Across architectures and tasks, augmentation usually increases transformation consistency, showing that learned equivariance can be probed directly from representations without recovering the hidden transformation rules that relate them.
- Abstract(参考訳): データ拡張による対称性の学習は、アーキテクチャの等価性の代替となるが、ネットワークがそれらの対称性を尊重することを保証しない。
学習された同値性の測定は、群作用が特定されていない中間表現では特に困難である。
有限離散的な設定では、正規化相互情報(NMI)に基づくテストを生成するために、元の入力と変換された入力の表現が互いに正確に決定するために必要であることが示される。
高次元のアクティベーションのために、我々はCKA(Centraled kernel alignment)をスケーラブルなテストとして使用し、直交的な特徴変換を確実に保証する。
アーキテクチャやタスク全体にわたって、拡張は通常変換の一貫性を高め、学習された等価性はそれらに関連する隠された変換規則を回復することなく、表現から直接探索できることを示す。
関連論文リスト
- SEIS: Subspace-based Equivariance and Invariance Scores for Neural Representations [1.2431372110088466]
幾何学的変換の下で階層的特徴表現を解析するためのサブスペースメトリックであるSEISを紹介する。
合成検証は、SEISが既知の変換を正しく回復することを確認する。
マルチタスク学習は、共有エンコーダにおける両方の特性の相乗効果を誘導することを示す。
論文 参考訳(メタデータ) (2026-02-03T22:38:08Z) - To Augment or Not to Augment? Diagnosing Distributional Symmetry Breaking [23.524227670982544]
本稿では,データセットにおける異方性の量,つまり対称性の破れを定量化する指標を提案する。
いくつかのベンチマークポイントクラウドデータセットにおいて、驚くほど高いアライメントの度合いを明らかにするために使用しています。
論文 参考訳(メタデータ) (2025-10-01T18:26:33Z) - Learning Equivariant Models by Discovering Symmetries with Learnable Augmentations [42.879643875154194]
SEMoLAは、学習可能なデータ拡張を通じて、データの事前未知の対称性を共同で発見するエンドツーエンドのアプローチである。
各種データセットにまたがって高い予測性能を達成しつつ,SEMoLAが関連する対称性を堅牢に発見できることを実証する。
論文 参考訳(メタデータ) (2025-06-04T13:06:05Z) - Symmetry Discovery for Different Data Types [52.2614860099811]
等価ニューラルネットワークは、そのアーキテクチャに対称性を取り入れ、より高度な一般化性能を実現する。
本稿では,タスクの入出力マッピングを近似したトレーニングニューラルネットワークによる対称性発見手法であるLieSDを提案する。
我々は,2体問題,慣性行列予測のモーメント,トップクォークタグ付けといった課題におけるLieSDの性能を検証した。
論文 参考訳(メタデータ) (2024-10-13T13:39:39Z) - Using and Abusing Equivariance [10.70891251559827]
群同変畳み込みニューラルネットワークは, サブサンプリングを用いて, 対称性に等しくなることを学習する。
ネットワークの入力次元を1ピクセル程度に変化させることで、一般的に使われているアーキテクチャが正確には同値ではなく、ほぼ同値となるのに十分であることを示す。
論文 参考訳(メタデータ) (2023-08-22T09:49:26Z) - The Lie Derivative for Measuring Learned Equivariance [84.29366874540217]
我々は、CNN、トランスフォーマー、ミキサーアーキテクチャにまたがる数百の事前訓練されたモデルの同値性について検討する。
その結果,不等式違反の多くは,不等式などのユビキタスネットワーク層における空間エイリアスに関連付けられることがわかった。
例えば、トランスはトレーニング後の畳み込みニューラルネットワークよりも同種である。
論文 参考訳(メタデータ) (2022-10-06T15:20:55Z) - Equivariant Disentangled Transformation for Domain Generalization under
Combination Shift [91.38796390449504]
ドメインとラベルの組み合わせは、トレーニング中に観察されるのではなく、テスト環境に現れる。
我々は、同型の概念、同値性、および整合性の定義に基づく結合シフト問題の一意的な定式化を提供する。
論文 参考訳(メタデータ) (2022-08-03T12:31:31Z) - Equivariant Mesh Attention Networks [10.517110532297021]
上述したすべての変換にほぼ同値なメッシュデータに対する注意に基づくアーキテクチャを提案する。
提案したアーキテクチャは,これらの局所的・言語的変換に対して同変であり,従って堅牢であることを確認した。
論文 参考訳(メタデータ) (2022-05-21T19:53:14Z) - Equivariance Discovery by Learned Parameter-Sharing [153.41877129746223]
データから解釈可能な等価性を発見する方法について検討する。
具体的には、モデルのパラメータ共有方式に対する最適化問題として、この発見プロセスを定式化する。
また,ガウスデータの手法を理論的に解析し,研究された発見スキームとオラクルスキームの間の平均2乗ギャップを限定する。
論文 参考訳(メタデータ) (2022-04-07T17:59:19Z) - Learning Invariances in Neural Networks [51.20867785006147]
ネットワークパラメータや拡張パラメータに関して,拡張性よりも分布をパラメータ化し,トレーニング損失を同時に最適化する方法を示す。
画像分類,回帰,セグメンテーション,分子特性予測における不均一性の正確なセットと範囲を,拡張の広い空間から復元することができる。
論文 参考訳(メタデータ) (2020-10-22T17:18:48Z) - Meta-Learning Symmetries by Reparameterization [63.85144439337671]
データから対応するパラメータ共有パターンを学習し、等価性をネットワークに学習し、符号化する手法を提案する。
本実験は,画像処理タスクで使用される共通変換に等価性をエンコードして自動的に学習できることを示唆する。
論文 参考訳(メタデータ) (2020-07-06T17:59:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。