論文の概要: Learning Equivariant Functions via Quadratic Forms
- arxiv url: http://arxiv.org/abs/2509.22184v1
- Date: Fri, 26 Sep 2025 10:44:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-09-29 20:57:54.374067
- Title: Learning Equivariant Functions via Quadratic Forms
- Title(参考訳): 二次形式による等変関数の学習
- Authors: Pavan Karjol, Vivek V Kashyap, Rohan Kashyap, Prathosh A P,
- Abstract要約: データから群に対応する二次形式 $xT A x$ を学習することにより、群(未知あるいは未知の)同変関数を学習する手法を提案する。
我々は、対応する一意対称行列とその固有の対角形を利用し、単純化され、効率的であるモデルを生み出す。
- 参考スコア(独自算出の注目度): 7.771878859878091
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In this study, we introduce a method for learning group (known or unknown) equivariant functions by learning the associated quadratic form $x^T A x$ corresponding to the group from the data. Certain groups, known as orthogonal groups, preserve a specific quadratic form, and we leverage this property to uncover the underlying symmetry group under the assumption that it is orthogonal. By utilizing the corresponding unique symmetric matrix and its inherent diagonal form, we incorporate suitable inductive biases into the neural network architecture, leading to models that are both simplified and efficient. Our approach results in an invariant model that preserves norms, while the equivariant model is represented as a product of a norm-invariant model and a scale-invariant model, where the ``product'' refers to the group action. Moreover, we extend our framework to a more general setting where the function acts on tuples of input vectors via a diagonal (or product) group action. In this extension, the equivariant function is decomposed into an angular component extracted solely from the normalized first vector and a scale-invariant component that depends on the full Gram matrix of the tuple. This decomposition captures the inter-dependencies between multiple inputs while preserving the underlying group symmetry. We assess the effectiveness of our framework across multiple tasks, including polynomial regression, top quark tagging, and moment of inertia matrix prediction. Comparative analysis with baseline methods demonstrates that our model consistently excels in both discovering the underlying symmetry and efficiently learning the corresponding equivariant function.
- Abstract(参考訳): 本研究では,群に対応する二次形式 $x^T A x$ をデータから学習することにより,群(未知あるいは未知)同変関数を学習する手法を提案する。
直交群として知られるある種の群は、特定の二次形式を保ち、この性質を利用して、直交であるという仮定の下で、基礎となる対称性群を明らかにする。
対応する一意対称行列とその固有の対角線形式を利用することで、ニューラルネットワークアーキテクチャに適切な帰納バイアスを組み込むことで、単純化と効率の両方のモデルが導かれる。
我々のアプローチはノルムを保存する不変モデルをもたらすが、同変モデルはノルム不変モデルとスケール不変モデルの積として表される。
さらに、我々のフレームワークは、関数が対角(あるいは積)群作用を介して入力ベクトルのタプルに作用するより一般的な設定にまで拡張する。
この拡張において、同変函数は正規化された第一ベクトルからのみ抽出される角成分と、タプルの全文法行列に依存するスケール不変成分に分解される。
この分解は、基礎となる群対称性を維持しながら、複数の入力間の依存性を捕捉する。
我々は、多項式回帰、トップクォークタグ付け、慣性行列予測のモーメントを含む複数のタスクにおけるフレームワークの有効性を評価する。
ベースライン法との比較分析により、我々のモデルは、基礎となる対称性の発見と対応する同変関数の効率よく学習の両方において一貫して優れることを示した。
関連論文リスト
- Learning Symmetries via Weight-Sharing with Doubly Stochastic Tensors [46.59269589647962]
グループ平等は、ディープラーニングにおいて価値ある帰納的バイアスとして現れてきた。
群同変法は、利害の群を事前に知る必要がある。
データセットが強い対称性を示すと、置換行列は正規群表現に収束することを示す。
論文 参考訳(メタデータ) (2024-12-05T20:15:34Z) - Equivariant score-based generative models provably learn distributions with symmetries efficiently [7.90752151686317]
実験的な研究により、対称性を生成モデルに組み込むことで、より優れた一般化とサンプリング効率が得られることが示されている。
我々は,ある群対称性に対して不変な分布を学習するためのスコアベース生成モデル(SGM)の最初の理論的解析と保証を提供する。
論文 参考訳(メタデータ) (2024-10-02T05:14:28Z) - A Galois theorem for machine learning: Functions on symmetric matrices and point clouds via lightweight invariant features [26.619014249559942]
対称行列と点雲上の関数の機械学習のための数学的定式化を提案する。
ガロア理論にインスパイアされたアイデアを用いて、一般的に不変な特徴を分離する一般的な構成を提供する。
我々は、不変な特徴の数が、表現性を失うことなく総称的に$O(n)$に還元できることを証明している。
論文 参考訳(メタデータ) (2024-05-13T18:24:03Z) - Lie Group Decompositions for Equivariant Neural Networks [12.139222986297261]
コンボリューションカーネルをパラメータ化してアフィン変換に対する同変モデルを構築する方法を示す。
我々は,ベンチマークアフィン不変分類タスクにおいて,モデルのロバスト性と分布外一般化能力を評価する。
論文 参考訳(メタデータ) (2023-10-17T16:04:33Z) - Unified Fourier-based Kernel and Nonlinearity Design for Equivariant
Networks on Homogeneous Spaces [52.424621227687894]
等質空間上の群同変ネットワークに対する統一的枠組みを導入する。
昇降した特徴場のフーリエ係数の空間性を利用する。
安定化部分群におけるフーリエ係数としての特徴を取り扱う他の方法が、我々のアクティベーションの特別な場合であることを示す。
論文 参考訳(メタデータ) (2022-06-16T17:59:01Z) - A Practical Method for Constructing Equivariant Multilayer Perceptrons
for Arbitrary Matrix Groups [115.58550697886987]
行列群の同変層を解くための完全一般的なアルゴリズムを提供する。
他作品からのソリューションを特殊ケースとして回収するだけでなく、これまで取り組んだことのない複数のグループと等価な多層パーセプトロンを構築します。
提案手法は, 粒子物理学および力学系への応用により, 非同変基底線より優れる。
論文 参考訳(メタデータ) (2021-04-19T17:21:54Z) - LieTransformer: Equivariant self-attention for Lie Groups [49.9625160479096]
群等価ニューラルネットワークは群不変ニューラルネットワークの構成要素として用いられる。
我々は、文学の範囲を、ディープラーニングモデルの顕著な構築ブロックとして現れつつある自己注意にまで広げる。
任意のリー群とその離散部分群に同値なリー自己結合層からなる構造であるリー変換器を提案する。
論文 参考訳(メタデータ) (2020-12-20T11:02:49Z) - Understanding Implicit Regularization in Over-Parameterized Single Index
Model [55.41685740015095]
我々は高次元単一インデックスモデルのための正規化自由アルゴリズムを設計する。
暗黙正則化現象の理論的保証を提供する。
論文 参考訳(メタデータ) (2020-07-16T13:27:47Z) - Invariant Feature Coding using Tensor Product Representation [75.62232699377877]
我々は,群不変特徴ベクトルが線形分類器を学習する際に十分な識別情報を含んでいることを証明した。
主成分分析やk平均クラスタリングにおいて,グループアクションを明示的に考慮する新たな特徴モデルを提案する。
論文 参考訳(メタデータ) (2019-06-05T07:15:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。