論文の概要: Any-Subgroup Equivariant Networks via Symmetry Breaking
- arxiv url: http://arxiv.org/abs/2603.19486v1
- Date: Thu, 19 Mar 2026 21:30:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-23 19:48:38.898409
- Title: Any-Subgroup Equivariant Networks via Symmetry Breaking
- Title(参考訳): 対称性ブレーキングによる任意の部分群同変ネットワーク
- Authors: Abhinav Goel, Derek Lim, Hannah Lawrence, Stefanie Jegelka, Ningyuan Huang,
- Abstract要約: 均質なアーキテクチャは、通常非常に制約があり、事前に選択された対称性のために設計されます。
これにより、多様なデータを均等に処理できるフレキシブルでマルチモーダルな基礎モデルの開発が妨げられる。
特定の補助入力特徴を変調することによって、複数の群に同時に同値な単一モデルを構築する。
- 参考スコア(独自算出の注目度): 47.72921214239821
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The inclusion of symmetries as an inductive bias, known as equivariance, often improves generalization on geometric data (e.g. grids, sets, and graphs). However, equivariant architectures are usually highly constrained, designed for symmetries chosen a priori, and not applicable to datasets with other symmetries. This precludes the development of flexible, multi-modal foundation models capable of processing diverse data equivariantly. In this work, we build a single model -- the Any-Subgroup Equivariant Network (ASEN) -- that can be simultaneously equivariant to several groups, simply by modulating a certain auxiliary input feature. In particular, we start with a fully permutation-equivariant base model, and then obtain subgroup equivariance by using a symmetry-breaking input whose automorphism group is that subgroup. However, finding an input with the desired automorphism group is computationally hard. We overcome this by relaxing from exact to approximate symmetry breaking, leveraging the notion of 2-closure to derive fast algorithms. Theoretically, we show that our subgroup-equivariant networks can simulate equivariant MLPs, and their universality can be guaranteed if the base model is universal. Empirically, we validate our method on symmetry selection for graph and image tasks, as well as multitask and transfer learning for sequence tasks, showing that a single network equivariant to multiple permutation subgroups outperforms both separate equivariant models and a single non-equivariant model.
- Abstract(参考訳): 等分散と呼ばれる帰納バイアスとしての対称性の包含は、幾何学的データ(例えば、格子、集合、グラフ)の一般化を改善する。
しかしながら、同変アーキテクチャは通常、高度に制約され、事前選択された対称性のために設計され、他の対称性を持つデータセットには適用されない。
これにより、多様なデータを均等に処理できるフレキシブルでマルチモーダルな基礎モデルの開発が妨げられる。
本研究では、任意の補助入力特徴を変調することによって、複数の群に同時に同変できる単一モデル、Any-Subgroup Equivariant Network (ASEN) を構築する。
特に、完全置換同変基底モデルから始め、その部分群を自己同型群とする対称性を破る入力を用いて部分群同値を得る。
しかし、所望の自己同型群による入力を見つけることは計算的に困難である。
高速アルゴリズムを導出するために、2-クロージャの概念を活用することによって、正確な対称性の破れから近似対称性の破れを緩和することでこれを克服する。
理論的には、我々の部分群-同変ネットワークは同変 MLP をシミュレートでき、ベースモデルが普遍であればそれらの普遍性を保証することができる。
実験により,グラフおよび画像タスクの対称性選択法,およびシーケンスタスクのマルチタスクおよび転送学習法について検証し,複数の置換部分群に同値な単一ネットワークが,分離された同変モデルと1つの非同変モデルの両方より優れていることを示す。
関連論文リスト
- Rethinking Diffusion Models with Symmetries through Canonicalization with Applications to Molecular Graph Generation [56.361076943802594]
CanonFlowは、挑戦的なGEOM-DRUGデータセット上で最先端のパフォーマンスを実現している。
論文 参考訳(メタデータ) (2026-02-16T18:58:55Z) - Learning Equivariant Functions via Quadratic Forms [7.771878859878091]
データから群に対応する二次形式 $xT A x$ を学習することにより、群(未知あるいは未知の)同変関数を学習する手法を提案する。
我々は、対応する一意対称行列とその固有の対角形を利用し、単純化され、効率的であるモデルを生み出す。
論文 参考訳(メタデータ) (2025-09-26T10:44:26Z) - Learning Probabilistic Symmetrization for Architecture Agnostic Equivariance [16.49488981364657]
群対称性を持つ学習関数における同変アーキテクチャの限界を克服する新しい枠組みを提案する。
我々は、不変量や変圧器のような任意の基底モデルを使用し、それを与えられた群に同変するように対称性付けする。
実証実験は、調整された同変アーキテクチャに対する競争結果を示す。
論文 参考訳(メタデータ) (2023-06-05T13:40:54Z) - Frame Averaging for Invariant and Equivariant Network Design [50.87023773850824]
フレーム平均化(FA)は、既知の(バックボーン)アーキテクチャを新しい対称性タイプに不変あるいは同変に適応するためのフレームワークである。
FAモデルが最大表現力を持つことを示す。
我々は,新しいユニバーサルグラフニューラルネット(GNN),ユニバーサルユークリッド運動不変点クラウドネットワーク,およびユークリッド運動不変メッセージパッシング(MP)GNNを提案する。
論文 参考訳(メタデータ) (2021-10-07T11:05:23Z) - A Practical Method for Constructing Equivariant Multilayer Perceptrons
for Arbitrary Matrix Groups [115.58550697886987]
行列群の同変層を解くための完全一般的なアルゴリズムを提供する。
他作品からのソリューションを特殊ケースとして回収するだけでなく、これまで取り組んだことのない複数のグループと等価な多層パーセプトロンを構築します。
提案手法は, 粒子物理学および力学系への応用により, 非同変基底線より優れる。
論文 参考訳(メタデータ) (2021-04-19T17:21:54Z) - LieTransformer: Equivariant self-attention for Lie Groups [49.9625160479096]
群等価ニューラルネットワークは群不変ニューラルネットワークの構成要素として用いられる。
我々は、文学の範囲を、ディープラーニングモデルの顕著な構築ブロックとして現れつつある自己注意にまで広げる。
任意のリー群とその離散部分群に同値なリー自己結合層からなる構造であるリー変換器を提案する。
論文 参考訳(メタデータ) (2020-12-20T11:02:49Z) - Generalizing Convolutional Neural Networks for Equivariance to Lie
Groups on Arbitrary Continuous Data [52.78581260260455]
任意の特定のリー群からの変換に同値な畳み込み層を構築するための一般的な方法を提案する。
同じモデルアーキテクチャを画像、ボール・アンド・スティック分子データ、ハミルトン力学系に適用する。
論文 参考訳(メタデータ) (2020-02-25T17:40:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。