論文の概要: Learning Conditionally Independent Transformations using Normal Subgroups in Group Theory
- arxiv url: http://arxiv.org/abs/2504.04490v1
- Date: Sun, 06 Apr 2025 13:45:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-04-08 14:11:25.618567
- Title: Learning Conditionally Independent Transformations using Normal Subgroups in Group Theory
- Title(参考訳): 群論における正規部分群を用いた条件付き独立変換の学習
- Authors: Kayato Nishitsunoi, Yoshiyuki Ohmura, Takayuki Komatsu, Yasuo Kuniyoshi,
- Abstract要約: 教師なし表現学習における根本的な課題は、学習された特徴表現において異なる変換を分離することである。
既存の手法は代数的独立性に基づいて変換を分解するが、これらの手法は主に可換変換に焦点を当てる。
条件付き独立変換の分離を可能にするために,正規部分群を活用する新しい手法を提案する。
- 参考スコア(独自算出の注目度): 3.1936317340169817
- License:
- Abstract: Humans develop certain cognitive abilities to recognize objects and their transformations without explicit supervision, highlighting the importance of unsupervised representation learning. A fundamental challenge in unsupervised representation learning is to separate different transformations in learned feature representations. Although algebraic approaches have been explored, a comprehensive theoretical framework remains underdeveloped. Existing methods decompose transformations based on algebraic independence, but these methods primarily focus on commutative transformations and do not extend to cases where transformations are conditionally independent but noncommutative. To extend current representation learning frameworks, we draw inspiration from Galois theory, where the decomposition of groups through normal subgroups provides an approach for the analysis of structured transformations. Normal subgroups naturally extend commutativity under certain conditions and offer a foundation for the categorization of transformations, even when they do not commute. In this paper, we propose a novel approach that leverages normal subgroups to enable the separation of conditionally independent transformations, even in the absence of commutativity. Through experiments on geometric transformations in images, we show that our method successfully categorizes conditionally independent transformations, such as rotation and translation, in an unsupervised manner, suggesting a close link between group decomposition via normal subgroups and transformation categorization in representation learning.
- Abstract(参考訳): 人間は、明示的な監督なしにオブジェクトとその変換を認識できる特定の認知能力を開発し、教師なしの表現学習の重要性を強調している。
教師なし表現学習における根本的な課題は、学習された特徴表現において異なる変換を分離することである。
代数的アプローチは研究されているが、包括的な理論的枠組みはまだ未開発である。
既存の手法は代数的独立性に基づいて変換を分解するが、これらの手法は主に可換変換に焦点を置き、変換が条件付き独立だが非可換である場合に拡張しない。
現在の表現学習フレームワークを拡張するために、正規部分群による群の分解が構造的変換の解析のためのアプローチを提供するガロア理論からインスピレーションを得る。
正規部分群は、ある条件下で可換性を自然に拡張し、可換でない場合でも変換の分類の基礎を与える。
本稿では,正規部分群を利用して,可換性のない条件付き独立変換を分離する手法を提案する。
画像中の幾何変換の実験を通して, 回転や変換などの条件に依存しない変換を教師なしの方法で分類し, 正規部分群による群分解と表現学習における変換分類との密接な関係を示唆した。
関連論文リスト
- Relative Representations: Topological and Geometric Perspectives [53.88896255693922]
相対表現はゼロショットモデルの縫合に対する確立されたアプローチである。
相対変換において正規化手順を導入し、非等方的再スケーリングや置換に不変となる。
第二に、クラス内のクラスタリングを促進するトポロジカル正規化損失である、微調整された相対表現におけるトポロジカルデシフィケーションの展開を提案する。
論文 参考訳(メタデータ) (2024-09-17T08:09:22Z) - Algebras of actions in an agent's representations of the world [51.06229789727133]
我々は、対称性に基づく非交叉表現学習形式から対称性に基づく表現を再現するために、我々のフレームワークを使用する。
次に、簡単な強化学習シナリオで発生する特徴を持つ世界の変換の代数について研究する。
私たちが開発した計算手法を用いて、これらの世界の変換の代数を抽出し、それらの性質に応じてそれらを分類する。
論文 参考訳(メタデータ) (2023-10-02T18:24:51Z) - Equivariant Disentangled Transformation for Domain Generalization under
Combination Shift [91.38796390449504]
ドメインとラベルの組み合わせは、トレーニング中に観察されるのではなく、テスト環境に現れる。
我々は、同型の概念、同値性、および整合性の定義に基づく結合シフト問題の一意的な定式化を提供する。
論文 参考訳(メタデータ) (2022-08-03T12:31:31Z) - Transformation Coding: Simple Objectives for Equivariant Representations [17.544323284367927]
簡単な目的を通した均質な深層埋め込みを求める深層表現学習への非生成的アプローチを提案する。
既存の同変ネットワークとは対照的に、我々の変換符号化アプローチはフィードフォワード層やアーキテクチャの選択を制約しない。
論文 参考訳(メタデータ) (2022-02-19T01:43:13Z) - Unsupervised Learning of Group Invariant and Equivariant Representations [10.252723257176566]
グループ不変および同変表現学習を教師なし深層学習の分野に拡張する。
本稿では,エンコーダ・デコーダ・フレームワークに基づく一般学習戦略を提案する。このフレームワークでは,潜在表現を不変項と同変群アクション成分で分離する。
鍵となる考え方は、ネットワークがグループ不変表現にデータをエンコードしてデコードすることを学習し、さらに適切なグループ動作を予測して、入力と出力のポーズを調整して再構成タスクを解決することである。
論文 参考訳(メタデータ) (2022-02-15T16:44:21Z) - Capacity of Group-invariant Linear Readouts from Equivariant
Representations: How Many Objects can be Linearly Classified Under All
Possible Views? [21.06669693699965]
分離可能な二コトミーの分数は群作用によって固定される空間の次元によって決定される。
この関係が、畳み込み、要素ワイド非線形性、大域的および局所的なプーリングなどの操作にどのように拡張されるかを示す。
論文 参考訳(メタデータ) (2021-10-14T15:46:53Z) - Commutative Lie Group VAE for Disentanglement Learning [96.32813624341833]
本研究では,データに表される因子の変動を同変的に反映する基盤構造を見いだすこととして,非絡み合い学習を考察する。
グループベースの非絡み合い学習を実現するために、Communative Lie Group VAEというシンプルなモデルが導入された。
実験により,本モデルでは,教師なしの非絡み合い表現を効果的に学習し,余分な制約を伴わずに最先端のパフォーマンスを達成できることが示されている。
論文 参考訳(メタデータ) (2021-06-07T07:03:14Z) - GroupifyVAE: from Group-based Definition to VAE-based Unsupervised
Representation Disentanglement [91.9003001845855]
他の誘導バイアスを導入しないと、VAEベースの非監視的非絡み合いは実現できない。
グループ理論に基づく定義から導かれる制約を非確率的帰納的バイアスとして活用し,vaeに基づく教師なし不連続に対処する。
提案手法の有効性を検証するために,5つのデータセット上で,vaeベースモデルが最も目立つ1800モデルをトレーニングした。
論文 参考訳(メタデータ) (2021-02-20T09:49:51Z) - LieTransformer: Equivariant self-attention for Lie Groups [49.9625160479096]
群等価ニューラルネットワークは群不変ニューラルネットワークの構成要素として用いられる。
我々は、文学の範囲を、ディープラーニングモデルの顕著な構築ブロックとして現れつつある自己注意にまで広げる。
任意のリー群とその離散部分群に同値なリー自己結合層からなる構造であるリー変換器を提案する。
論文 参考訳(メタデータ) (2020-12-20T11:02:49Z) - Learning Irreducible Representations of Noncommutative Lie Groups [3.1727619150610837]
最近の研究は、2Dや3D回転のような連続対称性群と等価なニューラルネットワークを構築している。
回転や翻訳を超えた等分散のフロンティア応用によって動機付けられた2つの貢献を示す。
論文 参考訳(メタデータ) (2020-06-01T05:14:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。