論文の概要: Group Equivariant Conditional Neural Processes
- arxiv url: http://arxiv.org/abs/2102.08759v1
- Date: Wed, 17 Feb 2021 13:50:07 GMT
- ステータス: 処理完了
- システム内更新日: 2021-02-18 14:47:36.957757
- Title: Group Equivariant Conditional Neural Processes
- Title(参考訳): 群同変条件ニューラルプロセス
- Authors: Makoto Kawano, Wataru Kumagai, Akiyoshi Sannai, Yusuke Iwasawa and
Yutaka Matsuo
- Abstract要約: 群同変条件ニューラルプロセス(EquivCNP)を提案する。
EquivCNPは1次元回帰タスクにおいて従来の条件付きニューラルプロセスに匹敵する性能を示す。
- 参考スコア(独自算出の注目度): 30.134634059773703
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We present the group equivariant conditional neural process (EquivCNP), a
meta-learning method with permutation invariance in a data set as in
conventional conditional neural processes (CNPs), and it also has
transformation equivariance in data space. Incorporating group equivariance,
such as rotation and scaling equivariance, provides a way to consider the
symmetry of real-world data. We give a decomposition theorem for
permutation-invariant and group-equivariant maps, which leads us to construct
EquivCNPs with an infinite-dimensional latent space to handle group symmetries.
In this paper, we build architecture using Lie group convolutional layers for
practical implementation. We show that EquivCNP with translation equivariance
achieves comparable performance to conventional CNPs in a 1D regression task.
Moreover, we demonstrate that incorporating an appropriate Lie group
equivariance, EquivCNP is capable of zero-shot generalization for an
image-completion task by selecting an appropriate Lie group equivariance.
- Abstract(参考訳): 本論文では、従来の条件神経プロセス(CNP)のようなデータセットにおける置換不変性を持つメタラーニング手法であるEquivCNP(EquivCNP)と、データ空間における変換等価性について述べる。
回転やスケーリング等分散のような群同値を組み込むことで、実世界のデータの対称性を考えることができる。
置換不変写像と群同変写像の分解定理を与え、群対称性を扱うために無限次元の潜在空間を持つ EquivCNP を構成する。
本稿では,リー群畳み込み層を用いたアーキテクチャを実践的に構築する。
翻訳等価性を有するEquivCNPは、従来のCNPと同等の性能を1D回帰タスクで達成できることを示した。
さらに,適切なリー群同値を組み込んだEquivCNPは,適切なリー群同値を選択することにより,画像補完タスクのゼロショット一般化を実現できることを示す。
関連論文リスト
- Variational Partial Group Convolutions for Input-Aware Partial Equivariance of Rotations and Color-Shifts [21.397064770689795]
グループ同変CNN(G-CNN)は、階層的特徴を同変的に捉える能力から、様々なタスクにおいて有望な有効性を示している。
本稿では,各データインスタンスに特有の部分的等値の変動レベルを捉えるための新しいアプローチとして,変分部分G-CNN(VP G-CNN)を提案する。
本稿では,M67-180,CIFAR10,ColorMNIST,Flowers102など,おもちゃと現実世界の両方のデータセットに対するVP G-CNNの有効性を示す。
論文 参考訳(メタデータ) (2024-07-05T05:52:51Z) - Equivariant Representation Learning in the Presence of Stabilizers [13.11108596589607]
EquIN は自由でない群作用、すなわち非自明な対称性によってデータを安定化する群作用に適している。
EquIN は理論上、群論の軌道安定化定理に基礎を置いている。
論文 参考訳(メタデータ) (2023-01-12T11:43:26Z) - Architectural Optimization over Subgroups for Equivariant Neural
Networks [0.0]
準同値緩和同型と$[G]$-mixed同変層を提案し、部分群上の同値制約で演算する。
進化的および微分可能なニューラルアーキテクチャ探索(NAS)アルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-10-11T14:37:29Z) - Equivariant Disentangled Transformation for Domain Generalization under
Combination Shift [91.38796390449504]
ドメインとラベルの組み合わせは、トレーニング中に観察されるのではなく、テスト環境に現れる。
我々は、同型の概念、同値性、および整合性の定義に基づく結合シフト問題の一意的な定式化を提供する。
論文 参考訳(メタデータ) (2022-08-03T12:31:31Z) - Equivariance Discovery by Learned Parameter-Sharing [153.41877129746223]
データから解釈可能な等価性を発見する方法について検討する。
具体的には、モデルのパラメータ共有方式に対する最適化問題として、この発見プロセスを定式化する。
また,ガウスデータの手法を理論的に解析し,研究された発見スキームとオラクルスキームの間の平均2乗ギャップを限定する。
論文 参考訳(メタデータ) (2022-04-07T17:59:19Z) - Learning Equivariances and Partial Equivariances from Data [11.548853370822345]
群同変畳み込みニューラルネットワーク(G-CNN)は、選択した対称性を尊重する特徴を制約し、これらの対称性がデータに現れるとより一般化する。
本稿では,各層間のデータから部分的および完全同値を学習可能な同変ネットワーク群であるpartial G-CNNを紹介する。
論文 参考訳(メタデータ) (2021-10-19T19:17:32Z) - Group Equivariant Subsampling [60.53371517247382]
サブサンプリングは、プールやストライド畳み込みの形で畳み込みニューラルネットワーク(CNN)で使用される。
まず、正確な翻訳同変CNNを構築するために使用できる翻訳同変サブサンプリング/アップサンプリング層を導入する。
次に、これらの層を一般群への変換を超えて一般化し、したがって群同変部分サンプリング/アップサンプリングを提案する。
論文 参考訳(メタデータ) (2021-06-10T16:14:00Z) - Commutative Lie Group VAE for Disentanglement Learning [96.32813624341833]
本研究では,データに表される因子の変動を同変的に反映する基盤構造を見いだすこととして,非絡み合い学習を考察する。
グループベースの非絡み合い学習を実現するために、Communative Lie Group VAEというシンプルなモデルが導入された。
実験により,本モデルでは,教師なしの非絡み合い表現を効果的に学習し,余分な制約を伴わずに最先端のパフォーマンスを達成できることが示されている。
論文 参考訳(メタデータ) (2021-06-07T07:03:14Z) - LieTransformer: Equivariant self-attention for Lie Groups [49.9625160479096]
群等価ニューラルネットワークは群不変ニューラルネットワークの構成要素として用いられる。
我々は、文学の範囲を、ディープラーニングモデルの顕著な構築ブロックとして現れつつある自己注意にまで広げる。
任意のリー群とその離散部分群に同値なリー自己結合層からなる構造であるリー変換器を提案する。
論文 参考訳(メタデータ) (2020-12-20T11:02:49Z) - Generalizing Convolutional Neural Networks for Equivariance to Lie
Groups on Arbitrary Continuous Data [52.78581260260455]
任意の特定のリー群からの変換に同値な畳み込み層を構築するための一般的な方法を提案する。
同じモデルアーキテクチャを画像、ボール・アンド・スティック分子データ、ハミルトン力学系に適用する。
論文 参考訳(メタデータ) (2020-02-25T17:40:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。