論文の概要: Equivariant Manifold Neural ODEs and Differential Invariants
- arxiv url: http://arxiv.org/abs/2401.14131v1
- Date: Thu, 25 Jan 2024 12:23:22 GMT
- ステータス: 処理完了
- システム内更新日: 2024-01-26 14:44:07.599433
- Title: Equivariant Manifold Neural ODEs and Differential Invariants
- Title(参考訳): 等変多様体ニューラルオードと微分不変量
- Authors: Emma Andersdotter, Fredrik Ohlsson
- Abstract要約: 我々は同変多様体ニューラル常微分方程式(NODE)の明らかな幾何学的枠組みを開発する。
私たちは、対称データに対するモデリング能力を解析するためにそれを使用します。
- 参考スコア(独自算出の注目度): 0.7770029179741429
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this paper we develop a manifestly geometric framework for equivariant
manifold neural ordinary differential equations (NODEs), and use it to analyse
their modelling capabilities for symmetric data. First, we consider the action
of a Lie group $G$ on a smooth manifold $M$ and establish the equivalence
between equivariance of vector fields, symmetries of the corresponding Cauchy
problems, and equivariance of the associated NODEs. We also propose a novel
formulation of the equivariant NODEs in terms of the differential invariants of
the action of $G$ on $M$, based on Lie theory for symmetries of differential
equations, which provides an efficient parameterisation of the space of
equivariant vector fields in a way that is agnostic to both the manifold $M$
and the symmetry group $G$. Second, we construct augmented manifold NODEs,
through embeddings into equivariant flows, and show that they are universal
approximators of equivariant diffeomorphisms on any path-connected $M$.
Furthermore, we show that the augmented NODEs can be incorporated in the
geometric framework and parameterised using higher order differential
invariants. Finally, we consider the induced action of $G$ on different fields
on $M$ and show how it can be used to generalise previous work, on, e.g.,
continuous normalizing flows, to equivariant models in any geometry.
- Abstract(参考訳): 本稿では,同変多様体型ニューラル常微分方程式(NODE)の明らかな幾何学的枠組みを開発し,そのモデリング能力を対称データに対して解析する。
まず、滑らかな多様体上のリー群 $g$ の作用を考え、ベクトル場の同値性、対応するコーシー問題の対称性、関連するノードの同値性の間の同値性を確立する。
また、微分方程式の対称性に対するリー理論に基づいて、$G$ の作用の微分不変量の観点から、同変 NODE の新たな定式化を提案し、これは多様体 $M$ と対称性群 $G$ の両方に非依存な方法で同変ベクトル場の空間の効率的なパラメータ化を与える。
第二に、同変フローへの埋め込みを通して拡張多様体NODEを構築し、任意の経路連結な$M$上の同変微分同相の普遍近似であることを示す。
さらに,拡張NODEを幾何学的枠組みに組み込むことができ,高次微分不変量を用いてパラメータ化できることを示す。
最後に、異なるフィールドに対する$g$の誘導作用を$m$で考慮し、例えば連続正規化フローのような以前の作業を任意の幾何学における同変モデルに一般化する方法を示す。
関連論文リスト
- A Geometric Insight into Equivariant Message Passing Neural Networks on
Riemannian Manifolds [1.0878040851638]
座標独立な特徴体に付随する計量は、主バンドルの原計量を最適に保存すべきである。
一定の時間ステップで拡散方程式の流れを離散化することにより, 多様体上のメッセージパッシング方式を得る。
グラフ上の高次拡散過程の離散化は、同変 GNN の新しい一般クラスをもたらす。
論文 参考訳(メタデータ) (2023-10-16T14:31:13Z) - Geometry of Linear Neural Networks: Equivariance and Invariance under
Permutation Groups [0.0]
置換群の作用の下で同変あるいは不変な函数の部分多様体について検討する。
パラメータ化と等変線形ネットワークの設計に関する結論を導出する。
論文 参考訳(メタデータ) (2023-09-24T19:40:15Z) - Geometric Neural Diffusion Processes [55.891428654434634]
拡散モデルの枠組みを拡張して、無限次元モデリングに一連の幾何学的先行を組み込む。
これらの条件で、生成関数モデルが同じ対称性を持つことを示す。
論文 参考訳(メタデータ) (2023-07-11T16:51:38Z) - Deep Learning Symmetries and Their Lie Groups, Algebras, and Subalgebras
from First Principles [55.41644538483948]
ラベル付きデータセットに存在する連続した対称性群の検出と同定のためのディープラーニングアルゴリズムを設計する。
完全に接続されたニューラルネットワークを用いて、変換対称性と対応するジェネレータをモデル化する。
また,Lie群とその性質の数学的研究に機械学習アプローチを使うための扉を開く。
論文 参考訳(メタデータ) (2023-01-13T16:25:25Z) - Equivalence Between SE(3) Equivariant Networks via Steerable Kernels and
Group Convolution [90.67482899242093]
近年, 入力の回転と変換において等価な3次元データに対して, ニューラルネットワークを設計するための幅広い手法が提案されている。
両手法とその等価性を詳細に解析し,その2つの構成をマルチビュー畳み込みネットワークに関連付ける。
また、同値原理から新しいTFN非線形性を導出し、実用的なベンチマークデータセット上でテストする。
論文 参考訳(メタデータ) (2022-11-29T03:42:11Z) - Exact Manifold Gaussian Variational Bayes [76.95091121622674]
複雑なモデルにおける変分推論(VI)の最適化アルゴリズムを提案する。
本研究では,変分行列上の正定値制約を暗黙的に満足するガウス変分推論の効率的なアルゴリズムを開発する。
ブラックボックスの性質のため、EMGVBは複雑なモデルにおけるVIのための準備が整ったソリューションである。
論文 参考訳(メタデータ) (2022-10-26T10:12:31Z) - Equivariant Discrete Normalizing Flows [10.867162810786361]
離散層を用いた等変正規化フローの構築に着目する。
2つの新しい同変フロー:$G$-カップリングフローと$G$-Residualフローを導入する。
我々の構成である$G$-Residual Flowsも普遍的であり、$G$-equivariant diffeomorphismが$G$-Residual Flowによって正確にマッピング可能であることを証明している。
論文 参考訳(メタデータ) (2021-10-16T20:16:00Z) - Equivariant bifurcation, quadratic equivariants, and symmetry breaking
for the standard representation of $S_n$ [15.711517003382484]
浅層学習者ニューラルネットワークの研究から発せられる質問に動機付けられ、ニューラルネットワークに関連する同変ダイナミクスのクラスにおいて、スパイラス・ミニマの分析法が開発されている。
突発性ミニマは自然対称性の破れから生じるのではなく、より一般的な$S_n$-equivariantの分岐によって符号化できるランドスケープ幾何学の複雑な変形によって生じる。
二次同変が存在する場合の一般分岐の結果も証明され、この研究はIhrig & Golubitsky と Chossat, Lauterback & の結果を拡張し、明らかにする。
論文 参考訳(メタデータ) (2021-07-06T06:43:06Z) - Learning Equivariant Energy Based Models with Equivariant Stein
Variational Gradient Descent [80.73580820014242]
本稿では,確率モデルに対称性を組み込むことにより,確率密度の効率的なサンプリングと学習の問題に焦点をあてる。
まず、等変シュタイン変分勾配Descentアルゴリズムを導入する。これは、対称性を持つ密度からサンプリングするスタインの同一性に基づく同変サンプリング法である。
我々はエネルギーベースモデルのトレーニングを改善し、スケールアップする新しい方法を提案する。
論文 参考訳(メタデータ) (2021-06-15T01:35:17Z) - A Differential Geometry Perspective on Orthogonal Recurrent Models [56.09491978954866]
我々は微分幾何学からのツールと洞察を用いて、直交rnnの新しい視点を提供する。
直交RNNは、発散自由ベクトル場の空間における最適化と見なすことができる。
この観測に動機づけられて、ベクトル場全体の空間にまたがる新しいリカレントモデルの研究を行う。
論文 参考訳(メタデータ) (2021-02-18T19:39:22Z) - Universal Approximation Theorem for Equivariant Maps by Group CNNs [14.810452619505137]
本稿では,CNNによる同値写像の普遍近似定理の統一手法を提案する。
その大きな利点として、非コンパクト群に対する無限次元空間間の非線形同変写像を扱うことができる。
論文 参考訳(メタデータ) (2020-12-27T07:09:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。