論文の概要: Building Neural Networks on Matrix Manifolds: A Gyrovector Space
Approach
- arxiv url: http://arxiv.org/abs/2305.04560v3
- Date: Mon, 5 Jun 2023 08:14:56 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-06 11:21:01.890608
- Title: Building Neural Networks on Matrix Manifolds: A Gyrovector Space
Approach
- Title(参考訳): 行列多様体上のニューラルネットワークの構築:ジャイロビクター空間アプローチ
- Authors: Xuan Son Nguyen, Shuo Yang
- Abstract要約: 我々はSPDとグラスマン多様体上にニューラルネットワークを構築するための新しいモデルと層を提案する。
本稿では,人間の行動認識と知識グラフ補完という2つの応用にアプローチの有効性を示す。
- 参考スコア(独自算出の注目度): 8.003578990152945
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Matrix manifolds, such as manifolds of Symmetric Positive Definite (SPD)
matrices and Grassmann manifolds, appear in many applications. Recently, by
applying the theory of gyrogroups and gyrovector spaces that is a powerful
framework for studying hyperbolic geometry, some works have attempted to build
principled generalizations of Euclidean neural networks on matrix manifolds.
However, due to the lack of many concepts in gyrovector spaces for the
considered manifolds, e.g., the inner product and gyroangles, techniques and
mathematical tools provided by these works are still limited compared to those
developed for studying hyperbolic geometry. In this paper, we generalize some
notions in gyrovector spaces for SPD and Grassmann manifolds, and propose new
models and layers for building neural networks on these manifolds. We show the
effectiveness of our approach in two applications, i.e., human action
recognition and knowledge graph completion.
- Abstract(参考訳): 対称正定値(spd)行列やグラスマン多様体のような行列多様体は、多くの応用において現れる。
近年、双曲幾何学研究の強力な枠組みであるジャイロ群とジャイロベクトル空間の理論を適用することで、行列多様体上のユークリッドニューラルネットワークの原理的一般化を構築しようとする研究もある。
しかし、ジャイロビクター空間(例えば内積やジャイロ角形)の多くの概念が欠けているため、これらの作品によって提供される技法や数学的道具は双曲幾何学を研究するために開発されたものと比べてまだ限られている。
本稿では、SPDおよびグラスマン多様体のジャイロベクトル空間におけるいくつかの概念を一般化し、これらの多様体上にニューラルネットワークを構築するための新しいモデルと層を提案する。
本稿では,人間の行動認識と知識グラフ補完という2つの応用にアプローチの有効性を示す。
関連論文リスト
- A Hitchhiker's Guide to Geometric GNNs for 3D Atomic Systems [87.30652640973317]
原子系の計算モデリングの最近の進歩は、これらを3次元ユークリッド空間のノードとして埋め込まれた原子を含む幾何学的グラフとして表現している。
Geometric Graph Neural Networksは、タンパク質構造予測から分子シミュレーション、物質生成まで、幅広い応用を駆動する機械学習アーキテクチャとして好まれている。
本稿では,3次元原子システムのための幾何学的GNNの分野について,包括的で自己完結した概要を述べる。
論文 参考訳(メタデータ) (2023-12-12T18:44:19Z) - Intrinsic Gaussian Vector Fields on Manifolds [45.18679780501332]
得られたホッジ・マタン・ガウスベクトル場を二次元球面とハイパートーラス上に展開するのに必要となるプリミティブを提供する。
ガウスベクトル場は、前述した外生的場よりもかなり洗練された帰納的バイアスを構成することを示す。
論文 参考訳(メタデータ) (2023-10-28T21:17:36Z) - Riemannian Residual Neural Networks [58.925132597945634]
残余ニューラルネットワーク(ResNet)の拡張方法を示す。
ResNetは、機械学習において、有益な学習特性、優れた経験的結果、そして様々なニューラルネットワークを構築する際に容易に組み込める性質のために、ユビキタスになった。
論文 参考訳(メタデータ) (2023-10-16T02:12:32Z) - Intrinsic Gaussian Process on Unknown Manifolds with Probabilistic
Metrics [5.582101184758529]
本稿では、点雲に確率的測度を持つ未知多様体上の回帰のための固有ガウス過程を構築するための新しいアプローチを提案する。
多様体の幾何学は一般に通常のユークリッド幾何学と異なる。
GPUMの応用は、スイスロール、WiFi信号の高次元実データセット、画像データ例のシミュレーション研究で説明されている。
論文 参考訳(メタデータ) (2023-01-16T17:42:40Z) - A singular Riemannian geometry approach to Deep Neural Networks I.
Theoretical foundations [77.86290991564829]
ディープニューラルネットワークは、音声認識、機械翻訳、画像解析など、いくつかの科学領域で複雑な問題を解決するために広く使われている。
我々は、リーマン計量を備えた列の最後の多様体で、多様体間の写像の特定の列を研究する。
このようなシーケンスのマップの理論的性質について検討し、最終的に実践的な関心を持つニューラルネットワークの実装間のマップのケースに焦点を当てる。
論文 参考訳(メタデータ) (2021-12-17T11:43:30Z) - Vector-valued Gaussian Processes on Riemannian Manifolds via Gauge
Equivariant Projected Kernels [108.60991563944351]
本稿では、ベクトル値のガウス過程を幾何学に忠実に誘導するゲージ同変カーネルの構築法を提案する。
我々は,変分推論などの標準ガウスプロセストレーニング手法を,この設定に拡張する。
論文 参考訳(メタデータ) (2021-10-27T13:31:10Z) - Semi-Riemannian Graph Convolutional Networks [36.09315878397234]
まず、定数非零曲率の半リーマン多様体のデータをモデル化する原理付きセミリーマンGCNを開発する。
本手法は,階層型グラフのような混合ヘテロジニアストポロジーをサイクルでモデル化するのに十分柔軟である幾何学的帰納バイアスを与える。
論文 参考訳(メタデータ) (2021-06-06T14:23:34Z) - A Differential Geometry Perspective on Orthogonal Recurrent Models [56.09491978954866]
我々は微分幾何学からのツールと洞察を用いて、直交rnnの新しい視点を提供する。
直交RNNは、発散自由ベクトル場の空間における最適化と見なすことができる。
この観測に動機づけられて、ベクトル場全体の空間にまたがる新しいリカレントモデルの研究を行う。
論文 参考訳(メタデータ) (2021-02-18T19:39:22Z) - Nested Grassmannians for Dimensionality Reduction with Applications [7.106986689736826]
等質リーマン多様体のネスト列を構成するための新しい枠組みを提案する。
我々は、提案されたフレームワークをグラスマン多様体に適用することに集中し、ネストしたグラスマン多様体(NG)を生み出した。
具体的には、各平面(2D) 形状は複素グラスマン多様体である複素射影空間の点として表すことができる。
提案したNG構造を用いて,教師付き次元減少問題と教師なし次元減少問題に対するアルゴリズムをそれぞれ開発する。
論文 参考訳(メタデータ) (2020-10-27T20:09:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。