論文の概要: Building Neural Networks on Matrix Manifolds: A Gyrovector Space Approach

• arxiv url: http://arxiv.org/abs/2305.04560v3
• Date: Mon, 5 Jun 2023 08:14:56 GMT
• ステータス: 処理完了
• システム内更新日: 2023-06-06 11:21:01.890608
• Title: Building Neural Networks on Matrix Manifolds: A Gyrovector Space Approach
• Title（参考訳）: 行列多様体上のニューラルネットワークの構築:ジャイロビクター空間アプローチ
• Authors: Xuan Son Nguyen, Shuo Yang
• Abstract要約: 我々はSPDとグラスマン多様体上にニューラルネットワークを構築するための新しいモデルと層を提案する。 本稿では,人間の行動認識と知識グラフ補完という2つの応用にアプローチの有効性を示す。
• 参考スコア（独自算出の注目度）: 8.003578990152945
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Matrix manifolds, such as manifolds of Symmetric Positive Definite (SPD) matrices and Grassmann manifolds, appear in many applications. Recently, by applying the theory of gyrogroups and gyrovector spaces that is a powerful framework for studying hyperbolic geometry, some works have attempted to build principled generalizations of Euclidean neural networks on matrix manifolds. However, due to the lack of many concepts in gyrovector spaces for the considered manifolds, e.g., the inner product and gyroangles, techniques and mathematical tools provided by these works are still limited compared to those developed for studying hyperbolic geometry. In this paper, we generalize some notions in gyrovector spaces for SPD and Grassmann manifolds, and propose new models and layers for building neural networks on these manifolds. We show the effectiveness of our approach in two applications, i.e., human action recognition and knowledge graph completion.
• Abstract（参考訳）: 対称正定値(spd)行列やグラスマン多様体のような行列多様体は、多くの応用において現れる。 近年、双曲幾何学研究の強力な枠組みであるジャイロ群とジャイロベクトル空間の理論を適用することで、行列多様体上のユークリッドニューラルネットワークの原理的一般化を構築しようとする研究もある。 しかし、ジャイロビクター空間(例えば内積やジャイロ角形)の多くの概念が欠けているため、これらの作品によって提供される技法や数学的道具は双曲幾何学を研究するために開発されたものと比べてまだ限られている。 本稿では、SPDおよびグラスマン多様体のジャイロベクトル空間におけるいくつかの概念を一般化し、これらの多様体上にニューラルネットワークを構築するための新しいモデルと層を提案する。 本稿では,人間の行動認識と知識グラフ補完という2つの応用にアプローチの有効性を示す。

関連論文リスト

• RMLR: Extending Multinomial Logistic Regression into General Geometries [64.16104856124029]
  我々のフレームワークは、最小限の幾何学的性質しか必要とせず、広い適用性を示す。 SPD MLRの5つのファミリーを5種類のパワー変形測定値に基づいて開発する。 回転行列上では、人気のある双不変計量に基づいてリー MLR を提案する。
  論文  参考訳（メタデータ） (2024-09-28T18:38:21Z)
• Matrix Manifold Neural Networks++ [18.385670036798707]
  我々はSPDニューラルネットワークのための完全接続層を設計する。 本稿では,プロジェクタの観点から,グラスマン対数写像を用いて逆プロパゲーションを行う手法を提案する。
  論文  参考訳（メタデータ） (2024-05-29T15:47:35Z)
• A Lie Group Approach to Riemannian Batch Normalization [59.48083303101632]
  本稿では,リー群における正規化手法の統一的枠組みを確立する。 我々は3つの異なるリー群構造を持つ対称正定性(SPD)に焦点を当てる。 これらのリー群によって誘導される特定の正規化層は、SPDニューラルネットワークに対して提案される。
  論文  参考訳（メタデータ） (2024-03-17T16:24:07Z)
• A Hitchhiker's Guide to Geometric GNNs for 3D Atomic Systems [87.30652640973317]
  原子系の計算モデリングの最近の進歩は、これらを3次元ユークリッド空間のノードとして埋め込まれた原子を含む幾何学的グラフとして表現している。 Geometric Graph Neural Networksは、タンパク質構造予測から分子シミュレーション、物質生成まで、幅広い応用を駆動する機械学習アーキテクチャとして好まれている。 本稿では,3次元原子システムのための幾何学的GNNの分野について,包括的で自己完結した概要を述べる。
  論文  参考訳（メタデータ） (2023-12-12T18:44:19Z)
• Intrinsic Gaussian Vector Fields on Manifolds [40.20536208199638]
  得られたホッジ・マタン・ガウスベクトル場を二次元球面とハイパートーラス上に展開するのに必要となるプリミティブを提供する。 ガウスベクトル場は、前述した外生的場よりもかなり洗練された帰納的バイアスを構成することを示す。
  論文  参考訳（メタデータ） (2023-10-28T21:17:36Z)
• A singular Riemannian geometry approach to Deep Neural Networks I. Theoretical foundations [77.86290991564829]
  ディープニューラルネットワークは、音声認識、機械翻訳、画像解析など、いくつかの科学領域で複雑な問題を解決するために広く使われている。 我々は、リーマン計量を備えた列の最後の多様体で、多様体間の写像の特定の列を研究する。 このようなシーケンスのマップの理論的性質について検討し、最終的に実践的な関心を持つニューラルネットワークの実装間のマップのケースに焦点を当てる。
  論文  参考訳（メタデータ） (2021-12-17T11:43:30Z)
• Vector-valued Gaussian Processes on Riemannian Manifolds via Gauge Equivariant Projected Kernels [108.60991563944351]
  本稿では、ベクトル値のガウス過程を幾何学に忠実に誘導するゲージ同変カーネルの構築法を提案する。 我々は,変分推論などの標準ガウスプロセストレーニング手法を,この設定に拡張する。
  論文  参考訳（メタデータ） (2021-10-27T13:31:10Z)
• A Differential Geometry Perspective on Orthogonal Recurrent Models [56.09491978954866]
  我々は微分幾何学からのツールと洞察を用いて、直交rnnの新しい視点を提供する。 直交RNNは、発散自由ベクトル場の空間における最適化と見なすことができる。 この観測に動機づけられて、ベクトル場全体の空間にまたがる新しいリカレントモデルの研究を行う。
  論文  参考訳（メタデータ） (2021-02-18T19:39:22Z)
• Nested Grassmannians for Dimensionality Reduction with Applications [7.106986689736826]
  等質リーマン多様体のネスト列を構成するための新しい枠組みを提案する。 我々は、提案されたフレームワークをグラスマン多様体に適用することに集中し、ネストしたグラスマン多様体(NG)を生み出した。 具体的には、各平面(2D) 形状は複素グラスマン多様体である複素射影空間の点として表すことができる。 提案したNG構造を用いて,教師付き次元減少問題と教師なし次元減少問題に対するアルゴリズムをそれぞれ開発する。
  論文  参考訳（メタデータ） (2020-10-27T20:09:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。