論文の概要: A Lie Group Approach to Riemannian Batch Normalization

• arxiv url: http://arxiv.org/abs/2403.11261v1
• Date: Sun, 17 Mar 2024 16:24:07 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-19 17:46:37.421956
• Title: A Lie Group Approach to Riemannian Batch Normalization
• Title（参考訳）: リーマンバッチ正規化に対するリー群アプローチ
• Authors: Ziheng Chen, Yue Song, Yunmei Liu, Nicu Sebe,
• Abstract要約: 本稿では,リー群における正規化手法の統一的枠組みを確立する。 我々は3つの異なるリー群構造を持つ対称正定性(SPD)に焦点を当てる。 これらのリー群によって誘導される特定の正規化層は、SPDニューラルネットワークに対して提案される。
• 参考スコア（独自算出の注目度）: 59.48083303101632
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Manifold-valued measurements exist in numerous applications within computer vision and machine learning. Recent studies have extended Deep Neural Networks (DNNs) to manifolds, and concomitantly, normalization techniques have also been adapted to several manifolds, referred to as Riemannian normalization. Nonetheless, most of the existing Riemannian normalization methods have been derived in an ad hoc manner and only apply to specific manifolds. This paper establishes a unified framework for Riemannian Batch Normalization (RBN) techniques on Lie groups. Our framework offers the theoretical guarantee of controlling both the Riemannian mean and variance. Empirically, we focus on Symmetric Positive Definite (SPD) manifolds, which possess three distinct types of Lie group structures. Using the deformation concept, we generalize the existing Lie groups on SPD manifolds into three families of parameterized Lie groups. Specific normalization layers induced by these Lie groups are then proposed for SPD neural networks. We demonstrate the effectiveness of our approach through three sets of experiments: radar recognition, human action recognition, and electroencephalography (EEG) classification. The code is available at https://github.com/GitZH-Chen/LieBN.git.
• Abstract（参考訳）: マニフォールド値の測定は、コンピュータビジョンや機械学習における多くの応用に存在している。 近年、ディープニューラルネットワーク(DNN)を多様体に拡張し、同時に正規化技術はリーマン正規化と呼ばれるいくつかの多様体にも適用されている。 それでも、既存のリーマン正規化法の大部分は、アドホックな方法で導出され、特定の多様体にのみ適用される。 本稿では,リー群に対するリーマンバッチ正規化(RBN)手法の統一的枠組みを確立する。 我々の枠組みはリーマン平均と分散の両方を制御する理論的保証を提供する。 経験的に、3つの異なるリー群構造を持つ対称正定値多様体(SPD)に焦点を当てる。 変形の概念を用いて、SPD多様体上の既存のリー群をパラメータ化されたリー群の3つの族に一般化する。 これらのリー群によって誘導される特定の正規化層は、SPDニューラルネットワークに対して提案される。 本研究は,レーダー認識,人行動認識,脳波分類(EEG)の3つの実験を通して,アプローチの有効性を実証する。 コードはhttps://github.com/GitZH-Chen/LieBN.gitで公開されている。

関連論文リスト

• RMLR: Extending Multinomial Logistic Regression into General Geometries [64.16104856124029]
  我々のフレームワークは、最小限の幾何学的性質しか必要とせず、広い適用性を示す。 SPD MLRの5つのファミリーを5種類のパワー変形測定値に基づいて開発する。 回転行列上では、人気のある双不変計量に基づいてリー MLR を提案する。
  論文  参考訳（メタデータ） (2024-09-28T18:38:21Z)
• Understanding Matrix Function Normalizations in Covariance Pooling through the Lens of Riemannian Geometry [63.694184882697435]
  グローバル共分散プーリング(GCP)は、高レベルの表現の2階統計を利用して、ディープニューラルネットワーク(DNN)の性能を向上させることが実証されている。
  論文  参考訳（メタデータ） (2024-07-15T07:11:44Z)
• Riemannian Multinomial Logistics Regression for SPD Neural Networks [60.11063972538648]
  本稿では,Symmetric Positive Definite (SPD) 行列のための新しいタイプのディープニューラルネットワークを提案する。 我々のフレームワークは、既存のSPDネットワークで最も人気のあるLogEig分類器について、斬新な説明を提供する。 本手法の有効性は,レーダ認識,人行動認識,脳波分類(EEG)の3つの応用で実証された。
  論文  参考訳（メタデータ） (2023-05-18T20:12:22Z)
• Adaptive Log-Euclidean Metrics for SPD Matrix Learning [73.12655932115881]
  広く使われているログユークリッド計量(LEM)を拡張した適応ログユークリッド計量(ALEM)を提案する。 実験および理論的結果から,SPDニューラルネットワークの性能向上における提案手法の有効性が示された。
  論文  参考訳（メタデータ） (2023-03-26T18:31:52Z)
• A singular Riemannian geometry approach to Deep Neural Networks I. Theoretical foundations [77.86290991564829]
  ディープニューラルネットワークは、音声認識、機械翻訳、画像解析など、いくつかの科学領域で複雑な問題を解決するために広く使われている。 我々は、リーマン計量を備えた列の最後の多様体で、多様体間の写像の特定の列を研究する。 このようなシーケンスのマップの理論的性質について検討し、最終的に実践的な関心を持つニューラルネットワークの実装間のマップのケースに焦点を当てる。
  論文  参考訳（メタデータ） (2021-12-17T11:43:30Z)
• GeomNet: A Neural Network Based on Riemannian Geometries of SPD Matrix Space and Cholesky Space for 3D Skeleton-Based Interaction Recognition [2.817412580574242]
  本稿では3次元骨格配列から2人のインタラクションを表現・分類するための新しい手法を提案する。 提案手法は,3次元人間の活動理解のための3つのベンチマーク上での2人インタラクション認識において,競合的な結果が得られることを示す。
  論文  参考訳（メタデータ） (2021-11-25T13:57:43Z)
• ManifoldNorm: Extending normalizations on Riemannian Manifolds [18.073864874996534]
  本稿では,多様体値データに対する一般化正規化手法を提案する。 提案手法は, 一般的なバッチノルムやグループノルムなど, 特殊な場合を持つことを示す。
  論文  参考訳（メタデータ） (2020-03-30T23:45:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。