論文の概要: Riemannian Batch Normalization: A Gyro Approach
- arxiv url: http://arxiv.org/abs/2509.07115v1
- Date: Mon, 08 Sep 2025 18:12:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-09-10 14:38:27.07394
- Title: Riemannian Batch Normalization: A Gyro Approach
- Title(参考訳): リーマンバッチ正規化:ジロアプローチ
- Authors: Ziheng Chen, Xiao-Jun Wu, Nicu Sebe,
- Abstract要約: ジャイロ群に対するリーマン型バッチ正規化フレームワークであるGyroBNを紹介する。
我々は、GyroBNがユークリッドニューラルネットワークを非ユークリッド領域に拡張するのに利用できることを示した。
さらに、グラースマン多様体、5つの定数曲率空間、相関多様体を含む7つの代表測地上でGyroBNをインスタンス化する。
- 参考スコア(独自算出の注目度): 66.47359447024509
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Normalization layers are crucial for deep learning, but their Euclidean formulations are inadequate for data on manifolds. On the other hand, many Riemannian manifolds in machine learning admit gyro-structures, enabling principled extensions of Euclidean neural networks to non-Euclidean domains. Inspired by this, we introduce GyroBN, a principled Riemannian batch normalization framework for gyrogroups. We establish two necessary conditions, namely \emph{pseudo-reduction} and \emph{gyroisometric gyrations}, that guarantee GyroBN with theoretical control over sample statistics, and show that these conditions hold for all known gyrogroups in machine learning. Our framework also incorporates several existing Riemannian normalization methods as special cases. We further instantiate GyroBN on seven representative geometries, including the Grassmannian, five constant curvature spaces, and the correlation manifold, and derive novel gyro and Riemannian structures to enable these instantiations. Experiments across these geometries demonstrate the effectiveness of GyroBN. The code is available at https://github.com/GitZH-Chen/GyroBN.git.
- Abstract(参考訳): 正規化層はディープラーニングには不可欠であるが、それらのユークリッドの定式化は多様体上のデータには不十分である。
一方、機械学習における多くのリーマン多様体はジャイロ構造を認め、ユークリッドニューラルネットワークの非ユークリッド領域への原則的拡張を可能にする。
このことに着想を得て、ジャイロ群に対するリーマン的バッチ正規化フレームワークであるGyroBNを紹介した。
我々は,サンプル統計量に対する理論的な制御でGyroBNを保証し,これらの条件が機械学習におけるすべての既知のジャイロ群に対して成り立つことを示す2つの必要条件,すなわち \emph{pseudo-reduction} と \emph{gyroisometric gyrations} を確立する。
我々のフレームワークはまた、いくつかの既存のリーマン正規化法を特別な場合として取り入れている。
さらに、グラースマン多様体、5つの定数曲率空間、相関多様体を含む7つの代表ジオメトリー上でジロBNをインスタンス化し、これらのインスタンス化を可能にする新しいジャイロ構造とリーマン構造を導出する。
これらの測地実験は、GyroBNの有効性を実証している。
コードはhttps://github.com/GitZH-Chen/GyroBN.gitで公開されている。
関連論文リスト
- RMLR: Extending Multinomial Logistic Regression into General Geometries [64.16104856124029]
我々のフレームワークは、最小限の幾何学的性質しか必要とせず、広い適用性を示す。
SPD MLRの5つのファミリーを5種類のパワー変形測定値に基づいて開発する。
回転行列上では、人気のある双不変計量に基づいてリー MLR を提案する。
論文 参考訳(メタデータ) (2024-09-28T18:38:21Z) - A Lie Group Approach to Riemannian Batch Normalization [59.48083303101632]
本稿では,リー群における正規化手法の統一的枠組みを確立する。
我々は3つの異なるリー群構造を持つ対称正定性(SPD)に焦点を当てる。
これらのリー群によって誘導される特定の正規化層は、SPDニューラルネットワークに対して提案される。
論文 参考訳(メタデータ) (2024-03-17T16:24:07Z) - DeepRicci: Self-supervised Graph Structure-Feature Co-Refinement for
Alleviating Over-squashing [72.70197960100677]
グラフ構造学習(GSL)はグラフニューラルネットワーク(GNN)を改良したグラフで強化する上で重要な役割を果たしている。
GSLソリューションは、通常、タスク固有の監督(ノード分類)による構造改善に焦点を当てるか、GNN自体の固有の弱点を見落としている。
本稿では,典型的なGNNにおけるオーバー・スカッシングの問題を効果的に緩和する,自己教師付きグラフ構造-機能共分法について検討する。
論文 参考訳(メタデータ) (2024-01-23T14:06:08Z) - Building Neural Networks on Matrix Manifolds: A Gyrovector Space
Approach [8.003578990152945]
我々はSPDとグラスマン多様体上にニューラルネットワークを構築するための新しいモデルと層を提案する。
本稿では,人間の行動認識と知識グラフ補完という2つの応用にアプローチの有効性を示す。
論文 参考訳(メタデータ) (2023-05-08T09:10:11Z) - A singular Riemannian geometry approach to Deep Neural Networks I.
Theoretical foundations [77.86290991564829]
ディープニューラルネットワークは、音声認識、機械翻訳、画像解析など、いくつかの科学領域で複雑な問題を解決するために広く使われている。
我々は、リーマン計量を備えた列の最後の多様体で、多様体間の写像の特定の列を研究する。
このようなシーケンスのマップの理論的性質について検討し、最終的に実践的な関心を持つニューラルネットワークの実装間のマップのケースに焦点を当てる。
論文 参考訳(メタデータ) (2021-12-17T11:43:30Z) - Nested Grassmannians for Dimensionality Reduction with Applications [7.106986689736826]
等質リーマン多様体のネスト列を構成するための新しい枠組みを提案する。
我々は、提案されたフレームワークをグラスマン多様体に適用することに集中し、ネストしたグラスマン多様体(NG)を生み出した。
具体的には、各平面(2D) 形状は複素グラスマン多様体である複素射影空間の点として表すことができる。
提案したNG構造を用いて,教師付き次元減少問題と教師なし次元減少問題に対するアルゴリズムをそれぞれ開発する。
論文 参考訳(メタデータ) (2020-10-27T20:09:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。