論文の概要: Riemannian Multiclass Logistics Regression for SPD Neural Networks
- arxiv url: http://arxiv.org/abs/2305.11288v1
- Date: Thu, 18 May 2023 20:12:22 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-22 17:17:45.988657
- Title: Riemannian Multiclass Logistics Regression for SPD Neural Networks
- Title(参考訳): spdニューラルネットワークのためのリーマン多層ロジスティクス回帰
- Authors: Ziheng Chen, Yue Song, Gaowen Liu, Ramana Rao Kompella, Xiaojun Wu,
Nicu Sebe
- Abstract要約: 対称正定値行列(SPD)を学習するためのディープニューラルネットワークは、機械学習において注目を集めている。
既存のSPDネットワークの多くは、固有分類器ではなく、近似空間上の伝統的なユークリッド分類器を使用している。
双曲型ニューラルネットワーク(HNN)の成功に触発されて,SPDネットワークのためのリーマン型マルチクラスロジスティクスレグレッション(RMLR)を提案する。
- 参考スコア(独自算出の注目度): 54.418735373762004
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deep neural networks for learning symmetric positive definite (SPD) matrices
are gaining increasing attention in machine learning. Despite the significant
progress, most existing SPD networks use traditional Euclidean classifiers on
approximated spaces rather than intrinsic classifiers that accurately capture
the geometry of SPD manifolds. Inspired by the success of hyperbolic neural
networks (HNNs), we propose Riemannian multiclass logistics regression (RMLR)
for SPD networks. We introduce a general unified framework for a family of
Riemannian metrics on SPD manifolds and showcase the specific
$\orth{n}$-invariant Log-Euclidean Metrics for SPD networks. Moreover, we
encompass the most popular classifier in existing SPD networks as a special
case of our framework. Extensive experiments on popular SPD learning benchmarks
demonstrate the superiority of our classifiers.
- Abstract(参考訳): 対称正定値行列(SPD)を学習するためのディープニューラルネットワークは、機械学習において注目を集めている。
かなりの進歩にもかかわらず、既存のSPDネットワークのほとんどは、SPD多様体の幾何を正確に捉える固有の分類器ではなく、近似空間上の伝統的なユークリッド分類器を使用している。
双曲型ニューラルネットワーク(HNN)の成功に触発されて,SPDネットワークのためのリーマン型マルチクラスロジスティクスレグレッション(RMLR)を提案する。
我々は、SPD多様体上のリーマン計量の族に対する一般化されたフレームワークを導入し、SPDネットワークに対する特定の$\orth{n}$-invariant Log-Euclidean Metricsを示す。
さらに、既存のSPDネットワークにおいて最も人気のある分類器をフレームワークの特別なケースとして取り上げる。
一般的なSPD学習ベンチマークの大規模な実験は、分類器の優位性を示している。
関連論文リスト
- Riemannian Self-Attention Mechanism for SPD Networks [34.794770395408335]
本稿では,SPD多様体自己アテンション機構(SMSA)を提案する。
構造化表現の識別を改善するためにSMSAベースの幾何学習モジュール(SMSA-GL)を設計する。
論文 参考訳(メタデータ) (2023-11-28T12:34:46Z) - Adaptive Riemannian Metrics on SPD Manifolds [67.48576298756996]
対称正定値行列(SPD)は、データの構造的相関を符号化する本質的な能力のため、機械学習において広く注目を集めている。
既存の固定計量テンソルは、SPD行列学習、特にSPDニューラルネットワークの準最適性能をもたらす可能性がある。
論文 参考訳(メタデータ) (2023-03-26T18:31:52Z) - Extrapolation and Spectral Bias of Neural Nets with Hadamard Product: a
Polynomial Net Study [55.12108376616355]
NTKの研究は典型的なニューラルネットワークアーキテクチャに特化しているが、アダマール製品(NNs-Hp)を用いたニューラルネットワークには不完全である。
本研究では,ニューラルネットワークの特別なクラスであるNNs-Hpに対する有限幅Kの定式化を導出する。
我々は,カーネル回帰予測器と関連するNTKとの等価性を証明し,NTKの適用範囲を拡大する。
論文 参考訳(メタデータ) (2022-09-16T06:36:06Z) - DreamNet: A Deep Riemannian Network based on SPD Manifold Learning for
Visual Classification [36.848148506610364]
SPD行列学習のための新しいアーキテクチャを提案する。
深層表現を豊かにするために、SPDNetをバックボーンとして採用する。
次に、SRAEの表現能力を高めるために、ショートカット接続を持つ残余ブロックをいくつか挿入する。
論文 参考訳(メタデータ) (2022-06-16T07:15:20Z) - Neural Operator with Regularity Structure for Modeling Dynamics Driven
by SPDEs [70.51212431290611]
偏微分方程式 (SPDE) は、大気科学や物理学を含む多くの分野において、力学をモデル化するための重要なツールである。
本研究では,SPDEによって駆動されるダイナミクスをモデル化するための特徴ベクトルを組み込んだニューラル演算子(NORS)を提案する。
動的Phi41モデルと2d Navier-Stokes方程式を含む様々なSPDE実験を行った。
論文 参考訳(メタデータ) (2022-04-13T08:53:41Z) - Comparative Analysis of Interval Reachability for Robust Implicit and
Feedforward Neural Networks [64.23331120621118]
我々は、暗黙的ニューラルネットワーク(INN)の堅牢性を保証するために、区間到達可能性分析を用いる。
INNは暗黙の方程式をレイヤとして使用する暗黙の学習モデルのクラスである。
提案手法は, INNに最先端の区間境界伝搬法を適用するよりも, 少なくとも, 一般的には, 有効であることを示す。
論文 参考訳(メタデータ) (2022-04-01T03:31:27Z) - Riemannian Local Mechanism for SPD Neural Networks [43.789561494266316]
我々は,SPDネットワークにおける局所的幾何情報の保存を確実にすることが最重要であると論じている。
まず、ユークリッドの深層ネットワークにおけるローカル情報を取得するためによく使われる畳み込み演算子を分析した。
この分析に基づいて、SPD多様体の局所情報を定義し、局所幾何学をマイニングするためのマルチスケールサブマニフォールドブロックを設計する。
論文 参考訳(メタデータ) (2022-01-25T07:39:25Z) - Neural Architecture Search of SPD Manifold Networks [79.45110063435617]
本研究では,Symmetric Positive Definite (SPD) 多様体ネットワークのニューラルアーキテクチャ探索(NAS)問題を提案する。
まず、効率的なSPDセル設計のために、幾何学的にリッチで多様なSPDニューラルアーキテクチャ探索空間を導入する。
我々は、SPDニューラルアーキテクチャ探索のための緩和された連続探索空間上で微分可能なNASアルゴリズムを利用する。
論文 参考訳(メタデータ) (2020-10-27T18:08:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。