論文の概要: Adaptive Riemannian Metrics on SPD Manifolds
- arxiv url: http://arxiv.org/abs/2303.15477v3
- Date: Thu, 18 May 2023 20:09:34 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-22 18:45:53.100760
- Title: Adaptive Riemannian Metrics on SPD Manifolds
- Title(参考訳): SPD多様体上のアダプティブリーマン計量
- Authors: Ziheng Chen, Yue Song, Tianyang Xu, Zhiwu Huang, Xiao-Jun Wu, Nicu
Sebe
- Abstract要約: 対称正定値行列(SPD)は、データの構造的相関を符号化する本質的な能力のため、機械学習において広く注目を集めている。
既存の固定計量テンソルは、SPD行列学習、特にSPDニューラルネットワークの準最適性能をもたらす可能性がある。
- 参考スコア(独自算出の注目度): 67.48576298756996
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Symmetric Positive Definite (SPD) matrices have received wide attention in
machine learning due to their intrinsic capacity of encoding underlying
structural correlation in data. To reflect the non-Euclidean geometry of SPD
manifolds, many successful Riemannian metrics have been proposed. However,
existing fixed metric tensors might lead to sub-optimal performance for SPD
matrices learning, especially for SPD neural networks. To remedy this
limitation, we leverage the idea of pullback and propose adaptive Riemannian
metrics for SPD manifolds. Moreover, we present comprehensive theories for our
metrics. Experiments on three datasets demonstrate that equipped with the
proposed metrics, SPD networks can exhibit superior performance.
- Abstract(参考訳): 対称正定値行列(SPD)は、データの構造的相関を符号化する本質的な能力のため、機械学習において広く注目を集めている。
SPD多様体の非ユークリッド幾何学を反映するために、多くのリーマン計量が提案されている。
しかし、既存の固定計量テンソルはSPD行列学習、特にSPDニューラルネットワークの準最適性能をもたらす可能性がある。
この制限を緩和するために、引き戻しの概念を活用し、SPD多様体に対する適応リーマン計量を提案する。
さらに,指標の包括的理論も提示する。
3つのデータセットによる実験により,提案手法により,SPDネットワークの性能が向上することが示された。
関連論文リスト
- Riemannian Self-Attention Mechanism for SPD Networks [34.794770395408335]
本稿では,SPD多様体自己アテンション機構(SMSA)を提案する。
構造化表現の識別を改善するためにSMSAベースの幾何学習モジュール(SMSA-GL)を設計する。
論文 参考訳(メタデータ) (2023-11-28T12:34:46Z) - The Fisher-Rao geometry of CES distributions [50.50897590847961]
Fisher-Rao情報幾何学は、ツールを微分幾何学から活用することができる。
楕円分布の枠組みにおけるこれらの幾何学的ツールの実用的利用について述べる。
論文 参考訳(メタデータ) (2023-10-02T09:23:32Z) - Riemannian Multiclass Logistics Regression for SPD Neural Networks [54.418735373762004]
対称正定値行列(SPD)を学習するためのディープニューラルネットワークは、機械学習において注目を集めている。
既存のSPDネットワークの多くは、固有分類器ではなく、近似空間上の伝統的なユークリッド分類器を使用している。
双曲型ニューラルネットワーク(HNN)の成功に触発されて,SPDネットワークのためのリーマン型マルチクラスロジスティクスレグレッション(RMLR)を提案する。
論文 参考訳(メタデータ) (2023-05-18T20:12:22Z) - DreamNet: A Deep Riemannian Network based on SPD Manifold Learning for
Visual Classification [36.848148506610364]
SPD行列学習のための新しいアーキテクチャを提案する。
深層表現を豊かにするために、SPDNetをバックボーンとして採用する。
次に、SRAEの表現能力を高めるために、ショートカット接続を持つ残余ブロックをいくつか挿入する。
論文 参考訳(メタデータ) (2022-06-16T07:15:20Z) - Neural Operator with Regularity Structure for Modeling Dynamics Driven
by SPDEs [70.51212431290611]
偏微分方程式 (SPDE) は、大気科学や物理学を含む多くの分野において、力学をモデル化するための重要なツールである。
本研究では,SPDEによって駆動されるダイナミクスをモデル化するための特徴ベクトルを組み込んだニューラル演算子(NORS)を提案する。
動的Phi41モデルと2d Navier-Stokes方程式を含む様々なSPDE実験を行った。
論文 参考訳(メタデータ) (2022-04-13T08:53:41Z) - On Riemannian Optimization over Positive Definite Matrices with the
Bures-Wasserstein Geometry [45.1944007785671]
本稿では,Bres-Wasserstein (BW) 幾何を一般的な Affine-Invariant (AI) 幾何を用いて解析する。
我々は、AIメトリックの二次的依存とは対照的に、BWメトリックがSPD行列に線形依存しているという観測に基づいて構築する。
BW幾何学は非負の曲率を持ち、非正の曲線を持つAI幾何に対するアルゴリズムの収束率をさらに向上させることを示す。
論文 参考訳(メタデータ) (2021-06-01T07:39:19Z) - Learning Log-Determinant Divergences for Positive Definite Matrices [47.61701711840848]
本稿では,データ駆動方式で類似度を学習することを提案する。
スカラーアルファとベータによってパラメトリ化されたメタダイバージェンスであるalphabeta-log-detの発散を利用する。
私たちの重要なアイデアは、これらのパラメータを連続体にキャストし、データから学ぶことです。
論文 参考訳(メタデータ) (2021-04-13T19:09:43Z) - Spectral Tensor Train Parameterization of Deep Learning Layers [136.4761580842396]
重み行列の低ランクパラメータ化をDeep Learningコンテキストに埋め込まれたスペクトル特性を用いて検討する。
分類設定におけるニューラルネットワーク圧縮の効果と,生成的対角トレーニング設定における圧縮および安定性トレーニングの改善について述べる。
論文 参考訳(メタデータ) (2021-03-07T00:15:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。