論文の概要: ManifoldNorm: Extending normalizations on Riemannian Manifolds
- arxiv url: http://arxiv.org/abs/2003.13869v2
- Date: Sat, 4 Apr 2020 22:44:32 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-18 06:48:49.647260
- Title: ManifoldNorm: Extending normalizations on Riemannian Manifolds
- Title（参考訳）: ManifoldNorm:リーマン多様体上の正規化の拡張
- Authors: Rudrasis Chakraborty
- Abstract要約: 本稿では,多様体値データに対する一般化正規化手法を提案する。
提案手法は, 一般的なバッチノルムやグループノルムなど, 特殊な場合を持つことを示す。
- 参考スコア（独自算出の注目度）: 18.073864874996534
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Many measurements in computer vision and machine learning manifest as
non-Euclidean data samples. Several researchers recently extended a number of
deep neural network architectures for manifold valued data samples. Researchers
have proposed models for manifold valued spatial data which are common in
medical image processing including processing of diffusion tensor imaging (DTI)
where images are fields of $3\times 3$ symmetric positive definite matrices or
representation in terms of orientation distribution field (ODF) where the
identification is in terms of field on hypersphere. There are other sequential
models for manifold valued data that recently researchers have shown to be
effective for group difference analysis in study for neuro-degenerative
diseases. Although, several of these methods are effective to deal with
manifold valued data, the bottleneck includes the instability in optimization
for deeper networks. In order to deal with these instabilities, researchers
have proposed residual connections for manifold valued data. One of the other
remedies to deal with the instabilities including gradient explosion is to use
normalization techniques including {\it batch norm} and {\it group norm} etc..
But, so far there is no normalization techniques applicable for manifold valued
data. In this work, we propose a general normalization techniques for manifold
valued data. We show that our proposed manifold normalization technique have
special cases including popular batch norm and group norm techniques. On the
experimental side, we focus on two types of manifold valued data including
manifold of symmetric positive definite matrices and hypersphere. We show the
performance gain in one synthetic experiment for moving MNIST dataset and one
real brain image dataset where the representation is in terms of orientation
distribution field (ODF).
- Abstract（参考訳）: コンピュータビジョンと機械学習における多くの測定は、非ユークリッドデータサンプルとして表される。
数人の研究者が最近、多様体値データサンプルのためのディープニューラルネットワークアーキテクチャを拡張した。
拡散テンソルイメージング(DTI)では画像が3-times 3$ symmetric positive definite matrices (ODF) のフィールドである場合や、超球面上のフィールドである場合の方向分布場 (ODF) の表現の場合など、医用画像処理で一般的な多様体値空間データのモデルが提案されている。
近年,神経変性疾患の研究において,群差解析に有効であることが報告されている。
これらの手法のいくつかは、多様体値データを扱うのに有効であるが、ボトルネックにはより深いネットワークの最適化の不安定性が含まれる。
これらの不安定性に対処するため、研究者は多様体値データの残差接続を提案した。
勾配爆発を含む不安定性に対処する他の方法の1つは、標準化技法として {\it batch norm} や {\it group norm} などを用いることである。
しかし、今のところ、多様体値データに適用できる正規化技術はない。
本研究では,多様体値データに対する一般正規化手法を提案する。
提案手法は, 一般的なバッチノルムやグループノルムを含む特殊な場合を持つことを示す。
実験では、対称正定値行列の多様体と超球面を含む2種類の多様体値データに注目した。
我々は、MNISTデータセットを移動させる1つの合成実験と、その表現が向き分布場(ODF)で表される1つの実脳画像データセットにおいて、性能向上を示す。
関連論文リスト
- Geodesic Optimization for Predictive Shift Adaptation on EEG data [53.58711912565724]
ドメイン適応メソッドは、$X$と$y$で分散シフトが同時に発生したときに苦労する。
本稿では,GOPSA(Geodesic Optimization for Predictive Shift Adaptation)と呼ばれる新しい手法を提案する。
GOPSAは、脳波のバイオメディカル応用のための混合効果モデリングと機械学習を併用する可能性を持っている。
論文 参考訳（メタデータ） (2024-07-04T12:15:42Z) - GLAD: Towards Better Reconstruction with Global and Local Adaptive Diffusion Models for Unsupervised Anomaly Detection [60.78684630040313]
拡散モデルは、特定のノイズを付加したテスト画像の通常の画像を再構成する傾向がある。
世界的視点から見ると、異なる異常による画像再構成の難しさは不均一である。
本稿では,非教師付き異常検出のためのグローバルかつ局所的な適応拡散モデル(GLADと略す)を提案する。
論文 参考訳（メタデータ） (2024-06-11T17:27:23Z) - Implicit Manifold Gaussian Process Regression [49.0787777751317]
ガウス過程の回帰は、よく校正された不確実性推定を提供するために広く用いられている。
これは、データが実際に存在する暗黙の低次元多様体のため、高次元データに苦しむ。
本稿では,データ(ラベル付きおよびラベルなし)から直接暗黙構造を完全に微分可能な方法で推定できる手法を提案する。
論文 参考訳（メタデータ） (2023-10-30T09:52:48Z) - VTAE: Variational Transformer Autoencoder with Manifolds Learning [144.0546653941249]
深層生成モデルは、多くの潜伏変数を通して非線形データ分布の学習に成功している。
ジェネレータの非線形性は、潜在空間がデータ空間の不満足な射影を示し、表現学習が不十分になることを意味する。
本研究では、測地学と正確な計算により、深部生成モデルの性能を大幅に向上させることができることを示す。
論文 参考訳（メタデータ） (2023-04-03T13:13:19Z) - Bayesian Hyperbolic Multidimensional Scaling [2.5944208050492183]
低次元多様体が双曲型であるとき、多次元スケーリングに対するベイズ的アプローチを提案する。
ケース制御可能性近似は、より大きなデータ設定における後部分布からの効率的なサンプリングを可能にする。
提案手法は,シミュレーション,標準基準データセット,インディアン村のネットワークデータ,およびヒトの遺伝子発現データを用いて,最先端の代替手法に対して評価する。
論文 参考訳（メタデータ） (2022-10-26T23:34:30Z) - The Manifold Scattering Transform for High-Dimensional Point Cloud Data [16.500568323161563]
本稿では,自然システムにおけるデータセットへの多様体散乱変換の実装のための実践的スキームを提案する。
本手法は信号の分類や多様体の分類に有効であることを示す。
論文 参考訳（メタデータ） (2022-06-21T02:15:00Z) - RENs: Relevance Encoding Networks [0.0]
本稿では,遅延空間に先行する自動相対性決定(ARD)を用いて,データ固有のボトルネック次元を学習する新しい確率的VOEベースのフレームワークであるrelevance encoding network (RENs)を提案する。
提案モデルは,サンプルの表現や生成品質を損なうことなく,関連性のあるボトルネック次元を学習することを示す。
論文 参考訳（メタデータ） (2022-05-25T21:53:48Z) - Manifold Topology Divergence: a Framework for Comparing Data Manifolds [109.0784952256104]
本研究では,深部生成モデルの評価を目的としたデータ多様体の比較フレームワークを開発する。
クロスバーコードに基づき,manifold Topology Divergence score(MTop-Divergence)を導入する。
MTop-Divergenceは,様々なモードドロップ,モード内崩壊,モード発明,画像乱れを正確に検出する。
論文 参考訳（メタデータ） (2021-06-08T00:30:43Z) - Diffusion Earth Mover's Distance and Distribution Embeddings [61.49248071384122]
拡散は$tildeo(n)$ timeで計算でき、ツリーベースのような同様の高速アルゴリズムよりも正確である。
拡散は完全微分可能であり、深層ニューラルネットワークのような勾配拡散フレームワークの将来の使用に適している。
論文 参考訳（メタデータ） (2021-02-25T13:18:32Z) - Flow-based Generative Models for Learning Manifold to Manifold Mappings [39.60406116984869]
本稿では,フローベース生成モデルに類似した,多様体値データに対する可逆層を3種類導入する。
配向分布関数の分野の脳画像を確実にかつ正確に再構築できる有望な結果を示します。
論文 参考訳（メタデータ） (2020-12-18T02:19:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。