論文の概要: Improvising the Learning of Neural Networks on Hyperspherical Manifold

• arxiv url: http://arxiv.org/abs/2109.14746v1
• Date: Wed, 29 Sep 2021 22:39:07 GMT
• ステータス: 処理完了
• システム内更新日: 2021-10-02 06:45:15.261778
• Title: Improvising the Learning of Neural Networks on Hyperspherical Manifold
• Title（参考訳）: 超球面マニフォールドによるニューラルネットワークの学習改善
• Authors: Lalith Bharadwaj Baru, Sai Vardhan Kanumolu, Akshay Patel Shilhora
• Abstract要約: 教師付き設定における畳み込みニューラルネットワーク(CNN)の影響は、大幅なパフォーマンス向上をもたらした。 CNNの超球面多様体上での操作から学んだ表現は、顔認識において洞察に富んだ結果をもたらした。 ユークリッド空間におけるソフトマックスよりも優れた超球直観によって、幅広い活性化関数が発達する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The impact of convolution neural networks (CNNs) in the supervised settings provided tremendous increment in performance. The representations learned from CNN's operated on hyperspherical manifold led to insightful outcomes in face recognition, face identification and other supervised tasks. A broad range of activation functions is developed with hypersphere intuition which performs superior to softmax in euclidean space. The main motive of this research is to provide insights. First, the stereographic projection is implied to transform data from Euclidean space ($\mathbb{R}^{n}$) to hyperspherical manifold ($\mathbb{S}^{n}$) to analyze the performance of angular margin losses. Secondly, proving both theoretically and practically that decision boundaries constructed on hypersphere using stereographic projection obliges the learning of neural networks. Experiments have proved that applying stereographic projection on existing state-of-the-art angular margin objective functions led to improve performance for standard image classification data sets (CIFAR-10,100). The code is publicly available at: https://github.com/barulalithb/stereo-angular-margin.
• Abstract（参考訳）: 教師付き設定における畳み込みニューラルネットワーク(CNN)の影響は、大幅なパフォーマンス向上をもたらした。 超球面多様体上のcnnの操作から得られた表現は、顔認識、顔認識、その他の教師付きタスクにおいて洞察に富んだ結果をもたらした。 ユークリッド空間におけるソフトマックスよりも優れた超球直観によって、幅広い活性化関数が発達する。 この研究の主な動機は洞察を提供することである。 まず、立体射影はユークリッド空間(\mathbb{R}^{n}$)から超球面多様体(\mathbb{S}^{n}$)へデータを変換し、角マージン損失のパフォーマンスを分析する。 第二に、立体射影を用いて超球面上に構築された決定境界がニューラルネットワークの学習を必要とすることを証明する。 実験により、既存の最先端の角縁目的関数に立体投影を適用することで、標準画像分類データセット(CIFAR-10,100)の性能が向上することが証明された。 コードはhttps://github.com/barulalithb/stereo-angular-margin.com/で公開されている。

関連論文リスト

• On the Universal Statistical Consistency of Expansive Hyperbolic Deep Convolutional Neural Networks [14.904264782690639]
  本稿では,Poincar'e Discに基づくHyperbolic DCNNを提案する。 双曲空間における拡張的畳み込みの普遍的一貫性に関する広範な理論的洞察を提供する。 結果、双曲的畳み込み構造はユークリッド構造よりも可換なマージンで優れていることが明らかとなった。
  論文  参考訳（メタデータ） (2024-11-15T12:01:03Z)
• Towards Scalable and Versatile Weight Space Learning [51.78426981947659]
  本稿では,重み空間学習におけるSANEアプローチを紹介する。 ニューラルネットワーク重みのサブセットの逐次処理に向けて,超表現の概念を拡張した。
  論文  参考訳（メタデータ） (2024-06-14T13:12:07Z)
• Parameter Convex Neural Networks [13.42851919291587]
  本研究では,ある条件下でのニューラルネットワークのパラメータに関して凸である指数的多層ニューラルネットワーク(EMLP)を提案する。 後期実験では,指数グラフ畳み込みネットワーク(EGCN)を同じアーキテクチャで構築し,グラフ分類データセット上で実験を行う。
  論文  参考訳（メタデータ） (2022-06-11T16:44:59Z)
• FuNNscope: Visual microscope for interactively exploring the loss landscape of fully connected neural networks [77.34726150561087]
  ニューラルネットワークの高次元景観特性を探索する方法を示す。 我々は、小さなニューラルネットワークの観測結果をより複雑なシステムに一般化する。 インタラクティブダッシュボードは、いくつかのアプリケーションネットワークを開放する。
  論文  参考訳（メタデータ） (2022-04-09T16:41:53Z)
• Optimization-Based Separations for Neural Networks [57.875347246373956]
  本研究では,2層のシグモダルアクティベーションを持つディープ2ニューラルネットワークを用いて,ボールインジケータ関数を効率よく学習できることを示す。 これは最適化に基づく最初の分離結果であり、より強力なアーキテクチャの近似の利点は、実際に確実に現れる。
  論文  参考訳（メタデータ） (2021-12-04T18:07:47Z)
• Learning A 3D-CNN and Transformer Prior for Hyperspectral Image Super-Resolution [80.93870349019332]
  本稿では,CNN の代わりに Transformer を用いて HSI の事前学習を行う新しい HSISR 手法を提案する。 具体的には、まず勾配アルゴリズムを用いてHSISRモデルを解き、次に展開ネットワークを用いて反復解過程をシミュレートする。
  論文  参考訳（メタデータ） (2021-11-27T15:38:57Z)
• Free Hyperbolic Neural Networks with Limited Radii [32.42488915688723]
  双曲型空間で直接動作する双曲型ニューラルネットワーク(HNN)は、双曲型表現の可能性をさらに活用するために最近提案されている。 HNNは、暗黙の階層構造を持つデータセット上でのユークリッドニューラルネットワーク(ENN)よりも優れたパフォーマンスを実現しているが、CIFARやImageNetのような標準分類ベンチマークでは依然としてパフォーマンスが低い。 本稿では、まず、標準認識データセットにおけるHNNの劣悪な性能が、悪名高い失効勾配問題に起因することを示す実証的研究を行う。 我々の分析は、常に双曲的埋め込みを規則化する、Feature Clippingと呼ばれるシンプルだが効果的なソリューションをもたらす。
  論文  参考訳（メタデータ） (2021-07-23T22:10:16Z)
• OSLO: On-the-Sphere Learning for Omnidirectional images and its application to 360-degree image compression [59.58879331876508]
  全方向画像の表現モデルの学習について検討し、全方向画像の深層学習モデルで使用される数学的ツールを再定義するために、HEALPixの球面一様サンプリングの特性を利用することを提案する。 提案したオン・ザ・スフィア・ソリューションは、等方形画像に適用された類似の学習モデルと比較して、13.7%のビットレートを節約できる圧縮ゲインを向上させる。
  論文  参考訳（メタデータ） (2021-07-19T22:14:30Z)
• Spatial Dependency Networks: Neural Layers for Improved Generative Image Modeling [79.15521784128102]
  画像生成装置(デコーダ)を構築するための新しいニューラルネットワークを導入し、可変オートエンコーダ(VAE)に適用する。 空間依存ネットワーク(sdns)では、ディープニューラルネットの各レベルにおける特徴マップを空間的にコヒーレントな方法で計算する。 空間依存層による階層型vaeのデコーダの強化は密度推定を大幅に改善することを示す。
  論文  参考訳（メタデータ） (2021-03-16T07:01:08Z)
• Learning Granularity-Aware Convolutional Neural Network for Fine-Grained Visual Classification [0.0]
  識別的特徴を段階的に探索するGranularity-Aware Congrainedal Neural Network (GA-CNN)を提案する。 GA-CNNはバウンディングボックス/パーツアノテーションを必要とせず、エンドツーエンドでトレーニングできます。 このアプローチは3つのベンチマークデータセットで最先端のパフォーマンスを達成します。
  論文  参考訳（メタデータ） (2021-03-04T02:18:07Z)
• Hyperbolic Generative Adversarial Network [0.0]
  本稿では、GANアーキテクチャにおける双曲型ニューラルネットワークを用いて、画像に存在する階層的特徴を生かし得ることを提案する。 本研究は, HGAN, HCGAN, HWGANとよばれる, GAN, CGAN, WGANにおいて, 完全に結合した双曲層を用いた異なる構成の試験を行った。
  論文  参考訳（メタデータ） (2021-02-10T16:55:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。