論文の概要: A singular Riemannian geometry approach to Deep Neural Networks II.
Reconstruction of 1-D equivalence classes
- arxiv url: http://arxiv.org/abs/2112.10583v1
- Date: Fri, 17 Dec 2021 11:47:45 GMT
- ステータス: 処理完了
- システム内更新日: 2021-12-23 09:42:24.765388
- Title: A singular Riemannian geometry approach to Deep Neural Networks II.
Reconstruction of 1-D equivalence classes
- Title(参考訳): ディープニューラルネットワークに対する特異リーマン幾何学的アプローチII
1次元同値クラスの再構成
- Authors: Alessandro Benfenati and Alessio Marta
- Abstract要約: 入力空間における出力多様体内の点の事前像を構築する。
我々は、n-次元実空間から(n-1)-次元実空間へのニューラルネットワークマップの場合の簡易性に焦点をあてる。
- 参考スコア(独自算出の注目度): 78.120734120667
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In a previous work, we proposed a geometric framework to study a deep neural
network, seen as sequence of maps between manifolds, employing singular
Riemannian geometry. In this paper, we present an application of this
framework, proposing a way to build the class of equivalence of an input point:
such class is defined as the set of the points on the input manifold mapped to
the same output by the neural network. In other words, we build the preimage of
a point in the output manifold in the input space. In particular. we focus for
simplicity on the case of neural networks maps from n-dimensional real spaces
to (n - 1)-dimensional real spaces, we propose an algorithm allowing to build
the set of points lying on the same class of equivalence. This approach leads
to two main applications: the generation of new synthetic data and it may
provides some insights on how a classifier can be confused by small
perturbation on the input data (e.g. a penguin image classified as an image
containing a chihuahua). In addition, for neural networks from 2D to 1D real
spaces, we also discuss how to find the preimages of closed intervals of the
real line. We also present some numerical experiments with several neural
networks trained to perform non-linear regression tasks, including the case of
a binary classifier.
- Abstract(参考訳): 前回の研究では、特異リーマン幾何学を用いて、多様体間の写像列と見なされる深いニューラルネットワークを研究する幾何学的枠組みを提案した。
本稿では,入力点の等価性のクラスを構築する手法を提案する。このクラスは,ニューラルネットワークによって同じ出力にマップされた入力多様体上の点の集合として定義される。
言い換えれば、入力空間における出力多様体内の点の事前像を構築する。
特に。
我々は,n-次元実空間から(n-1)-次元実空間へのニューラルネットワークのマッピングをシンプルにするため,同種の同値性を持つ点の集合を構築するアルゴリズムを提案する。
このアプローチは、新しい合成データの生成と、入力データ上の小さな摂動(例えば、チワワを含む画像に分類されるペンギン画像)によって分類器がどのように混乱するかについての洞察を与える2つの主要な応用をもたらす。
さらに,2次元から1次元の実空間におけるニューラルネットワークについても,実線の閉区間の事前像を見つける方法について検討する。
また,非線形回帰タスクを実行するように訓練された複数のニューラルネットワークを用いて,バイナリ分類器の場合などいくつかの数値実験を行う。
関連論文リスト
- Geometric Inductive Biases of Deep Networks: The Role of Data and Architecture [22.225213114532533]
ニューラルネットワークをトレーニングする場合、入力空間の曲率はそのアーキテクチャによって決定される変換の下で不変である。
平均幾何が低ランクである場合(例えばResNetの場合)、幾何学は入力空間の部分集合にのみ変化する。
論文 参考訳(メタデータ) (2024-10-15T19:46:09Z) - Neural networks learn to magnify areas near decision boundaries [32.84188052937496]
本研究では,非拘束型ニューラルネットワーク特徴写像による幾何形状の学習方法について検討する。
まず、無限の幅でランダムパラメータを持つニューラルネットワークが入力空間上で高度に対称なメトリクスを誘導することを示す。
分類タスクを実行するために訓練されたネットワークは、決定境界に沿った地域を拡大するために学習する。
論文 参考訳(メタデータ) (2023-01-26T19:43:16Z) - An example of use of Variational Methods in Quantum Machine Learning [0.0]
本稿では,平面上の特定の幾何学的パターンの点を二項分類する量子ニューラルネットワークを提案する。
その意図は、ポイントを正しく認識し分類できる最小限のトレーニング可能なパラメータを持つ量子ディープニューラルネットワークを作ることであった。
論文 参考訳(メタデータ) (2022-08-07T03:52:42Z) - Sheaf Neural Networks with Connection Laplacians [3.3414557160889076]
シーフニューラルネットワーク(英: Sheaf Neural Network、略称:SNN)は、グラフニューラルネットワークの一種で、グラフにノードとエッジにベクトル空間とそれらの空間の間の線形写像を割り当てるオブジェクトである。
それまでの研究では、ドメイン知識に基づいたシーフを手作業で構築することと、勾配に基づく手法によるシーフエンドツーエンドの学習という2つのダイメトリックなアプローチが提案されていた。
本研究ではリーマン幾何学から着想を得た新しい計算方法を提案する。
提案手法は,従来のSNNモデルと比較して計算オーバーヘッドが少なく,有望な結果が得られることを示す。
論文 参考訳(メタデータ) (2022-06-17T11:39:52Z) - Side-effects of Learning from Low Dimensional Data Embedded in an
Euclidean Space [3.093890460224435]
データ多様体の必要次元におけるネットワークの深さとノイズに関連する潜在的な正則化効果について検討する。
また,騒音によるトレーニングの副作用も提示した。
論文 参考訳(メタデータ) (2022-03-01T16:55:51Z) - TSGCNet: Discriminative Geometric Feature Learning with Two-Stream
GraphConvolutional Network for 3D Dental Model Segmentation [141.2690520327948]
2流グラフ畳み込みネットワーク(TSGCNet)を提案し、異なる幾何学的特性から多視点情報を学ぶ。
3次元口腔内スキャナーで得られた歯科モデルのリアルタイムデータセットを用いてTSGCNetの評価を行った。
論文 参考訳(メタデータ) (2020-12-26T08:02:56Z) - Primal-Dual Mesh Convolutional Neural Networks [62.165239866312334]
本稿では,グラフ・ニューラル・ネットワークの文献からトライアングル・メッシュへ引き起こされた原始双対のフレームワークを提案する。
提案手法は,3次元メッシュのエッジと顔の両方を入力として特徴付け,動的に集約する。
メッシュ単純化の文献から得られたツールを用いて、我々のアプローチに関する理論的知見を提供する。
論文 参考訳(メタデータ) (2020-10-23T14:49:02Z) - Refinement of Predicted Missing Parts Enhance Point Cloud Completion [62.997667081978825]
点雲完了は、部分的な観測から3次元形状の点集合表現を用いて完全な幾何学を予測するタスクである。
従来のアプローチでは、不完全点集合によって供給されるエンコーダ・デコーダモデルにより、点雲全体を直接推定するニューラルネットワークが提案されていた。
本稿では、欠落した幾何を計算し、既知の入力と予測点クラウドを融合することに焦点を当てたエンドツーエンドニューラルネットワークアーキテクチャを提案する。
論文 参考訳(メタデータ) (2020-10-08T22:01:23Z) - Neural Subdivision [58.97214948753937]
本稿では,データ駆動型粗粒度モデリングの新しいフレームワークであるNeural Subdivisionを紹介する。
すべてのローカルメッシュパッチで同じネットワーク重みのセットを最適化するため、特定の入力メッシュや固定属、カテゴリに制約されないアーキテクチャを提供します。
単一の高分解能メッシュでトレーニングしても,本手法は新規な形状に対して合理的な区分を生成する。
論文 参考訳(メタデータ) (2020-05-04T20:03:21Z) - Neural Operator: Graph Kernel Network for Partial Differential Equations [57.90284928158383]
この作業はニューラルネットワークを一般化し、無限次元空間(演算子)間の写像を学習できるようにすることである。
非線形活性化関数と積分作用素のクラスを構成することにより、無限次元写像の近似を定式化する。
実験により,提案したグラフカーネルネットワークには所望の特性があり,最先端技術と比較した場合の競合性能を示すことが確認された。
論文 参考訳(メタデータ) (2020-03-07T01:56:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。