論文の概要: Representing Deep Neural Networks Latent Space Geometries with Graphs
- arxiv url: http://arxiv.org/abs/2011.07343v1
- Date: Sat, 14 Nov 2020 17:21:29 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-25 13:45:54.892806
- Title: Representing Deep Neural Networks Latent Space Geometries with Graphs
- Title(参考訳): グラフによるディープニューラルネットワークの潜在空間ジオメトリ表現
- Authors: Carlos Lassance, Vincent Gripon, Antonio Ortega
- Abstract要約: ディープラーニング(DL)は多くの機械学習タスクで最先端のパフォーマンスに到達する能力に多くの注目を集めている。
本研究は, 様々な問題に対処するために, これらの潜在測地に関する制約を導入することが可能であることを示す。
- 参考スコア(独自算出の注目度): 38.63434325489782
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deep Learning (DL) has attracted a lot of attention for its ability to reach
state-of-the-art performance in many machine learning tasks. The core principle
of DL methods consists in training composite architectures in an end-to-end
fashion, where inputs are associated with outputs trained to optimize an
objective function. Because of their compositional nature, DL architectures
naturally exhibit several intermediate representations of the inputs, which
belong to so-called latent spaces. When treated individually, these
intermediate representations are most of the time unconstrained during the
learning process, as it is unclear which properties should be favored. However,
when processing a batch of inputs concurrently, the corresponding set of
intermediate representations exhibit relations (what we call a geometry) on
which desired properties can be sought. In this work, we show that it is
possible to introduce constraints on these latent geometries to address various
problems. In more details, we propose to represent geometries by constructing
similarity graphs from the intermediate representations obtained when
processing a batch of inputs. By constraining these Latent Geometry Graphs
(LGGs), we address the three following problems: i) Reproducing the behavior of
a teacher architecture is achieved by mimicking its geometry, ii) Designing
efficient embeddings for classification is achieved by targeting specific
geometries, and iii) Robustness to deviations on inputs is achieved via
enforcing smooth variation of geometry between consecutive latent spaces. Using
standard vision benchmarks, we demonstrate the ability of the proposed
geometry-based methods in solving the considered problems.
- Abstract(参考訳): ディープラーニング(DL)は多くの機械学習タスクで最先端のパフォーマンスに到達する能力に多くの注目を集めている。
dlメソッドの中核となる原則は、複合アーキテクチャをエンドツーエンドでトレーニングすることであり、入力は目的関数を最適化するために訓練された出力に関連付けられる。
その構成的性質から、dlアーキテクチャは自然に入力のいくつかの中間表現を示し、それらはいわゆる潜在空間に属する。
個別に扱う場合、これらの中間表現は、どの特性が好まれるべきかははっきりしないため、学習過程においてほとんど訓練されない。
しかし、複数の入力を同時に処理する場合、対応する中間表現の集合は、所望の特性を求めることができる関係(幾何と呼ぶもの)を示す。
本研究では,これらの潜在測地線に制約を導入することで,様々な問題に対処できることを示す。
より詳しくは、入力のバッチを処理する際に得られた中間表現から類似性グラフを構築することで、ジオメトリを表現することを提案する。
これらの潜在幾何グラフ(LGG)を制約することにより、以下の3つの問題に対処する。
一 教師建築の振舞いの再現は、その幾何学を模倣して行うこと。
二 特定測地を対象とし、分類のための効率的な埋め込みを設計すること。
三 連続潜時空間間の幾何学の滑らかな変動を強制することにより、入力に対する偏差に対するロバスト性を達成する。
標準ビジョンベンチマークを用いて,提案手法が考慮された問題の解決に有効であることを示す。
関連論文リスト
- Human as Points: Explicit Point-based 3D Human Reconstruction from
Single-view RGB Images [78.56114271538061]
我々はHaPと呼ばれる明示的なポイントベース人間再構築フレームワークを導入する。
提案手法は,3次元幾何学空間における完全明示的な点雲推定,操作,生成,洗練が特徴である。
我々の結果は、完全に明示的で幾何学中心のアルゴリズム設計へのパラダイムのロールバックを示すかもしれない。
論文 参考訳(メタデータ) (2023-11-06T05:52:29Z) - G-MSM: Unsupervised Multi-Shape Matching with Graph-based Affinity
Priors [52.646396621449]
G-MSMは、非剛体形状対応のための新しい教師なし学習手法である。
学習形態の集合に親和性グラフを自己教師型で構築する。
近年の形状対応ベンチマークで最先端の性能を示す。
論文 参考訳(メタデータ) (2022-12-06T12:09:24Z) - Curved Geometric Networks for Visual Anomaly Recognition [39.91252195360767]
データ分布の根底にある性質を理解するために潜伏埋め込みを学ぶことは、曲率ゼロのユークリッド空間でしばしば定式化される。
本研究では,データ中の異常やアウト・オブ・ディストリビューション・オブジェクトを解析するための曲線空間の利点について検討する。
論文 参考訳(メタデータ) (2022-08-02T01:15:39Z) - Plane Geometry Diagram Parsing [29.921409628478152]
深層学習とグラフ推論に基づく強力な図式を提案する。
幾何学的プリミティブを抽出する修正インスタンスセグメンテーション法を提案する。
グラフニューラルネットワーク(GNN)を利用して、関係解析と原始分類を実現する。
論文 参考訳(メタデータ) (2022-05-19T07:47:01Z) - Self-Supervised Image Representation Learning with Geometric Set
Consistency [50.12720780102395]
本稿では,3次元幾何整合性に基づく自己教師付き画像表現学習法を提案する。
具体的には、画像ビュー内の特徴整合性を強化するために、コントラスト学習フレームワークに3次元幾何学的整合性を導入する。
論文 参考訳(メタデータ) (2022-03-29T08:57:33Z) - Hermitian Symmetric Spaces for Graph Embeddings [0.0]
C 上の対称行列空間におけるグラフの連続表現を学ぶ。
これらの空間は双曲部分空間とユークリッド部分空間を同時に認めるリッチな幾何学を提供する。
提案するモデルは, apriori のグラフ特徴を見積もることなく, まったく異なる配置に自動的に適応することができる。
論文 参考訳(メタデータ) (2021-05-11T18:14:52Z) - Self-supervised Geometric Perception [96.89966337518854]
自己教師付き幾何知覚(self-supervised geometric perception)は、基底幾何モデルラベルなしで対応マッチングのための特徴記述子を学ぶためのフレームワークである。
また,SGPは,地上トラスラベルを用いて訓練した教師付きオークルよりも同等か優れる最先端性能を達成できることを示す。
論文 参考訳(メタデータ) (2021-03-04T15:34:43Z) - Primal-Dual Mesh Convolutional Neural Networks [62.165239866312334]
本稿では,グラフ・ニューラル・ネットワークの文献からトライアングル・メッシュへ引き起こされた原始双対のフレームワークを提案する。
提案手法は,3次元メッシュのエッジと顔の両方を入力として特徴付け,動的に集約する。
メッシュ単純化の文献から得られたツールを用いて、我々のアプローチに関する理論的知見を提供する。
論文 参考訳(メタデータ) (2020-10-23T14:49:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。