論文の概要: Semi-Supervised Manifold Learning with Complexity Decoupled Chart Autoencoders
- arxiv url: http://arxiv.org/abs/2208.10570v2
- Date: Fri, 04 Oct 2024 16:34:17 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-10-07 15:06:13.026888
- Title: Semi-Supervised Manifold Learning with Complexity Decoupled Chart Autoencoders
- Title(参考訳): 複雑分離チャートオートエンコーダを用いた半教師付きマニフォールド学習
- Authors: Stefan C. Schonsheck, Scott Mahan, Timo Klock, Alexander Cloninger, Rongjie Lai,
- Abstract要約: 本研究は、クラスラベルなどの半教師付き情報を付加できる非対称符号化復号プロセスを備えたチャートオートエンコーダを導入する。
このようなネットワークの近似力を議論し、周囲空間の次元ではなく、本質的にデータ多様体の内在次元に依存する境界を導出する。
- 参考スコア(独自算出の注目度): 45.29194877564103
- License:
- Abstract: Autoencoding is a popular method in representation learning. Conventional autoencoders employ symmetric encoding-decoding procedures and a simple Euclidean latent space to detect hidden low-dimensional structures in an unsupervised way. Some modern approaches to novel data generation such as generative adversarial networks askew this symmetry, but still employ a pair of massive networks--one to generate the image and another to judge the images quality based on priors learned from a training set. This work introduces a chart autoencoder with an asymmetric encoding-decoding process that can incorporate additional semi-supervised information such as class labels. Besides enhancing the capability for handling data with complicated topological and geometric structures, the proposed model can successfully differentiate nearby but disjoint manifolds and intersecting manifolds with only a small amount of supervision. Moreover, this model only requires a low-complexity encoding operation, such as a locally defined linear projection. We discuss the approximation power of such networks and derive a bound that essentially depends on the intrinsic dimension of the data manifold rather than the dimension of ambient space. Next we incorporate bounds for the sampling rate of training data need to faithfully represent a given data manifold. We present numerical experiments that verify that the proposed model can effectively manage data with multi-class nearby but disjoint manifolds of different classes, overlapping manifolds, and manifolds with non-trivial topology. Finally, we conclude with some experiments on computer vision and molecular dynamics problems which showcase the efficacy of our methods on real-world data.
- Abstract(参考訳): オートエンコーディングは表現学習において一般的な方法である。
従来のオートエンコーダでは、対称符号化復号法と単純なユークリッド潜在空間を用いて、隠された低次元構造を教師なしの方法で検出する。
生成的敵ネットワークのような新しいデータ生成に対する現代のアプローチでは、この対称性を問うが、画像を生成するために1つと、トレーニングセットから学んだ事前情報に基づいて画像品質を判断するために2つの巨大なネットワークを用いる。
本研究は、クラスラベルなどの半教師付き情報を付加できる非対称符号化復号プロセスを備えたチャートオートエンコーダを導入する。
複雑なトポロジカル・幾何学的構造を持つデータを扱う能力の向上に加えて, 提案モデルでは, 近傍の非交叉多様体や交叉多様体を, 少量の監督だけで識別することができる。
さらに、このモデルは局所的に定義された線形射影のような低複雑さの符号化操作のみを必要とする。
このようなネットワークの近似力を議論し、周囲空間の次元ではなく、本質的にデータ多様体の内在次元に依存する境界を導出する。
次に、与えられたデータ多様体を忠実に表現する必要があるトレーニングデータのサンプリングレートのバウンダリを組み込む。
提案したモデルが,異なるクラス,重なり合う多様体,非自明なトポロジーを持つ多様体の多クラスで効率的にデータを管理できることを検証する数値実験を行った。
最後に,本手法が実世界のデータに与える影響を示すコンピュータビジョンと分子動力学の諸問題について実験を行った。
関連論文リスト
- SpaceMesh: A Continuous Representation for Learning Manifold Surface Meshes [61.110517195874074]
本稿では,ニューラルネットワークの出力として,複雑な接続性を持つ多様体多角形メッシュを直接生成する手法を提案する。
私たちの重要なイノベーションは、各メッシュで連続的な遅延接続空間を定義することです。
アプリケーションでは、このアプローチは生成モデルから高品質な出力を得るだけでなく、メッシュ修復のような挑戦的な幾何処理タスクを直接学習することを可能にする。
論文 参考訳(メタデータ) (2024-09-30T17:59:03Z) - On-Manifold Projected Gradient Descent [0.0]
この研究は、高次元データに対するクラス多様体の微分幾何学に対する計算可能で直接的で数学的に厳密な近似を提供する。
ツールはニューラルネットワーク画像分類器の設定に適用され、新しいオンマンフォールドデータサンプルを生成する。
論文 参考訳(メタデータ) (2023-08-23T17:50:50Z) - VTAE: Variational Transformer Autoencoder with Manifolds Learning [144.0546653941249]
深層生成モデルは、多くの潜伏変数を通して非線形データ分布の学習に成功している。
ジェネレータの非線形性は、潜在空間がデータ空間の不満足な射影を示し、表現学習が不十分になることを意味する。
本研究では、測地学と正確な計算により、深部生成モデルの性能を大幅に向上させることができることを示す。
論文 参考訳(メタデータ) (2023-04-03T13:13:19Z) - Unsupervised Manifold Linearizing and Clustering [19.879641608165887]
本稿では、データ表現と2重クラスタメンバシップの両方に関して、最大符号化削減度を最適化することを提案する。
CIFAR-10, -20, -100, TinyImageNet-200データセットに対する実験により,提案手法は最先端のディープクラスタリング手法よりもはるかに正確でスケーラブルであることが示された。
論文 参考訳(メタデータ) (2023-01-04T20:08:23Z) - Decoupled Multi-task Learning with Cyclical Self-Regulation for Face
Parsing [71.19528222206088]
顔解析のための周期的自己統制型デカップリング型マルチタスク学習を提案する。
具体的には、DML-CSRは、顔解析、バイナリエッジ、カテゴリエッジ検出を含むマルチタスクモデルを設計する。
提案手法は,Helen,CelebA-HQ,LapaMaskのデータセット上での最先端性能を実現する。
論文 参考訳(メタデータ) (2022-03-28T02:12:30Z) - Geometry-Aware Hierarchical Bayesian Learning on Manifolds [5.182379239800725]
多様体値の視覚データに基づく学習のための階層型ベイズ学習モデルを提案する。
まず、幾何学的認識とカーネル内畳み込みの性質を持つカーネルを導入する。
次に、ガウス過程回帰を用いて入力を整理し、最終的に特徴集約のための階層的ベイズネットワークを実装する。
論文 参考訳(メタデータ) (2021-10-30T05:47:05Z) - Manifold Topology Divergence: a Framework for Comparing Data Manifolds [109.0784952256104]
本研究では,深部生成モデルの評価を目的としたデータ多様体の比較フレームワークを開発する。
クロスバーコードに基づき,manifold Topology Divergence score(MTop-Divergence)を導入する。
MTop-Divergenceは,様々なモードドロップ,モード内崩壊,モード発明,画像乱れを正確に検出する。
論文 参考訳(メタデータ) (2021-06-08T00:30:43Z) - Category-Learning with Context-Augmented Autoencoder [63.05016513788047]
実世界のデータの解釈可能な非冗長表現を見つけることは、機械学習の鍵となる問題の一つである。
本稿では,オートエンコーダのトレーニングにデータ拡張を利用する新しい手法を提案する。
このような方法で変分オートエンコーダを訓練し、補助ネットワークによって変換結果を予測できるようにする。
論文 参考訳(メタデータ) (2020-10-10T14:04:44Z) - Extendable and invertible manifold learning with geometry regularized
autoencoders [9.742277703732187]
データ探索における基本的な課題は、データ内の固有幾何学をキャプチャする単純化された低次元表現を抽出することである。
このタスクに対する一般的なアプローチは、多様体学習にカーネルメソッドを使用する。
オートエンコーダのボトルネックに幾何正規化項を組み込むことにより,両手法を統合する新しい手法を提案する。
論文 参考訳(メタデータ) (2020-07-14T15:59:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。