論文の概要: Learning Flat Latent Manifolds with VAEs
- arxiv url: http://arxiv.org/abs/2002.04881v3
- Date: Wed, 12 Aug 2020 08:18:19 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-01 19:21:48.642590
- Title: Learning Flat Latent Manifolds with VAEs
- Title(参考訳): VAEを用いたフラット潜在多様体の学習
- Authors: Nutan Chen, Alexej Klushyn, Francesco Ferroni, Justin Bayer, Patrick
van der Smagt
- Abstract要約: 本稿では、ユークリッド計量がデータポイント間の類似性のプロキシとなる変分自動エンコーダのフレームワークの拡張を提案する。
我々は、変分オートエンコーダで一般的に使用されるコンパクトな以前のものを、最近発表されたより表現力のある階層型に置き換える。
提案手法は,ビデオ追跡ベンチマークを含む,さまざまなデータセットを用いて評価する。
- 参考スコア(独自算出の注目度): 16.725880610265378
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Measuring the similarity between data points often requires domain knowledge,
which can in parts be compensated by relying on unsupervised methods such as
latent-variable models, where similarity/distance is estimated in a more
compact latent space. Prevalent is the use of the Euclidean metric, which has
the drawback of ignoring information about similarity of data stored in the
decoder, as captured by the framework of Riemannian geometry. We propose an
extension to the framework of variational auto-encoders allows learning flat
latent manifolds, where the Euclidean metric is a proxy for the similarity
between data points. This is achieved by defining the latent space as a
Riemannian manifold and by regularising the metric tensor to be a scaled
identity matrix. Additionally, we replace the compact prior typically used in
variational auto-encoders with a recently presented, more expressive
hierarchical one---and formulate the learning problem as a constrained
optimisation problem. We evaluate our method on a range of data-sets, including
a video-tracking benchmark, where the performance of our unsupervised approach
nears that of state-of-the-art supervised approaches, while retaining the
computational efficiency of straight-line-based approaches.
- Abstract(参考訳): データポイント間の類似度を測定するには、しばしばドメイン知識を必要とするが、これは、よりコンパクトな潜在空間において類似度/距離が推定される潜在変数モデルのような教師なしの手法に依存することで補うことができる。
これはデコーダに格納されているデータの類似性に関する情報を無視し、リーマン幾何学の枠組みによって捉えられるという欠点である。
本稿では、ユークリッド計量がデータ点間の類似性の指標となるような平坦な潜在多様体を学習できる変分オートエンコーダの枠組みの拡張を提案する。
これは、潜在空間をリーマン多様体として定義し、計量テンソルをスケールド恒等行列として正則化することで達成される。
さらに、変分オートエンコーダで一般的に使用されるコンパクトな先行処理を、より表現力のある階層的な1つに置き換え、制約付き最適化問題として学習問題を定式化する。
本手法は,ビデオ追跡ベンチマークを含む様々なデータセット上で評価し,教師なし手法の性能は,直線的手法の計算効率を保ちつつ,最先端の教師付き手法に近づいた。
関連論文リスト
- Persistent Classification: A New Approach to Stability of Data and Adversarial Examples [6.469716438197741]
本研究では,自然点と逆点の補間点に沿った持続的測定値の相違について検討する。
敵の例は、大きなニューラルネットワークの自然な例よりも持続性が著しく低いことを示す。
我々は、この永続性の欠如を、決定境界に関する補間物の角度を測定することによって、決定境界幾何学と結び付ける。
論文 参考訳(メタデータ) (2024-04-11T18:13:42Z) - Piecewise-Linear Manifolds for Deep Metric Learning [8.670873561640903]
教師なしの深度学習は、ラベルなしデータのみを使用して意味表現空間を学習することに焦点を当てる。
本稿では,各低次元線形片が点の小さな近傍でデータ多様体を近似して高次元データ多様体をモデル化することを提案する。
我々は、この類似度推定が、現在の最先端技術の類似度推定よりも基礎的真理と相関していることを実証的に示す。
論文 参考訳(メタデータ) (2024-03-22T06:22:20Z) - Disentanglement via Latent Quantization [60.37109712033694]
本研究では,組織化された潜在空間からの符号化と復号化に向けた帰納的バイアスを構築する。
本稿では,基本データレコーダ (vanilla autoencoder) と潜時再構成 (InfoGAN) 生成モデルの両方に追加することで,このアプローチの広範な適用性を実証する。
論文 参考訳(メタデータ) (2023-05-28T06:30:29Z) - Data-driven abstractions via adaptive refinements and a Kantorovich
metric [extended version] [56.94699829208978]
本稿では,動的システムのスマートでスケーラブルな抽象化のための適応的洗練手順を提案する。
最適構造を学ぶために、マルコフ連鎖の間のカントロビッチに着想を得た計量を定義する。
本稿では,従来の線形プログラミング手法よりも計算量が多くなることを示す。
論文 参考訳(メタデータ) (2023-03-30T11:26:40Z) - Multi-Fidelity Covariance Estimation in the Log-Euclidean Geometry [0.0]
対称正定値多様体の対数ユークリッド幾何学を利用する共分散行列の多値推定器を導入する。
固定予算が与えられた推定器の平均二乗誤差を最小化する最適サンプル割り当て方式を開発した。
物理アプリケーションからのデータによるアプローチの評価は、ベンチマークと比較すると、より正確なメトリック学習と1桁以上のスピードアップを示している。
論文 参考訳(メタデータ) (2023-01-31T16:33:46Z) - Data-heterogeneity-aware Mixing for Decentralized Learning [63.83913592085953]
グラフの混合重みとノード間のデータ不均一性の関係に収束の依存性を特徴付ける。
グラフが現在の勾配を混合する能力を定量化する計量法を提案する。
そこで本研究では,パラメータを周期的かつ効率的に最適化する手法を提案する。
論文 参考訳(メタデータ) (2022-04-13T15:54:35Z) - Improving Metric Dimensionality Reduction with Distributed Topology [68.8204255655161]
DIPOLEは、局所的、計量的項と大域的、位相的項の両方で損失関数を最小化し、初期埋め込みを補正する次元推論後処理ステップである。
DIPOLEは、UMAP、t-SNE、Isomapといった一般的な手法よりも多くの一般的なデータセットで優れています。
論文 参考訳(メタデータ) (2021-06-14T17:19:44Z) - GELATO: Geometrically Enriched Latent Model for Offline Reinforcement
Learning [54.291331971813364]
オフライン強化学習アプローチは、近近法と不確実性認識法に分けられる。
本研究では,この2つを潜在変動モデルに組み合わせることのメリットを実証する。
提案したメトリクスは、分布サンプルのアウトの品質と、データ内のサンプルの不一致の両方を測定します。
論文 参考訳(メタデータ) (2021-02-22T19:42:40Z) - Extendable and invertible manifold learning with geometry regularized
autoencoders [9.742277703732187]
データ探索における基本的な課題は、データ内の固有幾何学をキャプチャする単純化された低次元表現を抽出することである。
このタスクに対する一般的なアプローチは、多様体学習にカーネルメソッドを使用する。
オートエンコーダのボトルネックに幾何正規化項を組み込むことにより,両手法を統合する新しい手法を提案する。
論文 参考訳(メタデータ) (2020-07-14T15:59:10Z) - Manifold Learning via Manifold Deflation [105.7418091051558]
次元削減法は、高次元データの可視化と解釈に有用な手段を提供する。
多くの一般的な手法は単純な2次元のマニフォールドでも劇的に失敗する。
本稿では,グローバルな構造を座標として組み込んだ,新しいインクリメンタルな空間推定器の埋め込み手法を提案する。
実験により,本アルゴリズムは実世界および合成データセットに新規で興味深い埋め込みを復元することを示した。
論文 参考訳(メタデータ) (2020-07-07T10:04:28Z) - LOCA: LOcal Conformal Autoencoder for standardized data coordinates [6.608924227377152]
多様体の潜在変数に等長な $mathbbRd$ の埋め込みを学ぶ方法を提案する。
我々の埋め込みは, 変形を補正する埋め込みを構成するアルゴリズムであるLOCA (Local Conformal Autoencoder) を用いて得られる。
また、単一サイトWi-FiのローカライゼーションデータにLOCAを適用し、曲面推定を3ドルで行う。
論文 参考訳(メタデータ) (2020-04-15T17:49:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。