論文の概要: Entropic Wasserstein Component Analysis
- arxiv url: http://arxiv.org/abs/2303.05119v1
- Date: Thu, 9 Mar 2023 08:59:33 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-10 15:37:00.672650
- Title: Entropic Wasserstein Component Analysis
- Title(参考訳): エントロピーワッサースタイン成分分析
- Authors: Antoine Collas, Titouan Vayer, R\'emi Flamary, Arnaud Breloy
- Abstract要約: 次元減少(DR)の鍵となる要件は、元のサンプルと組込みサンプルの間にグローバルな依存関係を組み込むことである。
最適輸送(OT)と主成分分析(PCA)の原理を組み合わせる。
提案手法は, サンプルの近傍情報を自然に符号化するエントロピーOTを用いて, 復元誤差を最小化する最適線形部分空間を求める。
- 参考スコア(独自算出の注目度): 8.744017403796406
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Dimension reduction (DR) methods provide systematic approaches for analyzing
high-dimensional data. A key requirement for DR is to incorporate global
dependencies among original and embedded samples while preserving clusters in
the embedding space. To achieve this, we combine the principles of optimal
transport (OT) and principal component analysis (PCA). Our method seeks the
best linear subspace that minimizes reconstruction error using entropic OT,
which naturally encodes the neighborhood information of the samples. From an
algorithmic standpoint, we propose an efficient block-majorization-minimization
solver over the Stiefel manifold. Our experimental results demonstrate that our
approach can effectively preserve high-dimensional clusters, leading to more
interpretable and effective embeddings. Python code of the algorithms and
experiments is available online.
- Abstract(参考訳): 次元減少法(DR)は高次元データを解析するための体系的なアプローチを提供する。
DRのキーとなる要件は、埋め込みスペース内のクラスタを保持しながら、オリジナルおよび組み込みサンプル間のグローバルな依存関係を統合することである。
これを実現するために,我々は最適輸送(ot)と主成分分析(pca)の原理を組み合わせる。
提案手法は, サンプルの近傍情報を自然に符号化するエントロピーOTを用いて, 復元誤差を最小化する最適線形部分空間を求める。
アルゴリズムの観点から,Stiefel多様体上の効率的なブロック行列化最小化解法を提案する。
実験の結果,提案手法は高次元クラスタを効果的に保存でき,より解釈可能で効果的な埋め込みが可能となった。
アルゴリズムと実験のpythonコードはオンラインで入手できる。
関連論文リスト
- A Sample Efficient Alternating Minimization-based Algorithm For Robust Phase Retrieval [56.67706781191521]
そこで本研究では,未知の信号の復元を課題とする,ロバストな位相探索問題を提案する。
提案するオラクルは、単純な勾配ステップと外れ値を用いて、計算学的スペクトル降下を回避している。
論文 参考訳(メタデータ) (2024-09-07T06:37:23Z) - Self-Supervised Dataset Distillation for Transfer Learning [77.4714995131992]
ラベルなしデータセットを、効率的な自己教師付き学習(SSL)のための小さな合成サンプル群に蒸留する新しい問題を提案する。
両レベル最適化におけるSSL目標に対する合成サンプルの勾配は、データ拡張やマスキングから生じるランダム性から、テキストバイアスを受けていることを最初に証明する。
転送学習を含む様々な応用における本手法の有効性を実証的に検証する。
論文 参考訳(メタデータ) (2023-10-10T10:48:52Z) - Entropic Neural Optimal Transport via Diffusion Processes [105.34822201378763]
本稿では,連続確率分布間のエントロピー最適輸送(EOT)計画を計算するための新しいアルゴリズムを提案する。
提案アルゴリズムは,シュリンガーブリッジ問題(Schr"odinger Bridge problem)として知られるEOTの動的バージョンのサドル点再構成に基づく。
大規模EOTの従来の手法とは対照的に,我々のアルゴリズムはエンドツーエンドであり,単一の学習ステップで構成されている。
論文 参考訳(メタデータ) (2022-11-02T14:35:13Z) - Entropic Descent Archetypal Analysis for Blind Hyperspectral Unmixing [45.82374977939355]
我々は、ブラインド・ハイパースペクトル・アンミックスのためのアーチティパル解析に基づく新しいアルゴリズムを提案する。
6つの標準実データセットを用いて、我々の手法は最先端の行列分解や最近のディープラーニング手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2022-09-22T13:34:21Z) - Sparse PCA via $l_{2,p}$-Norm Regularization for Unsupervised Feature
Selection [138.97647716793333]
再構成誤差を$l_2,p$ノルム正規化と組み合わせることで,単純かつ効率的な特徴選択手法を提案する。
提案する非教師付きモデルを解くための効率的な最適化アルゴリズムを提案し,アルゴリズムの収束と計算の複雑さを理論的に解析する。
論文 参考訳(メタデータ) (2020-12-29T04:08:38Z) - Attentional-Biased Stochastic Gradient Descent [74.49926199036481]
深層学習におけるデータ不均衡やラベルノイズ問題に対処するための証明可能な手法(ABSGD)を提案する。
本手法は運動量SGDの簡易な修正であり,各試料に個別の重み付けを行う。
ABSGDは追加コストなしで他の堅牢な損失と組み合わせられるほど柔軟である。
論文 参考訳(メタデータ) (2020-12-13T03:41:52Z) - Unsupervised learning of disentangled representations in deep restricted
kernel machines with orthogonality constraints [15.296955630621566]
Constr-DRKMは、非教師なしデータ表現の学習のためのディープカーネル手法である。
本研究では,不整合特徴学習における提案手法の有効性を定量的に評価する。
論文 参考訳(メタデータ) (2020-11-25T11:40:10Z) - Deep Shells: Unsupervised Shape Correspondence with Optimal Transport [52.646396621449]
本稿では,3次元形状対応のための教師なし学習手法を提案する。
提案手法は,複数のデータセット上での最先端技術よりも大幅に改善されていることを示す。
論文 参考訳(メタデータ) (2020-10-28T22:24:07Z) - A Manifold Proximal Linear Method for Sparse Spectral Clustering with
Application to Single-Cell RNA Sequencing Data Analysis [9.643152256249884]
本稿では,SSCモデルを非滑らかかつ非客観的な最適化モデルとして広く採用している。
本研究では,従来のSSC問題を解く新しい手法(ManPL)を提案する。
提案手法の結果が得られた。
論文 参考訳(メタデータ) (2020-07-18T22:05:00Z) - IVFS: Simple and Efficient Feature Selection for High Dimensional
Topology Preservation [33.424663018395684]
本稿では,サンプル類似性保存を向上する簡易かつ効果的な特徴選択アルゴリズムを提案する。
提案アルゴリズムは、全データの対距離と位相パターンを適切に保存することができる。
論文 参考訳(メタデータ) (2020-04-02T23:05:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。