論文の概要: The Shape of Attraction in UMAP: Exploring the Embedding Forces in Dimensionality Reduction
- arxiv url: http://arxiv.org/abs/2503.09101v1
- Date: Wed, 12 Mar 2025 06:37:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-03-13 15:40:45.877171
- Title: The Shape of Attraction in UMAP: Exploring the Embedding Forces in Dimensionality Reduction
- Title(参考訳): UMAPにおけるアトラクションの形状--次元化におけるエンベディング力の探索
- Authors: Mohammad Tariqul Islam, Jason W. Fleischer,
- Abstract要約: 我々は、クラスターの形成と可視化に対する影響を明らかにするために、力を分析する。
我々の分析により、UMAPと類似の埋め込み手法がより解釈可能で、より堅牢で、より正確になる。
- 参考スコア(独自算出の注目度): 1.206248959194646
- License:
- Abstract: Uniform manifold approximation and projection (UMAP) is among the most popular neighbor embedding methods. The method relies on attractive and repulsive forces among high-dimensional data points to obtain a low-dimensional embedding. In this paper, we analyze the forces to reveal their effects on cluster formations and visualization. Repulsion emphasizes differences, controlling cluster boundaries and inter-cluster distance. Attraction is more subtle, as attractive tension between points can manifest simultaneously as attraction and repulsion in the lower-dimensional mapping. This explains the need for learning rate annealing and motivates the different treatments between attractive and repulsive terms. Moreover, by modifying attraction, we improve the consistency of cluster formation under random initialization. Overall, our analysis makes UMAP and similar embedding methods more interpretable, more robust, and more accurate.
- Abstract(参考訳): 一様多様体近似と射影(UMAP)は、最も一般的な隣り合う埋め込み法の一つである。
この方法は、低次元の埋め込みを得るために、高次元のデータポイント間の魅力的で反発的な力に依存する。
本稿では,クラスタ形成と可視化に対する影響を明らかにするための力について分析する。
反発は差を強調し、クラスタ境界とクラスタ間距離を制御する。
引力はより微妙であり、低次元の写像において、ポイント間の引力はアトラクションと反発として同時に現れる。
このことは、学習速度のアニールの必要性を説明し、魅力的な言葉と反発的な言葉の異なる扱いを動機付けている。
さらに,アトラクションを変更することにより,ランダム初期化時のクラスタ形成の整合性を改善する。
全体として、我々の分析により、UMAPと類似の埋め込み手法がより解釈可能で、より堅牢で、より正確になる。
関連論文リスト
- Attraction-Repulsion Swarming: A Generalized Framework of t-SNE via Force Normalization and Tunable Interactions [2.3020018305241337]
ARSは、アトラクションと反発力によって駆動される相互作用するエージェントの群として、t分散データ近接埋め込み(t-SNE)可視化技術を見ることに基づくフレームワークである。
ARSはまた、アトラクションとリプルションカーネルを個別にチューニングする機能も備えている。これにより、クラスタ内のタイツネスと、視覚化におけるそれらの間の間隔をユーザがコントロールできるようになる。
論文 参考訳(メタデータ) (2024-11-15T22:42:11Z) - Enhancing Counterfactual Explanation Search with Diffusion Distance and Directional Coherence [0.0]
AIモデルの採用の急激な問題は、予測に関するより人間中心の説明に対する需要の増加である。
本稿では,2つの新しいバイアスを組み込むことにより,効果的な対実的説明の探索を強化することを提案する。
論文 参考訳(メタデータ) (2024-04-19T11:47:17Z) - Deep Clustering with Diffused Sampling and Hardness-aware
Self-distillation [4.550555443103878]
本稿では, 拡散サンプリングと硬度認識型自己蒸留(HaDis)を併用した, エンドツーエンドの深層クラスタリング手法を提案する。
5つの課題の画像データセットの結果は、最先端のHaDis法よりも優れたクラスタリング性能を示している。
論文 参考訳(メタデータ) (2024-01-25T09:33:49Z) - Hierarchical Compositional Representations for Few-shot Action
Recognition [51.288829293306335]
本稿では,新しい階層型合成表現(HCR)学習手法を提案する。
複雑なアクションを、慎重に設計された階層的クラスタリングによって、いくつかのサブアクションに分割する。
また、輸送問題において、サブアクション表現の観点から、ビデオサンプル間の類似度を測定するために、アースモーバー距離(Earth Mover's Distance)を採用した。
論文 参考訳(メタデータ) (2022-08-19T16:16:59Z) - An Embedding-Dynamic Approach to Self-supervised Learning [8.714677279673738]
本稿では,画像の埋め込みを点粒子として扱うとともに,モデル最適化を粒子系の動的過程として考察する。
我々の動的モデルは、類似した画像に対する魅力的な力、局所的な崩壊を避けるための局所的な分散力、そして粒子のグローバルな均質分布を達成するための大域的な分散力を組み合わせた。
論文 参考訳(メタデータ) (2022-07-07T19:56:20Z) - PANet: Perspective-Aware Network with Dynamic Receptive Fields and
Self-Distilling Supervision for Crowd Counting [63.84828478688975]
本稿では,視点問題に対処するため,PANetと呼ばれる新しい視点認識手法を提案する。
対象物のサイズが視点効果によって1つの画像で大きく変化するという観測に基づいて,動的受容場(DRF)フレームワークを提案する。
このフレームワークは、入力画像に応じて拡張畳み込みパラメータによって受容野を調整することができ、モデルが各局所領域についてより識別的な特徴を抽出するのに役立つ。
論文 参考訳(メタデータ) (2021-10-31T04:43:05Z) - Hard-label Manifolds: Unexpected Advantages of Query Efficiency for
Finding On-manifold Adversarial Examples [67.23103682776049]
画像分類モデルに対する最近のゼロオーダーのハードラベル攻撃は、ファーストオーダーのグラデーションレベルの代替品に匹敵する性能を示している。
最近、グラデーションレベルの設定では、通常の敵対的な例がデータ多様体から離れ、オンマニホールドの例が実際には一般化エラーであることが示されている。
雑音の多い多様体距離オラクルに基づく情報理論論的議論を提案し、敵の勾配推定を通じて多様体情報を漏洩させる。
論文 参考訳(メタデータ) (2021-03-04T20:53:06Z) - Deep Magnification-Flexible Upsampling over 3D Point Clouds [103.09504572409449]
本稿では,高密度点雲を生成するためのエンドツーエンド学習ベースのフレームワークを提案する。
まずこの問題を明示的に定式化し、重みと高次近似誤差を判定する。
そこで我々は,高次改良とともに,統一重みとソート重みを適応的に学習する軽量ニューラルネットワークを設計する。
論文 参考訳(メタデータ) (2020-11-25T14:00:18Z) - Fast Gravitational Approach for Rigid Point Set Registration with
Ordinary Differential Equations [79.71184760864507]
本稿では,FGA(Fast Gravitational Approach)と呼ばれる厳密な点集合アライメントのための物理に基づく新しい手法を紹介する。
FGAでは、ソースとターゲットの点集合は、シミュレーションされた重力場内を移動しながら、世界規模で多重リンクされた方法で相互作用する質量を持つ剛体粒子群として解釈される。
従来のアライメント手法では,新しいメソッドクラスには特徴がないことを示す。
論文 参考訳(メタデータ) (2020-09-28T15:05:39Z) - Attraction-Repulsion Spectrum in Neighbor Embeddings [6.129463540742259]
隣の埋め込みアルゴリズムは、隣接する一対の点間の魅力的な力と全ての点間の反発力を組み合わせる。
ここでは、誇張パラメータを用いたt-SNEの魅力と反発力のバランスの変化が、埋め込みのスペクトルをもたらすことを実証的に示す。
論文 参考訳(メタデータ) (2020-07-17T11:10:04Z) - Disentangling Adaptive Gradient Methods from Learning Rates [65.0397050979662]
適応的勾配法が学習率のスケジュールとどのように相互作用するかを、より深く検討する。
我々は、更新の規模をその方向から切り離す"グラフティング"実験を導入する。
適応勾配法の一般化に関する経験的および理論的考察を示す。
論文 参考訳(メタデータ) (2020-02-26T21:42:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。