論文の概要: FUnc-SNE: A flexible, Fast, and Unconstrained algorithm for neighbour embeddings
- arxiv url: http://arxiv.org/abs/2509.07681v1
- Date: Tue, 09 Sep 2025 12:46:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-09-10 14:38:27.314386
- Title: FUnc-SNE: A flexible, Fast, and Unconstrained algorithm for neighbour embeddings
- Title(参考訳): FUnc-SNE: 近接埋め込みのための柔軟・高速・非拘束なアルゴリズム
- Authors: Pierre Lambert, Edouard Couplet, Michel Verleysen, John Aldo Lee,
- Abstract要約: 近傍埋め込み(NE)は、低次元空間への高次元データセットの表現を可能にする。
本稿では,NEを高速化する新しい手法を提案する。
実験は、速度、構造体の柔軟性の点で有望な結果を示し、より広範な機械学習コンテキストにおける潜在的使用を示す。
- 参考スコア(独自算出の注目度): 1.189955933770711
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Neighbour embeddings (NE) allow the representation of high dimensional datasets into lower dimensional spaces and are often used in data visualisation. In practice, accelerated approximations are employed to handle very large datasets. Accelerating NE is challenging, and two main directions have been explored: very coarse approximations based on negative sampling (as in UMAP) achieve high effective speed but may lack quality in the extracted structures; less coarse approximations, as used in FIt-SNE or BH-t-SNE, offer better structure preservation at the cost of speed, while also restricting the target dimensionality to 2 or 3, limiting NE to visualisation. In some variants, the precision of these costlier accelerations also enables finer-grained control on the extracted structures through dedicated hyperparameters. This paper proposes to bridge the gab between both approaches by introducing a novel way to accelerate NE, requiring a small number of computations per iteration while maintaining good fine-grained structure preservation and flexibility through hyperparameter tuning, without limiting the dimensionality of the embedding space. The method was designed for interactive exploration of data; as such, it abandons the traditional two-phased approach of other NE methods, allowing instantaneous visual feedback when changing hyperparameters, even when these control processes happening on the high-dimensional side of the computations. Experiments using a publicly available, GPU accelerated GUI integration of the method show promising results in terms of speed, flexibility in the structures getting extracted, and show potential uses in broader machine learning contexts with minimal algorithmic modifications. Central to this algorithm is a novel approach to iterative approximate nearest neighbour search, which shows promising results compared to nearest neighbour descent.
- Abstract(参考訳): 近傍埋め込み(NE)は、高次元データセットを低次元空間に表現することを可能にし、しばしばデータの可視化に使用される。
実際には、非常に大きなデータセットを扱うために加速近似が用いられる。
NEの加速は困難であり、2つの主な方向が検討されている: 負のサンプリングに基づく非常に粗い近似(UMAPなど)は高い有効速度を達成できるが、抽出された構造に品質が欠如する可能性がある; FIT-SNEやBH-t-SNEのように粗い近似は、速度のコストでより優れた構造保存を提供すると同時に、目標の寸法を2または3に制限する。
いくつかの変種では、これらの高価な加速器の精度は、専用のハイパーパラメータを通して抽出された構造をよりきめ細かい制御を可能にする。
本稿では,組込み空間の次元性を制限することなく,高パラメータチューニングによる微細構造保存と柔軟性を良好に保ちつつ,イテレーション毎に少ない計算を必要としながら,NEを高速化する新たな方法を導入することにより,両手法間のギャップを埋めることを提案する。
この手法はデータのインタラクティブな探索のために設計されており、計算の高次元側で発生する制御プロセスであっても、他のNE手法の従来の2段階のアプローチを放棄し、ハイパーパラメータを変更する際の瞬時に視覚的フィードバックを可能にする。
一般公開されたGPUアクセラレーションされたGUI統合を使った実験では、速度、抽出される構造の柔軟性、アルゴリズムの変更を最小限に抑えたより広範な機械学習コンテキストでの潜在的な使用を示す。
このアルゴリズムの中心は、近接する近距離探索を反復的に行う新しいアプローチであり、近接する近距離探索と比較して有望な結果を示す。
関連論文リスト
- Dual-Branch HNSW Approach with Skip Bridges and LID-Driven Optimization [0.8786066051474574]
Hierarchical Navigable Small World (HNSW)アルゴリズムは近接探索に広く利用されている。
提案手法は, 局所最適化とクラスタ切断を緩和し, 建設速度を向上し, 推論速度を向上するアルゴリズムである。
様々なベンチマークとデータセットの実験により、我々のアルゴリズムは元のHNSWを精度と速度の両方で上回っていることがわかった。
論文 参考訳(メタデータ) (2025-01-23T10:20:12Z) - Variational Bayes image restoration with compressive autoencoders [6.689746581015932]
逆問題の正規化は、計算イメージングにおいて最重要となる。
本研究では,まず,最先端生成モデルの代わりに変分オートエンコーダを提案する。
第2の貢献として、変分推論内で潜時推定を行う変分ベイズ潜時推定(VBLE)アルゴリズムを導入する。
論文 参考訳(メタデータ) (2023-11-29T15:49:31Z) - Efficient Graph Neural Network Inference at Large Scale [54.89457550773165]
グラフニューラルネットワーク(GNN)は、幅広いアプリケーションで優れた性能を示している。
既存のスケーラブルなGNNは、線形伝搬を利用して特徴を前処理し、トレーニングと推論の手順を高速化する。
本稿では,そのトポロジ情報に基づいて各ノードに対してパーソナライズされた伝搬順序を生成する適応的伝搬順序法を提案する。
論文 参考訳(メタデータ) (2022-11-01T14:38:18Z) - Correlating sparse sensing for large-scale traffic speed estimation: A
Laplacian-enhanced low-rank tensor kriging approach [76.45949280328838]
本稿では,Laplacian enhanced Low-rank tensor (LETC) フレームワークを提案する。
次に,提案したモデルをネットワークワイド・クリグにスケールアップするために,複数の有効な数値手法を用いて効率的な解アルゴリズムを設計する。
論文 参考訳(メタデータ) (2022-10-21T07:25:57Z) - Nesterov Accelerated ADMM for Fast Diffeomorphic Image Registration [63.15453821022452]
ディープラーニングに基づくアプローチの最近の発展は、DiffIRのサブ秒間実行を実現している。
本稿では,中間定常速度場を機能的に構成する簡易な反復スキームを提案する。
次に、任意の順序の正規化項を用いて、これらの速度場に滑らかさを課す凸最適化モデルを提案する。
論文 参考訳(メタデータ) (2021-09-26T19:56:45Z) - Scalable Optimal Transport in High Dimensions for Graph Distances,
Embedding Alignment, and More [7.484063729015126]
最適輸送のためのコスト行列の2つの効率的な対数線形時間近似を提案する。
これらの近似は、複雑な高次元空間に対してもよく機能するエントロピー規則化OTに対する一般的な対数線形時間アルゴリズムを可能にする。
グラフ距離回帰のために,グラフニューラルネットワーク(GNN)と拡張シンクホーンを組み合わせたグラフトランスポートネットワーク(GTN)を提案する。
論文 参考訳(メタデータ) (2021-07-14T17:40:08Z) - HyperNP: Interactive Visual Exploration of Multidimensional Projection
Hyperparameters [61.354362652006834]
HyperNPは、ニューラルネットワーク近似をトレーニングすることで、プロジェクションメソッドをリアルタイムにインタラクティブに探索できるスケーラブルな方法である。
我々は3つのデータセット間でのHyperNPの性能を,性能と速度の観点から評価した。
論文 参考訳(メタデータ) (2021-06-25T17:28:14Z) - Escaping Poor Local Minima in Large Scale Robust Estimation [41.304283715031204]
ロバストなパラメータ推定のための2つの新しいアプローチを紹介します。
最初のアルゴリズムは、貧弱なミニマから逃れる強力な能力を持つ適応的なカーネルスケーリング戦略を使用します。
第2のアルゴリズムは、一般化メジャー化最小化フレームワークと半二次昇降式を組み合わせて、シンプルで効率的なソルバーを得る。
論文 参考訳(メタデータ) (2021-02-22T11:58:29Z) - DyCo3D: Robust Instance Segmentation of 3D Point Clouds through Dynamic
Convolution [136.7261709896713]
本稿では,インスタンスの性質に応じて適切な畳み込みカーネルを生成するデータ駆動型アプローチを提案する。
提案手法はScanetNetV2とS3DISの両方で有望な結果が得られる。
また、現在の最先端よりも推論速度を25%以上向上させる。
論文 参考訳(メタデータ) (2020-11-26T14:56:57Z) - Lagrangian Decomposition for Neural Network Verification [148.0448557991349]
ニューラルネットワーク検証の基本的なコンポーネントは、出力が取ることのできる値のバウンダリの計算である。
ラグランジアン分解に基づく新しい手法を提案する。
ランニングタイムのごく一部で、既成の解法に匹敵するバウンダリが得られることを示す。
論文 参考訳(メタデータ) (2020-02-24T17:55:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。