論文の概要: On the continuum limit of t-SNE for data visualization

• arxiv url: http://arxiv.org/abs/2604.12041v1
• Date: Mon, 13 Apr 2026 20:32:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-15 19:11:32.114686
• Title: On the continuum limit of t-SNE for data visualization
• Title（参考訳）: データ可視化のためのt-SNEの連続極限について
• Authors: Jeff Calder, Zhonggan Huang, Ryan Murray, Adam Pickarski,
• Abstract要約: この研究は、t-Distributed Neighbor Embedding (t-SNE)と呼ばれるグラフベースのデータ可視化技術の限界に関するものである。 我々は、データポイントの数が$nto infty$であるように、Kullback-Leiblerの発散は、データポイントの$nto infty$として一貫したものであることを証明している。
• 参考スコア（独自算出の注目度）: 1.8549313085249324
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: This work is concerned with the continuum limit of a graph-based data visualization technique called the t-Distributed Stochastic Neighbor Embedding (t-SNE), which is widely used for visualizing data in a variety of applications, but is still poorly understood from a theoretical standpoint. The t-SNE algorithm produces visualizations by minimizing the Kullback-Leibler divergence between similarity matrices representing the high dimensional data and its low dimensional representation. We prove that as the number of data points $n \to \infty$, after a natural rescaling and in applicable parameter regimes, the Kullback-Leibler divergence is consistent as the number of data points $n \to \infty$ and the similarity graph remains sparse with a continuum variational problem that involves a non-convex gradient regularization term and a penalty on the magnitude of the probability density function in the visualization space. These two terms represent the continuum limits of the attraction and repulsion forces in the t-SNE algorithm. Due to the lack of convexity in the continuum variational problem, the question of well-posedeness is only partially resolved. We show that when both dimensions are $1$, the problem admits a unique smooth minimizer, along with an infinite number of discontinuous minimizers (interpreted in a relaxed sense). This aligns well with the empirically observed ability of t-SNE to separate data in seemingly arbitrary ways in the visualization. The energy is also very closely related to the famously ill-posed Perona-Malik equation, which is used for denoising and simplifying images. We present numerical results validating the continuum limit, provide some preliminary results about the delicate nature of the limiting energetic problem in higher dimensions, and highlight several problems for future work.
• Abstract（参考訳）: この研究は t-Distributed Stochastic Neighbor Embedding (t-SNE) と呼ばれるグラフベースのデータ視覚化技術の継続限界に関係しており、様々なアプリケーションでデータを視覚化するのに広く使われているが、理論的な観点からはまだ理解されていない。 t-SNEアルゴリズムは、高次元データとその低次元表現を表す類似度行列間のクルバック・リーバーのばらつきを最小化して可視化を生成する。 自然再スケーリングおよび適用パラメータ規則の後に、データ点の数が$n \to \infty$となると、Kulback-Leibler分散はデータ点の個数$n \to \infty$として一貫しており、類似性グラフは非凸勾配正規化項と可視化空間における確率密度関数の大きさに対するペナルティを含む連続的変分問題と相容れない。 これらの2項は、t-SNEアルゴリズムにおけるアトラクションと反発力の連続極限を表す。 連続的変分問題における凸性の欠如により、よく考えられた問題は部分的には解決されない。 両次元が1ドルであるとき、問題は特異な滑らかな最小化と無限個の不連続な最小化(緩和された意味で解釈される)を認める。 これは、t-SNEが視覚化において、一見任意の方法でデータを分離する経験的に観察された能力とよく一致している。 このエネルギーは、画像の分解や単純化に使用される有名なペルナ・マリク方程式と非常に密接に関連している。 本稿では,連続限界を検証し,高次元における極限エネルギー問題の微妙な性質に関する予備的な結果を提供し,今後の課題を浮き彫りにする。

関連論文リスト

• Manifold limit for the training of shallow graph convolutional neural networks [1.2744523252873352]
  本研究では,浅部グラフ畳み込みニューラルネットワーク(GCNN)のサンプル点雲近傍グラフにおけるトレーニングの整合性について検討した。 我々は、正規化された経験的リスク最小化関数の$$-convergenceと、それらの大域的最小化関数の対応する収束を証明した。
  論文  参考訳（メタデータ） (2026-01-09T18:59:20Z)
• Low-Rank Tensor Recovery via Variational Schatten-p Quasi-Norm and Jacobian Regularization [49.85875869048434]
  暗黙的神経表現のためのニューラルネットワークによりパラメータ化されたCPベースの低ランクテンソル関数を提案する。 本研究では、スペーサーCP分解を実現するために、冗長なランク1成分に変分Schatten-p quasi-normを導入する。 滑らか性のために、ヤコビアンとハッチンソンのトレース推定器のスペクトルノルムに基づく正規化項を提案する。
  論文  参考訳（メタデータ） (2025-06-27T11:23:10Z)
• Large data limits and scaling laws for tSNE [1.2085509610251701]
  元の tSNE アルゴリズムの埋め込みは、$n から in$ への一貫した極限を持たないことを示す。 本稿では、魅力的なエネルギーの減衰を緩和し、一貫した極限を持つ再スケールモデルを提案する。
  論文  参考訳（メタデータ） (2024-10-16T21:43:02Z)
• Learning Discretized Neural Networks under Ricci Flow [48.47315844022283]
  低精度重みとアクティベーションからなる離散ニューラルネットワーク(DNN)について検討する。 DNNは、訓練中に微分不可能な離散関数のために無限あるいはゼロの勾配に悩まされる。
  論文  参考訳（メタデータ） (2023-02-07T10:51:53Z)
• Low-Rank Tensor Function Representation for Multi-Dimensional Data Recovery [52.21846313876592]
  低ランクテンソル関数表現(LRTFR)は、無限解像度でメッシュグリッドを超えてデータを連続的に表現することができる。 テンソル関数に対する2つの基本的な概念、すなわちテンソル関数ランクとローランクテンソル関数分解を開発する。 提案手法は,最先端手法と比較して,提案手法の優越性と汎用性を裏付けるものである。
  論文  参考訳（メタデータ） (2022-12-01T04:00:38Z)
• High-dimensional limit theorems for SGD: Effective dynamics and critical scaling [6.950316788263433]
  我々は、勾配降下(SGD)の要約統計の軌跡に対する極限定理を証明する。 下記の有効弾道力学が人口減少の勾配流と一致するステップサイズにおける重要なスケーリング体制を示す。 この実効力学の固定点について、対応する拡散極限は極めて複雑であり、さらに退化することもある。
  論文  参考訳（メタデータ） (2022-06-08T17:42:18Z)
• Lifting the Convex Conjugate in Lagrangian Relaxations: A Tractable Approach for Continuous Markov Random Fields [53.31927549039624]
  断片的な離散化は既存の離散化問題と矛盾しないことを示す。 この理論を2つの画像のマッチング問題に適用する。
  論文  参考訳（メタデータ） (2021-07-13T12:31:06Z)
• Conditional gradient methods for stochastically constrained convex minimization [54.53786593679331]
  構造凸最適化問題に対する条件勾配に基づく2つの新しい解法を提案する。 私たちのフレームワークの最も重要な特徴は、各イテレーションで制約のサブセットだけが処理されることです。 提案アルゴリズムは, 条件勾配のステップとともに, 分散の低減と平滑化に頼り, 厳密な収束保証を伴っている。
  論文  参考訳（メタデータ） (2020-07-07T21:26:35Z)
• The Heavy-Tail Phenomenon in SGD [7.366405857677226]
  最小損失のHessianの構造に依存すると、SGDの反復はエンフェビーテールの定常分布に収束する。 深層学習におけるSGDの行動に関する知見に分析結果を変換する。
  論文  参考訳（メタデータ） (2020-06-08T16:43:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。