論文の概要: How smoothing the affinity matrix affects neighborhood preservation in t-SNE
- arxiv url: http://arxiv.org/abs/2608.17190v1
- Date: Mon, 17 Aug 2026 23:05:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-19 21:40:53.160258
- Title: How smoothing the affinity matrix affects neighborhood preservation in t-SNE
- Title(参考訳): 親和性マトリックスの滑らか化がt-SNEの近傍保存に及ぼす影響
- Abstract要約: 本研究は, この確率分布のシャープさが, 異なるスケールでの地域保存に与える影響について検討する。
急激化は近隣地域の保存を円滑化させながら、近隣地域の保存を円滑化させる。
- 参考スコア(独自算出の注目度): 0.9186980619142703
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Dimensionality reduction methods are instrumental to visualize high-dimensional data, and t-SNE stands as one of the most widely used methods due to its emphasis on local neighborhood preservation. A central component of t-SNE is the affinity matrix, which expresses pairwise similarities in the form of symmetrized probabilities, over which the optimization problem of t-SNE is defined. We study how the sharpness of this probability distribution affects neighborhood preservation at different scales. We introduce a row-wise power transform controlled by a parameter gamma that can smooth or sharpen each row of the affinity matrix while preserving sparsity and rank order. We show that this transform is equivalent to rescaling the Gaussian bandwidth and thus to changing the perplexity. However, as the sharpness of the probability distribution varies per point, a fixed gamma leads to point-dependent effective perplexities, making it distinct from changing the global perplexity. Empirically, we find that sharpening improves preservation of the very nearest neighbors, while smoothing improves preservation of broader local neighborhoods, outperforming alternative affinity constructions including multiscale methods in the mid-local range.
- Abstract(参考訳): 次元減少法は高次元データの可視化に有効であり, t-SNEは局所保存に重点を置くため, 広く使われている手法の1つである。
t-SNE の中心成分は親和性行列(英語版)であり、シンメトリゼーション確率の形で対の類似性を表現し、その上で t-SNE の最適化問題を定義する。
本研究は, この確率分布のシャープさが, 異なるスケールでの地域保存に与える影響について検討する。
本稿では,親和性行列の各行をスムーズあるいはシャープにすることができるパラメータガンマで制御された行ワイドパワー変換を導入する。
この変換はガウス帯域を再スケーリングし、それによってパープレキシティを変化させることと等価であることを示す。
しかし、確率分布の鋭さは点ごとに変化するので、固定ガンマは点依存的な有効パープレキシティをもたらし、大域的なパープレキシティの変化とは区別される。
実験により, 近隣住民の保存を向上すると同時に, より広い地域住民の保存を円滑にし, 地域中規模でのマルチスケール手法など, 代替親和性構築に優れることがわかった。
関連論文リスト
- A Cone-Constrained Bilinear Decomposition for Total Scaled-Gradient Variation Models [0.758305251912708]
画像復元におけるエッジとコーナーの保存には,TSGV正則化器が有効であることが示されている。
そこで本研究では,球面制約に支配される最適化問題を提案する。
特に、コーン制約は、エッジとコーナー保存行動の特徴付けにおいて中心的な役割を果たす。
論文 参考訳(メタデータ) (2026-08-29T08:13:34Z) - Inversion-Free Natural Gradient Descent on Riemannian Manifolds [5.556612138252781]
本稿では,凸パラメータを持つ確率分布に対する逆フリーな自然勾配法を提案する。
多様体の設定にはいくつかの利点がある: パラメータ制約を暗黙的に強制することができる。
サブクアドラティックストレージの複雑さを伴うアルゴリズムの限定メモリ変種が提案されている。
論文 参考訳(メタデータ) (2026-04-03T11:08:59Z) - Stability and Generalization of Push-Sum Based Decentralized Optimization over Directed Graphs [55.77845440440496]
プッシュベースの分散通信は、情報交換が非対称である可能性のある通信ネットワークの最適化を可能にする。
我々は、グラディエント・プッシュ(SGP)アルゴリズムのための統一的な一様安定性フレームワークを開発する。
重要な技術的要素は、2つの量に束縛された不均衡認識の一般化である。
論文 参考訳(メタデータ) (2026-02-24T05:32:03Z) - A Kernel Approach for Semi-implicit Variational Inference [21.789560144560127]
半単純変分推論(SIVI)は階層的半単純分布を通して変分族を表現する。
SIVI-SM(SIVI-SM)に対する最近のスコアマッチング手法は、ミニマックスの定式化によってこの問題に対処している。
本稿では,カーネル半単純変分推論(KSIVI)を提案する。
論文 参考訳(メタデータ) (2026-01-17T12:06:12Z) - OrthAlign: Orthogonal Subspace Decomposition for Non-Interfering Multi-Objective Alignment [61.02595549125661]
大規模言語モデル(LLM)のアライメントは、複数の人間の好みに対処する際に重要なジレンマに直面します。
我々は、優先順位調整における勾配レベルの対立を解決する革新的なアプローチであるOrthAlignを提案する。
我々はOrthAlignが多重目的アライメント後の34.61%から50.89%の最大単一参照改善を実現していることを示す。
論文 参考訳(メタデータ) (2025-09-29T11:16:30Z) - Aggregation on Learnable Manifolds for Asynchronous Federated Optimization [3.8208848658169763]
曲線学習としてアグリゲーションを取り入れた幾何学的枠組みを導入する。
そこで我々は,線形アグリゲーションを低次曲率成分に置き換えたAsyncBezierを提案する。
これらの利得は、他の方法がより高いローカルな計算予算に割り当てられた場合でも維持されることを示す。
論文 参考訳(メタデータ) (2025-03-18T16:36:59Z) - A Bayesian Approach Toward Robust Multidimensional Ellipsoid-Specific Fitting [0.0]
本研究は, ノイズおよび外周波の汚染における散乱データに多次元楕円体を適合させる, 新規で効果的な方法を提案する。
楕円体領域内でのプリミティブパラメータの探索を制約するために、均一な事前分布を組み込む。
本研究では, 顕微鏡細胞計数, 3次元再構成, 幾何学的形状近似, 磁力計の校正タスクなど, 幅広い応用に応用する。
論文 参考訳(メタデータ) (2024-07-27T14:31:51Z) - Variance-Reducing Couplings for Random Features [57.73648780299374]
ランダム機能(RF)は、機械学習においてカーネルメソッドをスケールアップする一般的なテクニックである。
ユークリッド空間と離散入力空間の両方で定義されるRFを改善するための結合を求める。
パラダイムとしての分散還元の利点と限界について、驚くほどの結論に達した。
論文 参考訳(メタデータ) (2024-05-26T12:25:09Z) - A Unified Theory of Stochastic Proximal Point Methods without Smoothness [52.30944052987393]
近点法はその数値的安定性と不完全なチューニングに対する頑健性からかなりの関心を集めている。
本稿では,近位点法(SPPM)の幅広いバリエーションの包括的解析について述べる。
論文 参考訳(メタデータ) (2024-05-24T21:09:19Z) - Meta-Learning Adversarial Bandits [49.094361442409785]
本研究の目的は,複数のタスクにまたがる帯域幅フィードバックを用いてオンライン学習を学習し,タスク間の平均性能を改善することである。
敵対的設定を最初に対象とするメタアルゴリズムとして,マルチアーム・バンディット(MAB)とバンディット・最適化(BLO)の2つの重要なケースに対して,特定の保証を設定するメタアルゴリズムを設計する。
我々の保証は、非正規化されたフォローザリーダーと乗法重みを組み合わせることで、オンラインで非滑らかで非Bシーケンスを学ぶのに十分であることを示すことに依存しています。
論文 参考訳(メタデータ) (2022-05-27T17:40:32Z) - Towards Backwards-Compatible Data with Confounded Domain Adaptation [0.0]
一般化ラベルシフト(GLS)を変更することで、汎用データの後方互換性を実現する。
本稿では,ソースとターゲット条件分布のばらつきを最小限に抑えた新しい枠組みを提案する。
ガウス逆Kulback-Leibler分散と最大平均誤差を用いた具体的実装を提供する。
論文 参考訳(メタデータ) (2022-03-23T20:53:55Z) - Scalable Variational Gaussian Processes via Harmonic Kernel
Decomposition [54.07797071198249]
汎用性を維持しつつ高い忠実度近似を提供する,スケーラブルな変分ガウス過程近似を導入する。
様々な回帰問題や分類問題において,本手法は変換やリフレクションなどの入力空間対称性を活用できることを実証する。
提案手法は, 純粋なGPモデルのうち, CIFAR-10 の最先端化を実現する。
論文 参考訳(メタデータ) (2021-06-10T18:17:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。