論文の概要: K-Means as a Radial Basis function Network: a Variational and Gradient-based Equivalence
- arxiv url: http://arxiv.org/abs/2603.04625v1
- Date: Wed, 04 Mar 2026 21:41:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-06 22:06:10.984239
- Title: K-Means as a Radial Basis function Network: a Variational and Gradient-based Equivalence
- Title(参考訳): 放射基底関数ネットワークとしてのK-平均-変分と勾配に基づく等価性-
- Authors: Felipe de Jesus Felix Arredondo, Alejandro Ucan-Puc, Carlos Astengo Noguez,
- Abstract要約: この研究は、古典的なK平均アルゴリズムと微分可能な基底放射関数ニューラルネットワークとの間の厳密な変動と勾配に基づく等価性を確立する。
RBFの目標である$$-convergesがK-Means解に温度パラメータ$$$が消滅することを示す。
また、基礎となるボロノイ分割構造を保ちながら安定収束を保証するEnt-max-1.5の統合も提案する。
- 参考スコア(独自算出の注目度): 41.99844472131922
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This work establishes a rigorous variational and gradient-based equivalence between the classical K-Means algorithm and differentiable Radial Basis Function (RBF) neural networks with smooth responsibilities. By reparameterizing the K-Means objective and embedding its distortion functional into a smooth weighted loss, we prove that the RBF objective $Γ$-converges to the K-Means solution as the temperature parameter $σ$ vanishes. We further demonstrate that the gradient-based updates of the RBF centers recover the exact K-Means centroid update rule and induce identical training trajectories in the limit. To address the numerical instability of the Softmax transformation in the low-temperature regime, we propose the integration of Entmax-1.5, which ensures stable polynomial convergence while preserving the underlying Voronoi partition structure. These results bridge the conceptual gap between discrete partitioning and continuous optimization, enabling K-Means to be embedded directly into deep learning architectures for the joint optimization of representations and clusters. Empirical validation across diverse synthetic geometries confirms a monotone collapse of soft RBF centroids toward K-Means fixed points, providing a unified framework for end-to-end differentiable clustering.
- Abstract(参考訳): この研究は、古典的なK平均アルゴリズムとスムーズな責務を持つ微分可能放射基底関数(RBF)ニューラルネットワークとの間の厳密な変動と勾配に基づく等価性を確立する。
K-平均の目的を再パラメータ化し、その歪み関数を滑らかな重み付き損失に埋め込むことで、RBFの目的がK-平均解に$$$-収束し、温度パラメータ$σ$が消えることを示す。
さらに、RBFセンターの勾配に基づく更新は、正確なK-Meansセントロイド更新規則を回復し、その限界において同一の訓練軌跡を誘導することを示した。
低温状態におけるソフトマックス変換の数値的不安定性に対処するために,基礎となるボロノイ分割構造を保ちながら安定な多項式収束を保証するEntmax-1.5の統合を提案する。
これらの結果は分割分割と連続最適化の間の概念的ギャップを橋渡しし、K-Meansをディープラーニングアーキテクチャに直接組み込んで表現とクラスタの協調最適化を可能にする。
多様な合成測地における実証的検証により、軟式RBFセントロイドのK平均固定点への単調崩壊が確認され、エンドツーエンドの微分可能なクラスタリングのための統一的な枠組みを提供する。
関連論文リスト
- Stability and Generalization of Push-Sum Based Decentralized Optimization over Directed Graphs [55.77845440440496]
プッシュベースの分散通信は、情報交換が非対称である可能性のある通信ネットワークの最適化を可能にする。
我々は、グラディエント・プッシュ(SGP)アルゴリズムのための統一的な一様安定性フレームワークを開発する。
重要な技術的要素は、2つの量に束縛された不均衡認識の一般化である。
論文 参考訳(メタデータ) (2026-02-24T05:32:03Z) - MS-ISSM: Objective Quality Assessment of Point Clouds Using Multi-scale Implicit Structural Similarity [65.85858856481131]
点雲の非構造的で不規則な性質は、客観的品質評価(PCQA)に重大な課題をもたらす
マルチスケールインシシシット構造類似度測定(MS-ISSM)を提案する。
論文 参考訳(メタデータ) (2026-01-03T14:58:52Z) - Weighted K-Harmonic Means Clustering: Convergence Analysis and Applications to Wireless Communications [7.586829158414637]
数値安定性を確保するために,K-調和手段の正規化変種であるEmphmph K-harmonic means (WKHM)クラスタリングを提案する。
WKHMは、無線ネットワークにおける無線ノード配置とユーザアソシエーションのためのツールとして、より優れた最小信号強度と原則的クラスタリングベースラインを実現する。
論文 参考訳(メタデータ) (2025-12-18T05:09:56Z) - Constrained Centroid Clustering: A Novel Approach for Compact and Structured Partitioning [0.0]
Constrained Centroid Clustering (CCC) は、古典的なセントロイドクラスタリングを拡張する手法である。
CCCは、角構造を保持しながらラジアルスプレッドを減らすことで、よりコンパクトなクラスタを実現する。
提案手法は,センサネットワーク,協調ロボット工学,解釈可能なパターン解析など,分散制御による構造化クラスタリングを必要とするアプリケーションに適している。
論文 参考訳(メタデータ) (2025-08-18T09:30:54Z) - Self-Supervised Graph Embedding Clustering [70.36328717683297]
K-means 1-step dimensionality reduction clustering method は,クラスタリングタスクにおける次元性の呪いに対処する上で,いくつかの進歩をもたらした。
本稿では,K-meansに多様体学習を統合する統一フレームワークを提案する。
論文 参考訳(メタデータ) (2024-09-24T08:59:51Z) - E$^2$M: Double Bounded $α$-Divergence Optimization for Tensor-based Discrete Density Estimation [3.9633191508712398]
本稿では、E$2Mアルゴリズムと呼ばれる予測最大化(EM)アルゴリズムの一般化を提案する。
Kullback-Leibler (KL) の発散に基づく代理対象の最小化に最適化を緩和することでこの問題を回避する。
このアプローチは、CP、Tucker、Trainフォーマットなど、さまざまな低ランク構造に対してフレキシブルなモデリングを提供します。
論文 参考訳(メタデータ) (2024-05-28T14:28:28Z) - Fuzzy K-Means Clustering without Cluster Centroids [21.256564324236333]
ファジィK平均クラスタリングは教師なしデータ分析において重要な手法である。
本稿では,クラスタセントロイドへの依存を完全に排除する,ファジィテクストK-Meansクラスタリングアルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-04-07T12:25:03Z) - Last-Iterate Convergence of Adaptive Riemannian Gradient Descent for Equilibrium Computation [52.73824786627612]
本稿では,テクスト幾何学的強単調ゲームに対する新たな収束結果を確立する。
我々のキーとなる結果は、RGDがテクスト幾何学的手法で最終定位線形収束を実現することを示しています。
全体として、ユークリッド設定を超えるゲームに対して、幾何学的に非依存な最終点収束解析を初めて提示する。
論文 参考訳(メタデータ) (2023-06-29T01:20:44Z) - Smoothly Adaptively Centered Ridge Estimator [0.0]
特に,モデルの係数と重み関数を共同で推定する凸定式化を導入する。
分類と回帰の両面からシミュレーション研究と2つの実世界分光法を応用した。
論文 参考訳(メタデータ) (2020-10-31T15:04:23Z) - Optimal Rates for Averaged Stochastic Gradient Descent under Neural
Tangent Kernel Regime [50.510421854168065]
平均勾配勾配勾配は極小収束率が得られることを示す。
本稿では、ReLUネットワークのNTKで指定されたターゲット関数を最適収束速度で学習できることを示す。
論文 参考訳(メタデータ) (2020-06-22T14:31:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。