論文の概要: Probabilistic K-means Clustering via Nonlinear Programming
- arxiv url: http://arxiv.org/abs/2001.03286v2
- Date: Fri, 20 Nov 2020 00:59:26 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-12 22:46:59.200993
- Title: Probabilistic K-means Clustering via Nonlinear Programming
- Title(参考訳): 非線形プログラミングによる確率的K平均クラスタリング
- Authors: Yujian Li, Bowen Liu, Zhaoying Liu, and Ting Zhang
- Abstract要約: 確率的K平均 (probabilistic K-Means, PKM) は線形等式と線形不等式に制約された非線形プログラミングモデルである。
理論上は、能動的勾配射影により非効率にモデルを解くことができる。
実験により,PKMの性能と提案手法の解法を5つの側面で検討した。
- 参考スコア(独自算出の注目度): 13.026121785720395
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: K-means is a classical clustering algorithm with wide applications. However,
soft K-means, or fuzzy c-means at m=1, remains unsolved since 1981. To address
this challenging open problem, we propose a novel clustering model, i.e.
Probabilistic K-Means (PKM), which is also a nonlinear programming model
constrained on linear equalities and linear inequalities. In theory, we can
solve the model by active gradient projection, while inefficiently. Thus, we
further propose maximum-step active gradient projection and fast maximum-step
active gradient projection to solve it more efficiently. By experiments, we
evaluate the performance of PKM and how well the proposed methods solve it in
five aspects: initialization robustness, clustering performance, descending
stability, iteration number, and convergence speed.
- Abstract(参考訳): k-meansは、幅広い応用を持つ古典的なクラスタリングアルゴリズムである。
しかし、軟K平均またはm=1のファジィc平均は1981年以来未解決である。
この課題に対処するために、線形等式と線形不等式に制約された非線形プログラミングモデルである確率的K平均(PKM)という新しいクラスタリングモデルを提案する。
理論上は、能動的勾配射影により非効率にモデルを解くことができる。
そこで本研究では,より効率的に解くために,最大ステップアクティブ勾配投影と高速最大ステップアクティブ勾配投影を提案する。
実験により, pkmの性能を評価し, 提案手法は, 初期化ロバスト性, クラスタリング性能, 降下安定性, イテレーション数, 収束速度の5つの面において, どのように解決されるかを検討した。
関連論文リスト
- Self-Supervised Graph Embedding Clustering [70.36328717683297]
K-means 1-step dimensionality reduction clustering method は,クラスタリングタスクにおける次元性の呪いに対処する上で,いくつかの進歩をもたらした。
本稿では,K-meansに多様体学習を統合する統一フレームワークを提案する。
論文 参考訳(メタデータ) (2024-09-24T08:59:51Z) - Stochastic Inexact Augmented Lagrangian Method for Nonconvex Expectation
Constrained Optimization [88.0031283949404]
多くの実世界の問題は複雑な非機能的制約を持ち、多くのデータポイントを使用する。
提案手法は,従来最もよく知られた結果で既存手法よりも優れた性能を示す。
論文 参考訳(メタデータ) (2022-12-19T14:48:54Z) - On the Global Solution of Soft k-Means [159.23423824953412]
本稿では,ソフトk-平均問題の解法を全世界で提案する。
ミニマルボリュームソフトkMeans (MVSkM) と呼ばれる新しいモデルを提案する。
論文 参考訳(メタデータ) (2022-12-07T12:06:55Z) - Inequality Constrained Stochastic Nonlinear Optimization via Active-Set
Sequential Quadratic Programming [17.9230793188835]
客観的・決定論的等式と不等式制約を用いた非線形最適化問題について検討する。
本稿では,有理関数として微分可能な拡張ラグランジアンを用いて,能動型逐次適応型プログラミングアルゴリズムを提案する。
アルゴリズムは、拡張ラグランジアンのパラメータを適応的に選択し、行探索を行い、ステップサイズを決定する。
論文 参考訳(メタデータ) (2021-09-23T17:12:17Z) - COCO Denoiser: Using Co-Coercivity for Variance Reduction in Stochastic
Convex Optimization [4.970364068620608]
我々は,勾配オラクルによって出力される雑音の推定値を改善するために,凸性およびL平滑性を利用する。
問合せ点の数と近さの増加は、より良い勾配推定に繋がることを示す。
また、SGD、Adam、STRSAGAといった既存のアルゴリズムにCOCOをプラグインすることで、バニラ設定にもCOCOを適用します。
論文 参考訳(メタデータ) (2021-09-07T17:21:09Z) - Differentiable Annealed Importance Sampling and the Perils of Gradient
Noise [68.44523807580438]
Annealed importance sample (AIS) と関連するアルゴリズムは、限界推定のための非常に効果的なツールである。
差別性は、目的として限界確率を最適化する可能性を認めるため、望ましい性質である。
我々はメトロポリス・ハスティングスのステップを放棄して微分可能アルゴリズムを提案し、ミニバッチ計算をさらに解き放つ。
論文 参考訳(メタデータ) (2021-07-21T17:10:14Z) - Converting ADMM to a Proximal Gradient for Convex Optimization Problems [4.56877715768796]
融解ラッソや凸クラスタリングなどのスパース推定では、問題を解くために、近位勾配法またはマルチプライヤー(ADMM)の交互方向法のいずれかを適用します。
本論文では,制約と目的が強く凸であると仮定し,ADMM溶液を近位勾配法に変換する一般的な方法を提案する。
数値実験により, 効率の面で有意な改善が得られることを示した。
論文 参考訳(メタデータ) (2021-04-22T07:41:12Z) - A Feasible Level Proximal Point Method for Nonconvex Sparse Constrained
Optimization [25.73397307080647]
本稿では,汎用凸あるいは非汎用機械目標の新しいモデルを提案する。
本稿では,各サブプロブレムの点レベルを徐々に緩和した制約を解くアルゴリズムを提案する。
我々は,新しい数値スケール問題の有効性を実証する。
論文 参考訳(メタデータ) (2020-10-23T05:24:05Z) - A Dynamical Systems Approach for Convergence of the Bayesian EM
Algorithm [59.99439951055238]
我々は、(離散時間)リアプノフ安定性理論が、必ずしも勾配ベースではない最適化アルゴリズムの分析(および潜在的な設計)において、いかに強力なツールとして役立つかを示す。
本稿では,不完全データベイズフレームワークにおけるパラメータ推定を,MAP-EM (maximum a reari expectation-maximization) と呼ばれる一般的な最適化アルゴリズムを用いて行うことに着目したML問題について述べる。
高速収束(線形あるいは二次的)が達成され,S&Cアプローチを使わずに発表することが困難であった可能性が示唆された。
論文 参考訳(メタデータ) (2020-06-23T01:34:18Z) - Effective Dimension Adaptive Sketching Methods for Faster Regularized
Least-Squares Optimization [56.05635751529922]
スケッチに基づくL2正規化最小二乗問題の解法を提案する。
我々は、最も人気のあるランダム埋め込みの2つ、すなわちガウス埋め込みとサブサンプリングランダム化アダマール変換(SRHT)を考える。
論文 参考訳(メタデータ) (2020-06-10T15:00:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。