論文の概要: Data-Native Global Optimization for Big Data K-means Clustering
- arxiv url: http://arxiv.org/abs/2607.15835v1
- Date: Fri, 17 Jul 2026 10:46:58 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-20 17:56:52.829539
- Title: Data-Native Global Optimization for Big Data K-means Clustering
- Title(参考訳): ビッグデータK平均クラスタリングのためのデータ-負グローバル最適化
- Abstract要約: Big-means++はスケーラビリティとグローバルな品質を実現するアルゴリズムだ。
ローカルなK-meansリファインメントを、ビッグデータクラスタリングのグローバル検索に編成する。
22のデータセットの実験は、Big-means++の有効性、効率、堅牢性を示している。
- 参考スコア(独自算出の注目度): 0.1399948157377307
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Big data clustering remains challenging: the Minimum Sum-of-Squares Clustering (MSSC) problem underlying K-means is NP-hard, and existing methods either reach poor local minima or require prohibitive metaheuristic hybrids. We target arbitrarily tall data: a fixed feature space may contain arbitrarily many, possibly infinitely many, observations, while the algorithm accesses only finite random samples. We propose Big-means++, an algorithm achieving scalability and global-search quality by curating inputs to MSSC optimization on big data. It orchestrates local K-means refinements into a data-native global search for big data clustering. Rather than optimizing the full-data MSSC objective, Big-means++ traverses sample-induced surrogate landscapes. Each sample defines a distinct empirical MSSC approximation with a perturbed local-optimum structure, turning sample-to-sample variation into a global-search mechanism. Unlike Big-means, a flowing-incumbent strategy propagates centroid state across empirical landscapes through K-means refinements on fresh samples without rollback to a best-so-far solution. This increases mobility and favors stable, high-quality configurations across approximations of the full-data structure. A new shaking mechanism varies sample size geometrically, broadening the surrogate landscapes explored across resolution scales, accounting for cluster imbalance, and improving solution quality. A competitive multi-agent system asynchronously explores independent sampled landscapes, transforming diverse stochastic trajectories into collective search intelligence. Automatic convergence detection stops each agent after attaining a high-quality solution but before further search risks degrading it, while providing a universal speed-quality control. Experiments on 22 datasets against 11 competing algorithms demonstrate the effectiveness, efficiency, and robustness of Big-means++.
- Abstract(参考訳): K-meansの根底にある最小のSum-of-Squares Clustering(MSSC)問題はNPハードであり、既存のメソッドはローカルのミニマに乏しいか、禁止的なメタヒューリスティックハイブリッドを必要とする。
固定された特徴空間には任意に多くの、おそらく無限に多くの観測結果が含まれ、アルゴリズムは有限個のランダムサンプルのみにアクセスする。
ビッグデータ上でのMSSC最適化に入力をキュレートすることで,スケーラビリティとグローバル検索品質を実現するアルゴリズムであるBig-means++を提案する。
ローカルなK-meansリファインメントを、ビッグデータクラスタリングのためのデータネイティブなグローバル検索にオーケストレーションする。
完全なデータMSSCの目的を最適化するのではなく、Big-means++はサンプル誘起サロゲートのランドスケープをトラバースする。
それぞれのサンプルは、摂動した局所最適構造を持つ異なる実験的なMSSC近似を定義し、サンプルからサンプルへの変動をグローバル検索機構に変換する。
Big-meansとは異なり、流れが進行する戦略は、K-meansの精製を通じて、最も遠いソリューションにロールバックすることなく、経験的な景観にわたってセントロイド状態を伝播する。
これにより、モビリティが向上し、フルデータ構造を近似した安定した高品質な構成が好まれる。
新たな揺らぎ機構は、サンプルサイズを幾何学的に変化させ、解像度スケールにわたって探索された代理ランドスケープを広げ、クラスタの不均衡を考慮に入れ、ソリューションの品質を向上させる。
競合するマルチエージェントシステムは、独立したサンプルランドスケープを非同期に探索し、様々な確率軌道を集合的な検索インテリジェンスに変換する。
自動収束検出は、高品質な解を得た後、各エージェントが停止するが、その前に検索リスクを低下させ、普遍的な速度品質制御を提供する。
11の競合アルゴリズムに対する22のデータセットの実験は、Big-means++の有効性、効率、堅牢性を示している。
関連論文リスト
- SCOPE: Semantic Coreset with Orthogonal Projection Embeddings for Federated learning [0.7799711162530713]
現在のMLアプローチでは、非現実的なデータアグリゲーションを必要とするか、クラス不均衡のため失敗する。
SCOPEは,異常をフィルタし,冗長なデータを長期スキューに適応させる,フェデレートされたデータのためのコアセットフレームワークである。
SCOPEは、アップリンク帯域幅を128倍から512倍に削減しながら、競争力のあるグローバル精度と堅牢な収束をもたらす。
論文 参考訳(メタデータ) (2026-03-13T13:24:12Z) - Adaptive and Robust DBSCAN with Multi-agent Reinforcement Learning [53.527506374566485]
本稿では,多エージェント強化学習クラスタフレームワーク,すなわちAR-DBSCANを用いた新しいAdaptive and Robust DBSCANを提案する。
我々は、AR-DBSCANが、NMIおよびARIメトリクスの最大144.1%と175.3%のクラスタリング精度を向上するだけでなく、支配的なパラメータを確実に見つけることができることを示した。
論文 参考訳(メタデータ) (2025-05-07T11:37:23Z) - Geometric Median Matching for Robust k-Subset Selection from Noisy Data [75.86423267723728]
最適分解点1/2のロバストな推定器であるGeometric Medianを利用する新しいk-subset選択法を提案する。
提案手法は, k-subset を反復的に選択し,部分集合の平均が(潜在的に)ノイズデータセットの GM に近似し,任意の汚損の下でもロバスト性を確保する。
論文 参考訳(メタデータ) (2025-04-01T09:22:05Z) - Strong bounds for large-scale Minimum Sum-of-Squares Clustering [0.45880283710344055]
Minimum Sum-of-Squares Clustering (MSSC)は、最も広く使われているクラスタリング手法の1つである。
MSSCは、データポイントとそれに対応するクラスタセントロイド間の合計2乗ユークリッド距離を最小化することを目的としている。
最適性ギャップによるMSSCソリューションの検証手法を提案する。
論文 参考訳(メタデータ) (2025-02-12T13:40:00Z) - Boosting K-means for Big Data by Fusing Data Streaming with Global Optimization [0.3069335774032178]
K平均クラスタリングはデータマイニングの基盤であるが、その効率は大量のデータセットに直面すると悪化する。
可変近傍探索(VNS)メタヒューリスティックを利用して,K平均クラスタリングをビッグデータに最適化する新しいアルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-10-18T15:43:34Z) - Self-Supervised Graph Embedding Clustering [70.36328717683297]
K-means 1-step dimensionality reduction clustering method は,クラスタリングタスクにおける次元性の呪いに対処する上で,いくつかの進歩をもたらした。
本稿では,K-meansに多様体学習を統合する統一フレームワークを提案する。
論文 参考訳(メタデータ) (2024-09-24T08:59:51Z) - Tackling Diverse Minorities in Imbalanced Classification [80.78227787608714]
不均衡データセットは、様々な現実世界のアプリケーションで一般的に見られ、分類器の訓練において重要な課題が提示されている。
マイノリティクラスとマイノリティクラスの両方のデータサンプルを混合することにより、反復的に合成サンプルを生成することを提案する。
提案するフレームワークの有効性を,7つの公開ベンチマークデータセットを用いて広範な実験により実証する。
論文 参考訳(メタデータ) (2023-08-28T18:48:34Z) - Large-scale Fully-Unsupervised Re-Identification [78.47108158030213]
大規模未ラベルデータから学ぶための2つの戦略を提案する。
第1の戦略は、近傍関係に違反することなく、それぞれのデータセットサイズを減らすために、局所的な近傍サンプリングを行う。
第2の戦略は、低時間上限の複雑さを持ち、メモリの複雑さを O(n2) から O(kn) に k n で還元する新しい再帰的手法を利用する。
論文 参考訳(メタデータ) (2023-07-26T16:19:19Z) - Towards Automated Imbalanced Learning with Deep Hierarchical
Reinforcement Learning [57.163525407022966]
不均衡学習はデータマイニングにおいて基本的な課題であり、各クラスにトレーニングサンプルの不均等な比率が存在する。
オーバーサンプリングは、少数民族のための合成サンプルを生成することによって、不均衡な学習に取り組む効果的な手法である。
我々は,異なるレベルの意思決定を共同で最適化できる自動オーバーサンプリングアルゴリズムであるAutoSMOTEを提案する。
論文 参考訳(メタデータ) (2022-08-26T04:28:01Z) - How to Use K-means for Big Data Clustering? [2.1165011830664677]
K-meansはEuclidean Minimum Sum-of-Squares Clustering (MSSC)モデルの下で最もシンプルで広く使われているアルゴリズムである。
ビッグデータクラスタリングにK-means++アルゴリズムとK-means++アルゴリズムを用いる並列方式を提案する。
論文 参考訳(メタデータ) (2022-04-14T08:18:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。