論文の概要: Stop Indexing at Full Precision: Revisiting Clustering for Vector Embeddings
- arxiv url: http://arxiv.org/abs/2608.14648v1
- Date: Thu, 30 Jul 2026 12:59:55 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-23 14:54:39.941248
- Title: Stop Indexing at Full Precision: Revisiting Clustering for Vector Embeddings
- Title(参考訳): 完全精度でのインデックスの停止:ベクトル埋め込みのクラスタ化の再検討
- Abstract要約: 本研究では,ベクトル探索において広く用いられている3つの手法を再検討し,それをクラスタリングによるベクトル埋め込みインデックスの最適化に活用する。
本稿では,これらの手法がクラスタリングの前に適用されるインデックスパイプラインを提案し,ストレージのフットプリント,クラスタリング時間,ベクトル探索タスクにおける結果のセントロイドの品質にどのように影響するかに着目した。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In this study, we revisit three widely used techniques in vector search and utilize them to optimize vector embedding indexing through clustering: dimensionality reduction, quantization, and dimension pruning. We propose an indexing pipeline in which these techniques are applied before clustering, and we focus on how they affect storage footprint, clustering time, and the quality of the resulting centroids for vector search tasks. Our results reveal that using full-precision vectors for clustering is excessive, as even 1-bit codes can achieve near-optimal clustering quality (within 1% of ideal) while reducing storage requirements by 60x and delivering attractive performance gains (Figure 1). We open-source our implementations at https://github.com/cwida/SuperKMeans.
- Abstract(参考訳): 本研究では,ベクトル探索において広く用いられている3つの手法を再検討し,これらの手法を用いて,クラスタリングによるベクトル埋め込みインデックス化を最適化する。
本稿では,これらの手法がクラスタリングの前に適用されるインデックスパイプラインを提案し,ストレージのフットプリント,クラスタリング時間,ベクトル探索タスクにおける結果のセントロイドの品質にどのように影響するかに着目した。
その結果, クラスタリングに完全精度ベクトルを用いることは, 1ビットコードでも(理想の1%で)ほぼ最適のクラスタリング品質を達成でき, ストレージの要件を60倍に削減し, 魅力的なパフォーマンス向上を実現することができることがわかった(第1図)。
私たちは実装をhttps://github.com/cwida/SuperKMeans.comでオープンソースにしています。
関連論文リスト
- ClusterAttention: A training-free speedup of bidirectional attention [0.0]
ClusterAttentionは、双方向のアテンションレイヤのトレーニング不要なスピードアップである。
大規模データでは、ClusterAttentionはTabPFN-3 arXiv:2605.13986を2倍から6倍高速化する。
論文 参考訳(メタデータ) (2026-08-27T11:04:41Z) - No More K-means: Single-Stage Sparse Coding for Efficient Multi-Vector Retrieval [51.43543998583709]
SSR(Single-stage Sparse Retrieval)は、高価なクラスタリングを効率的なスパースコーディングに置き換えるパラダイムシフトである。
ColBERTv2と比較してインデックス処理時間を15倍短縮し、検索レイテンシを半減させ、同時に検索性能を向上させる。
論文 参考訳(メタデータ) (2026-05-28T15:53:34Z) - A Super Fast K-means for Indexing Vector Embeddings [0.0]
SuperKMeansは、高次元ベクトル埋め込みをクラスタリングするために設計されたk平均変種である。
SuperKMeansクラスタリングは、現在のCPU上でのFAISSやScikit-Learnよりも最大7倍高速である。
本稿では,検索タスクにおけるセントロイドの品質向上が止まった場合に,k-meansを早期に終了させるメカニズムである,リコールによる早期終了を提案する。
論文 参考訳(メタデータ) (2026-03-20T14:52:38Z) - Multi-Vector Index Compression in Any Modality [73.7330345057813]
後期の相互作用は、テキスト、画像、ビジュアルドキュメント、ビデオにおける情報検索の主要なパラダイムとして現れてきた。
インデックス圧縮には,シーケンスリサイズ,メモリトークン,階層プール,新しいアテンション誘導クラスタリング(AGC)の4つのアプローチを導入する。
AGCは、ドキュメントの最もセマンティックな領域をクラスタセントロイドとして識別し、トークンの集合を重み付けするために注意誘導機構を使用する。
論文 参考訳(メタデータ) (2026-02-24T18:57:33Z) - End-to-end Learnable Clustering for Intent Learning in Recommendation [54.157784572994316]
我々は、アンダーラインELCRecと呼ばれる新しい意図学習手法を提案する。
振る舞い表現学習をUnderlineEnd-to-end UnderlineLearnable UnderlineClusteringフレームワークに統合する。
1億3000万ページビューの産業レコメンデーションシステムに本手法をデプロイし,有望な結果を得る。
論文 参考訳(メタデータ) (2024-01-11T15:22:55Z) - Dink-Net: Neural Clustering on Large Graphs [59.10189693120368]
ディープグラフクラスタリング法 (Dink-Net) は, 拡張と縮小という概念を用いて提案される。
ノードを識別することにより、拡張によって劣化しても、表現は自己教師された方法で学習される。
クラスタリング分布は、提案したクラスタ拡張損失とクラスタ縮小損失を最小化することにより最適化される。
ランナアップと比較して、Dink-Net 9.62%は1100万ノードと16億エッジを持つogbn-papers100MデータセットでNMIの改善を実現している。
論文 参考訳(メタデータ) (2023-05-28T15:33:24Z) - DRBM-ClustNet: A Deep Restricted Boltzmann-Kohonen Architecture for Data
Clustering [0.0]
DRBM-ClustNetと呼ばれるデータクラスタリングのためのベイジアンDeep Restricted Boltzmann-Kohonenアーキテクチャを提案する。
ラベルなしデータの処理は、非線形分離可能なデータセットの効率的なクラスタリングのために、3段階に分けて行われる。
このフレームワークはクラスタリングの精度に基づいて評価され、他の最先端クラスタリング手法と比較してランク付けされる。
論文 参考訳(メタデータ) (2022-05-13T15:12:18Z) - Scalable Hierarchical Agglomerative Clustering [65.66407726145619]
既存のスケーラブルな階層的クラスタリング手法は、スピードの質を犠牲にする。
我々は、品質を犠牲にせず、数十億のデータポイントまでスケールする、スケーラブルで集約的な階層的クラスタリング法を提案する。
論文 参考訳(メタデータ) (2020-10-22T15:58:35Z) - The Case for Learned Spatial Indexes [62.88514422115702]
我々は、空間範囲の問合せに答えるために、最先端の学習した多次元インデックス構造(すなわちFlood)から提案した手法を用いる。
i) パーティション内の機械学習検索は、1次元でフィルタリングを使用する場合の2進探索よりも11.79%速く、39.51%高速であることを示す。
また、2次元でフィルタする最も近い競合相手の1.23倍から1.83倍の速さで機械学習インデックスを精査する。
論文 参考訳(メタデータ) (2020-08-24T12:09:55Z) - Differentially Private Clustering: Tight Approximation Ratios [57.89473217052714]
基本的なクラスタリング問題に対して,効率的な微分プライベートアルゴリズムを提案する。
この結果から,SampleとAggregateのプライバシーフレームワークのアルゴリズムの改善が示唆された。
1-Clusterアルゴリズムで使用されるツールの1つは、ClosestPairのより高速な量子アルゴリズムを適度な次元で得るために利用できる。
論文 参考訳(メタデータ) (2020-08-18T16:22:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。