論文の概要: RemoteANN: A Native Vector Search Engine for Cloud Object Storage
- arxiv url: http://arxiv.org/abs/2610.25172v1
- Date: Sun, 18 Oct 2026 10:52:39 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-10-20 22:19:16.111365
- Title: RemoteANN: A Native Vector Search Engine for Cloud Object Storage
- Title(参考訳): RemoteANN: クラウドオブジェクトストレージ用のネイティブベクター検索エンジン
- Abstract要約: クラウドオブジェクトストレージ用に特別に設計されたベクトル検索エンジンであるRemoteANNを紹介する。
RemoteANNは、Inverted File (IVF)インデックスとRaBitQ量子化を結合し、クラスタ間およびクラスタ内のデータリオーダによってさらに最適化される。
このカスタマイズされたデータレイアウトに基づいて、RemoteANNのクエリエンジンは、クラスタプルーニング、きめ細かいRange-GETリクエスト、リクエストマージ、ローカルSSDキャッシュを組み合わせる。
- 参考スコア(独自算出の注目度): 12.40156098501538
- License:
- Abstract: Vector search engines built on cloud object storage have drawn growing attention from both academia and industry. These systems typically adopt a disaggregated storage-compute architecture, persisting the primary vector payload in object stores (e.g., Amazon S3) while retaining compact index metadata on compute nodes. However, conventional vector indexing structures are not natively tailored to the pronounced network latency and per-request access costs of cloud object stores, resulting in network I/O amplification, degraded query throughput, and higher API expenses. To resolve these challenges, we present RemoteANN, a vector search engine explicitly co-designed for cloud object storage across indexing and querying. To mitigate the dominant network I/O bottleneck, RemoteANN couples an Inverted File (IVF) index with RaBitQ quantization, further optimized by inter-cluster and intra-cluster data reordering for improved data locality. Building on this tailored data layout, RemoteANN's query engine combines cluster pruning, fine-grained Range-GET requests, request merging, and local NVMe SSD caching, dramatically reducing discrete storage requests and network transfer volume without sacrificing accuracy. To address the index construction bottleneck, we further develop QGKMeans, which substantially reduces construction latency without compromising clustering quality. Extensive evaluations on real-world datasets demonstrate that, compared with representative baselines, RemoteANN achieves up to a $5.9\times$ throughput speedup while issuing up to $16.1\times$ fewer object storage requests at 97% target recall.
- Abstract(参考訳): クラウドオブジェクトストレージ上に構築されたベクトル検索エンジンは、学術と産業の両方から注目を集めている。
これらのシステムは通常、分散ストレージ計算アーキテクチャを採用し、オブジェクトストア(例えばAmazon S3)で一次ベクトルペイロードを永続化し、計算ノードにコンパクトなインデックスメタデータを保持する。
しかし、従来のベクトルインデックス構造は、クラウドオブジェクトストアのネットワーク遅延や要求毎アクセスコストに特化していないため、ネットワークI/O増幅、クエリスループットの低下、APIコストの増大といった結果になる。
これらの課題を解決するために、インデックスとクエリをまたいだクラウドオブジェクトストレージ用に明示的に設計されたベクトル検索エンジンであるRemoteANNを紹介した。
支配的なネットワークI/Oボトルネックを軽減するため、RemoteANNは、Inverted File(IVF)インデックスとRaBitQ量子化を結合する。
このカスタマイズされたデータレイアウトに基づいて、RemoteANNのクエリエンジンは、クラスタプルーニング、きめ細かなRange-GETリクエスト、リクエストマージ、ローカルNVMe SSDキャッシュを組み合わせて、離散ストレージ要求とネットワーク転送ボリュームを精度を犠牲にすることなく劇的に削減する。
インデックス構築ボトルネックに対処するため,クラスタリングの品質を損なうことなく構築遅延を大幅に低減するQGKMeansを更に開発する。
実世界のデータセットに対する大規模な評価では、代表ベースラインと比較して、RemoteANNは最大5.9\times$スループットのスピードアップを実現し、最大16.1\times$オブジェクトストレージ要求を97%のターゲットリコールで削減している。
関連論文リスト
- D-NOVA: In-Storage Retrieval Accelerator via Dual-Bound 3D NAND-Optimized Similarity Search with Vector Adaptation [8.53678479528538]
D-NOVA(D-NOVA)は、ハードウェアとソフトウェアの共同設計によるストレージ検索アクセラレータである。
検索機能をNANDメモリアレイに直接埋め込むことにより、逆ファイル(IVF)ベースの階層的検索パイプラインを実行する。
CPUベースラインよりも最大41.7倍、エネルギー効率は71倍、スループットは12.13倍、エネルギー効率は最大1.26倍である。
論文 参考訳(メタデータ) (2026-07-20T04:31:09Z) - No More K-means: Single-Stage Sparse Coding for Efficient Multi-Vector Retrieval [51.43543998583709]
SSR(Single-stage Sparse Retrieval)は、高価なクラスタリングを効率的なスパースコーディングに置き換えるパラダイムシフトである。
ColBERTv2と比較してインデックス処理時間を15倍短縮し、検索レイテンシを半減させ、同時に検索性能を向上させる。
論文 参考訳(メタデータ) (2026-05-28T15:53:34Z) - LEANN: A Low-Storage Vector Index [70.13770593890655]
LEANNは、リソース制約されたパーソナルデバイスに最適化された、ストレージ効率の近い近接検索インデックスである。
評価の結果,LEANNは原データの5%以下までインデックスサイズを縮小し,標準インデックスの最大50倍のストレージを実現した。
論文 参考訳(メタデータ) (2025-06-09T22:43:30Z) - HAKES: Scalable Vector Database for Embedding Search Service [16.034584281180006]
我々は,並列な読み書きワークロード下で高いスループットと高いリコールを実現するベクトルデータベースを構築した。
我々のインデックスは、高リコール領域と同時読み書きワークロード下でインデックスベースラインより優れています。
nameysはスケーラブルで、ベースラインよりも最大16タイムで高いスループットを実現します。
論文 参考訳(メタデータ) (2025-05-18T19:26:29Z) - AiSAQ: All-in-Storage ANNS with Product Quantization for DRAM-free Information Retrieval [1.099532646524593]
本稿では、圧縮ベクトルをSSDインデックスにオフロードするAiSAQ(All-in-Storage ANNS with Product Quantization)を提案する。
本手法は,10 MB のメモリ使用率を数十億のデータセットによるクエリ検索で実現し,遅延の致命的な劣化を伴わない。
論文 参考訳(メタデータ) (2024-04-09T04:20:27Z) - MS-RANAS: Multi-Scale Resource-Aware Neural Architecture Search [94.80212602202518]
我々は,MS-RANAS(Multi-Scale Resource-Aware Neural Architecture Search)を提案する。
我々は,検索コストの削減を図るために,ワンショットのアーキテクチャ探索手法を採用した。
我々は精度-速度トレードオフの観点から最先端の結果を得る。
論文 参考訳(メタデータ) (2020-09-29T11:56:01Z) - LC-NAS: Latency Constrained Neural Architecture Search for Point Cloud
Networks [73.78551758828294]
LC-NASは、最小計算コストでポイントクラウド分類のための最先端アーキテクチャを見つけることができる。
検索したアーキテクチャが、適度に低い精度で、望ましいレイテンシを実現する方法を示します。
論文 参考訳(メタデータ) (2020-08-24T10:30:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。