論文の概要: Fast and Efficient Approximate Nearest Neighbor Search for High-Dimensional LLM Embeddings

• arxiv url: http://arxiv.org/abs/2607.20957v1
• Date: Thu, 23 Jul 2026 06:35:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-24 18:26:25.300738
• Title: Fast and Efficient Approximate Nearest Neighbor Search for High-Dimensional LLM Embeddings
• Title（参考訳）: 高次元LLM埋め込みの高速・高効率近似近傍探索
• Abstract要約: SISAP Indexing Challengeは、厳密な制約の下で、近似近傍探索(ANNS)アルゴリズムをベンチマークする。 本稿では,1024次元BGE-M3埋め込みにおけるk$-Nearest Neighbor Graph (kNNG) 構築と,非正規化Llama-3.2-8B機能に対する最大内積探索 (MIPS) の両方について,2026年版への提案を述べる。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The annual SISAP Indexing Challenge benchmarks Approximate Nearest Neighbor Search (ANNS) algorithms under rigorous constraints. This paper presents our submissions for the 2026 edition, addressing both $k$-Nearest Neighbor Graph (kNNG) construction on 1024-dimensional BGE-M3 embeddings (Task 1) and Maximum Inner Product Search (MIPS) on unnormalized Llama-3.2-8B features (Task 2). To optimize construction speed, we utilize Equi-Voronoi Polytopes (EVP) for efficient quantization, supplemented by targeted reranking strategies to maintain high recall. For MIPS, we transform the asymmetric inner product problem into a Euclidean search space via dimensionality augmentation. To reduce query latency and optimize memory access, we introduce a 1D presorting mechanism via Fast Linear Assignment Sorting (FLAS) prior to graph construction. This significantly improves spatial locality and cache hit rates during subsequent graph traversal. Source Code: https://github.com/Visual-Computing/sisap26-deglib
• Abstract（参考訳）: SISAP Indexing Challengeの年次ベンチマークは、厳密な制約の下で、近似近傍探索(ANNS)アルゴリズムをベンチマークする。 本稿では,1024次元BGE-M3埋め込み(Task 1)におけるk$-Nearest Neighbor Graph (kNNG)の構築と,非正規化Llama-3.2-8B機能(Task2)における最大内積探索(MIPS)について,2026年版に提案する。 建設速度を最適化するために,高速な量子化にEqui-Voronoi Polytopes (EVP) を用い,高いリコールを維持するために,目標のリグレード戦略を補足した。 MIPS の場合、非対称な内積問題から次元拡大によるユークリッド探索空間へと変換する。 クエリ待ち時間を短縮し,メモリアクセスを最適化するために,グラフ構築に先立ってFLAS(Fast Linear Assignment Sorting)を用いた1Dプリソート機構を導入する。 これは、その後のグラフトラバーサルにおける空間的局所性とキャッシュヒット率を大幅に改善する。 ソースコード:https://github.com/Visual-Computing/sisap26-deglib

関連論文リスト

• GONDOR to the Rescue: Satisficing Planning with Low Memory [80.8869960059932]
  GONDORはGreedy Best-First Search(GBFS)の拡張である GONDORは、アンカー状態のスパースセットを保持しながら周期的に探索木を圧縮し、ゴールに達するとスパース状態間の再探索によって経路を再構築する。 実験により、GONDORは標準のGBFSと比較して、低メモリ予算下でのカバレッジを一貫して改善することが示された。
  論文  参考訳（メタデータ） (2026-05-27T13:20:58Z)
• optimize_anything: A Universal API for Optimizing any Text Parameter [98.42497715725356]
  単一タスク検索をサポートする1つのAIベースの最適化システム、クロスプロブレム転送によるマルチタスク検索、および目に見えない入力への一般化を示す。 LLMに基づく検索によるテキストの最適化は汎用的な問題解決パラダイムであることを示す。
  論文  参考訳（メタデータ） (2026-05-19T10:18:12Z)
• Panorama: Fast-Track Nearest Neighbors [22.201421121801218]
  本稿では,機械学習によるアプローチであるPANORAMAを提案する。 PANORAMAは、2-30$times$ end-to-end speedupをリコールロスなしで利用できることを示す。
  論文  参考訳（メタデータ） (2025-10-01T06:38:45Z)
• Efficient Sketching and Nearest Neighbor Search Algorithms for Sparse Vector Sets [16.768212375976546]
  スパースANNSのための新しいデータ構造とアルゴリズム手法を提案する。 我々の貢献は、スパースベクトルに対する理論的に基底化されたスケッチアルゴリズムから、それらの有効次元を減少させるものまで様々である。 我々の最終アルゴリズムは耐震性と呼ばれ、大規模ベンチマークデータセット上で高精度でミリ秒以下のレイテンシに達する。
  論文  参考訳（メタデータ） (2025-09-29T14:02:45Z)
• CRouting: Reducing Expensive Distance Calls in Graph-Based Approximate Nearest Neighbor Search [9.557937699715124]
  近似近接探索(ANNS)は、情報検索とAIアプリケーションにおいて重要な問題である。 本稿では,不必要な距離計算をバイパスするCRoutingという新しいルーティング手法を提案する。 実験により、CRoutingは、最大41.5%までの距離計算を削減し、2つの主要なグラフインデックス上で、毎秒1.48$times$までクエリを高速化することを示した。
  論文  参考訳（メタデータ） (2025-08-30T05:27:09Z)
• FFT-based Dynamic Subspace Selection for Low-Rank Adaptive Optimization of Large Language Models [49.397861654088636]
  低次元空間へのSVD/QRベースの勾配射影を近似する2段階の手順を提案する。 当社の戦略はランタイムの高速化とメモリ使用量の削減を,さまざまなモデルサイズで最大25%削減できることが示されています。
  論文  参考訳（メタデータ） (2025-05-23T14:37:00Z)
• Dual-Branch HNSW Approach with Skip Bridges and LID-Driven Optimization [0.8786066051474574]
  Hierarchical Navigable Small World (HNSW)アルゴリズムは近接探索に広く利用されている。 提案手法は, 局所最適化とクラスタ切断を緩和し, 建設速度を向上し, 推論速度を向上するアルゴリズムである。 様々なベンチマークとデータセットの実験により、我々のアルゴリズムは元のHNSWを精度と速度の両方で上回っていることがわかった。
  論文  参考訳（メタデータ） (2025-01-23T10:20:12Z)
• Improving Dual-Encoder Training through Dynamic Indexes for Negative Mining [61.09807522366773]
  本稿では,ソフトマックスを証明可能な境界で近似し,木を動的に維持するアルゴリズムを提案する。 我々は,2000万以上のターゲットを持つデータセットについて検討し,オラクル・ブルート力負の鉱業に関して,誤差を半分に削減した。
  論文  参考訳（メタデータ） (2023-03-27T15:18:32Z)
• A Metaheuristic Algorithm for Large Maximum Weight Independent Set Problems [58.348679046591265]
  ノード重み付きグラフが与えられたとき、ノード重みが最大となる独立した(相互に非隣接な)ノードの集合を見つける。 このアプリケーションで放送されるグラフの中には、数十万のノードと数億のエッジを持つ大きなものもあります。 我々は,不規則なランダム化適応検索フレームワークにおいてメタヒューリスティックな新しい局所探索アルゴリズムを開発した。
  論文  参考訳（メタデータ） (2022-03-28T21:34:16Z)
• Mind Mappings: Enabling Efficient Algorithm-Accelerator Mapping Space Search [7.596028906226877]
  本稿では,新しいマインドベースの検索空間を提案する。 微分可能な近似を非滑らかな$optimal 写像空間に導出する。 微分可能な近似により、高バウンド効率なアルゴリズムを比較してマインドベースの検索スキームを見つけることができます。
  論文  参考訳（メタデータ） (2021-03-02T06:11:58Z)
• ISTA-NAS: Efficient and Consistent Neural Architecture Search by Sparse Coding [86.40042104698792]
  スパース符号問題としてニューラルアーキテクチャ探索を定式化する。 実験では、CIFAR-10の2段階法では、検索にわずか0.05GPUしか必要としない。 本手法は,CIFAR-10とImageNetの両方において,評価時間のみのコストで最先端のパフォーマンスを実現する。
  論文  参考訳（メタデータ） (2020-10-13T04:34:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。