論文の概要: Static Pruning Across Sparse Retrieval Regimes: What Transfers, What Breaks, and What Still Helps

• arxiv url: http://arxiv.org/abs/2608.16309v1
• Date: Mon, 17 Aug 2026 09:19:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-18 19:59:03.604116
• Title: Static Pruning Across Sparse Retrieval Regimes: What Transfers, What Breaks, and What Still Helps
• Title（参考訳）: Sparse Retrieval Regimesの静的プルーニング:何の転送、何の失敗、そしてまだ助けになるもの
• Abstract要約: 静的プルーニングはスパースニューラルネットワークの高速化に広く用いられているが、既存の研究はそれぞれの結論を単一のカスタムパイプラインで検証している。 本研究は,3基の機関間の静的プルーニング戦略を評価する,最初のクロスエンジンプルーニングポータビリティ研究である。
• 参考スコア（独自算出の注目度）: 5.941898273427586
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Static pruning is widely used to accelerate sparse neural retrieval, yet existing studies each validate their conclusions within a single custom pipeline, leaving it unclear which findings transfer to modern engines with different index organizations and dynamic pruning mechanisms. We present the first cross-engine pruning portability study, evaluating static pruning strategies across three engines - a controlled C++ pipeline (exhaustive inverted index), BMP (block-max pruning), and SEISMIC (clustered inverted indexes) - on two benchmarks (MS MARCO, Natural Questions) with two encoders spanning opposite query-density regimes (SPLADE: 44 avg. query terms; V3-GTE: 7 avg. query terms), totaling 1,140 experimental configurations, with an additional deep-judgment validation on TREC DL 2019/2020. We find that index-side pruning (document and posting-list) is portable: it consistently reduces latency (1.2-6.6$\times$) and index size (18-82%) across all engines because sparse retrieval is memory-bound - a conclusion we support with cache-miss, TLB, and IPC profiling. In contrast, query pruning is already internalized by modern engines: it yields 4-11$\times$ speedup on the exhaustive pipeline but is subsumed by BMP's $β$ and SEISMIC's query_cut. Static pruning complements dynamic pruning: on BMP, combining document and query reduction yields 2.5$\times$ speedup with NDCG@10 within 0.003 of the exact baseline. Finally, NDCG@10 saturates while Recall@10 is still in the ${\sim}$85-95% range across all three engines, providing a portable stopping criterion: practitioners can push pruning to this knee without visible ranking degradation. Together, these findings answer what transfers (index-side pruning), what breaks (query pruning), and what still helps (static atop dynamic pruning).
• Abstract（参考訳）: 静的プルーニングはスパースニューラル検索を加速するために広く用いられているが、既存の研究はそれぞれの結論を単一のカスタムパイプライン内で検証し、どの発見が異なるインデックス構造と動的プルーニング機構を持つ近代的なエンジンに転送されたかは明らかでない。 制御されたC++パイプライン(exhaustive inverted index)、BMP(block-max pruning)、SEISMIC(clustered inverted indexs)の3つのエンジン間の静的プルーニング戦略を、反対のクエリ密度規則(SPLADE:44 avg. query terms; V3-GTE: 7 avg. query terms)にまたがる2つのベンチマーク(MS MARCO, Natural Questions)で評価した。 インデックスサイドのプルーニング(ドキュメントとポストリスト)はポータブルである: キャッシュミス、TLB、IPCプロファイリングをサポートする結論である、スパース検索がメモリバインドであるため、一貫してレイテンシ(1.2-6.6$\times$)とインデックスサイズ(18-82%)を減少させる。 これとは対照的に、クエリプルーニングは現代のエンジンによってすでに内部化されており、排他的パイプラインで4-11$\times$スピードアップされるが、BMPの$β$とSEISMICのQuery_cutによって仮定される。 静的プルーニングは動的プルーニングを補完する: BMPでは、ドキュメントとクエリのリダクションを組み合わせて2.5$\times$ SpeedupとNDCG@10を正確なベースラインの0.003で生成する。 最後に、NDCG@10は飽和し、Recall@10は依然として3基のエンジンの85-95%の範囲にあり、ポータブルな停止基準を提供する。 これらの結果は、転送(インデックス側プルーニング)、障害(クエリ・プルーニング)、そしてまだ役に立つもの(静的な動的プルーニング)に答える。

関連論文リスト

• DREAM Technical Report [53.37525197047151]
  DREAMは、既存のパイプラインの上に認識認識、オーケストレーション、監査可能なポリシ層を追加し、それを置き換えることなく、自律的な最適化制御アーキテクチャである。 DREAMには2つのコアコンポーネントがある。まず、3層Intent Engineはデバイス上の信号を構造化されたL0/L1/L2インテント表現に融合する。エッジクラウドトリガーチェーンはレポートのボリュームを約8.7%に削減する。 第2に、Meta EngineはMetaModelを使って、層状M1-to-M2-to-M3推論(インテントの要約、ストラテジーメモリに通知されるストラテジープランニング、パラメータ変換など)を定式化したM1-to-M2-to-M3推論に使用します。
  論文  参考訳（メタデータ） (2026-08-10T10:35:32Z)
• Can Aggregate Invariants Accelerate Continuous Subgraph Matching? Limits, Laws, and a Dynamic Spectral Index [9.08583070642464]
  本研究では, 動的グラフ上での非連続部分グラフマッチングを高速化できるかどうかを考察する。 4回のタッチアップデートで、基本的にすべてのプルーニングパワーを失うことを示しています。 分離されたCSMベンチマークに統合され、同一のマイナススペクトル制御に対して、テストは最大51%の候補を削除した。
  論文  参考訳（メタデータ） (2026-06-23T10:58:44Z)
• No More K-means: Single-Stage Sparse Coding for Efficient Multi-Vector Retrieval [51.43543998583709]
  SSR(Single-stage Sparse Retrieval)は、高価なクラスタリングを効率的なスパースコーディングに置き換えるパラダイムシフトである。 ColBERTv2と比較してインデックス処理時間を15倍短縮し、検索レイテンシを半減させ、同時に検索性能を向上させる。
  論文  参考訳（メタデータ） (2026-05-28T15:53:34Z)
• SPEAR: Code-Augmented Agentic Prompt Optimization [27.161602978517706]
  SPEAR(SandFrame Prompt Engineer with Active Roll-back)は4つのツールを備えたフリーフォームエージェントである。 Pythonツールは、複雑な判断タスクにおける最大のシングルレバーである。
  論文  参考訳（メタデータ） (2026-05-25T19:01:10Z)
• IndexCache: Accelerating Sparse Attention via Cross-Layer Index Reuse [68.18308357205586]
  Longcontext Agenticは、大規模言語モデルの定義ユースケースとして登場した。 Sparseは、この課題を効果的に解決し、DeepSeek Sparse Attention(DSA)は、代表的なプロダクショングレードソリューションである。 我々は、レイヤを独自のインデクサを実行するフルレイヤの小さなセットと、最も近いフルレイヤのトップkインデックスを単純に再利用する共有レイヤの大多数に分割することで、層間の冗長性を利用するIndexCacheを紹介します。
  論文  参考訳（メタデータ） (2026-03-12T17:27:21Z)
• LiveVectorLake: A Real-Time Versioned Knowledge Base Architecture for Streaming Vector Updates and Temporal Retrieval [0.0]
  LivevusLakeは2階層の時間的知識ベースアーキテクチャで、現在の知識をリアルタイムにセマンティック検索できる。 システムは、コンプライアンス、監査可能性、ポイント・イン・タイム検索のための完全なバージョン履歴を維持している。
  論文  参考訳（メタデータ） (2025-11-24T11:15:39Z)
• Towards Hyper-Efficient RAG Systems in VecDBs: Distributed Parallel Multi-Resolution Vector Search [5.216774377033164]
  我々は,VecDBにおけるRAGのための新しい多分解能ベクトルインデックスフレームワークである textbfSemantic Pyramid Indexing (SPI) を提案する。 オフラインチューニングやモデルトレーニングの分離を必要とする既存の階層的手法とは異なり、SPIはドキュメントの埋め込みの上にセマンティックピラミッドを構築し、クエリ毎に最適な解像度レベルを動的に選択する。 FAISSとQdrantバックエンドのプラグインとしてSPIを実装し、MS MARCO、Natural Questions、マルチモーダル検索ベンチマークを含む複数のRAGタスクでSPIを評価する。
  論文  参考訳（メタデータ） (2025-11-12T09:31:08Z)
• From Static to Dynamic: A Streaming RAG Approach to Real-time Knowledge Base [0.0]
  Streaming RAGは、コサインスクリーニング、ミニバッチクラスタリング、およびコンパクトなプロトタイプセットを維持するためにヘビーヒッターフィルタを組み合わせた統一パイプラインである。 8つのリアルタイムストリームの実験では、Recall@10(最大3ポイント、p 0.01)、エンドツーエンドのレイテンシが15ミリ秒未満、スループットが150MBの予算で毎秒900ドキュメント以上である。
  論文  参考訳（メタデータ） (2025-07-31T14:03:19Z)
• Hierarchical Patch Compression for ColPali: Efficient Multi-Vector Document Retrieval with Dynamic Pruning and Quantization [0.0]
  ColPaliのようなマルチベクトル文書検索システムは、複雑なクエリのきめ細かいマッチングが優れているが、かなりのストレージと計算コストがかかる。 検索精度を保ちながらColPaliの効率を向上する,きめ細かいパッチ圧縮フレームワークであるHPC-ColPaliを提案する。 提案手法は,(1)1バイトのセントロイドインデックスにパッチ埋め込みを圧縮し,最大32$times$ストレージ削減を実現するK平均量子化,(2)Vision-Language Modelアテンション重みを利用した注意誘導動的プルーニングの3つの革新的手法を統合する。
  論文  参考訳（メタデータ） (2025-06-19T08:45:52Z)
• Don't Get Lost in the Trees: Streamlining LLM Reasoning by Overcoming Tree Search Exploration Pitfalls [83.89771461061903]
  検証者による木探索アルゴリズムの最近の進歩は、大規模言語モデル(LLM)の推論能力を大幅に向上させた。 検証者による木探索アルゴリズムの最近の進歩は、大規模言語モデル(LLM)の推論能力を大幅に向上させた。 意味論的に等価なコンテンツを持つ冗長な状態による$textitover-Exploration$と、検証器のスコアリングにおける高いばらつきに起因する$textitunder-Exploration$である。 各種木探索アルゴリズムに適合するフレキシブルなプラグアンドプレイシステムであるFETCHを提案する。
  論文  参考訳（メタデータ） (2025-02-16T16:12:01Z)
• Semi-Parametric Retrieval via Binary Bag-of-Tokens Index [71.78109794895065]
  SemI-parametric Disentangled Retrieval (SiDR)は、ニューラルパラメータから検索インデックスを分離するバイエンコーダ検索フレームワークである。 SiDRは、検索のための非パラメトリックトークン化インデックスをサポートし、BM25のようなインデックス化の複雑さを著しく改善した。
  論文  参考訳（メタデータ） (2024-05-03T08:34:13Z)
• A Fast Post-Training Pruning Framework for Transformers [74.59556951906468]
  プルーニングは、大きなTransformerモデルの巨大な推論コストを削減する効果的な方法である。 モデルプルーニングの以前の作業では、モデルの再トレーニングが必要だった。 本稿では,再学習を必要としないトランスフォーマーのための高速な訓練後プルーニングフレームワークを提案する。
  論文  参考訳（メタデータ） (2022-03-29T07:41:11Z)
• MLPruning: A Multilevel Structured Pruning Framework for Transformer-based Models [78.45898846056303]
  プルーニングは、大きな自然言語処理モデルに関連するメモリフットプリントと計算コストを削減する効果的な方法である。 我々は,頭部刈り込み,行刈り,ブロックワイズ刈りという3つの異なるレベルの構造化刈り込みを利用する,新しいマルチレベル構造化刈り込みフレームワークを開発した。
  論文  参考訳（メタデータ） (2021-05-30T22:00:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。