論文の概要: When Does Low-Bit Quantization Preserve the Decisions of Vector Search?
- arxiv url: http://arxiv.org/abs/2609.09854v1
- Date: Wed, 09 Sep 2026 08:06:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-10 19:44:08.946302
- Title: When Does Low-Bit Quantization Preserve the Decisions of Vector Search?
- Title(参考訳): 低ビット量子化はベクトル探索の決定を保存するか?
- Abstract要約: 低ビット量子化は、いくつかのベクトル表現において高いリコールを達成することができ、他のベクトル表現では急激に失敗する。
本稿では,ランク付けアルゴリズムとグラフ解析アルゴリズムによる比較値の量化ベクトル探索について検討する。
学習された古典的、合成的な埋め込み全体において、標準化された正確なマージンは、ホールドアウトランキングとプルーニングフリップレートを、グローバルなランク相関よりもかなり良く予測する。
- 参考スコア(独自算出の注目度): 13.71460633144793
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Low-bit quantization can achieve high recall on some vector representations and fail sharply on others, while average distortion and global rank correlation do not explain the difference. We study quantized vector search at the level of the comparisons consumed by ranking and graph-pruning algorithms. Our first result is a distribution-free decomposition: the probability that a comparison flips is bounded by the probability mass of exact margins near zero plus the tail probability of the calibrated residual. We then account for dependence between residuals that share a query or graph node, and derive covariance-aware second-moment identities and tail bounds under a joint MGF proxy. For a frozen candidate permutation, we prove a deterministic coupling theorem for Vamana neighbour selection: the approximate replay returns the exact neighbour list exactly when all candidate-level pruning actions agree on the frozen exact states. We connect these results to representation geometry through an exact Gaussian oracle, establish a strict correlation gain from a deterministic magnitude bit in an aligned bilinear model, and give a rare-contamination construction showing why marginal Gaussian diagnostics do not imply the required residual tails. When analytical assumptions are unavailable, a held-out block certificate bounds the selective failure risk of a frozen quantized rule. Across learned, classical, and synthetic embeddings, standardized exact margins predict held-out ranking and pruning flip rates substantially better than global rank correlation. The framework applies to coordinate binary codes, RaBitQ, Lucene BBQ, and product quantizers through a common decision interface.
- Abstract(参考訳): 低ビット量子化はベクトル表現で高いリコールを達成でき、他のベクトル表現では急激に失敗するが、平均歪みと大域的ランク相関は差を説明できない。
本稿では,ランク付けアルゴリズムとグラフ解析アルゴリズムによる比較値の量化ベクトル探索について検討する。
最初の結果は分布のない分解であり、比較フリップの確率は、ゼロに近い正確なマージンの確率質量と、キャリブレーションされた残差のテール確率によって制限される。
次に、クエリやグラフノードを共有する残差間の依存を考慮し、共同MGFプロキシの下で共分散を意識した第2モーメントのアイデンティティとテールバウンダリを導出する。
凍結された候補置換に対しては、ヴァマナ近傍選択に対する決定論的カップリング定理(英語版)を証明する: 近似的なリプレイは、すべての候補レベルのプルーニングアクションが凍結された正確な状態に一致するときに、正確な近傍リストを正確に返す。
これらの結果は、正確なガウスのオラクルを通して表現幾何学に結合し、整列双線型モデルにおいて決定論的大小ビットから厳密な相関関係のゲインを確立し、なぜ限界ガウスの診断が要求される残余尾を含まないのかを示す稀な汚染構造を与える。
解析的仮定が利用できない場合、保持ブロック証明書は凍結量子化規則の選択的失敗リスクを限定する。
学習された古典的、合成的な埋め込み全体において、標準化された正確なマージンは、ホールドアウトランキングとプルーニングフリップレートを、グローバルなランク相関よりもかなり良く予測する。
このフレームワークは、共通の決定インターフェースを通じてバイナリコード、RaBitQ、Lucene BBQ、および製品量化器を調整するために適用される。
関連論文リスト
- Inference and Uncertainty Quantification for Streaming $r$-PCA [0.40105987447353786]
Ojaのアルゴリズムを用いてPCAをストリーミングする際の2つのオープンな問題に対処する。
両大口径スパーステール系において, 対数的因子まで, 一致した下界を証明した。
論文 参考訳(メタデータ) (2026-08-18T23:02:28Z) - One-step lowest-variance selection in a Gaussian random-field model motivated by masked diffusion: Total correlation and a square root collision threshold [8.230831152671708]
マスク付き離散拡散における信頼誘導型並列アンマスキングの動機付けにより、スタイリングされたガウス確率場モデルにおける1つの選択ステップについて検討する。
その結果、マスク付き離散拡散における厳密な信頼幾何と空間相関が一段階選択に結びついている。
論文 参考訳(メタデータ) (2026-07-20T03:56:34Z) - How Useful is Causal Invariance for Domain Adaptation in Finite-Sample Settings? [58.740078141879984]
機械学習モデルは、トレーニングされたソースディストリビューションとは異なるターゲットディストリビューションにデプロイされると、しばしば劣化する。
因果関係に基づく領域一般化における最近の研究は、共用因果構造が不変な予測因子を誘導する方法を示している。
本稿では,完全あるいは部分的な因果知識が,教師付きドメイン適応を確実に改善できるかどうかについて検討する。
論文 参考訳(メタデータ) (2026-06-10T21:07:49Z) - When Noisy Quantum Order Finding Remains Recoverable for Shor's Algorithm [0.06610877051761614]
問題インスタンスと回路設定にまたがるIBM量子システムからの680の分布を解析する。
その結果, 回収性は, 測定された分布における残留コーム様構造と強く関連していることがわかった。
いくつかの高度に歪んだ分布は、証明された分母が後処理質量を支配しているときに回復可能である。
論文 参考訳(メタデータ) (2026-05-15T15:35:31Z) - Semiparametric conformal prediction [79.6147286161434]
ベクトル値の非整合性スコアの結合相関構造を考慮した共形予測セットを構築する。
スコアの累積分布関数(CDF)を柔軟に推定する。
提案手法は,現実の回帰問題に対して,所望のカバレッジと競争効率をもたらす。
論文 参考訳(メタデータ) (2024-11-04T14:29:02Z) - Fit Like You Sample: Sample-Efficient Generalized Score Matching from
Fast Mixing Diffusions [29.488555741982015]
幅広いマルコフ過程の混合時間と生成元 $mathcalL$ との密接な関係を示す。
我々はマルコフ連鎖を高速化し、より良いスコアマッチング損失を構築する技術に適応する。
特に、拡散のプレコンディショニング'をスコア損失の適切なプレコンディショニング'に変換することができる。
論文 参考訳(メタデータ) (2023-06-15T17:58:42Z) - Optimal and exact recovery on general non-uniform Hypergraph Stochastic Block Model [0.0]
非一様ハイパーグラフ化ブロックモデル(HSBM)に基づくランダムハイパーグラフにおけるコミュニティ検出問題の検討
文献ではじめて、この一様でないケース下での正確な回復のための鋭いしきい値が、小さな制約の下で確立された。
しきい値を超えると正確な回復を達成でき、正確な回復が不可能な場合には最小の確率で達成できる2つの効率的なアルゴリズムを提供する。
論文 参考訳(メタデータ) (2023-04-25T20:30:33Z) - Optimal PAC Bounds Without Uniform Convergence [11.125968799758436]
我々は、一様収束論の極限を超えるフレームワークを通して、最適な高確率リスク境界を提供する。
我々のフレームワークは、置換不変予測器の残余誤差を高い確率リスク境界に変換する。
具体的には, 1-inclusion graph アルゴリズムの特定のアグリゲーションが最適であることを示す。
論文 参考訳(メタデータ) (2023-04-18T17:57:31Z) - Optimal Clustering with Bandit Feedback [57.672609011609886]
本稿では,バンディットフィードバックを用いたオンラインクラスタリングの問題点について考察する。
これは、NPハード重み付きクラスタリング問題をサブルーチンとして解決する必要性を回避するための、シーケンシャルなテストのための新しい停止規則を含む。
合成および実世界のデータセットの広範なシミュレーションを通して、BOCの性能は下界と一致し、非適応的ベースラインアルゴリズムよりも大幅に優れることを示す。
論文 参考訳(メタデータ) (2022-02-09T06:05:05Z) - Multivariate Probabilistic Regression with Natural Gradient Boosting [63.58097881421937]
多変量予測分布の条件パラメータを非パラメトリックにモデル化したNatural Gradient Boosting (NGBoost) 手法を提案する。
提案手法は頑健で, 広範囲なチューニングを伴わず, 推定対象分布に対してモジュール構造であり, 既存の手法と比較して競争力がある。
論文 参考訳(メタデータ) (2021-06-07T17:44:49Z) - Navigating to the Best Policy in Markov Decision Processes [68.8204255655161]
マルコフ決定過程における純粋探索問題について検討する。
エージェントはアクションを逐次選択し、結果のシステム軌道から可能な限り早くベストを目標とする。
論文 参考訳(メタデータ) (2021-06-05T09:16:28Z) - Spectral clustering under degree heterogeneity: a case for the random
walk Laplacian [83.79286663107845]
本稿では,ランダムウォークラプラシアンを用いたグラフスペクトル埋め込みが,ノード次数に対して完全に補正されたベクトル表現を生成することを示す。
次数補正ブロックモデルの特別な場合、埋め込みはK個の異なる点に集中し、コミュニティを表す。
論文 参考訳(メタデータ) (2021-05-03T16:36:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。