論文の概要: Near-Optimal Dimension Lower Bounds for Single-Vector Embeddings of Maximum Inner Product Similarity
- arxiv url: http://arxiv.org/abs/2607.20393v2
- Date: Sat, 25 Jul 2026 05:20:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-28 12:52:43.707859
- Title: Near-Optimal Dimension Lower Bounds for Single-Vector Embeddings of Maximum Inner Product Similarity
- Title(参考訳): 最大内積類似性の単ベクトル埋め込みに対する近似次元下界
- Authors: Rajesh Jayaram, Honghao Lin, Vahab Mirrokni, David P. Woodruff,
- Abstract要約: シングルトンクエリでは、Chamferは最大内部積類似度(MAX-IP)になる。
すべての固定$in(0,1)$に対して、定数は$A_,c_>0$である。
単位球MAX-IPマトリクスは、DNFパターンマトリクスの正確な2値アフィンイメージであり、少なくとも8ドルのギャップがある。
- 参考スコア(独自算出の注目度): 75.14269295861845
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Multi-vector embeddings represent items by point clouds and compare query and document point clouds using Chamfer similarity, whereas single-vector embeddings use ordinary inner products. For singleton queries, Chamfer becomes maximum inner product similarity (MAX-IP). In our setting, MUVERA gives dimension $m^{O(1/ε^2)}$ [DHJ+24], whereas the previous lower bound $(ε^2m)^{Ω(1/ε)}$ [Jay26] left a gap between $1/ε$ and $1/ε^2$ in the exponent of $m$. We nearly close this gap. For every fixed $δ\in(0,1)$, there are constants $A_δ,c_δ>0$ such that, for all sufficiently small $ε>0$ and every $m\ge(1/ε)^{A_δ}$, there exist unit query vectors and document point clouds of at most $m$ unit vectors for which every single-vector approximation of all pairwise MAX-IP values to additive error $ε$ has dimension \[ D \ge m^{c_δ/ε^{2-2δ}}. \] This holds even for fully data-dependent representations chosen after seeing the dataset. It also applies to Chamfer because all queries are singletons. Since $δ$ can be arbitrarily small, the exponent approaches the $O(1/ε^2)$ dependence of the upper bound. The proof combines Sherstov's pattern matrix method with polynomial-size, constant-width DNF formulas computing functions of approximate degree $Ω(k^{1-δ})$. Uniform-width padding and a block encoding create an $Ω(ε)$ gap. A dummy coordinate then equalizes all false inputs, yielding a unit-sphere MAX-IP matrix that is an exact two-valued affine image of the DNF pattern matrix with gap at least $8ε$. This allows the approximate-rank bound to apply. The proof was first obtained using a fully automated Gemini-based agentic system developed internally at Google. The authors have verified the proof and edited it for clarity of presentation.
- Abstract(参考訳): マルチベクター埋め込みは、ポイントクラウド単位でアイテムを表現し、クエリとドキュメントポイントクラウドをChamferの類似性を使って比較する。
シングルトンクエリでは、Chamferは最大内部積類似度(MAX-IP)になる。
我々の設定では、MUVERA は次元 $m^{O(1/ε^2)}$ [DHJ+24] を与えるが、以前の下界 $(ε^2m)^{Ω(1/ε)}$ [Jay26] は$m$の指数で $1/ε$ と $1/ε^2$ の差を残している。
私たちはこのギャップをほぼ埋めた。
すべての固定された$δ\in(0,1)$に対して、すべての定数 $A_δ,c_δ>0$ が存在し、十分小さい$ε>0$ とすべての $m\ge(1/ε)^{A_δ}$ に対して、最小の$m$単位ベクトルの単位クエリベクトルとドキュメントポイントクラウドが存在し、すべてのペアワイズMAX-IP値を加法誤差 $ε$ は次元 \[D \ge m^{c_δ/ε^{2-2δ}} を持つ。
これは、データセットを見た後に選択された完全なデータ依存表現でさえ保持します。
すべてのクエリがシングルトンであるため、Chamferにも適用される。
δ$は任意に小さくできるので、指数は上界の$O(1/ε^2)$依存に近づく。
この証明はシェルストフのパターン行列法と多項式サイズで定数幅のDNF公式を組み合わせることで、近似次数$Ω(k^{1-δ})$の計算関数を計算する。
均一幅のパディングとブロック符号化は$Ω(ε)$ギャップを生成する。
ダミー座標は、すべての偽入力を等しくし、DNFパターン行列の正確な2値アフィン像である単位球MAX-IP行列を少なくとも8ε$で生成する。
これにより、近似ランク境界が適用できる。
この証明は、Google社内で開発された完全に自動化されたジェミニベースのエージェントシステムを用いて最初に得られた。
著者らは証明を検証し、提示の明確さのために編集した。
関連論文リスト
- Guessing Efficiently for Constrained Subspace Approximation [49.83981776254246]
制約付き部分空間近似のための一般的なフレームワークを導入する。
分割制約付き部分空間近似のための新しいアルゴリズムを$k$-meansクラスタリングに適用し、非負行列分解を投影する。
論文 参考訳(メタデータ) (2025-04-29T15:56:48Z) - Sparsifying Suprema of Gaussian Processes [3.898355636811022]
中心ガウス過程の上限に対して次元非依存的なスパーシフィケーション結果を与える。
任意のノルム$nu(x)$ on $mathbbRn$が与えられたとき、$x$から$O_varepsilon(1)$方向への投影のみに依存する別のノルム$psi(x)$が存在することを示す。
論文 参考訳(メタデータ) (2024-11-22T01:43:58Z) - Optimal Sketching for Residual Error Estimation for Matrix and Vector Norms [50.15964512954274]
線形スケッチを用いた行列とベクトルノルムの残差誤差推定問題について検討する。
これは、前作とほぼ同じスケッチサイズと精度で、経験的にかなり有利であることを示す。
また、スパースリカバリ問題に対して$Omega(k2/pn1-2/p)$低いバウンダリを示し、これは$mathrmpoly(log n)$ factorまで厳密である。
論文 参考訳(メタデータ) (2024-08-16T02:33:07Z) - Coresets for Multiple $\ell_p$ Regression [47.790126028106734]
サイズ $tilde O(varepsilon-2d)$ for $p2$ と $tilde O(varepsilon-pdp/2)$ for $p>2$ のコアセットを構築します。
1p2$の場合、すべての行列は$tilde O(varepsilon-1k)$行のサブセットを持ち、$(varepsilon-1k)$-a optimal $k$-dimensional subspace for $ell_p$ subspace approximationである。
論文 参考訳(メタデータ) (2024-06-04T15:50:42Z) - Optimal Embedding Dimension for Sparse Subspace Embeddings [4.042707434058959]
ランダム$mtimes n$ matrix $S$は、忘れられない部分空間埋め込み(OSE)である。
mtimes n$ random matrix $S$ with $mgeq (1+theta)d$ is an oblivious subspace embedding with $epsilon = O_theta(1)$。
これを使用すれば、現在の行列乗算時間よりも早く適用できる$O(d)$埋め込み次元で、最初の難解な部分空間埋め込みを構築することができる。
論文 参考訳(メタデータ) (2023-11-17T18:01:58Z) - Dimension-Independent Kernel ε-Covers [8.234735564035567]
カーネル範囲空間は、X の部分集合 mathbbRd$ の集合と、固定されたカーネルによる全てのクエリの空間に関する。
カーネルレンジ空間に対して$varepsilon$-coverという概念を導入する。
論文 参考訳(メタデータ) (2023-06-28T19:19:33Z) - The Approximate Degree of DNF and CNF Formulas [95.94432031144716]
すべての$delta>0に対して、$はCNFと近似次数$Omega(n1-delta)の式を構築し、基本的には$nの自明な上限に一致する。
すべての$delta>0$に対して、これらのモデルは$Omega(n1-delta)$、$Omega(n/4kk2)1-delta$、$Omega(n/4kk2)1-delta$が必要です。
論文 参考訳(メタデータ) (2022-09-04T10:01:39Z) - Low-Rank Approximation with $1/\epsilon^{1/3}$ Matrix-Vector Products [58.05771390012827]
我々は、任意のSchatten-$p$ノルムの下で、低ランク近似のためのクリロフ部分空間に基づく反復法について研究する。
我々の主な成果は、$tildeO(k/sqrtepsilon)$ matrix-vector productのみを使用するアルゴリズムである。
論文 参考訳(メタデータ) (2022-02-10T16:10:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。