論文の概要: Subgroup Rank-1 Lattice for Practical High-dimensional Black-box Integral Approximation
- arxiv url: http://arxiv.org/abs/2609.35177v1
- Date: Mon, 28 Sep 2026 13:42:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-02 16:23:57.559144
- Title: Subgroup Rank-1 Lattice for Practical High-dimensional Black-box Integral Approximation
- Title(参考訳): 高次元ブラックボックス積分近似のためのサブグループランク1格子
- Abstract要約: ブラックボックス関数の積分を、期待値やカーネルの平均埋め込みから自己アテンションにおけるソフトマックスカーネルまで推定することは、機械学習の基本的なサブグループである。
我々は、Korobov 生成元 $(1,t,dots,td-1)$ が固定乗法次数 $m$ のスカラー $t$ を使用する部分群階数 1 格子について研究する。
$n$ in $mathbbQ(_m)$の分割を使って、$m-1$許容ジェネレータの平均化は、$(m)因子によって定数を改善する
- 参考スコア(独自算出の注目度): 14.335646280851229
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Estimating integrals of black-box, high-dimensional functions, from expectations and kernel mean embeddings to the softmax kernel in self-attention, is a basic subroutine in machine learning. Rank-1 lattice rules suit this setting: they query the integrand only at a fixed point set and need no gradients. When the $n$ points serve as a design matrix $X\in\mathbb{R}^{n\times d}$ for a feature map, however, computing $Ψ(X)^\top v$ or $Ψ(X)w$ for an elementwise nonlinearity $Ψ$ costs $O(nd)$ time and memory for any standard quasi-Monte Carlo point set. We study subgroup rank-1 lattices, whose Korobov generator $(1,t,\dots,t^{d-1})$ uses a scalar $t$ of fixed multiplicative order $m$. Splitting $\mathbb{F}_n^\times$ into cosets of $\langle t\rangle$ reduces both maps to short cyclic correlations evaluated by FFT, giving exact results for arbitrary $Ψ$ in $O(n\log m)$ time and $O(n)$ memory, without forming $X$. Since fixing $m$ falls outside classical component-by-component theory, we prove convergence directly: via resultants with the cyclotomic polynomial $Φ_m$, the squared worst-case error in the Korobov space decays as $O(n^{-(α-1)/(m-1)})$ for prime $m\ge d+1$, and this threshold is exact. Using the splitting of $n$ in $\mathbb{Q}(ζ_m)$, averaging over the $m-1$ admissible generators improves the constant by a factor $Θ(m-1)$. Empirically, the subgroup lattice beats Gaussian and orthogonal random features and scrambled Sobol' and Halton points in 49 of 54 synthetic kernel-estimation settings and all 45 softmax-attention settings on nine real datasets, and builds a sample set with $d=2048$, $n\approx4.1\times10^7$ in 2.3 ms.
- Abstract(参考訳): 予測からカーネル平均埋め込みまでのブラックボックスの高次元関数の積分を自己注意でソフトマックスカーネルに埋め込むことは、機械学習の基本的なサブルーチンである。
ランク1格子規則はこの設定に適合する: 彼らは積分を定点集合でのみクエリし、勾配は不要である。
しかし、ある特徴写像に対する設計行列 $X\in\mathbb{R}^{n\times d}$ として作用するとき、任意の標準準モンテカルロ点集合に対する時間とメモリに対して、元的に非線形であることに対して $n$$$$$$$$$$$$$$$$$O(nd)$$$$$ となる。
我々は、Korobov 生成元 $(1,t,\dots,t^{d-1})$ が固定乗法次数 $m$ のスカラー $t$ を使用する部分群階数 1 格子について研究する。
$\langle t\rangle$ の余集合に $\mathbb{F}_n^\times$ を分割すると、両方の写像は FFT で評価された短い巡回相関に還元される。
m) 時間と$O
(n)$メモリで、$X$を作らない。
古典的成分-成分理論の外に$m$を固定すると、直接収束が証明される: シンクロトミック多項式 $ _m$ の帰結によって、コロボフ空間の2乗最悪のケース誤差は $O(n^{-(α-1)/(m-1)})$ として崩壊し、このしきい値は真である。
averaging over the $m-1$ admissible generators is improve the constant by a factor $(m-1)$。
経験的に、サブグループ格子はガウス的および直交的ランダムな特徴を破り、54の合成カーネル推定設定のうち49のソボルとハルトンを、9つの実データセット上の45のソフトマックスアテンション設定のうち49の点でスクランブルし、2.3ミリ秒で$d=2048$, $n\approx4.1\times10^7$でサンプルセットを構築する。
関連論文リスト
- Optimal Scalar Quantization for Matrix Multiplication: Closed-Form Density and Phase Transition [50.36362492608702]
乗算前の2つの行列のエントリーワイズスカラー量子化について検討した。
我々は、閉形式の最適点密度 [ star(u) propto exp!left(-fracu26right)bigl( (1-2)+2u22bigr), qquad u=fracx_X を求め、相関駆動相転移を証明した。
論文 参考訳(メタデータ) (2026-03-20T01:53:44Z) - Permanents of matrix ensembles: computation, distribution, and geometry [0.0]
我々はGPUを使用して、$mathbbC,$mathbbR,$ $mathbbF_p$および$mathbbQ.$以上の永久体の計算を劇的に高速化する。
我々は、一元群における恒久的な測地学について研究する。
恒等式から$n$-サイクル置換行列への測地論について、普遍スケーリング関数 $f(t)=frac1nln|perm((t))|$ は$n$ in とは独立である。
論文 参考訳(メタデータ) (2026-02-08T22:31:42Z) - A Unified Framework for Uniform Signal Recovery in Nonlinear Generative
Compressed Sensing [68.80803866919123]
非線形測定では、ほとんどの先行結果は一様ではない、すなわち、すべての$mathbfx*$に対してではなく、固定された$mathbfx*$に対して高い確率で保持される。
本フレームワークはGCSに1ビット/一様量子化観測と単一インデックスモデルを標準例として適用する。
また、指標集合が計量エントロピーが低い製品プロセスに対して、より厳密な境界を生み出す濃度不等式も開発する。
論文 参考訳(メタデータ) (2023-09-25T17:54:19Z) - Learning linear dynamical systems under convex constraints [4.13951084724473]
単一軌道の標本から線形力学系の有限時間同定の問題を考える。
A*$は制約のない設定に必要な値よりもはるかに小さい値に対して確実に推定できることを示す。
論文 参考訳(メタデータ) (2023-03-27T11:49:40Z) - Near-optimal fitting of ellipsoids to random points [68.12685213894112]
楕円体をランダムな点に合わせるという基本的な問題は、低ランク行列分解、独立成分分析、主成分分析に関係している。
我々はこの予想を、ある$n = Omega(, d2/mathrmpolylog(d))$ に対する適合楕円体を構成することで対数的因子まで解決する。
我々の証明は、ある非標準確率行列の便利な分解を用いて、サンダーソン等最小二乗構成の実現可能性を示す。
論文 参考訳(メタデータ) (2022-08-19T18:00:34Z) - Random matrices in service of ML footprint: ternary random features with
no performance loss [55.30329197651178]
我々は、$bf K$ の固有スペクトルが$bf w$ の i.d. 成分の分布とは独立であることを示す。
3次ランダム特徴(TRF)と呼ばれる新しいランダム手法を提案する。
提案したランダムな特徴の計算には乗算が不要であり、古典的なランダムな特徴に比べてストレージに$b$のコストがかかる。
論文 参考訳(メタデータ) (2021-10-05T09:33:49Z) - Spectral properties of sample covariance matrices arising from random
matrices with independent non identically distributed columns [50.053491972003656]
関数 $texttr(AR(z))$, for $R(z) = (frac1nXXT- zI_p)-1$ and $Ain mathcal M_p$ deterministic, have a standard deviation of order $O(|A|_* / sqrt n)$.
ここでは、$|mathbb E[R(z)] - tilde R(z)|_F を示す。
論文 参考訳(メタデータ) (2021-09-06T14:21:43Z) - Convergence Rate of the (1+1)-Evolution Strategy with Success-Based
Step-Size Adaptation on Convex Quadratic Functions [20.666734673282498]
1+1)-進化戦略(ES)と成功に基づくステップサイズ適応を一般凸二次関数で解析する。
1+1)-ES の収束速度は、一般凸二次函数上で明示的に厳密に導かれる。
論文 参考訳(メタデータ) (2021-03-02T09:03:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。