論文の概要: Random features for Grassmannian kernel approximation with bounded rank-one projections
- arxiv url: http://arxiv.org/abs/2608.04227v1
- Date: Tue, 04 Aug 2026 21:02:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-06 17:51:08.561427
- Title: Random features for Grassmannian kernel approximation with bounded rank-one projections
- Title(参考訳): 有界階数1の射影を持つグラスマン核近似のランダムな特徴
- Abstract要約: 低次元部分空間上のスケーラブルカーネルマシンに対するランダムな特徴写像群を提案する。
ランダムな特徴空間の内部積は、よく定義された回転不変なグラスマン核に近似する。
合成データとETH-80分類タスクの実験は、これらの特徴が計算、記憶、記憶を減らしながらグラスマン幾何学を正確に保存していることを示している。
- 参考スコア(独自算出の注目度): 5.3340963304980535
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We propose a family of random feature maps for scalable kernel machines on low-dimensional subspaces, ie on the Grassmannian manifold. Such representations are useful when data classes or clusters are well described by the span of a few samples. Classical Grassmannian kernels, including the projection and Binet-Cauchy kernels, require full Gram matrices, which leads to prohibitive computational and memory costs for large high-dimensional subspace datasets. We address this limitation using random features based on rank-one projections of subspace projection matrices followed by bounded non-linear transforms, either periodic or binary, to control the resulting distributions. We show that inner products in the random feature space approximate well-defined rotation-invariant Grassmannian kernels that depend only on the principal angles between subspaces. When the number of features is sufficiently large relative to the intrinsic subspace dimension, the approximation holds uniformly over all fixed-dimensional subspaces with high probability. For periodic transforms, the approximated kernel has a closed-form expression with tunable behaviour between inverse Binet-Cauchy and Gaussian-type regimes. Binary transforms yield compact one-bit subspace features, although no closed-form kernel is known. Structured rank-one projections based on randomised fast Fourier transforms further reduce computation without sacrificing practical accuracy. Experiments on synthetic data and ETH-80 classification tasks show that these features accurately preserve Grassmannian geometry while reducing computation, memory, and storage. Rank-one embeddings therefore provide a practical and scalable alternative to classical Grassmannian kernels.
- Abstract(参考訳): 低次元部分空間上のスケーラブルカーネルマシン,すなわちグラスマン多様体上のランダムな特徴写像群を提案する。
このような表現は、データクラスやクラスタがサンプルのスパンによってうまく記述されているときに有用である。
プロジェクションやBinet-Cauchyカーネルを含む古典的なグラスマンカーネルは完全なグラム行列を必要とするため、大きな高次元のサブスペースデータセットに対する計算とメモリのコストは禁じられている。
部分空間射影行列の階数1の射影に基づくランダムな特徴を用いてこの制限に対処し、次に周期的あるいは二分的な有界な非線形変換を行い、その結果の分布を制御する。
ランダムな特徴空間の内部積は、部分空間間の主角にのみ依存する、よく定義された回転不変なグラスマン核に近似する。
特徴数が内在部分空間次元に対して十分に大きいとき、近似は高い確率ですべての固定次元部分空間に一様に存在する。
周期変換の場合、近似された核は、逆ビネットコーシーとガウス型状態の間の調整可能な振る舞いを持つ閉形式表現を持つ。
バイナリ変換はコンパクトな1ビット部分空間特徴を与えるが、閉形式カーネルは知られていない。
ランダム化された高速フーリエ変換に基づく構造化階数1の射影は、実用的な精度を犠牲にすることなく計算をさらに削減する。
合成データとETH-80分類タスクの実験は、これらの特徴が計算、記憶、記憶を減らしながらグラスマン幾何学を正確に保存していることを示している。
したがって、ランクワン埋め込みは古典的なグラスマン核に代わる実用的でスケーラブルな代替を提供する。
関連論文リスト
- Computational-Statistical Gaps in Gaussian Single-Index Models [77.1473134227844]
単次元モデル(Single-Index Models)は、植木構造における高次元回帰問題である。
我々は,統計的クエリ (SQ) と低遅延多項式 (LDP) フレームワークの両方において,計算効率のよいアルゴリズムが必ずしも$Omega(dkstar/2)$サンプルを必要とすることを示した。
論文 参考訳(メタデータ) (2024-03-08T18:50:19Z) - Implicit Manifold Gaussian Process Regression [49.0787777751317]
ガウス過程の回帰は、よく校正された不確実性推定を提供するために広く用いられている。
これは、データが実際に存在する暗黙の低次元多様体のため、高次元データに苦しむ。
本稿では,データ(ラベル付きおよびラベルなし)から直接暗黙構造を完全に微分可能な方法で推定できる手法を提案する。
論文 参考訳(メタデータ) (2023-10-30T09:52:48Z) - Tanimoto Random Features for Scalable Molecular Machine Learning [2.5112706394511766]
そこで本研究では,Tanimotoカーネルを大規模データセットにスケールアップするための2種類の新しいランダムな特徴を提案する。
これらのランダムな特徴は実世界のデータセットの谷本係数の近似に有効であることを示す。
論文 参考訳(メタデータ) (2023-06-26T16:11:11Z) - A Multiple Parameter Linear Scale-Space for one dimensional Signal
Classification [0.0]
多パラメータ線形スケール空間のためのカーネルの最大集合を構築し、一次元連続信号の分類と認識のための木を構築する。
カーネルの最大集合のいくつかの有用な性質が導出される。
新たなトポロジカルな木構築法が導入された。
論文 参考訳(メタデータ) (2023-05-22T17:14:45Z) - Random Smoothing Regularization in Kernel Gradient Descent Learning [24.383121157277007]
古典的ソボレフ空間に属する幅広い基底真理関数を適応的に学習できるランダムなスムーズな正規化のための枠組みを提案する。
我々の推定器は、基礎となるデータの構造的仮定に適応し、次元の呪いを避けることができる。
論文 参考訳(メタデータ) (2023-05-05T13:37:34Z) - Simplex Random Features [53.97976744884616]
ソフトマックスおよびガウスカーネルの非バイアス近似のための新しいランダム特徴(RF)機構であるSimplex Random Features (SimRFs)を提案する。
我々は,これらのカーネルの非バイアス推定値に対して,SimRFが最小平均二乗誤差(MSE)を提供することを示す。
ポイントワイドカーネル推定,非パラメトリック分類,スケーラブルトランスフォーマーなどの設定において,SimRFによる一貫したゲインを示す。
論文 参考訳(メタデータ) (2023-01-31T18:53:39Z) - Stationary Kernels and Gaussian Processes on Lie Groups and their Homogeneous Spaces I: the compact case [43.877478563933316]
対称性は、考慮できる事前情報の最も基本的な形態の1つである。
本研究では,非ユークリッド空間の非常に大きなクラス上に定常ガウス過程を構築するための構築的および実践的手法を開発する。
論文 参考訳(メタデータ) (2022-08-31T16:40:40Z) - Stochastic tensor space feature theory with applications to robust machine learning [3.6891975755608355]
テンソル空間に基づくマルチレベル直交部分空間(MOS)カーフン・ローブ特徴量理論を開発する。
私たちのキーとなる観察は、個別の機械学習クラスは、主に異なる部分空間に存在することができるということです。
血漿データセット(アルツハイマー病神経画像イニシアチブ)の検査では、精度が劇的に向上した。
論文 参考訳(メタデータ) (2021-10-04T22:01:01Z) - A Note on Optimizing Distributions using Kernel Mean Embeddings [94.96262888797257]
カーネル平均埋め込みは、その無限次元平均埋め込みによる確率測度を表す。
カーネルが特徴的である場合、カーネルの総和密度を持つ分布は密度が高いことを示す。
有限サンプル設定でそのような分布を最適化するアルゴリズムを提供する。
論文 参考訳(メタデータ) (2021-06-18T08:33:45Z) - High-Dimensional Gaussian Process Inference with Derivatives [90.8033626920884]
低データ状態の$ND$では、Gram行列は$mathcalO(N2D + (N2)3)$に推論のコストを下げる方法で分解できることを示す。
最適化や予測勾配を持つハミルトニアンモンテカルロなど、機械学習に関連する様々なタスクでこの可能性を実証する。
論文 参考訳(メタデータ) (2021-02-15T13:24:41Z) - Linear-time inference for Gaussian Processes on one dimension [17.77516394591124]
本研究では,その線形スケーリング計算コストから,状態空間モデルが人気である1次元のサンプルデータについて検討する。
状態空間モデルは一般であり、任意の1次元ガウス過程を近似できるという予想の最初の一般的な証明を提供する。
LEGモデルで推論と学習を行う並列アルゴリズムを開発し、実データおよび合成データ上でアルゴリズムをテストし、数十億のサンプルを持つデータセットへのスケーリングを実証する。
論文 参考訳(メタデータ) (2020-03-11T23:20:13Z) - Optimal Iterative Sketching with the Subsampled Randomized Hadamard
Transform [64.90148466525754]
最小二乗問題に対する反復スケッチの性能について検討する。
本研究では、Haar行列とランダム化されたHadamard行列の収束速度が同一であることを示し、ランダムなプロジェクションを経時的に改善することを示した。
これらの手法は、ランダム化次元還元を用いた他のアルゴリズムにも適用することができる。
論文 参考訳(メタデータ) (2020-02-03T16:17:50Z) - Randomly Projected Additive Gaussian Processes for Regression [37.367935314532154]
GPレグレッションにはカーネルの加算和を使用し、各カーネルはその入力の異なるランダムなプロジェクションで動作する。
この収束とその速度を証明し、純粋にランダムな射影よりも早く収束する決定論的アプローチを提案する。
論文 参考訳(メタデータ) (2019-12-30T07:26:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。