論文の概要: Beyond State Space Representation: A General Theory for Kernel Packets

• arxiv url: http://arxiv.org/abs/2402.04022v5
• Date: Thu, 06 Nov 2025 05:00:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-11-07 20:17:53.043427
• Title: Beyond State Space Representation: A General Theory for Kernel Packets
• Title（参考訳）: 状態空間表現を超えて:カーネルパケットの一般的な理論
• Authors: Liang Ding, Rui Tuo, Lu Zhou,
• Abstract要約: カーネルパケット(KP)に基づく新しいフレームワークを提案する。 KP は SDE と低ランクの GP メソッドがフェールした場合に,正確なメモリ効率の推論が可能であることを示す。
• 参考スコア（独自算出の注目度）: 15.951877874042644
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Gaussian process (GP) regression provides a flexible, nonparametric framework for probabilistic modeling, yet remains computationally demanding in large-scale applications. For one-dimensional data, state space (SS) models achieve linear-time inference by reformulating GPs as stochastic differential equations (SDEs). However, SS approaches are confined to gridded inputs and cannot handle multi-dimensional scattered data. We propose a new framework based on kernel packet (KP), which overcomes these limitations while retaining exactness and scalability. A KP is a compactly supported function defined as a linear combination of the GP covariance functions. In this article, we prove that KPs can be identified via the forward and backward SS representations. We also show that the KP approach enables exact inference with linear-time training and logarithmic or constant-time prediction, and extends naturally to multi-dimensional gridded or scattered data without low-rank approximations. Numerical experiments on large-scale additive and product-form GPs with millions of samples demonstrate that KPs achieve exact, memory-efficient inference where SDE-based and low-rank GP methods fail.
• Abstract（参考訳）: ガウス過程(GP)回帰は確率的モデリングのためのフレキシブルで非パラメトリックなフレームワークを提供するが、大規模アプリケーションでは計算的に要求される。 一次元データに対して、状態空間(SS)モデルは、GPを確率微分方程式(SDE)として再構成することで線形時間推論を達成する。 しかし、SSアプローチはグリッド化された入力に限られており、多次元散乱データの処理はできない。 本稿では,カーネルパケット(KP)に基づく新しいフレームワークを提案する。 KP はコンパクトに支持された関数で、GP共分散関数の線型結合として定義される。 本稿では,KPが前向きおよび後向きのSS表現によって識別可能であることを実証する。 また,KP手法は線形時間トレーニングや対数的あるいは定数的予測による正確な推定を可能にし,低ランク近似を伴わない多次元グリッドデータや散乱データに自然に拡張可能であることを示す。 数百万のサンプルを用いた大規模加法および製品形GPの数値実験により、KPsはSDE法および低ランクGP法が失敗する正確なメモリ効率の推測を達成できることを示した。

関連論文リスト

• Wigner quasi-probability distribution for symmetric multi-quDit systems and their generalized heat kernel [0.0]
  我々はSchr"odinger $U(D)$-spin cat状態の位相空間構造を解析した。 準確率分布である $mathcalF(s)_rho$ と $mathcalF(s')_rho$ に関する一般化熱核を計算する。
  論文  参考訳（メタデータ） (2025-07-20T08:26:28Z)
• Emergent random matrix universality in quantum operator dynamics [0.0]
  我々は、$G_n (z)$が$ntoinfty$極限の普遍性を示すことを証明している。 また、低周波数では$G_n (z)$ は RMT のベッセル普遍性クラスによって支配されることを示す。 本稿では,Lanczos係数からスペクトル関数を近似するスペクトルブートストラップ法を提案する。
  論文  参考訳（メタデータ） (2025-04-25T12:38:24Z)
• Further Understanding of a Local Gaussian Process Approximation: Characterising Convergence in the Finite Regime [1.3518297878940662]
  非常に正確かつ大規模に拡張可能なGPnn回帰モデルに対するカーネル関数の一般的な選択は、データセットサイズ$n$の増加に伴って徐々に振る舞いに収束することを示す。 同様の境界はモデルの不特定の下で見出され、MSEと重要な校正計量の総合的な収束率を与えるために組み合わせられる。
  論文  参考訳（メタデータ） (2024-04-09T10:47:01Z)
• On the $O(\frac{\sqrt{d}}{T^{1/4}})$ Convergence Rate of RMSProp and Its Momentum Extension Measured by $\ell_1$ Norm [59.65871549878937]
  本稿では、RMSPropとその運動量拡張を考察し、$frac1Tsum_k=1Tの収束速度を確立する。 我々の収束率は、次元$d$を除くすべての係数に関して下界と一致する。 収束率は$frac1Tsum_k=1Tと類似していると考えられる。
  論文  参考訳（メタデータ） (2024-02-01T07:21:32Z)
• A Unified Framework for Uniform Signal Recovery in Nonlinear Generative Compressed Sensing [68.80803866919123]
  非線形測定では、ほとんどの先行結果は一様ではない、すなわち、すべての$mathbfx*$に対してではなく、固定された$mathbfx*$に対して高い確率で保持される。 本フレームワークはGCSに1ビット/一様量子化観測と単一インデックスモデルを標準例として適用する。 また、指標集合が計量エントロピーが低い製品プロセスに対して、より厳密な境界を生み出す濃度不等式も開発する。
  論文  参考訳（メタデータ） (2023-09-25T17:54:19Z)
• Random matrices in service of ML footprint: ternary random features with no performance loss [55.30329197651178]
  我々は、$bf K$ の固有スペクトルが$bf w$ の i.d. 成分の分布とは独立であることを示す。 3次ランダム特徴(TRF)と呼ばれる新しいランダム手法を提案する。 提案したランダムな特徴の計算には乗算が不要であり、古典的なランダムな特徴に比べてストレージに$b$のコストがかかる。
  論文  参考訳（メタデータ） (2021-10-05T09:33:49Z)
• Spectral properties of sample covariance matrices arising from random matrices with independent non identically distributed columns [50.053491972003656]
  関数 $texttr(AR(z))$, for $R(z) = (frac1nXXT- zI_p)-1$ and $Ain mathcal M_p$ deterministic, have a standard deviation of order $O(|A|_* / sqrt n)$. ここでは、$|mathbb E[R(z)] - tilde R(z)|_F を示す。
  論文  参考訳（メタデータ） (2021-09-06T14:21:43Z)
• Kernel Thinning [26.25415159542831]
  カーネルの薄型化は、サンプリングや標準的な薄型化よりも効率的に$mathbbP$を圧縮するための新しい手順である。 我々は、ガウス、マタン、およびB-スプライン核に対する明示的な非漸近的な最大誤差境界を導出する。
  論文  参考訳（メタデータ） (2021-05-12T17:56:42Z)
• Convergence of Graph Laplacian with kNN Self-tuned Kernels [14.645468999921961]
  自己チューニングされたカーネルは、各点に$sigma_i$ を $k$-nearest neighbor (kNN) 距離で適応的に設定する。 本稿では、グラフラプラシアン作用素$L_N$を、kNN自己チューニングカーネルの新しい族に対する多様体(重み付き)ラプラシアンに収束することを証明する。
  論文  参考訳（メタデータ） (2020-11-03T04:55:33Z)
• Convergence of Sparse Variational Inference in Gaussian Processes Regression [29.636483122130027]
  計算コストが$mathcalO(log N)2D(log N)2)$の手法を推論に利用できることを示す。
  論文  参考訳（メタデータ） (2020-08-01T19:23:34Z)
• Linear Time Sinkhorn Divergences using Positive Features [51.50788603386766]
  エントロピー正則化で最適な輸送を解くには、ベクトルに繰り返し適用される$ntimes n$ kernel matrixを計算する必要がある。 代わりに、$c(x,y)=-logdotpvarphi(x)varphi(y)$ ここで$varphi$は、地上空間から正のorthant $RRr_+$への写像であり、$rll n$である。
  論文  参考訳（メタデータ） (2020-06-12T10:21:40Z)
• Curse of Dimensionality on Randomized Smoothing for Certifiable Robustness [151.67113334248464]
  我々は、他の攻撃モデルに対してスムースな手法を拡張することは困難であることを示す。 我々はCIFARに関する実験結果を示し,その理論を検証した。
  論文  参考訳（メタデータ） (2020-02-08T22:02:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。