論文の概要: On the Sequentially Semiseparable Structure of SDE-Induced Kernels and Efficient Algorithms for Kernel-Based Estimation Problems
- arxiv url: http://arxiv.org/abs/2610.05856v1
- Date: Mon, 05 Oct 2026 06:18:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 03:44:03.71223
- Title: On the Sequentially Semiseparable Structure of SDE-Induced Kernels and Efficient Algorithms for Kernel-Based Estimation Problems
- Title(参考訳): SDE誘起カーネルの逐次半分離構造とカーネル推定問題に対する効率的なアルゴリズムについて
- Abstract要約: 本稿では,線形時間不変微分方程式 (LTI) によって誘導されるカーネル関数について検討する。
このカーネル設計の観点は、統計学におけるカーネルメソッド、機械学習におけるガウスプロセス(GP)回帰、システム識別におけるカーネルベースの正規化メソッドなど、カーネルが中心的な役割を果たす多くの設定において重要である。
- 参考スコア(独自算出の注目度): 0.7671733124035113
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We study kernel functions induced by a linear time-invariant (LTI) stochastic differential equation (SDE), an approach that embeds prior knowledge about the function to be estimated directly into the state-space description of the SDE. This kernel-design perspective is relevant across the many settings where kernels play a central role, including kernel methods in statistics, Gaussian process (GP) regression in machine learning, and kernel-based regularization methods in system identification. The resulting class of SDE-induced kernels includes several kernels of practical interest, such as Matérn kernels with half-integer smoothness, spline kernels, and related kernels used in system identification. In contrast to existing linear-time GP regression methods for these kernels, which are typically based on Kalman filtering and Rauch--Tung--Striebel smoothing on the latent state, we work directly with the SSS representation of the observed covariance matrix. This yields linear-complexity recursive algorithms for the matrix operations required in GP regression, including factorization, linear solves, log determinants, posterior covariance, log-marginal-likelihood gradients, and posterior sampling; the same generator-level recursions extend, with only minor modifications, to the analogous computations in kernel-based regularization methods for system identification. Compared with previous uses of SSS representations in GP regression, we derive efficient recursive algorithms for analytic marginal-likelihood gradients in three application-relevant cases, and we develop new recursions for posterior computations and Matheron-type sampling. Numerical experiments verify the accuracy of the proposed recursions and illustrate posterior inference and sampling for representative SDE-induced kernels.
- Abstract(参考訳): 本稿では,線形時間不変(LTI)確率微分方程式(SDE)によって誘導されるカーネル関数について検討する。
このカーネル設計の観点は、統計学におけるカーネルメソッド、機械学習におけるガウスプロセス(GP)回帰、システム識別におけるカーネルベースの正規化メソッドなど、カーネルが中心的な役割を果たす多くの設定において重要である。
SDEによって引き起こされたカーネルのクラスには、半分整数の滑らかさを持つマテランカーネル、スプラインカーネル、およびシステム識別に使用される関連するカーネルなど、実用上の関心を持ついくつかのカーネルが含まれる。
これらのカーネルに対する既存の線形時間GP回帰法とは対照的に、一般にカルマンフィルタとラウチ=トゥング=ストリーベルスムース化に基づいており、観測された共分散行列のSSS表現と直接的に連携する。
これにより、因子化、線形解、対数行列式、後続共分散、対数行列的勾配、後続サンプリングを含むGP回帰で必要とされる行列演算に対する線形複雑度再帰アルゴリズムが得られる。
GPレグレッションにおけるSSS表現の従来の利用と比較して, 3つのアプリケーション関連事例において, 辺縁類似度勾配を解析するための効率的な再帰アルゴリズムを導出し, 後続計算のための新しい再帰法とMatheron型サンプリング法を開発した。
数値実験により提案した再帰の精度を検証し、代表SDE誘起カーネルの後方推論とサンプリングを示す。
関連論文リスト
- Generalization Bound of Gradient Flow through Training Trajectory and Data-dependent Kernel [55.82768375605861]
我々は、カーネル法における古典的ラデマッハ複雑性と整合する勾配流の一般化を確立する。
NTKのような静的カーネルとは異なり、LPKはトレーニング軌跡全体をキャプチャし、データと最適化の両方に適応する。
論文 参考訳(メタデータ) (2025-06-12T23:17:09Z) - A Structure-Preserving Kernel Method for Learning Hamiltonian Systems [3.594638299627404]
非線形ハミルトニアン関数の回復を可能にする構造保存カーネルリッジ回帰法を提案する。
本稿では,勾配の線形関数を含む損失関数を必要とする問題に対して,カーネル回帰法を拡張した。
固定正則化パラメータと適応正則化パラメータを用いて収束率を提供する完全誤差解析を行う。
論文 参考訳(メタデータ) (2024-03-15T07:20:21Z) - Stochastic Gradient Descent for Gaussian Processes Done Right [86.83678041846971]
emphdone right -- 最適化とカーネルコミュニティからの具体的な洞察を使用するという意味で -- が、勾配降下は非常に効果的であることを示している。
本稿では,直感的に設計を記述し,設計選択について説明する。
本手法は,分子結合親和性予測のための最先端グラフニューラルネットワークと同程度にガウス過程の回帰を配置する。
論文 参考訳(メタデータ) (2023-10-31T16:15:13Z) - A mixed-categorical correlation kernel for Gaussian process [0.0]
本稿では, 連続指数関数型カーネルを拡張し, 混合カテゴリー変数の処理を行うカーネルベースアプローチを提案する。
提案したカーネルは、連続緩和とゴーワー距離に基づくGPモデルの両方を一般化する新しいGPサロゲートを導く。
論文 参考訳(メタデータ) (2022-11-15T16:13:04Z) - FaDIn: Fast Discretized Inference for Hawkes Processes with General
Parametric Kernels [82.53569355337586]
この研究は、有限なサポートを持つ一般パラメトリックカーネルを用いた時間点プロセス推論の効率的な解を提供する。
脳磁図(MEG)により記録された脳信号からの刺激誘発パターンの発生をモデル化し,その有効性を評価する。
その結果,提案手法により,最先端技術よりもパターン遅延の推定精度が向上することが示唆された。
論文 参考訳(メタデータ) (2022-10-10T12:35:02Z) - Scalable Variational Gaussian Processes via Harmonic Kernel
Decomposition [54.07797071198249]
汎用性を維持しつつ高い忠実度近似を提供する,スケーラブルな変分ガウス過程近似を導入する。
様々な回帰問題や分類問題において,本手法は変換やリフレクションなどの入力空間対称性を活用できることを実証する。
提案手法は, 純粋なGPモデルのうち, CIFAR-10 の最先端化を実現する。
論文 参考訳(メタデータ) (2021-06-10T18:17:57Z) - Multipole Graph Neural Operator for Parametric Partial Differential
Equations [57.90284928158383]
物理系をシミュレーションするためのディープラーニングベースの手法を使用する際の大きな課題の1つは、物理ベースのデータの定式化である。
線形複雑度のみを用いて、あらゆる範囲の相互作用をキャプチャする、新しいマルチレベルグラフニューラルネットワークフレームワークを提案する。
実験により, 離散化不変解演算子をPDEに学習し, 線形時間で評価できることを確認した。
論文 参考訳(メタデータ) (2020-06-16T21:56:22Z) - SLEIPNIR: Deterministic and Provably Accurate Feature Expansion for
Gaussian Process Regression with Derivatives [86.01677297601624]
本稿では,2次フーリエ特徴に基づく導関数によるGP回帰のスケーリング手法を提案する。
我々は、近似されたカーネルと近似された後部の両方に適用される決定論的、非漸近的、指数関数的に高速な崩壊誤差境界を証明した。
論文 参考訳(メタデータ) (2020-03-05T14:33:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。