論文の概要: Spectral Transformer Neural Processes
- arxiv url: http://arxiv.org/abs/2605.09498v1
- Date: Sun, 10 May 2026 12:17:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-12 23:28:50.281381
- Title: Spectral Transformer Neural Processes
- Title(参考訳): スペクトル変換器ニューラルプロセス
- Authors: Xianhe Chen, Hao Chen, Yingzhen Li,
- Abstract要約: 時系列、空間データ、画像は、ニューラルネットワークの自然な応用である。
周波数認識型変換器ニューラルプロセス(TNP)の拡張であるスペクトル変換器ニューラルプロセス(STNP)を提案する。
STNPは、既存のベースラインよりも予測性能を一貫して改善する。
- 参考スコア(独自算出の注目度): 18.167922237740328
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Time series, spatial data, and images are natural applications of Neural Processes. However, when such data exhibit strong periodicity and quasi-periodicity, existing methods often suffer from underfitting and generalise poorly beyond the training distribution. In this work, we propose Spectral Transformer Neural Processes (STNPs), a frequency-aware extension of Transformer Neural Processes (TNPs). STNPs introduce a Spectral Aggregator that estimates an empirical context spectrum, compresses it into a spectral mixture, samples task-adaptive spectral features, and concatenates them with time-domain embeddings, thereby injecting a spectral-mixture-kernel bias into TNPs. This design reshapes the similarity geometry, allowing inputs that are distant in Euclidean space to remain close in an induced periodic manifold while enhancing time-frequency interactions. Extensive experiments on synthetic regression tasks, real-world time-series datasets, and an image dataset demonstrate that STNPs consistently improve predictive performance over existing baselines, extending Neural Processes beyond translation equivariance towards effective modelling of periodicity and quasi-periodicity.
- Abstract(参考訳): 時系列、空間データ、画像は、ニューラルネットワークの自然な応用である。
しかし、そのようなデータが強い周期性と準周期性を示す場合、既存の手法はトレーニング分布を超える不適合性や一般化に悩まされることが多い。
本研究では,TNPの周波数対応拡張であるスペクトルトランスフォーマーニューラルプロセス(STNP)を提案する。
STNPは、経験的文脈スペクトルを推定し、それをスペクトル混合物に圧縮し、タスク適応スペクトルの特徴をサンプリングし、時間領域の埋め込みと結合し、スペクトル混合カーネルバイアスをTNPに注入するスペクトル集約器を導入する。
この設計は類似性幾何を再評価し、ユークリッド空間で遠い入力は時間-周波数相互作用を強化しながら誘導周期多様体に近づき続けることができる。
合成回帰タスク、実世界の時系列データセット、および画像データセットに関する広範な実験により、STNPは既存のベースラインよりも予測性能を一貫して改善し、周期性と準周期性の効果的なモデリングに向けて、翻訳同値を超えてニューラルプロセスを拡張した。
関連論文リスト
- FUTON: Fourier Tensor Network for Implicit Neural Representations [56.48739018255443]
入射神経表現(INR)はシグナルを符号化する強力なツールとして現れてきたが、支配的な設計はしばしば収束が遅く、ノイズに過度に適応し、外挿が不十分である。
低ランクテンソル分解により係数がパラメータ化される一般化フーリエ級数として信号をモデル化するFUTONを導入する。
論文 参考訳(メタデータ) (2026-02-13T19:31:44Z) - Parallel Complex Diffusion for Scalable Time Series Generation [50.01609741902786]
PaCoDiは周波数領域における生成モデリングを分離するスペクトルネイティブアーキテクチャである。
本研究では,PaCoDiが生成品質と推論速度の両方において,既存のベースラインを上回っていることを示す。
論文 参考訳(メタデータ) (2026-02-10T14:31:53Z) - Forecasting as Rendering: A 2D Gaussian Splatting Framework for Time Series Forecasting [79.37674445572462]
時系列予測(TSF)は、周期内変動と周期間トレンドの複雑な絡み合いのため、依然として困難な問題である。
形状変化テンソルを静止画像として扱うと、トポロジカルミスマッチが発生する。
均一な固定サイズの表現に依存することは、モデリング能力を非効率に割り当てる。
TimeGSは、予測パラダイムをレグレッションから2D生成レンダリングに根本的にシフトする、新しいフレームワークである。
論文 参考訳(メタデータ) (2026-02-10T14:13:36Z) - Frequency-Constrained Learning for Long-Term Forecasting [15.31488551912888]
実世界の時系列は、物理法則、人間のルーチン、季節周期から生じる強い周期構造を示す。
現代の深層予測モデルは、スペクトルバイアスと周波数認識による誘導前兆の欠如により、繰り返し発生するパターンを捉えることができないことが多い。
本稿では,周期性を明示的にモデル化し,長期予測を効果的に行う手法を提案する。
論文 参考訳(メタデータ) (2025-08-02T22:12:15Z) - LSCD: Lomb-Scargle Conditioned Diffusion for Time series Imputation [55.800319453296886]
欠落または不規則なサンプルデータを持つ時系列は、機械学習において永続的な課題である。
我々は,不規則サンプルデータのパワースペクトルの信頼性の高い計算を可能にする,異なるLombiable-Scargle層を導入する。
論文 参考訳(メタデータ) (2025-06-20T14:48:42Z) - Multivariate Long-term Time Series Forecasting with Fourier Neural Filter [42.60778405812048]
我々はFNFをバックボーンとして、DBDをアーキテクチャとして導入し、空間時間モデルのための優れた学習能力と最適な学習経路を提供する。
FNFは、局所時間領域とグローバル周波数領域の情報処理を単一のバックボーン内で統合し、空間的モデリングに自然に拡張することを示す。
論文 参考訳(メタデータ) (2025-06-10T18:40:20Z) - Graph Fourier Neural ODEs: Modeling Spatial-temporal Multi-scales in Molecular Dynamics [38.53044197103943]
GF-NODEは、空間周波数分解のためのグラフフーリエ変換と、連続時間進化のためのニューラルODEフレームワークを統合する。
GF-NODEは,拡張シミュレーションよりも重要な幾何学的特徴を保ちながら,最先端の精度を実現する。
これらの結果は,MDシミュレーションの強靭性と予測力を改善するために,連続時間モデルによるスペクトル分解のブリッジ化が期待できることを示す。
論文 参考訳(メタデータ) (2024-11-03T15:10:48Z) - Spectral Convolutional Conditional Neural Processes [4.52069311861025]
条件付きニューラルプロセス(CNP)は、プロセスのパラメータ化にニューラルネットワークの柔軟性を利用する確率モデルの一群である。
本稿では、周波数領域における関数のより効率的な表現を可能にするNPsファミリーに新たに追加されたスペクトル畳み込み条件ニューラルネットワーク(SConvCNPs)を提案する。
論文 参考訳(メタデータ) (2024-04-19T21:13:18Z) - Transform Once: Efficient Operator Learning in Frequency Domain [69.74509540521397]
本研究では、周波数領域の構造を利用して、空間や時間における長距離相関を効率的に学習するために設計されたディープニューラルネットワークについて検討する。
この研究は、単一変換による周波数領域学習のための青写真を導入している。
論文 参考訳(メタデータ) (2022-11-26T01:56:05Z) - Nonparametric Factor Trajectory Learning for Dynamic Tensor
Decomposition [20.55025648415664]
動的テンソル分解(NONFAT)のためのNON FActor Trajectory Learningを提案する。
我々は第2レベルのGPを用いてエントリ値をサンプリングし、エンティティ間の時間的関係をキャプチャする。
実世界のいくつかの応用において,本手法の利点を示した。
論文 参考訳(メタデータ) (2022-07-06T05:33:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。