論文の概要: Learning Robust Spectral Dynamics for Temporal Domain Generalization
- arxiv url: http://arxiv.org/abs/2505.12585v1
- Date: Mon, 19 May 2025 00:38:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-20 14:57:11.326611
- Title: Learning Robust Spectral Dynamics for Temporal Domain Generalization
- Title(参考訳): 時間領域一般化のためのロバストスペクトルダイナミクスの学習
- Authors: En Yu, Jie Lu, Xiaoyu Yang, Guangquan Zhang, Zhen Fang,
- Abstract要約: 時間的ドメイン一般化は、進化するドメインをまたいだモデル一般化を可能にすることを目指している。
本稿では,パラメータ軌跡の周波数領域解析により,これらの課題に対処するFreKooを紹介する。
FreKooは、複雑なドリフトと不確実性を備えた現実世界のストリーミングシナリオに優れています。
- 参考スコア(独自算出の注目度): 35.98513351187109
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Modern machine learning models struggle to maintain performance in dynamic environments where temporal distribution shifts, \emph{i.e., concept drift}, are prevalent. Temporal Domain Generalization (TDG) seeks to enable model generalization across evolving domains, yet existing approaches typically assume smooth incremental changes, struggling with complex real-world drifts involving long-term structure (incremental evolution/periodicity) and local uncertainties. To overcome these limitations, we introduce FreKoo, which tackles these challenges via a novel frequency-domain analysis of parameter trajectories. It leverages the Fourier transform to disentangle parameter evolution into distinct spectral bands. Specifically, low-frequency component with dominant dynamics are learned and extrapolated using the Koopman operator, robustly capturing diverse drift patterns including both incremental and periodicity. Simultaneously, potentially disruptive high-frequency variations are smoothed via targeted temporal regularization, preventing overfitting to transient noise and domain uncertainties. In addition, this dual spectral strategy is rigorously grounded through theoretical analysis, providing stability guarantees for the Koopman prediction, a principled Bayesian justification for the high-frequency regularization, and culminating in a multiscale generalization bound connecting spectral dynamics to improved generalization. Extensive experiments demonstrate FreKoo's significant superiority over SOTA TDG approaches, particularly excelling in real-world streaming scenarios with complex drifts and uncertainties.
- Abstract(参考訳): 現代の機械学習モデルは、時間分布シフトである「emph{i.e., concept drift}」が一般的である動的環境において、パフォーマンスを維持するのに苦労している。
時間的ドメイン一般化(TDG)は、進化するドメインをまたいだモデル一般化を可能にすることを目指しているが、既存のアプローチは典型的には滑らかな漸進的な変化を前提としており、長期構造(漸進的進化/周期性)と局所的不確実性を含む複雑な現実世界のドリフトに苦しむ。
これらの制約を克服するために,パラメータ軌跡の周波数領域解析によってこれらの課題に対処するFreKooを導入する。
これはフーリエ変換を利用してパラメータの進化を異なるスペクトル帯域に分解する。
具体的には、Koopman演算子を用いて、支配的ダイナミクスを持つ低周波成分を学習し、外挿し、漸進性と周期性の両方を含む多様なドリフトパターンを頑健に取得する。
同時に、潜在的に破壊的な高周波の変動は、標的の時間的正規化によって平滑化され、過渡的なノイズや領域の不確実性への過度な適合を防ぐ。
さらに、この双対スペクトル戦略は理論解析によって厳密に基礎を成し、クープマン予想の安定性を保証するとともに、高周波正則化の原理化されたベイズ的正当化を提供し、スペクトル力学を連結するマルチスケールの一般化を達成し、一般化を改善した。
大規模な実験は、FrekooのSOTA TDGアプローチに対する顕著な優位性を示し、特に複雑なドリフトと不確実性を持つ実世界のストリーミングシナリオにおいて優れている。
関連論文リスト
- BEAT: Balanced Frequency Adaptive Tuning for Long-Term Time-Series Forecasting [46.922741972636025]
時系列予測は、天気予報や金融市場モデリングを含む多くの現実世界のアプリケーションにとって不可欠である。
BEAT(Balanced frequency Adaptive Tuning)は、各周波数のトレーニング状況を監視し、勾配更新を適応的に調整する新しいフレームワークである。
BEATは7つの実世界のデータセットの実験において、最先端のアプローチを一貫して上回っている。
論文 参考訳(メタデータ) (2025-01-31T11:52:35Z) - Graph Fourier Neural ODEs: Modeling Spatial-temporal Multi-scales in Molecular Dynamics [38.53044197103943]
GF-NODEは、空間周波数分解のためのグラフフーリエ変換と、連続時間進化のためのニューラルODEフレームワークを統合する。
GF-NODEは,拡張シミュレーションよりも重要な幾何学的特徴を保ちながら,最先端の精度を実現する。
これらの結果は,MDシミュレーションの強靭性と予測力を改善するために,連続時間モデルによるスペクトル分解のブリッジ化が期待できることを示す。
論文 参考訳(メタデータ) (2024-11-03T15:10:48Z) - Continuous Temporal Domain Generalization [17.529690717937267]
時間領域一般化(TDG)は、時間的に変化するデータ分布の下で予測モデルを訓練する際の課題に対処する。
この研究は、ドメインデータが連続時間から導出され、任意の時間に収集される連続時間領域一般化(CTDG)の概念を定式化する。
論文 参考訳(メタデータ) (2024-05-25T05:52:04Z) - Attractor Memory for Long-Term Time Series Forecasting: A Chaos Perspective [63.60312929416228]
textbftextitAttraosはカオス理論を長期時系列予測に取り入れている。
本研究では,AttraosがPatchTSTと比較して,パラメータの12分の1しか持たない主流データセットやカオスデータセットにおいて,LTSF法よりも優れていることを示す。
論文 参考訳(メタデータ) (2024-02-18T05:35:01Z) - Convergence of mean-field Langevin dynamics: Time and space
discretization, stochastic gradient, and variance reduction [49.66486092259376]
平均場ランゲヴィンダイナミクス(英: mean-field Langevin dynamics、MFLD)は、分布依存のドリフトを含むランゲヴィン力学の非線形一般化である。
近年の研究では、MFLDは測度空間で機能するエントロピー規則化された凸関数を地球規模で最小化することが示されている。
有限粒子近似,時間分散,勾配近似による誤差を考慮し,MFLDのカオスの均一時間伝播を示す枠組みを提供する。
論文 参考訳(メタデータ) (2023-06-12T16:28:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。