論文の概要: Time Series Diffusion in the Frequency Domain

• arxiv url: http://arxiv.org/abs/2402.05933v1
• Date: Thu, 8 Feb 2024 18:59:05 GMT
• ステータス: 処理完了
• システム内更新日: 2024-02-09 13:27:41.560551
• Title: Time Series Diffusion in the Frequency Domain
• Title（参考訳）: 周波数領域における時系列拡散
• Authors: Jonathan Crabb\'e, Nicolas Huynh, Jan Stanczuk, Mihaela van der Schaar
• Abstract要約: 周波数領域における時系列表現がスコアベース拡散モデルに有用な帰納バイアスであるか否かを解析する。 重要なニュアンスを持つ周波数領域において、二重拡散過程が生じることを示す。 周波数領域に拡散モデルを実装するために,デノナイジングスコアマッチング手法を適用する方法を示す。
• 参考スコア（独自算出の注目度）: 54.60573052311487
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Fourier analysis has been an instrumental tool in the development of signal processing. This leads us to wonder whether this framework could similarly benefit generative modelling. In this paper, we explore this question through the scope of time series diffusion models. More specifically, we analyze whether representing time series in the frequency domain is a useful inductive bias for score-based diffusion models. By starting from the canonical SDE formulation of diffusion in the time domain, we show that a dual diffusion process occurs in the frequency domain with an important nuance: Brownian motions are replaced by what we call mirrored Brownian motions, characterized by mirror symmetries among their components. Building on this insight, we show how to adapt the denoising score matching approach to implement diffusion models in the frequency domain. This results in frequency diffusion models, which we compare to canonical time diffusion models. Our empirical evaluation on real-world datasets, covering various domains like healthcare and finance, shows that frequency diffusion models better capture the training distribution than time diffusion models. We explain this observation by showing that time series from these datasets tend to be more localized in the frequency domain than in the time domain, which makes them easier to model in the former case. All our observations point towards impactful synergies between Fourier analysis and diffusion models.
• Abstract（参考訳）: フーリエ解析は信号処理の開発における道具である。 これにより、このフレームワークが同様に生成モデリングに有用かどうか疑問が持たれる。 本稿では,時系列拡散モデルの範囲を通してこの問題を考察する。 より具体的には、周波数領域における時系列表現がスコアに基づく拡散モデルにとって有用な帰納的バイアスであるか否かを分析する。 時間領域における拡散の標準sde定式化から始めると、二重拡散過程は重要なニュアンスを持つ周波数領域で起こることが示される:ブラウン運動は、我々がミラードブラウン運動と呼ぶ運動に置き換えられ、それらの成分間のミラー対称性によって特徴づけられる。 この知見に基づいて、周波数領域に拡散モデルを実装するために、デノナイジングスコアマッチングアプローチをどのように適応するかを示す。 これにより周波数拡散モデルが得られ、標準時間拡散モデルと比較する。 医療や金融といったさまざまな領域をカバーする実世界のデータセットに関する経験的評価から,時間拡散モデルよりも頻度拡散モデルの方がトレーニング分布を捉えやすいことが示された。 これらのデータセットからの時系列は、時間領域よりも周波数領域においてより局所化される傾向があり、前者の場合のモデル化がより容易であることを示す。 全ての観測はフーリエ解析と拡散モデルの間の衝撃的な相乗効果を示している。

関連論文リスト

• Convergence of Score-Based Discrete Diffusion Models: A Discrete-Time Analysis [56.442307356162864]
  連続時間マルコフ連鎖(CTMC)に基づくスコアベース離散拡散モデルの理論的側面について検討する。 本稿では,事前定義された時間点におけるスコア推定値を利用する離散時間サンプリングアルゴリズムを一般状態空間$[S]d$に導入する。 我々の収束解析はジルサノフ法を用いて離散スコア関数の重要な性質を確立する。
  論文  参考訳（メタデータ） (2024-10-03T09:07:13Z)
• Boosting Diffusion Models with Moving Average Sampling in Frequency Domain [101.43824674873508]
  拡散モデルは、現在のサンプルに頼って次のサンプルをノイズ化し、おそらく不安定化を引き起こす。 本稿では,反復的復調過程をモデル最適化として再解釈し,移動平均機構を利用して全ての先行サンプルをアンサンブルする。 周波数領域における平均サンプリング(MASF)の動作」という完全なアプローチを命名する。
  論文  参考訳（メタデータ） (2024-03-26T16:57:55Z)
• Diffusion-TS: Interpretable Diffusion for General Time Series Generation [6.639630994040322]
  Diffusion-TSは、高品質な時系列サンプルを生成する新しい拡散ベースのフレームワークである。 各拡散ステップのノイズの代わりにサンプルを直接再構成するようにモデルを訓練し、フーリエに基づく損失項を組み合わせた。 その結果,Diffusion-TSは時系列の様々な現実的解析において最先端の結果が得られることがわかった。
  論文  参考訳（メタデータ） (2024-03-04T05:39:23Z)
• Particle Denoising Diffusion Sampler [32.310922004771776]
  Particle Denoising Diffusion Sampler (PDDS) は、軽微な仮定の下で一貫した推定を提供する。 マルチモーダルおよび高次元サンプリングタスクにおけるPDDSの実証を行った。
  論文  参考訳（メタデータ） (2024-02-09T11:01:35Z)
• Guided Diffusion from Self-Supervised Diffusion Features [49.78673164423208]
  ガイダンスは拡散モデルにおいて重要な概念として機能するが、その効果は追加のデータアノテーションや事前学習の必要性によって制限されることが多い。 本稿では,拡散モデルからガイダンスを抽出するフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-12-14T11:19:11Z)
• To smooth a cloud or to pin it down: Guarantees and Insights on Score Matching in Denoising Diffusion Models [20.315727650065007]
  微分拡散モデル(Denoising diffusion model)は、最近多くの領域で最先端の結果を得た生成モデルのクラスである。 我々は、F"ollmer flow"に似た既知の接続を利用して、F"ollmer drift"の確立されたニューラルネットワーク近似結果を拡張し、拡散モデルとサンプリング器をデノナイズする。
  論文  参考訳（メタデータ） (2023-05-16T16:56:19Z)
• Denoising Diffusion Samplers [41.796349001299156]
  拡散モデルの認知は、多くの領域で最先端の結果を提供する生成モデルの一般的なクラスである。 我々は、非正規化確率密度関数から大まかにサンプリングし、それらの正規化定数を推定する類似のアイデアを探求する。 この文脈ではスコアマッチングは適用できないが、モンテカルロサンプリングのために生成的モデリングで導入された多くのアイデアを利用することができる。
  論文  参考訳（メタデータ） (2023-02-27T14:37:16Z)
• Diffusion Models in Vision: A Survey [80.82832715884597]
  拡散モデルは、前方拡散段階と逆拡散段階の2つの段階に基づく深層生成モデルである。 拡散モデルは、既知の計算負荷にもかかわらず、生成したサンプルの品質と多様性に対して広く評価されている。
  論文  参考訳（メタデータ） (2022-09-10T22:00:30Z)
• First Hitting Diffusion Models [19.19644194006565]
  First Hitting Diffusion Models (FHDM) は、ランダムな最初のヒット時間で終了する拡散プロセスでデータを生成する。 品質と速度の両面で、最先端のアプローチと比較して、かなりの改善が見られた。
  論文  参考訳（メタデータ） (2022-09-02T17:01:32Z)
• How Much is Enough? A Study on Diffusion Times in Score-based Generative Models [76.76860707897413]
  現在のベストプラクティスは、フォワードダイナミクスが既知の単純なノイズ分布に十分に近づくことを確実にするために大きなTを提唱している。 本稿では, 理想とシミュレーションされたフォワードダイナミクスのギャップを埋めるために補助モデルを用いて, 標準的な逆拡散過程を導出する方法について述べる。
  論文  参考訳（メタデータ） (2022-06-10T15:09:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。