論文の概要: ANT: Adaptive Noise Schedule for Time Series Diffusion Models
- arxiv url: http://arxiv.org/abs/2410.14488v1
- Date: Fri, 18 Oct 2024 14:16:54 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-10-21 14:27:25.093402
- Title: ANT: Adaptive Noise Schedule for Time Series Diffusion Models
- Title(参考訳): ANT:時系列拡散モデルのための適応型ノイズスケジュール
- Authors: Seunghan Lee, Kibok Lee, Taeyoung Park,
- Abstract要約: 時系列拡散モデル(ANT)のための適応ノイズスケジュールを提案する。
非定常性を表す統計に基づいて、所定のTSデータセットの適切なノイズスケジュールを自動的に決定する。
我々は、様々なドメインのデータセットに基づいて、TS予測、精細化、生成を含む様々なタスクにまたがる手法を検証する。
- 参考スコア(独自算出の注目度): 5.752266579415516
- License:
- Abstract: Advances in diffusion models for generative artificial intelligence have recently propagated to the time series (TS) domain, demonstrating state-of-the-art performance on various tasks. However, prior works on TS diffusion models often borrow the framework of existing works proposed in other domains without considering the characteristics of TS data, leading to suboptimal performance. In this work, we propose Adaptive Noise schedule for Time series diffusion models (ANT), which automatically predetermines proper noise schedules for given TS datasets based on their statistics representing non-stationarity. Our intuition is that an optimal noise schedule should satisfy the following desiderata: 1) It linearly reduces the non-stationarity of TS data so that all diffusion steps are equally meaningful, 2) the data is corrupted to the random noise at the final step, and 3) the number of steps is sufficiently large. The proposed method is practical for use in that it eliminates the necessity of finding the optimal noise schedule with a small additional cost to compute the statistics for given datasets, which can be done offline before training. We validate the effectiveness of our method across various tasks, including TS forecasting, refinement, and generation, on datasets from diverse domains. Code is available at this repository: https://github.com/seunghan96/ANT.
- Abstract(参考訳): 生成人工知能のための拡散モデルの進歩は、最近時系列領域(TS)に伝播し、様々なタスクにおける最先端のパフォーマンスを実証している。
しかし、TS拡散モデルに関する先行研究は、TSデータの特徴を考慮せずに、他の領域で提案された既存の研究の枠組みを借用することが多く、最適以下の性能をもたらす。
本研究では,時間系列拡散モデル(ANT)の適応ノイズスケジュールを提案し,非定常性を表す統計に基づいて,所定のTSデータセットに対する適切なノイズスケジュールを自動的に決定する。
我々の直感では、最適なノイズスケジュールは以下のデシラタを満たすべきである。
1) TSデータの非定常性を線形に低減し、全ての拡散ステップが等しく意味を持つようにする。
2)データは最終段階のランダムノイズに劣化し、
3) ステップ数は十分に多い。
提案手法は,学習前にオフラインで行うことのできるデータセットの統計を計算するために,最小限のコストで最適なノイズスケジュールを見つける必要がなくなるため,実用的である。
様々な領域のデータセットに対して,TS予測,精細化,生成を含む様々なタスクにおいて,本手法の有効性を検証する。
コードは、このリポジトリで入手できる。
関連論文リスト
- Learning with Noisy Foundation Models [95.50968225050012]
本論文は、事前学習データセットにおけるノイズの性質を包括的に理解し分析する最初の研究である。
雑音の悪影響を緩和し、一般化を改善するため、特徴空間に適応するチューニング法(NMTune)を提案する。
論文 参考訳(メタデータ) (2024-03-11T16:22:41Z) - Diffusion Models With Learned Adaptive Noise [12.530583016267768]
画像間で異なる速度で雑音を印加する学習拡散過程を提案する。
MuLAN は CIFAR-10 と ImageNet の密度推定の最先端を新たに設定する。
論文 参考訳(メタデータ) (2023-12-20T18:00:16Z) - Predict, Refine, Synthesize: Self-Guiding Diffusion Models for
Probabilistic Time Series Forecasting [10.491628898499684]
時系列の非条件学習拡散モデルであるTSDiffを提案する。
提案する自己誘導機構により、補助的ネットワークやトレーニング手順の変更を必要とせず、推論中に下流タスクに対してTSDiffを条件付けることができる。
本研究では,予測,改良,合成データ生成という3つの時系列タスクにおいて,本手法の有効性を実証する。
論文 参考訳(メタデータ) (2023-07-21T10:56:36Z) - An Efficient Membership Inference Attack for the Diffusion Model by
Proximal Initialization [58.88327181933151]
本稿では,効率的なクエリベースのメンバシップ推論攻撃(MIA)を提案する。
実験結果から,提案手法は離散時間と連続時間の両方の拡散モデル上で,2つのクエリで競合性能を達成できることが示唆された。
我々の知る限り、本研究はテキスト音声タスクにおけるMIAへの拡散モデルのロバスト性について初めて研究するものである。
論文 参考訳(メタデータ) (2023-05-26T16:38:48Z) - Continuous-time convolutions model of event sequences [46.3471121117337]
イベントシーケンスは不均一でスパースであり、従来のモデルは不適当である。
我々は、時間とともに一様でない事象の発生を処理するために設計された効率的な畳み込みニューラルネットワークに基づくCOTICを提案する。
COTICは、次のイベント時間とタイプを予測する際に既存のモデルよりも優れており、最も近いライバルの3.714と比較して平均1.5のランクに達している。
論文 参考訳(メタデータ) (2023-02-13T10:34:51Z) - Generative Time Series Forecasting with Diffusion, Denoise, and
Disentanglement [51.55157852647306]
時系列予測は多くのアプリケーションにおいて非常に重要な課題である。
実世界の時系列データが短時間に記録されることが一般的であり、これはディープモデルと限られたノイズのある時系列との間に大きなギャップをもたらす。
本稿では,生成モデルを用いた時系列予測問題に対処し,拡散,雑音,ゆがみを備えた双方向変分自動エンコーダを提案する。
論文 参考訳(メタデータ) (2023-01-08T12:20:46Z) - Data-Driven Modeling of Noise Time Series with Convolutional Generative
Adversarial Networks [0.456877715768796]
データ駆動型モデリングにおけるGAN(Generative Adversarial Network)に対する近年の関心を考えると、GANがターゲットデータセットのノイズを忠実に再現できる範囲を決定することが重要である。
我々は,この問題を時系列に光を当てることを目的とした実証的研究を提示する。
GANは様々なノイズタイプを学習できるが、GANアーキテクチャがノイズのいくつかの側面に適していない場合、予測に苦戦する。
論文 参考訳(メタデータ) (2022-07-03T20:07:00Z) - The Optimal Noise in Noise-Contrastive Learning Is Not What You Think [80.07065346699005]
この仮定から逸脱すると、実際により良い統計的推定結果が得られることが示される。
特に、最適な雑音分布は、データと異なり、また、別の家族からさえも異なる。
論文 参考訳(メタデータ) (2022-03-02T13:59:20Z) - Voice2Series: Reprogramming Acoustic Models for Time Series
Classification [65.94154001167608]
Voice2Seriesは、時系列分類のための音響モデルをプログラムする新しいエンドツーエンドアプローチである。
V2Sは20のタスクで性能が優れるか、最先端のメソッドと結びついているかを示し、平均精度を1.84%向上させる。
論文 参考訳(メタデータ) (2021-06-17T07:59:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。