論文の概要: Decoupling Local and Global Representations of Time Series

• arxiv url: http://arxiv.org/abs/2202.02262v1
• Date: Fri, 4 Feb 2022 17:46:04 GMT
• ステータス: 処理完了
• システム内更新日: 2022-02-07 17:41:47.326136
• Title: Decoupling Local and Global Representations of Time Series
• Title（参考訳）: 時系列の局所表現とグローバル表現の分離
• Authors: Sana Tonekaboni, Chun-Liang Li, Sercan Arik, Anna Goldenberg, Tomas Pfister
• Abstract要約: 本稿では,時系列における大域的・局所的な変動要因の表現を学習するための新しい生成手法を提案する。 実験では,シミュレーションデータ上での真の局所的および大域的変動係数の回復を実証した。 表現を定義する方法の提案は、データモデリングに有用であり、実世界のデータの複雑さに関するより良い洞察をもたらすと信じています。
• 参考スコア（独自算出の注目度）: 38.73548222141307
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Real-world time series data are often generated from several sources of variation. Learning representations that capture the factors contributing to this variability enables a better understanding of the data via its underlying generative process and improves performance on downstream machine learning tasks. This paper proposes a novel generative approach for learning representations for the global and local factors of variation in time series. The local representation of each sample models non-stationarity over time with a stochastic process prior, and the global representation of the sample encodes the time-independent characteristics. To encourage decoupling between the representations, we introduce counterfactual regularization that minimizes the mutual information between the two variables. In experiments, we demonstrate successful recovery of the true local and global variability factors on simulated data, and show that representations learned using our method yield superior performance on downstream tasks on real-world datasets. We believe that the proposed way of defining representations is beneficial for data modelling and yields better insights into the complexity of real-world data.
• Abstract（参考訳）: 実世界の時系列データは、しばしばいくつかの変化源から生成される。 この可変性に寄与する要因を捉える学習表現は、基礎となる生成プロセスを通じてデータの理解を深め、下流の機械学習タスクのパフォーマンスを向上させる。 本稿では,時系列変動のグローバルおよび局所的要因の表現を学習するための新しい生成的手法を提案する。 各サンプルモデルの局所的な表現は、以前の確率過程で非定常であり、サンプルの全体的表現は時間に依存しない特性を符号化する。 表現間の疎結合を促進するため,両変数間の相互情報の最小化を図った反実正則化を導入する。 実験では,シミュレーションデータ上での真の局所的および大域的変動係数の回復に成功し,本手法を用いて学習した表現が実世界のデータセットにおけるダウンストリームタスクにおいて優れた性能をもたらすことを示す。 提案手法はデータモデリングに有用であり、実世界のデータの複雑さに対するより良い洞察をもたらすと信じている。

関連論文リスト

• Uniting contrastive and generative learning for event sequences models [51.547576949425604]
  本研究では,2つの自己指導型学習手法 – 例えば,コントラスト学習と,潜在空間におけるマスクイベントの復元に基づく生成的アプローチ – の統合について検討する。 いくつかの公開データセットで行った実験は、シーケンス分類と次点型予測に焦点を合わせ、統合された手法が個々の手法と比較して優れた性能を達成することを示した。
  論文  参考訳（メタデータ） (2024-08-19T13:47:17Z)
• Extracting Interpretable Local and Global Representations from Attention on Time Series [0.135975510645475]
  本稿では,局所的抽象化とグローバル表現を併用した2つのトランスフォーマーアテンションに基づく解釈可能性手法を提案する。 ローカルコンテキストとグローバルコンテキストを区別し、一般的な解釈オプションの両方に包括的なフレームワークを提供する。
  論文  参考訳（メタデータ） (2023-09-16T00:51:49Z)
• Federated Learning of Models Pre-Trained on Different Features with Consensus Graphs [19.130197923214123]
  プライベートデータセットと分散データセットで効果的なグローバルモデルを学ぶことは、機械学習においてますます重要な課題になりつつある。 本稿では,局所モデルから局所表現を抽出し,それらをグローバル表現に組み込んで予測性能を向上させる特徴融合手法を提案する。 本稿では,これらの問題に対する解決策を提示し,電力網や交通網などの時系列データを用いた実世界の応用例を示す。
  論文  参考訳（メタデータ） (2023-06-02T02:24:27Z)
• Leveraging sparse and shared feature activations for disentangled representation learning [112.22699167017471]
  本稿では,教師付きタスクの多種多様な集合から抽出した知識を活用し,共通不整合表現を学習することを提案する。 我々は6つの実世界分布シフトベンチマークと異なるデータモダリティに対するアプローチを検証する。
  論文  参考訳（メタデータ） (2023-04-17T01:33:24Z)
• Integrating Local Real Data with Global Gradient Prototypes for Classifier Re-Balancing in Federated Long-Tailed Learning [60.41501515192088]
  フェデレートラーニング(FL)は、グローバルモデルを協調的にトレーニングする複数のクライアントを含む、人気のある分散ラーニングパラダイムになっています。 データサンプルは通常、現実世界の長い尾の分布に従っており、分散化された長い尾のデータのFLは、貧弱なグローバルモデルをもたらす。 本研究では、局所的な実データとグローバルな勾配のプロトタイプを統合し、局所的なバランスの取れたデータセットを形成する。
  論文  参考訳（メタデータ） (2023-01-25T03:18:10Z)
• Self-Supervised Time Series Representation Learning via Cross Reconstruction Transformer [11.908755624411707]
  既存のアプローチは主に対照的な学習フレームワークを活用し、類似したデータペアと異なるデータペアを理解するために自動的に学習する。 本稿では、上記の問題を統一的に解くために、CRT(Cross Reconstruction Transformer)を提案する。 CRTはクロスドメインドロップ・リコンストラクションタスクを通じて時系列表現学習を実現する。
  論文  参考訳（メタデータ） (2022-05-20T02:15:14Z)
• Exploiting Shared Representations for Personalized Federated Learning [54.65133770989836]
  本稿では,クライアント間の共有データ表現と,クライアント毎のユニークなローカルヘッダを学習するための,新しいフェデレーション学習フレームワークとアルゴリズムを提案する。 提案アルゴリズムは, クライアント間の分散計算能力を利用して, 表現の更新毎に低次元の局所パラメータに対して, 多数の局所更新を行う。 この結果は、データ分布間の共有低次元表現を学習することを目的とした、幅広い種類の問題に対するフェデレーション学習以上の関心を持っている。
  論文  参考訳（メタデータ） (2021-02-14T05:36:25Z)
• On the Transfer of Disentangled Representations in Realistic Settings [44.367245337475445]
  1Mのシミュレーション画像と1,800以上の注釈付き実世界の画像を備えた新しい高解像度データセットを導入する。 本研究では,非交叉表現学習を現実的な高解像度設定に拡張するために,新しいアーキテクチャを提案する。
  論文  参考訳（メタデータ） (2020-10-27T16:15:24Z)
• Think Locally, Act Globally: Federated Learning with Local and Global Representations [92.68484710504666]
  フェデレートラーニング(Federated Learning)とは、複数のデバイスに分散したプライベートデータ上でモデルをトレーニングする手法である。 本稿では,各デバイス上でコンパクトな局所表現を共同で学習する新しいフェデレーション学習アルゴリズムを提案する。 また、プライバシが鍵となる実世界のモバイルデータから、パーソナライズされた気分予測のタスクを評価する。
  論文  参考訳（メタデータ） (2020-01-06T12:40:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。