論文の概要: LEAVES: Learning Views for Time-Series Data in Contrastive Learning
- arxiv url: http://arxiv.org/abs/2210.07340v1
- Date: Thu, 13 Oct 2022 20:18:22 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-17 15:23:34.859773
- Title: LEAVES: Learning Views for Time-Series Data in Contrastive Learning
- Title(参考訳): LEAVES:コントラスト学習における時系列データの学習視点
- Authors: Han Yu, Huiyuan Yang, Akane Sano
- Abstract要約: 時系列データのための学習ビュー(LEAVES)という,対照的な学習における時系列データのビュー生成を自動化するモジュールを提案する。
提案手法は, 合理的な視点の探索に有効であり, ベースラインよりも下流タスクを効果的に行う。
- 参考スコア(独自算出の注目度): 16.84326709739788
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Contrastive learning, a self-supervised learning method that can learn
representations from unlabeled data, has been developed promisingly. Many
methods of contrastive learning depend on data augmentation techniques, which
generate different views from the original signal. However, tuning policies and
hyper-parameters for more effective data augmentation methods in contrastive
learning is often time and resource-consuming. Researchers have designed
approaches to automatically generate new views for some input signals,
especially on the image data. But the view-learning method is not well
developed for time-series data. In this work, we propose a simple but effective
module for automating view generation for time-series data in contrastive
learning, named learning views for time-series data (LEAVES). The proposed
module learns the hyper-parameters for augmentations using adversarial training
in contrastive learning. We validate the effectiveness of the proposed method
using multiple time-series datasets. The experiments demonstrate that the
proposed method is more effective in finding reasonable views and performs
downstream tasks better than the baselines, including manually tuned
augmentation-based contrastive learning methods and SOTA methods.
- Abstract(参考訳): ラベルのないデータから表現を学習できる自己教師あり学習法であるコントラスト学習が有望に開発されている。
コントラスト学習の多くの方法は、元の信号と異なる視点を生成するデータ拡張技術に依存している。
しかし、対照的な学習において、より効果的なデータ拡張手法のためのチューニングポリシーとハイパーパラメータは、しばしば時間とリソース消費である。
研究者は、特に画像データに基づいて、入力信号に対する新しいビューを自動的に生成するアプローチを設計した。
しかし、このビューラーニング手法は時系列データには適していない。
本研究では,時系列データに対する学習ビュー(LEAVES)という,時系列データに対するビュー生成の簡易かつ効果的なモジュールを提案する。
提案モジュールは,対向学習における対向学習を用いて,拡張のためのハイパーパラメータを学習する。
複数の時系列データセットを用いて提案手法の有効性を検証する。
提案手法は,手作業で調整した強化型コントラスト学習法やsoma法などのベースラインよりも,合理的なビューの探索や下流タスクの実行に有効であることを実証した。
関連論文リスト
- Parametric Augmentation for Time Series Contrastive Learning [33.47157775532995]
我々は、堅牢で差別的な表現を学習する上でモデルを支援するポジティブな例を作成します。
通常、プリセットされた人間の直観は、関連するデータ拡張の選択を指示する。
本稿では、時系列表現学習を支援するために適応的に使用できるパラメトリック拡張型学習フレームワークAutoTCLを提案する。
論文 参考訳(メタデータ) (2024-02-16T03:51:14Z) - Time Series Contrastive Learning with Information-Aware Augmentations [57.45139904366001]
コントラスト学習の鍵となる要素は、いくつかの先行を示唆する適切な拡張を選択して、実現可能な正のサンプルを構築することである。
対照的な学習タスクやデータセットに意味のある時系列データの増大をどうやって見つけるかは、未解決の問題である。
本稿では,時系列表現学習のための最適な拡張を適応的に選択する情報認識拡張を用いた新しいコントラスト学習手法であるInfoTSを提案する。
論文 参考訳(メタデータ) (2023-03-21T15:02:50Z) - Multi-Task Self-Supervised Time-Series Representation Learning [3.31490164885582]
時系列表現学習は、時間的ダイナミクスとスパースラベルを持つデータから表現を抽出することができる。
自己教師型タスクの利点を組み合わせた時系列表現学習手法を提案する。
本稿では,時系列分類,予測,異常検出という3つのダウンストリームタスクの枠組みについて検討する。
論文 参考訳(メタデータ) (2023-03-02T07:44:06Z) - Contrastive Learning with Boosted Memorization [36.957895270908324]
自己教師付き学習は、視覚的およびテキスト的データの表現学習において大きな成功を収めた。
近年の自己指導型長期学習の試行は、損失視点やモデル視点の再バランスによって行われる。
本稿では,ラベルを意識しないコンテキストにおける長期学習を強化するために,新しいBCL法を提案する。
論文 参考訳(メタデータ) (2022-05-25T11:54:22Z) - Adversarial Graph Contrastive Learning with Information Regularization [51.14695794459399]
コントラスト学習はグラフ表現学習において有効な方法である。
グラフ上のデータ拡張は、はるかに直感的ではなく、高品質のコントラスト的なサンプルを提供するのがずっと難しい。
逆グラフ比較学習(Adversarial Graph Contrastive Learning, ARIEL)を提案する。
さまざまな実世界のデータセット上でのノード分類タスクにおいて、現在のグラフのコントラスト学習方法よりも一貫して優れています。
論文 参考訳(メタデータ) (2022-02-14T05:54:48Z) - Contrastive Neural Processes for Self-Supervised Learning [1.8059331230167266]
コントラスト学習とニューラルプロセスを組み合わせた,新たな自己教師型学習フレームワークを提案する。
これは、時系列予測を実行するために、最近のニューラルネットワークプロセスの進歩に依存している。
従来の自己教師型手法とは異なり、拡張パイプラインはタスクに依存しないため、様々なアプリケーションでうまく機能する。
論文 参考訳(メタデータ) (2021-10-24T21:01:27Z) - Continual Contrastive Self-supervised Learning for Image Classification [10.070132585425938]
自己超越学習法は,大規模にラベル付けされたデータを持たない視覚表現に極めて有意な可能性を示す。
自己教師付き学習の視覚的表現を改善するには、より大きく、より多様なデータが必要である。
本稿では,リハーサル手法を提案することによって,連続的なコントラスト型自己教師型学習を実現するための最初の試みを行う。
論文 参考訳(メタデータ) (2021-07-05T03:53:42Z) - Few-Cost Salient Object Detection with Adversarial-Paced Learning [95.0220555274653]
本稿では,少数のトレーニング画像にのみ手動アノテーションを応用して,効果的なサルエント物体検出モデルを学習することを提案する。
我々は,このタスクを,少額の有能な物体検出とみなし,少数のコストの学習シナリオを促進するために,APL(Adversarialpaced Learning)ベースのフレームワークを提案する。
論文 参考訳(メタデータ) (2021-04-05T14:15:49Z) - Composable Augmentation Encoding for Video Representation Learning [94.2358972764708]
自己教師型ビデオ表現学習におけるコントラスト手法に着目した。
対照的な学習における一般的なパラダイムは、同じインスタンスで異なるデータビューをサンプリングし、異なるデータインスタンスを負として、ポジティブペアを構築することである。
そこで我々は,拡張パラメータの列を明示的に提供する,拡張対応型コントラスト学習フレームワークを提案する。
提案手法は,特定の空間的あるいは時間的拡張に関する情報をエンコードすると同時に,多数のビデオベンチマークで最先端のパフォーマンスを実現する。
論文 参考訳(メタデータ) (2021-04-01T16:48:53Z) - DEALIO: Data-Efficient Adversarial Learning for Imitation from
Observation [57.358212277226315]
観察ifoからの模倣学習において、学習エージェントは、実演者の生成した制御信号にアクセスせずに、実演行動の観察のみを用いて実演エージェントを模倣しようとする。
近年、逆模倣学習に基づく手法は、ifO問題に対する最先端のパフォーマンスをもたらすが、データ非効率でモデルなしの強化学習アルゴリズムに依存するため、サンプルの複雑さに悩まされることが多い。
この問題は、サンプルの収集が時間、エネルギー、およびリスクの面で高いコストを被る可能性がある現実世界の設定に展開することは非現実的です。
よりデータ効率の高いifOアルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-03-31T23:46:32Z) - Visualising Deep Network's Time-Series Representations [93.73198973454944]
機械学習モデルの普及にもかかわらず、多くの場合、モデルの内部で起きていることに関する洞察のないブラックボックスとして運用される。
本稿では,多次元時系列データの可視化に着目し,この問題に対処する手法を提案する。
高周波在庫市場データセットの実験は、この方法が迅速かつ識別可能な可視化を提供することを示しています。
論文 参考訳(メタデータ) (2021-03-12T09:53:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。