論文の概要: Divide and Contrast: Learning Robust Temporal Features without Augmentation

• arxiv url: http://arxiv.org/abs/2605.21241v1
• Date: Wed, 20 May 2026 14:31:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-21 19:19:56.724663
• Title: Divide and Contrast: Learning Robust Temporal Features without Augmentation
• Title（参考訳）: ディバイドとコントラスト: 拡張を伴わないロバストな時間的特徴を学習する
• Authors: Abdul-Kazeem Shamba, Kerstin Bach, Gavin Taylor,
• Abstract要約: Divide and Contrast(Di-COT)は、データ拡張とマルチエンコーダパスを回避する、教師なしのフレームワークである。 Di-COTは各ウィンドウを、イテレーション毎に少数の重なり合うサブブロックに分割し、効率的で意味のあるコントラストを可能にする。 6つの大規模な実世界のデータセットとUCRとUEAベンチマークの実験は、Di-COTが意味的に構造化され、転送可能な表現を学ぶことを実証している。
• 参考スコア（独自算出の注目度）: 4.7318594191739765
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Self-supervised learning for time-series representation aims to reduce reliance on labeled data while maintaining strong downstream performance, yet many existing approaches incur high computational costs or rely on assumptions that do not hold across diverse temporal dynamics. In this work, we introduce Divide and Contrast (Di-COT), an unsupervised framework that avoids data augmentation and multiple encoder passes by contrasting informative substructures within a window rather than individual timesteps. Di-COT stochastically partitions each window into a small number of overlapping sub-blocks per iteration, enabling efficient and meaningful contrast while mitigating false positives during temporal transitions. To further improve scalability, we adopt a contrastive objective whose computation depends on the batch size and the number of sub-blocks, making loss computation independent of sequence length. Extensive experiments on six large-scale real-world datasets, as well as the UCR and UEA benchmarks, demonstrate that Di-COT learns semantically structured and transferable representations, achieving state-of-the-art performance on classification, clustering, $k$NN, and cross-dataset transfer, while substantially reducing training time. The source code is publicly available at https://github.com/sfi-norwai/Di-COT.
• Abstract（参考訳）: 時系列表現のための自己教師付き学習は、強力なダウンストリーム性能を維持しながらラベル付きデータへの依存を減らすことを目的としているが、既存の多くのアプローチは高い計算コストを発生させている。 本研究では,個別のタイムステップではなく,ウィンドウ内の情報的サブ構造を対比することにより,データ拡張と多重エンコーダ通過を回避する,教師なしのフレームワークであるDivide and Contrast(Di-COT)を紹介する。 Di-COTは、各ウィンドウを、反復ごとに少数の重なり合うサブブロックに確率的に分割し、時間遷移中に偽陽性を緩和しながら、効率的で有意義なコントラストを可能にする。 拡張性をさらに向上するため,バッチサイズとサブブロック数に依存したコントラッシブな計算手法を採用し,損失計算をシーケンス長に依存しないものにした。 大規模な6つの実世界のデータセットとUCRとUEAベンチマークに関する大規模な実験は、Di-COTがセマンティックな構造化と転送可能な表現を学習し、分類、クラスタリング、$k$NN、データセット間の転送における最先端のパフォーマンスを達成し、トレーニング時間を大幅に短縮することを示した。 ソースコードはhttps://github.com/sfi-norwai/Di-COT.comで公開されている。

関連論文リスト

• Accelerate Speculative Decoding with Sparse Computation in Verification [49.74839681322316]
  投機的復号化は、複数のドラフトトークンを並列に検証することにより、自動回帰言語モデル推論を加速する。 既存のスペーシフィケーション方式は主にトークン・バイ・トーケンの自己回帰復号化のために設計されている。 そこで本研究では,注目度,FFN,MoEを両立させるスパース検証フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-12-26T07:53:41Z)
• Unsupervised Online 3D Instance Segmentation with Synthetic Sequences and Dynamic Loss [52.28880405119483]
  教師なしのオンライン3Dインスタンスのセグメンテーションは、基本的だが難しい課題だ。 UNITのような既存の手法はこの方向に進んできたが、訓練の多様性が制限されているままである。 本稿では,合成点雲列生成によるトレーニング分布の強化を目的とした新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-09-27T08:53:27Z)
• FreRA: A Frequency-Refined Augmentation for Contrastive Learning on Time Series Classification [56.925103708982164]
  周波数領域からの新たな視点を示し、ダウンストリーム分類の利点として、グローバル、独立、コンパクトの3つを識別する。 本稿では,分類タスクにおける時系列のコントラスト学習に適した,軽量で効果的な周波数補充拡張(FreRA)を提案する。 FreRAは、時系列分類、異常検出、転送学習タスクにおいて、常に10つの主要なベースラインを上回ります。
  論文  参考訳（メタデータ） (2025-05-29T07:18:28Z)
• STLight: a Fully Convolutional Approach for Efficient Predictive Learning by Spatio-Temporal joint Processing [6.872340834265972]
  チャネルワイドおよび深度ワイドの畳み込みを学習可能な層としてのみ依存する,S時間学習のための新しい方法STLightを提案する。 STLightは、空間次元と時間次元を並べ替えることで、従来の畳み込みアプローチの限界を克服する。 本アーキテクチャは,データセットや設定のSTLベンチマーク上での最先端性能を実現するとともに,パラメータや計算FLOPの計算効率を大幅に向上させる。
  論文  参考訳（メタデータ） (2024-11-15T13:53:19Z)
• Contrast All the Time: Learning Time Series Representation from Temporal Consistency [6.086030037869592]
  CaTTは時系列の教師なしコントラスト学習の新しいアプローチである。 時間的に類似したモーメント間のダイナミクスを、既存の方法よりも効率的に効果的に活用する。
  論文  参考訳（メタデータ） (2024-10-20T15:20:24Z)
• Distributed Stochastic Gradient Descent with Staleness: A Stochastic Delay Differential Equation Based Framework [56.82432591933544]
  分散勾配降下(SGD)は、計算リソースのスケーリング、トレーニング時間の短縮、マシンラーニングにおけるユーザのプライバシ保護の支援などにより、近年注目されている。 本稿では,遅延微分方程式(SDDE)と勾配到着の近似に基づく分散SGDの実行時間と安定化について述べる。 活性化作業員の増加は, 安定度による分散SGDを必ずしも加速させるものではないことが興味深い。
  論文  参考訳（メタデータ） (2024-06-17T02:56:55Z)
• Deep Ensembles Meets Quantile Regression: Uncertainty-aware Imputation for Time Series [45.76310830281876]
  量子回帰に基づくタスクネットワークのアンサンブルを用いて不確実性を推定する新しい手法であるQuantile Sub-Ensemblesを提案する。 提案手法は,高い損失率に頑健な高精度な計算法を生成するだけでなく,非生成モデルの高速な学習により,計算効率も向上する。
  論文  参考訳（メタデータ） (2023-12-03T05:52:30Z)
• Large Scale Time-Series Representation Learning via Simultaneous Low and High Frequency Feature Bootstrapping [7.0064929761691745]
  本稿では,非コントラスト型自己教師型学習手法を提案する。 提案手法は生の時系列データを入力として、モデルの2つのブランチに対して2つの異なる拡張ビューを生成する。 モデルの堅牢性を実証するために,5つの実世界の時系列データセットに関する広範な実験とアブレーション研究を行った。
  論文  参考訳（メタデータ） (2022-04-24T14:39:47Z)
• Time-Series Representation Learning via Temporal and Contextual Contrasting [14.688033556422337]
  時間・文脈コントラスト(TS-TCC)を用いた教師なし時系列表現学習フレームワークを提案する。 第一に、生の時系列データは、弱い、強い拡張を用いて、2つの異なる相関するビューに変換される。 第2に,厳密な横断的予測タスクを設計することにより,頑健な時間的表現を学習するための新しい時間的コントラストモジュールを提案する。 第三に、識別的表現をさらに学習するために、時間的コントラストモジュールからコンテキスト上に構築された文脈的コントラストモジュールを提案する。
  論文  参考訳（メタデータ） (2021-06-26T23:56:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。