論文の概要: HYperbolic Self-Paced Learning for Self-Supervised Skeleton-based Action
Representations
- arxiv url: http://arxiv.org/abs/2303.06242v1
- Date: Fri, 10 Mar 2023 23:22:41 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-14 20:14:59.999050
- Title: HYperbolic Self-Paced Learning for Self-Supervised Skeleton-based Action
Representations
- Title(参考訳): 自己教師付き骨格に基づく行動表現のための双曲的自己ペース学習
- Authors: Luca Franco, Paolo Mandica, Bharti Munjal, Fabio Galasso
- Abstract要約: 骨格に基づく行動表現を学習するためのハイペルボリック・セルフパスモデル(HYSP)を提案する。
HYSPは、データ拡張を使用して、同じサンプルの2つのビューを生成し、一方(オンラインと命名された)をもう一方(ターゲット)にマッチさせることで学習する。
- 参考スコア(独自算出の注目度): 4.870652964208548
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Self-paced learning has been beneficial for tasks where some initial
knowledge is available, such as weakly supervised learning and domain
adaptation, to select and order the training sample sequence, from easy to
complex. However its applicability remains unexplored in unsupervised learning,
whereby the knowledge of the task matures during training. We propose a novel
HYperbolic Self-Paced model (HYSP) for learning skeleton-based action
representations. HYSP adopts self-supervision: it uses data augmentations to
generate two views of the same sample, and it learns by matching one (named
online) to the other (the target). We propose to use hyperbolic uncertainty to
determine the algorithmic learning pace, under the assumption that less
uncertain samples should be more strongly driving the training, with a larger
weight and pace. Hyperbolic uncertainty is a by-product of the adopted
hyperbolic neural networks, it matures during training and it comes with no
extra cost, compared to the established Euclidean SSL framework counterparts.
When tested on three established skeleton-based action recognition datasets,
HYSP outperforms the state-of-the-art on PKU-MMD I, as well as on 2 out of 3
downstream tasks on NTU-60 and NTU-120. Additionally, HYSP only uses positive
pairs and bypasses therefore the complex and computationally-demanding mining
procedures required for the negatives in contrastive techniques. Code is
available at https://github.com/paolomandica/HYSP.
- Abstract(参考訳): 自己ペースト学習は、訓練サンプルシーケンスを簡単から複雑に選択・順序づけするために、弱い教師付き学習やドメイン適応など、いくつかの初期知識が利用できるタスクに有用である。
しかし、その適用性は教師なし学習では未解明のままであり、訓練中にタスクの知識が成熟する。
骨格に基づく行動表現を学習するためのハイペルボリック・セルフパスモデル(HYSP)を提案する。
HYSPはデータ拡張を使用して同じサンプルの2つのビューを生成し、一方(オンラインと命名された)をもう一方(ターゲット)にマッチさせることで学習する。
本稿では,アルゴリズム学習の速度を決定するために双曲的不確実性を用いることを提案する。
双曲的不確実性は、採用された双曲型ニューラルネットワークの副産物であり、トレーニング中に成熟し、確立されたユークリッドSSLフレームワークと比較して余分なコストがかからない。
3つの確立された骨格に基づく行動認識データセットでテストすると、HYSPはPKU-MMD Iの最先端、NTU-60とNTU-120の3つの下流タスクのうち2つで性能が向上する。
加えて、HYSPは正のペアとバイパスのみを使用するため、対照的な手法における負の処理に必要な複雑で計算的に要求されるマイニング手順を使用する。
コードはhttps://github.com/paolomandica/HYSPで入手できる。
関連論文リスト
- Towards Continual Learning Desiderata via HSIC-Bottleneck
Orthogonalization and Equiangular Embedding [55.107555305760954]
本稿では,レイヤワイドパラメータのオーバーライトや決定境界の歪みに起因する,概念的にシンプルで効果的な手法を提案する。
提案手法は,ゼロの指数バッファと1.02倍の差が絶対的に優れていても,競争精度が向上する。
論文 参考訳(メタデータ) (2024-01-17T09:01:29Z) - Skeleton2vec: A Self-supervised Learning Framework with Contextualized
Target Representations for Skeleton Sequence [56.092059713922744]
予測対象として高レベルな文脈化機能を使用することで,優れた性能が得られることを示す。
具体的には、シンプルで効率的な3D行動表現学習フレームワークであるSkeleton2vecを提案する。
提案するSkeleton2vecは,従来の手法より優れ,最先端の結果が得られる。
論文 参考訳(メタデータ) (2024-01-01T12:08:35Z) - Semi-Supervised Class-Agnostic Motion Prediction with Pseudo Label
Regeneration and BEVMix [59.55173022987071]
クラス非依存動作予測のための半教師あり学習の可能性について検討する。
我々のフレームワークは一貫性に基づく自己学習パラダイムを採用しており、ラベルのないデータからモデルを学習することができる。
本手法は,弱さと完全教師付き手法に匹敵する性能を示す。
論文 参考訳(メタデータ) (2023-12-13T09:32:50Z) - Complementary Learning Subnetworks for Parameter-Efficient
Class-Incremental Learning [40.13416912075668]
本稿では,2つの補完学習サブネットワークス間のシナジーを通じて連続的に学習するリハーサルフリーなCILアプローチを提案する。
提案手法は, 精度向上, メモリコスト, トレーニング効率, タスク順序など, 最先端手法と競合する結果が得られる。
論文 参考訳(メタデータ) (2023-06-21T01:43:25Z) - HaLP: Hallucinating Latent Positives for Skeleton-based Self-Supervised
Learning of Actions [69.14257241250046]
ラベルなしの骨格に基づく行動認識のためのモデル学習のための新しいコントラスト学習手法を提案する。
私たちの重要な貢献は、単純なモジュールであるHalucinate Latent Positivesのコントラスト学習へのHalucinate HaLPです。
実験を通して、標準のコントラスト学習フレームワーク内でこれらの生成した正を使用すれば、一貫した改善がもたらされることを示す。
論文 参考訳(メタデータ) (2023-04-01T21:09:43Z) - Temporal Feature Alignment in Contrastive Self-Supervised Learning for
Human Activity Recognition [2.2082422928825136]
自己教師付き学習は通常、ラベルのないデータから深い特徴表現を学習するために使用される。
本稿では,時間空間に動的時間ワープアルゴリズムを組み込んで,時間次元で特徴を整列させる手法を提案する。
提案されたアプローチは、最近のSSLベースラインと比較して、ロバストな特徴表現を学習する大きな可能性を秘めている。
論文 参考訳(メタデータ) (2022-10-07T07:51:01Z) - Self-Damaging Contrastive Learning [92.34124578823977]
ラベルのないデータは一般に不均衡であり、長い尾の分布を示す。
本稿では,クラスを知らずに表現学習を自動的にバランスをとるための,自己学習コントラスト学習という原則的枠組みを提案する。
実験の結果,SDCLRは全体としての精度だけでなく,バランス性も著しく向上することがわかった。
論文 参考訳(メタデータ) (2021-06-06T00:04:49Z) - STDP enhances learning by backpropagation in a spiking neural network [0.0]
提案手法は,少量のラベル付きデータを使用する場合,ラベル付けを加味せずに精度を向上する。
イベント駆動システムのための学習手法を提案することができる。
論文 参考訳(メタデータ) (2021-02-21T06:55:02Z) - AdaS: Adaptive Scheduling of Stochastic Gradients [50.80697760166045]
我々は、textit "knowledge gain" と textit "mapping condition" の概念を導入し、Adaptive Scheduling (AdaS) と呼ばれる新しいアルゴリズムを提案する。
実験によると、AdaSは派生した指標を用いて、既存の適応学習手法よりも高速な収束と優れた一般化、そして(b)いつトレーニングを中止するかを決定するための検証セットへの依存の欠如を示す。
論文 参考訳(メタデータ) (2020-06-11T16:36:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。