Fugu-MT 論文翻訳(概要): Towards Robust Feature Learning with t-vFM Similarity for Continual Learning

論文の概要: Towards Robust Feature Learning with t-vFM Similarity for Continual Learning

arxiv url: http://arxiv.org/abs/2306.02335v1
Date: Sun, 4 Jun 2023 11:52:59 GMT
ステータス: 処理完了
システム内更新日: 2023-06-06 18:27:19.676562
Title: Towards Robust Feature Learning with t-vFM Similarity for Continual Learning
Title（参考訳）: 連続学習のためのt-vfm類似性を用いたロバストな特徴学習
Authors: Bilan Gao, YoungBin Kim
Abstract要約: 特徴学習の観点から、標準的な教師付きコントラスト損失を用いて連続学習を開発した。我々は、より堅牢な表現を学ぶために、教師付きコントラスト損失におけるコサイン類似性の代わりに、異なる類似度メトリックを使うことを提案する。
参考スコア（独自算出の注目度）: 7.028302194243311
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Continual learning has been developed using standard supervised contrastive loss from the perspective of feature learning. Due to the data imbalance during the training, there are still challenges in learning better representations. In this work, we suggest using a different similarity metric instead of cosine similarity in supervised contrastive loss in order to learn more robust representations. We validate the our method on one of the image classification datasets Seq-CIFAR-10 and the results outperform recent continual learning baselines.
Abstract（参考訳）: 特徴学習の観点から、標準的な教師付きコントラスト損失を用いて連続学習を開発した。トレーニング中のデータ不均衡のため、よりよい表現を学ぶ上ではまだ課題があります。本研究では,よりロバストな表現を学ぶために,教師付き対照損失におけるコサイン類似性の代わりに,異なる類似度メトリクスを使うことを提案する。本手法を画像分類データセットseq-cifar-10で検証し,最近の連続学習ベースラインを上回った。

関連論文リスト

Bayesian Learning-driven Prototypical Contrastive Loss for Class-Incremental Learning [42.14439854721613]
本稿では,クラス増分学習シナリオに特化して,ベイズ学習駆動型コントラスト損失(BLCL)を持つプロトタイプネットワークを提案する。提案手法は,ベイズ学習手法を用いて,クロスエントロピーとコントラスト損失関数のバランスを動的に適用する。
論文参考訳（メタデータ） (2024-05-17T19:49:02Z)
Continual Contrastive Spoken Language Understanding [33.09005399967931]
COCONUTは、経験リプレイとコントラスト学習の組み合わせに依存するクラスインクリメンタルラーニング(CIL)手法である。我々は,COCONUTをデコーダ側で動作するメソッドと組み合わせることで,さらなるメトリクス改善を実現することを示す。
論文参考訳（メタデータ） (2023-10-04T10:09:12Z)
PointACL:Adversarial Contrastive Learning for Robust Point Clouds Representation under Adversarial Attack [73.3371797787823]
逆比較学習(Adversarial contrastive learning, ACL)は、事前学習されたモデルの堅牢性を改善する効果的な方法と考えられている。本稿では,自己指導型コントラスト学習フレームワークを逆向きに学習するために,ロバストな認識損失関数を提案する。提案手法であるPointACLを,複数のデータセットを用いた3次元分類と3次元分割を含む下流タスクで検証する。
論文参考訳（メタデータ） (2022-09-14T22:58:31Z)
R\'enyiCL: Contrastive Representation Learning with Skew R\'enyi Divergence [78.15455360335925]
我々はR'enyiCLという新しい頑健なコントラスト学習手法を提案する。我々の手法は R'enyi divergence の変動的下界の上に構築されている。我々は,R'enyi の対照的な学習目的が,自然に強い負のサンプリングと簡単な正のサンプリングを同時に行うことを示す。
論文参考訳（メタデータ） (2022-08-12T13:37:05Z)
Improving Music Performance Assessment with Contrastive Learning [78.8942067357231]
本研究では,既存のMPAシステムを改善するための潜在的手法として,コントラスト学習について検討する。畳み込みニューラルネットワークに適用された回帰タスクに適した重み付きコントラスト損失を導入する。この結果から,MPA回帰タスクにおいて,コントラッシブ・ベースの手法がSoTA性能に適合し,超越できることが示唆された。
論文参考訳（メタデータ） (2021-08-03T19:24:25Z)
ReSSL: Relational Self-Supervised Learning with Weak Augmentation [68.47096022526927]
自己教師付き学習は、データアノテーションなしで視覚表現を学ぶことに成功しました。本稿では,異なるインスタンス間の関係をモデル化して表現を学習する新しいリレーショナルSSLパラダイムを提案する。提案したReSSLは,性能とトレーニング効率の両面で,従来の最先端アルゴリズムよりも大幅に優れています。
論文参考訳（メタデータ） (2021-07-20T06:53:07Z)
Co$^2$L: Contrastive Continual Learning [69.46643497220586]
近年の自己教師型学習のブレークスルーは、このようなアルゴリズムが視覚的な表現を学習し、見えないタスクにもっとうまく移行できることを示している。本稿では、連続的な学習と伝達可能な表現の維持に焦点を当てたリハーサルに基づく連続学習アルゴリズムを提案する。
論文参考訳（メタデータ） (2021-06-28T06:14:38Z)
Incremental False Negative Detection for Contrastive Learning [95.68120675114878]
本稿では,自己指導型コントラスト学習のための新たな偽陰性検出手法を提案する。対照的な学習では、検出された偽陰性を明示的に除去する2つの戦略について議論する。提案手法は,制限された計算内での複数のベンチマークにおいて,他の自己教師付きコントラスト学習フレームワークよりも優れる。
論文参考訳（メタデータ） (2021-06-07T15:29:14Z)
A Framework using Contrastive Learning for Classification with Noisy Labels [1.2891210250935146]
雑音ラベルの存在下で画像分類を行うために,コントラスト学習を事前学習タスクとして利用するフレームワークを提案する。擬似ラベル, ガウス混合モデルを用いたサンプル選択, 重み付き教師付きコントラスト学習などの近年の戦略は, 事前学習後の微調整相に組み合わされている。
論文参考訳（メタデータ） (2021-04-19T18:51:22Z)
Contrastive Learning based Hybrid Networks for Long-Tailed Image Classification [31.647639786095993]
画像表現の教師付きコントラスト損失と、分類器を学習するためのクロスエントロピー損失からなる新しいハイブリッドネットワーク構造を提案する。 3つの長尾分類データセットに関する実験は、長尾分類における比較学習に基づくハイブリッドネットワークの提案の利点を示している。
論文参考訳（メタデータ） (2021-03-26T05:22:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。