論文の概要: End-to-End Supervised Multilabel Contrastive Learning

• arxiv url: http://arxiv.org/abs/2307.03967v1
• Date: Sat, 8 Jul 2023 12:46:57 GMT
• ステータス: 処理完了
• システム内更新日: 2023-07-11 16:18:57.045734
• Title: End-to-End Supervised Multilabel Contrastive Learning
• Title（参考訳）: エンド・ツー・エンドのマルチラベルコントラスト学習
• Authors: Ahmad Sajedi and Samir Khaki and Konstantinos N. Plataniotis and Mahdi S. Hosseini
• Abstract要約: マルチラベル表現学習は、オブジェクトカテゴリ間のラベル依存やデータ関連の問題に関連付けられる難しい問題として認識されている。 近年の進歩は、モデルとデータ中心の視点からこれらの課題に対処している。 KMCLと呼ばれる新しいエンドツーエンドのトレーニングフレームワークを提案し、モデルとデータ中心の設計の欠点に対処する。
• 参考スコア（独自算出の注目度）: 38.26579519598804
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Multilabel representation learning is recognized as a challenging problem that can be associated with either label dependencies between object categories or data-related issues such as the inherent imbalance of positive/negative samples. Recent advances address these challenges from model- and data-centric viewpoints. In model-centric, the label correlation is obtained by an external model designs (e.g., graph CNN) to incorporate an inductive bias for training. However, they fail to design an end-to-end training framework, leading to high computational complexity. On the contrary, in data-centric, the realistic nature of the dataset is considered for improving the classification while ignoring the label dependencies. In this paper, we propose a new end-to-end training framework -- dubbed KMCL (Kernel-based Mutlilabel Contrastive Learning) -- to address the shortcomings of both model- and data-centric designs. The KMCL first transforms the embedded features into a mixture of exponential kernels in Gaussian RKHS. It is then followed by encoding an objective loss that is comprised of (a) reconstruction loss to reconstruct kernel representation, (b) asymmetric classification loss to address the inherent imbalance problem, and (c) contrastive loss to capture label correlation. The KMCL models the uncertainty of the feature encoder while maintaining a low computational footprint. Extensive experiments are conducted on image classification tasks to showcase the consistent improvements of KMCL over the SOTA methods. PyTorch implementation is provided in \url{https://github.com/mahdihosseini/KMCL}.
• Abstract（参考訳）: マルチラベル表現学習は、オブジェクトカテゴリ間のラベル依存性や、プラス/ネガティブサンプルの固有の不均衡といったデータ関連の問題に関連付けられる難題として認識されている。 最近の進歩はモデルやデータ中心の視点からこれらの課題に対処している。 モデル中心では、ラベル相関は外部モデル設計(例えばグラフcnn)によって得られ、訓練のための帰納バイアスを組み込む。 しかし、エンドツーエンドのトレーニングフレームワークの設計に失敗し、計算の複雑さが高まった。 逆にデータ中心では、ラベル依存を無視しながら分類を改善するためにデータセットの現実的な性質が考慮される。 本稿では,モデル中心設計とデータ中心設計の両方の欠点に対処するために,新たなエンドツーエンドトレーニングフレームワークであるkmcl(kernel-based mutlilabel contrastive learning)を提案する。 KMCLはまず組み込み機能をガウス RKHS の指数核の混合に変換する。 その後、目的の損失を符号化する。 (a)カーネル表現の再構築のための再構築損失 b)固有の不均衡問題に対処する非対称な分類損失、及び (c)ラベル相関を捉えるための対比的損失。 KMCLは、低い計算フットプリントを維持しながら、特徴エンコーダの不確実性をモデル化する。 画像分類タスクにおいて,SOTA法よりも一貫したKMCLの改良を示す大規模な実験を行った。 PyTorchの実装は \url{https://github.com/mahdihosseini/KMCL} で提供されている。

関連論文リスト

• Covariance-corrected Whitening Alleviates Network Degeneration on Imbalanced Classification [6.197116272789107]
  クラス不均衡は画像分類において重要な問題であり、深層認識モデルの性能に大きな影響を及ぼす。 我々は、退化ソリューションを緩和するWhitening-Netと呼ばれる新しいフレームワークを提案する。 極端なクラス不均衡のシナリオでは、バッチ共分散統計は大きな変動を示し、白化操作の収束を妨げる。
  論文  参考訳（メタデータ） (2024-08-30T10:49:33Z)
• Revisiting the Disequilibrium Issues in Tackling Heart Disease Classification Tasks [5.834731599084117]
  心臓病の分類の分野では2つの主要な障害が生じる。 心電図(ECG)データセットは、様々なモードにおける不均衡とバイアスを一貫して示している。 信号符号化画像に対してチャネルワイド・マグニチュード等化器(CME)を提案する。 また、データ間の不均衡を軽減するために、逆重対数損失(IWL)を提案する。
  論文  参考訳（メタデータ） (2024-07-19T09:50:49Z)
• Robust Pseudo-label Learning with Neighbor Relation for Unsupervised Visible-Infrared Person Re-Identification [33.50249784731248]
  UVI-ReID (unsupervised Visible-Infrared Person Re-identification) は、視覚的および赤外線モダリティにまたがる歩行者像をアノテーションなしでマッチングすることを目的としている。 近年、擬似ラベル法はUSVI-ReIDにおいて主流となっているが、擬似ラベル法固有のノイズは大きな障害となる。 我々は,雑音の多い擬似ラベルを補正するRPNRフレームワークを設計する。 SYSU-MM01とRegDBの2つの広く知られているベンチマークで実施された総合的な実験は、RPNRが現在最先端のGURを平均で上回っていることを実証している。
  論文  参考訳（メタデータ） (2024-05-09T08:17:06Z)
• Noisy Correspondence Learning with Self-Reinforcing Errors Mitigation [63.180725016463974]
  クロスモーダル検索は、実際は精力的な、十分に整合した大規模データセットに依存している。 我々は、新しい雑音対応学習フレームワーク、textbfSelf-textbfReinforcing textbfErrors textbfMitigation(SREM)を導入する。
  論文  参考訳（メタデータ） (2023-12-27T09:03:43Z)
• ERASE: Error-Resilient Representation Learning on Graphs for Label Noise Tolerance [53.73316938815873]
  本稿では, ERASE (Error-Resilient representation learning on graphs for lAbel noiSe tolerancE) という手法を提案する。 ERASEは、プロトタイプの擬似ラベルとプロパゲーションされた識別ラベルを組み合わせて、表現をエラーレジリエンスで更新する。 提案手法は, 広い雑音レベルにおいて, 複数のベースラインをクリアマージンで上回り, 高いスケーラビリティを享受できる。
  論文  参考訳（メタデータ） (2023-12-13T17:59:07Z)
• Boosting Differentiable Causal Discovery via Adaptive Sample Reweighting [62.23057729112182]
  異なるスコアに基づく因果探索法は観測データから有向非巡回グラフを学習する。 本稿では,Reweighted Score関数ReScoreの適応重みを動的に学習することにより因果発見性能を向上させるためのモデルに依存しないフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-03-06T14:49:59Z)
• Incorporating Semi-Supervised and Positive-Unlabeled Learning for Boosting Full Reference Image Quality Assessment [73.61888777504377]
  フル参照(FR)画像品質評価(IQA)は、その知覚的差異をプリズム品質基準で測定することにより、歪み画像の視覚的品質を評価する。 ラベルなしデータは、画像劣化または復元プロセスから容易に収集することができ、ラベルなしのトレーニングデータを利用してFR-IQA性能を高めることを奨励する。 本稿では, 半教師付き, 正の未ラベル学習(PU)を用いて, ラベルなしデータを活用し, オフレーヤの悪影響を軽減することを提案する。
  論文  参考訳（メタデータ） (2022-04-19T09:10:06Z)
• Correct-N-Contrast: A Contrastive Approach for Improving Robustness to Spurious Correlations [59.24031936150582]
  豪華な相関関係は、堅牢な機械学習にとって大きな課題となる。 経験的リスク最小化(ERM)で訓練されたモデルは、クラスラベルとスプリアス属性の相関に依存することを学習することができる。 CNC(Correct-N-Contrast, Correct-N-Contrast)を提案する。
  論文  参考訳（メタデータ） (2022-03-03T05:03:28Z)
• Mind Your Clever Neighbours: Unsupervised Person Re-identification via Adaptive Clustering Relationship Modeling [19.532602887109668]
  教師なし人物再識別(Re-ID)は、教師付きRe-IDモデルのスケーラビリティ問題を解決する可能性から注目されている。 既存の教師なし手法の多くは反復的なクラスタリング機構を採用しており、教師なしクラスタリングによって生成された擬似ラベルに基づいてネットワークを訓練している。 高品質な擬似ラベルを生成し,クラスタリングエラーの影響を軽減するために,教師なしのRe-IDのための新しいクラスタリング関係モデリングフレームワークを提案する。
  論文  参考訳（メタデータ） (2021-12-03T10:55:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。