論文の概要: Neighborhood Consensus Contrastive Learning for Backward-Compatible Representation

• arxiv url: http://arxiv.org/abs/2108.03372v1
• Date: Sat, 7 Aug 2021 05:50:47 GMT
• ステータス: 処理完了
• システム内更新日: 2021-08-10 15:32:36.728404
• Title: Neighborhood Consensus Contrastive Learning for Backward-Compatible Representation
• Title（参考訳）: 後方対応型表現のための隣接コンセンサスコントラスト学習
• Authors: Shengsen Wu, Liang Chen, Yihang Lou, YanBai, Tao Bai, Minghua Deng, Lingyu Duan
• Abstract要約: 古い"機能と互換性のある"新しい"機能を可能にするために、後方互換性のある表現が提案されている。 本稿では,近隣のコンセンサス・コントラスト・ラーニング(NCCL)手法を提案する。 提案手法は,新しいモデルの精度を損なうことなく後方互換性を確保する。
• 参考スコア（独自算出の注目度）: 46.86784621137665
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In object re-identification (ReID), the development of deep learning techniques often involves model update and deployment. It is unbearable to re-extract image features of the large-scale gallery when deploying new models. Therefore, backward-compatible representation is proposed to enable the "new" features compatible with "old"' features, free from the re-extracting process. The existing backward-compatible methods simply conduct constraints in the embedding space or discriminative space and ignore the intra-class variance of the old embeddings, resulting in a risk of damaging the discriminability of new embeddings. In this work, we propose a Neighborhood Consensus Contrastive Learning (NCCL) method, which learns backward-compatible representation from a neighborhood consensus perspective with both embedding structures and discriminative knowledge. With NCCL, the new embeddings are aligned and improved with old embeddings in a multi-cluster view. Besides, we also propose a scheme to filter the old embeddings with low credibility, which can further improve the compatibility robustness. Our method ensures backward compatibility without impairing the accuracy of the new model. And it can even improve the new model's accuracy in most scenarios.
• Abstract（参考訳）: オブジェクト再識別(ReID)では、ディープラーニング技術の開発には、しばしばモデル更新とデプロイが含まれる。 新しいモデルをデプロイする場合、大規模なギャラリーの画像機能を再抽出することは耐えられない。 したがって、"古い"機能と互換性のある"新しい"機能を再抽出プロセスから解放するために、後方互換性のある表現を提案する。 既存の後方互換性のある手法は、単に埋め込み空間または識別空間の制約を実行し、古い埋め込みのクラス内分散を無視し、新しい埋め込みの識別可能性を傷つけるリスクをもたらす。 本研究では,埋め込み構造と判別的知識を併用した近所コンセンサス視点から下位互換表現を学習する,近所コンセンサスコントラストコントラストコントラスト学習(nccl)手法を提案する。 NCCLでは、新しい埋め込みが整列され、マルチクラスタビューの古い埋め込みによって改善される。 さらに,古い組込みを低信頼性でフィルタし,互換性の堅牢性をさらに向上させる手法を提案する。 提案手法は,新しいモデルの精度を損なうことなく後方互換性を確保する。 また、ほとんどのシナリオでは、新しいモデルの精度も改善できます。

関連論文リスト

• Backward-Compatible Aligned Representations via an Orthogonal Transformation Layer [20.96380700548786]
  画像検索システムは、古い表現と新しい表現のミスアライメントにより、表現が改善されたモデルを更新する際の課題に直面している。 以前の研究では、バックフィルなしで新しい表現と古い表現を直接比較できる後方互換性のあるトレーニング方法が検討されてきた。 本稿では、後方互換性と独立に訓練されたモデルの性能のバランスをとることに取り組む。
  論文  参考訳（メタデータ） (2024-08-16T15:05:28Z)
• PASS++: A Dual Bias Reduction Framework for Non-Exemplar Class-Incremental Learning [49.240408681098906]
  クラスインクリメンタルラーニング(CIL)は,旧クラスの識別性を維持しつつ,新たなクラスを段階的に認識することを目的としている。 既存のCILメソッドの多くは、例えば、古いデータの一部を格納して再トレーニングする例がある。 本稿では、入力空間における自己教師付き変換(SST)と深い特徴空間におけるプロトタイプ拡張(protoAug)を利用する、単純で斬新な二重バイアス低減フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-07-19T05:03:16Z)
• Expandable Subspace Ensemble for Pre-Trained Model-Based Class-Incremental Learning [65.57123249246358]
  PTMベースのCILのためのExpAndable Subspace Ensemble (EASE)を提案する。 タスク固有のサブスペースを作成することを目的として、新しいタスクごとに異なる軽量アダプタモジュールをトレーニングする。 我々のプロトタイプ補完戦略は、古いクラスのインスタンスを使わずに、古いクラスの新機能を合成します。
  論文  参考訳（メタデータ） (2024-03-18T17:58:13Z)
• CEAT: Continual Expansion and Absorption Transformer for Non-Exemplar Class-Incremental Learning [34.59310641291726]
  現実のアプリケーションでは、動的シナリオは、古い知識を忘れずに新しいタスクを継続的に学習する能力を持つ必要がある。 連続膨張吸収変圧器(CEAT)という新しいアーキテクチャを提案する。 このモデルは、凍結した前のパラメータと平行に拡散層を拡張することで、新しい知識を学ぶことができる。 モデルの学習能力を向上させるために,特徴空間における古クラスと新クラスの重複を低減するために,新しいプロトタイプを設計した。
  論文  参考訳（メタデータ） (2024-03-11T12:40:12Z)
• MixBCT: Towards Self-Adapting Backward-Compatible Training [66.52766344751635]
  そこで本研究では,単純かつ高効率な後方互換性学習法であるMixBCTを提案する。 大規模顔認識データセットMS1Mv3とIJB-Cについて実験を行った。
  論文  参考訳（メタデータ） (2023-08-14T05:55:38Z)
• Darwinian Model Upgrades: Model Evolving with Selective Compatibility [29.920204547961696]
  BCTは、バックフィルをなくすために後方互換性のあるモデルアップグレードに向けた第一歩を提示する。 本稿では,DMU(Darwinian Model Upgrades)を提案する。 DMUは、新しい劣化を効果的に軽減し、新しい互換性を改善し、大規模検索システムにおいてより適切なモデルアップグレードパラダイムを提供する。
  論文  参考訳（メタデータ） (2022-10-13T12:28:48Z)
• Forward Compatible Few-Shot Class-Incremental Learning [71.2459746681805]
  機械学習モデルは、古いクラスを忘れずに新しいクラスを認識するべきである。 現在の手法は漸進的な学習をふりかえりに扱う。 FSCILのためのForwArd Compatible Training (FACT)を提案する。
  論文  参考訳（メタデータ） (2022-03-14T09:36:35Z)
• Towards Backward-Compatible Representation Learning [86.39292571306395]
  異なる次元であっても,従来の計算機能と互換性のある視覚的特徴を学習する方法を提案する。 これにより、埋め込みモデルを更新する際に、以前見たすべての画像の新機能の計算を回避できる。 本稿では、後方互換表現学習の第一歩として、後方互換学習(BCT)と呼ばれる埋め込みモデルを訓練するためのフレームワークを提案する。
  論文  参考訳（メタデータ） (2020-03-26T14:34:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。