論文の概要: Beyond Random Augmentations: Pretraining with Hard Views

• arxiv url: http://arxiv.org/abs/2310.03940v6
• Date: Thu, 06 Feb 2025 12:39:59 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-07 17:44:16.951443
• Title: Beyond Random Augmentations: Pretraining with Hard Views
• Title（参考訳）: Beyond Random Augmentations: ハードビューによる事前トレーニング
• Authors: Fabio Ferreira, Ivo Rapant, Jörg K. H. Franke, Frank Hutter,
• Abstract要約: SSL(Self-Supervised Learning)メソッドは、異なる変換にモデルを不変にするために、ランダムなイメージ拡張(ビュー)に依存する。 本稿では,SSLプリトレーニング中に,より困難なサンプルにモデルを公開することにより,ランダムなビュー生成を拡張する学習自由な戦略であるハードビュー事前学習(HVP)を提案する。 HVPはDINO ViT-B/16に新しい最先端技術を設定し、78.8%の線形評価精度(0.6%の改善)に達し、100と300の事前訓練で1%の利得を得た。
• 参考スコア（独自算出の注目度）: 40.88518237601708
• License:
• Abstract: Self-Supervised Learning (SSL) methods typically rely on random image augmentations, or views, to make models invariant to different transformations. We hypothesize that the efficacy of pretraining pipelines based on conventional random view sampling can be enhanced by explicitly selecting views that benefit the learning progress. A simple yet effective approach is to select hard views that yield a higher loss. In this paper, we propose Hard View Pretraining (HVP), a learning-free strategy that extends random view generation by exposing models to more challenging samples during SSL pretraining. HVP encompasses the following iterative steps: 1) randomly sample multiple views and forward each view through the pretrained model, 2) create pairs of two views and compute their loss, 3) adversarially select the pair yielding the highest loss according to the current model state, and 4) perform a backward pass with the selected pair. In contrast to existing hard view literature, we are the first to demonstrate hard view pretraining's effectiveness at scale, particularly training on the full ImageNet-1k dataset, and evaluating across multiple SSL methods, ConvNets, and ViTs. As a result, HVP sets a new state-of-the-art on DINO ViT-B/16, reaching 78.8% linear evaluation accuracy (a 0.6% improvement) and consistent gains of 1% for both 100 and 300 epoch pretraining, with similar improvements across transfer tasks in DINO, SimSiam, iBOT, and SimCLR.
• Abstract（参考訳）: SSL(Self-Supervised Learning)メソッドは通常、異なる変換にモデルを不変にするために、ランダムなイメージ拡張やビューに依存する。 従来のランダム・ビュー・サンプリングに基づく事前学習パイプラインの有効性は、学習の進歩に寄与するビューを明示的に選択することで向上できると仮定する。 シンプルだが効果的なアプローチは、高い損失をもたらすハードビューを選択することである。 本稿では,SSLプリトレーニング中により困難なサンプルにモデルを露出させることにより,ランダムなビュー生成を拡張する学習自由戦略であるHVPを提案する。 HVPは以下の反復的なステップを包含する。 1) ランダムに複数のビューをサンプリングし、事前訓練されたモデルを通して各ビューを前進させる。 2) 2つのビューのペアを作成し、損失を計算する。 3 現在のモデル状態に応じて最も損失率の高いペアを逆選択し、 4)選択したペアで後方通過を行う。 既存のハードビューの文献とは対照的に、特に完全なImageNet-1kデータセットでのトレーニングや、複数のSSLメソッド、ConvNets、ViTsに対する評価など、スケールでの事前トレーニングの有効性を初めて示す。 その結果、HVPはDINO ViT-B/16に新たな最先端技術を設定し、78.8%の線形評価精度(0.6%の改善)に達し、100と300のエポックプレトレーニングで1%、DINO、SimSiam、iBOT、SimCLRで同様の改善がなされた。

関連論文リスト

• EfficientTrain: Exploring Generalized Curriculum Learning for Training Visual Backbones [80.662250618795]
  本稿では視覚バックボーン(例えば視覚変換器)の効率的なトレーニングのための新しいカリキュラム学習手法を提案する。 オフザシェルフ方式として、様々な人気モデルのウォールタイムトレーニングコストを、精度を犠牲にすることなく、ImageNet-1K/22Kで1.5倍に削減する。
  論文  参考訳（メタデータ） (2022-11-17T17:38:55Z)
• Test-Time Prompt Tuning for Zero-Shot Generalization in Vision-Language Models [107.05966685291067]
  テスト時間プロンプトチューニング (TPT) を提案し, 適応的なプロンプトを1つのテストサンプルで学習する。 TPTはCLIPのゼロショットトップ1の精度を平均3.6%改善する。 クロスデータセットの一般化を目に見えないカテゴリで評価する際、PTは追加のトレーニングデータを使用する最先端のアプローチと同等に機能する。
  論文  参考訳（メタデータ） (2022-09-15T17:55:11Z)
• Virtual embeddings and self-consistency for self-supervised learning [43.086696088061416]
  TriMixは、線形データを通じて仮想埋め込みを生成する自己教師型学習の新しい概念である。 我々は,TriMixを2.71%,0.41%改善した8つのベンチマークデータセットで検証した。
  論文  参考訳（メタデータ） (2022-06-13T10:20:28Z)
• SPeCiaL: Self-Supervised Pretraining for Continual Learning [49.34919926042038]
  SPeCiaLは、継続学習に適した表現の教師なし事前学習方法である。 本研究では,SPeCiaLを連続的なFew-Shot学習環境において評価し,他の教師付き事前学習手法に適合または優れることを示す。
  論文  参考訳（メタデータ） (2021-06-16T18:15:15Z)
• Jigsaw Clustering for Unsupervised Visual Representation Learning [68.09280490213399]
  本稿では,新しいjigsawクラスタリング・プレテキストタスクを提案する。 本手法は画像内情報と画像間情報の両方を利用する。 トレーニングバッチの半分しか使用されていない場合、コントラスト学習方法にも匹敵します。
  論文  参考訳（メタデータ） (2021-04-01T08:09:26Z)
• Self-supervised Pre-training with Hard Examples Improves Visual Representations [110.23337264762512]
  自己教師付き事前学習(ssp)は、ランダムな画像変換を用いて視覚表現学習のためのトレーニングデータを生成する。 まず,既存のSSPメソッドを擬似ラベル予測学習として統合するモデリングフレームワークを提案する。 そこで本研究では,疑似ラベルの予測が難しい学習例をランダムな画像変換で生成するデータ拡張手法を提案する。
  論文  参考訳（メタデータ） (2020-12-25T02:44:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。