論文の概要: Beyond Random Augmentations: Pretraining with Hard Views

• arxiv url: http://arxiv.org/abs/2310.03940v5
• Date: Mon, 27 May 2024 21:19:55 GMT
• ステータス: 処理完了
• システム内更新日: 2024-05-30 04:17:08.439197
• Title: Beyond Random Augmentations: Pretraining with Hard Views
• Title（参考訳）: Beyond Random Augmentations: ハードビューによる事前トレーニング
• Authors: Fabio Ferreira, Ivo Rapant, Jörg K. H. Franke, Frank Hutter,
• Abstract要約: Hard View Pretraining (HVP)は、SSL事前トレーニング中にモデルをより難しく、より困難なサンプルに公開する学習不要の戦略である。 HVPは、100と300のエポック事前学習において、ImageNetの平均で1%の線形評価精度の向上を実現している。
• 参考スコア（独自算出の注目度）: 40.88518237601708
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Many Self-Supervised Learning (SSL) methods aim for model invariance to different image augmentations known as views. To achieve this invariance, conventional approaches make use of random sampling operations within the image augmentation pipeline. We hypothesize that the efficacy of pretraining pipelines based on conventional random view sampling can be enhanced by explicitly selecting views that benefit the learning progress. A simple, yet effective approach is to select hard views that yield a higher loss. In this paper, we present Hard View Pretraining (HVP), a learning-free strategy that builds upon this hypothesis and extends random view generation. HVP exposes the model to harder, more challenging samples during SSL pretraining, which enhances downstream performance. It encompasses the following iterative steps: 1) randomly sample multiple views and forward each view through the pretrained model, 2) create pairs of two views and compute their loss, 3) adversarially select the pair yielding the highest loss depending on the current model state, and 4) run the backward pass with the selected pair. As a result, HVP achieves linear evaluation accuracy improvements of 1% on average on ImageNet for both 100 and 300 epoch pretraining and similar improvements on transfer tasks across DINO, SimSiam, iBOT, and SimCLR.
• Abstract（参考訳）: 多くの自己監視学習(SSL)メソッドは、ビューとして知られる様々な画像拡張に対するモデル不変性を目標としている。 この不変性を達成するために、従来の手法では画像拡張パイプライン内のランダムサンプリング操作を利用する。 従来のランダム・ビュー・サンプリングに基づく事前学習パイプラインの有効性は、学習の進歩に寄与するビューを明示的に選択することで向上できると仮定する。 シンプルで効果的なアプローチは、高い損失をもたらすハードビューを選択することです。 本稿では,この仮説に基づいてランダムなビュー生成を拡張する学習自由戦略であるHVPを提案する。 HVPはSSL事前トレーニング中にモデルをより難しく、より難しいサンプルに公開することで、下流のパフォーマンスが向上する。 以下の反復的なステップを包含する。 1) ランダムに複数のビューをサンプリングし、事前訓練されたモデルを通して各ビューを前進させる。 2) 2つのビューのペアを作成し、損失を計算する。 3) 現在のモデル状態に応じて、最も損失率の高いペアを逆選択し、 4) 選択したペアで後方パスを実行する。 その結果,DINO,SimSiam,iBOT,SimCLRにまたがる転送タスクにおいて,100および300のエポック事前学習と類似した改善を,ImageNet上で平均1%の線形評価精度で達成した。

関連論文リスト

• Frequency-Guided Masking for Enhanced Vision Self-Supervised Learning [49.275450836604726]
  本稿では、事前学習の有効性を大幅に向上させる、新しい周波数ベースの自己監視学習(SSL)手法を提案する。 我々は、知識蒸留によって強化された2ブランチのフレームワークを使用し、モデルがフィルタされた画像と原画像の両方を入力として取り込むことを可能にする。
  論文  参考訳（メタデータ） (2024-09-16T15:10:07Z)
• FSL-Rectifier: Rectify Outliers in Few-Shot Learning via Test-Time Augmentation [7.477118370563593]
  FSL(Few-shot-learning)は通常、トレーニング中に目に見えないクラスに属する画像(クエリ)を識別するモデルを必要とする。 生成画像コンバインダを用いて、原サンプルと適切な列車クラスサンプルを組み合わせることで、追加のテストクラスサンプルを生成する。 我々は、平均化によってより典型的な表現をもたらす拡張子を介して平均化された特徴を得る。
  論文  参考訳（メタデータ） (2024-02-28T12:37:30Z)
• SelectAugment: Hierarchical Deterministic Sample Selection for Data Augmentation [72.58308581812149]
  そこで我々は,SelectAugmentと呼ばれる効果的な手法を提案し,決定論的かつオンラインに拡張するサンプルを選択する。 具体的には、各バッチにおいて、まず増分比率を決定し、次にこの比で各トレーニングサンプルを増分するかを決定する。 これにより、サンプルを増量する際のランダム性による負の効果を効果的に軽減し、DAの有効性を向上させることができる。
  論文  参考訳（メタデータ） (2021-12-06T08:38:38Z)
• MixSiam: A Mixture-based Approach to Self-supervised Representation Learning [33.52892899982186]
  近年,ラベルのないデータから視覚表現を学習する過程が顕著に進展している。 従来のシアムネットワークに対する混合型アプローチであるMixSiamを提案する。
  論文  参考訳（メタデータ） (2021-11-04T08:12:47Z)
• SPeCiaL: Self-Supervised Pretraining for Continual Learning [49.34919926042038]
  SPeCiaLは、継続学習に適した表現の教師なし事前学習方法である。 本研究では,SPeCiaLを連続的なFew-Shot学習環境において評価し,他の教師付き事前学習手法に適合または優れることを示す。
  論文  参考訳（メタデータ） (2021-06-16T18:15:15Z)
• Self-supervised Pre-training with Hard Examples Improves Visual Representations [110.23337264762512]
  自己教師付き事前学習(ssp)は、ランダムな画像変換を用いて視覚表現学習のためのトレーニングデータを生成する。 まず,既存のSSPメソッドを擬似ラベル予測学習として統合するモデリングフレームワークを提案する。 そこで本研究では,疑似ラベルの予測が難しい学習例をランダムな画像変換で生成するデータ拡張手法を提案する。
  論文  参考訳（メタデータ） (2020-12-25T02:44:22Z)
• Unsupervised Learning of Visual Features by Contrasting Cluster Assignments [57.33699905852397]
  ペア比較の計算を必要とせず,コントラスト的手法を生かしたオンラインアルゴリズムSwaVを提案する。 本手法では,クラスタ割り当て間の一貫性を保ちながら,同時にデータをクラスタ化する。 我々の方法は大規模で小さなバッチで訓練でき、無制限のデータにスケールできる。
  論文  参考訳（メタデータ） (2020-06-17T14:00:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。