Fugu-MT 論文翻訳(概要): Beyond Random Augmentations: Pretraining with Hard Views

論文の概要: Beyond Random Augmentations: Pretraining with Hard Views

arxiv url: http://arxiv.org/abs/2310.03940v6
Date: Thu, 06 Feb 2025 12:39:59 GMT
ステータス: 翻訳完了
システム内更新日: 2025-02-14 15:44:16.001746
Title: Beyond Random Augmentations: Pretraining with Hard Views
Title（参考訳）: Beyond Random Augmentations: ハードビューによる事前トレーニング
Authors: Fabio Ferreira, Ivo Rapant, Jörg K. H. Franke, Frank Hutter,
Abstract要約: SSL(Self-Supervised Learning)メソッドは、異なる変換にモデルを不変にするために、ランダムなイメージ拡張(ビュー)に依存する。本稿では,SSLプリトレーニング中に,より困難なサンプルにモデルを公開することにより,ランダムなビュー生成を拡張する学習自由な戦略であるハードビュー事前学習(HVP)を提案する。 HVPはDINO ViT-B/16に新しい最先端技術を設定し、78.8%の線形評価精度(0.6%の改善)に達し、100と300の事前訓練で1%の利得を得た。
参考スコア（独自算出の注目度）: 40.88518237601708
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Self-Supervised Learning (SSL) methods typically rely on random image augmentations, or views, to make models invariant to different transformations. We hypothesize that the efficacy of pretraining pipelines based on conventional random view sampling can be enhanced by explicitly selecting views that benefit the learning progress. A simple yet effective approach is to select hard views that yield a higher loss. In this paper, we propose Hard View Pretraining (HVP), a learning-free strategy that extends random view generation by exposing models to more challenging samples during SSL pretraining. HVP encompasses the following iterative steps: 1) randomly sample multiple views and forward each view through the pretrained model, 2) create pairs of two views and compute their loss, 3) adversarially select the pair yielding the highest loss according to the current model state, and 4) perform a backward pass with the selected pair. In contrast to existing hard view literature, we are the first to demonstrate hard view pretraining's effectiveness at scale, particularly training on the full ImageNet-1k dataset, and evaluating across multiple SSL methods, ConvNets, and ViTs. As a result, HVP sets a new state-of-the-art on DINO ViT-B/16, reaching 78.8% linear evaluation accuracy (a 0.6% improvement) and consistent gains of 1% for both 100 and 300 epoch pretraining, with similar improvements across transfer tasks in DINO, SimSiam, iBOT, and SimCLR.
Abstract（参考訳）: SSL(Self-Supervised Learning)メソッドは通常、異なる変換にモデルを不変にするために、ランダムなイメージ拡張やビューに依存する。従来のランダム・ビュー・サンプリングに基づく事前学習パイプラインの有効性は、学習の進歩に寄与するビューを明示的に選択することで向上できると仮定する。シンプルだが効果的なアプローチは、高い損失をもたらすハードビューを選択することである。本稿では,SSLプリトレーニング中により困難なサンプルにモデルを露出させることにより,ランダムなビュー生成を拡張する学習自由戦略であるHVPを提案する。 HVPは以下の反復的なステップを包含する。 1) ランダムに複数のビューをサンプリングし、事前訓練されたモデルを通して各ビューを前進させる。 2) 2つのビューのペアを作成し、損失を計算する。 3 現在のモデル状態に応じて最も損失率の高いペアを逆選択し、 4)選択したペアで後方通過を行う。既存のハードビューの文献とは対照的に、特に完全なImageNet-1kデータセットでのトレーニングや、複数のSSLメソッド、ConvNets、ViTsに対する評価など、スケールでの事前トレーニングの有効性を初めて示す。その結果、HVPはDINO ViT-B/16に新たな最先端技術を設定し、78.8%の線形評価精度(0.6%の改善)に達し、100と300のエポックプレトレーニングで1%、DINO、SimSiam、iBOT、SimCLRで同様の改善がなされた。

関連論文リスト

Should VLMs be Pre-trained with Image Data? [54.50406730361859]
画像とテキストデータの混在による事前学習により、モデルが視覚言語タスクでより良いパフォーマンスを発揮できることがわかった。平均6つの多様なタスクにおいて、1Bモデルに対して、事前学習による視覚トークンの80%を導入すると、完全に事前訓練されたモデルに視覚トークンを導入するよりも平均2%改善されることがわかった。
論文参考訳（メタデータ） (2025-03-10T17:58:19Z)
Frequency-Guided Masking for Enhanced Vision Self-Supervised Learning [49.275450836604726]
本稿では、事前学習の有効性を大幅に向上させる、新しい周波数ベースの自己監視学習(SSL)手法を提案する。我々は、知識蒸留によって強化された2ブランチのフレームワークを使用し、モデルがフィルタされた画像と原画像の両方を入力として取り込むことを可能にする。
論文参考訳（メタデータ） (2024-09-16T15:10:07Z)
FSL-Rectifier: Rectify Outliers in Few-Shot Learning via Test-Time Augmentation [7.477118370563593]
FSL(Few-shot-learning)は通常、トレーニング中に目に見えないクラスに属する画像(クエリ)を識別するモデルを必要とする。生成画像コンバインダを用いて、原サンプルと適切な列車クラスサンプルを組み合わせることで、追加のテストクラスサンプルを生成する。我々は、平均化によってより典型的な表現をもたらす拡張子を介して平均化された特徴を得る。
論文参考訳（メタデータ） (2024-02-28T12:37:30Z)
EfficientTrain: Exploring Generalized Curriculum Learning for Training Visual Backbones [80.662250618795]
本稿では視覚バックボーン(例えば視覚変換器)の効率的なトレーニングのための新しいカリキュラム学習手法を提案する。オフザシェルフ方式として、様々な人気モデルのウォールタイムトレーニングコストを、精度を犠牲にすることなく、ImageNet-1K/22Kで1.5倍に削減する。
論文参考訳（メタデータ） (2022-11-17T17:38:55Z)
Virtual embeddings and self-consistency for self-supervised learning [43.086696088061416]
TriMixは、線形データを通じて仮想埋め込みを生成する自己教師型学習の新しい概念である。我々は,TriMixを2.71%,0.41%改善した8つのベンチマークデータセットで検証した。
論文参考訳（メタデータ） (2022-06-13T10:20:28Z)
SelectAugment: Hierarchical Deterministic Sample Selection for Data Augmentation [72.58308581812149]
そこで我々は,SelectAugmentと呼ばれる効果的な手法を提案し,決定論的かつオンラインに拡張するサンプルを選択する。具体的には、各バッチにおいて、まず増分比率を決定し、次にこの比で各トレーニングサンプルを増分するかを決定する。これにより、サンプルを増量する際のランダム性による負の効果を効果的に軽減し、DAの有効性を向上させることができる。
論文参考訳（メタデータ） (2021-12-06T08:38:38Z)
MixSiam: A Mixture-based Approach to Self-supervised Representation Learning [33.52892899982186]
近年,ラベルのないデータから視覚表現を学習する過程が顕著に進展している。従来のシアムネットワークに対する混合型アプローチであるMixSiamを提案する。
論文参考訳（メタデータ） (2021-11-04T08:12:47Z)
SPeCiaL: Self-Supervised Pretraining for Continual Learning [49.34919926042038]
SPeCiaLは、継続学習に適した表現の教師なし事前学習方法である。本研究では,SPeCiaLを連続的なFew-Shot学習環境において評価し,他の教師付き事前学習手法に適合または優れることを示す。
論文参考訳（メタデータ） (2021-06-16T18:15:15Z)
Jigsaw Clustering for Unsupervised Visual Representation Learning [68.09280490213399]
本稿では,新しいjigsawクラスタリング・プレテキストタスクを提案する。本手法は画像内情報と画像間情報の両方を利用する。トレーニングバッチの半分しか使用されていない場合、コントラスト学習方法にも匹敵します。
論文参考訳（メタデータ） (2021-04-01T08:09:26Z)
Self-supervised Pre-training with Hard Examples Improves Visual Representations [110.23337264762512]
自己教師付き事前学習(ssp)は、ランダムな画像変換を用いて視覚表現学習のためのトレーニングデータを生成する。まず,既存のSSPメソッドを擬似ラベル予測学習として統合するモデリングフレームワークを提案する。そこで本研究では,疑似ラベルの予測が難しい学習例をランダムな画像変換で生成するデータ拡張手法を提案する。
論文参考訳（メタデータ） (2020-12-25T02:44:22Z)
Unsupervised Learning of Visual Features by Contrasting Cluster Assignments [57.33699905852397]
ペア比較の計算を必要とせず,コントラスト的手法を生かしたオンラインアルゴリズムSwaVを提案する。本手法では,クラスタ割り当て間の一貫性を保ちながら,同時にデータをクラスタ化する。我々の方法は大規模で小さなバッチで訓練でき、無制限のデータにスケールできる。
論文参考訳（メタデータ） (2020-06-17T14:00:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。