論文の概要: Masked Siamese Networks for Label-Efficient Learning
- arxiv url: http://arxiv.org/abs/2204.07141v1
- Date: Thu, 14 Apr 2022 17:54:13 GMT
- ステータス: 処理完了
- システム内更新日: 2022-04-15 12:58:29.306350
- Title: Masked Siamese Networks for Label-Efficient Learning
- Title（参考訳）: ラベル効率学習のためのマスクシームスネットワーク
- Authors: Mahmoud Assran, Mathilde Caron, Ishan Misra, Piotr Bojanowski, Florian
Bordes, Pascal Vincent, Armand Joulin, Michael Rabbat, Nicolas Ballas
- Abstract要約: Masked Siamese Networks (MSN) は画像表現を学習するための自己教師型学習フレームワークである。
我々のアプローチは、ランダムにマスクされたパッチを含む画像ビューの表現と、元の未マスク画像の表現とを一致させる。
- 参考スコア（独自算出の注目度）: 46.599966922656385
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We propose Masked Siamese Networks (MSN), a self-supervised learning
framework for learning image representations. Our approach matches the
representation of an image view containing randomly masked patches to the
representation of the original unmasked image. This self-supervised
pre-training strategy is particularly scalable when applied to Vision
Transformers since only the unmasked patches are processed by the network. As a
result, MSNs improve the scalability of joint-embedding architectures, while
producing representations of a high semantic level that perform competitively
on low-shot image classification. For instance, on ImageNet-1K, with only 5,000
annotated images, our base MSN model achieves 72.4% top-1 accuracy, and with 1%
of ImageNet-1K labels, we achieve 75.7% top-1 accuracy, setting a new
state-of-the-art for self-supervised learning on this benchmark. Our code is
publicly available.
- Abstract（参考訳）: 画像表現学習のための自己教師型学習フレームワークであるMasked Siamese Networks (MSN)を提案する。
本手法は、ランダムにマスクされたパッチを含む画像ビューの表現と、元の未マスク画像の表現とを一致させる。
この自己教師付き事前学習戦略は、マスクされていないパッチのみがネットワークで処理されるため、視覚トランスフォーマーに適用すると特にスケーラブルになる。
その結果、MSNは、ローショット画像分類において競争力のある高いセマンティックレベルの表現を生成しながら、共同埋め込みアーキテクチャのスケーラビリティを改善した。
例えば、imagenet-1kでは、わずか5000の注釈付き画像で、ベースとなるmsnモデルは72.4%のtop-1精度を達成し、imagenet-1kラベルの1%で75.7%のtop-1精度を達成し、このベンチマークで自己教師あり学習のための新しい最先端の設定をしました。
私たちのコードは公開されています。
関連論文リスト
- Improve Supervised Representation Learning with Masked Image Modeling [30.30649867772395]
マスク付き画像モデリングを既存の教師付きトレーニングパラダイムに簡単に統合できる,シンプルで効果的なセットアップを提案する。
アーキテクチャの変更は最小限であり、この設定が学習した表現の質を向上させることができるという仮定のオーバーヘッドはない。
論文 参考訳（メタデータ） (2023-12-01T22:03:25Z) - A Unified View of Masked Image Modeling [117.79456335844439]
マスク付き画像モデリングは、大規模な視覚変換器を訓練する際のラベル・ハングリーの問題を取り除く大きな可能性を示している。
マスク位置の教師モデルから正規化された意味的特徴を再構成する,MaskDistillと呼ばれるシンプルで効果的な手法を提案する。
画像分類とセマンティックセグメンテーションの実験結果から、MaskDistillは最先端の手法よりも同等または優れた性能を達成していることがわかった。
論文 参考訳（メタデータ） (2022-10-19T14:59:18Z) - BEiT v2: Masked Image Modeling with Vector-Quantized Visual Tokenizers [117.79456335844439]
マスク付き予測のための再構成ターゲットとして,セマンティックリッチなビジュアルトークン化器を提案する。
次に、マスクされた画像パッチに対する元の視覚トークンを予測して、視覚変換器を事前訓練する。
画像分類とセマンティックセグメンテーションの実験は、我々のアプローチがMIM法よりも優れていることを示している。
論文 参考訳（メタデータ） (2022-08-12T16:48:10Z) - Adversarial Masking for Self-Supervised Learning [81.25999058340997]
自己教師付き学習のためのマスク付き画像モデル(MIM)フレームワークであるADIOSを提案する。
対向目的物を用いてマスキング機能と画像エンコーダを同時に学習する。
さまざまなタスクやデータセットに対する最先端の自己教師付き学習(SSL)メソッドを一貫して改善する。
論文 参考訳（メタデータ） (2022-01-31T10:23:23Z) - SimMIM: A Simple Framework for Masked Image Modeling [29.015777125540613]
本稿では,マスク画像モデリングのためのシンプルなフレームワークであるSimについて述べる。
フレームワークの主要なコンポーネントについて検討し、各コンポーネントのシンプルな設計が、非常に強力な表現学習性能を示した。
また、このアプローチを利用して3Bモデルのトレーニングをしやすくし、従来の4つの代表的なビジョンベンチマークよりも40ドル安いデータで、最先端の4つのビジョンベンチマークを実現しています。
論文 参考訳（メタデータ） (2021-11-18T18:59:45Z) - Masked Autoencoders Are Scalable Vision Learners [60.97703494764904]
Masked Autoencoders (MAE) は、コンピュータビジョンのためのスケーラブルな自己教師型学習システムである。
我々は入力画像のランダムなパッチを隠蔽し、欠落したピクセルを再構成する。
これら2つの設計を結合することで,大規模モデルを効率的かつ効率的にトレーニングすることが可能になります。
論文 参考訳（メタデータ） (2021-11-11T18:46:40Z) - Seed the Views: Hierarchical Semantic Alignment for Contrastive
Representation Learning [116.91819311885166]
一つの画像から生成されたビューをtextbfCross-samples や Multi-level representation に拡張することで,階層的なセマンティックアライメント戦略を提案する。
提案手法はCsMlと呼ばれ,サンプル間の多層視覚表現を堅牢な方法で統合する機能を備えている。
論文 参考訳（メタデータ） (2020-12-04T17:26:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。