論文の概要: Improving Contrastive Learning on Visually Homogeneous Mars Rover Images
- arxiv url: http://arxiv.org/abs/2210.09234v1
- Date: Mon, 17 Oct 2022 16:26:56 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-18 16:28:43.425521
- Title: Improving Contrastive Learning on Visually Homogeneous Mars Rover Images
- Title(参考訳): 火星ローバー画像におけるコントラスト学習の改善
- Authors: Isaac Ronald Ward and Charles Moore and Kai Pak and Jingdao Chen and
Edwin Goh
- Abstract要約: 我々は、何十万もの未ラベルの火星地形画像に対して、対照的な学習が適用可能であることを示す。
対照的な学習は、任意の一対の異なる画像が異なる意味的内容を含んでいると仮定する。
1) 類似したセマンティックコンテンツを含む画像のクラスタを識別し,トレーニング中に偽陰性エラーを補正する,2) 異なる領域からのデータを混合して,トレーニングデータセット全体の視覚的多様性を高める,という,教師なしのディープクラスタリングステップを提案する。
- 参考スコア(独自算出の注目度): 3.206547922373737
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Contrastive learning has recently demonstrated superior performance to
supervised learning, despite requiring no training labels. We explore how
contrastive learning can be applied to hundreds of thousands of unlabeled Mars
terrain images, collected from the Mars rovers Curiosity and Perseverance, and
from the Mars Reconnaissance Orbiter. Such methods are appealing since the vast
majority of Mars images are unlabeled as manual annotation is labor intensive
and requires extensive domain knowledge. Contrastive learning, however, assumes
that any given pair of distinct images contain distinct semantic content. This
is an issue for Mars image datasets, as any two pairs of Mars images are far
more likely to be semantically similar due to the lack of visual diversity on
the planet's surface. Making the assumption that pairs of images will be in
visual contrast - when they are in fact not - results in pairs that are falsely
considered as negatives, impacting training performance. In this study, we
propose two approaches to resolve this: 1) an unsupervised deep clustering step
on the Mars datasets, which identifies clusters of images containing similar
semantic content and corrects false negative errors during training, and 2) a
simple approach which mixes data from different domains to increase visual
diversity of the total training dataset. Both cases reduce the rate of false
negative pairs, thus minimizing the rate in which the model is incorrectly
penalized during contrastive training. These modified approaches remain fully
unsupervised end-to-end. To evaluate their performance, we add a single linear
layer trained to generate class predictions based on these
contrastively-learned features and demonstrate increased performance compared
to supervised models; observing an improvement in classification accuracy of
3.06% using only 10% of the labeled data.
- Abstract(参考訳): コントラスト学習は、トレーニングラベルを必要としないにもかかわらず、教師あり学習よりも優れたパフォーマンスを示している。
我々は、マーズ・ローバーズ・キュリオシティとパーセナンスとマーズ・リコネッサンス・オービターから収集された数十万枚の未ラベル火星地形画像に対して、対照的な学習がいかに適用できるかを探求する。
手動アノテーションは労働集約的であり、広範囲のドメイン知識を必要とするため、火星画像の大多数はラベル付けされていないため、このような手法は魅力的である。
しかし、対照的な学習は、任意の一対の異なる画像は、異なる意味的内容を含むと仮定する。
これは火星の画像データセットにとって問題であり、2組の火星画像は、惑星の表面の視覚的多様性が欠如しているため、意味的に似ている可能性がずっと高い。
イメージのペアが視覚的コントラスト(実際にはそうでない場合)であると仮定すると、結果として負のペアが生まれ、トレーニングのパフォーマンスに影響を与えます。
本研究では,この問題を解決するための2つのアプローチを提案する。
1)marsデータセット上の教師なし深層クラスタリングステップは、類似のセマンティックコンテンツを含む画像のクラスタを識別し、トレーニング中に偽陰性エラーを訂正する。
2) トレーニングデータセット全体の視覚的多様性を高めるために、異なるドメインのデータを混合するシンプルなアプローチ。
どちらのケースも偽陰対の速度を減少させ、対照的なトレーニング中にモデルが誤ってペナル化される頻度を最小化する。
これらの修正されたアプローチは、完全に教師なしのエンドツーエンドのままである。
その性能を評価するために,これらの対比的に学習された特徴に基づいてクラス予測を生成するように訓練された単一の線形層を追加し,教師付きモデルと比較して性能が向上することを示す。
関連論文リスト
- Learning to Rank Patches for Unbiased Image Redundancy Reduction [80.93989115541966]
画像は、隣接する領域の画素が空間的に相関しているため、空間的冗長性に悩まされる。
既存のアプローチでは、意味の少ない画像領域を減らし、この制限を克服しようとしている。
本稿では,Learning to Rank Patchesと呼ばれる画像冗長性低減のための自己教師型フレームワークを提案する。
論文 参考訳(メタデータ) (2024-03-31T13:12:41Z) - SatSynth: Augmenting Image-Mask Pairs through Diffusion Models for Aerial Semantic Segmentation [69.42764583465508]
我々は,地球観測における注釈付きデータの不足に対処するために,生成的画像拡散の可能性を探る。
我々の知る限りでは、衛星セグメンテーションのための画像と対応するマスクの両方を最初に生成する。
論文 参考訳(メタデータ) (2024-03-25T10:30:22Z) - Semi-Supervised Learning for Mars Imagery Classification and
Segmentation [35.103989798891476]
火星における機械ビジョンのための半教師付きフレームワークについて紹介する。
分類とセグメンテーションという2つの特定の課題を解決しようと試みている。
我々の学習戦略は、分類とセグメンテーションモデルを大幅に改善し、最先端のアプローチより優れている。
論文 参考訳(メタデータ) (2022-06-05T13:55:10Z) - Mix-up Self-Supervised Learning for Contrast-agnostic Applications [33.807005669824136]
コントラストに依存しないアプリケーションのための,最初の混合型自己教師型学習フレームワークを提案する。
クロスドメイン・ミックスアップに基づく画像間の低分散に対処し、画像再構成と透明性予測に基づくプレテキストタスクを構築する。
論文 参考訳(メタデータ) (2022-04-02T16:58:36Z) - Mars Terrain Segmentation with Less Labels [1.1745324895296465]
本研究では,火星の地形区分に関する半教師付き学習フレームワークを提案する。
コントラスト損失関数と出力アトラス畳み込みモジュールを使ってトレーニングされるバックボーンモジュールが組み込まれている。
提案したモデルは161のトレーニング画像のみを用いて91.1%のセグメンテーション精度を達成することができる。
論文 参考訳(メタデータ) (2022-02-01T22:25:15Z) - Mixed Supervision Learning for Whole Slide Image Classification [88.31842052998319]
超高解像度画像のための混合監視学習フレームワークを提案する。
パッチトレーニングの段階では、このフレームワークは、粗いイメージレベルのラベルを使用して、自己教師付き学習を洗練することができる。
画素レベルの偽陽性と偽陰性を抑制するための包括的な戦略が提案されている。
論文 参考訳(メタデータ) (2021-07-02T09:46:06Z) - An Empirical Study of the Collapsing Problem in Semi-Supervised 2D Human
Pose Estimation [80.02124918255059]
半教師付き学習は、ラベルなし画像の探索によってモデルの精度を高めることを目的としている。
私たちは相互に教え合うために2つのネットワークを学びます。
各ネットワーク内の容易なイメージに関するより信頼性の高い予測は、他のネットワークに対応するハードイメージについて学ぶように教えるために使用される。
論文 参考訳(メタデータ) (2020-11-25T03:29:52Z) - Distilling Localization for Self-Supervised Representation Learning [82.79808902674282]
コントラスト学習は教師なし表現学習に革命をもたらした。
現在のコントラストモデルでは、前景オブジェクトのローカライズには効果がない。
本稿では,背景変化を学習するためのデータ駆動型手法を提案する。
論文 参考訳(メタデータ) (2020-04-14T16:29:42Z) - Un-Mix: Rethinking Image Mixtures for Unsupervised Visual Representation
Learning [108.999497144296]
近年の先進的な教師なし学習手法では,同じ画像から2つの「ビュー」を学習表現として比較するために,サイムズ様の枠組みを用いている。
この研究は、教師なし学習においてラベル空間上の距離の概念を巻き込み、正対と負対のソフトな類似度をモデルに認識させることを目的としている。
その概念的単純さにもかかわらず、この解 -- 教師なし画像混合(Un-Mix)により、変換された入力と対応する新しいラベル空間からより微妙でより堅牢で一般化された表現を学習できることを実証的に示す。
論文 参考訳(メタデータ) (2020-03-11T17:59:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。