論文の概要: A Contrastive Distillation Approach for Incremental Semantic Segmentation in Aerial Images

• arxiv url: http://arxiv.org/abs/2112.03814v1
• Date: Tue, 7 Dec 2021 16:44:45 GMT
• ステータス: 処理完了
• システム内更新日: 2021-12-08 15:20:54.309793
• Title: A Contrastive Distillation Approach for Incremental Semantic Segmentation in Aerial Images
• Title（参考訳）: 航空画像におけるインクリメンタルセマンティックセグメンテーションに対するコントラスト蒸留法
• Authors: Edoardo Arnaudo, Fabio Cermelli, Antonio Tavera, Claudio Rossi, Barbara Caputo
• Abstract要約: 現在のディープニューラルアーキテクチャに関する大きな問題は、破滅的な忘れこととして知られている。 我々は、任意の入力を拡張バージョンと比較する、対照的な正則化を提案する。 私たちは、Potsdamデータセットにおけるソリューションの有効性を示し、各テストにおけるインクリメンタルベースラインよりも優れています。
• 参考スコア（独自算出の注目度）: 15.75291664088815
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Incremental learning represents a crucial task in aerial image processing, especially given the limited availability of large-scale annotated datasets. A major issue concerning current deep neural architectures is known as catastrophic forgetting, namely the inability to faithfully maintain past knowledge once a new set of data is provided for retraining. Over the years, several techniques have been proposed to mitigate this problem for image classification and object detection. However, only recently the focus has shifted towards more complex downstream tasks such as instance or semantic segmentation. Starting from incremental-class learning for semantic segmentation tasks, our goal is to adapt this strategy to the aerial domain, exploiting a peculiar feature that differentiates it from natural images, namely the orientation. In addition to the standard knowledge distillation approach, we propose a contrastive regularization, where any given input is compared with its augmented version (i.e. flipping and rotations) in order to minimize the difference between the segmentation features produced by both inputs. We show the effectiveness of our solution on the Potsdam dataset, outperforming the incremental baseline in every test. Code available at: https://github.com/edornd/contrastive-distillation.
• Abstract（参考訳）: 増分学習は、特に大規模な注釈付きデータセットの可用性が限られているため、空中画像処理において重要な課題である。 現在のディープ・ニューラル・アーキテクチャに関する大きな問題は、破滅的な忘れこと、すなわち、新しいデータセットが再トレーニングのために提供されると、過去の知識を忠実に維持できないこととして知られている。 長年にわたり、画像分類と物体検出の問題を緩和するためのいくつかの技術が提案されてきた。 しかし最近になって、インスタンスやセマンティクスセグメンテーションのようなより複雑な下流タスクに焦点が移った。 セマンティックセグメンテーションタスクの漸進的なクラス学習から始まり、この戦略を航空領域に適応させることを目標とし、自然画像、すなわち向きを区別する特異な特徴を活用する。 標準知識蒸留法に加えて,任意の入力を拡張バージョン(すなわちフリップングと回転)と比較し,両入力が生成するセグメンテーション特性の違いを最小限に抑えるためのコントラスト正規化を提案する。 ポツダムデータセット上でのソリューションの有効性を示し,各テストにおけるインクリメンタルベースラインを上回った。 コードは、https://github.com/edornd/contrastive-distillation.comで公開されている。

関連論文リスト

• SatSynth: Augmenting Image-Mask Pairs through Diffusion Models for Aerial Semantic Segmentation [69.42764583465508]
  我々は,地球観測における注釈付きデータの不足に対処するために,生成的画像拡散の可能性を探る。 我々の知る限りでは、衛星セグメンテーションのための画像と対応するマスクの両方を最初に生成する。
  論文  参考訳（メタデータ） (2024-03-25T10:30:22Z)
• Cross-Level Distillation and Feature Denoising for Cross-Domain Few-Shot Classification [49.36348058247138]
  トレーニング段階において,対象領域内のラベルなし画像のごく一部をアクセス可能にすることで,ドメイン間数ショット分類の問題に対処する。 我々は,対象データセットのより識別的な特徴を抽出するモデルの能力を高めるため,クロスレベルな知識蒸留法を慎重に設計する。 提案手法は,従来の動的蒸留法を5.44%,1.37%,5ショット分類法を1.37%超えることができる。
  論文  参考訳（メタデータ） (2023-11-04T12:28:04Z)
• Few-shot Image Classification based on Gradual Machine Learning [6.935034849731568]
  少ないショット画像分類は、ラベル付きサンプルのみを使用してラベル付きイメージを正確に分類することを目的としている。 段階的機械学習(GML)の非i.dパラダイムに基づく新しいアプローチを提案する。 提案手法は精度でSOTAの性能を1-5%向上させることができることを示す。
  論文  参考訳（メタデータ） (2023-07-28T12:30:41Z)
• Uncertainty-aware Contrastive Distillation for Incremental Semantic Segmentation [46.14545656625703]
  破滅的な忘れ物とは、ニューラルネットワークが、新しいタスクを学ぶときに、古いタスクから得た知識を保存できない傾向があることです。 我々は新しい蒸留フレームワークである不確かさを意識したコントラスト蒸留法(メソッド)を提案する。 本研究は, 従来のIL法と相乗効果を持つ蒸留法の利点を実証するものである。
  論文  参考訳（メタデータ） (2022-03-26T15:32:12Z)
• SATS: Self-Attention Transfer for Continual Semantic Segmentation [50.51525791240729]
  連続的なセマンティックセグメンテーションは、連続的な分類学習と同じ破滅的な忘れの問題に悩まされる。 本研究では,各画像内の要素間の関係について,知識に関連する新しいタイプの情報伝達を提案する。 関係情報は、トランスフォーマースタイルのセグメンテーションモデルにおける自己アテンションマップから有効に得ることができる。
  論文  参考訳（メタデータ） (2022-03-15T06:09:28Z)
• Modeling the Background for Incremental and Weakly-Supervised Semantic Segmentation [39.025848280224785]
  セマンティックセグメンテーションのための新しい漸進的なクラス学習手法を提案する。 各トレーニングステップは、すべての可能なクラスのサブセットにのみアノテーションを提供するので、バックグラウンドクラスのピクセルはセマンティックシフトを示す。 本研究では,Pascal-VOC,ADE20K,Cityscapesのデータセットを広範囲に評価し,提案手法の有効性を実証する。
  論文  参考訳（メタデータ） (2022-01-31T16:33:21Z)
• A Simple Baseline for Semi-supervised Semantic Segmentation with Strong Data Augmentation [74.8791451327354]
  セマンティックセグメンテーションのためのシンプルで効果的な半教師付き学習フレームワークを提案する。 単純な設計とトレーニングのテクニックのセットは、半教師付きセマンティックセグメンテーションの性能を大幅に向上させることができる。 本手法は,Cityscapes と Pascal VOC データセットの半教師付き設定において,最先端の処理結果を実現する。
  論文  参考訳（メタデータ） (2021-04-15T06:01:39Z)
• A Few Guidelines for Incremental Few-Shot Segmentation [57.34237650765928]
  事前訓練されたセグメンテーションモデルと、新しいクラスを含む画像が少ないことを前提として、我々が目指すのは、以前に見たセグメンテーション能力を維持しながら、新しいクラスをセグメンテーションすることである。 このシナリオにおけるエンド・ツー・エンドのトレーニングの主な問題はどのようなものかを示します。 一 バッチ正規化統計を、バッチ正規化で修正できる新しいクラスへ向けての漂流すること。 二 旧クラスの忘れ物 正規化戦略で解決できるもの。
  論文  参考訳（メタデータ） (2020-11-30T20:45:56Z)
• Mining Cross-Image Semantics for Weakly Supervised Semantic Segmentation [128.03739769844736]
  2つのニューラルコアテンションを分類器に組み込んで、画像間のセマンティックな類似点と相違点をキャプチャする。 オブジェクトパターン学習の強化に加えて、コアテンションは他の関連する画像からのコンテキストを活用して、ローカライズマップの推論を改善することができる。 提案アルゴリズムは,これらすべての設定に対して新たな最先端性を設定し,その有効性と一般化性を示す。
  論文  参考訳（メタデータ） (2020-07-03T21:53:46Z)
• Modeling the Background for Incremental Learning in Semantic Segmentation [39.025848280224785]
  深いアーキテクチャは破滅的な忘れ方に弱い。 本稿では,意味的セグメンテーションの文脈においてこの問題に対処する。 本稿では,このシフトを明示的に考慮した蒸留法に基づく新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2020-02-03T13:30:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。