論文の概要: SATS: Self-Attention Transfer for Continual Semantic Segmentation

• arxiv url: http://arxiv.org/abs/2203.07667v1
• Date: Tue, 15 Mar 2022 06:09:28 GMT
• ステータス: 処理完了
• システム内更新日: 2022-03-17 06:33:48.391819
• Title: SATS: Self-Attention Transfer for Continual Semantic Segmentation
• Title（参考訳）: SATS:連続セマンティックセグメンテーションのための自己注意伝達
• Authors: Yiqiao Qiu, Yixing Shen, Zhuohao Sun, Yanchong Zheng, Xiaobin Chang, Weishi Zheng, and Ruixuan Wang
• Abstract要約: 連続的なセマンティックセグメンテーションは、連続的な分類学習と同じ破滅的な忘れの問題に悩まされる。 本研究では,各画像内の要素間の関係について,知識に関連する新しいタイプの情報伝達を提案する。 関係情報は、トランスフォーマースタイルのセグメンテーションモデルにおける自己アテンションマップから有効に得ることができる。
• 参考スコア（独自算出の注目度）: 50.51525791240729
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Continually learning to segment more and more types of image regions is a desired capability for many intelligent systems. However, such continual semantic segmentation suffers from the same catastrophic forgetting issue as in continual classification learning. While multiple knowledge distillation strategies originally for continual classification have been well adapted to continual semantic segmentation, they only consider transferring old knowledge based on the outputs from one or more layers of deep fully convolutional networks. Different from existing solutions, this study proposes to transfer a new type of information relevant to knowledge, i.e. the relationships between elements (Eg. pixels or small local regions) within each image which can capture both within-class and between-class knowledge. The relationship information can be effectively obtained from the self-attention maps in a Transformer-style segmentation model. Considering that pixels belonging to the same class in each image often share similar visual properties, a class-specific region pooling is applied to provide more efficient relationship information for knowledge transfer. Extensive evaluations on multiple public benchmarks support that the proposed self-attention transfer method can further effectively alleviate the catastrophic forgetting issue, and its flexible combination with one or more widely adopted strategies significantly outperforms state-of-the-art solu
• Abstract（参考訳）: 画像領域のセグメント化を継続的に学習することは、多くのインテリジェントシステムにとって望ましい能力である。 しかし、このような連続的なセマンティクスセグメンテーションは、連続的な分類学習と同じ破滅的な忘れ方の問題に苦しむ。 もともと連続的な分類のための複数の知識蒸留戦略は、連続的なセマンティックセグメンテーションにうまく適応しているが、彼らは1つ以上の完全な畳み込みネットワークの層からの出力に基づいて古い知識を移譲することを考える。 既存のソリューションとは違って,各画像内の要素(画素や小さな局所領域など)間の関係を,クラス内知識とクラス間知識の両方をキャプチャする,知識に関連する新しいタイプの情報転送を提案する。 関係情報は、トランスフォーマースタイルセグメンテーションモデルにおける自己注意マップから有効に得ることができる。 各画像内の同じクラスに属する画素が類似した視覚特性を持つことが多いことを考慮し、知識伝達のためのより効率的な関係情報を提供するために、クラス固有の領域プーリングを適用する。 複数の公開ベンチマークにおける広範な評価は、提案手法が壊滅的な放棄問題を効果的に緩和し、その柔軟な組み合わせと1つ以上の広く採用されている戦略が最先端soluを著しく上回っていることを裏付けている。

関連論文リスト

• A Classifier-Free Incremental Learning Framework for Scalable Medical Image Segmentation [6.591403935303867]
  本稿では,単一分類器のないネットワークにおいて,可変数のクラスをセグメント化できる新しいセグメンテーションパラダイムを提案する。 このネットワークは、コントラスト学習を用いて訓練され、簡単な解釈を容易にする識別的特徴表現を生成する。 統合ネットワーク内での様々なクラス数処理における本手法の柔軟性とその漸進学習能力について述べる。
  論文  参考訳（メタデータ） (2024-05-25T19:05:07Z)
• AF$_2$: Adaptive Focus Framework for Aerial Imagery Segmentation [86.44683367028914]
  航空画像のセグメンテーションにはいくつかの独特な課題があり、中でも最も重要なものは前景と背景のアンバランスにある。 本稿では,階層的なセグメンテーション手法を採用し,マルチスケール表現を適応的に活用するAdaptive Focus Framework (AF$)を提案する。 AF$は、広く使われている3つの航空ベンチマークの精度を大幅に改善した。
  論文  参考訳（メタデータ） (2022-02-18T10:14:45Z)
• Long-tail Recognition via Compositional Knowledge Transfer [60.03764547406601]
  末尾クラスの少数ショット問題に対処する長尾認識のための新しい戦略を導入する。 我々の目標は、情報に富んだ共通クラスから得られた知識を、意味的に類似しているがデータに富む稀なクラスに伝達することである。 実験結果から,本手法は稀なクラスにおいて,堅牢な共通クラス性能を維持しつつ,大幅な性能向上を達成できることが示唆された。
  論文  参考訳（メタデータ） (2021-12-13T15:48:59Z)
• A Contrastive Distillation Approach for Incremental Semantic Segmentation in Aerial Images [15.75291664088815]
  現在のディープニューラルアーキテクチャに関する大きな問題は、破滅的な忘れこととして知られている。 我々は、任意の入力を拡張バージョンと比較する、対照的な正則化を提案する。 私たちは、Potsdamデータセットにおけるソリューションの有効性を示し、各テストにおけるインクリメンタルベースラインよりも優れています。
  論文  参考訳（メタデータ） (2021-12-07T16:44:45Z)
• Context Decoupling Augmentation for Weakly Supervised Semantic Segmentation [53.49821324597837]
  微調整されたセマンティックセグメンテーションは、近年深く研究されている困難な問題です。 本稿では、オブジェクトが現れる固有のコンテキストを変更する Context Decoupling Augmentation (CDA) メソッドを紹介します。 提案手法の有効性を検証するため, PASCAL VOC 2012データセットにいくつかの代替ネットワークアーキテクチャを用いた広範な実験を行い, CDAが様々なWSSS手法を新たな最先端技術に拡張できることを実証した。
  論文  参考訳（メタデータ） (2021-03-02T15:05:09Z)
• Mining Cross-Image Semantics for Weakly Supervised Semantic Segmentation [128.03739769844736]
  2つのニューラルコアテンションを分類器に組み込んで、画像間のセマンティックな類似点と相違点をキャプチャする。 オブジェクトパターン学習の強化に加えて、コアテンションは他の関連する画像からのコンテキストを活用して、ローカライズマップの推論を改善することができる。 提案アルゴリズムは,これらすべての設定に対して新たな最先端性を設定し,その有効性と一般化性を示す。
  論文  参考訳（メタデータ） (2020-07-03T21:53:46Z)
• Weakly-Supervised Semantic Segmentation by Iterative Affinity Learning [86.45526827323954]
  弱教師付きセマンティックセグメンテーションは、トレーニングのためにピクセル単位のラベル情報が提供されないため、難しい課題である。 このようなペア関係を学習するための反復アルゴリズムを提案する。 本稿では,提案アルゴリズムが最先端手法に対して好適に動作することを示す。
  論文  参考訳（メタデータ） (2020-02-19T10:32:03Z)
• Continual Local Replacement for Few-shot Learning [13.956960291580938]
  少数ショット学習の目標は,1つないし少数のトレーニングデータに基づいて,新しいクラスを認識可能なモデルを学習することにある。 1)新しいクラスの優れた特徴表現が欠けていること、(2)ラベル付きデータの一部が真のデータ分布を正確に表現できないこと、である。 データ不足問題に対処するために,新たな局所的置換戦略を提案する。
  論文  参考訳（メタデータ） (2020-01-23T04:26:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。