論文の概要: ALIFE: Adaptive Logit Regularizer and Feature Replay for Incremental Semantic Segmentation

• arxiv url: http://arxiv.org/abs/2210.06816v1
• Date: Thu, 13 Oct 2022 07:58:00 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-14 16:16:32.538112
• Title: ALIFE: Adaptive Logit Regularizer and Feature Replay for Incremental Semantic Segmentation
• Title（参考訳）: ALIFE: 適応ロジト正規化とインクリメンタルセマンティックセグメンテーションのための特徴リプレイ
• Authors: Youngmin Oh, Donghyeon Baek, Bumsub Ham
• Abstract要約: 本研究では,学習対象を忘れることなく,新たなオブジェクト/スタッフカテゴリを継続的に認識するインクリメンタルセマンティックセマンティックセグメンテーション(ISS)の問題に対処する。 適応ロジット正規化器 (ALI) を導入し, モデルで新しいカテゴリをよりよく学習し, 従来のカテゴリの知識を維持した。 また,メモリ要求を大幅に低減するために,画像を直接ではなく特徴を記憶する機能リプレイ方式を提案する。
• 参考スコア（独自算出の注目度）: 27.758458873192208
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We address the problem of incremental semantic segmentation (ISS) recognizing novel object/stuff categories continually without forgetting previous ones that have been learned. The catastrophic forgetting problem is particularly severe in ISS, since pixel-level ground-truth labels are available only for the novel categories at training time. To address the problem, regularization-based methods exploit probability calibration techniques to learn semantic information from unlabeled pixels. While such techniques are effective, there is still a lack of theoretical understanding of them. Replay-based methods propose to memorize a small set of images for previous categories. They achieve state-of-the-art performance at the cost of large memory footprint. We propose in this paper a novel ISS method, dubbed ALIFE, that provides a better compromise between accuracy and efficiency. To this end, we first show an in-depth analysis on the calibration techniques to better understand the effects on ISS. Based on this, we then introduce an adaptive logit regularizer (ALI) that enables our model to better learn new categories, while retaining knowledge for previous ones. We also present a feature replay scheme that memorizes features, instead of images directly, in order to reduce memory requirements significantly. Since a feature extractor is changed continually, memorized features should also be updated at every incremental stage. To handle this, we introduce category-specific rotation matrices updating the features for each category separately. We demonstrate the effectiveness of our approach with extensive experiments on standard ISS benchmarks, and show that our method achieves a better trade-off in terms of accuracy and efficiency.
• Abstract（参考訳）: 本研究では,学習対象を忘れることなく,新たなオブジェクト/スタッフカテゴリを継続的に認識するインクリメンタルセマンティックセグメンテーション(ISS)の問題に対処する。 特にISSでは、ピクセルレベルのグランドトルースラベルがトレーニング時に新しいカテゴリでのみ利用できるため、破滅的な忘れの問題が深刻である。 この問題に対処するため、正規化に基づく手法は確率校正手法を用いてラベルなし画素から意味情報を学ぶ。 このような手法は有効であるが、理論的な理解が不足している。 リプレイベースの手法では、以前のカテゴリの小さなイメージセットを記憶する。 それらは大きなメモリフットプリントを犠牲にして最先端のパフォーマンスを達成する。 本稿では,新しいiss法であるalifeを提案し,その精度と効率の妥協性について述べる。 この目的のために、まず、ISSへの影響をよりよく理解するために、キャリブレーション技術について詳細な分析を行った。 これに基づいて適応ロジット正則化器(ali)を導入し,前者に対する知識を保ちつつ,モデルが新たなカテゴリをよりよく学習できるようにする。 また,メモリ要求を大幅に低減するために,画像を直接ではなく特徴を記憶する機能リプレイ方式を提案する。 特徴抽出器は継続的に変更されるため、インクリメンタルステージ毎に記憶された機能も更新する必要がある。 これに対処するために,各カテゴリの特徴を別々に更新するカテゴリ特異的回転行列を導入する。 提案手法の有効性を,標準ISSベンチマークでの広範囲な実験により実証し,精度と効率の両面で良好なトレードオフを実現することを示す。

関連論文リスト

• Looking for Tiny Defects via Forward-Backward Feature Transfer [12.442574943138794]
  そこで本研究では,従来の高解像度画像と地中トラスマスクの手法を評価する新しいベンチマークを提案する。 私たちのベンチマークには、欠陥サイズに関する堅牢性をキャプチャするメトリクスが含まれています。 提案手法は,欠陥サイズに対する高いロバスト性,高速動作,最先端セグメンテーション性能を特徴とする。
  論文  参考訳（メタデータ） (2024-07-04T17:59:26Z)
• Fine-Grained Knowledge Selection and Restoration for Non-Exemplar Class Incremental Learning [64.14254712331116]
  非典型的なクラスインクリメンタル学習は、過去のトレーニングデータにアクセスすることなく、新しいタスクと古いタスクの両方を学ぶことを目的としている。 本稿では, きめ細かい知識選択と復元のための新しい枠組みを提案する。
  論文  参考訳（メタデータ） (2023-12-20T02:34:11Z)
• Continual Diffusion with STAMINA: STack-And-Mask INcremental Adapters [67.28751868277611]
  近年の研究では、テキストから画像への拡散モデルを複数の微細な概念に逐次的にカスタマイズできることが示されている。 我々は、新しいタスクを学習する能力が、長いシーケンスで飽和に達することを示す。 本稿では,低ランクの注意マーク付きアダプタとカスタマイズトークンからなるSTAMINA(STack-And-Mask Incremental Adapters)を提案する。
  論文  参考訳（メタデータ） (2023-11-30T18:04:21Z)
• Adaptive Cross Batch Normalization for Metric Learning [75.91093210956116]
  メトリクス学習はコンピュータビジョンの基本的な問題である。 蓄積した埋め込みが最新であることを保証することは、同様に重要であることを示す。 特に、蓄積した埋め込みと現在のトレーニングイテレーションにおける特徴埋め込みとの間の表現的ドリフトを回避する必要がある。
  論文  参考訳（メタデータ） (2023-03-30T03:22:52Z)
• A Contrastive Distillation Approach for Incremental Semantic Segmentation in Aerial Images [15.75291664088815]
  現在のディープニューラルアーキテクチャに関する大きな問題は、破滅的な忘れこととして知られている。 我々は、任意の入力を拡張バージョンと比較する、対照的な正則化を提案する。 私たちは、Potsdamデータセットにおけるソリューションの有効性を示し、各テストにおけるインクリメンタルベースラインよりも優れています。
  論文  参考訳（メタデータ） (2021-12-07T16:44:45Z)
• Always Be Dreaming: A New Approach for Data-Free Class-Incremental Learning [73.24988226158497]
  データフリークラスインクリメンタルラーニング(DFCIL)における高インパクト問題について考察する。 そこで本研究では, 改良型クロスエントロピートレーニングと重要重み付き特徴蒸留に寄与するDFCILの新たなインクリメンタル蒸留戦略を提案する。 本手法は,共通クラスインクリメンタルベンチマークにおけるSOTA DFCIL法と比較して,最終タスク精度(絶対差)が25.1%向上する。
  論文  参考訳（メタデータ） (2021-06-17T17:56:08Z)
• Class-incremental Learning with Rectified Feature-Graph Preservation [24.098892115785066]
  本論文の中心的なテーマは,逐次的な段階を経る新しいクラスを学習することである。 旧知識保存のための重み付きユークリッド正規化を提案する。 新しいクラスを効果的に学習するために、クラス分離を増やすためにバイナリクロスエントロピーでどのように機能するかを示す。
  論文  参考訳（メタデータ） (2020-12-15T07:26:04Z)
• Prior Guided Feature Enrichment Network for Few-Shot Segmentation [64.91560451900125]
  最先端のセマンティックセグメンテーション手法は、良い結果を得るために十分なラベル付きデータを必要とする。 少数のラベル付きサポートサンプルを持つ新しいクラスに迅速に適応するモデルを学習することで,この問題に対処するためのショットセグメンテーションが提案されている。 これらのフレームワークは、高レベルのセマンティック情報の不適切な使用により、目に見えないクラスにおける一般化能力の低下という課題に直面している。
  論文  参考訳（メタデータ） (2020-08-04T10:41:32Z)
• Memory-Efficient Incremental Learning Through Feature Adaptation [71.1449769528535]
  本稿では,以前学習したクラスから,画像の特徴記述子を保存するインクリメンタルラーニングのアプローチを提案する。 画像のより低次元の機能埋め込みを維持することで、メモリフットプリントが大幅に削減される。 実験の結果,インクリメンタルラーニングベンチマークにおいて,最先端の分類精度が得られた。
  論文  参考訳（メタデータ） (2020-04-01T21:16:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。