論文の概要: Evolving Knowledge Mining for Class Incremental Segmentation
- arxiv url: http://arxiv.org/abs/2306.02027v2
- Date: Tue, 28 Nov 2023 06:34:14 GMT
- ステータス: 処理完了
- システム内更新日: 2023-12-01 03:49:42.628044
- Title: Evolving Knowledge Mining for Class Incremental Segmentation
- Title(参考訳): クラスインクリメンタルセグメンテーションのための知識マイニングの進化
- Authors: Zhihe Lu, Shuicheng Yan, Xinchao Wang
- Abstract要約: クラスインクリメンタルセマンティック(CISS)は、最近、現実世界のアプリケーションにおいて大きな重要性があるため、トレンドとなっている。
冷凍バックボーンを用いた新規なkNowleDgeマイニング法を提案する。
提案手法を2つの広く使用されているベンチマークで評価し,新しい最先端性能を一貫して示す。
- 参考スコア(独自算出の注目度): 113.59611699693092
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Class Incremental Semantic Segmentation (CISS) has been a trend recently due
to its great significance in real-world applications. Although the existing
CISS methods demonstrate remarkable performance, they either leverage the
high-level knowledge (feature) only while neglecting the rich and diverse
knowledge in the low-level features, leading to poor old knowledge preservation
and weak new knowledge exploration; or use multi-level features for knowledge
distillation by retraining a heavy backbone, which is computationally
intensive. In this paper, we for the first time investigate the efficient
multi-grained knowledge reuse for CISS, and propose a novel method, Evolving
kNowleDge minING (ENDING), employing a frozen backbone. ENDING incorporates two
key modules: evolving fusion and semantic enhancement, for dynamic and
comprehensive exploration of multi-grained knowledge. Evolving fusion is
tailored to extract knowledge from individual low-level feature using a
personalized lightweight network, which is generated from a meta-net, taking
the high-level feature as input. This design enables the evolution of knowledge
mining and fusing when applied to incremental new classes. In contrast,
semantic enhancement is specifically crafted to aggregate prototype-based
semantics from multi-level features, contributing to an enhanced
representation. We evaluate our method on two widely used benchmarks and
consistently demonstrate new state-of-the-art performance. The code is
available at https://github.com/zhiheLu/ENDING_ISS.
- Abstract(参考訳): クラスインクリメンタルセマンティックセマンティックセグメンテーション(CISS)は,近年,実世界のアプリケーションにおいて大きな意味を持つ傾向にある。
既存のCISS法は優れた性能を示すが、それらは低レベルの特徴において豊富な知識と多様な知識を無視しながらのみ高レベルの知識(機能)を活用し、古い知識の保存が貧弱で新しい知識探索が弱いか、あるいは重いバックボーンをトレーニングすることで知識の蒸留に多レベルの特徴を用いるかのどちらかである。
本稿では,CISSの効率的な多粒度知識再利用を初めて検討し,凍結したバックボーンを用いてkNowleDge mining(ENDING)を進化させる新しい手法を提案する。
ENDINGには、融合の進化と意味の強化という、2つの重要なモジュールが組み込まれている。
メタネットから生成されるパーソナライズされた軽量ネットワークを用いて、個々の低レベル特徴から知識を抽出し、高レベル特徴を入力とする。
この設計により、インクリメンタルな新しいクラスに適用されると、知識マイニングとfusingの進化が可能になる。
対照的に、セマンティックエンハンスメントは、多レベル特徴からプロトタイプベースのセマンティクスを集約するために特別に作られ、拡張表現に寄与する。
本手法を2つのベンチマークで評価し,最新の性能を一貫して実証する。
コードはhttps://github.com/zhihelu/ending_issで入手できる。
関連論文リスト
- Learning Prompt with Distribution-Based Feature Replay for Few-Shot
Class-Incremental Learning [58.4078444826737]
分散型特徴再現(LP-DiF)を用いた学習プロンプト(Learning Prompt)という,シンプルで効果的なフレームワークを提案する。
新しいセッションでは,学習可能なプロンプトが古い知識を忘れないようにするため,擬似機能的リプレイ手法を提案する。
新しいセッションに進むと、古いクラスのディストリビューションと現在のセッションのトレーニングイメージを組み合わせて擬似フィーチャーをサンプリングして、プロンプトを最適化する。
論文 参考訳(メタデータ) (2024-01-03T07:59:17Z) - MultIOD: Rehearsal-free Multihead Incremental Object Detector [19.371742300727913]
本研究では,CenterNetに基づくクラスインクリメンタルオブジェクト検出器であるMultIODを提案する。
われわれは,まず学習したクラスと漸進的に学習したクラスの間で伝達学習を採用し,破滅的な忘れに対処した。
その結果,本手法は2つのパスカルVOCデータセット上での最先端手法よりも優れていた。
論文 参考訳(メタデータ) (2023-09-11T09:32:45Z) - Recognizing Unseen Objects via Multimodal Intensive Knowledge Graph
Propagation [68.13453771001522]
画像の領域と対応するセマンティック埋め込みとをマッチングする多モード集中型ZSLフレームワークを提案する。
我々は、大規模な実世界のデータに基づいて、広範囲な実験を行い、そのモデルを評価する。
論文 参考訳(メタデータ) (2023-06-14T13:07:48Z) - Leveraging Old Knowledge to Continually Learn New Classes in Medical
Images [16.730335437094592]
我々は、破滅的なことを忘れずに新しいクラスを学ぶために、いかに古い知識を活用できるかに焦点を当てる。
我々のソリューションは、最先端のベースラインよりも、クラスの正確さと忘れやすさにおいて優れたパフォーマンスを達成することができる。
論文 参考訳(メタデータ) (2023-03-24T02:10:53Z) - SHELS: Exclusive Feature Sets for Novelty Detection and Continual
Learning Without Class Boundaries [22.04165296584446]
Sparse High-Exclusive, Low-level-Shared feature representation (SHELS)を導入する。
SHELSは、ハイレベルな特徴の排他的セットと、必須で共有された低レベルな特徴の学習を促進する。
新規性検出にSHELSを用いることで,最先端のOOD検出法よりも統計的に有意な改善が得られた。
論文 参考訳(メタデータ) (2022-06-28T03:09:55Z) - Energy-based Latent Aligner for Incremental Learning [83.0135278697976]
ディープラーニングモデルは、新しいタスクを漸進的に学習しながら、以前の知識を忘れる傾向があります。
この振る舞いは、新しいタスクに最適化されたパラメータ更新が、古いタスクに適したアップデートとうまく一致しない可能性があるため現れます。
ELI: インクリメンタルラーニングのためのエネルギーベースラテントアリグナーを提案する。
論文 参考訳(メタデータ) (2022-03-28T17:57:25Z) - Preserving Earlier Knowledge in Continual Learning with the Help of All
Previous Feature Extractors [63.21036904487014]
時間とともに新しい知識の継続的な学習は、インテリジェントシステムがより多くのオブジェクトのクラスを認識するのに望ましい能力の1つである。
これまでに学んだすべての特徴抽出器をインテリジェントモデルに組み込むことで、シンプルで効果的な融合メカニズムを提案します。
複数の分類タスクの実験により,提案手法は従来の知識の忘れを効果的に減らし,最先端の継続的学習性能を達成できることが示されている。
論文 参考訳(メタデータ) (2021-04-28T07:49:24Z) - DER: Dynamically Expandable Representation for Class Incremental
Learning [30.573653645134524]
適応型視覚知能の実現に向けた中核的なステップであるクラスインクリメンタル学習の課題に対処する。
より効果的なインクリメンタルな概念モデリングに動的に拡張可能な表現を利用する新しい2段階学習手法を提案する。
我々は,3種類のインクリメンタル学習ベンチマークを広範囲に実験し,その手法が他の手法よりも高いマージンを示した。
論文 参考訳(メタデータ) (2021-03-31T03:16:44Z) - Towards a Universal Continuous Knowledge Base [49.95342223987143]
複数のニューラルネットワークからインポートされた知識を格納できる継続的知識基盤を構築する方法を提案する。
テキスト分類実験は有望な結果を示す。
我々は複数のモデルから知識ベースに知識をインポートし、そこから融合した知識を単一のモデルにエクスポートする。
論文 参考訳(メタデータ) (2020-12-25T12:27:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。