論文の概要: Progressive Voronoi Diagram Subdivision: Towards A Holistic Geometric
Framework for Exemplar-free Class-Incremental Learning
- arxiv url: http://arxiv.org/abs/2207.14202v1
- Date: Thu, 28 Jul 2022 16:15:17 GMT
- ステータス: 処理完了
- システム内更新日: 2022-07-29 12:03:40.918039
- Title: Progressive Voronoi Diagram Subdivision: Towards A Holistic Geometric
Framework for Exemplar-free Class-Incremental Learning
- Title(参考訳): プログレッシブ・ボロノイ・ダイアグラム・サブディビジョン:初等中等教育のための全体幾何学的枠組みを目指して
- Authors: Chunwei Ma, Zhanghexuan Ji, Ziyun Huang, Yan Shen, Mingchen Gao and
Jinhui Xu
- Abstract要約: iVoro, Exemplar-free Class-incremental Learning (CIL) の総合的フレームワークを提案する。
宇宙分割の古典的なモデルであるボロノイ図 (VD) は、特にCIL問題を解くのに強力である。
iVoroは最大25.26%、37.09%、CIFAR-100、TinyImageNet、ImageNet-Subsetを33.21%改善した。
- 参考スコア(独自算出の注目度): 11.168788545776112
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Exemplar-free Class-incremental Learning (CIL) is a challenging problem
because rehearsing data from previous phases is strictly prohibited, causing
catastrophic forgetting of Deep Neural Networks (DNNs). In this paper, we
present iVoro, a holistic framework for CIL, derived from computational
geometry. We found Voronoi Diagram (VD), a classical model for space
subdivision, is especially powerful for solving the CIL problem, because VD
itself can be constructed favorably in an incremental manner -- the newly added
sites (classes) will only affect the proximate classes, making the
non-contiguous classes hardly forgettable. Further, in order to find a better
set of centers for VD construction, we colligate DNN with VD using Power
Diagram and show that the VD structure can be optimized by integrating local
DNN models using a divide-and-conquer algorithm. Moreover, our VD construction
is not restricted to the deep feature space, but is also applicable to multiple
intermediate feature spaces, promoting VD to be multi-centered VD (CIVD) that
efficiently captures multi-grained features from DNN. Importantly, iVoro is
also capable of handling uncertainty-aware test-time Voronoi cell assignment
and has exhibited high correlations between geometric uncertainty and
predictive accuracy (up to ~0.9). Putting everything together, iVoro achieves
up to 25.26%, 37.09%, and 33.21% improvements on CIFAR-100, TinyImageNet, and
ImageNet-Subset, respectively, compared to the state-of-the-art non-exemplar
CIL approaches. In conclusion, iVoro enables highly accurate,
privacy-preserving, and geometrically interpretable CIL that is particularly
useful when cross-phase data sharing is forbidden, e.g. in medical
applications. Our code is available at https://machunwei.github.io/ivoro.
- Abstract(参考訳): 先行フェーズからのデータリハーサルは厳格に禁止されており、Deep Neural Networks (DNN) の破滅的な忘れ込みを引き起こすため、CIL(Exemplar-free Class-incremental Learning)は難しい問題である。
本稿では,計算幾何学から派生したCILの総合的枠組みであるiVoroを提案する。
空間部分分割のための古典的なモデルであるvoronoi diagram (vd) はcil問題を解決する上で特に強力である。なぜなら、vd自体が漸進的に構築できるからである - 新しく追加されたサイト(クラス)は近位クラスにのみ影響し、非連続クラスは忘れられない。
さらに、より優れたVD構築中心を見つけるために、パワーダイアグラムを用いてDNNとVDを結合し、分割・対数アルゴリズムを用いて局所的なDNNモデルを統合することにより、VD構造が最適化可能であることを示す。
さらに,我々のVD構築は,深層特徴空間に限らず,複数の中間特徴空間にも適用可能であり,DNNから多粒度特徴を効率的に捕捉する多中心VD(CIVD)をVDに推奨する。
重要なことに、iVoroは不確実性を認識したテストタイムのヴォロノイ細胞割り当てを処理でき、幾何的不確実性と予測精度(最大0.9)の間に高い相関関係を示す。
全てをまとめると、iVoroはCIFAR-100、TinyImageNet、ImageNet-Subsetの25.26%、37.09%、33.21%の改善が達成される。
結論として、ivoroは、例えば医療アプリケーションにおいて、クロスフェーズデータ共有が禁止されている場合に特に有用である、高精度で、プライバシーを保護し、幾何学的に解釈可能なcilを可能にする。
私たちのコードはhttps://machunwei.github.io/ivoroで利用可能です。
関連論文リスト
- SODAWideNet++: Combining Attention and Convolutions for Salient Object Detection [3.2586315449885106]
本稿では,Salient Object Detectionのために設計されたSODAWideNet++と呼ばれる新しいエンコーダ・デコーダ型ニューラルネットワークを提案する。
視覚変換器が初期からグローバルな受容場を得る能力に触発されて、注意誘導長距離特徴抽出(AGLRFE)モジュールを導入する。
ImageNet事前トレーニングの現在のパラダイムとは対照的に、提案したモデルエンドツーエンドの事前トレーニングのためにアノテーションをバイナライズすることで、COCOセマンティックセグメンテーションデータセットから118Kの注釈付き画像を修正します。
論文 参考訳(メタデータ) (2024-08-29T15:51:06Z) - fVDB: A Deep-Learning Framework for Sparse, Large-Scale, and High-Performance Spatial Intelligence [50.417261057533786]
fVDBは、大規模な3Dデータのディープラーニングのための新しいフレームワークである。
私たちのフレームワークは、既存のパイプラインとの相互運用性を可能にするPyTorchと完全に統合されています。
論文 参考訳(メタデータ) (2024-07-01T20:20:33Z) - Split-and-Fit: Learning B-Reps via Structure-Aware Voronoi Partitioning [50.684254969269546]
本稿では,3次元CADモデルのバウンダリ表現(B-Reps)を取得する新しい手法を提案する。
各パーティション内に1つのプリミティブを導出するために空間分割を適用する。
我々のネットワークはニューラルなボロノイ図でNVD-Netと呼ばれ、訓練データからCADモデルのボロノイ分割を効果的に学習できることを示す。
論文 参考訳(メタデータ) (2024-06-07T21:07:49Z) - Visual Recognition with Deep Nearest Centroids [57.35144702563746]
我々は、概念的にエレガントで驚くほど効果的な大規模視覚認識ネットワークである深部セントロイド(DNC)を考案した。
パラメトリックと比較すると、DNCは画像分類(CIFAR-10, ImageNet)に優れ、画像認識(ADE20K, Cityscapes)を大いに起動する。
論文 参考訳(メタデータ) (2022-09-15T15:47:31Z) - DevNet: Self-supervised Monocular Depth Learning via Density Volume
Construction [51.96971077984869]
単眼画像からの自己教師付き深度学習は、通常、時間的に隣接する画像フレーム間の2Dピクセル単位の光度関係に依存する。
本研究は, 自己教師型単眼深度学習フレームワークであるDevNetを提案する。
論文 参考訳(メタデータ) (2022-09-14T00:08:44Z) - EVC-Net: Multi-scale V-Net with Conditional Random Fields for Brain
Extraction [3.4376560669160394]
EVC-Netは各エンコーダブロックに低スケール入力を追加する。
条件付きランダムフィールドは、ネットワークの出力を洗練するための追加ステップとしてここで再導入される。
その結果、限られたトレーニングリソースであっても、EVC-Netはより高いDice CoefficientとJaccard Indexを達成することがわかった。
論文 参考訳(メタデータ) (2022-06-06T18:21:21Z) - Few-shot Learning as Cluster-induced Voronoi Diagrams: A Geometric
Approach [12.382578792491747]
CIVD(Cluster-induced Voronoi Diagram)は、数ショット学習の精度と堅牢性を改善する。
CIVDベースのワークフローにより、mini-ImageNet、CUB、hered-ImagenNetデータセット上で、最先端の新たな結果が得られます。
論文 参考訳(メタデータ) (2022-02-05T02:52:06Z) - Exploring the Common Principal Subspace of Deep Features in Neural
Networks [50.37178960258464]
我々は、同じデータセットでトレーニングされた異なるディープニューラルネットワーク(DNN)が、潜在空間において共通の主部分空間を共有することを発見した。
具体的には、DNNで学んだ深い機能の主部分空間を表すために、$mathcalP$-vectorを新たに設計する。
異なるアルゴリズム/アーキテクチャで訓練された2つのDNNの比較では、小さな角度(コサインが1.0ドルに近い)が見つかっている。
論文 参考訳(メタデータ) (2021-10-06T15:48:32Z) - Implicit Functions in Feature Space for 3D Shape Reconstruction and
Completion [53.885984328273686]
Implicit Feature Networks (IF-Nets) は連続的な出力を提供し、複数のトポロジを扱える。
IF-NetsはShapeNetにおける3次元オブジェクト再構成における先行作業よりも明らかに優れており、より正確な3次元人間の再構成が得られる。
論文 参考訳(メタデータ) (2020-03-03T11:14:29Z) - Deep Convolutional Neural Networks with Spatial Regularization, Volume
and Star-shape Priori for Image Segmentation [6.282154392910916]
CNNの既存のネットワークアーキテクチャにおける分類機能は単純であり、重要な空間情報を扱う能力に欠ける。
我々は,多くの空間的先行情報をDCNNに簡単に統合できる,新しいソフト・スレッショルド・ダイナミクス(STD)フレームワークを提案する。
提案手法は一般的な数学的枠組みであり,どの意味的セグメンテーションDCNNにも適用可能である。
論文 参考訳(メタデータ) (2020-02-10T18:03:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。