論文の概要: Unsupervised Continual Learning with Growing Self-Organizing Maps and Synthetic Replay
- arxiv url: http://arxiv.org/abs/2608.27662v1
- Date: Thu, 27 Aug 2026 19:48:44 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-31 17:16:04.136923
- Title: Unsupervised Continual Learning with Growing Self-Organizing Maps and Synthetic Replay
- Title(参考訳): 自己組織化マップと合成再生による教師なし連続学習
- Abstract要約: 本研究では,クラス増分学習のための自己組織化マップ(GSOM)とエンコーダデコーダモデルに基づく生成連続学習フレームワークを提案する。
提案手法により,分布統計メモリを用いた非定型再生が可能となり,生データを格納する必要がなくなる。
複数のベンチマークの結果から,提案手法は教師付きメモリベース手法であっても性能の競争力を発揮することが示された。
- 参考スコア(独自算出の注目度): 47.020758735910306
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: This work presents a generative continual learning framework based on growing self-organizing maps (GSOMs) that are augmented with learned distributional statistics as well as encoder-decoder models for class-incremental learning. The proposed approach enables exemplar-free replay using distributional statistical memory, which eliminates the need to store raw data. Each GSOM unit maintains its own mean, variance, and covariance estimates, which are subsequently used to generate synthetic samples for replay; in encoder-decoder configurations, these samples are then decoded back into the input space (via ancestral sampling) for subsequent training. Our method is fully unsupervised, as it does not rely on explicit task boundaries or class labels during training. Results across multiple benchmarks show that the proposed approach achieves performance competitive even with supervised state-of-the-art memory-based methods while consistently outperforming memory-free approaches. In several settings, our framework matches or exceeds existing baselines, particularly in challenging single-class incremental scenarios. We also provide baseline results for single-class incremental TinyImageNet and MiniImageNet, offering a useful reference for future work. This work highlights the effectiveness of an unsupervised, adaptive, topology-driven neural form of statistical replay as a scalable, flexible approach to continual learning.
- Abstract(参考訳): 本研究は,学習分布統計とエンコーダ・デコーダモデルにより拡張された自己組織マップ(GSOM)の育成に基づく生成的連続学習フレームワークを提案する。
提案手法により,分布統計メモリを用いた非定型再生が可能となり,生データを格納する必要がなくなる。
各GSOMユニットは平均、分散、共分散の推定値を保持し、その後、再生のための合成サンプルを生成するために使用される。
トレーニング中、明示的なタスク境界やクラスラベルに依存しないので、我々のメソッドは完全に教師なしです。
複数のベンチマークから得られた結果から,提案手法は教師付きメモリベース手法でも性能の競争力を発揮する一方で,メモリフリー手法を一貫して上回る結果が得られた。
いくつかの設定では、フレームワークは既存のベースライン、特にシングルクラスのインクリメンタルシナリオにマッチするか、超過します。
シングルクラスのインクリメンタルTinyImageNetとMiniImageNetのベースライン結果も提供しています。
この研究は、継続的学習に対するスケーラブルで柔軟なアプローチとして、教師なし、適応的、トポロジ駆動の統計的リプレイの有効性を強調している。
関連論文リスト
- Class Incremental Continual Learning with Self-Organizing Maps and Variational Autoencoders Using Synthetic Replay [47.020758735910306]
本研究は、自己組織化マップ(SOM)と変分オートエンコーダ(VAE)に基づく新しい生成連続学習フレームワークを導入する。
CIFAR-10 や CIFAR-100 のような高次元入力空間に対しては,VOE が学習した潜在空間上で SOM が動作する方式を設計する。
MNISTやFashionMNISTなどの低次元入力では、SOMはスタンドアロンで動作する。
論文 参考訳(メタデータ) (2025-08-28T22:11:22Z) - Private Training & Data Generation by Clustering Embeddings [74.00687214400021]
差分プライバシー(DP)は、個々のデータを保護するための堅牢なフレームワークを提供する。
本稿では,DP合成画像埋め込み生成のための新しい原理的手法を提案する。
経験的に、合成的に生成された埋め込みに基づいて訓練された単純な2層ニューラルネットワークは、最先端(SOTA)分類の精度を達成する。
論文 参考訳(メタデータ) (2025-06-20T00:17:14Z) - Exploring Training and Inference Scaling Laws in Generative Retrieval [50.82554729023865]
生成検索は、検索を自己回帰生成タスクとして再構成し、大きな言語モデルがクエリから直接ターゲット文書を生成する。
生成的検索におけるトレーニングと推論のスケーリング法則を体系的に検討し,モデルのサイズ,トレーニングデータスケール,推論時間計算が協調的に性能に与える影響について検討した。
論文 参考訳(メタデータ) (2025-03-24T17:59:03Z) - Building Bridges between Regression, Clustering, and Classification [5.78009645672281]
本研究では,連続したスカラーターゲットを用いて回帰タスクにおけるモデルのトレーニングを改善する手法を提案する。
本手法は, ターゲットエンコーダと予測デコーダを用いて, 分類とクラスタリングのアプローチにインスパイアされた, 異なる方法でタスクをキャスティングすることに基づいている。
論文 参考訳(メタデータ) (2025-02-05T08:45:00Z) - Rethinking Classifier Re-Training in Long-Tailed Recognition: A Simple
Logits Retargeting Approach [102.0769560460338]
我々は,クラスごとのサンプル数に関する事前知識を必要とせず,シンプルなロジットアプローチ(LORT)を開発した。
提案手法は,CIFAR100-LT, ImageNet-LT, iNaturalist 2018など,様々な不均衡データセットの最先端性能を実現する。
論文 参考訳(メタデータ) (2024-03-01T03:27:08Z) - Complementary Learning Subnetworks for Parameter-Efficient
Class-Incremental Learning [40.13416912075668]
本稿では,2つの補完学習サブネットワークス間のシナジーを通じて連続的に学習するリハーサルフリーなCILアプローチを提案する。
提案手法は, 精度向上, メモリコスト, トレーニング効率, タスク順序など, 最先端手法と競合する結果が得られる。
論文 参考訳(メタデータ) (2023-06-21T01:43:25Z) - A Memory Transformer Network for Incremental Learning [64.0410375349852]
本研究では,モデルが学習する時間とともに,新しいデータクラスが観察される学習環境であるクラスインクリメンタルラーニングについて検討する。
素直な問題定式化にもかかわらず、クラス増分学習への分類モデルの素直な適用は、これまで見られたクラスの「破滅的な忘れ込み」をもたらす。
これは、過去のデータのサブセットをメモリバンクに保存し、将来のタスクをトレーニングする際の忘れの防止にそれを活用することで、破滅的な忘れの問題を克服するものだ。
論文 参考訳(メタデータ) (2022-10-10T08:27:28Z) - Beyond Simple Meta-Learning: Multi-Purpose Models for Multi-Domain,
Active and Continual Few-Shot Learning [41.07029317930986]
低ラベル方式で動作するモデルの分散感応クラスを提案する。
最初の手法であるSimple CNAPSは階層的に正規化されたマハラノビス距離に基づく分類器を用いる。
我々はさらに、このアプローチをトランスダクティブ学習環境に拡張し、トランスダクティブCNAPSを提案する。
論文 参考訳(メタデータ) (2022-01-13T18:59:02Z) - Automatic Recall Machines: Internal Replay, Continual Learning and the
Brain [104.38824285741248]
ニューラルネットワークのリプレイには、記憶されたサンプルを使ってシーケンシャルなデータのトレーニングが含まれる。
本研究では,これらの補助サンプルをフライ時に生成する手法を提案する。
代わりに、評価されたモデル自体内の学習したサンプルの暗黙の記憶が利用されます。
論文 参考訳(メタデータ) (2020-06-22T15:07:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。