論文の概要: CLIMB: Centroid-Based Hierarchical Memory for Online Continual Self-Supervised Learning

• arxiv url: http://arxiv.org/abs/2606.31275v1
• Date: Tue, 30 Jun 2026 07:47:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-01 18:27:19.129842
• Title: CLIMB: Centroid-Based Hierarchical Memory for Online Continual Self-Supervised Learning
• Title（参考訳）: CLIMB: オンライン継続的自己監視学習のためのセントロイドベースの階層型メモリ
• Abstract要約: Online Continual Self-Supervised Learning (OCSSL)は、タスク境界やメモリ制約の知識なしに、ラベルなしデータの連続ストリームから表現を学習することを目的としている。 両機能を組み合わせたCLIMB(Continual Learning with Intelligent Memory Bank)を提案する。 提案手法では,記憶された画像の総数に制限された階層型セントロイドメモリと,再生例の知識蒸留を併用し,表現のドリフトを制限する。
• 参考スコア（独自算出の注目度）: 2.546719875159892
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Online Continual Self-Supervised Learning (OCSSL) aims to learn representations from a continuous stream of unlabeled data, without knowledge of task boundaries and under memory constraints. Existing methods rely either on replay buffers that exploit latent space structure, or on regularization alone. We present CLIMB (Continual Learning with Intelligent Memory Bank), which combines both simultaneously. Our method introduces a hierarchical centroid-based memory, bounded in total number of stored images, combined with knowledge distillation on replayed examples to limit representation drift. The memory groups similar images into centroids, providing hard-to-discriminate examples for contrastive learning while covering the diversity of observed distributions. Experiments on Split CIFAR-100 and Split ImageNet-100, on standard benchmarks from the state-of-the-art as well as a new protocol with irregular task distributions show that CLIMB outperforms state-of-the-art OCSSL methods.
• Abstract（参考訳）: Online Continual Self-Supervised Learning (OCSSL)は、タスク境界やメモリ制約の知識なしに、ラベルなしデータの連続ストリームから表現を学習することを目的としている。 既存の手法は、遅延空間構造を利用するリプレイバッファか、正規化のみに依存する。 両機能を組み合わせたCLIMB(Continual Learning with Intelligent Memory Bank)を提案する。 提案手法では,記憶された画像の総数に制限された階層型セントロイドメモリと,再生例の知識蒸留を併用し,表現のドリフトを制限する。 メモリは、類似した画像をセントロイドに分類し、観察された分布の多様性をカバーしながら、対照的な学習を区別しにくい例を提供する。 Split CIFAR-100とSplit ImageNet-100の実験では、最先端のベンチマークと不規則なタスク分散を備えた新しいプロトコルにより、CLIMBが最先端のOCSSLメソッドより優れていることが示されている。

関連論文リスト

• Leveraging CORAL-Correlation Consistency Network for Semi-Supervised Left Atrium MRI Segmentation [14.296441810235223]
  半教師付き学習(SSL)は、ラベル付き画像とラベルなし画像の両方から学習するために広く使われている。 現在のSSLベースのセグメンテーションメソッドの多くは、ラベル付きデータとラベルなしデータの類似した特徴を識別するためにピクセル値を直接使用する。 我々は,グローバルな構造形状と左房の局所的詳細を捉えるために,CORAL(Correlation-Aligned)-Correlation Consistency Network (CORN)を導入した。
  論文  参考訳（メタデータ） (2024-10-21T11:46:28Z)
• Patch-Based Contrastive Learning and Memory Consolidation for Online Unsupervised Continual Learning [6.042269506496206]
  我々は、オンライン教師なし連続学習(O-UCL)として知られる比較的未探索の学習パラダイムに焦点を当てる。 O-UCLは、教師なし、継続的、あるいはオンライン学習における以前の作業とは異なり、3つの領域を1つの挑戦的で現実的な学習パラダイムにまとめている。 この設定では、エージェントは頻繁に評価され、指定されたオフラインタスクの最後にではなく、データストリームの任意の時点で可能な限りの表現を維持することを目標とする必要があります。
  論文  参考訳（メタデータ） (2024-09-24T18:46:32Z)
• Learning from Memory: Non-Parametric Memory Augmented Self-Supervised Learning of Visual Features [6.096888891865663]
  提案手法では,ニューラルネットワークをメモリコンポーネントに拡張して,現在のイメージビューとこれまで遭遇した概念を比較する。 我々は, 線形, 転送学習, ローショット分類, 画像検索など, 多数の視覚課題に対して, 提案手法をベンチマークする。 実験結果は,新たな正規化子を使わずに安定したSSLトレーニングを実現するための提案手法の有効性を固めるものである。
  論文  参考訳（メタデータ） (2024-07-03T06:46:08Z)
• De-coupling and De-positioning Dense Self-supervised Learning [65.56679416475943]
  Dense Self-Supervised Learning (SSL)メソッドは、複数のオブジェクトでイメージを処理する際に、画像レベルの特徴表現を使用する際の制限に対処する。 本研究は, 層深度やゼロパディングに伴う受容野の増大によって生じる, 結合と位置バイアスに悩まされていることを示す。 我々はCOCOにおける本手法の利点と、オブジェクト分類、セマンティックセグメンテーション、オブジェクト検出のための新しい挑戦的ベンチマークであるOpenImage-MINIについて示す。
  論文  参考訳（メタデータ） (2023-03-29T18:07:25Z)
• Learning Efficient Coding of Natural Images with Maximum Manifold Capacity Representations [4.666056064419346]
  効率的な符号化仮説は、感覚系の応答特性が入力の統計に適応していることを提案する。 エレガントではあるものの、情報理論の特性は実際的な設定や最適化の目的関数として使うのが難しいことで知られている。 ここでは、多様体の容量を直接最適化し、最大多様体容量表現(MMCR)が得られるという仮定を概説する。
  論文  参考訳（メタデータ） (2023-03-06T17:26:30Z)
• Learning Self-Supervised Low-Rank Network for Single-Stage Weakly and Semi-Supervised Semantic Segmentation [119.009033745244]
  本稿では,単一段階弱教師付きセマンティックセマンティックセマンティックセマンティクス(WSSS)と半教師付きセマンティクスセマンティクスセマンティクス(SSSS)のための自己教師付き低ランクネットワーク(SLRNet)を提案する。 SLRNetは、画像の異なるビューから複数の注意深いLR表現を同時に予測し、正確な擬似ラベルを学習する。 Pascal VOC 2012、COCO、L2IDデータセットの実験では、SLRNetは最先端のWSSSメソッドとSSSSメソッドの両方で、さまざまな設定で優れています。
  論文  参考訳（メタデータ） (2022-03-19T09:19:55Z)
• Scaling the Wild: Decentralizing Hogwild!-style Shared-memory SGD [29.6870062491741]
  Hogwilld!は共有メモリ設定上でSGDを並列化するゴーツーアプローチである。 本稿では,分散分散メモリを並列共有メモリSGD自体で動作するノードに組み込むことを提案する。
  論文  参考訳（メタデータ） (2022-03-13T11:52:24Z)
• vCLIMB: A Novel Video Class Incremental Learning Benchmark [53.90485760679411]
  本稿では,ビデオ連続学習ベンチマークvCLIMBを紹介する。 vCLIMBは、ビデオ連続学習における深層モデルの破滅的な忘れを解析するための標準化されたテストベッドである。 本稿では,メモリベース連続学習法に適用可能な時間的整合性正規化を提案する。
  論文  参考訳（メタデータ） (2022-01-23T22:14:17Z)
• MCML: A Novel Memory-based Contrastive Meta-Learning Method for Few Shot Slot Tagging [17.205431506768125]
  textbfMemory ベースの textbfContrastive textbfMeta-textbfLearning (別名 MCML) 法を提案する。 実験の結果、MCMLはSNIPSとNERの両方のデータセット上で、最先端の手法よりも優れていた。
  論文  参考訳（メタデータ） (2021-08-26T08:02:21Z)
• Deep Relational Metric Learning [84.95793654872399]
  本稿では,画像クラスタリングと検索のためのディープリレーショナルメトリック学習フレームワークを提案する。 我々は、クラス間分布とクラス内分布の両方をモデル化するために、異なる側面から画像を特徴付ける特徴のアンサンブルを学ぶ。 広く使われているCUB-200-2011、Cars196、Stanford Online Productsデータセットの実験は、我々のフレームワークが既存の深層学習方法を改善し、非常に競争力のある結果をもたらすことを示した。
  論文  参考訳（メタデータ） (2021-08-23T09:31:18Z)
• Rainbow Memory: Continual Learning with a Memory of Diverse Samples [14.520337285540148]
  エピソード記憶におけるサンプルの多様性の重要性を論じる。 サンプル毎の分類不確実性およびデータ拡張に基づく新しいメモリ管理戦略を提案する。 提案手法は,ぼやけた連続学習装置の精度を大幅に向上することを示す。
  論文  参考訳（メタデータ） (2021-03-31T17:28:29Z)
• Kanerva++: extending The Kanerva Machine with differentiable, locally block allocated latent memory [75.65949969000596]
  エピソディックメモリとセマンティックメモリは、人間のメモリモデルの重要なコンポーネントです。 我々は、エピソードメモリとセマンティックメモリのギャップを埋める新しい原理ベイズメモリ割り当てスキームを開発しました。 この割り当て方式がメモリ条件画像生成の性能を向上させることを実証する。
  論文  参考訳（メタデータ） (2021-02-20T18:40:40Z)
• Seed the Views: Hierarchical Semantic Alignment for Contrastive Representation Learning [116.91819311885166]
  一つの画像から生成されたビューをtextbfCross-samples や Multi-level representation に拡張することで,階層的なセマンティックアライメント戦略を提案する。 提案手法はCsMlと呼ばれ,サンプル間の多層視覚表現を堅牢な方法で統合する機能を備えている。
  論文  参考訳（メタデータ） (2020-12-04T17:26:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。