論文の概要: Incremental cluster validity index-guided online learning for
performance and robustness to presentation order
- arxiv url: http://arxiv.org/abs/2108.07743v1
- Date: Tue, 17 Aug 2021 16:24:25 GMT
- ステータス: 処理完了
- システム内更新日: 2021-08-18 13:12:31.461785
- Title: Incremental cluster validity index-guided online learning for
performance and robustness to presentation order
- Title(参考訳): インクリメンタルクラスタ妥当性指標に基づくオンライン学習によるプレゼンテーションオーダへのロバスト性
- Authors: Leonardo Enzo Brito da Silva, Nagasharath Rayapati, Donald C. Wunsch
II
- Abstract要約: この研究は、教師なしおよび半教師なしオンライン学習にiCVIを用いた最初のアダプティブ共振理論(ART)に基づくモデルを導入する。
また、初めてiCVIを使用して、iCVIベースのマッチトラッキング機構を介してART警戒を制御する方法も示している。
このモデルは、オンラインiCVIフレームワークをトポロジカル適応共振理論予測写像(TopoARTMAP)のモジュールBとして統合することにより、注文効果の精度と堅牢性を向上させる。
- 参考スコア(独自算出の注目度): 1.7403133838762446
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In streaming data applications incoming samples are processed and discarded,
therefore, intelligent decision-making is crucial for the performance of
lifelong learning systems. In addition, the order in which samples arrive may
heavily affect the performance of online (and offline) incremental learners.
The recently introduced incremental cluster validity indices (iCVIs) provide
valuable aid in addressing such class of problems. Their primary use-case has
been cluster quality monitoring; nonetheless, they have been very recently
integrated in a streaming clustering method to assist the clustering task
itself. In this context, the work presented here introduces the first adaptive
resonance theory (ART)-based model that uses iCVIs for unsupervised and
semi-supervised online learning. Moreover, it shows for the first time how to
use iCVIs to regulate ART vigilance via an iCVI-based match tracking mechanism.
The model achieves improved accuracy and robustness to ordering effects by
integrating an online iCVI framework as module B of a topological adaptive
resonance theory predictive mapping (TopoARTMAP) -- thereby being named
iCVI-TopoARTMAP -- and by employing iCVI-driven post-processing heuristics at
the end of each learning step. The online iCVI framework provides assignments
of input samples to clusters at each iteration in accordance to any of several
iCVIs. The iCVI-TopoARTMAP maintains useful properties shared by ARTMAP models,
such as stability, immunity to catastrophic forgetting, and the many-to-one
mapping capability via the map field module. The performance (unsupervised and
semi-supervised) and robustness to presentation order (unsupervised) of
iCVI-TopoARTMAP were evaluated via experiments with a synthetic data set and
deep embeddings of a real-world face image data set.
- Abstract(参考訳): ストリーミングデータでは,入ってくるサンプルは処理・破棄されるため,生涯学習システムの性能向上には知的意思決定が不可欠である。
さらに、サンプルが到着する順序は、オンライン(およびオフライン)インクリメンタル学習者のパフォーマンスに大きく影響する可能性がある。
最近導入されたインクリメンタルクラスタ妥当性指標(iCVI)は、そのような問題に対処する上で貴重な助けとなる。
彼らの主なユースケースはクラスタの品質監視である。しかしながら、クラスタ化タスク自体を支援するために、ストリーミングクラスタリングメソッドに非常に最近統合されている。
この文脈において、本研究は、非教師なしおよび半教師なしオンライン学習にicvisを用いた最初の適応共鳴理論(art)ベースのモデルを導入する。
さらに、初めてiCVIを使用して、iCVIベースのマッチトラッキング機構を介してART警戒を制御する方法を示す。
このモデルは、オンラインiCVIフレームワークをトポロジカル適応共振理論予測写像(TopoARTMAP)のモジュールBとして統合し、iCVI-TopoARTMAPと命名し、各学習ステップの最後にiCVI駆動の後処理ヒューリスティックを採用することにより、注文効果の精度と堅牢性を向上させる。
オンラインiCVIフレームワークは、複数のiCVIのいずれかに従って、各イテレーションにおけるクラスタへの入力サンプルの割り当てを提供する。
icvi-topoartmapは、安定性、壊滅的な忘れに対する免疫、マップフィールドモジュールによる多対一マッピング機能など、artmapモデルで共有される有用な特性を維持している。
iCVI-TopoARTMAPの性能(教師なし・半教師なし)と提示順序(教師なし)に対する頑健性は,合成データセットと実世界の顔画像データセットの深層埋め込みを用いて評価した。
関連論文リスト
- Adaptive Self-supervised Robust Clustering for Unstructured Data with Unknown Cluster Number [12.926206811876174]
適応型自己教師型ロバストクラスタリング(Adaptive Self-supervised Robust Clustering, ASRC)と呼ばれる非構造化データに適した,新たな自己教師型ディープクラスタリング手法を提案する。
ASRCはグラフ構造とエッジ重みを適応的に学習し、局所構造情報と大域構造情報の両方をキャプチャする。
ASRCは、クラスタ数の事前知識に依存するメソッドよりも優れており、非構造化データのクラスタリングの課題に対処する上での有効性を強調している。
論文 参考訳(メタデータ) (2024-07-29T15:51:09Z) - What Makes CLIP More Robust to Long-Tailed Pre-Training Data? A Controlled Study for Transferable Insights [67.72413262980272]
大規模なデータ不均衡は、Webスケールの視覚言語データセットの間に自然に存在する。
事前学習したCLIPは、教師付き学習と比較してデータ不均衡に顕著な堅牢性を示す。
CLIPの堅牢性と差別性は、より記述的な言語監督、より大きなデータスケール、より広いオープンワールドの概念によって改善される。
論文 参考訳(メタデータ) (2024-05-31T17:57:24Z) - Community-Aware Efficient Graph Contrastive Learning via Personalized
Self-Training [27.339318501446115]
本稿では,コミュニティ分割とノード表現をエンドツーエンドで共同で学習する,コミュニティ対応の効率的なグラフコントラスト学習フレームワーク(CEGCL)を提案する。
CEGCLは,異なるスケールの3つのベンチマークデータセットに対して,最先端のパフォーマンスを示す。
論文 参考訳(メタデータ) (2023-11-18T13:45:21Z) - ALP: Action-Aware Embodied Learning for Perception [60.64801970249279]
認知のための行動認識型身体学習(ALP)について紹介する。
ALPは、強化学習ポリシーと逆ダイナミクス予測目標を最適化することにより、行動情報を表現学習に組み込む。
ALPは、複数の下流認識タスクにおいて、既存のベースラインよりも優れていることを示す。
論文 参考訳(メタデータ) (2023-06-16T21:51:04Z) - Cluster-level pseudo-labelling for source-free cross-domain facial
expression recognition [94.56304526014875]
表情認識のためのSFUDA法を提案する。
本手法は,自己教師付き事前学習を利用して,対象データから優れた特徴表現を学習する。
提案手法の有効性を4つの適応方式で検証し,FERに適用した場合,既存のSFUDA法より一貫して優れていることを示す。
論文 参考訳(メタデータ) (2022-10-11T08:24:50Z) - Learning Deep Representations via Contrastive Learning for Instance
Retrieval [11.736450745549792]
本稿では、インスタンス識別に基づくコントラスト学習(CL)を用いて、この問題に取り組むための最初の試みを行う。
本研究では、事前学習されたCLモデルと微調整されたCLモデルから識別表現を導出する能力を探求することにより、この問題に対処する。
論文 参考訳(メタデータ) (2022-09-28T04:36:34Z) - When CNN Meet with ViT: Towards Semi-Supervised Learning for Multi-Class
Medical Image Semantic Segmentation [13.911947592067678]
本稿では,一貫性を意識した擬似ラベルに基づく自己認識手法を提案する。
我々のフレームワークは、ViTとCNNによって相互に強化された特徴学習モジュールと、一貫性を意識した目的のために堅牢なガイダンスモジュールから構成されている。
実験により,提案手法は,公開ベンチマークデータセット上での最先端性能を実現することを示す。
論文 参考訳(メタデータ) (2022-08-12T18:21:22Z) - Using Representation Expressiveness and Learnability to Evaluate
Self-Supervised Learning Methods [61.49061000562676]
本稿では,学習可能性を評価するためにCluster Learnability (CL)を導入する。
CLは、K-meansで表現をクラスタリングすることによって得られたラベルを予測するために訓練されたKNNのパフォーマンスで測定される。
CLは、他の競合する評価手法よりも分布内モデルの性能と相関することがわかった。
論文 参考訳(メタデータ) (2022-06-02T19:05:13Z) - Self-Supervised Models are Continual Learners [79.70541692930108]
本研究では, 自己教師付き損失関数を連続学習のための蒸留機構にシームレスに変換可能であることを示す。
我々は,学習した表現の質を大幅に向上させる連続的自己教師型視覚表現学習の枠組みを考案した。
論文 参考訳(メタデータ) (2021-12-08T10:39:13Z) - No Fear of Heterogeneity: Classifier Calibration for Federated Learning
with Non-IID Data [78.69828864672978]
実世界のフェデレーションシステムにおける分類モデルのトレーニングにおける中心的な課題は、非IIDデータによる学習である。
このアルゴリズムは, 近似されたssian混合モデルからサンプリングした仮想表現を用いて分類器を調整する。
実験の結果,CIFAR-10,CIFAR-100,CINIC-10など,一般的なフェデレーション学習ベンチマークにおけるCCVRの現状が示された。
論文 参考訳(メタデータ) (2021-06-09T12:02:29Z) - iCVI-ARTMAP: Accelerating and improving clustering using adaptive
resonance theory predictive mapping and incremental cluster validity indices [1.160208922584163]
iCVI-ARTMAPは、インクリメンタルクラスタ妥当性指標(iCVI)を使用して教師なし学習を行う。
バッチCVI計算を使用する場合よりも、最大2桁の実行時間を実現することができる。
論文 参考訳(メタデータ) (2020-08-22T19:37:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。