論文の概要: Unsupervised Continual Learning in Streaming Environments
- arxiv url: http://arxiv.org/abs/2109.09282v1
- Date: Mon, 20 Sep 2021 03:13:35 GMT
- ステータス: 処理完了
- システム内更新日: 2021-09-21 16:52:43.762907
- Title: Unsupervised Continual Learning in Streaming Environments
- Title(参考訳): ストリーミング環境における教師なし連続学習
- Authors: Andri Ashfahani, Mahardhika Pratama
- Abstract要約: 本稿では,ADCN(Autonomous Deep Clustering Network)と呼ばれる,同時深層学習とクラスタリングによる深層クラスタリングネットワーク構築の教師なしアプローチを提案する。
自己クラスタリング機構は、クラスタ予測スコアの和によって最終的な出力が推測される間、全連結層のディープ埋め込み空間で実行される。
- 参考スコア(独自算出の注目度): 16.389218948439527
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: A deep clustering network is desired for data streams because of its aptitude
in extracting natural features thus bypassing the laborious feature engineering
step. While automatic construction of the deep networks in streaming
environments remains an open issue, it is also hindered by the expensive
labeling cost of data streams rendering the increasing demand for unsupervised
approaches. This paper presents an unsupervised approach of deep clustering
network construction on the fly via simultaneous deep learning and clustering
termed Autonomous Deep Clustering Network (ADCN). It combines the feature
extraction layer and autonomous fully connected layer in which both network
width and depth are self-evolved from data streams based on the bias-variance
decomposition of reconstruction loss. The self-clustering mechanism is
performed in the deep embedding space of every fully connected layer while the
final output is inferred via the summation of cluster prediction score.
Further, a latent-based regularization is incorporated to resolve the
catastrophic forgetting issue. A rigorous numerical study has shown that ADCN
produces better performance compared to its counterparts while offering fully
autonomous construction of ADCN structure in streaming environments with the
absence of any labeled samples for model updates. To support the reproducible
research initiative, codes, supplementary material, and raw results of ADCN are
made available in \url{https://tinyurl.com/AutonomousDCN}.
- Abstract(参考訳): 深層クラスタリングネットワークは、自然の特徴を抽出する能力からデータストリームに望ましいため、退屈な機能エンジニアリングステップを回避できる。
ストリーミング環境におけるディープネットワークの自動構築は依然として未解決の課題であるが、データストリームの高価なラベル付けコストが、教師なしアプローチの需要の増加を妨げている。
本稿では,ADCN(Autonomous Deep Clustering Network)と呼ばれる,同時深層学習とクラスタリングによる深層クラスタリングネットワーク構築の教師なしアプローチを提案する。
特徴抽出層と、再構成損失のバイアス分散分解に基づいて、ネットワーク幅と深さの両方がデータストリームから自己進化する自律的完全連結層を組み合わせる。
自己クラスタ化機構は、全連結層の深い埋め込み空間で実行され、最終的な出力はクラスタ予測スコアの和によって推測される。
さらに、破滅的な忘れ方問題を解決するために潜在性に基づく正規化が組み込まれている。
厳密な数値的な研究により、ADCNはストリーミング環境でADCN構造を完全に自律的に構築する一方で、モデル更新のためのラベル付きサンプルが存在しない。
再現可能な研究イニシアチブをサポートするために、コード、補足材料、およびADCNの生結果が \url{https://tinyurl.com/AutonomousDCN} で公開されている。
関連論文リスト
- XAI for Self-supervised Clustering of Wireless Spectrum Activity [0.5809784853115825]
本稿では,深層クラスタリング,自己教師型学習アーキテクチャの方法論を提案する。
表現学習部では,入力データの関心領域の解釈にガイドバックプロパゲーションを用いる。
クラスタリングの部分は、クラスタリングの結果を説明するために、Shallow Treesに依存しています。
最後に、データ固有の視覚化部は、各クラスタと入力データとの接続を関連機能をトラフすることを可能にする。
論文 参考訳(メタデータ) (2023-05-17T08:56:43Z) - Deep Embedded Clustering with Distribution Consistency Preservation for
Attributed Networks [15.895606627146291]
本研究では,属性ネットワークに対するエンドツーエンドの深層クラスタリングモデルを提案する。
グラフオートエンコーダとノード属性オートエンコーダを使用して、ノード表現とクラスタ割り当てをそれぞれ学習する。
提案手法は, 最先端手法と比較して, 性能が著しく向上する。
論文 参考訳(メタデータ) (2022-05-28T02:35:34Z) - Deep clustering with fusion autoencoder [0.0]
ディープクラスタリング(DC)モデルは、オートエンコーダを利用して、結果としてクラスタリングプロセスを促進する固有の特徴を学ぶ。
本稿では、この問題に対処するための新しいDC法を提案し、特に、生成逆数ネットワークとVAEを融合オートエンコーダ(FAE)と呼ばれる新しいオートエンコーダに結合する。
論文 参考訳(メタデータ) (2022-01-11T07:38:03Z) - DeHIN: A Decentralized Framework for Embedding Large-scale Heterogeneous
Information Networks [64.62314068155997]
本稿では,異種情報ネットワーク(DeHIN)のための分散埋め込みフレームワークについて述べる。
DeHINは、大きなHINをハイパーグラフとして革新的に定式化するコンテキスト保存分割機構を提供する。
当社のフレームワークでは,木のようなパイプラインを採用することで,効率よくHINを分割する分散戦略を採用しています。
論文 参考訳(メタデータ) (2022-01-08T04:08:36Z) - Attention-driven Graph Clustering Network [49.040136530379094]
我々は、注意駆動グラフクラスタリングネットワーク(AGCN)という新しいディープクラスタリング手法を提案する。
AGCNは、ノード属性特徴とトポロジグラフ特徴を動的に融合するために、不均一な融合モジュールを利用する。
AGCNは、教師なしの方法で特徴学習とクラスタ割り当てを共同で行うことができる。
論文 参考訳(メタデータ) (2021-08-12T02:30:38Z) - Over-and-Under Complete Convolutional RNN for MRI Reconstruction [57.95363471940937]
MR画像再構成のための最近のディープラーニングに基づく手法は、通常、汎用的なオートエンコーダアーキテクチャを利用する。
OUCR(Over-and-Under Complete Convolu?tional Recurrent Neural Network)を提案する。
提案手法は, トレーニング可能なパラメータの少ない圧縮されたセンシングと, 一般的なディープラーニングに基づく手法に対して, 大幅な改善を実現する。
論文 参考訳(メタデータ) (2021-06-16T15:56:34Z) - Decorrelating Adversarial Nets for Clustering Mobile Network Data [0.7034976835586089]
ディープラーニングのサブセットであるディープクラスタリングは、多くのネットワーク自動化ユースケースにとって価値のあるツールになり得る。
ほとんどの最先端のクラスタリングアルゴリズムはイメージデータセットをターゲットとしており、モバイルネットワークデータへの適用が困難です。
本稿では,ネットワーク自動化のユースケースに適用した場合にも,信頼性の高いディープクラスタリング手法であるDANCEを提案する。
論文 参考訳(メタデータ) (2021-03-11T15:26:26Z) - Anomaly Detection on Attributed Networks via Contrastive Self-Supervised
Learning [50.24174211654775]
本論文では,アトリビュートネットワーク上の異常検出のためのコントラスト型自己監視学習フレームワークを提案する。
このフレームワークは、新しいタイプのコントラストインスタンスペアをサンプリングすることで、ネットワークデータからのローカル情報を完全に活用します。
高次元特性と局所構造から情報埋め込みを学習するグラフニューラルネットワークに基づくコントラスト学習モデルを提案する。
論文 参考訳(メタデータ) (2021-02-27T03:17:20Z) - Deep Fusion Clustering Network [38.540761683389135]
深層クラスタリングのための深層フュージョンクラスタリングネットワーク(DFCN)を提案する。
本ネットワークでは,オートエンコーダとグラフオートエンコーダが学習した表現を明示的にマージするために,相互依存学習に基づく構造化と属性情報融合(SAIF)モジュールを提案する。
6つのベンチマークデータセットの実験により、提案されたDFCNは最先端のディープクラスタリング手法よりも一貫して優れていることが示された。
論文 参考訳(メタデータ) (2020-12-15T09:37:59Z) - Towards Uncovering the Intrinsic Data Structures for Unsupervised Domain
Adaptation using Structurally Regularized Deep Clustering [119.88565565454378]
Unsupervised Domain Adapt (UDA) は、ターゲットドメイン上のラベルなしデータの予測を行う分類モデルを学ぶことである。
本稿では,対象データの正規化判別クラスタリングと生成クラスタリングを統合する構造的正規化深層クラスタリングのハイブリッドモデルを提案する。
提案するH-SRDCは, インダクティブ設定とトランスダクティブ設定の両方において, 既存の手法よりも優れている。
論文 参考訳(メタデータ) (2020-12-08T08:52:00Z) - Adaptive Anomaly Detection for IoT Data in Hierarchical Edge Computing [71.86955275376604]
本稿では,階層型エッジコンピューティング(HEC)システムに対する適応型異常検出手法を提案する。
本研究では,入力データから抽出した文脈情報に基づいてモデルを選択する適応的手法を設計し,異常検出を行う。
提案手法を実際のIoTデータセットを用いて評価し,検出タスクをクラウドにオフロードするのとほぼ同じ精度を維持しながら,検出遅延を84%削減できることを実証した。
論文 参考訳(メタデータ) (2020-01-10T05:29:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。