論文の概要: Self-Supervision for Tackling Unsupervised Anomaly Detection: Pitfalls
and Opportunities
- arxiv url: http://arxiv.org/abs/2308.14380v1
- Date: Mon, 28 Aug 2023 07:55:01 GMT
- ステータス: 処理完了
- システム内更新日: 2023-08-29 15:01:57.768301
- Title: Self-Supervision for Tackling Unsupervised Anomaly Detection: Pitfalls
and Opportunities
- Title(参考訳): 教師なし異常検出のためのセルフスーパービジョン:落とし穴と機会
- Authors: Leman Akoglu and Jaemin Yoo
- Abstract要約: 自己教師付き学習(SSL)は、機械学習とその多くの現実世界のアプリケーションに変化をもたらした。
非教師なし異常検出(AD)は、自己生成性擬似異常によりSSLにも乗じている。
- 参考スコア(独自算出の注目度): 50.231837687221685
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Self-supervised learning (SSL) is a growing torrent that has recently
transformed machine learning and its many real world applications, by learning
on massive amounts of unlabeled data via self-generated supervisory signals.
Unsupervised anomaly detection (AD) has also capitalized on SSL, by
self-generating pseudo-anomalies through various data augmentation functions or
external data exposure. In this vision paper, we first underline the importance
of the choice of SSL strategies on AD performance, by presenting evidences and
studies from the AD literature. Equipped with the understanding that SSL incurs
various hyperparameters (HPs) to carefully tune, we present recent developments
on unsupervised model selection and augmentation tuning for SSL-based AD. We
then highlight emerging challenges and future opportunities; on designing new
pretext tasks and augmentation functions for different data modalities,
creating novel model selection solutions for systematically tuning the SSL HPs,
as well as on capitalizing on the potential of pretrained foundation models on
AD through effective density estimation.
- Abstract(参考訳): 自己教師付き学習(SSL)は、機械学習とその多くの現実世界の応用を、自己生成の監視信号を通じて大量の未ラベルデータから学習することによって、成長するトレントである。
非教師なし異常検出(AD)は、さまざまなデータ拡張機能や外部データ露出を通じて擬似異常を自己生成することでSSLにも乗じている。
本稿ではまず,AD文献から証拠や研究を提示することにより,ADパフォーマンスに対するSSL戦略の選択の重要性を概説する。
SSL が様々なハイパーパラメータ (HP) を注意深く調整する,という理解に基づいて,SSL ベースの AD のための教師なしモデル選択と拡張チューニングに関する最近の研究を報告する。
次に、新たなプレテキストタスクやデータモダリティの拡張関数の設計、SSL HPを体系的にチューニングするための新しいモデル選択ソリューションの作成、および効果的な密度推定によるAD上での事前学習基盤モデルの可能性の活用など、新たな課題と今後の可能性を強調した。
関連論文リスト
- A Survey of the Self Supervised Learning Mechanisms for Vision Transformers [5.152455218955949]
視覚タスクにおける自己教師あり学習(SSL)の適用は注目されている。
SSL手法を体系的に分類する包括的分類法を開発した。
SSLの背後にあるモチベーションについて議論し、人気のある事前トレーニングタスクをレビューし、この分野の課題と進歩を強調します。
論文 参考訳(メタデータ) (2024-08-30T07:38:28Z) - TE-SSL: Time and Event-aware Self Supervised Learning for Alzheimer's Disease Progression Analysis [6.6584447062231895]
アルツハイマー認知症(Alzheimer's Dementia、AD)は、神経変性疾患の分野で最も急激な課題の一つである。
近年の深層学習の進歩と、自己教師付き学習(SSL)を含む様々な表現学習戦略は、医用画像解析の強化に大きく貢献している。
本稿では,タイム・アンド・イブ・アウェア・SSL(TE-SSL)という新たなフレームワークを提案する。
論文 参考訳(メタデータ) (2024-07-09T13:41:32Z) - Reinforcement Learning-Guided Semi-Supervised Learning [20.599506122857328]
本稿では,SSLを片腕バンディット問題として定式化する新しい強化学習ガイド型SSL手法 RLGSSL を提案する。
RLGSSLは、ラベル付きデータとラベルなしデータのバランスを保ち、一般化性能を向上させるために、慎重に設計された報酬関数を組み込んでいる。
我々は,複数のベンチマークデータセットに対する広範な実験を通じてRCGSSLの有効性を実証し,我々の手法が最先端のSSL手法と比較して一貫した優れた性能を実現することを示す。
論文 参考訳(メタデータ) (2024-05-02T21:52:24Z) - Can We Break Free from Strong Data Augmentations in Self-Supervised Learning? [18.83003310612038]
ディープニューラルネットワーク(DNN)における限定ラベル付きデータの課題に対処するための、有望なソリューションとして、自己教師付き学習(SSL)が登場した。
SSLモデルのパフォーマンスと学習メカニズムを形作る上で,SSLの動作が重要な役割を担っていることを明らかにする。
本稿では,事前知識を統合した新しい学習手法を提案する。
論文 参考訳(メタデータ) (2024-04-15T12:53:48Z) - Understanding and Improving the Role of Projection Head in
Self-Supervised Learning [77.59320917894043]
自己教師付き学習(SSL)は、人間のラベル付きデータアノテーションにアクセスせずに有用な特徴表現を作成することを目的としている。
現在の対照的な学習アプローチは、InfoNCEの目的を最適化するために、あるバックボーンネットワークの端にパラメータ化されたプロジェクションヘッドを付加する。
学習可能なプロジェクションヘッドが、トレーニング後にそれを破棄する場合、なぜ必要となるのか?
論文 参考訳(メタデータ) (2022-12-22T05:42:54Z) - The Geometry of Self-supervised Learning Models and its Impact on
Transfer Learning [62.601681746034956]
自己教師型学習(SSL)はコンピュータビジョンにおいて望ましいパラダイムとして登場した。
本稿では,各特徴空間内の局所的近傍を用いて異なるSSLモデルを分析するためのデータ駆動幾何学的手法を提案する。
論文 参考訳(メタデータ) (2022-09-18T18:15:38Z) - Semi-Supervised and Unsupervised Deep Visual Learning: A Survey [76.2650734930974]
半教師なし学習と教師なし学習は、ラベルなしの視覚データから学ぶための有望なパラダイムを提供する。
本稿では, 半教師付き学習(SSL)と非教師付き学習(UL)の先進的な深層学習アルゴリズムについて, 統一的な視点による視覚的認識について概説する。
論文 参考訳(メタデータ) (2022-08-24T04:26:21Z) - Data Augmentation is a Hyperparameter: Cherry-picked Self-Supervision
for Unsupervised Anomaly Detection is Creating the Illusion of Success [30.409069707518466]
自己教師付き学習(SSL)は、現実の問題に対する監督的なシグナルを作成するための、有望な代替手段として登場した。
近年の研究では、この拡張のタイプが精度に重大な影響を与えていると報告されている。
この研究は、画像ベースのSSADをより大きなレンズの下に配置し、SSADにおけるデータ拡張の役割を調べることを目的としている。
論文 参考訳(メタデータ) (2022-08-16T13:09:25Z) - Collaborative Intelligence Orchestration: Inconsistency-Based Fusion of
Semi-Supervised Learning and Active Learning [60.26659373318915]
アクティブラーニング(AL)と半教師付きラーニング(SSL)は2つの効果があるが、しばしば孤立している。
本稿では、SSL-ALの潜在的な優位性をさらに調査するために、革新的な一貫性に基づく仮想aDvErialアルゴリズムを提案する。
2つの実世界のケーススタディは、提案したデータサンプリングアルゴリズムの適用と展開の実践的な産業価値を可視化する。
論文 参考訳(メタデータ) (2022-06-07T13:28:43Z) - DATA: Domain-Aware and Task-Aware Pre-training [94.62676913928831]
我々は、自己教師付き学習(SSL)に特化した、シンプルで効果的なNASアプローチであるDataを提示する。
提案手法は,画像分類,オブジェクト検出,セマンティックセグメンテーションなど,下流タスクにおける計算コストの広い範囲にわたる有望な結果を実現する。
論文 参考訳(メタデータ) (2022-03-17T02:38:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。