論文の概要: Self-Supervision for Tackling Unsupervised Anomaly Detection: Pitfalls
and Opportunities
- arxiv url: http://arxiv.org/abs/2308.14380v1
- Date: Mon, 28 Aug 2023 07:55:01 GMT
- ステータス: 処理完了
- システム内更新日: 2023-08-29 15:01:57.768301
- Title: Self-Supervision for Tackling Unsupervised Anomaly Detection: Pitfalls
and Opportunities
- Title(参考訳): 教師なし異常検出のためのセルフスーパービジョン:落とし穴と機会
- Authors: Leman Akoglu and Jaemin Yoo
- Abstract要約: 自己教師付き学習(SSL)は、機械学習とその多くの現実世界のアプリケーションに変化をもたらした。
非教師なし異常検出(AD)は、自己生成性擬似異常によりSSLにも乗じている。
- 参考スコア(独自算出の注目度): 50.231837687221685
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Self-supervised learning (SSL) is a growing torrent that has recently
transformed machine learning and its many real world applications, by learning
on massive amounts of unlabeled data via self-generated supervisory signals.
Unsupervised anomaly detection (AD) has also capitalized on SSL, by
self-generating pseudo-anomalies through various data augmentation functions or
external data exposure. In this vision paper, we first underline the importance
of the choice of SSL strategies on AD performance, by presenting evidences and
studies from the AD literature. Equipped with the understanding that SSL incurs
various hyperparameters (HPs) to carefully tune, we present recent developments
on unsupervised model selection and augmentation tuning for SSL-based AD. We
then highlight emerging challenges and future opportunities; on designing new
pretext tasks and augmentation functions for different data modalities,
creating novel model selection solutions for systematically tuning the SSL HPs,
as well as on capitalizing on the potential of pretrained foundation models on
AD through effective density estimation.
- Abstract(参考訳): 自己教師付き学習(SSL)は、機械学習とその多くの現実世界の応用を、自己生成の監視信号を通じて大量の未ラベルデータから学習することによって、成長するトレントである。
非教師なし異常検出(AD)は、さまざまなデータ拡張機能や外部データ露出を通じて擬似異常を自己生成することでSSLにも乗じている。
本稿ではまず,AD文献から証拠や研究を提示することにより,ADパフォーマンスに対するSSL戦略の選択の重要性を概説する。
SSL が様々なハイパーパラメータ (HP) を注意深く調整する,という理解に基づいて,SSL ベースの AD のための教師なしモデル選択と拡張チューニングに関する最近の研究を報告する。
次に、新たなプレテキストタスクやデータモダリティの拡張関数の設計、SSL HPを体系的にチューニングするための新しいモデル選択ソリューションの作成、および効果的な密度推定によるAD上での事前学習基盤モデルの可能性の活用など、新たな課題と今後の可能性を強調した。
関連論文リスト
- Evaluating Fairness in Self-supervised and Supervised Models for
Sequential Data [10.626503137418636]
自己教師型学習(SSL)は,大規模モデルのデファクトトレーニングパラダイムとなっている。
本研究では,事前学習と微調整が公正性に及ぼす影響について検討する。
論文 参考訳(メタデータ) (2024-01-03T09:31:43Z) - Progressive Feature Adjustment for Semi-supervised Learning from
Pretrained Models [39.42802115580677]
半教師付き学習(SSL)はラベル付きデータとラベルなしデータの両方を利用して予測モデルを構築することができる。
近年の文献では、事前訓練されたモデルで最先端のSSLを適用しても、トレーニングデータの潜在能力を最大限に発揮できないことが示唆されている。
本稿では,ラベルの誤りに敏感でない特徴抽出器を更新するために,非ラベルデータから擬似ラベルを使用することを提案する。
論文 参考訳(メタデータ) (2023-09-09T01:57:14Z) - Self-Supervised Learning for Point Clouds Data: A Survey [8.858165912687923]
自己監督学習(SSL)は、時間と労働集約的なデータラベリング問題を解決するための重要なソリューションであると考えられている。
本稿では,ポイントクラウドにおけるSSLの最近の進歩を包括的に調査する。
論文 参考訳(メタデータ) (2023-05-09T08:47:09Z) - Understanding and Improving the Role of Projection Head in
Self-Supervised Learning [77.59320917894043]
自己教師付き学習(SSL)は、人間のラベル付きデータアノテーションにアクセスせずに有用な特徴表現を作成することを目的としている。
現在の対照的な学習アプローチは、InfoNCEの目的を最適化するために、あるバックボーンネットワークの端にパラメータ化されたプロジェクションヘッドを付加する。
学習可能なプロジェクションヘッドが、トレーニング後にそれを破棄する場合、なぜ必要となるのか?
論文 参考訳(メタデータ) (2022-12-22T05:42:54Z) - The Geometry of Self-supervised Learning Models and its Impact on
Transfer Learning [62.601681746034956]
自己教師型学習(SSL)はコンピュータビジョンにおいて望ましいパラダイムとして登場した。
本稿では,各特徴空間内の局所的近傍を用いて異なるSSLモデルを分析するためのデータ駆動幾何学的手法を提案する。
論文 参考訳(メタデータ) (2022-09-18T18:15:38Z) - Semi-Supervised and Unsupervised Deep Visual Learning: A Survey [76.2650734930974]
半教師なし学習と教師なし学習は、ラベルなしの視覚データから学ぶための有望なパラダイムを提供する。
本稿では, 半教師付き学習(SSL)と非教師付き学習(UL)の先進的な深層学習アルゴリズムについて, 統一的な視点による視覚的認識について概説する。
論文 参考訳(メタデータ) (2022-08-24T04:26:21Z) - Data Augmentation is a Hyperparameter: Cherry-picked Self-Supervision
for Unsupervised Anomaly Detection is Creating the Illusion of Success [30.409069707518466]
自己教師付き学習(SSL)は、現実の問題に対する監督的なシグナルを作成するための、有望な代替手段として登場した。
近年の研究では、この拡張のタイプが精度に重大な影響を与えていると報告されている。
この研究は、画像ベースのSSADをより大きなレンズの下に配置し、SSADにおけるデータ拡張の役割を調べることを目的としている。
論文 参考訳(メタデータ) (2022-08-16T13:09:25Z) - On the Importance of Hyperparameters and Data Augmentation for
Self-Supervised Learning [32.53142486214591]
自己監視学習(SSL)はディープラーニング研究の非常に活発な領域となり、分類やその他のタスクの事前学習方法として広く利用されている。
ここでは、実際、ハイパーパラメータとデータ拡張戦略の選択は、パフォーマンスに劇的な影響を与える可能性があることを示す。
我々は,グループ間のサンプリングを最適化するグループ拡張アルゴリズム,GroupAugmentを導入する。
論文 参考訳(メタデータ) (2022-07-16T08:31:11Z) - Collaborative Intelligence Orchestration: Inconsistency-Based Fusion of
Semi-Supervised Learning and Active Learning [60.26659373318915]
アクティブラーニング(AL)と半教師付きラーニング(SSL)は2つの効果があるが、しばしば孤立している。
本稿では、SSL-ALの潜在的な優位性をさらに調査するために、革新的な一貫性に基づく仮想aDvErialアルゴリズムを提案する。
2つの実世界のケーススタディは、提案したデータサンプリングアルゴリズムの適用と展開の実践的な産業価値を可視化する。
論文 参考訳(メタデータ) (2022-06-07T13:28:43Z) - DATA: Domain-Aware and Task-Aware Pre-training [94.62676913928831]
我々は、自己教師付き学習(SSL)に特化した、シンプルで効果的なNASアプローチであるDataを提示する。
提案手法は,画像分類,オブジェクト検出,セマンティックセグメンテーションなど,下流タスクにおける計算コストの広い範囲にわたる有望な結果を実現する。
論文 参考訳(メタデータ) (2022-03-17T02:38:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。