論文の概要: Prototype based Masked Audio Model for Self-Supervised Learning of Sound Event Detection

• arxiv url: http://arxiv.org/abs/2409.17656v1
• Date: Thu, 26 Sep 2024 09:07:20 GMT
• ステータス: 処理完了
• システム内更新日: 2024-09-28 20:56:11.268128
• Title: Prototype based Masked Audio Model for Self-Supervised Learning of Sound Event Detection
• Title（参考訳）: 音響事象検出の自己教師付き学習のためのプロトタイプベースマスケプド音響モデル
• Authors: Pengfei Cai, Yan Song, Nan Jiang, Qing Gu, Ian McLoughlin,
• Abstract要約: 半教師付きアルゴリズムはラベルのないデータから学ぶためにラベル付きデータに依存する。 SEDにおける自己教師型表現学習のためのプロトタイプベースMasked Audio Model(PMAM)アルゴリズムを提案する。
• 参考スコア（独自算出の注目度）: 22.892382672888488
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: A significant challenge in sound event detection (SED) is the effective utilization of unlabeled data, given the limited availability of labeled data due to high annotation costs. Semi-supervised algorithms rely on labeled data to learn from unlabeled data, and the performance is constrained by the quality and size of the former. In this paper, we introduce the Prototype based Masked Audio Model~(PMAM) algorithm for self-supervised representation learning in SED, to better exploit unlabeled data. Specifically, semantically rich frame-level pseudo labels are constructed from a Gaussian mixture model (GMM) based prototypical distribution modeling. These pseudo labels supervise the learning of a Transformer-based masked audio model, in which binary cross-entropy loss is employed instead of the widely used InfoNCE loss, to provide independent loss contributions from different prototypes, which is important in real scenarios in which multiple labels may apply to unsupervised data frames. A final stage of fine-tuning with just a small amount of labeled data yields a very high performing SED model. On like-for-like tests using the DESED task, our method achieves a PSDS1 score of 62.5\%, surpassing current state-of-the-art models and demonstrating the superiority of the proposed technique.
• Abstract（参考訳）: 音響事象検出(SED)における重要な課題は、高アノテーションコストによるラベル付きデータの有効利用が制限されていることを考えると、ラベルなしデータの有効利用である。 半教師付きアルゴリズムはラベルのないデータから学習するためにラベル付きデータに依存し、その性能は前者の品質とサイズに制約される。 本稿では,SEDにおける自己教師付き表現学習のためのプロトタイプベースMasked Audio Model~(PMAM)アルゴリズムを提案する。 具体的には,ガウス混合モデル(GMM)に基づく原型分布モデルを用いて,意味的に豊かなフレームレベルの擬似ラベルを構築する。 これらの擬似ラベルは、広く使われているInfoNCE損失の代わりにバイナリクロスエントロピー損失を用いるトランスフォーマーベースのマスク付きオーディオモデルの学習を監督し、異なるプロトタイプから独立した損失貢献を提供する。 少量のラベル付きデータによる微調整の最終段階は、非常に高性能なSEDモデルをもたらす。 DESEDタスクを用いた類似性試験では、PSDS1スコアが62.5\%に達し、現在の最先端モデルを超え、提案手法の優位性を示す。

関連論文リスト

• MAPL: Memory Augmentation and Pseudo-Labeling for Semi-Supervised Anomaly Detection [0.0]
  メモリ拡張(Memory Augmentation)と擬似ラベル(Pseudo-Labeling, MAPL)と呼ばれる, 産業環境における表面欠陥検出のための新しいメソドロジーを導入する。 この手法は、まず異常シミュレーション戦略を導入し、希少または未知の異常型を認識するモデルの能力を著しく改善する。 入力データから直接異常領域を識別するために、MAPLによってエンドツーエンドの学習フレームワークが使用される。
  論文  参考訳（メタデータ） (2024-05-10T02:26:35Z)
• Decoupled Prototype Learning for Reliable Test-Time Adaptation [50.779896759106784]
  テスト時間適応(TTA)は、推論中にトレーニング済みのソースモデルをターゲットドメインに継続的に適応させるタスクである。 1つの一般的なアプローチは、推定擬似ラベルによるクロスエントロピー損失を伴う微調整モデルである。 本研究は, 各試料の分類誤差を最小化することで, クロスエントロピー損失の脆弱性がラベルノイズを引き起こすことを明らかにした。 本稿では,プロトタイプ中心の損失計算を特徴とする新しいDPL法を提案する。
  論文  参考訳（メタデータ） (2024-01-15T03:33:39Z)
• Fusing Conditional Submodular GAN and Programmatic Weak Supervision [5.300742881753571]
  PWS(Programmatic Weak Supervision)と生成モデルは、データ収集や手動のアノテーションプロセスに頼ることなく、既存のデータセットの有用性を最大化する重要なツールとして機能する。 PWSは、データの基礎となるクラスラベルを推定するために様々な弱い監視技術を使用し、生成モデルは、主に与えられたデータセットの基盤分布からのサンプリングに集中する。 最近、WSGANは2つのモデルを融合させるメカニズムを提案した。
  論文  参考訳（メタデータ） (2023-12-16T07:49:13Z)
• Learning with Noisy labels via Self-supervised Adversarial Noisy Masking [33.87292143223425]
  対向雑音マスキングと呼ばれる新しいトレーニング手法を提案する。 入力データとラベルを同時に調整し、ノイズの多いサンプルが過度に収まらないようにする。 合成および実世界のノイズデータセットの両方でテストされる。
  論文  参考訳（メタデータ） (2023-02-14T03:13:26Z)
• MAPS: A Noise-Robust Progressive Learning Approach for Source-Free Domain Adaptive Keypoint Detection [76.97324120775475]
  クロスドメインキーポイント検出方法は、常に適応中にソースデータにアクセスする必要がある。 本稿では、ターゲット領域に十分に訓練されたソースモデルのみを提供する、ソースフリーなドメイン適応キーポイント検出について考察する。
  論文  参考訳（メタデータ） (2023-02-09T12:06:08Z)
• Robust Face Anti-Spoofing with Dual Probabilistic Modeling [49.14353429234298]
  本稿では、DPM-LQ(ラベル品質認識学習)とDPM-DQ(データ品質認識学習)という2つの専用モジュールを備えたDPM(Dual Probabilistic Modeling)という統合フレームワークを提案する。 DPM-LQは、ノイズのあるセマンティックラベルの分布に過度に適合することなく、ロバストな特徴表現を生成することができる。 DPM-DQは、その品質分布に基づいてノイズデータの予測信頼度を補正することにより、推論中のFalse Reject'およびFalse Accept'からデータノイズを除去することができる。
  論文  参考訳（メタデータ） (2022-04-27T03:44:18Z)
• Attentive Prototypes for Source-free Unsupervised Domain Adaptive 3D Object Detection [85.11649974840758]
  3Dオブジェクト検出ネットワークは、トレーニングされたデータに対してバイアスを受ける傾向がある。 そこで本研究では,ライダーを用いた3次元物体検出器のソースレス・教師なし領域適応のための単一フレーム手法を提案する。
  論文  参考訳（メタデータ） (2021-11-30T18:42:42Z)
• Sound Event Detection Transformer: An Event-based End-to-End Model for Sound Event Detection [12.915110466077866]
  音のイベント検出(SED)は、監視、ビデオインデックス作成等に広く応用され、注目を集めている。 SEDの既存のモデルは、主にフレームレベルの予測を生成し、それをシーケンスマルチラベル分類問題に変換する。 本稿ではまず,1次元検出変換器 (1D-DETR) について述べる。 SEDの特性から、1D-DETRに音声クエリと1対1のマッチング戦略を追加し、SEDT(Sound Event Detection Transformer)のモデルを作成する。
  論文  参考訳（メタデータ） (2021-10-05T12:56:23Z)
• Tackling Instance-Dependent Label Noise via a Universal Probabilistic Model [80.91927573604438]
  本稿では,ノイズラベルをインスタンスに明示的に関連付ける,単純かつ普遍的な確率モデルを提案する。 合成および実世界のラベルノイズを用いたデータセット実験により,提案手法がロバスト性に大きな改善をもたらすことを確認した。
  論文  参考訳（メタデータ） (2021-01-14T05:43:51Z)
• Unsupervised Domain Adaptation for Acoustic Scene Classification Using Band-Wise Statistics Matching [69.24460241328521]
  機械学習アルゴリズムは、トレーニング(ソース)とテスト(ターゲット)データの分散のミスマッチの影響を受けやすい。 本研究では,ターゲット領域音響シーンの各周波数帯域の1次及び2次サンプル統計値と,ソース領域学習データセットの1次と2次サンプル統計値との整合性を有する教師なし領域適応手法を提案する。 提案手法は,文献にみられる最先端の教師なし手法よりも,ソース・ドメインの分類精度とターゲット・ドメインの分類精度の両面で優れていることを示す。
  論文  参考訳（メタデータ） (2020-04-30T23:56:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。