論文の概要: Exploring Self-Supervised Contrastive Learning of Spatial Sound Event Representation

• arxiv url: http://arxiv.org/abs/2309.15938v1
• Date: Wed, 27 Sep 2023 18:23:03 GMT
• ステータス: 処理完了
• システム内更新日: 2023-09-29 19:05:43.965047
• Title: Exploring Self-Supervised Contrastive Learning of Spatial Sound Event Representation
• Title（参考訳）: 空間音イベント表現の自己教師付きコントラスト学習の検討
• Authors: Xilin Jiang, Cong Han, Yinghao Aaron Li, Nima Mesgarani
• Abstract要約: MC-SimCLRは、ラベルのない空間オーディオから、共同スペクトルと空間表現を学習する。 本稿では,様々なレベルの音声特徴を付加するマルチレベルデータ拡張パイプラインを提案する。 その結果,学習表現上の線形層は,事象分類精度と局所化誤差の両方の観点から,教師付きモデルよりも有意に優れていた。
• 参考スコア（独自算出の注目度）: 21.896817015593122
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In this study, we present a simple multi-channel framework for contrastive learning (MC-SimCLR) to encode 'what' and 'where' of spatial audios. MC-SimCLR learns joint spectral and spatial representations from unlabeled spatial audios, thereby enhancing both event classification and sound localization in downstream tasks. At its core, we propose a multi-level data augmentation pipeline that augments different levels of audio features, including waveforms, Mel spectrograms, and generalized cross-correlation (GCC) features. In addition, we introduce simple yet effective channel-wise augmentation methods to randomly swap the order of the microphones and mask Mel and GCC channels. By using these augmentations, we find that linear layers on top of the learned representation significantly outperform supervised models in terms of both event classification accuracy and localization error. We also perform a comprehensive analysis of the effect of each augmentation method and a comparison of the fine-tuning performance using different amounts of labeled data.
• Abstract（参考訳）: 本研究では,空間オーディオの'what'と'where'を符号化する,コントラスト学習(mc-simclr)のための簡易なマルチチャネルフレームワークを提案する。 MC-SimCLRは、未ラベル空間オーディオから共振スペクトルと空間表現を学習し、下流タスクにおける事象分類と音像定位の両方を向上する。 その中核となるのは、波形、メルスペクトル、一般化相互相関(GCC)機能など、様々なレベルのオーディオ機能を拡張するマルチレベルデータ拡張パイプラインである。 さらに,マイクロホンやマスクメル,GCCチャネルの順序をランダムに交換する,シンプルで効果的なチャネルワイド拡張手法を提案する。 これらの拡張により,学習表現の上の線形層は,事象分類精度と局所化誤差の両方において教師ありモデルを大幅に上回っていることがわかった。 また,各加算法の効果を包括的に解析し,異なるラベルデータを用いた微調整性能の比較を行った。

関連論文リスト

• Hybrid Convolutional and Attention Network for Hyperspectral Image Denoising [54.110544509099526]
  ハイパースペクトル画像(HSI)は、ハイパースペクトルデータの効果的な解析と解釈に重要である。 ハイブリット・コンボリューション・アテンション・ネットワーク(HCANet)を提案する。 主流HSIデータセットに対する実験結果は,提案したHCANetの合理性と有効性を示している。
  論文  参考訳（メタデータ） (2024-03-15T07:18:43Z)
• SLICER: Learning universal audio representations using low-resource self-supervised pre-training [53.06337011259031]
  ラベルなし音声データに事前学習エンコーダを組み込むための自己指導型学習手法を提案する。 我々の主な目的は、多種多様な音声および非音声タスクにまたがる一般化が可能な音声表現を学習することである。
  論文  参考訳（メタデータ） (2022-11-02T23:45:33Z)
• Decision Forest Based EMG Signal Classification with Low Volume Dataset Augmented with Random Variance Gaussian Noise [51.76329821186873]
  我々は6種類の手振りを限定的なサンプル数で分類できるモデルを作成し、より広い聴衆によく一般化する。 信号のランダムなバウンドの使用など、より基本的な手法のセットにアピールするが、これらの手法がオンライン環境で持てる力を示したいと考えている。
  論文  参考訳（メタデータ） (2022-06-29T23:22:18Z)
• Spatial mixup: Directional loudness modification as data augmentation for sound event localization and detection [9.0259157539478]
  データ拡張のためのパラメトリック空間音響効果の応用として空間混合を提案する。 修正は特定の方向から到着するシグナルを増強または抑制するが、効果は顕著ではない。 この手法はDCASE 2021 Task 3のデータセットを用いて評価され、空間混合により非拡張ベースライン上での性能が向上する。
  論文  参考訳（メタデータ） (2021-10-12T16:16:58Z)
• Improved Speech Emotion Recognition using Transfer Learning and Spectrogram Augmentation [56.264157127549446]
  音声感情認識(SER)は、人間とコンピュータの相互作用において重要な役割を果たす課題である。 SERの主な課題の1つは、データの不足である。 本稿では,スペクトログラム拡張と併用した移動学習戦略を提案する。
  論文  参考訳（メタデータ） (2021-08-05T10:39:39Z)
• Unsupervised Sound Localization via Iterative Contrastive Learning [106.56167882750792]
  データアノテーションを必要としない反復型コントラスト学習フレームワークを提案する。 次に、擬似ラベルを用いて、同じビデオからサンプリングされた視覚信号と音声信号の相関関係を学習する。 我々の反復的戦略は徐々に音像の局所化を奨励し、非発声領域と参照音声との相関を減少させる。
  論文  参考訳（メタデータ） (2021-04-01T07:48:29Z)
• SoundCLR: Contrastive Learning of Representations For Improved Environmental Sound Classification [0.6767885381740952]
  SoundCLRは、最先端の性能を持つ効果的な環境音分類のための教師付きコントラスト学習手法である。 利用可能な環境音のデータセットのサイズが比較的小さいため、転送学習と強力なデータ拡張パイプラインを提案し、活用する。 実験の結果,log-melスペクトルを用いたマスキングによる拡張技術により,認識性能が大幅に向上することが示された。
  論文  参考訳（メタデータ） (2021-03-02T18:42:45Z)
• Improved MVDR Beamforming Using LSTM Speech Models to Clean Spatial Clustering Masks [14.942060304734497]
  空間クラスタリング技術は、比較的任意のマイクロホン構成で大きなマルチチャネルノイズ低減を実現することができる。 LSTMニューラルネットワークは、単一チャネル入力のノイズから音声を認識するために訓練されているが、マルチチャネル記録における情報を完全に活用することは困難である。 本稿では,これら2つのアプローチを統合し,モデルベースEMソース分離局所化法(MESSL)により生成されたマスクを除去するためにLSTM音声モデルを訓練する。
  論文  参考訳（メタデータ） (2020-12-02T22:35:00Z)
• Enhancement of Spatial Clustering-Based Time-Frequency Masks using LSTM Neural Networks [3.730592618611028]
  我々はLSTMを用いて空間クラスタリングに基づく時間周波数マスクを強化する。 複数の単一チャネルLSTM-DNN音声強調器の信号モデリング性能と信号分離性能を両立させる。 カルディ自動音声認識装置の単語誤り率を用いて各システムの出力の可知性を評価する。
  論文  参考訳（メタデータ） (2020-12-02T22:29:29Z)
• Utterance Clustering Using Stereo Audio Channels [0.3656826837859034]
  本研究では,マルチチャンネル(ステレオ)音声信号を処理することで,発話クラスタリングの性能を向上させることを目的とする。 複数対人ディスカッションセッションにおける実録音実験により,提案手法は従来手法よりも有意に優れた性能を示した。
  論文  参考訳（メタデータ） (2020-09-10T18:25:33Z)
• Improving Stability of LS-GANs for Audio and Speech Signals [70.15099665710336]
  このベクトル空間で計算された正規性からジェネレータ最適化の定式化への切り離しの符号化は、より包括的な分光図を作成するのに役立つことを示す。 本手法をベースラインGANと比較してモード崩壊の少ないトレーニングにおける安定性向上に有効であることを示す。
  論文  参考訳（メタデータ） (2020-08-12T17:41:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。