Fugu-MT 論文翻訳(概要): Dynamic Convolutional Neural Networks as Efficient Pre-trained Audio Models

論文の概要: Dynamic Convolutional Neural Networks as Efficient Pre-trained Audio Models

arxiv url: http://arxiv.org/abs/2310.15648v1
Date: Tue, 24 Oct 2023 09:08:20 GMT
ステータス: 処理完了
システム内更新日: 2023-10-25 19:41:28.157723
Title: Dynamic Convolutional Neural Networks as Efficient Pre-trained Audio Models
Title（参考訳）: 効率的な事前学習音声モデルとしての動的畳み込みニューラルネットワーク
Authors: Florian Schmid, Khaled Koutini, Gerhard Widmer
Abstract要約: 現在の一般的なAudio Spectrogram Transformersは、CNNと比較して計算複雑性の面で要求されている。動的非線形性, 動的畳み込み, 注意機構からなる動的CNNブロックを導入する。実験の結果,導入した動的CNNはダウンストリームタスクの性能が向上し,スケールアップが良好であることが示唆された。
参考スコア（独自算出の注目度）: 4.803510486360358
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: The introduction of large-scale audio datasets, such as AudioSet, paved the way for Transformers to conquer the audio domain and replace CNNs as the state-of-the-art neural network architecture for many tasks. Audio Spectrogram Transformers are excellent at exploiting large datasets, creating powerful pre-trained models that surpass CNNs when fine-tuned on downstream tasks. However, current popular Audio Spectrogram Transformers are demanding in terms of computational complexity compared to CNNs. Recently, we have shown that, by employing Transformer-to-CNN Knowledge Distillation, efficient CNNs can catch up with and even outperform Transformers on large datasets. In this work, we extend this line of research and increase the capacity of efficient CNNs by introducing dynamic CNN blocks, constructed of dynamic non-linearities, dynamic convolutions and attention mechanisms. We show that these dynamic CNNs outperform traditional efficient CNNs, in terms of the performance-complexity trade-off and parameter efficiency, at the task of audio tagging on the large-scale AudioSet. Our experiments further indicate that the introduced dynamic CNNs achieve better performance on downstream tasks and scale up well, attaining Transformer performance and even outperforming them on AudioSet and several downstream tasks.
Abstract（参考訳）: audiosetのような大規模なオーディオデータセットの導入は、トランスフォーマーがオーディオドメインを克服し、cnnを最先端のニューラルネットワークアーキテクチャとして多くのタスクで置き換える手段となった。 Audio Spectrogram Transformerは大規模なデータセットを活用するのに優れており、下流タスクで微調整されたときにCNNを超える強力な事前学習モデルを生成する。しかし、現在の一般的なAudio Spectrogram Transformersは、CNNと比較して計算複雑性の点で要求されている。近年, Transformer-to-CNN Knowledge Distillation を用いることで, 効率的な CNN は, 大規模データセット上での Transformer に追いつき, 性能も向上することが示された。本研究では, 動的非線形性, 動的畳み込み, および注意機構からなる動的cnnブロックを導入することにより, この研究範囲を拡大し, 効率的なcnnのキャパシティを向上させる。これらの動的CNNは,大規模オーディオセットの音声タグ付け作業において,性能・複雑度トレードオフとパラメータ効率の観点から,従来のCNNよりも優れていることを示す。さらに,導入した動的cnnは,ダウンストリームタスクの性能向上とスケールアップ,トランスフォーマー性能の向上,オーディオセットやダウンストリームタスクよりも優れたパフォーマンスを実現していることを示す。

関連論文リスト

OA-CNNs: Omni-Adaptive Sparse CNNs for 3D Semantic Segmentation [70.17681136234202]
設計上の違いを再検討し、スパースCNNが達成できることの限界をテストする。本稿では,このギャップを埋めるために,適応受容場(親和性)と適応関係という2つの重要な要素を提案する。この調査により、軽量モジュールを統合するネットワークのファミリーであるOmni-Adaptive 3D CNN(OA-CNN)が開発された。
論文参考訳（メタデータ） (2024-03-21T14:06:38Z)
The Counterattack of CNNs in Self-Supervised Learning: Larger Kernel Size might be All You Need [103.31261028244782]
視覚変換器は、その卓越したスケーリングトレンドのおかげで、コンピュータビジョンにおいて急速に蜂起し、畳み込みニューラルネットワーク(CNN)を徐々に置き換えている。自己教師付き学習(SSL)に関する最近の研究は、サイムズ事前学習タスクを導入している。 SSLの文脈では、トランスフォーマーやセルフアテンションモジュールは本質的にCNNよりも適していると考えるようになった。
論文参考訳（メタデータ） (2023-12-09T22:23:57Z)
Transferability of Convolutional Neural Networks in Stationary Learning Tasks [96.00428692404354]
本稿では,大規模な空間問題に対する畳み込みニューラルネットワーク(CNN)の効率的なトレーニングのための新しいフレームワークを提案する。このような信号の小さなウィンドウで訓練されたCNNは、再学習することなく、はるかに大きなウィンドウでほぼ性能を発揮することを示す。以上の結果から,CNNは10人未満の訓練を受けた後,数百人のエージェントによる問題に対処できることが示唆された。
論文参考訳（メタデータ） (2023-07-21T13:51:45Z)
Learning General Audio Representations with Large-Scale Training of Patchout Audio Transformers [6.002503434201551]
大規模データセットで学習した音声変換器を用いて汎用表現を学習する。その結果,音声変換器で抽出した表現はCNN表現よりも優れていた。
論文参考訳（メタデータ） (2022-11-25T08:39:12Z)
Efficient Large-scale Audio Tagging via Transformer-to-CNN Knowledge Distillation [6.617487928813374]
高性能だが複雑な変換器からのオフライン知識蒸留(KD)に基づく効率的なCNNの訓練手順を提案する。我々は、低複雑さモデルからAudioSetの.483 mAPの新たな最先端パフォーマンスまで、さまざまな複雑さレベルのモデルを提供しています。
論文参考訳（メタデータ） (2022-11-09T09:58:22Z)
Efficient Training of Audio Transformers with Patchout [7.073210405344709]
音声スペクトログラム上での変換器の最適化と正規化を行う新しい手法を提案する。提案したモデルは、Audioset上で新しい最先端のパフォーマンスを実現し、単一のコンシューマグレードGPUでトレーニングすることができる。
論文参考訳（メタデータ） (2021-10-11T08:07:50Z)
Container: Context Aggregation Network [83.12004501984043]
最近の発見は、従来の畳み込みやトランスフォーマーコンポーネントを使わずに、シンプルなベースのソリューションが効果的な視覚表現を生成できることを示している。マルチヘッドコンテキストアグリゲーションのための汎用ビルディングブロックCONText Ion NERtwokを提案する。より大規模な入力画像解像度に依存する下流タスクにはスケールしないTransformerベースの手法とは対照的に、当社の効率的なネットワークであるModellightは、オブジェクト検出やインスタンスセグメンテーションネットワークに利用することができる。
論文参考訳（メタデータ） (2021-06-02T18:09:11Z)
Receptive Field Regularization Techniques for Audio Classification and Tagging with Deep Convolutional Neural Networks [7.9495796547433395]
CNNの受容場(RF)のチューニングは,その一般化に不可欠であることを示す。我々は,CNNのRFを制御し,結果のアーキテクチャを体系的にテストする,いくつかの系統的なアプローチを提案する。
論文参考訳（メタデータ） (2021-05-26T08:36:29Z)
Exploring Deep Hybrid Tensor-to-Vector Network Architectures for Regression Based Speech Enhancement [53.47564132861866]
我々は、CNN-TTというハイブリッドアーキテクチャが、モデルパラメータを小さくして高品質な性能を維持することができることを見出した。 CNN-TTは、音声品質を改善するために、特徴抽出のために下部に複数の畳み込み層で構成されている。
論文参考訳（メタデータ） (2020-07-25T22:21:05Z)
Curriculum By Smoothing [52.08553521577014]
畳み込みニューラルネットワーク(CNN)は、画像分類、検出、セグメンテーションなどのコンピュータビジョンタスクにおいて顕著な性能を示している。アンチエイリアスフィルタやローパスフィルタを用いてCNNの機能埋め込みを円滑化するエレガントなカリキュラムベースのスキームを提案する。トレーニング中に特徴マップ内の情報量が増加するにつれて、ネットワークはデータのより優れた表現を徐々に学習することができる。
論文参考訳（メタデータ） (2020-03-03T07:27:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。