論文の概要: RT-SEMamba: Real-Time Speech Enhancement Mamba via Progressive Knowledge Distillation

• arxiv url: http://arxiv.org/abs/2608.12099v1
• Date: Wed, 12 Aug 2026 14:21:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-13 19:07:54.611002
• Title: RT-SEMamba: Real-Time Speech Enhancement Mamba via Progressive Knowledge Distillation
• Title（参考訳）: RT-SEMamba:プログレッシブ・ナレッジ蒸留によるリアルタイム音声強調マンバ
• Abstract要約: 因果時間周波数Mambaブロックをベースとした完全因果音声強調(SE)モデルRT-SEMambaを提案する。 さらに,先進的知識蒸留(KD)戦略を導入し,教師を浅層1層に配置する。
• 参考スコア（独自算出の注目度）: 47.55765938384564
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We present RT-SEMamba, a fully causal speech enhancement (SE) model built upon causal time-frequency Mamba blocks. Unlike Transformer-based architectures that rely on a growing key-value cache, Mamba propagates a fixed-size recurrent state per layer, enabling memory- and bandwidth-efficient long-form inference. We further introduce a progressive knowledge distillation (KD) strategy that compresses an 8-layer teacher into a shallow 1-layer student by jointly distilling complex spectral outputs and intermediate representations. On Voicebank-DEMAND, the 8-layer RT-SEMamba achieves 3.32 PESQ with a 25 ms algorithmic latency constraint, and the distilled 1-layer student improves over a naive 1-layer baseline from 3.06 to 3.18 PESQ while preserving the same steady-state RTF, delivering a 2.75x speedup over the teacher. These results demonstrate that state-space models with progressive KD provide a competitive quality-latency trade-off for real-time SE.
• Abstract（参考訳）: 因果時間周波数マンバブロックを用いた完全因果音声強調(SE)モデルRT-SEMambaを提案する。 キーバリューキャッシュの増大に依存するTransformerベースのアーキテクチャとは異なり、Mambaはレイヤごとの固定サイズリカレント状態を伝搬し、メモリと帯域幅の効率の良いロングフォーム推論を可能にする。 さらに、複雑なスペクトル出力と中間表現を共同で蒸留することにより、8層教師を浅層1層に圧縮するプログレッシブ・ナレッジ・蒸留(KD)戦略を導入する。 Voicebank-DEMANDでは、8層RT-SEMambaは25ミリ秒のアルゴリズム遅延制約で3.32 PESQを達成し、蒸留された1層学習者は、同じ定常RTFを維持しながら、1層ベースラインを3.06から3.18 PESQに改善し、教師に2.75倍のスピードアップを提供する。 これらの結果は、プログレッシブなKDを持つ状態空間モデルがリアルタイムSEに対して競合する品質-レイテンシトレードオフをもたらすことを示している。

関連論文リスト

• On the Design of Qwen3.8-Next Architecture: Evaluation, Efficiency, and Training Stability [57.03393882933515]
  Qwen3.8-Flash-Nextは125Bパラメータ、トークンあたり6Bアクティベートされ、加速器から保持されるn-gram埋め込みテーブルの51Bパラメータを持つスパースミックス・オブ・エキスパートモデルである。 トレーニング前の14のベンチマークでは、このモデルは前モデルの397B-A17Bを8点、残りを少なくとも2.6ポイント、アクティベートされたパラメータが1/3、トレーニングトークンが1/3、トレーニング用FLOPが1/9であった。
  論文  参考訳（メタデータ） (2026-08-31T06:35:07Z)
• Enhancing deep learning models for time series classification via knowledge distillation [0.49387059996366106]
  知識蒸留(KD)は、大きな教師モデルからより小さく、より効率的な学生モデルに知識を移すことによってこの問題に対処する。 時系列データセットの最大のベンチマークリポジトリであるUCR Archiveに対する我々のアプローチを評価する。
  論文  参考訳（メタデータ） (2026-07-07T20:51:22Z)
• UniFS: Unified Fast-to-Slow Hierarchical Architecture for Vision-Language-Action Models [15.95393143175101]
  視覚言語モデルのための統合型高速・低速アーキテクチャUniFSを紹介する。 VLA-Adapterベースラインを2.5%上回る平均成功率は98.3%)。 LIBEROの実験では、UniFSは最先端のパフォーマンスを達成する(平均成功率98.3%、VLA-Adapterベースラインよりも2.5%)。
  論文  参考訳（メタデータ） (2026-06-22T03:10:19Z)
• Adaptive Gate-Aware Mamba Networks for Magnetic Resonance Fingerprinting [8.673589204148115]
  MRF(MR Resonance Fingerprinting)は、信号の進化を予め定義された辞書に合わせることで高速な定量的イメージングを可能にする。 最近の研究は、DMに代わるディープラーニングベースのアプローチを探求している。 両MambaベースのエンコーダとGAST(Gate-Aware Spatial-Temporal)プロセッサを組み合わせたエンドツーエンドフレームワークであるGAST-Mambaを提案する。
  論文  参考訳（メタデータ） (2025-07-04T08:04:01Z)
• Multi-granular body modeling with Redundancy-Free Spatiotemporal Fusion for Text-Driven Motion Generation [10.843503146808839]
  HiSTF Mambaを3つの部分からなるフレームワークとして紹介する: Dual-tial Mamba, Bi-Temporal Mamba, Spatiotemporal Fusion Module (DSFM)。 HumanML3Dベンチマークの実験では、HiSTF Mambaはいくつかの指標でよく機能し、高い忠実さとテキストとモーション間の密接なセマンティックアライメントを実現している。
  論文  参考訳（メタデータ） (2025-03-10T04:01:48Z)
• Mamba-SEUNet: Mamba UNet for Monaural Speech Enhancement [54.427965535613886]
  Mambaは、新しいステートスペースモデル(SSM)として、自然言語処理やコンピュータビジョンに広く応用されている。 本稿では,MambaとU-Net for SEタスクを統合する革新的なアーキテクチャであるMamba-SEUNetを紹介する。
  論文  参考訳（メタデータ） (2024-12-21T13:43:51Z)
• MobileMamba: Lightweight Multi-Receptive Visual Mamba Network [51.33486891724516]
  従来の軽量モデルの研究は、主にCNNとTransformerベースの設計に重点を置いてきた。 効率と性能のバランスをとるMobileMambaフレームワークを提案する。 MobileMambaはTop-1で83.6%を達成し、既存の最先端の手法を上回っている。
  論文  参考訳（メタデータ） (2024-11-24T18:01:05Z)
• An Investigation of Incorporating Mamba for Speech Enhancement [64.59903328820624]
  本研究の目的は、最近提案された、注意のないスケーラブルな状態空間モデル(SSM)であるMambaを用いて、音声強調(SE)タスクを実現することである。 私たちはMambaを使って,基本,先進,因果,非因果といった,さまざまな構成のレグレッションベースのSEモデル(SEMamba)をデプロイしています。 SEMambaはVoiceBank-DEMANDデータセットで3.55のPESQを獲得し、高度な非因果構成を持つ。
  論文  参考訳（メタデータ） (2024-05-10T16:18:49Z)
• MAST: Multiscale Audio Spectrogram Transformers [53.06337011259031]
  音声分類のためのマルチスケール音声スペクトログラム変換器(MAST)について,マルチスケール特徴階層の概念をAST(Audio Spectrogram Transformer)に適用した。 実際に、MASTはLAPEベンチマークの8つの音声および非音声タスクで平均3.4%の精度でASTを著しく上回っている。
  論文  参考訳（メタデータ） (2022-11-02T23:34:12Z)
• Uconv-Conformer: High Reduction of Input Sequence Length for End-to-End Speech Recognition [3.3627327936627416]
  この研究は、標準のコンフォーマーモデルに基づく新しいUconv-Conformerアーキテクチャを提案する。 我々は、U-Netアーキテクチャに似たアップサンプリングブロックを用いて、正しいCTC損失計算とネットワークトレーニングの安定化を図る。 Uconv-Conformerアーキテクチャは、トレーニングと推論の点で高速であるだけでなく、ベースラインのConformerよりもWERが優れている。
  論文  参考訳（メタデータ） (2022-08-16T10:40:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。