論文の概要: Does per-frame early exit pay? A compute-matched study of dynamic depth for on-device speech enhancement
- arxiv url: http://arxiv.org/abs/2609.29867v1
- Date: Thu, 24 Sep 2026 14:25:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-25 21:10:10.000433
- Title: Does per-frame early exit pay? A compute-matched study of dynamic depth for on-device speech enhancement
- Title（参考訳）: フレームごとの早期出口給与は? : デバイス上での音声強調のための動的深さの計算マッチングによる検討
- Abstract要約: 深層学習に基づく音声強調は、補聴器、ヘッドセット、イヤホンにデバイス上での展開が増えている。
これらのデバイスの多くは静的な int8 グラフのみを加速できるため、奥行きの異なるネットワークを複数のグラフとして実装する必要がある。
本稿では,1つの因果モデルのすべての中間深さを監督し,その出力ヘッドを微調整して,より浅いものよりも深い出力が決して悪いことを保証する。
- 参考スコア（独自算出の注目度）: 3.007949058551534
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deep learning-based speech enhancement is increasingly deployed on-device in hearing aids, headsets, and earbuds. Most of these devices, however, can only accelerate static int8 graphs, so a depth-varying network must be implemented as several graphs, orchestrated by a policy. In this paper, we supervise every intermediate depth of one causal model, then we fine-tune its output heads to guarantee that deeper outputs are never worse than shallower ones. Using this training protocol, we can derive a family of static models that are more Pareto-efficient than their equivalently-sized counterparts trained from scratch on the same budget. Specifically, we achieve up to 0.11 higher PESQ for equivalent compute, and match the best PESQ at 30% less compute. We then quantize the models to int8 and measure the latency-quality frontier on an STM32N6 microcontroller. On VoiceBank-DEMAND, the dynamic enhancer lies on the same frontier as the static models, rather than trading quality for dynamic execution. Running the policy on the companion Cortex-M55 takes only 26 $μ$s per frame, while splitting the enhancer into separate NPU graphs adds 2.2% latency overhead. The cost of dynamic execution is therefore small.
- Abstract（参考訳）: 深層学習に基づく音声強調は、補聴器、ヘッドセット、イヤホンにデバイス上での展開が増えている。
しかし、これらのデバイスのほとんどは静的な int8 グラフのみを加速できるため、奥行きの異なるネットワークを複数のグラフとして実装し、ポリシーによって編成する必要がある。
本稿では,1つの因果モデルのすべての中間深さを監督し,その出力ヘッドを微調整して,より浅いものよりも深い出力が決して悪いことを保証する。
このトレーニングプロトコルを使うことで、同じ予算でスクラッチからトレーニングされた同等サイズのモデルよりもパレート効率の高い静的モデルのファミリーを導出できます。
具体的には、等価計算に対して最大0.11以上のPSSQを達成し、最高のPSSQと30%少ない計算で一致させる。
次に、モデルをInt8に量子化し、STM32N6マイクロコントローラ上のレイテンシ品質のフロンティアを測定する。
VoiceBank-DEMANDでは、動的エンハンサーは動的実行の品質を取引するのではなく、静的モデルと同じフロンティア上にある。
Cortex-M55でポリシーを実行するにはフレームあたり26$μ$sしかかからないが、エンハンサーを別々のNPUグラフに分割すると2.2%の遅延オーバーヘッドが生じる。
したがって、動的実行のコストは小さい。
関連論文リスト
- Decoupled Early Exits for Task-Dependent Compute Allocation in Flow-Matching VLAs [53.20313939184399]
フローマッチング型ビジョン・ランゲージ・アクション(VLA)モデルは、ジェネラリストロボット制御の潜在的な解決策として浮上している。
本稿では,バックボーン深度を$V$,アクションエキスパート深度を$A$,ステップを$D$とすることを提案する。
最適な計算予算はタスクに依存しており、様々なタスクは異なる軸と深さから恩恵を受ける。
論文 参考訳（メタデータ） (2026-09-24T11:10:00Z) - Quantum Tunneling-Aware Machine Learning: Physics-Derived Noise Models for Robust Deployment [5.373588450790602]
量子トンネル対応機械学習(QTAML)を紹介する。
We derived the deployment-time weight-error distribution from first principles using the Wentzel-Kramers-Brillouin (WKB) approximation。
我々は,これらの構造特性を単一配置時アルゴリズムであるTunning-Aware Compensation (TAC) にパッケージ化し,閉形式平均補正と最適層予算配分を組み合わせた。
論文 参考訳（メタデータ） (2026-05-30T14:21:16Z) - An Amortized Efficiency Threshold for Comparing Neural and Heuristic Solvers in Combinatorial Optimization [0.0]
ニューラル最適化ソルバの一般的な批判は、それらはCPUメタヒューリスティックスよりもエネルギー効率が低いことである。
本稿では,「トレーニングは高価」から「ニューラルソルバはネット非効率」への推論ステップについて検討する。
2つの解法間の累積エネルギー比は, ネットワークがインスタンス毎に勝利するたびに, 常に1以下となる傾向を示す。
論文 参考訳（メタデータ） (2026-05-14T09:39:15Z) - Star Elastic: Many-in-One Reasoning LLMs with Efficient Budget Control [27.041571161298688]
大規模言語モデル(LLM)のための新しいポストトレーニング手法であるStar Elasticを紹介する。
Star Elasticは、ある親の推論モデルにNのネストされたサブモデルを追加し、1回のトレーニング後のジョブで1回の実行(N-fold saves)を実行する。
The Nemotron Elastic framework, we apply Star Elastic to the NVIDIA Nemotron Nano model。
論文 参考訳（メタデータ） (2026-05-08T03:20:36Z) - $D^3$-RSMDE: 40$\times$ Faster and High-Fidelity Remote Sensing Monocular Depth Estimation [72.9912717963138]
リモートセンシング画像からのリアルタイムで高忠実な単眼深度推定は、多くのアプリケーションにとって不可欠である。
視覚変換器(ViT)のバックボーンを高密度な予測に使用するのは速いが、知覚品質は低いことが多い。
リモートセンシング単眼深度推定のための深度詳細拡散法(D3$-RSMDE)を提案する。
D3$-RSMDEは、Learninged Perceptual Image Patch similarity (LPIPS)の知覚距離を11.85%削減する。
論文 参考訳（メタデータ） (2026-03-17T10:50:36Z) - From Diet to Free Lunch: Estimating Auxiliary Signal Properties using Dynamic Pruning Masks in Speech Enhancement Networks [4.219150964619931]
音声デバイスにおける音声強調(SE)は、しばしばVoice Activity Detection (VAD)、SNR推定、音響シーン分類のための補助モジュールによって支援される。
その結果,VADでは93%,ノイズ分類では84%,F0では0.86であった。
コントリビューションは2つあり、一方、下流予測タスクのレンズを通してDynCPモデルの創発的挙動を調べ、それらが何を学習しているかを明らかにし、他方、効率的なSEと同時推定のための総合解としてDynCPを再利用し、再提案する。
論文 参考訳（メタデータ） (2026-02-11T09:09:20Z) - Noise-Adaptive Quantum Circuit Mapping for Multi-Chip NISQ Systems via Deep Reinforcement Learning [0.0]
本稿では,双方向長短期記憶に基づく動的雑音適応ネットワークを統合した深層強化学習フレームワークDeepQMapを提案する。
本手法は,量子系の動作の時間的表現を学習することで,ハードウェアのダイナミクスに継続的に適応する。
DeepQMapは平均回路忠実度が0.920 pm 0.023$であり、最先端のQUBO法よりも統計的に49.3%向上している。
論文 参考訳（メタデータ） (2025-11-22T14:27:55Z) - Flexiffusion: Training-Free Segment-Wise Neural Architecture Search for Efficient Diffusion Models [50.260693393896716]
拡散モデル(DM)は高忠実度画像を生成できる強力な生成モデルであるが、高い計算コストで制約される。
我々は、事前訓練されたパラメータを変更することなく、生成スケジュールとモデルアーキテクチャを協調的に最適化する、トレーニング不要なNASフレームワークFlexiffusionを提案する。
我々の研究は、品質を犠牲にすることなく高速DMを検索するための資源効率の良いパラダイムを開拓した。
論文 参考訳（メタデータ） (2025-06-03T06:02:50Z) - Latency-aware Unified Dynamic Networks for Efficient Image Recognition [72.8951331472913]
LAUDNetは動的ネットワークの理論的および実用的な効率ギャップを橋渡しするフレームワークである。
3つの主要な動的パラダイム - 適応型計算、動的層スキップ、動的チャネルスキップ - を統合している。
これにより、V100,3090やTX2 GPUのようなプラットフォーム上で、ResNetのようなモデルの遅延を50%以上削減できる。
論文 参考訳（メタデータ） (2023-08-30T10:57:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。