論文の概要: On-Device Domain Learning for Keyword Spotting on Low-Power Extreme Edge Embedded Systems

• arxiv url: http://arxiv.org/abs/2403.10549v1
• Date: Tue, 12 Mar 2024 19:54:35 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-19 23:05:08.918864
• Title: On-Device Domain Learning for Keyword Spotting on Low-Power Extreme Edge Embedded Systems
• Title（参考訳）: 低消費電力エッジ組込みシステムにおけるキーワードスポッティングのためのオンデバイスドメイン学習
• Authors: Cristian Cioflan, Lukas Cavigelli, Manuele Rusci, Miguel de Prado, Luca Benini,
• Abstract要約: ニューラルネットワークがノイズの多い環境にさらされると、キーワードスポッティングの精度が低下する。 本稿では,すでにロバストなキーワードスポッティングモデルに対して最大14%の精度を達成できる,デバイス上でのドメイン適応システムを提案する。 超低消費電力マイクロコントローラでは、常時オンのバッテリー駆動デバイスでは、わずか14秒で806mJ以下でドメイン適応が達成できることを実証した。
• 参考スコア（独自算出の注目度）: 13.850083087763508
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Keyword spotting accuracy degrades when neural networks are exposed to noisy environments. On-site adaptation to previously unseen noise is crucial to recovering accuracy loss, and on-device learning is required to ensure that the adaptation process happens entirely on the edge device. In this work, we propose a fully on-device domain adaptation system achieving up to 14% accuracy gains over already-robust keyword spotting models. We enable on-device learning with less than 10 kB of memory, using only 100 labeled utterances to recover 5% accuracy after adapting to the complex speech noise. We demonstrate that domain adaptation can be achieved on ultra-low-power microcontrollers with as little as 806 mJ in only 14 s on always-on, battery-operated devices.
• Abstract（参考訳）: キーワードスポッティング精度は、ニューラルネットワークがノイズの多い環境にさらされると低下する。 未確認ノイズへのオンサイト適応は、精度損失の回復に不可欠であり、適応プロセスがエッジデバイス上で完全に実行されることを保証するためにデバイス上での学習が必要である。 本研究では,すでにロバストなキーワードスポッティングモデルよりも最大14%の精度を達成できる,デバイス上でのドメイン適応システムを提案する。 複雑な音声雑音に適応して5%の精度を回復するために,100個のラベル付き発話のみを用いて,10kB未満のメモリでデバイス上での学習を可能にする。 超低消費電力マイクロコントローラでは、常時オンのバッテリー駆動デバイスでは、わずか14秒で806mJ以下でドメイン適応が達成できることを実証した。

関連論文リスト

• Neural Precision Polarization: Simplifying Neural Network Inference with Dual-Level Precision [0.4124847249415279]
  浮動小数点モデルはクラウドでトレーニングされ、エッジデバイスにダウンロードされる。 ネットワークの重みとアクティベーションは、NF4やINT8のようなエッジデバイスの望ましいレベルを満たすために直接量子化される。 本稿では,Watt MAC の効率と信頼性について,約464 TOPS のニューラル精度の偏極が可能であることを示す。
  論文  参考訳（メタデータ） (2024-11-06T16:02:55Z)
• On-Chip Learning with Memristor-Based Neural Networks: Assessing Accuracy and Efficiency Under Device Variations, Conductance Errors, and Input Noise [0.0]
  本稿では,オンチップトレーニングと推論のためのメモリメモリハードウェアアクセラレータを提案する。 30メムリスタと4つのニューロンからなるハードウェアは、タングステン、クロム、炭素媒体を持つ3つの異なるM-SDC構造を用いてバイナリ画像分類タスクを実行する。
  論文  参考訳（メタデータ） (2024-08-26T23:10:01Z)
• Bridging the Gap Between End-to-End and Two-Step Text Spotting [88.14552991115207]
  ブリッジングテキストスポッティングは、2段階のメソッドでエラーの蓄積と最適化性能の問題を解決する新しいアプローチである。 提案手法の有効性を広範囲な実験により実証する。
  論文  参考訳（メタデータ） (2024-04-06T13:14:04Z)
• High-Throughput, High-Performance Deep Learning-Driven Light Guide Plate Surface Visual Quality Inspection Tailored for Real-World Manufacturing Environments [75.66288398180525]
  光導光板は、医療用照明器具からバックライトテレビディスプレイまで幅広い用途で広く利用されている光学部品である。 本研究では,光ガイド板表面の視覚的品質検査(VQI)を現実の製造環境に適した,完全に統合された,高性能なディープラーニング駆動ワークフローを提案する。 完全統合VQIシステム内のエッジコンピューティング上でのVQIの自動化を実現するため、高コンパクトな深層アンチエイリアス型アテンションコンデンサニューラルネットワーク(LightDefectNetと呼ぶ)が開発された。 LightDetectNetが検出精度を実現する実験
  論文  参考訳（メタデータ） (2022-12-20T20:11:11Z)
• CorrectNet: Robustness Enhancement of Analog In-Memory Computing for Neural Networks by Error Suppression and Compensation [4.570841222958966]
  本稿では,ニューラルネットワークの変動と雑音下での堅牢性を高める枠組みを提案する。 ニューラルネットワークの予測精度は、変動とノイズの下で1.69%以下から回復可能であることを示す。
  論文  参考訳（メタデータ） (2022-11-27T19:13:33Z)
• Adaptive R-Peak Detection on Wearable ECG Sensors for High-Intensity Exercise [3.7808904037372524]
  ウェアラブルセンサーによる生体信号の連続モニタリングは、医療・健康分野で急速に拡大している。 提案手法は,教師なし学習,ベイズフィルタリング,非線形正規化に基づく。 BayeSlopeは計算的に重く、デバイスバッテリーを迅速に排水できるので、その頑丈さを突然の生理的変化に適応させるオンライン設計を提案する。
  論文  参考訳（メタデータ） (2021-12-08T16:24:23Z)
• A TinyML Platform for On-Device Continual Learning with Quantized Latent Replays [66.62377866022221]
  Latent Replay-based Continual Learning (CL)技術は、原則としてオンライン、サーバレスの適応を可能にする。 10コアのFP32対応並列超低消費電力プロセッサをベースとした,エンドツーエンドCLのためのHW/SWプラットフォームを提案する。 これらの手法を組み合わせることで,64MB未満のメモリを用いて連続学習を実現することができることを示す。
  論文  参考訳（メタデータ） (2021-10-20T11:01:23Z)
• LCS: Learning Compressible Subspaces for Adaptive Network Compression at Inference Time [57.52251547365967]
  本稿では,ニューラルネットワークの「圧縮可能な部分空間」を訓練する手法を提案する。 構造的・非構造的空間に対する推定時間における微粒な精度・効率のトレードオフを任意に達成するための結果を示す。 我々のアルゴリズムは、可変ビット幅での量子化にまで拡張し、個別に訓練されたネットワークと同等の精度を実現する。
  論文  参考訳（メタデータ） (2021-10-08T17:03:34Z)
• Semantic Perturbations with Normalizing Flows for Improved Generalization [62.998818375912506]
  我々は、非教師付きデータ拡張を定義するために、潜在空間における摂動が利用できることを示す。 トレーニングを通して分類器に適応する潜伏性対向性摂動が最も効果的であることが判明した。
  論文  参考訳（メタデータ） (2021-08-18T03:20:00Z)
• Broadcasted Residual Learning for Efficient Keyword Spotting [7.335747584353902]
  モデルサイズと計算負荷を小さくして高精度な放送残差学習手法を提案する。 また,放送残差学習に基づく新しいネットワークアーキテクチャ,BC-Residual Network(BC-ResNet)を提案する。 BC-ResNetsは、Googleの音声コマンドデータセット v1 と v2 で、最先端の98.0% と98.7% のトップ-1 の精度をそれぞれ達成している。
  論文  参考訳（メタデータ） (2021-06-08T06:55:39Z)
• Neural Network Virtual Sensors for Fuel Injection Quantities with Provable Performance Specifications [71.1911136637719]
  証明可能な保証が、他の現実世界の設定にどのように自然に適用できるかを示す。 本研究では, 燃料噴射量を一定範囲で最大化するために, 特定の間隔の燃料噴射量を目標にする方法を示す。
  論文  参考訳（メタデータ） (2020-06-30T23:33:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。