論文の概要: Low-Rank Frequency Convolution and Noise-Range Augmentation for Real-Time Pitch Estimation on Edge Devices
- arxiv url: http://arxiv.org/abs/2609.23340v1
- Date: Sun, 20 Sep 2026 03:53:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-22 20:29:00.772447
- Title: Low-Rank Frequency Convolution and Noise-Range Augmentation for Real-Time Pitch Estimation on Edge Devices
- Title(参考訳): エッジデバイスにおけるリアルタイムピッチ推定のための低域周波数畳み込みとノイズレンジ増大
- Abstract要約: 本報告では、我々の初期の研究の周波数畳み込みネットワーク(FrCN)を低ランクの形式に分解する。
トレーニング中に使用するノイズの範囲は、干渉が深刻であるときにモデルがどのように振る舞うかを設定する際に、アーキテクチャを支配していることも示される。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Pitch estimation on an edge device is constrained in three ways at once. The model must be small, it must stay accurate when the input is noisy, and one frame must be produced inside the frame period. In this report the Frequency Convolution Network (FrCN) of our earlier work is factored into a low-rank form. The number of parameters is reduced by 35.9%, from 17,787 to 11,397, and accuracy is not reduced, either in domain or on two corpora the model was never trained on. The range of the noise used during training is also shown to dominate the architecture in setting how the model behaves when the interference is severe. When the training noise floor is lowered from +6.02 dB to -20 dB, 0.35 points of clean RPA50 are lost and RPA50 at -20 dB is raised from 2.44 to 22.41. This effect is about two orders of magnitude larger than any architectural effect that was measured. The semi-orthogonal constraint used in TDNN-F is found to be redundant with the normalization inside the bottleneck, and accuracy is reduced when both are applied. Whether the factorization saves time depends on the runtime: in eager PyTorch the factored model is 45% slower, while in a compiled kernel it is 15% faster. For deployment, a small C kernel was written. It needs 83 kB on disk and no runtime library beyond libc and libm. It is faster than OpenBLAS on all four CPUs that were tested, faster than ONNX Runtime by 3.8 times, and faster than PyTorch by 13 times. Its output was checked against PyTorch on 271,893 held-out frames per model, and the same pitch bin was selected on every one of them.
- Abstract(参考訳): エッジデバイス上のピッチ推定は、一度に3つの方法で制約される。
モデルは小さくなければならず、入力がノイズの多いときに正確であり続け、フレーム期間内に1つのフレームを生成する必要がある。
本報告では、我々の初期の研究の周波数畳み込みネットワーク(FrCN)を低ランクの形式に分解する。
パラメータの数は17,787から11,397まで35.9%減少し、ドメインでも2つのコーパスでも精度は低下しない。
トレーニング中に使用するノイズの範囲は、干渉が深刻であるときにモデルがどのように振る舞うかを設定する際に、アーキテクチャを支配していることも示される。
トレーニングノイズフロアが+6.02dBから−20dBに低下すると、クリーンRPA50の0.35ポイントが失われ、−20dBのRPA50が2.44から22.41に上昇する。
この効果は、測定されたどのアーキテクチャ効果よりも2桁ほど大きい。
TDNN-Fで用いられる半直交制約はボトルネック内部の正規化と冗長であり、両方を適用すると精度が低下する。
因数分解が時間を削減するかどうかはランタイムに依存します – 熱心なPyTorchでは、因数化モデルは45%遅く、コンパイルされたカーネルでは15%速くなります。
デプロイには、小さなCカーネルが書かれていた。
ディスクには83kBが必要で、libcやlibm以外のランタイムライブラリは必要ありません。
テストされた4つのCPUでOpenBLASより高速で、ONNX Runtimeより3.8倍速く、PyTorchより13倍速い。
出力はモデル当たり271,893フレームでPyTorchに対してチェックされ、同じピッチビンがそれぞれ選択された。
関連論文リスト
- Compress and Forget: bitsandbytes Quantization Amplifies Proactive Interference in LLMs [0.23438564092609357]
プロアクティブ干渉(英: Proactive interference, PI)は、大規模言語モデルにおける文書化された障害モードであり、繰り返し上書きされた値の検索は、事前上書きが蓄積されるにつれて劣化する。
PTQは現在、オープンウェイトモデルのデフォルトのデプロイメントパスとなっているが、この障害モードへの影響はテストされていない。
アーキテクチャ的に異なる3つの命令調整モデルの3つの精度レベル(FP16, INT8, INT4/NF4, ビット/バイト)を評価する。
論文 参考訳(メタデータ) (2026-08-19T06:17:13Z) - Large Models for Small Devices: Recent Advances and Empirical Analysis of Edge AI Deployment [4.582004238093247]
リソース制約のあるエッジデバイス上で大規模なAIモデルを実行するには、モデルサイズと計算量を削減するためにモデル圧縮が必要である。
質問応答とイメージセグメンテーションにまたがって、GPU、CPU、Raspberry Piプラットフォームにコンパクトな言語とイメージモデルをデプロイします。
ニューラルネットワークグラフ解析とプリフィル・デコードレベルの遅延分解により,これらの効果を説明する。
論文 参考訳(メタデータ) (2026-08-16T11:52:13Z) - QuantiSpect: A Structure-Aware Lightweight 3D CNN Pre-Decoder for Scalable Surface Code Quantum Error Correction [13.996295115428858]
我々は、回転した表面コードのための軽量な3D畳み込みニューラルネットワーク(CNN)プリデコーダQuantiSpectを提案する。
鍵となるアイデアは、密集した3次元の畳み込みを、各残留ブロックに3つの平行な分岐で置き換えることである。
QuantiSpectは、Curcurateの回路レベルの閾値と精度を適度で大きなコード距離で一致させる。
論文 参考訳(メタデータ) (2026-07-20T17:43:08Z) - KernelBench-Verified: Do LLM-Generated Kernels Actually Beat PyTorch? [13.026983194416168]
大きな言語モデル(LLM)は、KernelBenchのようなベンチマークでPyTorchを上回っているように見えるカスタムカーネルを生成することができる。
We demonstrate that frontier models often involved in reward hacking to artificially inflate performance。
論文 参考訳(メタデータ) (2026-06-26T03:22:50Z) - Speedy MASt3R [68.47052557089631]
MASt3Rは、DUSt3Rを活用して高速な相互マッチング方式を導入することで、画像マッチングを3Dタスクとして再定義する。
高速MASt3Rは、精度を犠牲にすることなく、推論時間(画像ペアあたり198msから91ms)を54%削減する。
この進歩により、リアルタイムな3D理解が可能になり、複合現実ナビゲーションや大規模3Dシーン再構築といったアプリケーションに恩恵をもたらす。
論文 参考訳(メタデータ) (2025-03-13T03:56:22Z) - SVDQuant: Absorbing Outliers by Low-Rank Components for 4-Bit Diffusion Models [61.474101404805545]
拡散モデルは高品質なイメージを生成することができるが、スケールするにつれて、メモリ要求が増加し、より高いレイテンシがデプロイメント上の課題を引き起こす。
この制限を克服する新しい4ビット量子化パラダイムであるSVDQuantを提案する。
We reduce the memory usage for the 12B FLUX.1 models by 3.5$times$, achieved 3.0$times$ speedup over the 4-bit weight-only Quantization (W4A16) baseline。
論文 参考訳(メタデータ) (2024-11-07T18:59:58Z) - SKI to go Faster: Accelerating Toeplitz Neural Networks via Asymmetric
Kernels [69.47358238222586]
Toeplitz Neural Networks (TNN) は、印象的な結果を持つ最近のシーケンスモデルである。
我々は, O(n) 計算複雑性と O(n) 相対位置エンコーダ (RPE) 多層パーセプトロン (MLP) と減衰バイアスコールの低減を目指す。
双方向モデルの場合、これはスパースと低ランクのToeplitz行列分解を動機付ける。
論文 参考訳(メタデータ) (2023-05-15T21:25:35Z) - ANNETTE: Accurate Neural Network Execution Time Estimation with Stacked
Models [56.21470608621633]
本稿では,アーキテクチャ検索を対象ハードウェアから切り離すための時間推定フレームワークを提案する。
提案手法は,マイクロカーネルと多層ベンチマークからモデルの集合を抽出し,マッピングとネットワーク実行時間推定のためのスタックモデルを生成する。
生成した混合モデルの推定精度と忠実度, 統計モデルとルーフラインモデル, 評価のための洗練されたルーフラインモデルを比較した。
論文 参考訳(メタデータ) (2021-05-07T11:39:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。