論文の概要: Bio-Inspired Auditory Processing: Coupling Parallel Resonate-and-Fire Dynamics with Ternary Recurrent Networks for Speech Recognition
- arxiv url: http://arxiv.org/abs/2610.29720v1
- Date: Wed, 21 Oct 2026 13:29:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-23 00:40:06.370914
- Title: Bio-Inspired Auditory Processing: Coupling Parallel Resonate-and-Fire Dynamics with Ternary Recurrent Networks for Speech Recognition
- Title(参考訳): バイオインスパイアされた聴覚処理:3次リカレントネットワークと並列共振・発火ダイナミクスの結合による音声認識
- Abstract要約: スパイキングニューラルネットワーク(SNN)は、イベント駆動推論によるエネルギー効率の高い計算を約束する。
主要なボトルネックはLeaky Integrate-and-Fireニューロンで、膜崩壊は一時停止や境界を越えて情報を消去する。
非線形フィルタリングとソマティックな積分の分離から着想を得たスパイキング3次GRUを導入する。
- 参考スコア(独自算出の注目度): 4.5153883425249015
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Spiking Neural Networks (SNNs) promise energy-efficient inference through sparse, event-driven computation, yet remain constrained on continuous, context-dependent tasks such as automatic speech recognition (ASR). A key bottleneck is the Leaky Integrate-and-Fire (LIF) neuron, whose membrane decay erases information across pauses and phonetic boundaries while it must both extract features and retain long-range context. Inspired by cortical separation of nonlinear filtering and somatic integration, we introduce the Spiking Ternary GRU (stGRU): a ternary-weight gated recurrent unit performs temporal filtering, while downstream Resonate-and-Fire (RF) neurons generate the binary spike stream driving the next block's event pathway. This makes binary event transmission a native training constraint rather than a separate deployment-time activation quantization step; together with ternary weights, learned projections avoid dense floating-point matrix MACs. Trained end-to-end on LibriSpeech-960, Small, Medium, and Large stGRUs reach 8.09%, 7.04%, and $6.44 \pm 0.17\%$ WER on test-clean without an external language model. To our knowledge, these are the first matrix-MAC-free spiking networks without a learned ANN sequence decoder to achieve single-digit WER on LibriSpeech. The architecture also achieves 10.88% test CER on Aishell-1 (9.28% on dev) when trained from scratch. Internally, trained networks develop a depth-graded hierarchy: shallow layers act as fast acoustic filters, while deep layers form slower semantic integrators whose latent representations segregate into part-of-speech manifolds and word-level spike events. Deep-layer firing rates follow lognormal distributions with a sparsity gradient, mirroring hierarchical processing observed in human cortex in vivo. Our biologically grounded architecture combines competitive ASR with favorable modeled compute and memory cost.
- Abstract(参考訳): スパイキングニューラルネットワーク(SNN)は、スパースでイベント駆動の計算を通じてエネルギー効率の高い推論を約束するが、自動音声認識(ASR)のような連続的な文脈に依存したタスクには制約が残っている。
重要なボトルネックはLeaky Integrate-and-Fire(LIF)ニューロンであり、膜が停止や音節の境界を越えて情報を消去する一方で、特徴を抽出し、長距離コンテキストを保持する必要がある。
非線形フィルタリングと体性統合の皮質分離から着想を得た3重ゲートリカレントユニットであるSpking Ternary GRU(stGRU)を導入し、下流のResonate-and-Fire(RF)ニューロンは次のブロックのイベントパスを駆動するバイナリスパイクストリームを生成する。
これにより、バイナリイベント送信は、別個のデプロイ時アクティベーション量子化ステップではなく、ネイティブなトレーニング制約となる。
LibriSpeech-960、Small、Medium、Large stGRUのエンドツーエンドのトレーニングは、外部言語モデルなしでテストクリーンで8.09%、7.04%、および6.44 \pm 0.17\%$ WERに達した。
我々の知る限り、これらはANNシークエンスデコーダを使わずに、LibriSpeech上で1桁のWERを実現する最初の行列MACフリースパイクネットワークである。
アーキテクチャはまた、Aishell-1(開発で9.28%)で10.88%のテストCERを達成する。
浅層層は高速な音響フィルタとして機能し、深層層は遅延表現を音声多様体と単語レベルのスパイクイベントに分離する遅いセマンティックインテグレータを形成する。
深層焼成速度は、生体内で観察されるヒト大脳皮質の階層的処理を反映し、疎度勾配の対数正規分布に従う。
我々の生物学的基盤を持つアーキテクチャは、競合するASRと、好ましいモデル化された計算とメモリコストを組み合わせる。
関連論文リスト
- Scalable Training of Continuous-Time Spiking Neural Networks with Differentiable Spike-Time Discretization [1.489944824637277]
連続時間スパイクニューラルネットワーク(SNN)のためのメモリ効率のトレーニングフレームワークを提案する。
微分可能なスパイク時間離散化は、不規則なシナプス前スパイクを一定時間点における微分可能な重み付き事象にマッピングする。
密度の高いLIF層では、DSTDはスパイク時間計算と比較してピークメモリの消費を最大100倍に減らし、トレーニング時間を最大20倍に減らした。
論文 参考訳(メタデータ) (2026-07-16T07:38:24Z) - SCORE: Replacing Layer Stacking with Contractive Recurrent Depth [0.0]
残余接続は、現代のディープニューラルネットワークの中心である。
本稿では,従来の層積み重ねに代わる離散的再帰型 SCORE (Skip-Connection ODE Recurrent Embedding) を提案する。
論文 参考訳(メタデータ) (2026-03-11T08:49:03Z) - Self-Supervised Learning via Flow-Guided Neural Operator on Time-Series Data [57.85958428020496]
Flow-Guided Neural Operator (FGNO)は、演算子学習とフローマッチングを組み合わせた新しいフレームワークである。
FGNOは、短時間フーリエ変換を用いて関数空間のマッピングを学習し、異なる時間分解能を統一する。
推論中にノイズのある入力を使用する以前の生成SSL法とは異なり、ノイズのある表現を学習しながら、クリーンな入力を用いて表現抽出を行う。
論文 参考訳(メタデータ) (2026-02-12T18:54:57Z) - Efficient Memristive Spiking Neural Networks Architecture with Supervised In-Situ STDP Method [0.0]
時間的スパイクエンコーディングを備えたメムリスタベースのスパイキングニューラルネットワーク(SNN)は、超低エネルギー計算を可能にする。
本稿では,新しい教師付きin-situ学習アルゴリズムを用いて学習した回路レベルのメムリシブスパイクニューラルネットワーク(SNN)アーキテクチャを提案する。
論文 参考訳(メタデータ) (2025-07-28T17:09:48Z) - Neuromorphic Wireless Split Computing with Resonate-and-Fire Neurons [69.73249913506042]
本稿では、共振器(RF)ニューロンを用いて時間領域信号を直接処理する無線スプリットコンピューティングアーキテクチャについて検討する。
可変周波数で共鳴することにより、RFニューロンは低スパイク活性を維持しながら時間局在スペクトル特徴を抽出する。
実験の結果,提案したRF-SNNアーキテクチャは従来のLIF-SNNやANNと同等の精度を達成できることがわかった。
論文 参考訳(メタデータ) (2025-06-24T21:14:59Z) - LipKernel: Lipschitz-Bounded Convolutional Neural Networks via Dissipative Layers [0.0468732641979009]
本稿では,畳み込みニューラルネットワーク(CNN)の階層的パラメータ化を提案する。
提案手法は,2次元ロエサー型状態空間モデルを用いて,散逸型畳み込みカーネルを直接パラメータ化する。
提案手法を用いた実行時間は,最先端のリプシッツ有界ネットワークよりも桁違いに高速であることを示す。
論文 参考訳(メタデータ) (2024-10-29T17:20:14Z) - NAF: Neural Attenuation Fields for Sparse-View CBCT Reconstruction [79.13750275141139]
本稿では,スパースビューCBCT再構成のための新規かつ高速な自己教師型ソリューションを提案する。
所望の減衰係数は、3次元空間座標の連続関数として表現され、完全に接続されたディープニューラルネットワークによってパラメータ化される。
ハッシュ符号化を含む学習ベースのエンコーダが採用され、ネットワークが高周波の詳細をキャプチャするのに役立つ。
論文 参考訳(メタデータ) (2022-09-29T04:06:00Z) - TSception: Capturing Temporal Dynamics and Spatial Asymmetry from EEG
for Emotion Recognition [9.825158483198113]
TSceptionは、情動性脳波(EEG)から時相ダイナミクスを学ぶためのマルチスケール畳み込みニューラルネットワークである
提案手法は, 今後, 感情認識のための感情調節療法に用いることができる。
論文 参考訳(メタデータ) (2021-04-07T06:10:01Z) - Neural Architecture Search For LF-MMI Trained Time Delay Neural Networks [61.76338096980383]
TDNN(State-of-the-the-art Factored Time delay Neural Network)の2種類のハイパーパラメータを自動的に学習するために、さまざまなニューラルネットワークサーチ(NAS)技術が使用されている。
DARTSメソッドはアーキテクチャ選択とLF-MMI(格子のないMMI)TDNNトレーニングを統合する。
300時間のSwitchboardコーパスで行われた実験では、自動構成システムはベースラインLF-MMI TDNNシステムより一貫して優れていることが示唆された。
論文 参考訳(メタデータ) (2020-07-17T08:32:11Z) - Incremental Training of a Recurrent Neural Network Exploiting a
Multi-Scale Dynamic Memory [79.42778415729475]
本稿では,マルチスケール学習を対象とする,漸進的に訓練された再帰的アーキテクチャを提案する。
隠れた状態を異なるモジュールに分割することで、シンプルなRNNのアーキテクチャを拡張する方法を示す。
新しいモジュールがモデルに反復的に追加され、徐々に長い依存関係を学習するトレーニングアルゴリズムについて議論する。
論文 参考訳(メタデータ) (2020-06-29T08:35:49Z) - Temporal-Spatial Neural Filter: Direction Informed End-to-End
Multi-channel Target Speech Separation [66.46123655365113]
ターゲット音声分離とは、混合信号からターゲット話者の音声を抽出することを指す。
主な課題は、複雑な音響環境とリアルタイム処理の要件である。
複数話者混合から対象音声波形を直接推定する時間空間ニューラルフィルタを提案する。
論文 参考訳(メタデータ) (2020-01-02T11:12:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。