論文の概要: Practical Bayesian Inference for Speech SNNs: Uncertainty and Loss-Landscape Smoothing

• arxiv url: http://arxiv.org/abs/2604.08624v1
• Date: Thu, 09 Apr 2026 15:09:46 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-13 17:57:53.498148
• Title: Practical Bayesian Inference for Speech SNNs: Uncertainty and Loss-Landscape Smoothing
• Title（参考訳）: 音声SNNの実践的ベイズ推論:不確かさとロスランドスケープの平滑化
• Authors: Yesmine Abdennadher, Philip N. Garner,
• Abstract要約: スパイキングニューラルネットワーク(SNN)は、特定のダイナミクスのため、音声処理タスクに自然に適している。 しきい値に基づくSNNのスパイク生成は直感的に角や不規則な予測環境を引き起こす。 ベイズ学習法を重みとして用いた場合,不規則な予測景観に対する効果について検討する。
• 参考スコア（独自算出の注目度）: 8.622787301181067
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Spiking Neural Networks (SNNs) are naturally suited for speech processing tasks due to their specific dynamics, which allows them to handle temporal data. However, the threshold-based generation of spikes in SNNs intuitively causes an angular or irregular predictive landscape. We explore the effect of using the Bayesian learning approach for the weights on the irregular predictive landscape. For the surrogate-gradient SNNs, we also explore the application of the Improved Variational Online Newton (IVON) approach, which is an efficient variational approach. The performance of the proposed approach is evaluated on the Heidelberg Digits and Speech Commands datasets. The hypothesis is that the Bayesian approach will result in a smoother and more regular predictive landscape, given the angular nature of the deterministic predictive landscape. The experimental evaluation of the proposed approach shows improved performance on the negative log-likelihood and Brier score. Furthermore, the proposed approach has resulted in a smoother and more regular predictive landscape compared to the deterministic approach, based on the one-dimensional slices of the weight space
• Abstract（参考訳）: スパイキングニューラルネットワーク(SNN)は、特定のダイナミクスのために音声処理タスクに自然に適しており、時間的データを扱うことができる。 しかし、しきい値に基づくSNNのスパイク生成は直感的に角や不規則な予測環境を引き起こす。 本研究では,ベイズ学習法を重み付けに用い,不規則な予測景観に与える影響について検討する。 代用階調SNNに対しては、効率的な変分法アプローチである改良変分オンラインニュートン(IVON)アプローチについても検討する。 提案手法の性能はHeidelberg Digits and Speech Commandsデータセットを用いて評価する。 この仮説は、決定論的予測風景の角の性質を考えると、ベイズ的アプローチはより滑らかで規則的な予測景観をもたらすというものである。 提案手法を実験的に評価した結果, 負の対数類似度とブライアスコアの性能が向上した。 さらに, 提案手法は, 重み空間の1次元スライスに基づく決定論的手法と比較して, より滑らかで規則的な予測景観をもたらす。

関連論文リスト

• Curvature-Guided LoRA: Steering in the pretrained NTK subspace [60.35296431630704]
  本稿では,PEFTを用いて得られた予測器と,出力レベルにおける完全微調整の予測器との整合性を考慮した予測アライメント問題を提案する。 我々は、この目的が自然に、ニュートンのような、曲率ホワイトの勾配に対応する最適な低ランク更新を行う、曲率対応の2階定式化につながることを示した。 この知見に基づいて、局所曲率情報を用いて適応方向を選択し、スケールする曲率誘導LoRA(CG-LoRA)を提案する。
  論文  参考訳（メタデータ） (2026-03-31T14:46:39Z)
• Model-Free Local Recalibration of Neural Networks [0.0]
  可算確率予測は、多くの重要な意思決定タスクに限られている。 入力の次元再現表現を用いたANN予測分布の局所的再分類を提案する。 提案手法は,代替手法と比較して優れた性能を示す。
  論文  参考訳（メタデータ） (2024-03-09T01:58:45Z)
• Bayesian Deep Learning for Remaining Useful Life Estimation via Stein Variational Gradient Descent [14.784809634505903]
  本研究では,スタイン変分勾配勾配を用いたベイズ学習モデルが収束速度と予測性能に対して一貫して優れていたことを示す。 ベイズモデルが提供する不確実性情報に基づく性能向上手法を提案する。
  論文  参考訳（メタデータ） (2024-02-02T02:21:06Z)
• Subject-specific Deep Neural Networks for Count Data with High-cardinality Categorical Features [1.2289361708127877]
  本稿では,ポアソンディープニューラルネットワークにガンマランダム効果を導入するための新しい階層的確率学習フレームワークを提案する。 提案手法は,固定パラメータの最大極大推定器とランダム効果の最適非バイアス予測器を同時に生成する。 最先端のネットワークアーキテクチャは、提案されたh-likelihoodフレームワークに容易に実装できる。
  論文  参考訳（メタデータ） (2023-10-18T01:54:48Z)
• Variational Linearized Laplace Approximation for Bayesian Deep Learning [11.22428369342346]
  変分スパースガウス過程(GP)を用いた線形ラプラス近似(LLA)の近似法を提案する。 本手法はGPの2つのRKHSの定式化に基づいており、予測平均として元のDNNの出力を保持する。 効率のよい最適化が可能で、結果としてトレーニングデータセットのサイズのサブ線形トレーニング時間が短縮される。
  論文  参考訳（メタデータ） (2023-02-24T10:32:30Z)
• NUQ: Nonparametric Uncertainty Quantification for Deterministic Neural Networks [151.03112356092575]
  本研究では,Nadaraya-Watson の条件付きラベル分布の非パラメトリック推定に基づく分類器の予測の不確かさの測定方法を示す。 種々の実世界の画像データセットにおける不確実性推定タスクにおいて,本手法の強い性能を示す。
  論文  参考訳（メタデータ） (2022-02-07T12:30:45Z)
• Sampling-free Variational Inference for Neural Networks with Multiplicative Activation Noise [51.080620762639434]
  サンプリングフリー変動推論のための後方近似のより効率的なパラメータ化を提案する。 提案手法は,標準回帰問題に対する競合的な結果をもたらし,大規模画像分類タスクに適している。
  論文  参考訳（メタデータ） (2021-03-15T16:16:18Z)
• SLPC: a VRNN-based approach for stochastic lidar prediction and completion in autonomous driving [63.87272273293804]
  VRNN(Variiational Recurrent Neural Networks)と呼ばれる生成モデルに基づく新しいLiDAR予測フレームワークを提案する。 提案手法は,フレーム内の奥行きマップを空間的に塗り替えることで,スパースデータを扱う際の従来のビデオ予測フレームワークの限界に対処できる。 VRNNのスパースバージョンとラベルを必要としない効果的な自己監督型トレーニング方法を紹介します。
  論文  参考訳（メタデータ） (2021-02-19T11:56:44Z)
• Bayesian Deep Learning and a Probabilistic Perspective of Generalization [56.69671152009899]
  ディープアンサンブルはベイズ辺化を近似する有効なメカニズムであることを示す。 また,アトラクションの流域内での辺縁化により,予測分布をさらに改善する関連手法を提案する。
  論文  参考訳（メタデータ） (2020-02-20T15:13:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。