論文の概要: Threshold Modulation for Online Test-Time Adaptation of Spiking Neural Networks

• arxiv url: http://arxiv.org/abs/2505.05375v1
• Date: Thu, 08 May 2025 16:09:40 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-09 21:43:49.950721
• Title: Threshold Modulation for Online Test-Time Adaptation of Spiking Neural Networks
• Title（参考訳）: スパイクニューラルネットワークのオンラインテスト時間適応のための閾値変調
• Authors: Kejie Zhao, Wenjia Hua, Aiersi Tuerhong, Luziwei Leng, Yuxin Ma, Qinghua Guo,
• Abstract要約: ニューロモルフィックチップにデプロイされたスパイクニューラルネットワーク(SNN)は、異なるシナリオでエッジデバイスに効率的なソリューションを提供する。 オンラインテストタイム適応(OTTA)は、ソースデータやラベル付きターゲットサンプルを必要とせずに、モデルが新しいデータ分布に適応できるようにすることで、有望なソリューションを提供する。 既存のOTTA法は主に従来のニューラルネットワーク用に設計されており、SNNには適していない。 本稿では,分散シフト下でのモデル一般化の促進を目的とした,低消費電力でニューロモルフィックなチップフレンドリーなオンラインテストタイム適応フレームワークを提案する。
• 参考スコア（独自算出の注目度）: 8.227928930805577
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Recently, spiking neural networks (SNNs), deployed on neuromorphic chips, provide highly efficient solutions on edge devices in different scenarios. However, their ability to adapt to distribution shifts after deployment has become a crucial challenge. Online test-time adaptation (OTTA) offers a promising solution by enabling models to dynamically adjust to new data distributions without requiring source data or labeled target samples. Nevertheless, existing OTTA methods are largely designed for traditional artificial neural networks and are not well-suited for SNNs. To address this gap, we propose a low-power, neuromorphic chip-friendly online test-time adaptation framework, aiming to enhance model generalization under distribution shifts. The proposed approach is called Threshold Modulation (TM), which dynamically adjusts the firing threshold through neuronal dynamics-inspired normalization, being more compatible with neuromorphic hardware. Experimental results on benchmark datasets demonstrate the effectiveness of this method in improving the robustness of SNNs against distribution shifts while maintaining low computational cost. The proposed method offers a practical solution for online test-time adaptation of SNNs, providing inspiration for the design of future neuromorphic chips. The demo code is available at github.com/NneurotransmitterR/TM-OTTA-SNN.
• Abstract（参考訳）: 最近、ニューロモルフィックチップ上に展開されるスパイクニューラルネットワーク(SNN)は、異なるシナリオでエッジデバイスに高い効率のソリューションを提供する。 しかしながら、デプロイ後の分散シフトに適応する能力は、非常に重要な課題になっています。 オンラインテスト時間適応(OTTA)は、ソースデータやラベル付きターゲットサンプルを必要とせずに、モデルが新しいデータ分布に動的に適応できるようにする、有望なソリューションを提供する。 それでも、既存のOTTAメソッドは、主に従来のニューラルネットワーク用に設計されており、SNNには適していない。 このギャップに対処するために,分散シフト下でのモデル一般化の促進を目的とした,低消費電力でニューロモルフィックなチップフレンドリーなオンラインテストタイム適応フレームワークを提案する。 提案手法はThreshold Modulation (TM) と呼ばれ、ニューロンのダイナミックスにインスパイアされた正規化によって発火閾値を動的に調整し、ニューロモルフィックハードウェアとの互換性を高める。 ベンチマークデータセットを用いた実験結果から,SNNの分散シフトに対するロバスト性を向上させる上で,低計算コストを維持しつつ,本手法の有効性が示された。 提案手法は、SNNのオンラインテスト時間適応のための実用的なソリューションを提供し、将来のニューロモルフィックチップの設計にインスピレーションを与える。 デモコードはgithub.com/NneurotransmitterR/TM-OTTA-SNNで公開されている。

関連論文リスト

• Deep-Unrolling Multidimensional Harmonic Retrieval Algorithms on Neuromorphic Hardware [78.17783007774295]
  本稿では,高精度かつエネルギー効率の高い単発多次元高調波検索のための変換に基づくニューロモルフィックアルゴリズムの可能性について検討する。 複雑な値の畳み込み層と活性化をスパイクニューラルネットワーク(SNN)に変換する新しい手法を開発した。 変換されたSNNは、元のCNNに比べて性能が低下し、ほぼ5倍の電力効率を実現している。
  論文  参考訳（メタデータ） (2024-12-05T09:41:33Z)
• Randomized Forward Mode Gradient for Spiking Neural Networks in Scientific Machine Learning [4.178826560825283]
  スパイキングニューラルネットワーク(SNN)は、ディープニューラルネットワークの階層的学習能力とスパイクベースの計算のエネルギー効率を組み合わせた、機械学習における有望なアプローチである。 SNNの伝統的なエンドツーエンドトレーニングは、しばしばバックプロパゲーションに基づいており、重み更新はチェーンルールによって計算された勾配から導かれる。 この手法は, 生体適合性に限界があり, ニューロモルフィックハードウェアの非効率性のため, 課題に遭遇する。 本研究では,SNNの代替トレーニング手法を導入する。後方伝搬の代わりに,前方モード内での重量摂動手法を活用する。
  論文  参考訳（メタデータ） (2024-11-11T15:20:54Z)
• Accurate Mapping of RNNs on Neuromorphic Hardware with Adaptive Spiking Neurons [2.9410174624086025]
  我々は、SigmaDelta$-low-pass RNN(lpRNN)を、レートベースのRNNをスパイクニューラルネットワーク(SNN)にマッピングするために提示する。 適応スパイキングニューロンモデルは、$SigmaDelta$-modulationを使って信号を符号化し、正確なマッピングを可能にする。 我々は、Intelのニューロモルフィック研究チップLoihiにおけるlpRNNの実装を実演する。
  論文  参考訳（メタデータ） (2024-07-18T14:06:07Z)
• An Attempt to Devise a Pairwise Ising-Type Maximum Entropy Model Integrated Cost Function for Optimizing SNN Deployment [0.0]
  スパイクニューラルネットワーク(SNN)は、生物学的ニューロンのスパイク動作をエミュレートし、通常、分散メモリニューロモルフィックハードウェアにデプロイされる。 We model SNN dynamics using a Ising-type pairwise interaction framework, bridging micro neuron interaction with macroscopic network behavior。 我々は、sPyNNakerニューロモルフィックプラットフォーム上に配置された2つのSNNに対するアプローチを評価した。
  論文  参考訳（メタデータ） (2024-07-09T16:33:43Z)
• A Hybrid Neural Coding Approach for Pattern Recognition with Spiking Neural Networks [53.31941519245432]
  脳にインスパイアされたスパイクニューラルネットワーク(SNN)は、パターン認識タスクを解く上で有望な能力を示している。 これらのSNNは、情報表現に一様神経コーディングを利用する同質ニューロンに基づいている。 本研究では、SNNアーキテクチャは異種符号化方式を組み込むよう、均質に設計されるべきである、と論じる。
  論文  参考訳（メタデータ） (2023-05-26T02:52:12Z)
• Training High-Performance Low-Latency Spiking Neural Networks by Differentiation on Spike Representation [70.75043144299168]
  スパイキングニューラルネットワーク(SNN)は、ニューロモルフィックハードウェア上に実装された場合、有望なエネルギー効率のAIモデルである。 非分化性のため、SNNを効率的に訓練することは困難である。 本稿では,ハイパフォーマンスを実現するスパイク表現法(DSR)の差分法を提案する。
  論文  参考訳（メタデータ） (2022-05-01T12:44:49Z)
• Spiking Generative Adversarial Networks With a Neural Network Discriminator: Local Training, Bayesian Models, and Continual Meta-Learning [31.78005607111787]
  スパイキングパターンを再現するためにニューラルネットワークを訓練することは、ニューロモルフィックコンピューティングにおける中心的な問題である。 この研究は、個々のスパイキング信号ではなく、スパイキング信号にマッチするようにSNNを訓練することを提案する。
  論文  参考訳（メタデータ） (2021-11-02T17:20:54Z)
• LocalDrop: A Hybrid Regularization for Deep Neural Networks [98.30782118441158]
  本稿では,ローカルラデマチャー複雑性を用いたニューラルネットワークの正規化のための新しい手法であるLocalDropを提案する。 フルコネクテッドネットワーク(FCN)と畳み込みニューラルネットワーク(CNN)の両方のための新しい正規化機能は、ローカルラデマチャー複雑さの上限提案に基づいて開発されました。
  論文  参考訳（メタデータ） (2021-03-01T03:10:11Z)
• Optimizing Deep Neural Networks through Neuroevolution with Stochastic Gradient Descent [18.70093247050813]
  深部ニューラルネットワーク(DNN)の訓練における勾配降下(SGD)は優勢である 神経進化は進化過程に沿っており、しばしばSGDでは利用できない重要な機能を提供している。 個体群の多様性を改善するために,個体間の重み更新を克服する階層型クラスタ型抑制アルゴリズムも開発されている。
  論文  参考訳（メタデータ） (2020-12-21T08:54:14Z)
• Progressive Tandem Learning for Pattern Recognition with Deep Spiking Neural Networks [80.15411508088522]
  スパイキングニューラルネットワーク(SNN)は、低レイテンシと高い計算効率のために、従来の人工知能ニューラルネットワーク(ANN)よりも優位性を示している。 高速かつ効率的なパターン認識のための新しいANN-to-SNN変換およびレイヤワイズ学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2020-07-02T15:38:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。