論文の概要: Multi-Timescale Conductance Spiking Networks: A Sparse, Gradient-Trainable Framework with Rich Firing Dynamics for Enhanced Temporal Processing
- arxiv url: http://arxiv.org/abs/2605.11835v1
- Date: Tue, 12 May 2026 09:22:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-13 21:48:56.749129
- Title: Multi-Timescale Conductance Spiking Networks: A Sparse, Gradient-Trainable Framework with Rich Firing Dynamics for Enhanced Temporal Processing
- Title(参考訳): マルチタイムコンダクタンススパイクネットワーク:時間処理強化のためのリッチファイリングダイナミクスを備えたスパース・グラディエント・トレインブル・フレームワーク
- Authors: Alex Fulleda-Garcia, Saray Soldado-Magraner, Josep Maria Margarit-Taulé,
- Abstract要約: スパイクニューラルネットワーク(SNN)は、時間的にリッチなタスクに対して、低消費電力のイベント駆動型計算を約束する。
電流電圧曲線の形状からニューラルダイナミクスが出現する勾配学習可能なフレームワークであるマルチタイムコンダクタンススパイクネットワークを導入する。
我々は、これらの微分可能力学の離散時間定式化を導出し、代理次数近似を使わずに時間を通して直接の逆伝播を可能にする。
- 参考スコア(独自算出の注目度): 0.20240089219927163
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Spiking neural networks (SNNs) promise low-power event-driven computation for temporally rich tasks, but commonly used neuron models often trade off gradient-based trainability, dynamical richness, and high activity sparsity. These limitations are acute in regression, where approximation error, noise and spike discretization can severely degrade continuous-valued outputs. Indeed, many state-of-the-art (SOTA) SNNs rely on simple phenomenological dynamics trained with surrogate gradients and offer limited control over spiking diversity and sparsity. To overcome such limitations, we introduce multi-timescale conductance spiking networks, a gradient-trainable framework in which neural dynamics emerge from shaping the current-voltage (I-V) curve by tuning fast, slow and ultra-slow conductances. This parametrization allows systematic control over excitability, can be implemented efficiently in analog circuits, and yields rich firing regimes including tonic, phasic and bursting responses within a single model. We derive a discrete-time formulation of these differentiable dynamics, enabling direct backpropagation through time without surrogate-gradient approximations. To probe both trainability and accuracy, we evaluate feedforward networks of these neurons at the predictability limit of Mackey-Glass time-series regression and compare them to baseline LIF and SOTA AdLIF networks. Our model outperforms LIF and AdLIF networks, while exhibiting substantially sparser activity from both communication and computational perspectives. These results highlight multi-timescale conductance spiking neurons as a promising building block for energy-aware temporal processing and neuromorphic implementation.
- Abstract(参考訳): スパイキングニューラルネットワーク(SNN)は、時間的にリッチなタスクに対して、低消費電力のイベント駆動計算を約束するが、一般的に使用されるニューロンモデルは、勾配ベースのトレーサビリティ、動的リッチネス、高活動空間をトレードオフすることが多い。
これらの制限は回帰において急激であり、近似誤差、ノイズ、スパイクの離散化は連続値出力を著しく劣化させる。
実際、多くのSOTA(State-of-the-art) SNNは、代理勾配で訓練された単純な現象力学に依存しており、スパイキング多様性とスパーシリティを限定的に制御している。
このような制約を克服するために,高速,低速,超低速のコンダクタンスをチューニングすることで,電流電圧(I-V)曲線の形状からニューラルダイナミクスが出現する勾配学習可能なフレームワークであるマルチスケールコンダクタンススパイクネットワークを導入する。
このパラメトリゼーションにより、興奮性の体系的な制御が可能となり、アナログ回路で効率的に実装でき、単一のモデル内でのトニック、ファシック、バースト応答を含むリッチな発火状態が得られる。
我々は、これらの微分可能力学の離散時間定式化を導出し、代理次数近似を使わずに時間を通して直接の逆伝播を可能にする。
トレーニング可能性と精度の両方を調査するため,これらのニューロンのフィードフォワードネットワークをマッキーグラス時系列回帰の予測可能性限界で評価し,ベースラインLIFおよびSOTA AdLIFネットワークと比較した。
我々のモデルはLIFとAdLIFネットワークより優れており、通信面と計算面の両方からかなりスペーサーな活動を示す。
これらの結果は、エネルギーを意識した時間的処理とニューロモルフィック実装のための有望なビルディングブロックとして、マルチタイムコンダクタンススパイクニューロンを強調した。
関連論文リスト
- SpikingGamma: Surrogate-Gradient Free and Temporally Precise Online Training of Spiking Neural Networks with Smoothed Delays [1.5166105038254163]
スパイキングニューラルネットワーク(SNN)は、スパースでイベント駆動の計算を通じて、エネルギー効率の高い低レイテンシAIを約束する。
しかし、微細な時間的離散化の下でのSNNのトレーニングは依然として大きな課題であり、低レイテンシ応答性とソフトウェアで訓練されたSNNの効率的なハードウェアへのマッピングを妨げている。
このSpykingGammaモデルでは,スロゲート勾配を使わずに直接エラーバックプロパゲーションをサポートし,オンライン的に最小のスパイクで微妙な時間パターンを学習し,複雑なタスクやベンチマークに競合精度でフィードフォワードSNNを拡張できることが示されている。
論文 参考訳(メタデータ) (2026-02-02T11:35:16Z) - Fractional Spike Differential Equations Neural Network with Efficient Adjoint Parameters Training [63.3991315762955]
スパイキングニューラルネットワーク(SNN)は、生物学的ニューロンからインスピレーションを得て、脳に似た計算の現実的なモデルを作成する。
既存のほとんどのSNNは、マルコフ特性を持つ一階常微分方程式(ODE)によってモデル化された、神経細胞膜電圧ダイナミクスの単一時間定数を仮定している。
本研究では, 膜電圧およびスパイク列車の長期依存性を分数次力学により捉えるフラクタルSPIKE微分方程式ニューラルネットワーク (fspikeDE) を提案する。
論文 参考訳(メタデータ) (2025-07-22T18:20:56Z) - Langevin Flows for Modeling Neural Latent Dynamics [81.81271685018284]
逐次変分自動エンコーダであるLangevinFlowを導入し、潜伏変数の時間的進化をアンダーダム化したLangevin方程式で制御する。
われわれのアプローチは、慣性、減衰、学習されたポテンシャル関数、力などの物理的事前を組み込んで、ニューラルネットワークにおける自律的および非自律的プロセスの両方を表現する。
本手法は,ロレンツ誘引器によって生成される合成神経集団に対する最先端のベースラインより優れる。
論文 参考訳(メタデータ) (2025-07-15T17:57:48Z) - Advancing Spatio-Temporal Processing in Spiking Neural Networks through Adaptation [6.233189707488025]
ニューロモルフィックハードウェア上のニューラルネットワークは、非喫煙者よりも消費電力の少ないオーダーを約束する。
このようなシステム上でのスパイクベースの計算のための標準的なニューロンモデルは、長い間、統合と火災(LIF)ニューロンであった。
いわゆるアダプティブLIFニューロンの根源はよく分かっていない。
論文 参考訳(メタデータ) (2024-08-14T12:49:58Z) - TC-LIF: A Two-Compartment Spiking Neuron Model for Long-Term Sequential
Modelling [54.97005925277638]
潜在的な可能性や危険に関連する感覚的手がかりの同定は、長期間の遅延によって有用な手がかりを分離する無関係な事象によってしばしば複雑になる。
SNN(State-of-the-art spiking Neural Network)は、遠方のキュー間の長期的な時間的依存関係を確立する上で、依然として困難な課題である。
そこで本研究では,T-LIFとよばれる,生物学的にインスパイアされたTwo-compartment Leaky Integrate- and-Fireのスパイキングニューロンモデルを提案する。
論文 参考訳(メタデータ) (2023-08-25T08:54:41Z) - Liquid Time-constant Networks [117.57116214802504]
本稿では,時間連続リカレントニューラルネットワークモデルについて紹介する。
暗黙の非線形性によって学習システムの力学を宣言する代わりに、線形一階力学系のネットワークを構築する。
これらのニューラルネットワークは安定かつ有界な振る舞いを示し、ニューラル常微分方程式の族の中で優れた表現性をもたらす。
論文 参考訳(メタデータ) (2020-06-08T09:53:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。