論文の概要: Toward On-Chip Training of Spiking Neural Networks for Dense Event-Based Vision
- arxiv url: http://arxiv.org/abs/2609.32405v1
- Date: Sat, 26 Sep 2026 09:25:37 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-07 09:29:31.726549
- Title: Toward On-Chip Training of Spiking Neural Networks for Dense Event-Based Vision
- Title(参考訳): 深度イベントベースビジョンのためのスパイキングニューラルネットワークのオンチップトレーニングに向けて
- Abstract要約: イベントニューラルネットワーク(SNN)はイベントストリームを自然に処理するが、時間によるバックプロパゲーション(BPTT)による深層SNNのトレーニングにはかなりのメモリが必要であり、ニューロモルフィックハードウェアでは依然として困難である。
我々は,大域的制約のある伝播を局所的な局所的な集中管理に置き換える,高密度なイベントベースビジョンのためのブロックワイズスキームであるDellを紹介する。
Dellは、エンドツーエンドのBPTTと比較してピークトレーニングメモリを39.6%削減し、精度を改善し、公式テストベンチマークで1.670のエンドポイントエラーに達した。
- 参考スコア(独自算出の注目度): 6.343997466221382
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Event cameras provide low-latency, asynchronous visual sensing for resource-constrained robotics. Spiking neural networks (SNNs) process event streams naturally, but training deep SNNs with backpropagation through time (BPTT) requires substantial memory and remains difficult on neuromorphic hardware. Local learning avoids this by restricting error propagation to local blocks, but existing methods mainly target classification rather than dense prediction. We introduce DELL (Dense Event-driven Local Learning), a block wise scheme for dense event-based vision that replaces global gradient propagation with local dense supervision. Learnable, spatially structured local heads supervise each block at its appropriate resolution while preserving temporal dynamics within blocks. We evaluate DELL on optical-flow regression and semantic segmentation with a fully spiking U-shaped architecture. On DSEC optical flow, DELL reduces peak training memory by 39.6% relative to end-to-end BPTT while improving accuracy, reaching 1.670 px endpoint error on the official test benchmark versus 1.941 px for the same backbone trained end-to-end. Block detachment behaves more like a regularizer than a constraint. DECOLLE, the existing local-learning baseline, relies on fixed random local read-outs poorly suited to dense regression, resulting in a 3.9x higher endpoint error; learnable local heads recover this loss and outperform end-to-end training across all optical-flow metrics. On segmentation, they recover most of the performance gap, although DELL remains a few mIoU points behind end-to-end training. With 2.3M parameters, 24x fewer than the strongest SNN baseline, the backbone remains competitive with the SNN state of the art on DSEC. These results extend local learning to dense event-based prediction while substantially reducing training memory.
- Abstract(参考訳): イベントカメラはリソース制約されたロボティクスに対して低レイテンシで非同期な視覚センシングを提供する。
ニューラルネットワーク(SNN)はイベントストリームを自然に処理するが、時間によるバックプロパゲーション(BPTT)による深層SNNのトレーニングにはかなりのメモリが必要であり、ニューロモルフィックハードウェアでは依然として困難である。
局所学習は、局所的なブロックにエラーの伝搬を制限することによってこれを回避しているが、既存の手法は主に密度の高い予測ではなく分類をターゲットにしている。
DELL(Dense Event-Driven Local Learning)は,大域的な勾配伝播を局所的な濃密な監視に置き換える,密集したイベントベースビジョンのためのブロックワイドなスキームである。
学習可能で空間的に構造化されたローカルヘッドは、ブロック内の時間的ダイナミクスを保持しながら、それぞれのブロックを適切な解像度で監視する。
完全なU字型アーキテクチャを用いて,光フロー回帰とセマンティックセマンティックセグメンテーションのDELLを評価する。
DELLは、DSECの光学的フローにおいて、エンドツーエンドのBPTTと比較してピークトレーニングメモリを39.6%削減し、精度を向上し、公式のテストベンチマークで1.670pxのエンドポイントエラーに達した。
ブロック分離は制約よりも正規化子のように振る舞う。
既存のローカルラーニングベースラインであるDECOLLEは、高密度レグレッションに適さない固定されたランダムな局所的な読み出しに依存しており、結果として3.9倍高いエンドポイントエラーが発生している。
セグメンテーションでは、パフォーマンスギャップの大部分を回復するが、DELLはエンドツーエンドトレーニングの後に数mIoUポイントを残している。
2.3Mパラメータが最強のSNNベースラインより24倍少ないため、バックボーンはDSECのSNNと競合する。
これらの結果は、局所学習をイベントベース予測に拡張し、トレーニングメモリを大幅に削減する。
関連論文リスト
- Error Amplification Limits ANN-to-SNN Conversion in Continuous Control [64.99656514469972]
スパイキングニューラルネットワーク(SNN)は、すでに訓練済みのニューラルネットワーク(ANN)を変換することで、競争性能を達成することができる。
既存の変換法は、適切なベースラインがほとんど存在しないような連続的な制御では性能が良くない。
本研究では, 時間的相関誤差を抑制するために, 残留膜電位を決定段階にわたって超過する軽量なトレーニング自由機構であるCRPIを提案する。
論文 参考訳(メタデータ) (2026-01-29T14:28:00Z) - Traces Propagation: Memory-Efficient and Scalable Forward-Only Learning in Spiking Neural Networks [1.6952253597549973]
スパイキングニューラルネットワーク(SNN)は、動的時間信号を処理するための効率的なフレームワークを提供する。
SNNのトレーニングにおける重要な課題は、空間的および時間的クレジット割り当ての両方を解決することである。
論文 参考訳(メタデータ) (2025-09-16T13:11:52Z) - Towards Interpretable Deep Local Learning with Successive Gradient Reconciliation [70.43845294145714]
グローバルバックプロパゲーション(BP)に対するニューラルネットワークトレーニングの信頼性の回復が、注目すべき研究トピックとして浮上している。
本稿では,隣接モジュール間の勾配調整を連続的に調整する局所的学習戦略を提案する。
提案手法はローカルBPとBPフリー設定の両方に統合できる。
論文 参考訳(メタデータ) (2024-06-07T19:10:31Z) - Unlocking Deep Learning: A BP-Free Approach for Parallel Block-Wise
Training of Neural Networks [9.718519843862937]
ブロックワイズBPフリー(BWBPF)ニューラルネットワークを導入し、局所誤差信号を利用してサブニューラルネットワークを個別に最適化する。
実験結果から,VGGとResNetのバラツキに対して,トランスファー可能な疎結合アーキテクチャを同定できることがわかった。
論文 参考訳(メタデータ) (2023-12-20T08:02:33Z) - Intelligence Processing Units Accelerate Neuromorphic Learning [52.952192990802345]
スパイキングニューラルネットワーク(SNN)は、エネルギー消費と遅延の観点から、桁違いに改善されている。
我々は、カスタムSNN PythonパッケージsnnTorchのIPU最適化リリースを提示する。
論文 参考訳(メタデータ) (2022-11-19T15:44:08Z) - Online Training Through Time for Spiking Neural Networks [66.7744060103562]
スパイキングニューラルネットワーク(SNN)は、脳にインスパイアされたエネルギー効率のモデルである。
近年のトレーニング手法の進歩により、レイテンシの低い大規模タスクにおいて、ディープSNNを成功させることができた。
本稿では,BPTT から派生した SNN の時間的学習(OTTT)によるオンライントレーニングを提案する。
論文 参考訳(メタデータ) (2022-10-09T07:47:56Z) - Efficient Training of Spiking Neural Networks with Temporally-Truncated
Local Backpropagation through Time [1.926678651590519]
訓練用スパイクニューラルネットワーク(SNN)は、複雑な神経力学と発火機能における本質的な非微分性のため、依然として困難である。
本研究では,局所教師付きトレーニング手法と時間的制約付きBPTTアルゴリズムを統合したSNNの効率的かつ直接的なトレーニングアルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-12-13T07:44:58Z) - Spatial-Temporal-Fusion BNN: Variational Bayesian Feature Layer [77.78479877473899]
我々は,BNNを大規模モデルに効率的にスケールするための時空間BNNを設計する。
バニラBNNと比較して,本手法はトレーニング時間とパラメータ数を著しく削減し,BNNのスケールアップに有効である。
論文 参考訳(メタデータ) (2021-12-12T17:13:14Z) - Dynamic Hard Pruning of Neural Networks at the Edge of the Internet [11.605253906375424]
動的ハードプルーニング(DynHP)技術は、トレーニング中にネットワークを段階的にプルーニングする。
DynHPは、最終ニューラルネットワークの調整可能なサイズ削減と、トレーニング中のNNメモリ占有率の削減を可能にする。
凍結メモリは、ハードプルーニング戦略による精度劣化を相殺するために、エンファンダイナミックバッチサイズアプローチによって再利用される。
論文 参考訳(メタデータ) (2020-11-17T10:23:28Z) - Progressive Tandem Learning for Pattern Recognition with Deep Spiking
Neural Networks [80.15411508088522]
スパイキングニューラルネットワーク(SNN)は、低レイテンシと高い計算効率のために、従来の人工知能ニューラルネットワーク(ANN)よりも優位性を示している。
高速かつ効率的なパターン認識のための新しいANN-to-SNN変換およびレイヤワイズ学習フレームワークを提案する。
論文 参考訳(メタデータ) (2020-07-02T15:38:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。