論文の概要: Common-Mode Errors Limit Low-Timestep Deep Spiking Q-Networks
- arxiv url: http://arxiv.org/abs/2610.07808v1
- Date: Tue, 06 Oct 2026 06:01:28 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 02:58:29.83593
- Title: Common-Mode Errors Limit Low-Timestep Deep Spiking Q-Networks
- Title(参考訳): 共通モードエラーによる低時間深層スパイクQ-Networksの制限
- Abstract要約: スパイキングニューラルネットワーク(SNN)はスパースとイベント駆動型計算を提供する。
ディープスパイクQ-ネットワークス(DSQN)は、意思決定のためにそのような効率とアクション-バリュー推定を組み合わせる。
我々はCMC-DSQN(Common-Mode Compensation Deep Spiking Q-Network)を提案する。
- 参考スコア(独自算出の注目度): 41.05965283016756
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Spiking neural networks (SNNs) offer sparse and event-driven computation, making them attractive for energy-constrained reinforcement learning (RL) on edge devices. In value-based RL, deep spiking Q-networks (DSQNs) combine such efficiency with action-value estimation for decision making. However, existing DSQNs often require multiple simulation timesteps for competitive performance, increasing computational and energy costs, whereas reducing the timesteps can cause substantial performance degradation. We investigate this degradation from the perspective of Q-value estimation errors. By decomposing errors across actions into common-mode and differential-mode components, we find that low-timestep DSQNs suffer disproportionately from common-mode errors shared across action values, which are particularly detrimental to temporal-difference learning through bootstrapped targets. Based on this finding, we propose Common-Mode Compensation Deep Spiking Q-Network (CMC-DSQN), which uses an auxiliary ANN to compensate for common-mode errors in the SNN outputs. At inference, greedy action selection can be performed directly from the SNN outputs, allowing the auxiliary ANN to be completely removed and preserving the energy efficiency of SNNs. Extensive experiments on Atari and MiniAtar environments demonstrate substantial performance improvements under low-timestep settings. CMC-DSQN outperforms state-of-the-art DSQN baselines by nearly $20\%$ at $T=2$ and further surpasses the ANN baseline at $T=4$.
- Abstract(参考訳): スパイキングニューラルネットワーク(SNN)はスパースとイベント駆動型計算を提供し、エッジデバイス上でのエネルギー制約強化学習(RL)を魅力的なものにしている。
価値に基づくRLでは、深いスパイクQ-ネットワークス(DSQN)がそのような効率と、意思決定のためのアクション-値推定を組み合わせる。
しかし、既存のDSQNは競争性能のために複数のシミュレーションタイムステップを必要とすることが多く、計算コストとエネルギーコストが増大する一方、時間ステップの削減は性能を著しく低下させる可能性がある。
この劣化をQ値推定誤差の観点から検討する。
動作間の誤りを共通モードと微分モードに分解することにより、低ステップのDSQNは、動作値間で共有される共通モードのエラーと相違し、特にブートストラップされたターゲットによる時間差学習に有害であることがわかった。
そこで本研究では,CMC-DSQN(Common-Mode Compensation Deep Spiking Q-Network)を提案する。
推測時には、SNN出力から直接欲求行動選択を行うことができ、補助的なANNを完全に除去し、SNNのエネルギー効率を維持できる。
AtariとMiniAtar環境の大規模な実験は、低ステップ設定下での大幅なパフォーマンス向上を示している。
CMC-DSQNは最先端のDSQNベースラインを約20\%$$T=2$で上回り、さらにANNベースラインを$T=4$で上回ります。
関連論文リスト
- Reducing ANN-SNN Conversion Error via Residual Membrane Potential Alignment [52.910770415431244]
スパイキングニューラルネットワーク(SNN)は、ニューロモルフィックコンピューティングのコアアーキテクチャとして機能する。
ANN-SNN変換は、低レイテンシでエネルギー効率のよい推論のために、よく訓練されたANN重みを再利用することで問題を回避している。
既存の変換方式は、小さなタイミングで精度の低下、大きな推論遅延、累積量子化誤差に悩まされている。
論文 参考訳(メタデータ) (2026-08-14T04:46:03Z) - Ge$^\text{2}$mS-T: Multi-Dimensional Grouping for Ultra-High Energy Efficiency in Spiking Transformer [84.8831358775386]
スパイキングニューラルネットワーク(SNN)は、ニューラルネットワーク(ANN)よりも優れたエネルギー効率を提供する
ANN-SNN ConversionやSpatial-Temporal Backpropagation (STBP)といった既存のパラダイムは、固有の制限に悩まされている。
Ge$text2$mS-Tを提案する。これは時間的・空間的・ネットワーク的構造次元にまたがるグループ計算を実装した新しいアーキテクチャである。
論文 参考訳(メタデータ) (2026-04-10T02:58:46Z) - SPARQ: Spiking Early-Exit Neural Networks for Energy-Efficient Edge AI [2.2914260353572513]
スパイキングニューラルネットワーク(SNN)は、イベント駆動型計算モデルにより、固有のエネルギー効率を提供する。
この研究は、スパイキング、量子化対応トレーニング、強化学習誘導早期出口を統合し、効率的で適応的な推論を行う統合フレームワークであるSPARQを提示する。
論文 参考訳(メタデータ) (2026-03-15T13:38:39Z) - Kirin: Improving ANN efficiency with SNN Hybridization [18.963480523099694]
スパイキングニューラルネットワーク(SNN)は、そのバイナリおよびイベント駆動特性により、例外的なエネルギー効率を示す。
本稿では,低ビット幅パラメータを2進スパイクに符号化し,残りを整数形式で保存するSpike Matrix Hybridization法を提案する。
W4A4&8量子化設定の下で、キリンはエネルギー消費を84.66%削減し、時間歩を93.75%短縮しながらほぼFP16精度を達成する。
論文 参考訳(メタデータ) (2026-02-09T15:53:26Z) - Error Amplification Limits ANN-to-SNN Conversion in Continuous Control [64.99656514469972]
スパイキングニューラルネットワーク(SNN)は、すでに訓練済みのニューラルネットワーク(ANN)を変換することで、競争性能を達成することができる。
既存の変換法は、適切なベースラインがほとんど存在しないような連続的な制御では性能が良くない。
本研究では, 時間的相関誤差を抑制するために, 残留膜電位を決定段階にわたって超過する軽量なトレーニング自由機構であるCRPIを提案する。
論文 参考訳(メタデータ) (2026-01-29T14:28:00Z) - Separable PINN: Mitigating the Curse of Dimensionality in
Physics-Informed Neural Networks [6.439575695132489]
物理インフォームドニューラルネットワーク(PINN)は、前方および逆問題の両方に新しいデータ駆動型PDEソルバとして登場した。
自動微分(AD)の計算は、PINNのトレーニングにおいて前方モードADを活用することで大幅に削減できることを示す。
我々は、より効率的な計算のために、前進モードADを容易に行える分離可能なPINN(SPINN)と呼ばれるネットワークアーキテクチャを提案する。
論文 参考訳(メタデータ) (2022-11-16T08:46:52Z) - Deep Reinforcement Learning with Spiking Q-learning [51.386945803485084]
スパイクニューラルネットワーク(SNN)は、少ないエネルギー消費で人工知能(AI)を実現することが期待されている。
SNNと深部強化学習(RL)を組み合わせることで、現実的な制御タスクに有望なエネルギー効率の方法を提供する。
論文 参考訳(メタデータ) (2022-01-21T16:42:11Z) - Training Energy-Efficient Deep Spiking Neural Networks with Single-Spike
Hybrid Input Encoding [5.725845886457027]
スパイキングニューラルネットワーク(SNN)は、イベント駆動型ニューロモルフィックハードウェアにおいて高い計算効率を提供する。
SNNは、非効率な入力符号化とトレーニング技術により、高い推論遅延に悩まされる。
本稿では低遅延エネルギー効率SNNのためのトレーニングフレームワークを提案する。
論文 参考訳(メタデータ) (2021-07-26T06:16:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。