論文の概要: Spiking Neural Networks for Continuous Control: Neuromorphic Reinforcement Learning in Conventional Computing
- arxiv url: http://arxiv.org/abs/2608.22729v1
- Date: Mon, 24 Aug 2026 02:34:22 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-25 13:29:43.872981
- Title: Spiking Neural Networks for Continuous Control: Neuromorphic Reinforcement Learning in Conventional Computing
- Title(参考訳): 連続制御のためのスパイクニューラルネットワーク:従来のコンピューティングにおけるニューロモルフィック強化学習
- Abstract要約: 従来のアクターネットワークをスパイクニューラルネットワーク(SNN)に置き換えることが、ハードウェア固有のメリットを示す前にエージェントのパフォーマンスに影響を与えるかどうかは不明だ。
本稿では,従来のハードウェア上でのソフトアクター・クリティカル (SAC) の最小限の,神経型的に実行可能なスパイキング・アクターの系統的検証を行う。
本研究では,SANSAC と SAC のほぼ同等の性能を示すとともに,隠れた次元の影響に対処する。
- 参考スコア(独自算出の注目度): 0.9176056742068814
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Reinforcement learning (RL) algorithms have made strides over the past decade applying them to a wide range of problems and control tasks. However, the deployment of RL on neuromorphic hardware for continuous control tasks remains under-validated. Namely it is unclear whether replacing a conventional actor network with a spiking neural network (SNN) affects the performance of an agent before any hardware-specific benefits manifest. We provide a systematic validation of a minimal, neuromorphically viable spiking actor variant of Soft Actor-Critic (SAC) on conventional hardware, establishing a baseline for future neuromorphic RL research. In this paper, we propose the Spiking Actor Network Soft Actor Critic (SANSAC) to address the use of RL frameworks in continuous environments, designed as a framework that can be implemented on neuromorphic hardware. We compare a traditional Soft Actor Critic (SAC) network to SANSAC in a traditional computer. We demonstrate the near equivalent performance of SANSAC and SAC, while addressing the impact of hidden dimensions. Our results demonstrate the viability of SNN based algorithms in complex continuous environments, as well as competitive performance to traditional neural networks in traditional computers, providing a basis to continue exploring the use of SNNs in continuous RL frameworks.
- Abstract(参考訳): 強化学習(RL)アルゴリズムは、過去10年間に様々な問題や制御タスクに適用してきた。
しかし、連続制御タスクのためのニューロモルフィックハードウェアへのRLの展開は、まだ未検証のままである。
すなわち、従来のアクターネットワークをスパイクニューラルネットワーク(SNN)に置き換えることが、ハードウェア固有のメリットを示す前にエージェントのパフォーマンスに影響を与えるかどうかは不明である。
本稿では,従来のハードウェア上でのソフトアクター・クリティカル(SAC)の最小限のスパイクアクターの系統的検証を行い,今後のニューロモルフィックRL研究のベースラインを確立する。
本稿では,ニューロモルフィックハードウェア上で実装可能なフレームワークとして設計された,連続環境におけるRLフレームワークの使用に対処するための,スパイキングアクタネットワークソフトアクタ批判(SANSAC)を提案する。
従来型のソフトアクター批評家ネットワーク(SAC)とSANSACを比較した。
本研究では,SANSAC と SAC のほぼ同等の性能を示すとともに,隠れた次元の影響に対処する。
我々の結果は、複雑な連続環境におけるSNNベースのアルゴリズムの実現可能性や、従来のコンピュータにおける従来のニューラルネットワークとの競合性能を示し、連続RLフレームワークにおけるSNNの使用を継続する基盤を提供する。
関連論文リスト
- A feedback control optimizer for online and hardware-aware training of Spiking Neural Networks [0.5512626046125358]
本稿では、スパイクに基づく重み更新とフィードバック制御信号を統合する混合信号デバイス上でのスパイキングニューラルネットワーク(SNN)の新しい学習アルゴリズムを提案する。
我々のフレームワークでは、スパイキングコントローラがフィードバック信号を生成し、SNNアクティビティをガイドし、ウェイトアップデートを駆動し、スケーラブルでローカルなオンチップ学習を可能にする。
論文 参考訳(メタデータ) (2026-02-03T10:08:21Z) - Learning to Control Dynamical Agents via Spiking Neural Networks and Metropolis-Hastings Sampling [1.0533738606966752]
Spiking Neural Networks(SNN)は、リアルタイム制御システムのための従来のDeep Neural Networks(DNN)に代わる、生物学的にインスパイアされたエネルギー効率の高い代替手段を提供する。
ベイズ推論手法であるメトロポリス・ハスティングスサンプリングを用いて,RL環境における動的エージェント制御のためのSNNのトレーニングを行う最初のフレームワークについて紹介する。
論文 参考訳(メタデータ) (2025-07-13T08:50:00Z) - Proxy Target: Bridging the Gap Between Discrete Spiking Neural Networks and Continuous Control [59.65431931190187]
スパイキングニューラルネットワーク(SNN)は、ニューロモルフィックハードウェア上で低レイテンシかつエネルギー効率の意思決定を提供する。
連続制御のためのほとんどの連続制御アルゴリズムは、人工ニューラルネットワーク(ANN)のために設計されている。
このミスマッチはSNNのトレーニングを不安定にし、性能を劣化させる。
離散SNNと連続制御アルゴリズムのギャップを埋める新しいプロキシターゲットフレームワークを提案する。
論文 参考訳(メタデータ) (2025-05-30T03:08:03Z) - Achieving Network Resilience through Graph Neural Network-enabled Deep Reinforcement Learning [64.20847540439318]
深層強化学習(DRL)は多くの重要な通信ネットワークのタスクで広く利用されている。
グラフニューラルネットワーク(GNN)とDRLを組み合わせて、GNNを用いてネットワークの非構造的特徴を抽出する研究もある。
本稿では,GNNとDRLを組み合わせたレジリエントネットワークの構築について検討する。
論文 参考訳(メタデータ) (2025-01-19T15:22:17Z) - Fully Spiking Actor Network with Intra-layer Connections for
Reinforcement Learning [51.386945803485084]
エージェントが制御する多次元決定論的ポリシーを学習する必要があるタスクに焦点をあてる。
既存のスパイクベースのRL法は、SNNの出力として発火率を取り、完全に接続された層を通して連続的なアクション空間(つまり決定論的なポリシー)を表すように変換する。
浮動小数点行列操作を伴わない完全にスパイクするアクターネットワークを開発するため,昆虫に見られる非スパイク介在ニューロンからインスピレーションを得た。
論文 参考訳(メタデータ) (2024-01-09T07:31:34Z) - Spyker: High-performance Library for Spiking Deep Neural Networks [0.0]
スパイキングニューラルネットワーク(SNN)は、その有望な能力のために最近明かされた。
SNNは、以前の世代のニューラルネットワークよりも高い生物学的確率で脳をシミュレートする。
我々は,C++/CUDAをスクラッチから使用して,Spykerという高性能ライブラリを実装した。
論文 参考訳(メタデータ) (2023-01-31T14:25:03Z) - Spiking Neural Network Decision Feedback Equalization [70.3497683558609]
決定フィードバック等化器(DFE)に似たフィードバック構造を持つSNNベースの等化器を提案する。
提案手法は,3種類の模範チャネルに対して,従来の線形等化器よりも明らかに優れていることを示す。
決定フィードバック構造を持つSNNは、競合エネルギー効率の良いトランシーバへのパスを可能にする。
論文 参考訳(メタデータ) (2022-11-09T09:19:15Z) - Deep Reinforcement Learning with Spiking Q-learning [51.386945803485084]
スパイクニューラルネットワーク(SNN)は、少ないエネルギー消費で人工知能(AI)を実現することが期待されている。
SNNと深部強化学習(RL)を組み合わせることで、現実的な制御タスクに有望なエネルギー効率の方法を提供する。
論文 参考訳(メタデータ) (2022-01-21T16:42:11Z) - Deep Reinforcement Learning with Population-Coded Spiking Neural Network
for Continuous Control [0.0]
深層強化学習(DRL)を用いた深層批評家ネットワークと連携して訓練された集団符号化スパイキングアクターネットワーク(PopSAN)を提案する。
我々は、トレーニング済みのPopSANをIntelのLoihiニューロモルフィックチップにデプロイし、本手法をメインストリームのDRLアルゴリズムと比較し、連続的な制御を行った。
本研究はニューロモルフィックコントローラの効率性をサポートし,エネルギー効率とロバスト性の両方が重要である場合,我々のハイブリッドRLをディープラーニングの代替として提案する。
論文 参考訳(メタデータ) (2020-10-19T16:20:45Z) - Progressive Tandem Learning for Pattern Recognition with Deep Spiking
Neural Networks [80.15411508088522]
スパイキングニューラルネットワーク(SNN)は、低レイテンシと高い計算効率のために、従来の人工知能ニューラルネットワーク(ANN)よりも優位性を示している。
高速かつ効率的なパターン認識のための新しいANN-to-SNN変換およびレイヤワイズ学習フレームワークを提案する。
論文 参考訳(メタデータ) (2020-07-02T15:38:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。