論文の概要: Spiking Decision Transformers: Local Plasticity, Phase-Coding, and Dendritic Routing for Low-Power Sequence Control
- arxiv url: http://arxiv.org/abs/2508.21505v1
- Date: Fri, 29 Aug 2025 10:37:37 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-09-01 19:45:11.014812
- Title: Spiking Decision Transformers: Local Plasticity, Phase-Coding, and Dendritic Routing for Low-Power Sequence Control
- Title(参考訳): スパイキング決定変換器:低出力シーケンス制御のための局所塑性, 位相符号化, 樹状ルーティング
- Authors: Vishal Pandey, Debasmita Biswas,
- Abstract要約: スパイクニューラルネットワークは、超低消費電力、イベント駆動推論を約束する。
本稿では、Leaky Integrate-and-Fire ニューロンを各自己注意ブロックに埋め込むSpking Decision Transformer (SNN-DT) を提案する。
シークエンスモデリングとニューロモルフィック効率を組み合わせることで、SNN-DTは組み込みデバイスやウェアラブルデバイスにおけるリアルタイム、低消費電力制御への道を開く。
- 参考スコア(独自算出の注目度): 0.6117371161379209
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Reinforcement learning agents based on Transformer architectures have achieved impressive performance on sequential decision-making tasks, but their reliance on dense matrix operations makes them ill-suited for energy-constrained, edge-oriented platforms. Spiking neural networks promise ultra-low-power, event-driven inference, yet no prior work has seamlessly merged spiking dynamics with return-conditioned sequence modeling. We present the Spiking Decision Transformer (SNN-DT), which embeds Leaky Integrate-and-Fire neurons into each self-attention block, trains end-to-end via surrogate gradients, and incorporates biologically inspired three-factor plasticity, phase-shifted spike-based positional encodings, and a lightweight dendritic routing module. Our implementation matches or exceeds standard Decision Transformer performance on classic control benchmarks (CartPole-v1, MountainCar-v0, Acrobot-v1, Pendulum-v1) while emitting fewer than ten spikes per decision, an energy proxy suggesting over four orders-of-magnitude reduction in per inference energy. By marrying sequence modeling with neuromorphic efficiency, SNN-DT opens a pathway toward real-time, low-power control on embedded and wearable devices.
- Abstract(参考訳): トランスフォーマーアーキテクチャに基づく強化学習エージェントは、シーケンシャルな意思決定タスクにおいて顕著なパフォーマンスを達成したが、密度の高い行列演算に依存しているため、エネルギー制約のあるエッジ指向プラットフォームには適さない。
スパイキングニューラルネットワークは、超低消費電力、イベント駆動推論を約束するが、以前の研究では、スパイキングダイナミクスとリターン条件付きシーケンスモデリングをシームレスにマージしていない。
本稿では,Leaky Integrate-and-Fire ニューロンを各自己注意ブロックに埋め込んだスパイキング決定変換器 (SNN-DT) について述べる。
我々の実装は、古典的な制御ベンチマーク(CartPole-v1, MountainCar-v0, Acrobot-v1, Pendulum-v1)の標準決定変換器の性能に匹敵するが、決定毎に10回未満のスパイクを発生させる。
シークエンスモデリングとニューロモルフィック効率を組み合わせることで、SNN-DTは組み込みデバイスやウェアラブルデバイスにおけるリアルタイム、低消費電力制御への道を開く。
関連論文リスト
- Physics-Embedded Neural ODEs for Sim2Real Edge Digital Twins of Hybrid Power Electronics Systems [6.073480880825787]
エッジデジタルツイン(EDT)は電力電子システム(PES)の監視と制御に不可欠である
既存のモデリングアプローチは、PESに固有の継続的な進化するハイブリッドダイナミクスを継続的に捉えるのに苦労している。
本稿では,複合動作機構をイベントオートマトンとして組み込んで,スイッチング離散を明示的に制御する物理埋め込み型ニューラルネットワーク(PENODE)を提案する。
論文 参考訳(メタデータ) (2025-08-04T20:34:13Z) - Chain-of-Thought Enhanced Shallow Transformers for Wireless Symbol Detection [14.363929799618283]
無線シンボル検出のためのCoT拡張浅層変圧器フレームワークCHOOSE(CHain Of thOught Symbol dEtection)を提案する。
隠れ空間内に自己回帰潜在推論ステップを導入することで、CHOOSEは浅いモデルの推論能力を大幅に改善する。
実験により,本手法は従来の浅層変圧器よりも優れ,深部変圧器に匹敵する性能が得られることが示された。
論文 参考訳(メタデータ) (2025-06-26T08:41:45Z) - BHViT: Binarized Hybrid Vision Transformer [53.38894971164072]
モデルバイナライゼーションは畳み込みニューラルネットワーク(CNN)のリアルタイムおよびエネルギー効率の計算を可能にした。
本稿では,バイナライズフレンドリーなハイブリッドViTアーキテクチャであるBHViTとそのバイナライズモデルを提案する。
提案アルゴリズムは,バイナリ ViT 手法間でSOTA 性能を実現する。
論文 参考訳(メタデータ) (2025-03-04T08:35:01Z) - Spiking Transformer:Introducing Accurate Addition-Only Spiking Self-Attention for Transformer [15.93436166506258]
スパイキングニューラルネットワークは、従来のニューラルネットワークに代わる有望なエネルギー効率の代替として登場した。
本稿では,A$2$OS$2$Aの精度付加型スパイク自己注意について紹介する。
論文 参考訳(メタデータ) (2025-02-28T22:23:29Z) - Spiking Transformer Hardware Accelerators in 3D Integration [5.426379844893919]
スパイキングニューラルネットワーク(SNN)は計算の強力なモデルであり、リソース制約のあるエッジデバイスやニューロモルフィックハードウェアに適している。
近年出現したスパイク変圧器は、スパイク動作のバイナリ特性を生かして、性能と効率性が期待できる。
論文 参考訳(メタデータ) (2024-11-11T22:08:11Z) - Function Approximation for Reinforcement Learning Controller for Energy from Spread Waves [69.9104427437916]
マルチジェネレータ・ウェーブ・エナジー・コンバータ(WEC)は、スプレッド・ウェーブと呼ばれる異なる方向から来る複数の同時波を処理しなければならない。
これらの複雑な装置は、エネルギー捕獲効率、維持を制限する構造的ストレスの低減、高波に対する積極的な保護という複数の目的を持つコントローラを必要とする。
本稿では,システム力学のシーケンシャルな性質をモデル化する上で,ポリシーと批判ネットワークの異なる機能近似について検討する。
論文 参考訳(メタデータ) (2024-04-17T02:04:10Z) - Towards Long-Term Time-Series Forecasting: Feature, Pattern, and
Distribution [57.71199089609161]
長期的時系列予測(LTTF)は、風力発電計画など、多くのアプリケーションで需要が高まっている。
トランスフォーマーモデルは、高い計算自己認識機構のため、高い予測能力を提供するために採用されている。
LTTFの既存の手法を3つの面で区別する,Conformer という,効率的なTransformer ベースモデルを提案する。
論文 参考訳(メタデータ) (2023-01-05T13:59:29Z) - Transformers Solve the Limited Receptive Field for Monocular Depth
Prediction [82.90445525977904]
畳み込みニューラルネットワークとトランスの両方の恩恵を受けるアーキテクチャであるTransDepthを提案します。
連続ラベルを含む画素単位での予測問題にトランスフォーマーを適用する最初の論文である。
論文 参考訳(メタデータ) (2021-03-22T18:00:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。