論文の概要: Toward spike-based stochastic neural computing
- arxiv url: http://arxiv.org/abs/2305.13982v1
- Date: Tue, 23 May 2023 12:05:35 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-24 16:38:48.166373
- Title: Toward spike-based stochastic neural computing
- Title(参考訳): スパイクに基づく確率ニューラルコンピューティングに向けて
- Authors: Yang Qi, Zhichao Zhu, Yiming Wei, Lu Cao, Zhigang Wang, Wenlian Lu,
Jianfeng Feng
- Abstract要約: 我々はスパイクニューラルネットワークにおける勾配に基づく学習を可能にする新しいモーメント埋め込み手法を開発した。
我々は、この方法で訓練されたスパイクニューラルネットワークを教師付き学習設定の下で、不確実性を最小化しながらタスクを学習できることを示します。
- 参考スコア(独自算出の注目度): 15.817976610416112
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Inspired by the highly irregular spiking activity of cortical neurons,
stochastic neural computing is an attractive theory for explaining the
operating principles of the brain and the ability to represent uncertainty by
intelligent agents. However, computing and learning with high-dimensional joint
probability distributions of spiking neural activity across large populations
of neurons present as a major challenge. To overcome this, we develop a novel
moment embedding approach to enable gradient-based learning in spiking neural
networks accounting for the propagation of correlated neural variability. We
show under the supervised learning setting a spiking neural network trained
this way is able to learn the task while simultaneously minimizing uncertainty,
and further demonstrate its application to neuromorphic hardware. Built on the
principle of spike-based stochastic neural computing, the proposed method opens
up new opportunities for developing machine intelligence capable of computing
uncertainty and for designing unconventional computing architectures.
- Abstract(参考訳): 皮質ニューロンの非常に不規則なスパイク活動にインスパイアされた確率的ニューラルコンピューティングは、脳の動作原理と知的エージェントによる不確実性を表現する能力を説明する魅力的な理論である。
しかし、ニューロンの集団にまたがるスパイク神経活動の高次元的確率分布を用いた計算と学習は大きな課題である。
そこで本研究では,スパイキングニューラルネットワークにおける勾配に基づく学習を可能にする新しいモーメント埋め込み手法を開発した。
我々は、この方法で訓練されたスパイクニューラルネットワークを教師付き学習設定の下で、不確実性を最小化しながらタスクを学習できることを示し、さらにニューロモルフィックハードウェアへの応用を実証する。
スパイクに基づく確率的ニューラルコンピューティングの原理に基づいて構築されたこの手法は、不確かさを計算し、非慣習的コンピューティングアーキテクチャを設計するための新しい機会を開く。
関連論文リスト
- Hebbian Learning based Orthogonal Projection for Continual Learning of
Spiking Neural Networks [74.3099028063756]
我々は,側方接続とヘビアン学習に基づくニューラル操作を用いた新しい手法を開発した。
我々は,反復する側方接続におけるヘビアン学習と反ヘビアン学習が,神経活動の主部分空間を効果的に抽出できることを示した。
我々の手法は、ほとんど忘れることなくニューラルネットワークをスパイクするために一貫して解決する。
論文 参考訳(メタデータ) (2024-02-19T09:29:37Z) - Brain-Inspired Machine Intelligence: A Survey of
Neurobiologically-Plausible Credit Assignment [65.268245109828]
本稿では,神経生物学にインスパイアされた,あるいは動機付けられた人工ニューラルネットワークにおける信用割当を行うアルゴリズムについて検討する。
我々は、脳にインスパイアされた学習スキームを6つの一般的なファミリーにまとめ、これらを誤りのバックプロパゲーションの文脈で検討する。
本研究の成果は,神経ミメティックシステムとその構成的学習プロセスの今後の発展を促進することを目的としている。
論文 参考訳(メタデータ) (2023-12-01T05:20:57Z) - Advanced Computing and Related Applications Leveraging Brain-inspired
Spiking Neural Networks [0.0]
スパイクニューラルネットワークは、脳に似たコンピューティングを実現する人工知能のコアの1つである。
本稿では,5つのニューロンモデルの強み,弱さ,適用性について要約し,5つのネットワークトポロジの特徴を解析する。
論文 参考訳(メタデータ) (2023-09-08T16:41:08Z) - Learning to Act through Evolution of Neural Diversity in Random Neural
Networks [9.387749254963595]
ほとんどの人工ニューラルネットワーク(ANN)では、神経計算は通常すべてのニューロン間で共有される活性化関数に抽象化される。
本稿では,複雑な計算を行うことができる多様なニューロンの集合を実現するために,神経中心パラメータの最適化を提案する。
論文 参考訳(メタデータ) (2023-05-25T11:33:04Z) - Constraints on the design of neuromorphic circuits set by the properties
of neural population codes [61.15277741147157]
脳内では、情報はコード化され、伝達され、行動を伝えるために使用される。
ニューロモルフィック回路は、脳内のニューロンの集団が使用するものと互換性のある方法で情報を符号化する必要がある。
論文 参考訳(メタデータ) (2022-12-08T15:16:04Z) - Spiking neural network for nonlinear regression [68.8204255655161]
スパイクニューラルネットワークは、メモリとエネルギー消費を大幅に削減する可能性を持っている。
彼らは、次世代のニューロモルフィックハードウェアによって活用できる時間的および神経的疎結合を導入する。
スパイキングニューラルネットワークを用いた回帰フレームワークを提案する。
論文 参考訳(メタデータ) (2022-10-06T13:04:45Z) - Brain-inspired Graph Spiking Neural Networks for Commonsense Knowledge
Representation and Reasoning [11.048601659933249]
神経科学、認知科学、心理学、人工知能において、人間の脳におけるニューラルネットワークがどのように常識知識を表現するかは重要な研究トピックである。
本研究は, 個体群エンコーディングとスパイクタイミング依存的可塑性(STDP)機構をスパイクニューラルネットワークの学習に組み込む方法について検討する。
異なるコミュニティのニューロン集団は、コモンセンス知識グラフ全体を構成し、巨大なグラフがニューラルネットワークをスパイクする。
論文 参考訳(メタデータ) (2022-07-11T05:22:38Z) - Overcoming the Domain Gap in Contrastive Learning of Neural Action
Representations [60.47807856873544]
神経科学の基本的な目標は、神経活動と行動の関係を理解することである。
我々は,ハエが自然に生み出す行動からなる新しいマルチモーダルデータセットを作成した。
このデータセットと新しい拡張セットは、神経科学における自己教師あり学習手法の適用を加速することを約束します。
論文 参考訳(メタデータ) (2021-11-29T15:27:51Z) - Functional neural network for decision processing, a racing network of
programmable neurons with fuzzy logic where the target operating model relies
on the network itself [1.1602089225841632]
本稿では,人間の意思決定過程をモデル化する関数型ニューラルネットワークである,人工知能の新しいモデルを提案する。
この機能的ニューラルネットワークは、意思決定の計算方法を変革する有望な可能性を秘めている、と私たちは信じています。
論文 参考訳(メタデータ) (2021-02-24T15:19:35Z) - Neuro-symbolic Neurodegenerative Disease Modeling as Probabilistic
Programmed Deep Kernels [93.58854458951431]
本稿では、神経変性疾患のパーソナライズされた予測モデリングのための、確率的プログラムによる深層カーネル学習手法を提案する。
我々の分析は、ニューラルネットワークとシンボリック機械学習のアプローチのスペクトルを考慮する。
我々は、アルツハイマー病の予測問題について評価を行い、深層学習を超越した結果を得た。
論文 参考訳(メタデータ) (2020-09-16T15:16:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。