論文の概要: A Normative and Biologically Plausible Algorithm for Independent
Component Analysis
- arxiv url: http://arxiv.org/abs/2111.08858v1
- Date: Wed, 17 Nov 2021 01:43:42 GMT
- ステータス: 処理完了
- システム内更新日: 2021-11-18 23:51:57.461017
- Title: A Normative and Biologically Plausible Algorithm for Independent
Component Analysis
- Title(参考訳): 独立成分分析のためのノーマティブで生物学的に可算なアルゴリズム
- Authors: Yanis Bahroun, Dmitri B Chklovskii, Anirvan M Sengupta
- Abstract要約: 信号処理では、線形ブラインド音源分離問題は独立成分分析(ICA)によってしばしば解決される。
生物学的回路のモデルとして機能するためには、ICAニューラルネットワーク(NN)は、少なくとも以下の要件を満たす必要がある。
本稿では,ニューラルアーキテクチャとシナプス学習規則の両方を含む生物学的に妥当なNNを導出するICAの目的関数を提案する。
- 参考スコア(独自算出の注目度): 15.082715993594121
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The brain effortlessly solves blind source separation (BSS) problems, but the
algorithm it uses remains elusive. In signal processing, linear BSS problems
are often solved by Independent Component Analysis (ICA). To serve as a model
of a biological circuit, the ICA neural network (NN) must satisfy at least the
following requirements: 1. The algorithm must operate in the online setting
where data samples are streamed one at a time, and the NN computes the sources
on the fly without storing any significant fraction of the data in memory. 2.
The synaptic weight update is local, i.e., it depends only on the biophysical
variables present in the vicinity of a synapse. Here, we propose a novel
objective function for ICA from which we derive a biologically plausible NN,
including both the neural architecture and the synaptic learning rules.
Interestingly, our algorithm relies on modulating synaptic plasticity by the
total activity of the output neurons. In the brain, this could be accomplished
by neuromodulators, extracellular calcium, local field potential, or nitric
oxide.
- Abstract(参考訳): 脳はブラインドソース分離(BSS)の問題を解決するが、そのアルゴリズムはいまだに解明されていない。
信号処理では、線形BSS問題は独立成分分析(ICA)によってしばしば解決される。
生物学的回路のモデルとして機能するためには、ICAニューラルネットワーク(NN)は以下の要件を満たす必要がある。
1. このアルゴリズムは、データサンプルが一度に1回ストリーミングされるオンライン環境で動作し、NNはメモリにデータの一部を格納することなく、オンザフライでソースを計算しなければならない。
2. シナプス重量の更新は局所的、すなわち、シナプス近傍に存在する生物物理学的変数にのみ依存する。
本稿では,ニューラル・アーキテクチャとシナプス学習規則の両方を含む生物学的に妥当なnnを導出するicaのための新しい目的関数を提案する。
興味深いことに、我々のアルゴリズムは出力ニューロンの総活動量によるシナプス可塑性の調節に依存している。
脳では、神経調節物質、細胞外カルシウム、局所野電位、一酸化窒素によってこれを達成できる。
関連論文リスト
- The Expressive Leaky Memory Neuron: an Efficient and Expressive Phenomenological Neuron Model Can Solve Long-Horizon Tasks [64.08042492426992]
本稿では,脳皮質ニューロンの生物学的モデルであるExpressive Memory(ELM)ニューロンモデルを紹介する。
ELMニューロンは、上記の入力-出力関係を1万以下のトレーニング可能なパラメータと正確に一致させることができる。
本稿では,Long Range Arena(LRA)データセットなど,時間構造を必要とするタスクで評価する。
論文 参考訳(メタデータ) (2023-06-14T13:34:13Z) - POPPINS : A Population-Based Digital Spiking Neuromorphic Processor with
Integer Quadratic Integrate-and-Fire Neurons [50.591267188664666]
2つの階層構造を持つ180nmプロセス技術において,集団に基づくディジタルスパイキングニューロモルフィックプロセッサを提案する。
提案手法は,生体模倣型ニューロモルフィックシステム,低消費電力,低遅延推論処理アプリケーションの開発を可能にする。
論文 参考訳(メタデータ) (2022-01-19T09:26:34Z) - The Causal Neural Connection: Expressiveness, Learnability, and
Inference [125.57815987218756]
構造因果モデル (Structuor causal model, SCM) と呼ばれるオブジェクトは、調査中のシステムのランダムな変動のメカニズムと源の集合を表す。
本稿では, 因果的階層定理 (Thm. 1, Bareinboim et al., 2020) がまだニューラルモデルに対して成り立っていることを示す。
我々はニューラル因果モデル(NCM)と呼ばれる特殊なタイプのSCMを導入し、因果推論に必要な構造的制約をエンコードする新しいタイプの帰納バイアスを定式化する。
論文 参考訳(メタデータ) (2021-07-02T01:55:18Z) - Neuromorphic Algorithm-hardware Codesign for Temporal Pattern Learning [11.781094547718595]
複雑な空間時間パターンを学習するためにSNNを訓練できるLeaky IntegrateとFireニューロンの効率的なトレーニングアルゴリズムを導出する。
我々は,ニューロンとシナプスのメムリスタに基づくネットワークのためのCMOS回路実装を開発した。
論文 参考訳(メタデータ) (2021-04-21T18:23:31Z) - A simple normative network approximates local non-Hebbian learning in
the cortex [12.940770779756482]
神経科学実験は、皮質ニューロンによる感覚入力の処理は、指示信号によって変調されることを示した。
ここでは、規範的なアプローチを採用し、フィードフォワードデータの投影を導く監督的な入力として、これらの命令信号をモデル化する。
オンラインアルゴリズムは、シナプス学習規則が大脳皮質で観察されるカルシウムプラトー電位依存的な可塑性に類似しているニューラルネットワークによって実装することができる。
論文 参考訳(メタデータ) (2020-10-23T20:49:44Z) - Biologically plausible single-layer networks for nonnegative independent
component analysis [21.646490546361935]
生物学的に妥当な単一層ニューラルネットワークによるブラインドソース分離アルゴリズムを提案する。
生物学的信頼性のためには、神経回路の以下の3つの基本的な特性を満たすためにネットワークが必要である。
論文 参考訳(メタデータ) (2020-10-23T19:31:49Z) - A biologically plausible neural network for multi-channel Canonical
Correlation Analysis [12.940770779756482]
皮質錐体ニューロンは、複数の神経集団から入力を受け取り、これらの入力を別々の樹状体区画に統合する。
我々は,生物学的に妥当なニューラルネットワークで実装可能なマルチチャネルCAAアルゴリズムを提案する。
生物学的信頼性のためには、ネットワークはオンライン環境で動作し、シナプス更新ルールはローカルである必要がある。
論文 参考訳(メタデータ) (2020-10-01T16:17:53Z) - Provably Efficient Neural Estimation of Structural Equation Model: An
Adversarial Approach [144.21892195917758]
一般化構造方程式モデル(SEM)のクラスにおける推定について検討する。
線形作用素方程式をmin-maxゲームとして定式化し、ニューラルネットワーク(NN)でパラメータ化し、勾配勾配を用いてニューラルネットワークのパラメータを学習する。
提案手法は,サンプル分割を必要とせず,確固とした収束性を持つNNをベースとしたSEMの抽出可能な推定手順を初めて提供する。
論文 参考訳(メタデータ) (2020-07-02T17:55:47Z) - Flexible Transmitter Network [84.90891046882213]
現在のニューラルネットワークはMPモデルに基づいて構築されており、通常はニューロンを他のニューロンから受信した信号の実際の重み付け集約上での活性化関数の実行として定式化する。
本稿では,フレキシブル・トランスミッタ(FT)モデルを提案する。
本稿では、最も一般的な完全接続型フィードフォワードアーキテクチャ上に構築された、フレキシブルトランスミッタネットワーク(FTNet)について述べる。
論文 参考訳(メタデータ) (2020-04-08T06:55:12Z) - Non-linear Neurons with Human-like Apical Dendrite Activations [81.18416067005538]
XOR論理関数を100%精度で学習し, 標準的なニューロンに後続のアピーカルデンドライト活性化(ADA)が認められた。
コンピュータビジョン,信号処理,自然言語処理の6つのベンチマークデータセットについて実験を行った。
論文 参考訳(メタデータ) (2020-02-02T21:09:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。