論文の概要: A Metric for Evaluating Neural Input Representation in Supervised
Learning Networks
- arxiv url: http://arxiv.org/abs/2003.01588v1
- Date: Tue, 3 Mar 2020 15:21:25 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-26 22:27:13.290924
- Title: A Metric for Evaluating Neural Input Representation in Supervised
Learning Networks
- Title(参考訳): 教師付き学習ネットワークにおける神経入力表現の評価指標
- Authors: Richard R Carrillo, Francisco Naveros, Eduardo Ros, Niceto R Luque
- Abstract要約: 監視された学習は、長い間、脳内のいくつかのフィードフォワード神経回路によるものと考えられてきた。
本研究の目的は,これらのフィードフォワードニューラルネットワークの入力活動表現を評価することである。
- 参考スコア(独自算出の注目度): 0.30586855806896046
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Supervised learning has long been attributed to several feed-forward neural
circuits within the brain, with attention being paid to the cerebellar granular
layer. The focus of this study is to evaluate the input activity representation
of these feed-forward neural networks. The activity of cerebellar granule cells
is conveyed by parallel fibers and translated into Purkinje cell activity; the
sole output of the cerebellar cortex. The learning process at this
parallel-fiber-to-Purkinje-cell connection makes each Purkinje cell sensitive
to a set of specific cerebellar states, determined by the granule-cell activity
during a certain time window. A Purkinje cell becomes sensitive to each neural
input state and, consequently, the network operates as a function able to
generate a desired output for each provided input by means of supervised
learning. However, not all sets of Purkinje cell responses can be assigned to
any set of input states due to the network's own limitations (inherent to the
network neurobiological substrate), that is, not all input-output mapping can
be learned. A limiting factor is the representation of the input states through
granule-cell activity. The quality of this representation will determine the
capacity of the network to learn a varied set of outputs. In this study we
present an algorithm for evaluating quantitatively the level of
compatibility/interference amongst a set of given cerebellar states according
to their representation (granule-cell activation patterns) without the need for
actually conducting simulations and network training. The algorithm input
consists of a real-number matrix that codifies the activity level of every
considered granule-cell in each state. The capability of this representation to
generate a varied set of outputs is evaluated geometrically, thus resulting in
a real number that assesses the goodness of the representation
- Abstract(参考訳): 教師付き学習は長い間、脳内のいくつかのフィードフォワード神経回路に起因しており、小脳の顆粒層に注意が払われている。
本研究の目的は,これらのフィードフォワードニューラルネットワークの入力アクティビティ表現を評価することである。
小脳顆粒細胞の活性は平行繊維によって伝達され、小脳皮質の唯一の出力であるPurkinje細胞活性に変換される。
このパラレルファイバーからプルキンエ細胞への接続における学習プロセスにより、プルキンエ細胞は特定の時間内の顆粒細胞活動によって決定される特定の小脳の状態に対して敏感になる。
パーキンジェセルは、各ニューラル入力状態に敏感になり、そのネットワークは、教師付き学習により提供される各入力に対して所望の出力を生成する機能として機能する。
しかしながら、ネットワーク自身の制限(ネットワーク神経生物学基板に根ざした)のため、すべてのプルキンエ細胞応答が任意の入力状態に割り当てられる訳ではなく、全ての入力出力マッピングが学習できるわけではない。
制限因子は、顆粒細胞活性による入力状態の表現である。
この表現の質は、様々な出力の集合を学習するネットワークの能力を決定する。
本研究では、シミュレーションやネットワークトレーニングを実際に行うことなく、その表現(顆粒細胞活性化パターン)に応じて、与えられた小脳状態間の互換性/干渉のレベルを定量的に評価するアルゴリズムを提案する。
アルゴリズム入力は、各状態におけるすべての顆粒細胞の活性レベルを成す実数行列からなる。
様々な出力集合を生成するこの表現の能力は幾何学的に評価され、その結果、表現の良さを評価する実数となる。
関連論文リスト
- DISCOVER: Making Vision Networks Interpretable via Competition and
Dissection [11.028520416752325]
この研究は、ポストホック解釈可能性、特にネットワーク分割に寄与する。
私たちのゴールは、視覚タスクで訓練されたネットワークにおいて、各ニューロンの個々の機能を容易に発見できるフレームワークを提供することです。
論文 参考訳(メタデータ) (2023-10-07T21:57:23Z) - Data-driven emergence of convolutional structure in neural networks [83.4920717252233]
識別タスクを解くニューラルネットワークが、入力から直接畳み込み構造を学習できることを示す。
データモデルを慎重に設計することにより、このパターンの出現は、入力の非ガウス的、高次局所構造によって引き起こされることを示す。
論文 参考訳(メタデータ) (2022-02-01T17:11:13Z) - POPPINS : A Population-Based Digital Spiking Neuromorphic Processor with
Integer Quadratic Integrate-and-Fire Neurons [50.591267188664666]
2つの階層構造を持つ180nmプロセス技術において,集団に基づくディジタルスパイキングニューロモルフィックプロセッサを提案する。
提案手法は,生体模倣型ニューロモルフィックシステム,低消費電力,低遅延推論処理アプリケーションの開発を可能にする。
論文 参考訳(メタデータ) (2022-01-19T09:26:34Z) - Quantum activation functions for quantum neural networks [0.0]
情報を符号化する状態を測定することなく、必要な精度で解析関数を近似する方法を示す。
この結果は,ゲートモデル量子コンピュータのアーキテクチャにおける人工ニューラルネットワークの科学を再放送するものである。
論文 参考訳(メタデータ) (2022-01-10T23:55:49Z) - Towards self-organized control: Using neural cellular automata to
robustly control a cart-pole agent [62.997667081978825]
我々は、カートポールエージェントを制御するために、ニューラルセルオートマトンを使用する。
我々は、Q値の推定値として出力セルの状態を用いる深層学習を用いてモデルを訓練した。
論文 参考訳(メタデータ) (2021-06-29T10:49:42Z) - Adaptive conversion of real-valued input into spike trains [91.3755431537592]
本稿では,実数値入力をスパイクトレインに変換し,スパイクニューラルネットワークで処理する方法を提案する。
提案手法は網膜神経節細胞の適応的挙動を模倣し,入力ニューロンが入力の統計の変化に応答することを可能にする。
論文 参考訳(メタデータ) (2021-04-12T12:33:52Z) - And/or trade-off in artificial neurons: impact on adversarial robustness [91.3755431537592]
ネットワークに十分な数のOR様ニューロンが存在すると、分類の脆さと敵の攻撃に対する脆弱性が増加する。
そこで我々は,AND様ニューロンを定義し,ネットワーク内での割合を増大させる対策を提案する。
MNISTデータセットによる実験結果から,本手法はさらなる探索の方向として有望であることが示唆された。
論文 参考訳(メタデータ) (2021-02-15T08:19:05Z) - Interpretable Neural Networks based classifiers for categorical inputs [0.0]
本稿では,入力カテゴリ変数として扱うニューラルネットワーク分類器の出力関数を簡易に解釈する手法を提案する。
これらの場合、ネットワークの各層、特にロジット層は、各入力パターンの分類に寄与する用語の総和として拡張可能であることを示す。
適切なゲージ変換後の各パターンのコントリビューションの分析を,本手法の有効性が評価できる2つの事例に示す。
論文 参考訳(メタデータ) (2021-02-05T14:38:50Z) - Analyzing Representations inside Convolutional Neural Networks [8.803054559188048]
本稿では,ネットワークが学習する概念を,一連の入力例をクラスタリングする方法に基づいて分類するフレームワークを提案する。
このフレームワークは教師なしで、入力機能のためのラベルなしで機能する。
提案手法を広範に評価し,人間の理解しやすさとコヒーレントな概念を創出することを示す。
論文 参考訳(メタデータ) (2020-12-23T07:10:17Z) - Estimating Multiplicative Relations in Neural Networks [0.0]
対数関数の特性を用いて、積を線形表現に変換し、バックプロパゲーションを用いて学習できるアクティベーション関数のペアを提案する。
いくつかの複雑な算術関数に対してこのアプローチを一般化し、トレーニングセットとの不整合分布の精度を検証しようと試みる。
論文 参考訳(メタデータ) (2020-10-28T14:28:24Z) - Recurrent Neural Network Learning of Performance and Intrinsic
Population Dynamics from Sparse Neural Data [77.92736596690297]
本稿では,RNNの入出力動作だけでなく,内部ネットワークのダイナミクスも学習できる新しいトレーニング戦略を提案する。
提案手法は、RNNを訓練し、生理学的にインスパイアされた神経モデルの内部ダイナミクスと出力信号を同時に再現する。
注目すべきは、トレーニングアルゴリズムがニューロンの小さなサブセットの活性に依存する場合であっても、内部動力学の再現が成功することである。
論文 参考訳(メタデータ) (2020-05-05T14:16:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。