論文の概要: Bayesian reconstruction of memories stored in neural networks from their
connectivity
- arxiv url: http://arxiv.org/abs/2105.07416v1
- Date: Sun, 16 May 2021 12:05:10 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-18 14:28:05.647954
- Title: Bayesian reconstruction of memories stored in neural networks from their
connectivity
- Title(参考訳): ニューラルネットワークに記憶された記憶のベイズ的再構成
- Authors: Sebastian Goldt, Florent Krzakala, Lenka Zdeborov\'a, Nicolas Brunel
- Abstract要約: シナプス接続から記憶パターンを再構築するための実用的なアルゴリズムを提供する。
3つのモデルでその性能を研究し、シナプスコネクティビティから保存パターンを再構築する限界を探ります。
- 参考スコア(独自算出の注目度): 25.94639282590696
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The advent of comprehensive synaptic wiring diagrams of large neural circuits
has created the field of connectomics and given rise to a number of open
research questions. One such question is whether it is possible to reconstruct
the information stored in a recurrent network of neurons, given its synaptic
connectivity matrix. Here, we address this question by determining when solving
such an inference problem is theoretically possible in specific attractor
network models and by providing a practical algorithm to do so. The algorithm
builds on ideas from statistical physics to perform approximate Bayesian
inference and is amenable to exact analysis. We study its performance on three
different models and explore the limitations of reconstructing stored patterns
from synaptic connectivity.
- Abstract(参考訳): 大規模神経回路の包括的シナプス配線図の出現はコネクトミクスの分野を生み出し、多くのオープン研究の疑問を生み出した。
そのような問題の1つは、シナプス接続マトリックスを前提に、ニューロンの繰り返しのネットワークに格納された情報を再構築できるかどうかである。
本稿では,特定のアトラクタネットワークモデルにおいて,そのような推論問題の解法が理論的に可能であるかどうかを判断し,実用的なアルゴリズムを提供することにより,この問題に対処する。
このアルゴリズムは統計物理学のアイデアに基づいて近似ベイズ推論を行い、正確な解析に適している。
3つの異なるモデルでその性能を調べ,シナプス接続からストアドパターンを再構築する限界について検討した。
関連論文リスト
- Relational Composition in Neural Networks: A Survey and Call to Action [54.47858085003077]
多くのニューラルネットは、データを「機能ベクトル」の線形結合として表現しているように見える。
我々は、この成功は関係性の構成を理解せずに不完全であると主張する。
論文 参考訳(メタデータ) (2024-07-19T20:50:57Z) - Demolition and Reinforcement of Memories in Spin-Glass-like Neural
Networks [0.0]
この論文の目的は、連想記憶モデルと生成モデルの両方において、アンラーニングの有効性を理解することである。
構造化データの選択により、連想記憶モデルは、相当量のアトラクションを持つニューラルダイナミクスのアトラクションとしての概念を検索することができる。
Boltzmann Machinesの新しい正規化手法が提案され、データセットから隠れ確率分布を学習する以前に開発された手法より優れていることが証明された。
論文 参考訳(メタデータ) (2024-03-04T23:12:42Z) - Decoding Neuronal Networks: A Reservoir Computing Approach for
Predicting Connectivity and Functionality [0.0]
我々のモデルは神経培養の電気生理学的測定から得られたデータを解読する。
特に、ネットワーク接続マップの予測において、クロスコリレーションやトランスファーエントロピーのような一般的な手法よりも優れています。
論文 参考訳(メタデータ) (2023-11-06T14:28:11Z) - Memorization with neural nets: going beyond the worst case [5.662924503089369]
実際には、ディープニューラルネットワークはトレーニングデータを簡単に補間できることが多い。
しかし、実世界のデータについては、暗記能力によって提案されるよりもネットワークサイズが小さいような良質な構造の存在を直感的に期待する。
2つのクラスを持つ固定有限データセットを与えられた場合、高い確率で3層ニューラルネットワークを時間内に補間する単純なランダム化アルゴリズムを導入する。
論文 参考訳(メタデータ) (2023-09-30T10:06:05Z) - Unsupervised Learning of Invariance Transformations [105.54048699217668]
近似グラフ自己同型を見つけるためのアルゴリズムフレームワークを開発する。
重み付きグラフにおける近似自己同型を見つけるために、このフレームワークをどのように利用できるかについて議論する。
論文 参考訳(メタデータ) (2023-07-24T17:03:28Z) - Contrastive-Signal-Dependent Plasticity: Self-Supervised Learning in Spiking Neural Circuits [61.94533459151743]
この研究は、スパイキングネットワークのシナプスを調整するための神経生物学的に動機づけられたスキームを設計することの課題に対処する。
我々の実験シミュレーションは、繰り返しスパイクネットワークを訓練する際、他の生物学的に証明可能なアプローチに対して一貫した優位性を示す。
論文 参考訳(メタデータ) (2023-03-30T02:40:28Z) - Spiking neural network for nonlinear regression [68.8204255655161]
スパイクニューラルネットワークは、メモリとエネルギー消費を大幅に削減する可能性を持っている。
彼らは、次世代のニューロモルフィックハードウェアによって活用できる時間的および神経的疎結合を導入する。
スパイキングニューラルネットワークを用いた回帰フレームワークを提案する。
論文 参考訳(メタデータ) (2022-10-06T13:04:45Z) - Quasi-orthogonality and intrinsic dimensions as measures of learning and
generalisation [55.80128181112308]
ニューラルネットワークの特徴空間の次元性と準直交性は、ネットワークの性能差別と共同して機能する可能性があることを示す。
本研究は, ネットワークの最終的な性能と, ランダムに初期化された特徴空間の特性との関係を示唆する。
論文 参考訳(メタデータ) (2022-03-30T21:47:32Z) - Data-driven emergence of convolutional structure in neural networks [83.4920717252233]
識別タスクを解くニューラルネットワークが、入力から直接畳み込み構造を学習できることを示す。
データモデルを慎重に設計することにより、このパターンの出現は、入力の非ガウス的、高次局所構造によって引き起こされることを示す。
論文 参考訳(メタデータ) (2022-02-01T17:11:13Z) - Online neural connectivity estimation with ensemble stimulation [5.156484100374058]
スパースネットワークにおけるこのプロセスの効率を大幅に向上させる,ノイズの多いグループテストに基づく手法を提案する。
人口規模に比例して対数的にしか成長しない多数のテストにより、二項化ネットワーク接続を回復可能であることを示す。
また、ネット上の数万のニューロンのネットワークに対して、接続性を推測する可能性も示しています。
論文 参考訳(メタデータ) (2020-07-27T23:47:03Z) - Neural Rule Ensembles: Encoding Sparse Feature Interactions into Neural
Networks [3.7277730514654555]
決定木を用いて、関連する特徴とその相互作用をキャプチャし、抽出した関係をニューラルネットワークにエンコードするマッピングを定義する。
同時に、機能選択により、アートツリーベースのアプローチの状況と比較して、コンパクトな表現の学習が可能になる。
論文 参考訳(メタデータ) (2020-02-11T11:22:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。