論文の概要: Fault-Tolerant Neural Networks from Biological Error Correction Codes
- arxiv url: http://arxiv.org/abs/2202.12887v3
- Date: Fri, 9 Feb 2024 15:48:36 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-12 21:30:44.478820
- Title: Fault-Tolerant Neural Networks from Biological Error Correction Codes
- Title（参考訳）: 生体エラー訂正符号からの耐故障性ニューラルネットワーク
- Authors: Alexander Zlokapa, Andrew K. Tan, John M. Martyn, Ila R. Fiete, Max
Tegmark, Isaac L. Chuang
- Abstract要約: 哺乳類大脳皮質の格子細胞では、アナログ誤差補正符号が神経スパイクノイズから状態を保護するために観測されている。
ここでは、これらの生物学的エラー訂正符号を用いて、各ニューロンの欠陥がシャープしきい値以下である場合、信頼性の高い計算を実現する、普遍的なフォールトトレラントニューラルネットワークを開発する。
フォールトからフォールトトレラントニューラルネットワークへの位相遷移の発見は、大脳皮質における信頼性の高い計算のメカニズムを示唆している。
- 参考スコア（独自算出の注目度）: 45.82537918529782
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: It has been an open question in deep learning if fault-tolerant computation
is possible: can arbitrarily reliable computation be achieved using only
unreliable neurons? In the grid cells of the mammalian cortex, analog error
correction codes have been observed to protect states against neural spiking
noise, but their role in information processing is unclear. Here, we use these
biological error correction codes to develop a universal fault-tolerant neural
network that achieves reliable computation if the faultiness of each neuron
lies below a sharp threshold; remarkably, we find that noisy biological neurons
fall below this threshold. The discovery of a phase transition from faulty to
fault-tolerant neural computation suggests a mechanism for reliable computation
in the cortex and opens a path towards understanding noisy analog systems
relevant to artificial intelligence and neuromorphic computing.
- Abstract（参考訳）: フォールトトレラントな計算が可能であるかどうかは、ディープラーニングにおいてオープンな問題である。
哺乳類大脳皮質の格子細胞では、アナログ誤り訂正符号が神経スパイクノイズから状態を保護するために観測されているが、情報処理におけるそれらの役割は不明である。
本稿では,これらの生物学的誤り訂正符号を用いて,各ニューロンの故障度が鋭い閾値以下であれば,信頼性の高い計算を実現する普遍的フォールトトレラントニューラルネットワークを開発した。
障害からフォールトトレラントな神経計算への位相遷移の発見は、大脳皮質における信頼できる計算のメカニズムを示し、人工知能やニューロモルフィックコンピューティングに関連するノイズの多いアナログシステムを理解する道を開く。
関連論文リスト
- Verified Neural Compressed Sensing [58.98637799432153]
精度の高い計算タスクのために、初めて(私たちの知識を最大限に活用するために)証明可能なニューラルネットワークを開発します。
極小問題次元(最大50)では、線形および双項線形測定からスパースベクトルを確実に回復するニューラルネットワークを訓練できることを示す。
ネットワークの複雑さは問題の難易度に適応できることを示し、従来の圧縮センシング手法が証明不可能な問題を解く。
論文 参考訳（メタデータ） (2024-05-07T12:20:12Z) - Neuromorphic Auditory Perception by Neural Spiketrum [27.871072042280712]
本研究では、時間変化のアナログ信号を効率的なスパイクパターンに変換するために、スパイク時相と呼ばれるニューラルスパイク符号化モデルを導入する。
このモデルは、様々な聴覚知覚タスクにおいて、スパイクニューラルネットワークのトレーニングを容易にする、正確に制御可能なスパイクレートを備えたスパースで効率的な符号化スキームを提供する。
論文 参考訳（メタデータ） (2023-09-11T13:06:19Z) - Neuroevolutionary algorithms driven by neuron coverage metrics for
semi-supervised classification [60.60571130467197]
一部の機械学習アプリケーションでは、ラベル付けされていないインスタンスが豊富であるのに対して、教師付き分類のためのラベル付きインスタンスの可用性は制限されている。
本稿では、ニューラルネットワークアーキテクチャ上で計算されたニューラルネットワークカバレッジメトリクスを用いて、未ラベルのインスタンスを利用する神経進化的アプローチを提案する。
論文 参考訳（メタデータ） (2023-03-05T23:38:44Z) - Constraints on the design of neuromorphic circuits set by the properties
of neural population codes [61.15277741147157]
脳内では、情報はコード化され、伝達され、行動を伝えるために使用される。
ニューロモルフィック回路は、脳内のニューロンの集団が使用するものと互換性のある方法で情報を符号化する必要がある。
論文 参考訳（メタデータ） (2022-12-08T15:16:04Z) - Quadratic Neuron-empowered Heterogeneous Autoencoder for Unsupervised Anomaly Detection [8.271989261355785]
新しいタイプのニューロンが、現在のニューロンの内積を単純化された二次関数で置き換えることが提案されている。
我々の知る限りでは、異なる種類のニューロンから構成される最初の異種自己エンコーダである。
実験により、異種オートエンコーダは他の最先端モデルと比較して競合的に機能することが示された。
論文 参考訳（メタデータ） (2022-04-02T04:19:24Z) - POPPINS : A Population-Based Digital Spiking Neuromorphic Processor with
Integer Quadratic Integrate-and-Fire Neurons [50.591267188664666]
2つの階層構造を持つ180nmプロセス技術において,集団に基づくディジタルスパイキングニューロモルフィックプロセッサを提案する。
提案手法は,生体模倣型ニューロモルフィックシステム,低消費電力,低遅延推論処理アプリケーションの開発を可能にする。
論文 参考訳（メタデータ） (2022-01-19T09:26:34Z) - Information contraction in noisy binary neural networks and its
implications [11.742803725197506]
我々は、各ニューロンが不正な出力を発生させる確率がゼロでない、ノイズの多いバイナリニューラルネットワークを考察する。
私たちの重要な発見は、ノイズの多いニューラルネットワークで必要なニューロンの数が少ないことです。
本稿では,情報理論のレンズを通して,ノイズの多い情報処理システムに対する新たな理解を提供する。
論文 参考訳（メタデータ） (2021-01-28T00:01:45Z) - A simple normative network approximates local non-Hebbian learning in
the cortex [12.940770779756482]
神経科学実験は、皮質ニューロンによる感覚入力の処理は、指示信号によって変調されることを示した。
ここでは、規範的なアプローチを採用し、フィードフォワードデータの投影を導く監督的な入力として、これらの命令信号をモデル化する。
オンラインアルゴリズムは、シナプス学習規則が大脳皮質で観察されるカルシウムプラトー電位依存的な可塑性に類似しているニューラルネットワークによって実装することができる。
論文 参考訳（メタデータ） (2020-10-23T20:49:44Z) - Relaxing the Constraints on Predictive Coding Models [62.997667081978825]
予測符号化(英: Predictive coding)は、脳が行う主計算が予測誤差の最小化であるとする皮質機能の影響力のある理論である。
アルゴリズムの標準的な実装は、同じ前方と後方の重み、後方の非線形微分、1-1エラーユニット接続といった、潜在的に神経的に予測できない特徴を含んでいる。
本稿では,これらの特徴はアルゴリズムに不可欠なものではなく,Hebbianの更新ルールを用いてパラメータセットを直接あるいは学習することで,学習性能に悪影響を及ぼすことなく除去可能であることを示す。
論文 参考訳（メタデータ） (2020-10-02T15:21:37Z) - Bayesian Neural Networks [0.0]
ニューラルネットワークによる予測におけるエラーを原理的に得る方法を示し、これらのエラーを特徴付ける2つの方法を提案する。
さらに、これらの2つのメソッドが実際に実施される際に、重大な落とし穴を持つ方法についても説明します。
論文 参考訳（メタデータ） (2020-06-02T09:43:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。