論文の概要: Bio-inspired Machine Learning: programmed death and replication
- arxiv url: http://arxiv.org/abs/2207.04886v1
- Date: Thu, 30 Jun 2022 10:44:12 GMT
- ステータス: 処理完了
- システム内更新日: 2022-07-17 16:16:50.744797
- Title: Bio-inspired Machine Learning: programmed death and replication
- Title（参考訳）: バイオインスパイアされた機械学習: プログラムによる死と複製
- Authors: Andrey Grabovsky and Vitaly Vanchurin
- Abstract要約: システムにニューロンを追加したり、システムからニューロンを取り除いたりするための機械学習アルゴリズムを開発した。
プログラムされた死アルゴリズムはニューラルネットワークの圧縮に利用でき、複製アルゴリズムは、既に訓練済みのニューラルネットワークの性能向上に利用することができると論じる。
バイオインスパイアされたアルゴリズムの計算上の利点は、MNISTデータセット上でフィードフォワードニューラルネットワークをトレーニングすることによって示される。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We analyze algorithmic and computational aspects of biological phenomena,
such as replication and programmed death, in the context of machine learning.
We use two different measures of neuron efficiency to develop machine learning
algorithms for adding neurons to the system (i.e. replication algorithm) and
removing neurons from the system (i.e. programmed death algorithm). We argue
that the programmed death algorithm can be used for compression of neural
networks and the replication algorithm can be used for improving performance of
the already trained neural networks. We also show that a combined algorithm of
programmed death and replication can improve the learning efficiency of
arbitrary machine learning systems. The computational advantages of the
bio-inspired algorithms are demonstrated by training feedforward neural
networks on the MNIST dataset of handwritten images.
- Abstract（参考訳）: 複製やプログラム死といった生物学的現象のアルゴリズム的・計算的側面を機械学習の文脈で解析する。
我々は、ニューロンをシステムに追加するための機械学習アルゴリズムを開発するために、ニューロン効率の2つの異なる尺度(複製アルゴリズム)を使用し、システムからニューロンを除去する(プログラム死アルゴリズム)。
プログラムされた死アルゴリズムはニューラルネットワークの圧縮に利用でき、複製アルゴリズムは、既に訓練済みのニューラルネットワークの性能向上に利用することができると論じる。
また,プログラム化された死と複製を組み合わせたアルゴリズムにより,任意の機械学習システムの学習効率が向上することを示す。
バイオインスパイアされたアルゴリズムの計算上の利点は、手書き画像のMNISTデータセット上でフィードフォワードニューラルネットワークをトレーニングすることによって示される。
関連論文リスト
- Analysis of Generalized Hebbian Learning Algorithm for Neuromorphic Hardware Using Spinnaker [0.0]
本稿では,大規模なニューロモルフィックプラットフォーム,特にSpiNNakerにおける一般化ヘビアンアルゴリズム(GHA)の適用例を示す。
本研究は,生物にインスパイアされた学習アルゴリズムの可能性を示すとともに,分類精度の大幅な向上を示すものである。
論文 参考訳（メタデータ） (2024-11-18T13:53:10Z) - Towards Biologically Plausible Computing: A Comprehensive Comparison [24.299920289520013]
バックプロパゲーションは、教師あり学習のためのニューラルネットワークのトレーニングの基盤となるアルゴリズムである。
バックプロパゲーションの生物学的妥当性は、重量対称性、大域的誤差計算、二重位相学習の要求により疑問視される。
本研究では,望ましい学習アルゴリズムが満たすべき生物学的妥当性の基準を確立する。
論文 参考訳（メタデータ） (2024-06-23T09:51:20Z) - Mechanistic Neural Networks for Scientific Machine Learning [58.99592521721158]
我々は、科学における機械学習応用のためのニューラルネットワーク設計であるメカニスティックニューラルネットワークを提案する。
新しいメカニスティックブロックを標準アーキテクチャに組み込んで、微分方程式を表現として明示的に学習する。
我々のアプローチの中心は、線形プログラムを解くために線形ODEを解く技術に着想を得た、新しい線形計画解法(NeuRLP)である。
論文 参考訳（メタデータ） (2024-02-20T15:23:24Z) - Hebbian Learning based Orthogonal Projection for Continual Learning of
Spiking Neural Networks [74.3099028063756]
我々は,側方接続とヘビアン学習に基づくニューラル操作を用いた新しい手法を開発した。
我々は,反復する側方接続におけるヘビアン学習と反ヘビアン学習が,神経活動の主部分空間を効果的に抽出できることを示した。
我々の手法は、ほとんど忘れることなくニューラルネットワークをスパイクするために一貫して解決する。
論文 参考訳（メタデータ） (2024-02-19T09:29:37Z) - Brain-Inspired Machine Intelligence: A Survey of
Neurobiologically-Plausible Credit Assignment [65.268245109828]
本稿では,神経生物学にインスパイアされた,あるいは動機付けられた人工ニューラルネットワークにおける信用割当を行うアルゴリズムについて検討する。
我々は、脳にインスパイアされた学習スキームを6つの一般的なファミリーにまとめ、これらを誤りのバックプロパゲーションの文脈で検討する。
本研究の成果は,神経ミメティックシステムとその構成的学習プロセスの今後の発展を促進することを目的としている。
論文 参考訳（メタデータ） (2023-12-01T05:20:57Z) - The Clock and the Pizza: Two Stories in Mechanistic Explanation of
Neural Networks [59.26515696183751]
ニューラルネットワークにおけるアルゴリズム発見は、時としてより複雑であることを示す。
単純な学習問題でさえ、驚くほど多様なソリューションを許容できることが示されています。
論文 参考訳（メタデータ） (2023-06-30T17:59:13Z) - A Neural Lambda Calculus: Neurosymbolic AI meets the foundations of
computing and functional programming [0.0]
我々は、プログラム全体の実行方法を学ぶニューラルネットワークの能力を分析する。
統合型ニューラルラーニングと電卓形式化の導入について紹介する。
論文 参考訳（メタデータ） (2023-04-18T20:30:16Z) - The Predictive Forward-Forward Algorithm [79.07468367923619]
本稿では,ニューラルネットワークにおける信頼割当を行うための予測フォワード(PFF)アルゴリズムを提案する。
我々は,有向生成回路と表現回路を同時に同時に学習する,新しい動的リカレントニューラルネットワークを設計する。
PFFは効率よく学習し、学習信号を伝達し、フォワードパスのみでシナプスを更新する。
論文 参考訳（メタデータ） (2023-01-04T05:34:48Z) - Predictive Coding: Towards a Future of Deep Learning beyond
Backpropagation? [41.58529335439799]
ディープニューラルネットワークのトレーニングに使用されるエラーアルゴリズムのバックプロパゲーションは、ディープラーニングの成功に不可欠である。
最近の研究は、このアイデアを、局所的な計算だけでニューラルネットワークを訓練できる汎用アルゴリズムへと発展させた。
等価ディープニューラルネットワークに対する予測符号化ネットワークの柔軟性が大幅に向上することを示す。
論文 参考訳（メタデータ） (2022-02-18T22:57:03Z) - Spiking Neural Networks Hardware Implementations and Challenges: a
Survey [53.429871539789445]
スパイキングニューラルネットワークは、ニューロンとシナプスの操作原理を模倣する認知アルゴリズムである。
スパイキングニューラルネットワークのハードウェア実装の現状について述べる。
本稿では,これらのイベント駆動アルゴリズムの特性をハードウェアレベルで活用するための戦略について論じる。
論文 参考訳（メタデータ） (2020-05-04T13:24:00Z) - Self learning robot using real-time neural networks [7.347989843033033]
本稿では,ロボットの腕に実装されたニューラルネットワークの研究,開発,実験的解析を行う。
ニューラルネットワークは、グラディエントDescentとバックプロパゲーションのアルゴリズムを用いて学習する。
ニューラルネットワークの実装とトレーニングは、Raspberry pi 3上のロボット上でローカルに行われ、学習プロセスは完全に独立している。
論文 参考訳（メタデータ） (2020-01-06T13:13:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。