論文の概要: Towards Self-Assembling Artificial Neural Networks through Neural Developmental Programs

• arxiv url: http://arxiv.org/abs/2307.08197v1
• Date: Mon, 17 Jul 2023 01:58:52 GMT
• ステータス: 処理完了
• システム内更新日: 2023-07-18 15:02:03.843585
• Title: Towards Self-Assembling Artificial Neural Networks through Neural Developmental Programs
• Title（参考訳）: ニューラル・デベロップメントプログラムによる自己組織化型ニューラルネットワーク
• Authors: Elias Najarro, Shyam Sudhakaran, Sebastian Risi
• Abstract要約: 生物学的神経系は、現在の人工ニューラルネットワークと根本的に異なる方法で生成される。 対照的に、生物学的神経系は動的自己組織化過程を通じて成長する。
• 参考スコア（独自算出の注目度）: 10.524752369156339
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Biological nervous systems are created in a fundamentally different way than current artificial neural networks. Despite its impressive results in a variety of different domains, deep learning often requires considerable engineering effort to design high-performing neural architectures. By contrast, biological nervous systems are grown through a dynamic self-organizing process. In this paper, we take initial steps toward neural networks that grow through a developmental process that mirrors key properties of embryonic development in biological organisms. The growth process is guided by another neural network, which we call a Neural Developmental Program (NDP) and which operates through local communication alone. We investigate the role of neural growth on different machine learning benchmarks and different optimization methods (evolutionary training, online RL, offline RL, and supervised learning). Additionally, we highlight future research directions and opportunities enabled by having self-organization driving the growth of neural networks.
• Abstract（参考訳）: 生物学的神経系は、現在のニューラルネットワークとは根本的に異なる方法で作られる。 さまざまなドメインで印象的な結果が得られたにも関わらず、ディープラーニングは高いパフォーマンスのニューラルアーキテクチャを設計するのにかなりのエンジニアリングの労力を必要とすることが多い。 対照的に、生物学的神経系は動的自己組織化過程を通じて成長する。 本稿では,生物の胚発生の鍵となる特性を反映した発達過程を通じて成長するニューラルネットワークの初期段階について述べる。 成長プロセスは、NDP(Neural Developmental Program)と呼ばれる別のニューラルネットワークによってガイドされ、ローカル通信のみを介して実行される。 異なる機械学習ベンチマークと異なる最適化手法(進化的トレーニング、オンラインRL、オフラインRL、教師あり学習)における神経成長の役割について検討する。 さらに,ニューラルネットワークの成長を駆動する自己組織化を実現するための今後の研究の方向性と機会を強調した。

関連論文リスト

• Contrastive Learning in Memristor-based Neuromorphic Systems [55.11642177631929]
  スパイクニューラルネットワークは、現代のバックプロパゲーションによって訓練されたディープネットワークに直面する重要な制約の多くを横取りする、ニューロンベースのモデルの重要なファミリーとなっている。 本研究では,前向き・後向き学習のニューロモルフィック形式であるコントラッシブ・シグナル依存型塑性(CSDP)の概念実証を設計し,検討する。
  論文  参考訳（メタデータ） (2024-09-17T04:48:45Z)
• Enhancing learning in spiking neural networks through neuronal heterogeneity and neuromodulatory signaling [52.06722364186432]
  人工ニューラルネットワーク(ANN)の強化のための生物学的インフォームドフレームワークを提案する。 提案したデュアルフレームアプローチは、多様なスパイキング動作をエミュレートするためのスパイキングニューラルネットワーク(SNN)の可能性を強調している。 提案手法は脳にインスパイアされたコンパートメントモデルとタスク駆動型SNN, バイオインスピレーション, 複雑性を統合している。
  論文  参考訳（メタデータ） (2024-07-05T14:11:28Z)
• Hebbian Learning based Orthogonal Projection for Continual Learning of Spiking Neural Networks [74.3099028063756]
  我々は,側方接続とヘビアン学習に基づくニューラル操作を用いた新しい手法を開発した。 我々は,反復する側方接続におけるヘビアン学習と反ヘビアン学習が,神経活動の主部分空間を効果的に抽出できることを示した。 我々の手法は、ほとんど忘れることなくニューラルネットワークをスパイクするために一貫して解決する。
  論文  参考訳（メタデータ） (2024-02-19T09:29:37Z)
• Brain-Inspired Machine Intelligence: A Survey of Neurobiologically-Plausible Credit Assignment [65.268245109828]
  本稿では,神経生物学にインスパイアされた,あるいは動機付けられた人工ニューラルネットワークにおける信用割当を行うアルゴリズムについて検討する。 我々は、脳にインスパイアされた学習スキームを6つの一般的なファミリーにまとめ、これらを誤りのバックプロパゲーションの文脈で検討する。 本研究の成果は,神経ミメティックシステムとその構成的学習プロセスの今後の発展を促進することを目的としている。
  論文  参考訳（メタデータ） (2023-12-01T05:20:57Z)
• Learning to Act through Evolution of Neural Diversity in Random Neural Networks [9.387749254963595]
  ほとんどの人工ニューラルネットワーク(ANN)では、神経計算は通常すべてのニューロン間で共有される活性化関数に抽象化される。 本稿では,複雑な計算を行うことができる多様なニューロンの集合を実現するために,神経中心パラメータの最適化を提案する。
  論文  参考訳（メタデータ） (2023-05-25T11:33:04Z)
• Brain-inspired learning in artificial neural networks: a review [5.064447369892274]
  人工ニューラルネットワークにおける脳にインスパイアされた学習表現について概説する。 これらのネットワークの能力を高めるために, シナプス可塑性などの生物学的に妥当な機構の統合について検討する。
  論文  参考訳（メタデータ） (2023-05-18T18:34:29Z)
• Contrastive-Signal-Dependent Plasticity: Self-Supervised Learning in Spiking Neural Circuits [61.94533459151743]
  この研究は、スパイキングネットワークのシナプスを調整するための神経生物学的に動機づけられたスキームを設計することの課題に対処する。 我々の実験シミュレーションは、繰り返しスパイクネットワークを訓練する際、他の生物学的に証明可能なアプローチに対して一貫した優位性を示す。
  論文  参考訳（メタデータ） (2023-03-30T02:40:28Z)
• HyperNCA: Growing Developmental Networks with Neural Cellular Automata [10.798252487541694]
  我々は,ニューラルセルオートマトンに基づく人工ニューラルネットワークを成長させるための新しいハイパーネットワークアプローチを提案する。 自己組織システムと情報理論による発達生物学のアプローチに触発されて,我々のHyperNCA法は,一般的な強化学習タスクを解くことができるニューラルネットワークを成長させることができることを示す。
  論文  参考訳（メタデータ） (2022-04-25T14:08:50Z)
• An Introductory Review of Spiking Neural Network and Artificial Neural Network: From Biological Intelligence to Artificial Intelligence [4.697611383288171]
  生物学的解釈可能性を持つスパイクニューラルネットワークは、徐々に注目を集めている。 このレビューは、さまざまな研究者を惹きつけ、脳にインスパイアされた知性と人工知能の開発を進めたいと考えている。
  論文  参考訳（メタデータ） (2022-04-09T09:34:34Z)
• POPPINS : A Population-Based Digital Spiking Neuromorphic Processor with Integer Quadratic Integrate-and-Fire Neurons [50.591267188664666]
  2つの階層構造を持つ180nmプロセス技術において,集団に基づくディジタルスパイキングニューロモルフィックプロセッサを提案する。 提案手法は,生体模倣型ニューロモルフィックシステム,低消費電力,低遅延推論処理アプリケーションの開発を可能にする。
  論文  参考訳（メタデータ） (2022-01-19T09:26:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。