論文の概要: NeuronSoup: Evolving Asynchronous, Shared-Neuron Temporal Graphs without Backpropagation
- arxiv url: http://arxiv.org/abs/2607.15217v1
- Date: Thu, 16 Jul 2026 17:18:59 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-17 17:01:33.183913
- Title: NeuronSoup: Evolving Asynchronous, Shared-Neuron Temporal Graphs without Backpropagation
- Title（参考訳）: NeuronSoup: バックプロパゲーションなしで、非同期で共有された時間グラフを進化させる
- Authors: Subodh Kalia,
- Abstract要約: 本稿では,同期層間処理を非同期遅延による信号伝達に置き換えるニューラルネットワークアーキテクチャであるNeuronSoupを提案する。
アーキテクチャ全体は、14,602の遺伝子からなるフラットな実数値ゲノム上で動作する遺伝的アルゴリズムによって、共進化している。
凍結したResNet18特徴を用いた10クラスのMNIST桁分類では、266個の隠されたニューロンを通した204個のアクティブパスのネットワークを進化させる。
- 参考スコア（独自算出の注目度）: 0.8122270502556375
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We present NeuronSoup, a neural computation architecture that replaces synchronous layer-by-layer processing with asynchronous, delay-mediated signal propagation through a pool of shared neurons. Each path in the network routes a continuous-valued signal from one input neuron to one output neuron through a variable number of intermediate hidden neurons. Hidden neurons are physically shared across paths: when two paths pass through the same neuron, the second arrival encounters the accumulated state left by the first, producing constructive or destructive interference that depends on signal polarity and arrival timing. The entire architecture -- topology, weights, delays, and connectivity -- is co-evolved by a genetic algorithm operating on a flat real-valued genome of 14,602 genes. On 10-class MNIST digit classification using frozen ResNet18 features as input, the system evolves a network of 204 active paths through 266 hidden neurons (156 shared across multiple paths, with one neuron participating in 11 distinct paths) and achieves 85.9\% test accuracy after 10,000 generations. The trained model occupies 115 KB. We argue that this architecture addresses fundamental limitations of current deep learning: it requires no differentiable computation graph, adapts its computation depth per-sample, and discovers lateral interactions between processing pathways that current architectures must engineer explicitly. We discuss why genetic algorithms are the correct optimization tool for this problem class, why CMA-ES fails at this scale, and how the architecture generalizes to arbitrary domains by substituting the encoder and output structure.
- Abstract（参考訳）: 本稿では、同期層間処理を非同期で遅延を介する信号伝達に置き換えるニューラルネットワークアーキテクチャであるNeuronSoupについて述べる。
ネットワーク内の各経路は、1つの入力ニューロンから1つの出力ニューロンへの連続的に値付けられた信号を、中間隠れニューロンの変動数を介してルーティングする。
隠れたニューロンは、2つの経路が同じニューロンを通過するとき、第2の到着は第1の残っていた蓄積状態に遭遇し、信号の極性と到着タイミングに依存する建設的または破壊的な干渉を引き起こす。
構造全体(トポロジ、ウェイト、遅延、接続性)は、14,602の遺伝子からなる平らな実測値のゲノムをベースとした遺伝的アルゴリズムによって進化している。
凍結したResNet18特徴を用いた10クラスのMNIST桁分類において、システムは266個の隠されたニューロンを介して204個の活性経路のネットワークを進化させ、11個の異なる経路で1個のニューロンが共有され、1万世代後に85.9\%のテスト精度が達成される。
訓練されたモデルは115KBである。
我々は、このアーキテクチャが現在のディープラーニングの基本的限界に対処する: 微分可能な計算グラフを不要にし、その計算深度をサンプル毎に適応させ、現在のアーキテクチャが明示的に設計しなければならない処理経路間の横方向の相互作用を発見する。
本稿では,なぜ遺伝的アルゴリズムが問題クラスに正しい最適化ツールであるのか,なぜCMA-ESがこのスケールで失敗するのか,アーキテクチャがエンコーダと出力構造に代えて任意の領域に一般化するのかを論じる。
関連論文リスト
- Topological Neural Dynamics: A Neuron-wise Framework for Sequence Modeling [55.07411490538404]
トポロジカル・ニューラル・ダイナミクス(TND)は、トポロジカル・ニューラル・ダイナミクス(英語版) (TND) が階層的からニューロン的へと変化するシーケンス・モデリング・フレームワークである。
TNDは神経系を、有向ニューロングラフ、相互作用演算子、局所力学関数として表す。
我々はTNDをシングルプレイヤーPongにおける行動クローニングタスクのケーススタディとして評価した。
論文 参考訳（メタデータ） (2026-06-19T10:18:24Z) - Introducing Echo Networks for Computational Neuroevolution [0.32084789957883025]
本稿では,接続行列のみで構成されるリカレントネットワークであるEcho Networksを紹介する。
層はなく、ニューロン間の接続は双方向でもよいが、技術的には全て再帰的である。
心電図信号の分類において,Echo Networksの評価に成功している。
論文 参考訳（メタデータ） (2026-04-09T13:06:25Z) - Gated Parametric Neuron for Spike-based Audio Recognition [26.124844943674407]
スパイキングニューラルネットワーク(SNN)は、生物学的に可塑性ニューロンを持つヒト脳内の実際のニューラルネットワークをシミュレートすることを目的としている。
本稿では,ゲーティング機構を用いて時間的情報を効率的に処理するための漏れパラメトリックニューロン(GPN)を提案する。
論文 参考訳（メタデータ） (2024-12-02T03:46:26Z) - Minimum number of neurons in fully connected layers of a given neural network (the first approximation) [0.0]
本稿では,任意のネットワークが与えられた問題を解く際の,完全連結層内のニューロンの最小数を探索するアルゴリズムを提案する。
提案アルゴリズムは,検出されたニューロン数のニューラルネットワークが要求される品質に適応可能であることを保証していないため,層内のニューロンの最小数を推定するための最初の近似である。
論文 参考訳（メタデータ） (2024-05-23T03:46:07Z) - The Expressive Leaky Memory Neuron: an Efficient and Expressive Phenomenological Neuron Model Can Solve Long-Horizon Tasks [64.08042492426992]
本稿では,脳皮質ニューロンの生物学的モデルであるExpressive Memory(ELM)ニューロンモデルを紹介する。
ELMニューロンは、上記の入力-出力関係を1万以下のトレーニング可能なパラメータと正確に一致させることができる。
本稿では,Long Range Arena(LRA)データセットなど,時間構造を必要とするタスクで評価する。
論文 参考訳（メタデータ） (2023-06-14T13:34:13Z) - Contrastive-Signal-Dependent Plasticity: Self-Supervised Learning in Spiking Neural Circuits [61.94533459151743]
この研究は、スパイキングネットワークのシナプスを調整するための神経生物学的に動機づけられたスキームを設計することの課題に対処する。
我々の実験シミュレーションは、繰り返しスパイクネットワークを訓練する際、他の生物学的に証明可能なアプローチに対して一貫した優位性を示す。
論文 参考訳（メタデータ） (2023-03-30T02:40:28Z) - Increasing biases can be more efficient than increasing weights [33.05856234084821]
ユニットは、あるユニットから次のユニットに渡されるときに、非破壊的な情報を保存することの重要性を強調します。
重みよりもバイアスの増加に焦点を当てることで、ニューラルネットワークモデルの性能が大幅に向上する可能性があることを示す。
論文 参考訳（メタデータ） (2023-01-03T01:36:31Z) - Saving RNN Computations with a Neuron-Level Fuzzy Memoization Scheme [0.0]
リカレントニューラルネットワーク(Recurrent Neural Networks, RNN)は、音声認識や機械翻訳などのアプリケーションにおいて重要な技術である。
我々は,各ニューロンの出力を動的にキャッシュし,現在の出力が以前計算された結果に類似すると予測されたときに再利用する,ニューロンレベルのファジィメモ化スキームを構築した。
提案手法は26.7%以上の計算を回避し、21%の省エネと1.4倍の高速化を実現している。
論文 参考訳（メタデータ） (2022-02-14T09:02:03Z) - Training Feedback Spiking Neural Networks by Implicit Differentiation on
the Equilibrium State [66.2457134675891]
スパイキングニューラルネットワーク(英: Spiking Neural Network、SNN)は、ニューロモルフィックハードウェア上でエネルギー効率の高い実装を可能にする脳にインスパイアされたモデルである。
既存のほとんどの手法は、人工ニューラルネットワークのバックプロパゲーションフレームワークとフィードフォワードアーキテクチャを模倣している。
本稿では,フォワード計算の正逆性に依存しない新しいトレーニング手法を提案する。
論文 参考訳（メタデータ） (2021-09-29T07:46:54Z) - Non-linear Neurons with Human-like Apical Dendrite Activations [81.18416067005538]
XOR論理関数を100%精度で学習し, 標準的なニューロンに後続のアピーカルデンドライト活性化(ADA)が認められた。
コンピュータビジョン,信号処理,自然言語処理の6つのベンチマークデータセットについて実験を行った。
論文 参考訳（メタデータ） (2020-02-02T21:09:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。