論文の概要: Leveraging Dale's Principle as an Inductive Bias in Recurrent Neural Networks

• arxiv url: http://arxiv.org/abs/2610.34052v1
• Date: Sun, 25 Oct 2026 04:24:27 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 22:27:13.526377
• Title: Leveraging Dale's Principle as an Inductive Bias in Recurrent Neural Networks
• Title（参考訳）: 繰り返しニューラルネットワークにおける誘導バイアスとしてのデールの原理の活用
• Abstract要約: EISepはDaleの原理を学習可能な排他抑制分離によって実装した繰り返しニューラルネットワークアーキテクチャである。 結果は、Daleの原理を、リカレントニューラルネットワークに対する生物学的基盤と計算学的に有効な帰納バイアスとして確立する。
• 参考スコア（独自算出の注目度）: 24.50742615907105
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: One of the fundamental differences between biological neural networks and artificial neural networks (ANNs) is that biological neurons obey Dale's principle: each neuron projects either exclusively excitatory or exclusively inhibitory outputs. While this constraint is central to biological circuits, previous attempts to impose Dale's principle in ANNs have often led to training instability or degraded performance. In this work, we introduce EISep RNN, a recurrent neural network architecture that implements Dale's principle through a learnable excitatory-inhibitory separation. Across a series of learning settings, including multi-task learning, continual learning, and reinforcement learning, EISep achieves more stable training dynamics, competitive or improved performance, and sparser, more modular connectivity than vanilla RNNs and previous Dale-constrained models. EISep also exhibits stable and informative latent dynamics. These results establish Dale's principle as a biologically grounded and computationally effective inductive bias for recurrent neural networks.
• Abstract（参考訳）: 生物学的ニューラルネットワークと人工ニューラルネットワーク(ANN)の根本的な違いの1つは、生物学的ニューロンがデールの原理に従うことである。 この制約は生物学的回路の中心にあるが、ANNにデールの原理を課す以前の試みは、しばしば不安定なトレーニングや性能低下につながった。 本研究では,Daleの原理を学習可能な興奮抑制分離によって実装した再帰型ニューラルネットワークアーキテクチャであるEISep RNNを紹介する。 マルチタスク学習、連続学習、強化学習を含む一連の学習設定の中で、EISepは、より安定したトレーニングダイナミクス、競争力やパフォーマンスの向上、スペーサー、バニラRNNや以前のDale制約モデルよりもモジュール化された接続性を実現している。 EISepはまた、安定かつ情報的な潜伏ダイナミクスを示す。 これらの結果は、繰り返しニューラルネットワークに対する生物学的基盤と計算学的に有効な帰納バイアスとしてデールの原理を確立している。

関連論文リスト

• Position Paper: Neurotransmitters as a Missing Dimension in Artificial Neural Networks [9.616143896727769]
  我々は、神経調節の原則をANN設計に組み込むことは、有望で未発見の研究の方向性を表していると論じる。 哺乳類の脳の優れた適応性と可塑性に触発されて、神経伝達物質による神経調節が学習の第3軸を構成すると仮定する。
  論文  参考訳（メタデータ） (2026-09-17T11:42:16Z)
• Guiding Sparse Neural Networks with Neurobiological Principles to Elicit Biologically Plausible Representations [1.0787328610467803]
  神経生物学の原則を自然に統合する生物学的にインスピレーションを受けた学習規則を導入する。 我々のモデルは敵攻撃に対する堅牢性を高め、より優れた一般化を示す。 予備的な結果は、このアプローチが機能特化からタスク特化エンコーディングに拡張できることを示唆している。
  論文  参考訳（メタデータ） (2026-03-03T18:27:37Z)
• General Self-Prediction Enhancement for Spiking Neurons [71.01912385372577]
  スパイキングニューラルネットワーク(SNN)は、イベント駆動のスパース計算によって非常にエネルギー効率が良いが、そのトレーニングは、性能、効率、生物学的妥当性の非微分可能性とトレードオフによって困難である。 本稿では,その入力出力履歴から内部予測電流を生成し,膜電位を変調する自己予測強化スパイキングニューロン法を提案する。 この設計には2つの利点があり、失明した勾配を緩和し、トレーニングの安定性と精度を高める連続的な勾配経路を作成し、また遠位樹状突起変調とエラー駆動のシナプス塑性に類似した生物学的原理と整合する。
  論文  参考訳（メタデータ） (2026-01-29T15:08:48Z)
• Training Deep Normalization-Free Spiking Neural Networks with Lateral Inhibition [52.59263087086756]
  深層ニューラルネットワーク(SNN)のトレーニングは、バッチ正規化のような明示的な正規化スキームに依存している。 本研究では,皮質回路にインスパイアされた側方抑制を取り入れた正規化自由学習フレームワークを提案する。 本稿では,生物リアリズムを持つ深層SNNの安定的学習を可能にするとともに,明示的な正規化に頼らずに競争性能を達成できることを述べる。
  論文  参考訳（メタデータ） (2025-09-27T11:11:30Z)
• Evolution imposes an inductive bias that alters and accelerates learning dynamics [49.1574468325115]
  進化的最適化がニューラルネットワークの学習力学に与える影響について検討する。 我々は,アルゴリズムの自然選択とオンライン学習を組み合わせて,ニューラルネットワークの進化的条件付け手法を開発した。 結果は、進化はニューラルネットワークをチューニングして迅速な学習を可能にする誘導バイアスを構成することを示唆している。
  論文  参考訳（メタデータ） (2025-05-15T18:50:57Z)
• Spiking neural network for nonlinear regression [68.8204255655161]
  スパイクニューラルネットワークは、メモリとエネルギー消費を大幅に削減する可能性を持っている。 彼らは、次世代のニューロモルフィックハードウェアによって活用できる時間的および神経的疎結合を導入する。 スパイキングニューラルネットワークを用いた回帰フレームワークを提案する。
  論文  参考訳（メタデータ） (2022-10-06T13:04:45Z)
• Knowledge Enhanced Neural Networks for relational domains [83.9217787335878]
  我々は、ニューラルネットワークに事前論理的知識を注入するニューラルネットワークアーキテクチャであるKENNに焦点を当てる。 本稿では,関係データに対するKENNの拡張を提案する。
  論文  参考訳（メタデータ） (2022-05-31T13:00:34Z)
• The Recurrent Neural Tangent Kernel [11.591070761599328]
  本稿では、過度にパラメータ化されたRNNの動作に関する新たな洞察を提供するRNTK(Recurrent Neural Tangent Kernel)を紹介し、研究する。 56個の実世界のデータ実験により、RNTKは他のカーネルよりも大幅に性能が向上することを示した。
  論文  参考訳（メタデータ） (2020-06-18T02:59:21Z)
• Equilibrium Propagation for Complete Directed Neural Networks [0.0]
  最も成功したニューラルネットワークの学習アルゴリズム、バックプロパゲーションは生物学的に不可能であると考えられている。 我々は,平衡伝播学習の枠組みを構築し拡張することによって,生物学的に妥当な神経学習の話題に貢献する。
  論文  参考訳（メタデータ） (2020-06-15T22:12:30Z)
• Recurrent Neural Network Learning of Performance and Intrinsic Population Dynamics from Sparse Neural Data [77.92736596690297]
  本稿では,RNNの入出力動作だけでなく,内部ネットワークのダイナミクスも学習できる新しいトレーニング戦略を提案する。 提案手法は、RNNを訓練し、生理学的にインスパイアされた神経モデルの内部ダイナミクスと出力信号を同時に再現する。 注目すべきは、トレーニングアルゴリズムがニューロンの小さなサブセットの活性に依存する場合であっても、内部動力学の再現が成功することである。
  論文  参考訳（メタデータ） (2020-05-05T14:16:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。