論文の概要: Learning in Deep Networks under Dale's Constraint

• arxiv url: http://arxiv.org/abs/2608.06963v1
• Date: Fri, 07 Aug 2026 08:40:40 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-10 16:21:25.419095
• Title: Learning in Deep Networks under Dale's Constraint
• Title（参考訳）: Daleの制約下での深層ネットワークでの学習
• Abstract要約: 既存のモデルでは、ニューロンやシナプスは正と負の両方の混合符号値を表現することができる。 生物学的に動機づけられたニューラルアーキテクチャを導入し,ニューラルアクティベーションと学習信号の両方を非負のアクティビティで表現する。 非負の誤り信号に頼らず,我々の学習手法がバックプロパゲーション更新を正確に回復できることを理論的に示す。
• 参考スコア（独自算出の注目度）: 9.2539090358827
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Biologically plausible learning models aim to explain how neural circuits can implement effective learning under the constraints of real neurons. Although significant progress has been made, a major remaining challenge is that existing models often allow neurons or synapses to represent mixed-sign values, both positive and negative, in violation of a basic aspect of cortical circuitry -- Dale's constraint: biological neurons are either excitatory or inhibitory, but not both, and synapses cannot change sign. In this work, we address this discrepancy by introducing a biologically motivated neural architecture in which both neural activations and learning signals are represented by non-negative activity, and synapses have fixed sign, while still supporting backpropagation-like learning. Our approach uses two complementary interacting non-negative channels to represent positive and negative contributions, inspired by evidence of on-off representations in the brain. These channels are implemented through a simple neural circuit motif, which is repeated throughout the network in both bottom-up and top-down pathways. Combined with a local Hebbian learning rule, the resulting model propagates learning signals and updates weights using only local interactions between neurons. We show theoretically that our learning scheme can exactly recover the backpropagation update despite relying solely on non-negative error signals. Empirically, beyond satisfying stronger biological constraints, the on-off architecture learns efficient representations, yielding substantial gains over comparable vanilla networks on the Tiny ImageNet benchmark. These results demonstrate that effective learning can emerge from biologically plausible mechanisms without requiring mixed-sign signals, providing a step toward more realistic models of neural computation.
• Abstract（参考訳）: 生物学的に妥当な学習モデルは、ニューラルネットワークが実際のニューロンの制約の下で効果的な学習を実現する方法を説明することを目的としている。 顕著な進歩はあったが、既存のモデルでは、皮質回路の基本的側面に反する、正と負の両方の混合符号を神経細胞やシナプスが表わすことがしばしば認められている。 本研究では,神経活動と学習信号の両方が非負の活性で表現され,シナプスが固定された符号を持ちながら,後述のような学習をサポートする生物学的動機付け型ニューラルアーキテクチャを導入することで,この相違に対処する。 我々のアプローチは、脳のオンオフ表現の証拠にインスパイアされた、肯定的および否定的な貢献を表現するために、2つの相補的相互作用非負のチャネルを使用する。 これらのチャネルは単純なニューラルネットワークモチーフによって実装され、ボトムアップ経路とトップダウン経路の両方でネットワークを通して繰り返される。 局所的なヘビアン学習規則と組み合わせて、結果として得られるモデルは学習信号を伝播し、ニューロン間の局所的な相互作用のみを用いて重みを更新する。 非負の誤り信号のみに頼らず,理論上,我々の学習手法がバックプロパゲーション更新を正確に回復できることが示される。 実証的には、より強い生物学的制約を満たすことを超えて、オンオフアーキテクチャは効率的な表現を学び、Tiny ImageNetベンチマークで同等のバニラネットワークよりも大幅に向上する。 これらの結果から, 実効学習は, 信号の混合を必要とせず, 生物学的に妥当なメカニズムから生まれることが示され, より現実的なニューラル計算モデルへの一歩となる。

関連論文リスト

• Teaching signal synchronization in deep neural networks with prospective neurons [13.883481084901483]
  適応電流で増強されたニューロンは、外部刺激に前向きに応答することで、これらの遅延を補うことができることを示す。 これにより、ゆっくりと統合されたニューロンの学習をガイドし、拡張された時間スケールでの記憶の形成と検索を可能にすることが実証された。
  論文  参考訳（メタデータ） (2025-11-18T21:12:58Z)
• Unsupervised representation learning with Hebbian synaptic and structural plasticity in brain-like feedforward neural networks [0.0]
  教師なし表現学習が可能な脳様ニューラルネットワークモデルを導入,評価する。 このモデルは、一般的な機械学習ベンチマークのさまざまなセットでテストされた。
  論文  参考訳（メタデータ） (2024-06-07T08:32:30Z)
• Simple and Effective Transfer Learning for Neuro-Symbolic Integration [50.592338727912946]
  この問題の潜在的な解決策はNeuro-Symbolic Integration (NeSy)であり、ニューラルアプローチとシンボリック推論を組み合わせる。 これらの手法のほとんどは、認識をシンボルにマッピングするニューラルネットワークと、下流タスクの出力を予測する論理的論理的推論を利用する。 それらは、緩やかな収束、複雑な知覚タスクの学習困難、局所的なミニマへの収束など、いくつかの問題に悩まされている。 本稿では,これらの問題を改善するための簡易かつ効果的な方法を提案する。
  論文  参考訳（メタデータ） (2024-02-21T15:51:01Z)
• Hebbian Learning based Orthogonal Projection for Continual Learning of Spiking Neural Networks [74.3099028063756]
  我々は,側方接続とヘビアン学習に基づくニューラル操作を用いた新しい手法を開発した。 我々は,反復する側方接続におけるヘビアン学習と反ヘビアン学習が,神経活動の主部分空間を効果的に抽出できることを示した。 我々の手法は、ほとんど忘れることなくニューラルネットワークをスパイクするために一貫して解決する。
  論文  参考訳（メタデータ） (2024-02-19T09:29:37Z)
• Learning with Chemical versus Electrical Synapses -- Does it Make a Difference? [61.85704286298537]
  バイオインスパイアされたニューラルネットワークは、ニューラルネットワークの理解を深め、AIシステムの最先端を改善する可能性がある。 我々は,光リアルな自律走行シミュレータを用いて自律車線維持実験を行い,その性能を種々の条件下で評価する。
  論文  参考訳（メタデータ） (2023-11-21T13:07:20Z)
• Contrastive-Signal-Dependent Plasticity: Self-Supervised Learning in Spiking Neural Circuits [61.94533459151743]
  この研究は、スパイキングネットワークのシナプスを調整するための神経生物学的に動機づけられたスキームを設計することの課題に対処する。 我々の実験シミュレーションは、繰り返しスパイクネットワークを訓練する際、他の生物学的に証明可能なアプローチに対して一貫した優位性を示す。
  論文  参考訳（メタデータ） (2023-03-30T02:40:28Z)
• Spiking neural network for nonlinear regression [68.8204255655161]
  スパイクニューラルネットワークは、メモリとエネルギー消費を大幅に削減する可能性を持っている。 彼らは、次世代のニューロモルフィックハードウェアによって活用できる時間的および神経的疎結合を導入する。 スパイキングニューラルネットワークを用いた回帰フレームワークを提案する。
  論文  参考訳（メタデータ） (2022-10-06T13:04:45Z)
• Overcoming the Domain Gap in Contrastive Learning of Neural Action Representations [60.47807856873544]
  神経科学の基本的な目標は、神経活動と行動の関係を理解することである。 我々は,ハエが自然に生み出す行動からなる新しいマルチモーダルデータセットを作成した。 このデータセットと新しい拡張セットは、神経科学における自己教師あり学習手法の適用を加速することを約束します。
  論文  参考訳（メタデータ） (2021-11-29T15:27:51Z)
• Drop, Swap, and Generate: A Self-Supervised Approach for Generating Neural Activity [33.06823702945747]
  我々はSwap-VAEと呼ばれる神経活動の不整合表現を学習するための新しい教師なしアプローチを導入する。 このアプローチは、生成モデリングフレームワークとインスタンス固有のアライメント損失を組み合わせたものです。 我々は、行動に関連付けられた関連する潜在次元に沿って、ニューラルネットワークをアンタングルする表現を構築することが可能であることを示す。
  論文  参考訳（メタデータ） (2021-11-03T16:39:43Z)
• Equilibrium Propagation for Complete Directed Neural Networks [0.0]
  最も成功したニューラルネットワークの学習アルゴリズム、バックプロパゲーションは生物学的に不可能であると考えられている。 我々は,平衡伝播学習の枠組みを構築し拡張することによって,生物学的に妥当な神経学習の話題に貢献する。
  論文  参考訳（メタデータ） (2020-06-15T22:12:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。