論文の概要: Guiding Sparse Neural Networks with Neurobiological Principles to Elicit Biologically Plausible Representations
- arxiv url: http://arxiv.org/abs/2603.03234v1
- Date: Tue, 03 Mar 2026 18:27:37 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-04 21:38:10.925079
- Title: Guiding Sparse Neural Networks with Neurobiological Principles to Elicit Biologically Plausible Representations
- Title(参考訳): 神経生物学的原理を用いたスパースニューラルネットワークの生体内可塑性表現への誘導
- Authors: Patrick Inoue, Florian Röhrbein, Andreas Knoblauch,
- Abstract要約: 神経生物学の原則を自然に統合する生物学的にインスピレーションを受けた学習規則を導入する。
我々のモデルは敵攻撃に対する堅牢性を高め、より優れた一般化を示す。
予備的な結果は、このアプローチが機能特化からタスク特化エンコーディングに拡張できることを示唆している。
- 参考スコア(独自算出の注目度): 1.0787328610467803
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: While deep neural networks (DNNs) have achieved remarkable performance in tasks such as image recognition, they often struggle with generalization, learning from few examples, and continuous adaptation - abilities inherent in biological neural systems. These challenges arise due to DNNs' failure to emulate the efficient, adaptive learning mechanisms of biological networks. To address these issues, we explore the integration of neurobiologically inspired assumptions in neural network learning. This study introduces a biologically inspired learning rule that naturally integrates neurobiological principles, including sparsity, lognormal weight distributions, and adherence to Dale's law, without requiring explicit enforcement. By aligning with these core neurobiological principles, our model enhances robustness against adversarial attacks and demonstrates superior generalization, particularly in few-shot learning scenarios. Notably, integrating these constraints leads to the emergence of biologically plausible neural representations, underscoring the efficacy of incorporating neurobiological assumptions into neural network design. Preliminary results suggest that this approach could extend from feature-specific to task-specific encoding, potentially offering insights into neural resource allocation for complex tasks.
- Abstract(参考訳): ディープニューラルネットワーク(DNN)は、画像認識などのタスクにおいて顕著なパフォーマンスを達成したが、一般化、少数の例からの学習、そして生物学的ニューラルネットワークに固有の能力である継続的適応に苦慮することが多い。
これらの課題は、生物学的ネットワークの効率的で適応的な学習メカニズムをエミュレートしなかったDNNが原因である。
これらの問題に対処するために、ニューラルネットワーク学習における神経生物学的にインスパイアされた仮定の統合について検討する。
この研究は、神経生物学の原則を自然に統合する生物学的に着想を得た学習規則を導入し、例えば、空間性、対数正規量分布、デールの法則への固執を、明示的な強制を必要とせずに導入した。
これらの中核的な神経生物学の原則に合わせることで、我々のモデルは敵の攻撃に対する堅牢性を高め、特に数発の学習シナリオにおいて優れた一般化を示す。
特に、これらの制約を統合することで、生物学的に妥当な神経表現が出現し、神経生物学的仮定をニューラルネットワーク設計に組み込むことの有効性が強調される。
予備的な結果は、このアプローチが機能特化からタスク特化エンコーディングに拡張され、複雑なタスクに対するニューラルネットワークリソース割り当てに関する洞察を提供する可能性があることを示唆している。
関連論文リスト
- Intelligence Foundation Model: A New Perspective to Approach Artificial General Intelligence [55.07411490538404]
我々は,人工知能基盤モデル(IFM)による人工知能(AGI)への新たな視点を提案する。
IFMは、多様な知的行動から直接学習することで、インテリジェンスの基礎となるメカニズムを取得することを目的としている。
論文 参考訳(メタデータ) (2025-11-13T09:28:41Z) - Discovering Chunks in Neural Embeddings for Interpretability [53.80157905839065]
本稿では, チャンキングの原理を応用して, 人工神経集団活動の解釈を提案する。
まず、この概念を正則性を持つ人工シーケンスを訓練したリカレントニューラルネットワーク(RNN)で実証する。
我々は、これらの状態に対する摂動が関連する概念を活性化または阻害すると共に、入力における概念に対応する同様の繰り返し埋め込み状態を特定する。
論文 参考訳(メタデータ) (2025-02-03T20:30:46Z) - NEUROLOGIC: From Neural Representations to Interpretable Logic Rules [12.231919806775933]
ルールに基づく説明法は、ニューラルネットワークの振る舞いに関する厳密でグローバルに解釈可能な洞察を提供する。
既存のアプローチは、主に小さな完全に接続されたネットワークに限られており、コストのかかるルール抽出と置換プロセスに依存している。
深層ニューラルネットワークから直接解釈可能な論理規則を抽出する新しいフレームワークであるNEUROLOGICを提案する。
論文 参考訳(メタデータ) (2025-01-14T17:57:26Z) - Augmenting learning in neuro-embodied systems through neurobiological first principles [42.810158068175646]
本稿では,最近のバイオインスパイアされたモデル,学習規則,人工ニューラルネットワークのアーキテクチャについて述べる。
我々は、神経科学とAIのギャップを埋める可能性を持つANNを増強するためのフレームワークを提案する。
課題駆動のスパイクニューラルネットワークとニューロモルフィックシステムに生物物理学の原理を統合することで、スケーラブルなソリューションが提供されることを示す。
論文 参考訳(メタデータ) (2024-07-05T14:11:28Z) - Brain-Inspired Machine Intelligence: A Survey of
Neurobiologically-Plausible Credit Assignment [65.268245109828]
本稿では,神経生物学にインスパイアされた,あるいは動機付けられた人工ニューラルネットワークにおける信用割当を行うアルゴリズムについて検討する。
我々は、脳にインスパイアされた学習スキームを6つの一般的なファミリーにまとめ、これらを誤りのバックプロパゲーションの文脈で検討する。
本研究の成果は,神経ミメティックシステムとその構成的学習プロセスの今後の発展を促進することを目的としている。
論文 参考訳(メタデータ) (2023-12-01T05:20:57Z) - A Spiking Binary Neuron -- Detector of Causal Links [0.0]
因果関係認識は、学習行動、行動計画、外界ダイナミクスの推論を目的としたニューラルネットワークの基本的な操作である。
本研究は、単純なスパイク二元性ニューロンを用いた因果関係認識を実現するための新しいアプローチを提案する。
論文 参考訳(メタデータ) (2023-09-15T15:34:17Z) - A Hybrid Neural Coding Approach for Pattern Recognition with Spiking
Neural Networks [53.31941519245432]
脳にインスパイアされたスパイクニューラルネットワーク(SNN)は、パターン認識タスクを解く上で有望な能力を示している。
これらのSNNは、情報表現に一様神経コーディングを利用する同質ニューロンに基づいている。
本研究では、SNNアーキテクチャは異種符号化方式を組み込むよう、均質に設計されるべきである、と論じる。
論文 参考訳(メタデータ) (2023-05-26T02:52:12Z) - Dive into the Power of Neuronal Heterogeneity [8.6837371869842]
進化戦略(ES)を用いて、スパイキングニューラルネットワーク(SNN)を最適化し、ランダムネットワークにおける異種ニューロンのより堅牢な最適化を実現するためのバックプロパゲーションベースの手法が直面する課題を示す。
膜時間定数は神経異質性において重要な役割を担っており、その分布は生物学的実験で観察されたものと類似している。
論文 参考訳(メタデータ) (2023-05-19T07:32:29Z) - Contrastive-Signal-Dependent Plasticity: Self-Supervised Learning in Spiking Neural Circuits [61.94533459151743]
この研究は、スパイキングネットワークのシナプスを調整するための神経生物学的に動機づけられたスキームを設計することの課題に対処する。
我々の実験シミュレーションは、繰り返しスパイクネットワークを訓練する際、他の生物学的に証明可能なアプローチに対して一貫した優位性を示す。
論文 参考訳(メタデータ) (2023-03-30T02:40:28Z) - Spiking neural network for nonlinear regression [68.8204255655161]
スパイクニューラルネットワークは、メモリとエネルギー消費を大幅に削減する可能性を持っている。
彼らは、次世代のニューロモルフィックハードウェアによって活用できる時間的および神経的疎結合を導入する。
スパイキングニューラルネットワークを用いた回帰フレームワークを提案する。
論文 参考訳(メタデータ) (2022-10-06T13:04:45Z) - Equilibrium Propagation for Complete Directed Neural Networks [0.0]
最も成功したニューラルネットワークの学習アルゴリズム、バックプロパゲーションは生物学的に不可能であると考えられている。
我々は,平衡伝播学習の枠組みを構築し拡張することによって,生物学的に妥当な神経学習の話題に貢献する。
論文 参考訳(メタデータ) (2020-06-15T22:12:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。