論文の概要: Biologically Inspired Spiking Diffusion Model with Adaptive Lateral Selection Mechanism
- arxiv url: http://arxiv.org/abs/2503.23767v1
- Date: Mon, 31 Mar 2025 06:31:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-04-01 14:38:18.153897
- Title: Biologically Inspired Spiking Diffusion Model with Adaptive Lateral Selection Mechanism
- Title(参考訳): 適応的側方選択機構を持つ生体刺激スパイキング拡散モデル
- Authors: Linghao Feng, Dongcheng Zhao, Sicheng Shen, Yi Zeng,
- Abstract要約: 我々はスパイキングニューラルネットワーク(SNN)に基づく新しい拡散モデルを開発する。
我々は,このスパイク内ループと横方向接続機構を併用して,サブ構造選択ネットワークを反復的に洗練する。
我々のモデルは、複数のベンチマークデータセットにまたがる最先端のSNNベースの生成モデルを一貫して上回っている。
- 参考スコア(独自算出の注目度): 5.135901078097114
- License:
- Abstract: Lateral connection is a fundamental feature of biological neural circuits, facilitating local information processing and adaptive learning. In this work, we integrate lateral connections with a substructure selection network to develop a novel diffusion model based on spiking neural networks (SNNs). Unlike conventional artificial neural networks, SNNs employ an intrinsic spiking inner loop to process sequential binary spikes. We leverage this spiking inner loop alongside a lateral connection mechanism to iteratively refine the substructure selection network, enhancing model adaptability and expressivity. Specifically, we design a lateral connection framework comprising a learnable lateral matrix and a lateral mapping function, both implemented using spiking neurons, to dynamically update lateral connections. Through mathematical modeling, we establish that the proposed lateral update mechanism, under a well-defined local objective, aligns with biologically plausible synaptic plasticity principles. Extensive experiments validate the effectiveness of our approach, analyzing the role of substructure selection and lateral connection during training. Furthermore, quantitative comparisons demonstrate that our model consistently surpasses state-of-the-art SNN-based generative models across multiple benchmark datasets.
- Abstract(参考訳): 側方接続は生物学的ニューラルネットワークの基本的特徴であり、局所的な情報処理と適応学習を容易にする。
本研究では,スパイクニューラルネットワーク(SNN)に基づく新しい拡散モデルを構築するために,サブ構造選択ネットワークと横方向接続を統合する。
従来の人工ニューラルネットワークとは異なり、SNNは連続したバイナリスパイクを処理するために固有のスパイクインループを使用する。
このスパイク内ループを横方向の接続機構とともに利用して、サブ構造選択ネットワークを反復的に洗練し、モデル適応性と表現性を向上させる。
具体的には、学習可能な側方行列と、スパイキングニューロンを用いて実装された側方マッピング関数からなる側方接続フレームワークを設計し、動的に側方接続を更新する。
数学的モデリングにより, 提案した横方向更新機構は, 適切に定義された局所的な目的の下で, 生物学的にもっともらしいシナプス可塑性の原理と整合することを確認した。
広範囲にわたる実験により,本手法の有効性を検証し,トレーニング中のサブ構造選択と側方接続の役割を解析した。
さらに、定量的比較により、我々のモデルは複数のベンチマークデータセットにまたがる最先端のSNNベースの生成モデルを一貫して上回っていることが示された。
関連論文リスト
- Connectivity structure and dynamics of nonlinear recurrent neural networks [46.62658917638706]
我々は,ニューラルネットワークの高次元,内部的に発生する活動が接続構造をどのように形成するかを解析する理論を開発する。
我々の理論は、ニューラルネットワークアーキテクチャと人工および生物学的システムにおける集合力学を関連付けるためのツールを提供する。
論文 参考訳(メタデータ) (2024-09-03T15:08:37Z) - Enhancing lattice kinetic schemes for fluid dynamics with Lattice-Equivariant Neural Networks [79.16635054977068]
我々はLattice-Equivariant Neural Networks (LENNs)と呼ばれる新しい同変ニューラルネットワークのクラスを提案する。
我々の手法は、ニューラルネットワークに基づく代理モデルLattice Boltzmann衝突作用素の学習を目的とした、最近導入されたフレームワーク内で開発されている。
本研究は,実世界のシミュレーションにおける機械学習強化Lattice Boltzmann CFDの実用化に向けて展開する。
論文 参考訳(メタデータ) (2024-05-22T17:23:15Z) - Biologically-Plausible Topology Improved Spiking Actor Network for Efficient Deep Reinforcement Learning [15.143466733327566]
近年の神経科学の進歩により、ヒトの脳は報酬に基づく効果的な学習を達成していることが明らかになった。
Deep Reinforcement Learning (DRL)の成功は主に、関数近似器としてArtificial Neural Networks (ANN)を活用することによる。
そこで我々は,機能近似の新たな代替手法として,生物学的に証明可能なトポロジー改良スパイキング・アクター・ネットワーク(BPT-SAN)を提案する。
論文 参考訳(メタデータ) (2024-03-29T13:25:19Z) - Deep Continuous Networks [21.849285945717632]
空間的連続フィルタとニューラルODEの連続深度フレームワークを組み合わせたディープ連続ネットワーク(DCN)を提案する。
これにより、トレーニング中のフィルタの空間的サポートを学習し、特徴写像の連続的な進化をモデル化し、DCNを生物学的モデルに密接にリンクすることができる。
パラメータとデータ効率を改善し,メタパラメトリゼーションを可能にする標準画像分類・再構成問題に対して,DCNは汎用性が高く,高い適用性を示す。
論文 参考訳(メタデータ) (2024-02-02T16:50:18Z) - How neural networks learn to classify chaotic time series [77.34726150561087]
本研究では,通常の逆カオス時系列を分類するために訓練されたニューラルネットワークの内部動作について検討する。
入力周期性とアクティベーション周期の関係は,LKCNNモデルの性能向上の鍵となる。
論文 参考訳(メタデータ) (2023-06-04T08:53:27Z) - Contrastive-Signal-Dependent Plasticity: Self-Supervised Learning in Spiking Neural Circuits [61.94533459151743]
この研究は、スパイキングネットワークのシナプスを調整するための神経生物学的に動機づけられたスキームを設計することの課題に対処する。
我々の実験シミュレーションは、繰り返しスパイクネットワークを訓練する際、他の生物学的に証明可能なアプローチに対して一貫した優位性を示す。
論文 参考訳(メタデータ) (2023-03-30T02:40:28Z) - Improving Neural Predictivity in the Visual Cortex with Gated Recurrent
Connections [0.0]
我々は,腹側視覚ストリームのユビキタスな特徴である横方向のリカレント接続を考慮したアーキテクチャに焦点を移し,適応的受容場を創出することを目指している。
本研究は,我々のアプローチの堅牢性と活性化の生物学的忠実性を高めるために,特定のデータ拡張技術を用いている。
論文 参考訳(メタデータ) (2022-03-22T17:27:22Z) - Data-driven emergence of convolutional structure in neural networks [83.4920717252233]
識別タスクを解くニューラルネットワークが、入力から直接畳み込み構造を学習できることを示す。
データモデルを慎重に設計することにより、このパターンの出現は、入力の非ガウス的、高次局所構造によって引き起こされることを示す。
論文 参考訳(メタデータ) (2022-02-01T17:11:13Z) - An Ode to an ODE [78.97367880223254]
我々は、O(d) 群上の行列フローに応じて主フローの時間依存パラメータが進化する ODEtoODE と呼ばれるニューラルODE アルゴリズムの新しいパラダイムを提案する。
この2つの流れのネストされたシステムは、訓練の安定性と有効性を提供し、勾配の消滅・爆発問題を確実に解決する。
論文 参考訳(メタデータ) (2020-06-19T22:05:19Z) - Network Diffusions via Neural Mean-Field Dynamics [52.091487866968286]
本稿では,ネットワーク上の拡散の推論と推定のための新しい学習フレームワークを提案する。
本研究の枠組みは, ノード感染確率の正確な進化を得るために, モリ・ズワンジッヒ形式から導かれる。
我々のアプローチは、基礎となる拡散ネットワークモデルのバリエーションに対して多用途で堅牢である。
論文 参考訳(メタデータ) (2020-06-16T18:45:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。