論文の概要: Adaptive Spiking Neurons for Vision and Language Modeling

• arxiv url: http://arxiv.org/abs/2604.12365v1
• Date: Tue, 14 Apr 2026 06:53:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-15 19:11:32.300474
• Title: Adaptive Spiking Neurons for Vision and Language Modeling
• Title（参考訳）: 視覚・言語モデリングのための適応スパイキングニューロン
• Authors: Chenlin Zhou, Sihang Guo, Jiaqi Wang, Dongyang Ma, Jin Cheng, Qingyan Meng, Zhengyu Ma, Yonghong Tian,
• Abstract要約: スパイキングニューラルネットワーク(SNN)は、その生物学的妥当性とエネルギー効率のために、大きな牽引力を得ている。 大型モデルの最近の進歩は、高い性能、適応性、訓練効率を発揮できるスパイクニューロンを必要とする。 スパイキングニューロンの新しい世代を設計するための一般的なガイダンスを提供する新しい機能的視点を提案する。
• 参考スコア（独自算出の注目度）: 34.29707521347529
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Regarded as the third generation of neural networks, Spiking Neural Networks (SNNs) have garnered significant traction due to their biological plausibility and energy efficiency. Recent advancements in large models necessitate spiking neurons capable of high performance, adaptability, and training efficiency. In this work, we first propose a novel functional perspective that provides general guidance for designing the new generation of spiking neurons. Following the insightful guidelines, we propose the Adaptive Spiking Neuron (ASN), which incorporates trainable parameters to learn membrane potential dynamics and enable adaptive firing. ASN adopts an integer training and spike inference paradigm, facilitating efficient SNN training. To further enhance robustness, we propose a specialized variant of ASN, the Normalized Adaptive Spiking Neuron (NASN), which integrates normalization to stabilize training. We evaluate our neuron model on 19 datasets spanning five distinct tasks in both vision and language modalities, demonstrating the effectiveness and versatility of the ASN family. Our ASN family is expected to become the new generation of general-purpose spiking neurons.
• Abstract（参考訳）: 第3世代のニューラルネットワークとして、スパイキングニューラルネットワーク(SNN)は、その生物学的妥当性とエネルギー効率のために、大きな牽引力を得ている。 大型モデルの最近の進歩は、高い性能、適応性、訓練効率を発揮できるスパイクニューロンを必要とする。 本研究ではまず,新しい世代のスパイキングニューロンを設計するための一般的なガイダンスを提供する機能的視点を提案する。 本稿では, 適応スパイキングニューロン (ASN) を提案し, トレーニング可能なパラメータを組み込んで膜電位の動的学習を行い, 適応発射を可能にする。 ASNは整数トレーニングとスパイク推論パラダイムを採用し、効率的なSNNトレーニングを容易にする。 さらに頑健性を高めるために,正規化とトレーニングの安定化を両立させる,正規化適応スパイクニューロン (NASN) の特殊版を提案する。 視覚と言語モダリティの異なる5つのタスクにまたがる19のデータセットのニューロンモデルを評価し,ASNファミリーの有効性と汎用性を実証した。 ASNファミリーは、汎用スパイクニューロンの新世代になることが期待されている。

関連論文リスト

• Neuronal Self-Adaptation Enhances Capacity and Robustness of Representation in Spiking Neural Networks [4.9720552049794575]
  Spiking Neural Networks (SNN) はエネルギー効率の高いリアルタイムエッジコンピューティングを約束している。 既存のLIFモデルは、制限された情報容量とノイズに対する感受性に苦しむ。 生物学的カリウムチャネルの動的自己調節に着想を得て, カリウム制御LIF(KvLIF)ニューロンモデルを提案する。
  論文  参考訳（メタデータ） (2026-03-21T07:06:57Z)
• General Self-Prediction Enhancement for Spiking Neurons [71.01912385372577]
  スパイキングニューラルネットワーク(SNN)は、イベント駆動のスパース計算によって非常にエネルギー効率が良いが、そのトレーニングは、性能、効率、生物学的妥当性の非微分可能性とトレードオフによって困難である。 本稿では,その入力出力履歴から内部予測電流を生成し,膜電位を変調する自己予測強化スパイキングニューロン法を提案する。 この設計には2つの利点があり、失明した勾配を緩和し、トレーニングの安定性と精度を高める連続的な勾配経路を作成し、また遠位樹状突起変調とエラー駆動のシナプス塑性に類似した生物学的原理と整合する。
  論文  参考訳（メタデータ） (2026-01-29T15:08:48Z)
• Learning Internal Biological Neuron Parameters and Complexity-Based Encoding for Improved Spiking Neural Networks Performance [0.0]
  本研究では、従来のパーセプトロンモデルを生物学的に誘発される確率論的メタニューロンモデルに置き換えることで、新しいアプローチを導入する。 第2の鍵となる貢献として、SNNとLe-Ziv可塑性(LZC)を一意に統合する、生物学的にインスパイアされた新しい分類フレームワークを提案する。 本稿では,バックプロパゲーション,スパイク刺激型アスペクト依存型可塑性(STDP),テンポトロン学習規則などの学習アルゴリズムを検討する。
  論文  参考訳（メタデータ） (2025-08-08T09:14:49Z)
• Augmenting learning in neuro-embodied systems through neurobiological first principles [42.810158068175646]
  本稿では,最近のバイオインスパイアされたモデル,学習規則,人工ニューラルネットワークのアーキテクチャについて述べる。 我々は、神経科学とAIのギャップを埋める可能性を持つANNを増強するためのフレームワークを提案する。 課題駆動のスパイクニューラルネットワークとニューロモルフィックシステムに生物物理学の原理を統合することで、スケーラブルなソリューションが提供されることを示す。
  論文  参考訳（メタデータ） (2024-07-05T14:11:28Z)
• Neural network with optimal neuron activation functions based on additive Gaussian process regression [0.0]
  より柔軟なニューロン活性化機能により、より少ない神経細胞や層を使用でき、表現力を向上させることができる。 加算ガウス過程回帰(GPR)は各ニューロンに特異的な最適なニューロン活性化関数を構築するのに有効であることを示す。 ニューラルネットワークパラメータの非線形フィッティングを回避するアプローチも導入されている。
  論文  参考訳（メタデータ） (2023-01-13T14:19:17Z)
• SIT: A Bionic and Non-Linear Neuron for Spiking Neural Network [12.237928453571636]
  スパイキングニューラルネットワーク(SNN)は、時間的情報処理能力と消費電力の低さから、研究者の関心を喚起している。 現在の最先端の手法は、ニューロンが単純な Leaky-Integrate-and-Fire (LIF) モデルに基づいて構築されているため、生物学的な可視性と性能を制限している。 高レベルの動的複雑さのため、現代のニューロンモデルがSNNの実践で実装されることはめったにない。
  論文  参考訳（メタデータ） (2022-03-30T07:50:44Z)
• Dynamic Neural Diversification: Path to Computationally Sustainable Neural Networks [68.8204255655161]
  訓練可能なパラメータが制限された小さなニューラルネットワークは、多くの単純なタスクに対してリソース効率の高い候補となる。 学習過程において隠れた層内のニューロンの多様性を探索する。 ニューロンの多様性がモデルの予測にどのように影響するかを分析する。
  論文  参考訳（メタデータ） (2021-09-20T15:12:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。