論文の概要: Biologically Plausible Learning via Bidirectional Spike-Based Distillation

• arxiv url: http://arxiv.org/abs/2509.20284v1
• Date: Wed, 24 Sep 2025 16:17:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-09-25 20:53:19.901216
• Title: Biologically Plausible Learning via Bidirectional Spike-Based Distillation
• Title（参考訳）: 双方向スパイクに基づく蒸留による生物プラウザブル学習
• Authors: Changze Lv, Yifei Wang, Yanxun Zhang, Yiyang Lu, Jingwen Xu, Di Yu, Xin Du, Xuanjing Huang, Xiaoqing Zheng,
• Abstract要約: 両方向スパイクに基づく蒸留(BSD)は,フィードフォワードと後方スパイクネットワークを協調訓練する新しい学習アルゴリズムである。 BSDは、古典的なエラーバックプロパゲーションで訓練されたネットワークに匹敵する性能を達成する。 これらの発見は、ニューラルネットワークにおける生物学的基盤とスパイク駆動学習への重要な一歩である。
• 参考スコア（独自算出の注目度）: 47.74332895886508
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Developing biologically plausible learning algorithms that can achieve performance comparable to error backpropagation remains a longstanding challenge. Existing approaches often compromise biological plausibility by entirely avoiding the use of spikes for error propagation or relying on both positive and negative learning signals, while the question of how spikes can represent negative values remains unresolved. To address these limitations, we introduce Bidirectional Spike-based Distillation (BSD), a novel learning algorithm that jointly trains a feedforward and a backward spiking network. We formulate learning as a transformation between two spiking representations (i.e., stimulus encoding and concept encoding) so that the feedforward network implements perception and decision-making by mapping stimuli to actions, while the backward network supports memory recall by reconstructing stimuli from concept representations. Extensive experiments on diverse benchmarks, including image recognition, image generation, and sequential regression, show that BSD achieves performance comparable to networks trained with classical error backpropagation. These findings represent a significant step toward biologically grounded, spike-driven learning in neural networks.
• Abstract（参考訳）: 生物学的にもっとも有効な学習アルゴリズムの開発は、エラーのバックプロパゲーションに匹敵するパフォーマンスを達成することは、長年にわたる課題である。 既存のアプローチは、誤りの伝播にスパイクを使うことを完全に回避したり、正と負の両方の学習信号に依存することによって、生物学的な妥当性を損なうことが多いが、スパイクがどのように負の値を表すことができるのかという問題は未解決のままである。 これらの制約に対処するために、フィードフォワードと後方スパイクネットワークを共同でトレーニングする新しい学習アルゴリズムであるBidirectional Spike-based Distillation (BSD)を導入する。 我々は,2つのスパイキング表現(すなわち刺激符号化と概念符号化)間の変換として学習を定式化し,フィードフォワードネットワークは行動に刺激をマッピングすることで認識と意思決定を行う一方で,後進ネットワークは概念表現から刺激を再構成することで記憶リコールをサポートする。 画像認識、画像生成、逐次回帰を含む様々なベンチマークに関する大規模な実験は、BSDが古典的なエラーバックプロパゲーションで訓練されたネットワークに匹敵する性能を達成することを示した。 これらの発見は、ニューラルネットワークにおける生物学的基盤とスパイク駆動学習への重要な一歩である。

関連論文リスト

• Concept-Guided Interpretability via Neural Chunking [64.6429903327095]
  ニューラルネットワークは、トレーニングデータの規則性を反映した生の集団活動のパターンを示す。 神経集団レベルで繰り返しチャンクを抽出する3つの方法を提案する。 私たちの研究は、認知原則と自然主義的データの構造の両方を活用する、解釈可能性の新しい方向性を指し示しています。
  論文  参考訳（メタデータ） (2025-05-16T13:49:43Z)
• A Basic Evaluation of Neural Networks Trained with the Error Diffusion Learning Algorithm [0.0]
  Kaneko's Error Diffusion Learning Algorithm (EDLA) 単一のグローバルエラー信号は、対の励起阻害サブ層からなるネットワーク全体に拡散する。 実験の結果、EDLAネットワークは一貫して高い精度を達成できることが示された。
  論文  参考訳（メタデータ） (2025-04-21T02:41:17Z)
• Efficient Rectification of Neuro-Symbolic Reasoning Inconsistencies by Abductive Reflection [53.82376573677766]
  Neuro-Symbolic (NeSy) AIは、人間の二重プロセス認識の類似と見なすことができる。 本稿では,ABLフレームワークに基づくAbductive Reflection (ABL-Refl)を導入することにより,NeSyシステムを改善することを提案する。
  論文  参考訳（メタデータ） (2024-12-11T15:24:07Z)
• A Robust Backpropagation-Free Framework for Images [47.97322346441165]
  画像データに対するエラーカーネル駆動型アクティベーションアライメントアルゴリズムを提案する。 EKDAAは、ローカルに派生したエラー送信カーネルとエラーマップを導入することで達成される。 結果は、識別不能なアクティベーション機能を利用するEKDAAトレーニングCNNに対して提示される。
  論文  参考訳（メタデータ） (2022-06-03T21:14:10Z)
• An error-propagation spiking neural network compatible with neuromorphic processors [2.432141667343098]
  本稿では,局所的な重み更新機構を用いたバックプロパゲーションを近似したスパイクに基づく学習手法を提案する。 本稿では,重み更新機構による誤り信号のバックプロパゲートを可能にするネットワークアーキテクチャを提案する。 この研究は、超低消費電力混合信号ニューロモルフィック処理系の設計に向けた第一歩である。
  論文  参考訳（メタデータ） (2021-04-12T07:21:08Z)
• Biological credit assignment through dynamic inversion of feedforward networks [11.345796608258434]
  フィードフォワードネットワーク変換は動的に効果的に逆変換できることを示す。 我々はこれらのダイナミクスを汎用フィードフォワードネットワークにマッピングし、その結果のアルゴリズムが教師なしおよび教師なしのデータセットでうまく動作することを示す。
  論文  参考訳（メタデータ） (2020-07-10T00:03:01Z)
• Learning to Learn with Feedback and Local Plasticity [9.51828574518325]
  我々はメタラーニングを用いて、フィードバック接続と局所的、生物学的にインスパイアされた学習ルールを用いて学習するネットワークを発見する。 実験の結果, メタトレーニングネットワークは, 多層アーキテクチャにおけるオンラインクレジット割り当てにフィードバック接続を効果的に利用していることがわかった。
  論文  参考訳（メタデータ） (2020-06-16T22:49:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。