論文の概要: Neuronal Competition Groups with Supervised STDP for Spike-Based Classification
- arxiv url: http://arxiv.org/abs/2410.17066v1
- Date: Tue, 22 Oct 2024 14:46:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-10-23 14:29:47.813514
- Title: Neuronal Competition Groups with Supervised STDP for Spike-Based Classification
- Title(参考訳): スパイク分類のためのSTDPを用いた神経コンペティショングループ
- Authors: Gaspard Goupy, Pierre Tirilly, Ioan Marius Bilasco,
- Abstract要約: Spike Timing-Dependent Plasticity(STDP)は、ニューロモルフィックハードウェア上でのスパイキングニューラルネットワーク(SNN)の局所的なトレーニングのバックプロパゲーションの代替となる。
STDPにより、SNNは特徴抽出のための教師なしSTDPと分類のための教師なしSTDPを組み合わせることで、分類タスクに対処できる。
本稿では,クラスごとのさまざまなパターンの学習を促進することによって,分類能力を向上させるアーキテクチャである神経コンペティショングループ(NCG)を紹介する。
- 参考スコア(独自算出の注目度): 1.0787328610467803
- License:
- Abstract: Spike Timing-Dependent Plasticity (STDP) is a promising substitute to backpropagation for local training of Spiking Neural Networks (SNNs) on neuromorphic hardware. STDP allows SNNs to address classification tasks by combining unsupervised STDP for feature extraction and supervised STDP for classification. Unsupervised STDP is usually employed with Winner-Takes-All (WTA) competition to learn distinct patterns. However, WTA for supervised STDP classification faces unbalanced competition challenges. In this paper, we propose a method to effectively implement WTA competition in a spiking classification layer employing first-spike coding and supervised STDP training. We introduce the Neuronal Competition Group (NCG), an architecture that improves classification capabilities by promoting the learning of various patterns per class. An NCG is a group of neurons mapped to a specific class, implementing intra-class WTA and a novel competition regulation mechanism based on two-compartment thresholds. We incorporate our proposed architecture into spiking classification layers trained with state-of-the-art supervised STDP rules. On top of two different unsupervised feature extractors, we obtain significant accuracy improvements on image recognition datasets such as CIFAR-10 and CIFAR-100. We show that our competition regulation mechanism is crucial for ensuring balanced competition and improved class separation.
- Abstract(参考訳): Spike Timing-Dependent Plasticity(STDP)は、ニューロモルフィックハードウェア上でのスパイキングニューラルネットワーク(SNN)の局所的なトレーニングのバックプロパゲーションの代替となる。
STDPにより、SNNは特徴抽出のための教師なしSTDPと分類のための教師なしSTDPを組み合わせることで、分類タスクに対処できる。
教師なしSTDPは通常、異なるパターンを学ぶためにWinner-Takes-All (WTA)コンペティションで使用される。
しかし、管理STDP分類のためのWTAは、不均衡な競争課題に直面している。
本稿では,第1のスパイク符号化と教師付きSTDPトレーニングを用いたスパイク分類層において,WTA競合を効果的に実装する手法を提案する。
本稿では,クラスごとのさまざまなパターンの学習を促進することによって,分類能力を向上させるアーキテクチャである神経コンペティショングループ(NCG)を紹介する。
NCGは、特定のクラスにマッピングされたニューロンのグループであり、クラス内WTAと、2つの領域しきい値に基づく新しい競合制御機構を実装している。
提案したアーキテクチャを,最先端の教師付きSTDPルールでトレーニングされたスパイキング分類層に組み込む。
CIFAR-10 や CIFAR-100 のような画像認識データセットにおいて,2 つの異なる教師なし特徴抽出器の精度が向上した。
コンペティション規制機構は,バランスの取れたコンペティションの確保とクラス分離の改善に不可欠であることを示す。
関連論文リスト
- Balanced Classification: A Unified Framework for Long-Tailed Object
Detection [74.94216414011326]
従来の検出器は、分類バイアスによる長期データを扱う際の性能劣化に悩まされる。
本稿では,カテゴリ分布の格差に起因する不平等の適応的是正を可能にする,BAlanced CLassification (BACL) と呼ばれる統一フレームワークを提案する。
BACLは、さまざまなバックボーンとアーキテクチャを持つさまざまなデータセット間で、一貫してパフォーマンス改善を実現している。
論文 参考訳(メタデータ) (2023-08-04T09:11:07Z) - Paired Competing Neurons Improving STDP Supervised Local Learning In Spiking Neural Networks [1.0787328610467803]
ニューロモルフィックハードウェア上でのスパイキングニューラルネットワーク(SNN)の直接トレーニングは、人工ニューラルネットワークトレーニングのエネルギー消費を大幅に削減する可能性がある。
特徴抽出のための教師なしSTDPを備えたSNNの分類層を訓練するための教師付きSTDP学習ルールである安定化STDP(S2-STDP)を提案する。
我々はPaired Competing Neurons(PCN)と呼ばれるトレーニングアーキテクチャを導入し、S2-STDPでトレーニングした分類層の学習能力をさらに強化する。
論文 参考訳(メタデータ) (2023-08-04T08:20:54Z) - Ladder Siamese Network: a Method and Insights for Multi-level
Self-Supervised Learning [9.257121691188008]
Siamese-network-based self-supervised learning (SSL) は、トレーニングにおける収束の遅さと不安定さに悩まされている。
本稿では,Ladder Siamese Network と呼ばれるディープネットの各段階における中間的な自己スーパービジョンを利用するフレームワークを提案する。
論文 参考訳(メタデータ) (2022-11-25T00:49:25Z) - Transductive CLIP with Class-Conditional Contrastive Learning [68.51078382124331]
雑音ラベル付き分類ネットワークをスクラッチから学習するための新しいフレームワークであるTransductive CLIPを提案する。
擬似ラベルへの依存を軽減するために,クラス条件のコントラスト学習機構を提案する。
アンサンブルラベルは、ノイズラベル付きディープニューラルネットワークのトレーニングを安定化するための擬似ラベル更新戦略として採用されている。
論文 参考訳(メタデータ) (2022-06-13T14:04:57Z) - Continual Competitive Memory: A Neural System for Online Task-Free
Lifelong Learning [91.3755431537592]
我々は,教師なし学習,連続競合記憶(CCM)の新たな形態を提案する。
結果として得られる神経系は、オンライン連続分類問題において破滅的な忘れと戦う効果的なアプローチを提供する。
提案したCCMシステムは,他の競合学習ニューラルモデルよりも優れるだけでなく,最新かつ最先端の学習アプローチと競合する性能が得られることを実証する。
論文 参考訳(メタデータ) (2021-06-24T20:12:17Z) - Binary Classification from Multiple Unlabeled Datasets via Surrogate Set
Classification [94.55805516167369]
我々は m 個の U 集合を $mge2$ で二進分類する新しい手法を提案する。
我々のキーとなる考え方は、サロゲート集合分類(SSC)と呼ばれる補助的分類タスクを考えることである。
論文 参考訳(メタデータ) (2021-02-01T07:36:38Z) - Fine-Grained Visual Classification with Efficient End-to-end
Localization [49.9887676289364]
本稿では,エンド・ツー・エンドの設定において,分類ネットワークと融合可能な効率的なローカライゼーションモジュールを提案する。
我々は,CUB200-2011,Stanford Cars,FGVC-Aircraftの3つのベンチマークデータセット上で,新しいモデルを評価する。
論文 参考訳(メタデータ) (2020-05-11T14:07:06Z) - Generalized Zero-Shot Learning Via Over-Complete Distribution [79.5140590952889]
そこで本稿では,CVAE (Conditional Variational Autoencoder) を用いたOCD(Over-Complete Distribution) の生成を提案する。
フレームワークの有効性は,Zero-Shot LearningプロトコルとGeneralized Zero-Shot Learningプロトコルの両方を用いて評価する。
論文 参考訳(メタデータ) (2020-04-01T19:05:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。