論文の概要: Learning While Inferring: Local and Parallel Learning for Edge SNNs across Sensing Modalities

• arxiv url: http://arxiv.org/abs/2610.03149v1
• Date: Fri, 02 Oct 2026 11:18:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-06 00:14:30.341121
• Title: Learning While Inferring: Local and Parallel Learning for Edge SNNs across Sensing Modalities
• Title（参考訳）: 推論中の学習: センシングモダリティにおけるエッジSNNの局所学習と並列学習
• Abstract要約: エッジSNNを推論しながら学習するためのデバイス上での学習原理として,双方向スパイクに基づく蒸留について検討する。 BSDは刺激駆動のフォワードネットワークと独立なターゲット駆動のリバースネットワークを結合し、その中間表現を局所的な目的を通して整列させる。 SOULの5つのセンシングモードにまたがる25のベンチマークでは、BSDは平均してマッチしたBPベースラインの3.8ポイント以内に留まる。
• 参考スコア（独自算出の注目度）: 26.112166495365198
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Edge intelligence requires models to sense continuously in real time and to keep adapting on-device, all under tight compute, energy, and memory budgets. Although spiking neural networks (SNNs) enable efficient event-driven inference, standard surrogate-gradient backpropagation (BP) serializes updates and blocks ongoing inference. We investigate Bidirectional Spike-Based Distillation (BSD) as an on-device learning principle that lets edge SNNs learn while inferring. BSD couples a stimulus-driven forward network with an independent target-driven reverse network and aligns their intermediate representations through local objectives. Because the two pathways have disjoint computation graphs until alignment, forward inference, reverse inference, and stage-wise updates can run concurrently. On 25 benchmarks spanning the five sensing modalities of SOUL, BSD stays within 3.8 percentage points of matched BP baselines on average, while only its forward branch is needed at deployment. The learned representations also transfer well to few-shot class-incremental learning without replaying past data. By removing the dense floating-point backward chain, BSD reduces the projected training latency to $0.72\times$ and the estimated training energy to $0.36\times$ that of BP.
• Abstract（参考訳）: エッジインテリジェンスには、モデルがリアルタイムで連続的に検知され、デバイス上で、すべてが厳格な計算、エネルギ、メモリ予算の下で適用され続けることが必要です。 スパイクニューラルネットワーク(SNN)は、効率的なイベント駆動推論を可能にするが、標準的な代理段階のバックプロパゲーション(BP)は、進行中の推論の更新とブロックをシリアライズする。 我々は、エッジSNNが推論しながら学習できるデバイス上での学習原理として、双方向スパイクに基づく蒸留(BSD)について検討する。 BSDは刺激駆動のフォワードネットワークと独立なターゲット駆動のリバースネットワークを結合し、その中間表現を局所的な目的を通して整列させる。 2つの経路は、アライメント、前方推論、逆推論、ステージワイズ更新が並列に実行されるまで、非結合な計算グラフを持つためである。 SOULの5つのセンシングモードにまたがる25のベンチマークでは、BSDは平均してマッチしたBPベースラインの3.8ポイント以内に留まる。 学習された表現は、過去のデータを再生することなく、数ショットのクラスインクリメンタルラーニングにうまく移行する。 密集した浮動小数点連鎖を除去することにより、BSDは予測されたトレーニング遅延を0.72\times$に減らし、推定トレーニングエネルギーを0.36\times$BPに減らした。

関連論文リスト

• Toward On-Chip Training of Spiking Neural Networks for Dense Event-Based Vision [6.343997466221382]
  イベントニューラルネットワーク(SNN)はイベントストリームを自然に処理するが、時間によるバックプロパゲーション(BPTT)による深層SNNのトレーニングにはかなりのメモリが必要であり、ニューロモルフィックハードウェアでは依然として困難である。 我々は,大域的制約のある伝播を局所的な局所的な集中管理に置き換える,高密度なイベントベースビジョンのためのブロックワイズスキームであるDellを紹介する。 Dellは、エンドツーエンドのBPTTと比較してピークトレーニングメモリを39.6%削減し、精度を改善し、公式テストベンチマークで1.670のエンドポイントエラーに達した。
  論文  参考訳（メタデータ） (2026-09-26T09:25:37Z)
• Federated Learning of Binary Neural Networks: Enabling Low-Cost Inference [12.80019265228651]
  Federated Learning (FL)は、デバイス間でトレーニングを分散することで、プライバシを保存する。 従来のトレーニング後のバイナライゼーションはモデルのサイズを小さくするが、量子化エラーによる精度の低下に悩まされる。 我々は、ローテーション対応のバイナリニューラルネットワークフレームワークであるFedBNNを提案し、ローカルトレーニング中にバイナリ表現を直接学習する。
  論文  参考訳（メタデータ） (2026-03-16T16:35:01Z)
• Projected Stochastic Gradient Descent with Quantum Annealed Binary Gradients [51.82488018573326]
  重み付きニューラルネットワークのトレーニングに適した,新しいレイヤワイドオプティマイザであるQP-SBGDを提案する。 BNNは、深層学習モデルの計算要求とエネルギー消費を最小限の精度で削減する。 提案アルゴリズムは階層的に実装されており,リソース制限量子ハードウェア上での大規模ネットワークのトレーニングに適している。
  論文  参考訳（メタデータ） (2023-10-23T17:32:38Z)
• Scalable Real-Time Recurrent Learning Using Columnar-Constructive Networks [19.248060562241296]
  リアルタイム反復学習をスケーラブルにする2つの制約を提案する。 ネットワークを独立したモジュールに分解するか、段階的にネットワークを学習することで、RTRLをパラメータ数と線形にスケールできることを示す。 本稿では,動物学習とアタリ2600ゲームに対する事前学習ポリシーのポリシー評価により,Trncated-BPTTに対するアプローチの有効性を示す。
  論文  参考訳（メタデータ） (2023-01-20T23:17:48Z)
• Recurrent Bilinear Optimization for Binary Neural Networks [58.972212365275595]
  BNNは、実数値重みとスケールファクターの内在的双線型関係を無視している。 私たちの仕事は、双線形の観点からBNNを最適化する最初の試みです。 我々は、様々なモデルやデータセット上で最先端のBNNに対して印象的な性能を示す頑健なRBONNを得る。
  論文  参考訳（メタデータ） (2022-09-04T06:45:33Z)
• Receptive Field-based Segmentation for Distributed CNN Inference Acceleration in Collaborative Edge Computing [93.67044879636093]
  協調エッジコンピューティングネットワークにおける分散畳み込みニューラルネットワーク(CNN)を用いた推論高速化について検討する。 我々は,CNNモデルを複数の畳み込み層に分割するために,融合層並列化を用いた新しい協調エッジコンピューティングを提案する。
  論文  参考訳（メタデータ） (2022-07-22T18:38:11Z)
• Binary Early-Exit Network for Adaptive Inference on Low-Resource Devices [3.591566487849146]
  バイナリニューラルネットワーク(BNN)は、実数値モデルと比較して、極端な圧縮とスピードアップによる問題に対処する。 そこで本研究では,BNNを早期導入戦略で統合して推論を高速化する,シンプルだが効果的な手法を提案する。 このアプローチでは、決定しきい値に基づいて単純なインスタンスを早期に終了させ、異なる中間層に追加される出力層を利用してバイナリモデル全体の実行を回避する。
  論文  参考訳（メタデータ） (2022-06-17T22:11:11Z)
• Accelerating Training and Inference of Graph Neural Networks with Fast Sampling and Pipelining [58.10436813430554]
  グラフニューラルネットワーク(GNN)のミニバッチトレーニングには、多くの計算とデータ移動が必要である。 我々は,分散マルチGPU環境において,近傍サンプリングを用いたミニバッチトレーニングを行うことを支持する。 本稿では,これらのボトルネックを緩和する一連の改良点について述べる。 また,サンプリングによる推論を支援する実験分析を行い,試験精度が実質的に損なわれていないことを示す。
  論文  参考訳（メタデータ） (2021-10-16T02:41:35Z)
• S2-BNN: Bridging the Gap Between Self-Supervised Real and 1-bit Neural Networks via Guided Distribution Calibration [74.5509794733707]
  本研究では, 実数値から, 最終予測分布上のバイナリネットワークへの誘導型学習パラダイムを提案する。 提案手法は,bnn上で5.515%の絶対利得で,単純なコントラスト学習ベースラインを向上できる。 提案手法は、単純なコントラスト学習ベースラインよりも大幅に改善され、多くの主流教師付きBNN手法に匹敵する。
  論文  参考訳（メタデータ） (2021-02-17T18:59:28Z)
• BaPipe: Exploration of Balanced Pipeline Parallelism for DNN Training [9.551339069298011]
  BaPipeは分散ディープラーニングのためのパイプライン並列化トレーニングフレームワークである。 パイプライン並列性トレーニングメソッドと分散トレーニングのためのバランスの取れたパーティション戦略を自動で探索する。 BaPipeは、様々なプラットフォームで最大3.2倍のスピードアップと4倍のメモリ削減を提供する。
  論文  参考訳（メタデータ） (2020-12-23T08:57:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。