論文の概要: Design and Analysis of Temporal Representations in Neural Networks

• arxiv url: http://arxiv.org/abs/2610.19730v1
• Date: Wed, 14 Oct 2026 07:51:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:16.023445
• Title: Design and Analysis of Temporal Representations in Neural Networks
• Title（参考訳）: ニューラルネットワークにおける時間表現の設計と解析
• Abstract要約: 時間的情報を表現する能力は、しばしば生物学的ニューラルネットワークの効率性と学習能力を過小評価する。 本稿では,その構成関数が時間を計算変数として明示的に操作するかどうかによって定義される,ニューラルネットワークの時間的表現の度合いの概念を紹介する。 イベントベースのデータセットの実験では、時間的表現の度合いの増大がパフォーマンスと計算効率の両方を改善することが示されている。
• 参考スコア（独自算出の注目度）: 46.109685128895784
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The ability to represent temporal information is often hypothesized to underlie the efficiency and learning capabilities of biological neural networks. This motivates the development of spiking neural networks. However, it remains unclear how temporal information is actually represented in neural networks and how different forms of temporal representation affect performance and computational efficiency. We introduce the notion of the degree of temporal representation of a neural network, defined by whether its constituent functions (activation, learning, encoding, and decoding) explicitly manipulate time as a computational variable. This perspective yields a continuum ranging from non-temporal representations, where time does not explicitly appear as a computational variable in the network functions, to fully temporal representations, where computations explicitly operate on temporal variables. Using a fixed deep architecture, we compare different encoding, activation mechanisms and decoding with increasing temporal expressiveness: non-temporal weighted-sum activations used in usual artificial neural networks, non-temporal binary spiking activations used in spiking neural networks, and spike-time-based activations used in delay neural networks. Experiments on event-based datasets show that increasing the degree of temporal representation improves both performance and computational efficiency, allowing state-of-the-art performances on the Google Speech Commands dataset. We further analyze how temporal representations induce distinct forward and backward computational trajectories, leading to gradients that depend explicitly on the history of event times.
• Abstract（参考訳）: 時間的情報を表現する能力は、しばしば生物学的ニューラルネットワークの効率性と学習能力を過小評価する。 これはスパイクニューラルネットワークの発展を動機付けている。 しかし、時間情報が実際にニューラルネットワークでどのように表現されるのか、時間的表現の異なる形態がパフォーマンスと計算効率にどのように影響するかは、まだ不明である。 本稿では,ニューラルネットワークの構成関数(動作,学習,符号化,復号化)が時間を計算変数として明示的に操作するかどうかによって定義される,時間的表現の度合いの概念を紹介する。 この観点では、時間がネットワーク関数の計算変数として明示的に現れない非時間的表現から、時間的変数に対して計算が明示的に動作する完全な時間的表現まで、連続体が生成される。 固定されたディープアーキテクチャを用いて、異なるエンコーディング、アクティベーション機構、デコードと時間的表現性の向上を比較する。通常の人工ニューラルネットワークで使用される非時間的重み付きサムアクティベーション、スパイクニューラルネットワークで使用される非時間的バイナリスパイクアクティベーション、遅延ニューラルネットワークで使用されるスパイク時間ベースのアクティベーションである。 イベントベースのデータセットの実験によると、時間的表現の度合いの増大はパフォーマンスと計算効率の両方を改善し、Google Speech Commandsデータセットの最先端のパフォーマンスを可能にする。 さらに、時間的表現が前向きと後向きの計算軌跡を区別し、イベント時間の歴史に比例した勾配をもたらすか分析する。

関連論文リスト

• DendroNN: Dendrocentric Neural Networks for Energy-Efficient Classification of Event-Based Data [3.753347944913447]
  イベントベースのニューラルネットワークは、多様な感覚処理と計算タスクを解決するために使用できる。 彼らは時間情報を高い精度で復号するのに苦労している。 彼らは一般的に、時間計算能力を高めるために、繰り返しや遅延を頼りにしている。 本研究では,デンドライトの枝に存在する配列検出機構に着目し,新しいタイプのニューラルネットワークに変換する。
  論文  参考訳（メタデータ） (2026-03-10T06:59:19Z)
• Unleashing Temporal Capacity of Spiking Neural Networks through Spatiotemporal Separation [67.69345363409835]
  スパイキングニューラルネットワーク(SNN)は、時間的処理に自然に適していると考えられており、膜電位の伝播は、コア時間的モデリングメカニズムとして広く見なされている。 我々は, 膜伝播を段階的に段階的に除去する非ステートフル(NS)モデルの設計を行った。
  論文  参考訳（メタデータ） (2025-12-05T07:05:53Z)
• Fractional Spike Differential Equations Neural Network with Efficient Adjoint Parameters Training [63.3991315762955]
  スパイキングニューラルネットワーク(SNN)は、生物学的ニューロンからインスピレーションを得て、脳に似た計算の現実的なモデルを作成する。 既存のほとんどのSNNは、マルコフ特性を持つ一階常微分方程式(ODE)によってモデル化された、神経細胞膜電圧ダイナミクスの単一時間定数を仮定している。 本研究では, 膜電圧およびスパイク列車の長期依存性を分数次力学により捉えるフラクタルSPIKE微分方程式ニューラルネットワーク (fspikeDE) を提案する。
  論文  参考訳（メタデータ） (2025-07-22T18:20:56Z)
• Temporal Spiking Neural Networks with Synaptic Delay for Graph Reasoning [91.29876772547348]
  スパイキングニューラルネットワーク(SNN)は、生物学的にインスパイアされたニューラルネットワークモデルとして研究されている。 本稿では,SNNがシナプス遅延と時間符号化とを併用すると,グラフ推論の実行(知識)に長けていることを明らかにする。
  論文  参考訳（メタデータ） (2024-05-27T05:53:30Z)
• The Disappearance of Timestep Embedding in Modern Time-Dependent Neural Networks [11.507779310946853]
  本稿では、時間依存ニューラルネットワークの時間認識を無効にする時間ステップ埋め込みの脆弱性を報告する。 我々の分析は、この現象の詳細な説明と、根本原因に対処するいくつかの解決策を提供する。
  論文  参考訳（メタデータ） (2024-05-23T02:58:23Z)
• Contrastive-Signal-Dependent Plasticity: Self-Supervised Learning in Spiking Neural Circuits [61.94533459151743]
  この研究は、スパイキングネットワークのシナプスを調整するための神経生物学的に動機づけられたスキームを設計することの課題に対処する。 我々の実験シミュレーションは、繰り返しスパイクネットワークを訓練する際、他の生物学的に証明可能なアプローチに対して一貫した優位性を示す。
  論文  参考訳（メタデータ） (2023-03-30T02:40:28Z)
• Impact of spiking neurons leakages and network recurrences on event-based spatio-temporal pattern recognition [0.0]
  ニューロモルフィックハードウェアとイベントベースのセンサーを組み合わせたスパイクニューラルネットワークは、エッジにおける低レイテンシと低パワー推論への関心が高まっている。 スパイキングニューロンにおけるシナプスおよび膜漏れの影響について検討する。
  論文  参考訳（メタデータ） (2022-11-14T21:34:02Z)
• Ensemble perspective for understanding temporal credit assignment [1.9843222704723809]
  繰り返しニューラルネットワークにおける各接続は、正確な重み値ではなく、スパイクとスラブの分布によってモデル化されていることを示す。 本モデルでは,ネットワーク全体の性能を決定する重要な接続を明らかにする。 したがって、再帰的なニューラルネットワークにおける時間的クレジット割り当てをアンサンブルの観点から研究することを約束している。
  論文  参考訳（メタデータ） (2021-02-07T08:14:05Z)
• Reservoir Memory Machines as Neural Computers [70.5993855765376]
  微分可能なニューラルネットワークは、干渉することなく明示的なメモリで人工ニューラルネットワークを拡張する。 我々は、非常に効率的に訓練できるモデルを用いて、微分可能なニューラルネットワークの計算能力を実現する。
  論文  参考訳（メタデータ） (2020-09-14T12:01:30Z)
• Multivariate Time Series Classification Using Spiking Neural Networks [7.273181759304122]
  スパイクニューラルネットワークは低消費電力を可能にするため注目されている。 本稿では,時系列をスパース時空間スパイクパターンに変換する符号化方式を提案する。 空間時間パターンを分類する学習アルゴリズムも提案する。
  論文  参考訳（メタデータ） (2020-07-07T15:24:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。