論文の概要: Transient Dynamics in Lattices of Differentiating Ring Oscillators

• arxiv url: http://arxiv.org/abs/2506.07253v1
• Date: Sun, 08 Jun 2025 18:29:15 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-10 16:33:10.735362
• Title: Transient Dynamics in Lattices of Differentiating Ring Oscillators
• Title（参考訳）: 微分リング振動子の格子の過渡ダイナミクス
• Authors: Peter DelMastro, Arjun Karuvally, Hananel Hazan, Hava Siegelmann, Edward Rietman,
• Abstract要約: リカレントニューラルネットワーク(Recurrent Neural Network, RNN)は、時間的関係の学習に広く用いられている機械学習モデルである。 数値シミュレーションにより、異なるニューロン環の大きな格子が局所的な神経同期挙動を示すことを示す。
• 参考スコア（独自算出の注目度）: 0.34952465649465553
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recurrent neural networks (RNNs) are machine learning models widely used for learning temporal relationships. Current state-of-the-art RNNs use integrating or spiking neurons -- two classes of computing units whose outputs depend directly on their internal states -- and accordingly there is a wealth of literature characterizing the behavior of large networks built from these neurons. On the other hand, past research on differentiating neurons, whose outputs are computed from the derivatives of their internal states, remains limited to small hand-designed networks with fewer than one-hundred neurons. Here we show via numerical simulation that large lattices of differentiating neuron rings exhibit local neural synchronization behavior found in the Kuramoto model of interacting oscillators. We begin by characterizing the periodic orbits of uncoupled rings, herein called ring oscillators. We then show the emergence of local correlations between oscillators that grow over time when these rings are coupled together into lattices. As the correlation length grows, transient dynamics arise in which large regions of the lattice settle to the same periodic orbit, and thin domain boundaries separate adjacent, out-of-phase regions. The steady-state scale of these correlated regions depends on how the neurons are shared between adjacent rings, which suggests that lattices of differentiating ring oscillator might be tuned to be used as reservoir computers. Coupled with their simple circuit design and potential for low-power consumption, differentiating neural nets therefore represent a promising substrate for neuromorphic computing that will enable low-power AI applications.
• Abstract（参考訳）: リカレントニューラルネットワーク(Recurrent Neural Network, RNN)は、時間的関係の学習に広く用いられている機械学習モデルである。 現在の最先端のRNNは、統合またはスパイクニューロン(内部状態に直接依存する2種類の計算ユニット)を使用し、その結果、これらのニューロンから構築された大きなネットワークの振る舞いを特徴づける文献が豊富にある。 一方、内部状態の微分から出力が計算される分化ニューロンに関する過去の研究は、1つ未満のニューロンを持つ小さなハンドデザインネットワークに限られている。 ここでは, 相互作用する振動子の倉本モデルにおいて, 異なるニューロン環の格子が局所的な神経同期挙動を示すことを数値シミュレーションにより示す。 環振動子と呼ばれる非結合環の周期軌道を特徴付けることから始める。 次に、これらのリングが格子に結合されたときに時間とともに成長する発振器間の局所的相関の出現を示す。 相関長が大きくなるにつれて、格子の大きな領域が同じ周期軌道に落ち着き、薄い領域境界が隣り合う相外領域を分離する過渡的ダイナミクスが生じる。 これらの相関領域の定常スケールは、ニューロンが隣り合うリング間でどのように共有されるかに依存しており、これは、異なるリング発振器の格子が貯水池コンピュータとして使用されるように調整されることを示唆している。 単純な回路設計と低消費電力化の可能性と組み合わさって、ニューラルネットワークの差別化は、低消費電力AIアプリケーションを可能にするニューロモルフィックコンピューティングの有望な基盤となる。

関連論文リスト

• Allostatic Control of Persistent States in Spiking Neural Networks for perception and computation [79.16635054977068]
  本稿では,アロスタシスの概念を内部表現の制御に拡張することにより,環境に対する知覚的信念を更新するための新しいモデルを提案する。 本稿では,アトラクタネットワークにおける活動の急増を空間的数値表現として利用する数値認識の応用に焦点を当てる。
  論文  参考訳（メタデータ） (2025-03-20T12:28:08Z)
• Confidence Regulation Neurons in Language Models [91.90337752432075]
  本研究では,大規模言語モデルが次世代の予測において不確実性を表現・規制するメカニズムについて検討する。 エントロピーニューロンは異常に高い重量ノルムを特徴とし、最終層正規化(LayerNorm)スケールに影響を与え、ロジットを効果的にスケールダウンさせる。 ここで初めて説明するトークン周波数ニューロンは、各トークンのログをそのログ周波数に比例して増加または抑制することで、出力分布をユニグラム分布から遠ざかる。
  論文  参考訳（メタデータ） (2024-06-24T01:31:03Z)
• Astrocytes as a mechanism for meta-plasticity and contextually-guided network function [2.66269503676104]
  アストロサイトは、ユビキタスでエニグマティックな非神経細胞である。 アストロサイトは脳機能や神経計算においてより直接的で活発な役割を果たす。
  論文  参考訳（メタデータ） (2023-11-06T20:31:01Z)
• The Expressive Leaky Memory Neuron: an Efficient and Expressive Phenomenological Neuron Model Can Solve Long-Horizon Tasks [64.08042492426992]
  本稿では,脳皮質ニューロンの生物学的モデルであるExpressive Memory(ELM)ニューロンモデルを紹介する。 ELMニューロンは、上記の入力-出力関係を1万以下のトレーニング可能なパラメータと正確に一致させることができる。 本稿では,Long Range Arena(LRA)データセットなど,時間構造を必要とするタスクで評価する。
  論文  参考訳（メタデータ） (2023-06-14T13:34:13Z)
• Equivalence of Additive and Multiplicative Coupling in Spiking Neural Networks [0.0]
  スパイキングニューラルネットワークモデルは、生物学的ニューロンの回路の創発的集団力学を特徴付ける。 加法結合を持つスパイクニューラルネットワークモデルは乗法結合を持つモデルと等価であることを示す。
  論文  参考訳（メタデータ） (2023-03-31T20:19:11Z)
• Limits of Entrainment of Circadian Neuronal Networks [0.0]
  概日リズムは哺乳類の様々な重要な生理的・行動的過程の中心にある。 本研究では,周波数・義務周期の異なる外部光信号に対する概日同期の限界を決定するために,現代の計算神経科学モデルについて検討する。
  論文  参考訳（メタデータ） (2022-08-23T17:57:21Z)
• Cross-Frequency Coupling Increases Memory Capacity in Oscillatory Neural Networks [69.42260428921436]
  クロス周波数カップリング(CFC)は、ニューロンの集団間での情報統合と関連している。 我々は,海馬および大脳皮質における観測された$theta - gamma$振動回路の計算的役割を予測するCFCのモデルを構築した。 CFCの存在は, 可塑性シナプスによって結合された神経細胞のメモリ容量を増加させることを示す。
  論文  参考訳（メタデータ） (2022-04-05T17:13:36Z)
• Spatiotemporal Spike-Pattern Selectivity in Single Mixed-Signal Neurons with Balanced Synapses [0.27998963147546135]
  混合信号ニューロモルフィックプロセッサは推論と学習に使用できる。 ネットワーク層の実装に不均一なシナプス回路をいかに利用できるかを示す。
  論文  参考訳（メタデータ） (2021-06-10T12:04:03Z)
• Continuous Learning and Adaptation with Membrane Potential and Activation Threshold Homeostasis [91.3755431537592]
  本稿では,MPATH(Membrane Potential and Activation Threshold Homeostasis)ニューロンモデルを提案する。 このモデルにより、ニューロンは入力が提示されたときに自動的に活性を調節することで動的平衡の形式を維持することができる。 実験は、モデルがその入力から適応し、継続的に学習する能力を示す。
  論文  参考訳（メタデータ） (2021-04-22T04:01:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。