Fugu-MT 論文翻訳(概要): STNDT: Modeling Neural Population Activity with a Spatiotemporal Transformer

論文の概要: STNDT: Modeling Neural Population Activity with a Spatiotemporal Transformer

arxiv url: http://arxiv.org/abs/2206.04727v1
Date: Thu, 9 Jun 2022 18:54:23 GMT
ステータス: 処理完了
システム内更新日: 2022-06-13 14:53:22.190836
Title: STNDT: Modeling Neural Population Activity with a Spatiotemporal Transformer
Title（参考訳）: stndt:時空間トランスフォーマによる神経集団活動のモデル化
Authors: Trung Le and Eli Shlizerman
Abstract要約: 我々は、個々のニューロンの応答を明示的にモデル化するNDTベースのアーキテクチャであるSpatioTemporal Neural Data Transformer (STNDT)を紹介する。本モデルは,4つのニューラルデータセット間での神経活動の推定において,アンサンブルレベルでの最先端性能を実現することを示す。
参考スコア（独自算出の注目度）: 19.329190789275565
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Modeling neural population dynamics underlying noisy single-trial spiking activities is essential for relating neural observation and behavior. A recent non-recurrent method - Neural Data Transformers (NDT) - has shown great success in capturing neural dynamics with low inference latency without an explicit dynamical model. However, NDT focuses on modeling the temporal evolution of the population activity while neglecting the rich covariation between individual neurons. In this paper we introduce SpatioTemporal Neural Data Transformer (STNDT), an NDT-based architecture that explicitly models responses of individual neurons in the population across time and space to uncover their underlying firing rates. In addition, we propose a contrastive learning loss that works in accordance with mask modeling objective to further improve the predictive performance. We show that our model achieves state-of-the-art performance on ensemble level in estimating neural activities across four neural datasets, demonstrating its capability to capture autonomous and non-autonomous dynamics spanning different cortical regions while being completely agnostic to the specific behaviors at hand. Furthermore, STNDT spatial attention mechanism reveals consistently important subsets of neurons that play a vital role in driving the response of the entire population, providing interpretability and key insights into how the population of neurons performs computation.
Abstract（参考訳）: 雑音下での単房スパイク活動に基づく神経集団動態のモデル化は、神経の観察と行動に必要不可欠である。最近の非リカレント手法であるNeural Data Transformers (NDT)は、明示的な動的モデルなしで低推論レイテンシでニューラルダイナミクスをキャプチャすることに成功した。しかし、NDTは個々のニューロン間の豊富な共変を無視しながら、集団活動の時間的進化をモデル化することに焦点を当てている。本稿では,時間と空間にまたがる個体群内の個々のニューロンの応答を明示的にモデル化し,その基礎となる発火率を明らかにするndtベースのアーキテクチャであるstndtを提案する。さらに,予測性能を向上させるために,マスクモデリングの目的に応じて機能する対照的な学習損失を提案する。本モデルは, 4つのニューラルデータセット間での神経活動の推定において, アンサンブルレベルでの最先端性能を実現し, 異なる皮質領域にまたがる自律的および非自律的ダイナミクスを, 手前の行動に完全に依存しながら捉える能力を示す。さらに、stndt空間的注意機構は、集団全体の応答を駆動する重要な役割を果たすニューロンの一貫した重要なサブセットを明らかにし、ニューロンの集団がどのように計算を行うかに関する解釈可能性と重要な洞察を提供する。

関連論文リスト

Single-neuron deep generative model uncovers underlying physics of neuronal activity in Ca imaging data [0.0]
自己回帰変分オートエンコーダ(AVAE)を用いた単一ニューロン表現学習のための新しいフレームワークを提案する。我々のアプローチでは、スパイク推論アルゴリズムを必要とせずに、個々のニューロンの信号を縮小次元空間に埋め込む。 AVAEは、より情報的で差別的な潜在表現を生成することによって、従来の線形手法よりも優れている。
論文参考訳（メタデータ） (2025-01-24T16:33:52Z)
QuantFormer: Learning to Quantize for Neural Activity Forecasting in Mouse Visual Cortex [26.499583552980248]
QuantFormerは、2光子カルシウムイメージングデータから神経活動を予測するために特別に設計されたトランスフォーマーベースのモデルである。 QuantFormerは、マウス視覚野の活動を予測する新しいベンチマークを設定している。様々な刺激や個人に対して、堅牢なパフォーマンスと一般化を示す。
論文参考訳（メタデータ） (2024-12-10T07:44:35Z)
Exploring Behavior-Relevant and Disentangled Neural Dynamics with Generative Diffusion Models [2.600709013150986]
行動の神経基盤を理解することは神経科学の基本的な目標である。私たちのアプローチは、BeNeDiff'と呼ばれるもので、まずきめ細やかな神経部分空間を識別します。次に、最先端の生成拡散モデルを使用して、各潜伏因子の神経力学を解釈する行動ビデオを合成する。
論文参考訳（メタデータ） (2024-10-12T18:28:56Z)
BLEND: Behavior-guided Neural Population Dynamics Modeling via Privileged Knowledge Distillation [6.3559178227943764]
本稿では,特権的知識蒸留による行動誘導型ニューラル人口動態モデリングフレームワークBLENDを提案する。特権情報として行動を考えることにより、行動観察(私的特徴)と神経活動(正規特徴)の両方を入力として扱う教師モデルを訓練する。学生モデルは神経活動のみを用いて蒸留される。
論文参考訳（メタデータ） (2024-10-02T12:45:59Z)
The Expressive Leaky Memory Neuron: an Efficient and Expressive Phenomenological Neuron Model Can Solve Long-Horizon Tasks [64.08042492426992]
本稿では,脳皮質ニューロンの生物学的モデルであるExpressive Memory(ELM)ニューロンモデルを紹介する。 ELMニューロンは、上記の入力-出力関係を1万以下のトレーニング可能なパラメータと正確に一致させることができる。本稿では,Long Range Arena(LRA)データセットなど,時間構造を必要とするタスクで評価する。
論文参考訳（メタデータ） (2023-06-14T13:34:13Z)
EINNs: Epidemiologically-Informed Neural Networks [75.34199997857341]
本稿では,疫病予測のための新しい物理インフォームドニューラルネットワークEINNを紹介する。メカニスティックモデルによって提供される理論的柔軟性と、AIモデルによって提供されるデータ駆動表現性の両方を活用する方法について検討する。
論文参考訳（メタデータ） (2022-02-21T18:59:03Z)
Overcoming the Domain Gap in Contrastive Learning of Neural Action Representations [60.47807856873544]
神経科学の基本的な目標は、神経活動と行動の関係を理解することである。我々は,ハエが自然に生み出す行動からなる新しいマルチモーダルデータセットを作成した。このデータセットと新しい拡張セットは、神経科学における自己教師あり学習手法の適用を加速することを約束します。
論文参考訳（メタデータ） (2021-11-29T15:27:51Z)
Deep inference of latent dynamics with spatio-temporal super-resolution using selective backpropagation through time [15.648009434801885]
現代の神経インタフェースは、脳回路内の100万のニューロンの活動をアクセスすることができる。帯域幅制限はしばしば、より大きな空間サンプリング(より多くのチャンネルやピクセル)と時間サンプリングの頻度の間のトレードオフを生み出す。ここでは、ニューロン間の関係を利用して、ニューロン時系列における超解像を得ることが可能であることを実証する。
論文参考訳（メタデータ） (2021-10-29T20:18:29Z)
Continuous Learning and Adaptation with Membrane Potential and Activation Threshold Homeostasis [91.3755431537592]
本稿では,MPATH(Membrane Potential and Activation Threshold Homeostasis)ニューロンモデルを提案する。このモデルにより、ニューロンは入力が提示されたときに自動的に活性を調節することで動的平衡の形式を維持することができる。実験は、モデルがその入力から適応し、継続的に学習する能力を示す。
論文参考訳（メタデータ） (2021-04-22T04:01:32Z)
The Neural Coding Framework for Learning Generative Models [91.0357317238509]
本稿では,脳の予測処理理論に触発された新しい神経生成モデルを提案する。同様に、私たちの生成モデルにおける人工ニューロンは、隣接するニューロンが何をするかを予測し、予測が現実にどの程度一致するかに基づいてパラメータを調整します。
論文参考訳（メタデータ） (2020-12-07T01:20:38Z)
Recurrent Neural Network Learning of Performance and Intrinsic Population Dynamics from Sparse Neural Data [77.92736596690297]
本稿では,RNNの入出力動作だけでなく,内部ネットワークのダイナミクスも学習できる新しいトレーニング戦略を提案する。提案手法は、RNNを訓練し、生理学的にインスパイアされた神経モデルの内部ダイナミクスと出力信号を同時に再現する。注目すべきは、トレーニングアルゴリズムがニューロンの小さなサブセットの活性に依存する場合であっても、内部動力学の再現が成功することである。
論文参考訳（メタデータ） (2020-05-05T14:16:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。