論文の概要: Fast Multi-Group Gaussian Process Factor Models

• arxiv url: http://arxiv.org/abs/2412.16773v1
• Date: Sat, 21 Dec 2024 21:00:15 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-24 15:53:05.976281
• Title: Fast Multi-Group Gaussian Process Factor Models
• Title（参考訳）: 高速多群ガウス過程因子モデル
• Authors: Evren Gokcen, Anna I. Jasper, Adam Kohn, Christian K. Machens, Byron M. Yu,
• Abstract要約: 我々は多群ガウス過程因子モデルに近似した2つのアプローチを提案する。 どちらの手法も、統計的性能に最小限の影響を伴って、桁違いのスピードアップを達成する。 この研究により、マルチポピュレーション記録の規模が大きくなるにつれて、強力な分析技術がペースを維持することができる。
• 参考スコア（独自算出の注目度）: 3.3030080038744947
• License:
• Abstract: Gaussian processes are now commonly used in dimensionality reduction approaches tailored to neuroscience, especially to describe changes in high-dimensional neural activity over time. As recording capabilities expand to include neuronal populations across multiple brain areas, cortical layers, and cell types, interest in extending Gaussian process factor models to characterize multi-population interactions has grown. However, the cubic runtime scaling of current methods with the length of experimental trials and the number of recorded populations (groups) precludes their application to large-scale multi-population recordings. Here, we improve this scaling from cubic to linear in both trial length and group number. We present two approximate approaches to fitting multi-group Gaussian process factor models based on (1) inducing variables and (2) the frequency domain. Empirically, both methods achieved orders of magnitude speed-up with minimal impact on statistical performance, in simulation and on neural recordings of hundreds of neurons across three brain areas. The frequency domain approach, in particular, consistently provided the greatest runtime benefits with the fewest trade-offs in statistical performance. We further characterize the estimation biases introduced by the frequency domain approach and demonstrate effective strategies to mitigate them. This work enables a powerful class of analysis techniques to keep pace with the growing scale of multi-population recordings, opening new avenues for exploring brain function.
• Abstract（参考訳）: ガウス過程は、特に時間とともに高次元の神経活動の変化を記述するために、神経科学に適した次元還元アプローチで一般的に用いられる。 記録能力が拡大して、複数の脳領域、皮質層、細胞タイプにわたる神経細胞の集団を含むようになるにつれ、多集団間相互作用を特徴づけるガウス過程因子モデルの拡張への関心が高まっている。 しかし、実験期間と記録された集団数(グループ数)による現行手法の立方体ランタイムスケーリングは、大規模なマルチポピュレーション記録への適用を妨げている。 ここでは、このスケーリングを、試行長さとグループ数の両方で立方体から線形に改善する。 本稿では,(1)誘導変数と(2)周波数領域に基づく多群ガウス過程因子モデルへの近似的アプローチを提案する。 実験的に、両方の手法は3つの脳領域にわたる数百のニューロンの神経記録やシミュレーションにおいて、統計的パフォーマンスに最小限の影響を伴って、桁違いのスピードアップを達成した。 特に周波数領域のアプローチは、統計性能において最も少ないトレードオフで、一貫して最大のランタイムの利点を提供しました。 さらに、周波数領域アプローチによって導入された推定バイアスを特徴付け、それらを緩和するための効果的な戦略を示す。 この研究により、強力な分析技術によって、多集団記録の規模が大きくなるにつれてペースを保ち、脳機能を探究するための新たな道を開くことができる。

関連論文リスト

• Confidence Regulation Neurons in Language Models [91.90337752432075]
  本研究では,大規模言語モデルが次世代の予測において不確実性を表現・規制するメカニズムについて検討する。 エントロピーニューロンは異常に高い重量ノルムを特徴とし、最終層正規化(LayerNorm)スケールに影響を与え、ロジットを効果的にスケールダウンさせる。 ここで初めて説明するトークン周波数ニューロンは、各トークンのログをそのログ周波数に比例して増加または抑制することで、出力分布をユニグラム分布から遠ざかる。
  論文  参考訳（メタデータ） (2024-06-24T01:31:03Z)
• Multilayer Multiset Neuronal Networks -- MMNNs [55.2480439325792]
  本研究は,2層以上の類似性ニューロンを組み込んだ多層神経回路網について述べる。 また,回避すべき画像領域に割り当てられる反プロトタイプ点の利用についても検討した。
  論文  参考訳（メタデータ） (2023-08-28T12:55:13Z)
• The Expressive Leaky Memory Neuron: an Efficient and Expressive Phenomenological Neuron Model Can Solve Long-Horizon Tasks [64.08042492426992]
  本稿では,脳皮質ニューロンの生物学的モデルであるExpressive Memory(ELM)ニューロンモデルを紹介する。 ELMニューロンは、上記の入力-出力関係を1万以下のトレーニング可能なパラメータと正確に一致させることができる。 本稿では,Long Range Arena(LRA)データセットなど,時間構造を必要とするタスクで評価する。
  論文  参考訳（メタデータ） (2023-06-14T13:34:13Z)
• Understanding Neural Coding on Latent Manifolds by Sharing Features and Dividing Ensembles [3.625425081454343]
  システム神経科学は、単一ニューロンのチューニング曲線と集団活動の分析を特徴とする2つの相補的な神経データ観に依存している。 これらの2つの視点は、潜伏変数とニューラルアクティビティの関係を制約するニューラル潜伏変数モデルにおいてエレガントに結合する。 ニューラルチューニング曲線にまたがる機能共有を提案し、性能を大幅に改善し、より良い最適化を実現する。
  論文  参考訳（メタデータ） (2022-10-06T18:37:49Z)
• Integrating Statistical and Machine Learning Approaches to Identify Receptive Field Structure in Neural Populations [1.0312968200748118]
  統計的モデリングと機械学習を組み合わせた統合フレームワークを開発し、大集団のニューロンの符号化特性を同定する。 この枠組みを実証するために, ラット海馬から記録されたニューロンの個体群からのデータにこれらの手法を適用した。
  論文  参考訳（メタデータ） (2022-07-25T16:39:09Z)
• Overcoming the Domain Gap in Contrastive Learning of Neural Action Representations [60.47807856873544]
  神経科学の基本的な目標は、神経活動と行動の関係を理解することである。 我々は,ハエが自然に生み出す行動からなる新しいマルチモーダルデータセットを作成した。 このデータセットと新しい拡張セットは、神経科学における自己教師あり学習手法の適用を加速することを約束します。
  論文  参考訳（メタデータ） (2021-11-29T15:27:51Z)
• Dynamic Neural Diversification: Path to Computationally Sustainable Neural Networks [68.8204255655161]
  訓練可能なパラメータが制限された小さなニューラルネットワークは、多くの単純なタスクに対してリソース効率の高い候補となる。 学習過程において隠れた層内のニューロンの多様性を探索する。 ニューロンの多様性がモデルの予測にどのように影響するかを分析する。
  論文  参考訳（メタデータ） (2021-09-20T15:12:16Z)
• Bubblewrap: Online tiling and real-time flow prediction on neural manifolds [2.624902795082451]
  本稿では, 高速で安定な次元減少と, 結果のニューラル多様体のソフトタイリングを結合する手法を提案する。 得られたモデルはキロヘルツのデータレートでトレーニングでき、数分で神経力学の正確な近似を生成し、ミリ秒以下の時間スケールで予測を生成する。
  論文  参考訳（メタデータ） (2021-08-31T16:01:45Z)
• And/or trade-off in artificial neurons: impact on adversarial robustness [91.3755431537592]
  ネットワークに十分な数のOR様ニューロンが存在すると、分類の脆さと敵の攻撃に対する脆弱性が増加する。 そこで我々は,AND様ニューロンを定義し,ネットワーク内での割合を増大させる対策を提案する。 MNISTデータセットによる実験結果から,本手法はさらなる探索の方向として有望であることが示唆された。
  論文  参考訳（メタデータ） (2021-02-15T08:19:05Z)
• Building population models for large-scale neural recordings: opportunities and pitfalls [5.218882272051637]
  この分野の最近の展開について概観する。 異なるアプローチを比較し、対比し、強みと限界を強調し、生物学的および機械的な洞察について議論する。 まだ活発な開発領域だが、大規模なニューラル記録を解釈する強力なモデルはすでにいくつもある。
  論文  参考訳（メタデータ） (2021-02-03T00:06:49Z)
• Unifying and generalizing models of neural dynamics during decision-making [27.46508483610472]
  本稿では,意思決定作業中の神経活動モデリングのための統一フレームワークを提案する。 このフレームワークは標準ドリフト拡散モデルを含み、多次元アキュミュレータ、可変および崩壊境界、離散ジャンプなどの拡張を可能にする。
  論文  参考訳（メタデータ） (2020-01-13T23:57:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。