論文の概要: OmniMouse: Scaling properties of multi-modal, multi-task Brain Models on 150B Neural Tokens
- arxiv url: http://arxiv.org/abs/2604.18827v1
- Date: Mon, 20 Apr 2026 20:46:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-22 22:41:49.481633
- Title: OmniMouse: Scaling properties of multi-modal, multi-task Brain Models on 150B Neural Tokens
- Title(参考訳): OmniMouse:150Bニューラルトークン上のマルチモーダル・マルチタスク脳モデルのスケーリング特性
- Authors: Konstantin F. Willeke, Polina Turishcheva, Alex Gilbert, Goirik Chakrabarty, Hasan A. Bedel, Paul G. Fahey, Yongrong Qiu, Marissa A. Weis, Michaela Vystrčilová, Taliah Muhammad, Lydia Ntanavara, Rachel E. Froebe, Kayla Ponder, Zheng Huan Tan, Emin Orhan, Erick Cobos, Sophia Sanborn, Katrin Franke, Fabian H. Sinz, Alexander S. Ecker, Andreas S. Tolias,
- Abstract要約: 323回のセッションで73マウスの視覚野から3100万のニューロンのデータセットを活用しました。
テスト時に柔軟に3つのレジームをサポートするマルチモーダル・マルチタスクモデルを訓練する。
パフォーマンスはより多くのデータで確実にスケールするが、モデルのサイズが飽和することで向上する。
- 参考スコア(独自算出の注目度): 35.826938978781946
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Scaling data and artificial neural networks has transformed AI, driving breakthroughs in language and vision. Whether similar principles apply to modeling brain activity remains unclear. Here we leveraged a dataset of 3.1 million neurons from the visual cortex of 73 mice across 323 sessions, totaling more than 150 billion neural tokens recorded during natural movies, images and parametric stimuli, and behavior. We train multi-modal, multi-task models that support three regimes flexibly at test time: neural prediction, behavioral decoding, neural forecasting, or any combination of the three. OmniMouse achieves state-of-the-art performance, outperforming specialized baselines across nearly all evaluation regimes. We find that performance scales reliably with more data, but gains from increasing model size saturate. This inverts the standard AI scaling story: in language and computer vision, massive datasets make parameter scaling the primary driver of progress, whereas in brain modeling -- even in the mouse visual cortex, a relatively simple system -- models remain data-limited despite vast recordings. The observation of systematic scaling raises the possibility of phase transitions in neural modeling, where larger and richer datasets might unlock qualitatively new capabilities, paralleling the emergent properties seen in large language models. Code available at https://github.com/enigma-brain/omnimouse.
- Abstract(参考訳): データと人工ニューラルネットワークのスケーリングはAIを変革し、言語とビジョンのブレークスルーを加速させた。
同様の原理が脳活動のモデル化に適用されるかどうかは不明だ。
ここでは、323のセッションで73マウスの視覚野から3100万のニューロンのデータセットを利用し、自然映画、画像、パラメトリック刺激、行動で記録された150億以上の神経トークンを合計した。
我々は、ニューラル予測、行動復号化、ニューラル予測、またはこれら3つの組み合わせを柔軟にサポートするマルチモーダルマルチタスクモデルを訓練する。
OmniMouseは最先端のパフォーマンスを達成し、ほぼすべての評価基準で特別なベースラインを上回ります。
パフォーマンスはより多くのデータで確実にスケールするが、モデルのサイズが飽和することで向上する。
言語とコンピュータビジョンでは、大量のデータセットがパラメータのスケーリングを進行の主要因としていますが、マウスの視覚野(比較的単純なシステム)でも、脳のモデリングは膨大な記録にもかかわらず、データ制限が保たれています。
体系的なスケーリングの観察は、大規模でリッチなデータセットが定性的に新しい能力を解き放ち、大きな言語モデルに見られる創発的特性を並列化するニューラルネットワークにおける相転移の可能性を高める。
コードはhttps://github.com/enigma-brain/omnimouse.comで公開されている。
関連論文リスト
- Neural Encoding and Decoding at Scale [42.33285735011587]
NEDS(Neural and Decoding at Scale)を実現するマルチモーダルマルチタスクモデルを提案する。
私たちのアプローチの中心は、神経、行動、内部モダリティ、および相互モダリティマスキングを交互に交互に行う、新しいマルチタスクマスキング戦略です。
NEDSは、複数動物データに基づいて事前訓練された後、新しい動物に微調整された際に、符号化と復号の両方の最先端のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2025-04-11T02:06:20Z) - Neuroformer: Multimodal and Multitask Generative Pretraining for Brain Data [3.46029409929709]
最先端のシステム神経科学実験は大規模なマルチモーダルデータを生み出し、これらのデータセットは分析のための新しいツールを必要とする。
視覚領域と言語領域における大きな事前学習モデルの成功に触発されて、我々は大規模な細胞分解性神経スパイクデータの解析を自己回帰生成問題に再構成した。
我々はまず、シミュレーションデータセットでNeuroformerを訓練し、本質的なシミュレートされた神経回路の動作を正確に予測し、方向を含む基盤となる神経回路の接続性を推定した。
論文 参考訳(メタデータ) (2023-10-31T20:17:32Z) - Cross-Model Comparative Loss for Enhancing Neuronal Utility in Language
Understanding [82.46024259137823]
幅広いタスクに対するクロスモデル比較損失を提案する。
3つの異なるNLUタスクから14のデータセットに対する広範な実験により比較損失の普遍的有効性を示す。
論文 参考訳(メタデータ) (2023-01-10T03:04:27Z) - Overcoming the Domain Gap in Neural Action Representations [60.47807856873544]
3Dポーズデータは、手動で介入することなく、マルチビュービデオシーケンスから確実に抽出できる。
本稿では,ニューラルアクション表現の符号化を,ニューラルアクションと行動拡張のセットと共に導くために使用することを提案する。
ドメインギャップを減らすために、トレーニングの間、同様の行動をしているように見える動物間で神経と行動のデータを取り替える。
論文 参考訳(メタデータ) (2021-12-02T12:45:46Z) - The Neural Coding Framework for Learning Generative Models [91.0357317238509]
本稿では,脳の予測処理理論に触発された新しい神経生成モデルを提案する。
同様に、私たちの生成モデルにおける人工ニューロンは、隣接するニューロンが何をするかを予測し、予測が現実にどの程度一致するかに基づいてパラメータを調整します。
論文 参考訳(メタデータ) (2020-12-07T01:20:38Z) - Non-linear Neurons with Human-like Apical Dendrite Activations [81.18416067005538]
XOR論理関数を100%精度で学習し, 標準的なニューロンに後続のアピーカルデンドライト活性化(ADA)が認められた。
コンピュータビジョン,信号処理,自然言語処理の6つのベンチマークデータセットについて実験を行った。
論文 参考訳(メタデータ) (2020-02-02T21:09:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。