論文の概要: OmniMouse: Scaling properties of multi-modal, multi-task Brain Models on 150B Neural Tokens

• arxiv url: http://arxiv.org/abs/2604.18827v1
• Date: Mon, 20 Apr 2026 20:46:46 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-22 22:41:49.481633
• Title: OmniMouse: Scaling properties of multi-modal, multi-task Brain Models on 150B Neural Tokens
• Title（参考訳）: OmniMouse:150Bニューラルトークン上のマルチモーダル・マルチタスク脳モデルのスケーリング特性
• Abstract要約: 323回のセッションで73マウスの視覚野から3100万のニューロンのデータセットを活用しました。 テスト時に柔軟に3つのレジームをサポートするマルチモーダル・マルチタスクモデルを訓練する。 パフォーマンスはより多くのデータで確実にスケールするが、モデルのサイズが飽和することで向上する。
• 参考スコア（独自算出の注目度）: 35.826938978781946
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Scaling data and artificial neural networks has transformed AI, driving breakthroughs in language and vision. Whether similar principles apply to modeling brain activity remains unclear. Here we leveraged a dataset of 3.1 million neurons from the visual cortex of 73 mice across 323 sessions, totaling more than 150 billion neural tokens recorded during natural movies, images and parametric stimuli, and behavior. We train multi-modal, multi-task models that support three regimes flexibly at test time: neural prediction, behavioral decoding, neural forecasting, or any combination of the three. OmniMouse achieves state-of-the-art performance, outperforming specialized baselines across nearly all evaluation regimes. We find that performance scales reliably with more data, but gains from increasing model size saturate. This inverts the standard AI scaling story: in language and computer vision, massive datasets make parameter scaling the primary driver of progress, whereas in brain modeling -- even in the mouse visual cortex, a relatively simple system -- models remain data-limited despite vast recordings. The observation of systematic scaling raises the possibility of phase transitions in neural modeling, where larger and richer datasets might unlock qualitatively new capabilities, paralleling the emergent properties seen in large language models. Code available at https://github.com/enigma-brain/omnimouse.
• Abstract（参考訳）: データと人工ニューラルネットワークのスケーリングはAIを変革し、言語とビジョンのブレークスルーを加速させた。 同様の原理が脳活動のモデル化に適用されるかどうかは不明だ。 ここでは、323のセッションで73マウスの視覚野から3100万のニューロンのデータセットを利用し、自然映画、画像、パラメトリック刺激、行動で記録された150億以上の神経トークンを合計した。 我々は、ニューラル予測、行動復号化、ニューラル予測、またはこれら3つの組み合わせを柔軟にサポートするマルチモーダルマルチタスクモデルを訓練する。 OmniMouseは最先端のパフォーマンスを達成し、ほぼすべての評価基準で特別なベースラインを上回ります。 パフォーマンスはより多くのデータで確実にスケールするが、モデルのサイズが飽和することで向上する。 言語とコンピュータビジョンでは、大量のデータセットがパラメータのスケーリングを進行の主要因としていますが、マウスの視覚野(比較的単純なシステム)でも、脳のモデリングは膨大な記録にもかかわらず、データ制限が保たれています。 体系的なスケーリングの観察は、大規模でリッチなデータセットが定性的に新しい能力を解き放ち、大きな言語モデルに見られる創発的特性を並列化するニューラルネットワークにおける相転移の可能性を高める。 コードはhttps://github.com/enigma-brain/omnimouse.comで公開されている。

関連論文リスト

• Tiny Brains, Giant Impact: Uncovering the Keystone Neurons of LLM with Just a Few Prompts [57.98275914877019]
  広い範囲のオープンウェイトトランスフォーマーにおいて、ニューロンのサブセットは、複数の能力次元のタスクをまたいだ推論において、常に高度に活性化されることが示される。 クロスタスク活性化強度に沿って探索することにより、非常にスパースなサブセットが分離され、その除去はモデル挙動の崩壊を引き起こす。 解析の結果,キーストーンニューロンは,前訓練中にほぼ確立されたモデルの安定で内在的なニューロンサブセットであることが明らかとなった。
  論文  参考訳（メタデータ） (2026-05-24T03:31:07Z)
• Neural Encoding and Decoding at Scale [42.33285735011587]
  NEDS(Neural and Decoding at Scale)を実現するマルチモーダルマルチタスクモデルを提案する。 私たちのアプローチの中心は、神経、行動、内部モダリティ、および相互モダリティマスキングを交互に交互に行う、新しいマルチタスクマスキング戦略です。 NEDSは、複数動物データに基づいて事前訓練された後、新しい動物に微調整された際に、符号化と復号の両方の最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2025-04-11T02:06:20Z)
• TokenUnify: Scaling Up Autoregressive Pretraining for Neuron Segmentation [65.65530016765615]
  本稿では,3つの相補的な学習目標を通じて,大規模依存関係をキャプチャする階層型予測コーディングフレームワークを提案する。 TokenUnifyは、ランダムトークン予測、次のトークン予測、およびすべてのトークン予測を統合して、包括的な表現空間を作成する。 また,120億個の注釈付きボクセルを付加した大規模EMデータセットを導入し,空間連続性を持つ理想的な長周期視覚データを提供する。
  論文  参考訳（メタデータ） (2024-05-27T05:45:51Z)
• Neuroformer: Multimodal and Multitask Generative Pretraining for Brain Data [3.46029409929709]
  最先端のシステム神経科学実験は大規模なマルチモーダルデータを生み出し、これらのデータセットは分析のための新しいツールを必要とする。 視覚領域と言語領域における大きな事前学習モデルの成功に触発されて、我々は大規模な細胞分解性神経スパイクデータの解析を自己回帰生成問題に再構成した。 我々はまず、シミュレーションデータセットでNeuroformerを訓練し、本質的なシミュレートされた神経回路の動作を正確に予測し、方向を含む基盤となる神経回路の接続性を推定した。
  論文  参考訳（メタデータ） (2023-10-31T20:17:32Z)
• A Unified, Scalable Framework for Neural Population Decoding [12.052847252465826]
  神経活動の集団動態をモデル化するためのトレーニングフレームワークとアーキテクチャを導入する。 我々は,ヒト以外の霊長類7種の大規模データセットに基づいて訓練された大規模マルチセッションモデルを構築した。
  論文  参考訳（メタデータ） (2023-10-24T17:58:26Z)
• Neuron to Graph: Interpreting Language Model Neurons at Scale [8.32093320910416]
  本稿では,大規模言語モデル内の多数のニューロンにまたがる解釈可能性手法のスケールアップを目的とした,新しい自動化手法を提案する。 我々は、トレーニングしたデータセットからニューロンの振る舞いを自動的に抽出し、解釈可能なグラフに変換する革新的なツールであるNeuron to Graph(N2G)を提案する。
  論文  参考訳（メタデータ） (2023-05-31T14:44:33Z)
• Cross-Model Comparative Loss for Enhancing Neuronal Utility in Language Understanding [82.46024259137823]
  幅広いタスクに対するクロスモデル比較損失を提案する。 3つの異なるNLUタスクから14のデータセットに対する広範な実験により比較損失の普遍的有効性を示す。
  論文  参考訳（メタデータ） (2023-01-10T03:04:27Z)
• Overcoming the Domain Gap in Neural Action Representations [60.47807856873544]
  3Dポーズデータは、手動で介入することなく、マルチビュービデオシーケンスから確実に抽出できる。 本稿では,ニューラルアクション表現の符号化を,ニューラルアクションと行動拡張のセットと共に導くために使用することを提案する。 ドメインギャップを減らすために、トレーニングの間、同様の行動をしているように見える動物間で神経と行動のデータを取り替える。
  論文  参考訳（メタデータ） (2021-12-02T12:45:46Z)
• The Neural Coding Framework for Learning Generative Models [91.0357317238509]
  本稿では,脳の予測処理理論に触発された新しい神経生成モデルを提案する。 同様に、私たちの生成モデルにおける人工ニューロンは、隣接するニューロンが何をするかを予測し、予測が現実にどの程度一致するかに基づいてパラメータを調整します。
  論文  参考訳（メタデータ） (2020-12-07T01:20:38Z)
• Non-linear Neurons with Human-like Apical Dendrite Activations [81.18416067005538]
  XOR論理関数を100%精度で学習し, 標準的なニューロンに後続のアピーカルデンドライト活性化(ADA)が認められた。 コンピュータビジョン,信号処理,自然言語処理の6つのベンチマークデータセットについて実験を行った。
  論文  参考訳（メタデータ） (2020-02-02T21:09:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。