論文の概要: Neural Data Needs Semantic Tokenization: Behavioral Events as Boundaries of Session-Transferable Tokens

• arxiv url: http://arxiv.org/abs/2610.03001v1
• Date: Fri, 02 Oct 2026 08:32:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-06 00:14:30.285413
• Title: Neural Data Needs Semantic Tokenization: Behavioral Events as Boundaries of Session-Transferable Tokens
• Title（参考訳）: ニューラルネットワークは意味的トークン化を必要とする:セッション転送可能なトークンの境界としての行動事象
• Abstract要約: 本稿では,各試行ごとにタスクを1回繰り返して分割し,各状態を集団幾何学のトークンに変換する状態によるトークン化(TWS)を提案する。 TWSは、ターゲットに関する情報を持たない政権境界からでも動きをデコードする一方、これらのセッションで事前訓練されたニューロン単位のファンデーションモデルは、偶然にデコードされる。
• 参考スコア（独自算出の注目度）: 3.1641441457189496
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Extracellular electrophysiology records a different set of neurons in every session. Neural foundation models embed each neuron and each session into their tokens, so every new session is an input they have never seen, and they fail to generalize to it. A tokenizer for new sessions needs a unit that every session shares and that carries behavior. Population activity offers such a unit. It evolves on a low-dimensional manifold that persists across neuronal turnover and across animals once sessions are aligned. This manifold changes regime at task events such as stimulus onset and movement onset. Within each regime the population occupies a state, the part of the manifold it spans between two events, and each state carries its own behavioral meaning. We propose Tokenization with States (TWS), which segments each trial, one repetition of the task, at these events and converts every state into tokens of population geometry, with no neuron or session embedding. On held-out International Brain Laboratory (IBL) sessions, TWS decodes movement even from regime boundaries that carry no information about the target, while a per-neuron foundation model pretrained on those sessions decodes at chance. Frozen after training on mice alone, TWS transfers to macaques and Utah arrays with only a linear probe. On reach direction, a target that its boundaries do not define, it achieves a Matthews correlation of 0.23, where the event time alone achieves $0.01$. For cross-session generalization, the token matters more than the model on top.
• Abstract（参考訳）: 細胞外電気生理学的には、セッションごとに異なるニューロン群が記録される。 ニューラルファンデーションモデルは、各ニューロンと各セッションをトークンに埋め込むため、新しいセッションはすべて、これまで見たことのない入力であり、それらを一般化するのに失敗する。 新しいセッションのトークン化ツールには、すべてのセッションが共有され、振る舞いを持つユニットが必要です。 人口活動はそのような単位を提供する。 低次元の多様体上で進化し、セッションが整列すると、ニューロンの回転と動物間で持続する。 この多様体は、刺激の開始や動きの開始のようなタスクイベントにおける状態を変化させる。 それぞれの体制の中で、人口は状態を占め、その多様体の一部が2つの事象の間にまたがっており、各状態は独自の行動の意味を持っている。 本稿では,各試行においてタスクを1回繰り返して分割し,全ての状態をニューロンやセッションを埋め込むことなく,集団幾何学のトークンに変換する状態のトークン化(Tokenization with States,TWS)を提案する。 開催中の国際脳研究所(IBL)セッションでは、TWSはターゲットに関する情報を持たない政権境界からでも動きをデコードし、そのセッションで事前訓練されたニューロン単位の基礎モデルは偶然デコードされる。 マウス単独でのトレーニングの後、TWSはリニアプローブだけでマカクやユタのアレイに移行する。 到達方向では、その境界が定義されていないターゲットに対して、マシューズ相関は0.23であり、イベント時間は0.01ドルである。 クロスセッションの一般化では、トークンは上位のモデルよりも重要である。

関連論文リスト

• BrainWideBench: Benchmarking large-scale pretraining and across-animal transfer in multi-region neural recordings [65.86350451382873]
  マルチリージョンニューラル記録における動物間移動の評価のためのベンチマークであるBrainWideBenchを提案する。 BrainWideBenchは、276の脳領域にまたがる神経と行動の記録の、国際脳研究所のBrainwide Mapデータセット上に構築されている。
  論文  参考訳（メタデータ） (2026-09-18T17:54:32Z)
• URCHIN: A Horizontal Spiking Language Model for Data-Constrained Pretraining [1.185706452828542]
  BabyLMの課題は、発達的に評価可能な子スケールのデータから、モデルがどの程度の言語を学習できるかを測定することである。 本稿では,言語モデリングに並列化された階層型コネクトームスパイキング状態空間モデルを適用するURCHINを提案する。 3つのBabyLMトラック(Strict-100M、Strict-Small、Multilingual)にまたがって、URCHINは生物学的に信頼性が高く、効率的で、直接デプロイ可能な参照ポイントを提供する。
  論文  参考訳（メタデータ） (2026-09-12T12:06:01Z)
• Pretraining for Sample-Efficient Neural Interfaces [0.0509780930114934]
  自己教師付き事前トレーニングは異種iEEG記録をまたいでスケールし、新しい被験者の正確な復号に必要なラベル付きデータを削減できる。 我々は,2つの空間エンコーディング,解剖学的領域埋め込み,相対的位置エンコーディングを備えたバニラマスク型オートエンコーダMAPAを提案する。
  論文  参考訳（メタデータ） (2026-09-11T20:12:42Z)
• Language Model Circuits Are Sparse in the Neuron Basis [50.460651620833055]
  その結果, textbfMLP ニューロンは SAE と同様の機能的基盤であることがわかった。 この作業は、追加のトレーニングコストなしで言語モデルの自動解釈可能性を向上させる。
  論文  参考訳（メタデータ） (2026-01-30T05:41:19Z)
• Neural Encoding and Decoding at Scale [42.33285735011587]
  NEDS(Neural and Decoding at Scale)を実現するマルチモーダルマルチタスクモデルを提案する。 私たちのアプローチの中心は、神経、行動、内部モダリティ、および相互モダリティマスキングを交互に交互に行う、新しいマルチタスクマスキング戦略です。 NEDSは、複数動物データに基づいて事前訓練された後、新しい動物に微調整された際に、符号化と復号の両方の最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2025-04-11T02:06:20Z)
• Allostatic Control of Persistent States in Spiking Neural Networks for perception and computation [79.16635054977068]
  本稿では,アロスタシスの概念を内部表現の制御に拡張することにより,環境に対する知覚的信念を更新するための新しいモデルを提案する。 本稿では,アトラクタネットワークにおける活動の急増を空間的数値表現として利用する数値認識の応用に焦点を当てる。
  論文  参考訳（メタデータ） (2025-03-20T12:28:08Z)
• Confidence Regulation Neurons in Language Models [91.90337752432075]
  本研究では,大規模言語モデルが次世代の予測において不確実性を表現・規制するメカニズムについて検討する。 エントロピーニューロンは異常に高い重量ノルムを特徴とし、最終層正規化(LayerNorm)スケールに影響を与え、ロジットを効果的にスケールダウンさせる。 ここで初めて説明するトークン周波数ニューロンは、各トークンのログをそのログ周波数に比例して増加または抑制することで、出力分布をユニグラム分布から遠ざかる。
  論文  参考訳（メタデータ） (2024-06-24T01:31:03Z)
• A Unified, Scalable Framework for Neural Population Decoding [12.052847252465826]
  神経活動の集団動態をモデル化するためのトレーニングフレームワークとアーキテクチャを導入する。 我々は,ヒト以外の霊長類7種の大規模データセットに基づいて訓練された大規模マルチセッションモデルを構築した。
  論文  参考訳（メタデータ） (2023-10-24T17:58:26Z)
• Capturing cross-session neural population variability through self-supervised identification of consistent neuron ensembles [1.2617078020344619]
  ディープニューラルネットワークの自己教師型トレーニングは、セッション間変動の補償に利用できることを示す。 シーケンシャルな自動符号化モデルは、未来まで数日間、完全に見えない記録セッションのために、最先端の動作復号性能を維持することができる。
  論文  参考訳（メタデータ） (2022-05-19T20:00:33Z)
• TAGNN: Target Attentive Graph Neural Networks for Session-based Recommendation [66.04457457299218]
  セッションベースレコメンデーションのための新しいターゲット注意グラフニューラルネットワーク(TAGNN)モデルを提案する。 TAGNNでは、ターゲット・アウェア・アテンションは、様々なターゲット項目に関して異なるユーザ関心を適応的に活性化する。 学習した関心表現ベクトルは、異なる対象項目によって変化し、モデルの表現性を大幅に改善する。
  論文  参考訳（メタデータ） (2020-05-06T14:17:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。