論文の概要: REALM: Retrospective Encoder Alignment for LFP Modeling

• arxiv url: http://arxiv.org/abs/2605.14867v1
• Date: Thu, 14 May 2026 14:16:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-15 21:45:34.866247
• Title: REALM: Retrospective Encoder Alignment for LFP Modeling
• Title（参考訳）: REALM: LFPモデリングのためのレトロスペクティブエンコーダアライメント
• Authors: Peicheng Wu, Zhenyu Bu, Runze Ma, Lin Du,
• Abstract要約: スパイク活動は、その空間分解能と時間分解能が高いため、行動復号において支配的な神経信号である。 脳-コンピュータインタフェース(BCI)が高チャネル数や無線操作へと移動するにつれ、スパイク信号の高サンプリング周波数がボトルネックとなる。 本稿では,因果LFPデコードを可能にする振り返り蒸留フレームワークREALMを提案する。
• 参考スコア（独自算出の注目度）: 2.8036525859094823
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Spike activity has been the dominant neural signal for behavior decoding due to its high spatial and temporal resolution. However, as brain-computer interfaces (BCIs) move toward high channel counts and wireless operation, the high sampling frequency of spike signals becomes a bottleneck due to high power and bandwidth requirements. Local field potentials (LFPs) represent a different spatial-temporal scale of brain activity compared to spikes, offering key advantages including improved long-term stability, reduced energy consumption, and lower bandwidth requirement. Despite these benefits, LFP-based decoding models typically show reduced accuracy and often rely on non-causal architectures that are unsuitable for real-time deployment. To address these challenges, we propose REALM: a retrospective distillation framework that enables causal LFP decoding. Inspired by offline-to-online distillation strategies in speech recognition, REALM transfers representational knowledge from a pretrained multi-session bidirectional LFP model to a causal version for real-time deployment. We first pretrain a bidirectional Mamba-2 teacher model using a masked autoencoding objective. We then distill this teacher model into a compact student model via a combined objective of representation alignment and task supervision. REALM consistently outperforms both causal and non-causal LFP-based SOTA methods for behavior decoding. Notably, our REALM improves decoding performance while achieving a $2\times$ reduction in parameter count and a $10\times$ reduction in training time. These results demonstrate that retrospective distillation effectively bridges the gap between offline and real-time neural decoding. REALM shows that LFP-only models can achieve competitive decoding performance without reliance on spike signals, offering a practical and scalable alternative for next-generation wireless implantable BCIs.
• Abstract（参考訳）: スパイク活動は、その空間分解能と時間分解能が高いため、行動復号において支配的な神経信号である。 しかし、脳-コンピュータインタフェース(BCI)が高チャネル数や無線操作へと移行するにつれて、高電力と帯域幅の要求により、スパイク信号の高サンプリング周波数がボトルネックとなる。 局所野電位(LFP)はスパイクと異なる時空間的脳活動の尺度を示し、長期的安定性の改善、エネルギー消費の削減、帯域幅の要求の低減といった重要な利点を提供する。 これらの利点にもかかわらず、LFPベースの復号モデルは一般的に精度を低下させ、しばしばリアルタイムデプロイメントには適さない非因果アーキテクチャに依存している。 これらの課題に対処するため、我々は、因果LFPデコードを可能にする振り返り蒸留フレームワークREALMを提案する。 音声認識におけるオフラインからオンラインへの蒸留戦略にインスパイアされたREALMは、事前訓練されたマルチセッション双方向LFPモデルから、リアルタイムデプロイメントのための因果バージョンへの表現的知識の転送を行う。 まず,マスク付き自動符号化による双方向マンバ2教師モデルの事前学習を行う。 そこで我々は,この教師モデルを,表現のアライメントとタスクの監督という組み合わせにより,コンパクトな学生モデルに蒸留する。 REALM は因果的および非因果的LFPベースの SOTA 法よりも常に優れている。 特に、REALMは、パラメータ数を2ドル以上削減し、トレーニング時間を10ドル以上削減しながら、復号性能を向上させる。 これらの結果は, オフラインとリアルタイムのニューラルデコーディングのギャップを効果的に埋めることができることを示した。 REALMは、LFPのみのモデルがスパイク信号に頼らずに競合する復号性能を実現し、次世代無線埋め込み型BCIの実用的でスケーラブルな代替手段を提供することを示した。

関連論文リスト

• $R^2$-dLLM: Accelerating Diffusion Large Language Models via Spatio-Temporal Redundancy Reduction [28.068667649331246]
  推論とトレーニングの両方の観点から,デコード冗長性を低減するための統一的なフレームワークを提案する。 R2$-dLLMは、既存のデコード戦略と比較して、デコードステップの数を最大75%削減する。
  論文  参考訳（メタデータ） (2026-04-21T02:26:08Z)
• DexWorldModel: Causal Latent World Modeling towards Automated Learning of Embodied Tasks [54.32016216994156]
  本稿では,DINOv3特徴を生成対象として用い,視覚ノイズから相互作用意味を乱す因果潜在世界モデル(CLWM)を提案する。 メモリスケーリングを克服するため、CLWMはDual-State Test-Time Training (TTT)メモリを備えている。 EmbodiChainは、トレーニング中に物理基底軌道の無限の流れを注入することによって効率法を確立するオンラインフレームワークである。
  論文  参考訳（メタデータ） (2026-04-13T03:19:36Z)
• Spike-driven Large Language Model [49.52947423982696]
  スパイキングニューラルネットワーク(SNN)はスパイク駆動特性を持つ。 現在のLarge Language Models (LLM) は主に大規模密度行列乗法に基づいている。 本研究では,スパース加算操作により高密度行列乗算を除去するスパイク駆動型大規模言語モデルであるSDLLMを提案する。
  論文  参考訳（メタデータ） (2026-04-11T17:58:35Z)
• SpecVLM: Fast Speculative Decoding in Vision-Language Models [14.243294546325714]
  投機的復号化は自己回帰型大規模言語モデル(LLM)を高速化する強力な方法である 視覚言語モデル(VLM)の投機的復号化について検討する。 1.5--2.3xのエンドツーエンドの高速化を完全自己回帰推論で実現する実用システムであるSpecVLMを紹介する。
  論文  参考訳（メタデータ） (2025-09-15T11:53:56Z)
• Fast-dLLM: Training-free Acceleration of Diffusion LLM by Enabling KV Cache and Parallel Decoding [51.711605076319216]
  拡散に基づく大規模言語モデル (Diffusion LLM) は、並列復号機能を持つ非自己回帰テキスト生成を約束している。 本稿では,双方向拡散モデルに適したブロック単位で近似したKVキャッシュ機構を提案する。 本稿では,信頼しきい値を超えるトークンを選択的に復号し,依存関係違反を軽減し,生成品質を維持できる信頼度対応並列復号方式を提案する。
  論文  参考訳（メタデータ） (2025-05-28T17:39:15Z)
• Efficient Parallel Split Learning over Resource-constrained Wireless Edge Networks [44.37047471448793]
  本稿では,エッジコンピューティングパラダイムと並列分割学習(PSL)の統合を提唱する。 そこで本研究では,モデル学習を高速化するために,効率的な並列分割学習(EPSL)という革新的なPSLフレームワークを提案する。 提案するEPSLフレームワークは,目標精度を達成するために必要なトレーニング遅延を著しく低減することを示す。
  論文  参考訳（メタデータ） (2023-03-26T16:09:48Z)
• Large Scale Time-Series Representation Learning via Simultaneous Low and High Frequency Feature Bootstrapping [7.0064929761691745]
  本稿では,非コントラスト型自己教師型学習手法を提案する。 提案手法は生の時系列データを入力として、モデルの2つのブランチに対して2つの異なる拡張ビューを生成する。 モデルの堅牢性を実証するために,5つの実世界の時系列データセットに関する広範な実験とアブレーション研究を行った。
  論文  参考訳（メタデータ） (2022-04-24T14:39:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。