論文の概要: SPD-MetaFormer is what you need for small-data brain decoding

• arxiv url: http://arxiv.org/abs/2610.10952v1
• Date: Wed, 07 Oct 2026 22:09:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-10 02:36:53.68723
• Title: SPD-MetaFormer is what you need for small-data brain decoding
• Title（参考訳）: SPD-MetaFormerは、小さなデータ脳のデコードに必要なもの
• Abstract要約: 対数ユークリッド幾何学の下で一様重み付けされたフレシェアグリゲーション上に構築された無注意アーキテクチャであるSPD-MetaFormerを紹介する。 3つのEEGベンチマークで、SPD-MetaFormerは、公表されたユークリッドおよび多様体のベースラインと比較して、競合する結果を得る。
• 参考スコア（独自算出の注目度）: 5.3993833843608705
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Brain signal decoding is challenging because neural recordings are noisy and vary across individuals, while labeled data are often limited. Recent attention-based models on the symmetric positive definite (SPD) manifold have nevertheless achieved strong performance using covariance and connectivity representations, yet the contribution of learned token weighting remains unclear. We examine two representative architectures, MAtt (based on log-Euclidean geometry) and GBWAtt (based on generalized Bures--Wasserstein geometry), and find that their learned attention weights remain close to uniform after training. We relate this behavior to bounded similarity parameterizations that, under the original softmax scaling, limit attention-weight contrast. Moreover, replacing learned weights with uniform weights, throughout training and evaluation, has little effect on mean predictive performance while preserving each model's original aggregation geometry. Motivated by these findings, we introduce SPD-MetaFormer, an attention-free architecture built on uniformly weighted Fréchet aggregation under log-Euclidean geometry. Its backbone uses a geodesic residual to update a summary token and a shared spectral feedforward map to transform all tokens, followed by a learned weighted readout. Token states remain SPD-valued until tangent-space classification. Across three EEG benchmarks, SPD-MetaFormer achieves competitive results relative to published Euclidean and manifold baselines. Separate matched reproductions test learned versus uniform weighting within MAtt and GBWAtt. These results suggest that, in the short-sequence and limited-data regimes studied, carefully designed SPD architectures can provide a simpler and effective alternative to adaptive manifold attention.
• Abstract（参考訳）: ニューラル記録はノイズが多く、個人によって異なるが、ラベル付きデータはしばしば制限されるため、脳信号復号は難しい。 対称正定値(SPD)多様体上の近年の注意に基づくモデルは、共分散と接続表現を用いて強い性能を達成したが、学習されたトークン重み付けの寄与はいまだ不明である。 代表的なアーキテクチャとして、MAtt(対数ユークリッド幾何学)とGBWAtt(一般化されたBures--Wasserstein幾何学)について検討し、学習後の注意重みが均一に保たれていることを確認する。 この挙動を有界類似度パラメータ化に関連付け、元のソフトマックススケーリングの下では、注意重みのコントラストを制限する。 さらに、学習重量をトレーニングと評価を通じて均一な重みに置き換えることは、各モデルの本来の集合幾何学を保ちながら、平均的な予測性能にはほとんど影響しない。 これらの知見に触発されたSPD-MetaFormerは,対数ユークリッド幾何学の下で一様重み付けされたフレシェアグリゲーション上に構築されたアテンションフリーアーキテクチャである。 バックボーンはジオデシック残基を使用して要約トークンと共有スペクトルフィードフォワードマップを更新し、すべてのトークンを変換し、その後に学習された重み付き読み出しが続く。 トークン状態は、接空間分類までSPD値のままである。 3つのEEGベンチマークで、SPD-MetaFormerは、公表されたユークリッドおよび多様体のベースラインと比較して、競合する結果を得る。 MAttおよびGBWAtt内における一様重み付けを比較検討した。 これらの結果から,ショートシーケンスとリミテッドデータ構造において,慎重に設計されたSPDアーキテクチャは適応多様体の注意に対して,よりシンプルかつ効果的な代替手段となることが示唆された。

関連論文リスト

• Towards Robust EEG Decoding Based on Riemannian Self-Attention [49.95065559566893]
  脳波(EEG)に基づく脳-コンピュータインタフェース(BCI)は、補助技術、リハビリテーション、エンターテイメントに重要な応用がある。 近年,Symmetric Positive Definite (SPD) 学習に基づく脳波復号法は優れた性能を示した。 これらの手法は通常、基本的なネットワークアーキテクチャを使用し、EEG信号間の局所的な関係を明示的に捉えない。 この制限は、信号対雑音比(SNR)が本質的に低いため、脳波信号に問題となる。
  論文  参考訳（メタデータ） (2026-06-24T06:31:20Z)
• FedSPDnet: Geometry-Aware Federated Deep Learning with SPDnet [8.927002750209295]
  本稿では,Stiefel制約パラメータを持つ対称正定値行列(SPD)上で動作するSPDnetモデルのための2つの連合学習フレームワークを提案する。 我々は,FedPDnetがF1スコアにおいてフェデレーションされたEEGnetより優れ,フェデレーションや部分参加に対する堅牢性が向上し,通信ラウンド当たりのパラメータが少なくなることを示した。
  論文  参考訳（メタデータ） (2026-04-24T12:20:56Z)
• Failure Modes for Deep Learning-Based Online Mapping: How to Measure and Address Them [10.503307305047487]
  本稿では、入力特徴の記憶と、既知の地図測地への過度な適合の2つの効果を解消して、基礎となる障害モードを特定し、測定するフレームワークを提案する。 しきい値調整なしで要素単位の形状の忠実度をキャプチャするフレシェ距離に基づく再構成統計を導入する。 MSTに基づくスペーシフィケーション戦略を定式化し、冗長性を低減し、トレーニングサイズを縮小しながらバランスと性能を向上させる。
  論文  参考訳（メタデータ） (2026-03-20T11:09:11Z)
• Performance Evaluation of Ising and QUBO Variable Encodings in Boltzmann Machine Learning [0.7734726150561088]
  QUBOは、一階と二階の統計量の間のより大きな交差項を誘導し、フィッシャー情報行列においてより小さな固有値方向を生成する。 イジングエンコーディングは、より等方的曲率とより高速な収束を提供する。 これらの結果は,ボルツマンマシンにおける情報幾何学および有限時間学習力学の表現の形状について明らかにした。
  論文  参考訳（メタデータ） (2025-10-15T06:57:23Z)
• Riemannian Multinomial Logistics Regression for SPD Neural Networks [60.11063972538648]
  本稿では,Symmetric Positive Definite (SPD) 行列のための新しいタイプのディープニューラルネットワークを提案する。 我々のフレームワークは、既存のSPDネットワークで最も人気のあるLogEig分類器について、斬新な説明を提供する。 本手法の有効性は,レーダ認識,人行動認識,脳波分類(EEG)の3つの応用で実証された。
  論文  参考訳（メタデータ） (2023-05-18T20:12:22Z)
• Adaptive Log-Euclidean Metrics for SPD Matrix Learning [73.12655932115881]
  広く使われているログユークリッド計量(LEM)を拡張した適応ログユークリッド計量(ALEM)を提案する。 実験および理論的結果から,SPDニューラルネットワークの性能向上における提案手法の有効性が示された。
  論文  参考訳（メタデータ） (2023-03-26T18:31:52Z)
• Learning Cross-view Geo-localization Embeddings via Dynamic Weighted Decorrelation Regularization [52.493240055559916]
  クロスビュージオローカライゼーションは、ドローンプラットフォームと衛星プラットフォームという2つのプラットフォームから撮影された同じ位置の画像を見つけることを目的としている。 既存の手法は、通常、特徴空間内の他のものとの埋め込み距離を最適化することに焦点を当てる。 本稿では、低冗長性も重要であり、モデルがより多様なパターンをマイニングする動機となっていると論じる。
  論文  参考訳（メタデータ） (2022-11-10T02:13:10Z)
• Deep Optimal Transport for Domain Adaptation on SPD Manifolds [9.552869120136005]
  最適輸送理論とSPD多様体の幾何学を組み合わせた新しい幾何学的深層学習フレームワークを提案する。 提案手法は, 多様体構造を尊重しながらデータ分布を整列させ, 限界差と条件差を効果的に低減する。 提案手法は,KU,BNCI2014001,BNCI2015001の3つのクロスセッション脳コンピュータインタフェースデータセットに対して検証を行った。
  論文  参考訳（メタデータ） (2022-01-15T03:13:02Z)
• Scaling Structured Inference with Randomization [64.18063627155128]
  本稿では、構造化されたモデルを数万の潜在状態に拡張するためにランダム化された動的プログラミング(RDP)のファミリを提案する。 我々の手法は古典的DPベースの推論に広く適用できる。 また、自動微分とも互換性があり、ニューラルネットワークとシームレスに統合できる。
  論文  参考訳（メタデータ） (2021-12-07T11:26:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。