論文の概要: Logit Averaging During Training Sets a New State of the Art for Non-Invasive Speech BCI
- arxiv url: http://arxiv.org/abs/2610.26347v1
- Date: Mon, 19 Oct 2026 13:13:25 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-10-20 22:31:43.18292
- Title: Logit Averaging During Training Sets a New State of the Art for Non-Invasive Speech BCI
- Title(参考訳): 非侵襲音声BCIのための新しい技術の現状
- Abstract要約: 非侵襲的ニューラルデコードのためのアグリゲーション戦略を初めて体系的に比較した。
トレーニング時間のロジット平均は7つの設定のうち6つで他よりも優れています。
我々は,ロジット平均化と関節アンサンブルトレーニングの理論的関係を描いている。
- 参考スコア(独自算出の注目度): 1.6887214573615656
- License:
- Abstract: Non-invasive brain-computer interfaces are in practice limited by signal-to-noise ratio, and recent state-of-the-art methods address this limitation by aggregating over repeated trials of the same stimulus. Yet multi-trial aggregation has been treated inconsistently across the literature: some work averages brain signals at the model's input, other work averages predictions at the model's output, and neither treats aggregation as an architectural choice in its own right. We provide the first systematic comparison of aggregation strategies for non-invasive neural decoding, evaluating six paradigms (including logit averaging during training and three attention-based variants we introduce) across three datasets, four tasks, and two group sizes. We find that aggregation choice matters substantially: training-time logit averaging, the simplest method we propose, outperforms all others in 6 of 7 settings. On the phoneme classification setting of the 2025 PNPL competition, it sets a new state of the art, significantly outperforming the competition winner by 17.4 absolute percentage points in balanced accuracy. We further draw a theoretical connection between logit averaging and joint ensemble training, which has been shown to underperform independent ensembling in the deep learning literature; our results call into question recent explanations of why joint ensemble training fails. Together, these findings establish multi-trial aggregation as a key design choice for non-invasive neural decoding and identify training-time logit averaging as a simple, effective default.
- Abstract(参考訳): 非侵襲的な脳-コンピュータインターフェースは、実際には信号対雑音比によって制限されており、最近の最先端の手法では、同じ刺激の繰り返し試行に対して集約することで、この制限に対処している。
幾つかの作業はモデルの入力で脳信号を平均し、他の作業はモデルの出力で予測し、どちらもアグリゲーションをアーキテクチャ上の選択として扱う。
我々は,非侵襲的ニューラルデコーディングのためのアグリゲーション戦略を初めて体系的に比較し,3つのデータセット,4つのタスク,2つのグループサイズにまたがる6つのパラダイム(トレーニング中のロジット平均化と3つの注意に基づく変種を含む)を評価した。
最も単純な方法であるトレーニング時ロジット平均化は、7つの設定のうち6つで他よりも優れています。
2025年のPNPLコンペティションの音素分類設定では、新しい最先端のスコアを設定し、バランスの取れた精度で17.4の絶対パーセンテージポイントで優勝者を上回った。
さらに,本研究は, 対訳平均化と共同アンサンブルトレーニングの理論的関係を, 深層学習文学における独立アンサンブルを過小評価していることを示すものであり, 共同アンサンブルトレーニングが失敗する理由に関する最近の説明に疑問を投げかけている。
これらの知見は、非侵襲的な神経復号のための重要な設計選択として、多施設の集約を確立し、トレーニング時間ロジット平均化を単純で効果的なデフォルトとして識別する。
関連論文リスト
- Evolution-Inspired Sample Competition for Deep Neural Network Optimization [19.75458355825581]
textitNatural Selection (NS) は、ネットワークの深層学習に競合する相互作用を明示的に組み込む、進化にインスパイアされた新しい最適化手法である。
NSは、各サンプルの競争状態をグループワイドな文脈で推定し、そのトレーニングコントリビューションを適応的に規制するために使用する。
NSは多様なネットワークアーキテクチャと互換性があり、タスク固有の仮定に依存しない。
論文 参考訳(メタデータ) (2026-04-14T10:48:01Z) - A Scalable Pretraining Framework for Link Prediction with Efficient Adaptation [16.82426251068573]
リンク予測(LP)は、グラフ機械学習において重要なタスクである。
既存の手法は、疎結合性からの限られた監督を含む重要な課題に直面している。
これらの課題に対処するためのソリューションとして,事前学習について検討する。
論文 参考訳(メタデータ) (2025-08-06T17:10:31Z) - Learn2Mix: Training Neural Networks Using Adaptive Data Integration [14.314972805316202]
learn2mixは、バッチ内のクラス比率を適応的に調整する新しいトレーニング戦略で、エラー率の高いクラスに重点を置いている。
経験的評価では、Learner2mixでトレーニングされたニューラルネットワークは、既存のアプローチでトレーニングされたニューラルネットワークよりも早く収束している。
論文 参考訳(メタデータ) (2024-12-21T04:40:07Z) - Test-Time Alignment via Hypothesis Reweighting [56.71167047381817]
大規模な事前訓練されたモデルは、しばしば未指定のタスクで苦労する。
テストタイムのユーザ意図にモデルを整合させるという課題に対処する新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2024-12-11T23:02:26Z) - Regularized Neural Ensemblers [55.15643209328513]
本研究では,正規化ニューラルネットワークをアンサンブル手法として活用することを検討する。
低多様性のアンサンブルを学習するリスクを動機として,ランダムにベースモデル予測をドロップすることで,アンサンブルモデルの正規化を提案する。
このアプローチはアンサンブル内の多様性の低い境界を提供し、過度な適合を減らし、一般化能力を向上させる。
論文 参考訳(メタデータ) (2024-10-06T15:25:39Z) - Batch-in-Batch: a new adversarial training framework for initial perturbation and sample selection [9.241737058291823]
適応学習法は, 単純な一様分布から, 対向サンプルに対する独立な初期摂動を生成する。
モデルを強化するため,Batch-in-Batchと呼ばれるシンプルで効果的なトレーニングフレームワークを提案する。
BBフレームワーク内でトレーニングされたモデルは、様々な対角的設定において、常に高い対角的精度を有することを示す。
論文 参考訳(メタデータ) (2024-06-06T13:34:43Z) - Bias Amplification Enhances Minority Group Performance [10.380812738348899]
本稿では,新しい2段階学習アルゴリズムであるBAMを提案する。
第1段階では、各トレーニングサンプルに対して学習可能な補助変数を導入することにより、バイアス増幅方式を用いてモデルを訓練する。
第2段階では、バイアス増幅モデルが誤分類したサンプルを重み付けし、その後、再重み付けされたデータセット上で同じモデルをトレーニングし続けます。
論文 参考訳(メタデータ) (2023-09-13T04:40:08Z) - TWINS: A Fine-Tuning Framework for Improved Transferability of
Adversarial Robustness and Generalization [89.54947228958494]
本稿では,様々な分類タスクにおいて,逆向きに事前訓練されたモデルの微調整に焦点を当てる。
本稿では,TWINS(Two-WIng NormliSation)ファインチューニングフレームワークを提案する。
TWINSは、一般化とロバスト性の両方の観点から、幅広い画像分類データセットに有効であることが示されている。
論文 参考訳(メタデータ) (2023-03-20T14:12:55Z) - You Only Need End-to-End Training for Long-Tailed Recognition [8.789819609485225]
クロスエントロピー損失は、不均衡なデータに非常に相関した特徴をもたらす傾向にある。
ブロックベース相対平衡バッチサンプリング(B3RS)とバッチ埋め込みトレーニング(BET)の2つの新しいモジュールを提案する。
CIFAR-LT と ImageNet-LT の長期分類ベンチマークによる実験結果から,本手法の有効性が示された。
論文 参考訳(メタデータ) (2021-12-11T11:44:09Z) - Few-shot Action Recognition with Prototype-centered Attentive Learning [88.10852114988829]
2つの新しい構成要素からなるプロトタイプ中心型注意学習(pal)モデル。
まず,従来のクエリ中心学習目標を補完するために,プロトタイプ中心のコントラスト学習損失を導入する。
第二に、PALは注意深いハイブリッド学習機構を統合しており、アウトレーヤの負の影響を最小限に抑えることができる。
論文 参考訳(メタデータ) (2021-01-20T11:48:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。