Fugu-MT 論文翻訳(概要): High Performance P300 Spellers Using GPT2 Word Prediction With Cross-Subject Training

論文の概要: High Performance P300 Spellers Using GPT2 Word Prediction With Cross-Subject Training

arxiv url: http://arxiv.org/abs/2405.13329v1
Date: Wed, 22 May 2024 04:15:41 GMT
ステータス: 処理完了
システム内更新日: 2024-05-25 01:24:25.608655
Title: High Performance P300 Spellers Using GPT2 Word Prediction With Cross-Subject Training
Title（参考訳）: クロスオブジェクトトレーニングによるGPT2単語予測を用いた高性能P300スパラ
Authors: Nithin Parthasarathy, James Soetedjo, Saarang Panchavati, Nitya Parthasarathy, Corey Arnold, Nader Pouratian, William Speier,
Abstract要約: P300スペル・ブレイン・コンピュータ・インタフェース(BCI)は、グリッド・インタフェースに表示される文字に対して被験者の脳波応答を解釈することで、代替的な通信手段を提供する。本稿では,効率的なP300ベース多目的分類器の学習において発生する共通速度制限について述べる。我々は第2世代の生成事前学習変換器(GPT2)とDijkstraのアルゴリズムを組み合わせて刺激の最適化と単語補完の選択を提案する。
参考スコア（独自算出の注目度）: 2.231337550816627
License: http://creativecommons.org/publicdomain/zero/1.0/
Abstract: Amyotrophic lateral sclerosis (ALS) severely impairs patients' ability to communicate, often leading to a decline in their quality of life within a few years of diagnosis. The P300 speller brain-computer interface (BCI) offers an alternative communication method by interpreting a subject's EEG response to characters presented on a grid interface. This paper addresses the common speed limitations encountered in training efficient P300-based multi-subject classifiers by introducing innovative "across-subject" classifiers. We leverage a combination of the second-generation Generative Pre-Trained Transformer (GPT2) and Dijkstra's algorithm to optimize stimuli and suggest word completion choices based on typing history. Additionally, we employ a multi-layered smoothing technique to accommodate out-of-vocabulary (OOV) words. Through extensive simulations involving random sampling of EEG data from subjects, we demonstrate significant speed enhancements in typing passages containing rare and OOV words. These optimizations result in approximately 10% improvement in character-level typing speed and up to 40% improvement in multi-word prediction. We demonstrate that augmenting standard row/column highlighting techniques with layered word prediction yields close-to-optimal performance. Furthermore, we explore both "within-subject" and "across-subject" training techniques, showing that speed improvements are consistent across both approaches.
Abstract（参考訳）: 筋萎縮性側索硬化症 (Amyotrophic lateral sclerosis, ALS) は、患者のコミュニケーション能力が著しく低下し、診断後数年で生活の質が低下する。 P300スペル・ブレイン・コンピュータ・インタフェース(BCI)は、グリッド・インタフェースに表示される文字に対して被験者の脳波応答を解釈することで、代替的な通信手段を提供する。本稿では, 効率的なP300ベース多目的分類器の学習において発生する共通速度制限について, 革新的な「多目的分類器」を導入して検討する。我々は,第2世代の生成事前学習変換器(GPT2)とDijkstraのアルゴリズムを組み合わせることで,入力履歴に基づいて,刺激の最適化と単語補完の選択を提案する。さらに,語彙外(OOV)単語に対応するために,多層平滑化手法を用いる。被験者からの脳波データのランダムサンプリングを含む広範囲なシミュレーションを通じて、希少な単語とOOV単語を含むタイピングパスにおいて、顕著な速度向上を示す。これらの最適化により、文字レベルのタイピング速度が約10%向上し、マルチワード予測が最大40%向上する。階層化単語予測による標準行/列強調手法の強化により、最適性能が向上することが実証された。さらに、"within-subject"と"across-subject"の両方のトレーニング手法について検討し、両方のアプローチでスピード改善が整合していることを示した。

関連論文リスト

Evaluation Of P300 Speller Performance Using Large Language Models Along With Cross-Subject Training [2.231337550816627]
P300スペル脳コンピュータインタフェース(BCI)は、被験者の文字に対する脳波応答を活用することで、代替の通信媒体を提供する。本研究は、特にマルチオブジェクトのトレーニングにおいて鍵となる制約に対処することで、そのテーマに基づいている。
論文参考訳（メタデータ） (2024-10-19T17:23:16Z)
Improving Sampling Methods for Fine-tuning SentenceBERT in Text Streams [49.3179290313959]
本研究では,選択的な微調整言語モデルの設計した7つのテキストサンプリング手法の有効性について検討した。これらの手法がSBERTモデルの微調整に与える影響を, 4つの異なる損失関数を用いて正確に評価する。その結果,テキストストリームの分類にはソフトマックスの損失とバッチ・オール・トリプレットの損失が特に有効であることが示唆された。
論文参考訳（メタデータ） (2024-03-18T23:41:52Z)
Bit Cipher -- A Simple yet Powerful Word Representation System that Integrates Efficiently with Language Models [4.807347156077897]
Bit-cipherは、バックプロパゲーションや超高効率次元減少技術の必要性を排除したワード表現システムである。我々は、古典的な埋め込みによるビット暗号の競合性を評価するために、POSタグと名前付きエンティティ認識(NER)の探索実験を行った。埋め込み層を暗号埋め込みに置き換えることで、トレーニングプロセスの高速化と最適な最適化を実現する上での暗号の顕著な効率を実証した。
論文参考訳（メタデータ） (2023-11-18T08:47:35Z)
Code-Switching with Word Senses for Pretraining in Neural Machine Translation [107.23743153715799]
ニューラルネットワーク翻訳のための単語センス事前学習(WSP-NMT)について紹介する。 WSP-NMTは、知識ベースからの単語感覚情報を活用した多言語NMTモデルの事前学習のためのエンドツーエンドアプローチである。実験の結果,全体の翻訳品質が大幅に向上した。
論文参考訳（メタデータ） (2023-10-21T16:13:01Z)
SelfSeg: A Self-supervised Sub-word Segmentation Method for Neural Machine Translation [51.881877192924414]
サブワードセグメンテーションはニューラルマシン翻訳(NMT)に不可欠な前処理ステップである本稿では,自己教師型ニューラルネットワークサブワードセグメンテーション手法であるSelfSegを紹介する。 SelfSegはトレーニング/デコードがはるかに高速で、並列コーパスの代わりに単言語辞書のみを必要とする。
論文参考訳（メタデータ） (2023-07-31T04:38:47Z)
Evolutionary Verbalizer Search for Prompt-based Few Shot Text Classification [5.583948835737293]
提案手法は,提案手法を改良した新しい進化型動詞処理アルゴリズムであるEVSを提案する。本稿では,最適な動詞処理器を自動構築することに集中し,高速な動詞処理器を用いたプロンプトベースチューニングを改善するための新しいEVSアルゴリズムを提案する。
論文参考訳（メタデータ） (2023-06-18T10:03:11Z)
Sequential Best-Arm Identification with Application to Brain-Computer Interface [34.87975833920409]
脳コンピュータインタフェース(BCI)は、脳と外部デバイスまたはコンピュータシステムとの直接通信を可能にする技術である。脳波(EEG)と事象関連電位(ERP)に基づくスペルシステム(ERP)は、物理キーボードを使わずに単語をスペルできるBCIの一種である。本稿では,固定信頼度設定と固定予算設定の下での逐次トップ2トンプソンサンプリング(STTS)アルゴリズムを提案する。
論文参考訳（メタデータ） (2023-05-17T18:49:44Z)
Exploring Dimensionality Reduction Techniques in Multilingual Transformers [64.78260098263489]
本稿では,多言語シームス変圧器の性能に及ぼす次元還元法の影響を包括的に考察する。これは、それぞれ91.58% pm 2.59%$と54.65% pm 32.20%$の次元を平均で減少させることが可能であることを示している。
論文参考訳（メタデータ） (2022-04-18T17:20:55Z)
Better Language Model with Hypernym Class Prediction [101.8517004687825]
クラスベース言語モデル (LM) は、コンテキストの疎結合に$n$-gramのLMで対処するために長年開発されてきた。本研究では,このアプローチをニューラルLMの文脈で再考する。
論文参考訳（メタデータ） (2022-03-21T01:16:44Z)
Open Vocabulary Electroencephalography-To-Text Decoding and Zero-shot Sentiment Classification [78.120927891455]
最先端のブレイン・トゥ・テキストシステムは、ニューラルネットワークを使用して脳信号から直接言語を復号することに成功した。本稿では,自然読解課題における語彙的脳波(EEG)-テキスト列列列復号化とゼロショット文感性分類に問題を拡張する。脳波-テキストデコーディングで40.1%のBLEU-1スコア、ゼロショット脳波に基づく3次感情分類で55.6%のF1スコアを達成し、教師付きベースラインを著しく上回る結果となった。
論文参考訳（メタデータ） (2021-12-05T21:57:22Z)
A Precisely Xtreme-Multi Channel Hybrid Approach For Roman Urdu Sentiment Analysis [0.8812173669205371]
本稿では,Word2vec,FastText,Gloveという,最も広く使われているアプローチを用いて構築した3つのニューラルワード埋め込みについて述べる。公開されているベンチマークデータセットが欠如していることを考えると、初となるRoman Urduデータセットを提供しており、正、負、中立のクラスに対して注釈付けされた3241の感情で構成されている。最先端の機械とディープラーニングの手法を、F1スコアで9%、F1スコアで4%で上回る、極めて極端なマルチチャネルハイブリッド手法を提案する。
論文参考訳（メタデータ） (2020-03-11T04:08:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。