論文の概要: Jev Matches 7B Language Models for Speech-Neuroprosthesis Rescoring
- arxiv url: http://arxiv.org/abs/2609.33538v1
- Date: Sun, 27 Sep 2026 13:04:23 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-05 15:55:57.764205
- Title: Jev Matches 7B Language Models for Speech-Neuroprosthesis Rescoring
- Title(参考訳): Jevが音声ニューロ補綴補綴のための7B言語モデルにマッチ
- Abstract要約: 音声神経補綴は、脳の活動から試みられた音声を解読する。
最終的にデコーダの候補文を再描画する。
価格は1000文あたり0.07米ドルで、GPUは必要ない。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: A speech neuroprosthesis decodes attempted speech from brain activity and ends by rescoring the decoder's candidate sentences with a language model of several billion parameters, the only component that needs a GPU. Replacing that model with a cheaper one is hard: general language models asked to pick one sentence from a list answer from where a label sits in the list rather than from the sentence itself. We pose rescoring as a single typed decision, one call that returns a probability for every candidate, served by Jev, a hosted model trained for calibrated decisions, and combine it with the decoder's own score. On 978 held-out sentences from a participant with ALS, where the published decoder alone reaches 8.1% word error, Jev reaches 7.5% against 7.8% for both OPT-6.7b and Qwen2.5-7B; with the decoder's weight re-tuned, 6.9% against 7.2% and 7.4%. Jev is ahead in all four comparisons and at most 0.2 points behind at the 95% bound. It costs 0.07 USD per thousand sentences and needs no GPU; a dedicated GPU running a 7B model is cheaper per sentence only above 43% utilisation, far beyond what one user generates. End-to-end latency over the internet is 262 ms, of which 62 ms is spent at the provider, the same order as a 7B model on a local GPU (27 ms) but not faster.
- Abstract(参考訳): 音声ニューロプロセシスは、脳の活動から試みられた音声をデコードし、デコーダの候補文を、GPUを必要とする唯一のコンポーネントである数十億のパラメータの言語モデルで再描画することで終了する。
一般的な言語モデルは、文自体からではなく、ラベルがリストの中に置かれているリストの回答から1つの文を選ぶように求められます。
すべての候補に対して確率を返す1つの呼び出し、校正された決定のために訓練されたホストモデルであるJevが提供し、デコーダ自身のスコアと組み合わせる。
公表されたデコーダのみが8.1%のワードエラーに達したALSの参加者の978件について、JevはOPT-6.7bとQwen2.5-7Bの両方に対して7.8%、デコーダの重量は6.9%と7.2%と7.4%に達した。
Jevは4つの比較でトップであり、少なくとも0.2ポイントは95%のバウンドで遅れている。
7Bモデルを実行する専用GPUは、ユーザが生成したものよりもはるかに少ないが、文あたりの有効利用率は43%を超えている。
インターネット上のエンドツーエンドのレイテンシは262msで、62msはローカルGPU(27ms)上の7Bモデルと同じ順序でプロバイダで使用されるが、高速ではない。
関連論文リスト
- JevAdvBench: A Benchmark and Black-Box Attacks for Reinforcement Learning for Calibrated Decisions Models [25.5874772119945]
JevAdvBench は RLCD モデルの最初の敵対的ベンチマークである。
ラベルではなく、モデル自身のクリーンな決定に対して攻撃された各決定をスコア付けし、同じ再実行による変更に対して読み取る。
Jev-1.13.0では、リワードは再実行ベースラインの1.2パーセント以内に留まり、スキーマ外のフィールドはモデルに到達しない。
論文 参考訳(メタデータ) (2026-09-25T11:32:19Z) - this-that-model-1.0: A typed decision model that decides in 30 ms, for a millionth of a cent [9.39195684989942]
このモデル1.0は2B型決定モデルである。
1つのラップトップGPU上で30.9msで決定し、それを行う出力トークンをゼロにする。
1つのコンシューマGPU上で毎秒32の意思決定を維持でき、ステートがマシンを離れることはない。
論文 参考訳(メタデータ) (2026-09-20T21:43:03Z) - TamilEOT: A Dataset and Model for Semantic End-of-Turn Detection in Tamil Telephone Speech [0.0]
TamilEOT: 18,485のラベル付き通話境界は、実際の116の電話通話から切り離された。
2つのオーディオ専用検出器は、Smart Turn v3から微調整されている。
どちらのモデルも、ラップトップのCPU上で150ms未満のシングルスレッドで動作する。
論文 参考訳(メタデータ) (2026-09-04T18:09:11Z) - Myovox: Reading Speech from the Muscles of the Face [0.0]
ミオボックスは、発声時の顔の筋肉から記録された31チャンネル表面筋電図(sEMG)から英語のオープン語彙をデコードする。
51.17%のワードエラー率から18.53%までの1つのサブジェクト Emg2speech General Corpus を3つの分離可能な動作で分離して測定する。
論文 参考訳(メタデータ) (2026-07-15T17:00:41Z) - Audio-Native Speech Recognition with a Frozen Discrete-Diffusion Language Model [0.23332469289621785]
我々はDiffusionGemmaのための音声ネイティブインタフェースをトレーニングし、一様でランダムな離散拡散によってテキストを生成する。
自然な訓練対象は、既に無視されている注意によってのみ、その勾配がプロジェクターに到達するため、音声を接地できないことが判明した。
結果として得られたモデルは、LibriSpeechテストクリーン上で6.6%のワードエラー率に達し、発話の長さに関わらずおよそ8つの並列ステップで書き起こされ、6つの言語で訓練された単一のアダプタを使用する。
論文 参考訳(メタデータ) (2026-07-14T17:53:22Z) - SpeechAlign: Aligning Speech Generation to Human Preferences [51.684183257809075]
本稿では,言語モデルと人間の嗜好を一致させる反復的自己改善戦略であるSpeechAlignを紹介する。
我々は、SpeechAlignが分散ギャップを埋め、言語モデルの継続的自己改善を促進することができることを示す。
論文 参考訳(メタデータ) (2024-04-08T15:21:17Z) - Multilingual self-supervised speech representations improve the speech
recognition of low-resource African languages with codeswitching [65.74653592668743]
微細な自己教師型多言語表現は絶対単語誤り率を最大20%削減する。
訓練データに制限のある状況では、自己教師付き表現を微調整することが、より良いパフォーマンスと実行可能なソリューションである。
論文 参考訳(メタデータ) (2023-11-25T17:05:21Z) - SpellMapper: A non-autoregressive neural spellchecker for ASR
customization with candidate retrieval based on n-gram mappings [76.87664008338317]
文脈スペル補正モデルは、音声認識を改善するために浅い融合に代わるものである。
ミススペルn-gramマッピングに基づく候補探索のための新しいアルゴリズムを提案する。
Spoken Wikipediaの実験では、ベースラインのASRシステムに比べて21.4%のワードエラー率の改善が見られた。
論文 参考訳(メタデータ) (2023-06-04T10:00:12Z) - CommonsenseQA 2.0: Exposing the Limits of AI through Gamification [126.85096257968414]
現代自然言語理解モデルの能力をテストするベンチマークを構築した。
本研究では,データ構築の枠組みとしてゲーミフィケーションを提案する。
論文 参考訳(メタデータ) (2022-01-14T06:49:15Z) - Unsupervised Speech Recognition [55.864459085947345]
wav2vec-Uは、ラベル付きデータなしで音声認識モデルを訓練する方法である。
我々は、自己教師付き音声表現を活用して、ラベルなし音声をセグメント化し、これらの表現から相手の訓練を通して音素へのマッピングを学習する。
より大きな英語のLibrispeechベンチマークでは、wav2vec-Uは、わずか2年前の960時間のラベル付きデータに基づいてトレーニングされた最も優れたシステムに匹敵する、他のテストで5.9の単語エラー率を達成した。
論文 参考訳(メタデータ) (2021-05-24T04:10:47Z) - Unsupervised Cross-lingual Representation Learning for Speech
Recognition [63.85924123692923]
XLSRは、複数の言語における音声の生波形から1つのモデルを事前学習することで、言語間音声表現を学習する。
我々は、マスク付き潜在音声表現よりも対照的なタスクを解くことで訓練されたwav2vec 2.0を構築した。
実験により、言語間事前学習はモノリンガル事前訓練よりも著しく優れていることが示された。
論文 参考訳(メタデータ) (2020-06-24T18:25:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。