論文の概要: Paradee: Distilling Kokoro-82M into an 8M-Parameter Single-Voice Text-to-Speech Model
- arxiv url: http://arxiv.org/abs/2610.06817v1
- Date: Mon, 05 Oct 2026 17:56:07 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 22:25:49.127299
- Title: Paradee: Distilling Kokoro-82M into an 8M-Parameter Single-Voice Text-to-Speech Model
- Title(参考訳): パラディー:Kokoro-82Mを8MパラメータのシングルVoiceテキスト音声モデルに蒸留
- Abstract要約: 54声のオープンテキスト音声モデルKokoro-82MをParadeeに蒸留する。
Paradeeは8.07Mパラメータモデルであり、そのうちの1つを話す。
パラメータは10倍も少なく、計算量は15倍も少ない。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We distill Kokoro-82M, a widely used open text-to-speech model with 54 voices, into Paradee, an 8.07M-parameter model that speaks one of them. Paradee keeps Kokoro's architecture with much narrower layers, and each of its two halves is trained separately against the frozen teacher. It has 10x fewer parameters and needs 15x less compute. We first synthesize a corpus with the teacher and keep its durations, pitch, energy and phoneme features. We then train a small text side to predict these values, and a small decoder to turn the teacher's saved values into the teacher's audio, first with spectral losses and then adversarially. Finally, we connect the two halves and quantize the weights to int8. It needs no alignment learning and no joint training, and it runs on one laptop. Stored in int8, Paradee is 8.5 MB, runs 25x faster than real time on one CPU thread, and scores 4.41 on UTMOS against the teacher's 4.52. The student initially kept a slight buzz, which we trace to the phase of voiced speech between 2 and 8 kHz. A phase-locking filter applied after synthesis removes most of it, with no training and no extra parameters. Code, model files and audio samples are at https://github.com/sahilmahendrakar/paradee
- Abstract(参考訳): 54声のオープンテキスト音声モデルであるKokoro-82Mを8.07MパラメータモデルであるParadeeに蒸留する。
パラディーはココロの建築をより狭い層で維持しており、2つのハーフはそれぞれ、凍結した教師に対して個別に訓練されている。
パラメータは10倍も少なく、計算量は15倍も少ない。
まず、教師とコーパスを合成し、その持続時間、ピッチ、エネルギー、音素の特徴を保ちます。
次に、これらの値を予測するために小さなテキスト側をトレーニングし、小さなデコーダを使って教師の保存した値を教師の音声に変換する。
最後に、2つの半身を繋ぎ、重量を int8 に定量化する。
アライメント学習もジョイントトレーニングも必要ありませんし,ひとつのラップトップ上でも動作します。
int8に格納されているParadeeは8.5MBで、1つのCPUスレッドで25倍高速に動作し、UTMOSでは4.41のスコアが教師の4.52に対して出力される。
学生は当初,2kHzから8kHzまでの発声音の位相をたどった。
合成後に適用された位相同期フィルタは、ほとんどを除去し、トレーニングも余分なパラメータも含まない。
コード、モデルファイル、オーディオサンプルはhttps://github.com/sahilmahendrakar/paradeeにある。
関連論文リスト
- Voice Memory for Agentic Speech Recognition [66.69623133635868]
エージェント音声認識のための推論専用スキームであるVoice Memoryを提案する。
同期的に、スコア付き例は、境界編集を通じてそのファイルを更新する。
10のHyPoradiseドメインにオープン修正器、Voice Memory、重み付き単語エラー率8.36%から7.52%の10のドメインがある。
論文 参考訳(メタデータ) (2026-07-29T02:42:56Z) - Bekko Embedding: Parameter-Efficient Multilingual Retrieval with Ultra-Compact Encoders [0.0]
以下はBekko Embeddingの最小モデルであるBekko-embedding-v1-a8mで、8Mのアクティブパラメータ (AP) 以下である。
MMTEB Multilingual v2 Retrievalでは、多言語e5ファミリーとBGE-M3(APの40倍)の上に56.2得点する。
高品質のbekko-embedding-v1-a25m (わずか25M AP)は、gte-multilingual-baseと同等の57.5mに達し、Multilingual NanoBEIR (14言語)がこの傾向を確認している。
論文 参考訳(メタデータ) (2026-07-28T01:13:37Z) - Staged Depth-Pruning Distillation of a Flow-Matching Text-to-Speech Teacher: A Compact Hindi Speech Synthesizer [0.0]
本稿では, 高精度なデータ予算の下で, コンパクトなHindiテキスト音声合成モデルを構築するための実践的レシピを提案する。
教師の幅, テキスト次元, 注意頭, メル/テキストI/Oを固定したまま, 奥行きのみを刻むことで, 教師から学生を温め始める。
この方法は6GBのラップトップGPUでリアルタイムで動く高品質のヒンディー語音声を生成する。
論文 参考訳(メタデータ) (2026-07-19T11:20:25Z) - Speak, Edit, Repeat: High-Fidelity Voice Editing and Zero-Shot TTS with Cross-Attentive Mamba [5.055749974859193]
MAVEは、テキスト条件付き音声編集と高忠実な音声合成のための新しい自動回帰アーキテクチャである。
MAVEは、音声編集における最先端のパフォーマンスと、ゼロショットTSにおける非常に競合的な結果を達成する。
MAVEは、RealEditデータベースからの発話を推測する際に、VoiceCraftよりも6倍少ないメモリを必要とする。
論文 参考訳(メタデータ) (2025-10-06T12:11:31Z) - Lina-Speech: Gated Linear Attention is a Fast and Parameter-Efficient Learner for text-to-speech synthesis [7.2129341612013285]
従来の自己注意機構を,Gated Linear Attention (GLA)のような新たな再帰的アーキテクチャに置き換えるモデルであるLina-Speechを紹介する。
このアプローチは高速で、デプロイが容易で、データセットのサイズが3分から15分に及ぶ場合に、微調整されたベースラインに匹敵するパフォーマンスを実現する。
論文 参考訳(メタデータ) (2024-10-30T04:50:40Z) - VALL-E 2: Neural Codec Language Models are Human Parity Zero-Shot Text to Speech Synthesizers [119.89284877061779]
本稿では,ゼロショット音声合成(TTS)の節目となる,ニューラルネットワークモデルの最新の進歩であるVALL-E 2を紹介する。
VALL-E 2は、その複雑さや反復句によって伝統的に困難な文であっても、高品質な音声を一貫して合成する。
この研究の利点は、失語症のある人や筋萎縮性側索硬化症を持つ人のためのスピーチを生成するなど、貴重な努力に寄与する可能性がある。
論文 参考訳(メタデータ) (2024-06-08T06:31:03Z) - Neural Codec Language Models are Zero-Shot Text to Speech Synthesizers [92.55131711064935]
テキストから音声合成(TTS)のための言語モデリング手法を提案する。
具体的には、市販のニューラルオーディオモデルから派生した離散符号を用いて、ニューラルネットワークモデル(Vall-E)を訓練する。
Vall-Eは、コンテキスト内学習機能を導入し、高品質なパーソナライズされた音声の合成に使用できる。
論文 参考訳(メタデータ) (2023-01-05T15:37:15Z) - Wav2vec-Switch: Contrastive Learning from Original-noisy Speech Pairs
for Robust Speech Recognition [52.71604809100364]
音声の文脈化表現に雑音のロバスト性をエンコードするwav2vec-Switchを提案する。
具体的には、オリジナルノイズの多い音声ペアを同時にwav2vec 2.0ネットワークに供給する。
既存のコントラスト学習タスクに加えて、原音声と雑音音声の量子化表現を追加の予測対象に切り替える。
論文 参考訳(メタデータ) (2021-10-11T00:08:48Z) - FastSpeech 2: Fast and High-Quality End-to-End Text to Speech [189.05831125931053]
FastSpeechのような非自己回帰テキスト・トゥ・スピーチ(TTS)モデルは、同等の品質の以前の自己回帰モデルよりもはるかに高速に音声を合成することができる。
FastSpeechには,(1)教師-学生蒸留パイプラインが複雑で時間を要すること,(2)教師モデルから抽出した期間が十分正確でないこと,(2)教師モデルから抽出したターゲットメル-スペクトログラムが情報損失に悩まされていること,など,いくつかの欠点がある。
我々は,教師の簡易な出力ではなく,接地目標でモデルを直接訓練するFastSpeech 2を提案する。
論文 参考訳(メタデータ) (2020-06-08T13:05:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。