論文の概要: WARDEN: Endangered Indigenous Language Transcription and Translation with 6 Hours of Training Data
- arxiv url: http://arxiv.org/abs/2605.13846v1
- Date: Wed, 13 May 2026 17:59:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-14 23:30:28.228687
- Title: WARDEN: Endangered Indigenous Language Transcription and Translation with 6 Hours of Training Data
- Title(参考訳): WARDEN:6時間トレーニングデータによる絶滅危惧言語転写と翻訳
- Abstract要約: 本稿では,Wardamanを英語に翻訳・翻訳できる早期言語モデルシステムであるWARDENを紹介する。
注釈付きオーディオは6時間しかありません。
この2段階の設計は、極めて低いデータ設定において、データハングリーな統一アプローチよりも優れていることを実証的に実証する。
- 参考スコア(独自算出の注目度): 22.4502082449321
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper introduces WARDEN, an early language model system capable of transcribing and translating Wardaman, an endangered Australian indigenous language into English. The significant challenge we face is the lack of large-scale training data: in fact, we only have 6 hours of annotated audio. Therefore, while it is common practice to train a single model for transcription and translation using large datasets (like English to French), this practice is no longer viable in the Wardaman to English context. To tackle the low-resource challenge, we design WARDEN to have separate transcription and translation models: WARDEN first turns a Wardaman audio input into phonemic transcription, and then the transcription into English translation. Further, we propose two useful techniques to enhance performance. For transcription, we initialize the Wardaman token from Sundanese, a language that shares similar phonemes with Wardaman, to accelerate fine-tuning of the transcription model. For translation, we compile a Wardaman-English dictionary from expert annotations, and provide this domain-specific knowledge to a large language model (LLM) to reason and decide the final output. We empirically demonstrate that this two-stage design works better than data-hungry unified approaches in extremely low data settings. Using a mere 6 hours of annotated data, WARDEN outperforms larger open-source and proprietary models and establishes a strong baseline. Data and code are available.
- Abstract(参考訳): 本稿では,絶滅危惧種であるWardamanを英語に翻訳・翻訳できる早期言語モデルシステムWARDENを紹介する。
私たちが直面している大きな課題は、大規模なトレーニングデータの欠如です。
したがって、大きなデータセット(例えば、英語からフランス語)を使って1つのモデルで書き起こしと翻訳を訓練することは一般的な慣例であるが、ウォーダマン語ではもはや英語の文脈では不可能である。
WARDENは、まずWardaman音声入力を音素転写に変換し、次に英語翻訳に変換する。
さらに,性能向上のための2つの有用な手法を提案する。
書き起こしには、類似の音素を共有する言語であるSundaneseからWardamanトークンを初期化して、転写モデルの微調整を高速化する。
翻訳では、専門家のアノテーションからWardaman-English辞書をコンパイルし、このドメイン固有の知識を大言語モデル(LLM)に提供し、最終的な出力を推論し決定する。
この2段階の設計は、極めて低いデータ設定において、データハングリーな統一アプローチよりも優れていることを実証的に実証する。
6時間の注釈付きデータだけで、WARDENはより大きなオープンソースおよびプロプライエタリなモデルより優れ、強力なベースラインを確立する。
データとコードは利用可能である。
関連論文リスト
- Simultaneous Speech-to-Speech Translation Without Aligned Data [52.467808474293605]
同時音声翻訳では、ソース音声を対象言語にリアルタイムで翻訳する必要がある。
単語レベルのアライメントを完全に不要にするヒビキゼロを提案する。
Hibiki-Zeroは5つのX-英語タスクの翻訳精度、レイテンシ、音声転送、自然性において最先端のパフォーマンスを実現している。
論文 参考訳(メタデータ) (2026-02-11T17:41:01Z) - Deepfake audio as a data augmentation technique for training automatic
speech to text transcription models [55.2480439325792]
本稿では,ディープフェイク音声に基づくデータ拡張手法を提案する。
インド人(英語)が生成したデータセットが選択され、単一のアクセントの存在が保証された。
論文 参考訳(メタデータ) (2023-09-22T11:33:03Z) - Improving End-to-End Speech Translation by Imitation-Based Knowledge
Distillation with Synthetic Transcripts [12.097786953347828]
そこで本研究では,教師のNMTシステムで手書き文字起こしに頼らずに,AST学生の誤りを訂正する模倣学習手法を提案する。
我々は,NMT教師が自動書き起こしの誤りから回復でき,AST学生の誤訳を訂正できることを示した。
論文 参考訳(メタデータ) (2023-07-17T12:14:45Z) - The Effect of Normalization for Bi-directional Amharic-English Neural
Machine Translation [53.907805815477126]
本稿では,比較的大規模なアムハラ語-英語並列文データセットを提案する。
我々は、既存のFacebook M2M100事前学習モデルを微調整することで、双方向のアムハラ語翻訳モデルを構築する。
その結果, 両方向のアンハラ語・英語機械翻訳の性能は, アンハラ語ホモホン文字の正規化により向上することが示唆された。
論文 参考訳(メタデータ) (2022-10-27T07:18:53Z) - DEEP: DEnoising Entity Pre-training for Neural Machine Translation [123.6686940355937]
機械翻訳モデルは通常、トレーニングコーパスで稀な名前付きエンティティの翻訳を貧弱に生成することが示されている。
文中の名前付きエンティティ翻訳精度を向上させるために,大量のモノリンガルデータと知識ベースを利用するDenoising Entity Pre-training法であるDEEPを提案する。
論文 参考訳(メタデータ) (2021-11-14T17:28:09Z) - Using heterogeneity in semi-supervised transcription hypotheses to
improve code-switched speech recognition [6.224255518500385]
モノリンガルデータは、コードスウィッチペア内の1つの言語とより密に一致している可能性があることを示す。
コードスイッチングASRのための半教師付きアプローチを提案する。
論文 参考訳(メタデータ) (2021-06-14T18:39:18Z) - "Wikily" Neural Machine Translation Tailored to Cross-Lingual Tasks [20.837515947519524]
リンクされたウィキペディアページの最初の文とタイトル、およびクロスリンガル画像キャプションは、二言語辞書を抽出し、ウィキペディアからパラレルテキストをマイニングするためのクロスリンガル単語埋め込みを抽出するシードパラレルデータのための強力な信号である。
画像キャプションでは、アラビア語の訓練データが英語のキャプションデータのウィキリー翻訳であるアラビア語と英語のマルチタスク機械翻訳と画像キャプションパイプラインを訓練する。
アラビア語の字幕化の結果は、教師付きモデルよりも若干優れている。
論文 参考訳(メタデータ) (2021-04-16T21:49:12Z) - Textual Supervision for Visually Grounded Spoken Language Understanding [51.93744335044475]
音声から意味情報を抽出する音声言語理解モデル
これは、書き起こしが高価または入手が不可能な低リソース言語に有用である。
最近の研究では、これらのモデルがトレーニング時に転写可能であれば改善できることが示されている。
論文 参考訳(メタデータ) (2020-10-06T15:16:23Z) - Consecutive Decoding for Speech-to-text Translation [51.155661276936044]
COnSecutive Transcription and Translation (COSTT)は、音声からテキストへの翻訳に不可欠な手法である。
鍵となるアイデアは、ソースの書き起こしとターゲットの翻訳テキストを1つのデコーダで生成することである。
本手法は3つの主流データセットで検証する。
論文 参考訳(メタデータ) (2020-09-21T10:10:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。