論文の概要: Hybrid Continual Learning for Low-Resource Australian Aboriginal Language Identification

• arxiv url: http://arxiv.org/abs/2607.11946v1
• Date: Sat, 11 Jul 2026 11:01:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-15 17:08:29.890795
• Title: Hybrid Continual Learning for Low-Resource Australian Aboriginal Language Identification
• Title（参考訳）: 低リソースオーストラリアアボリジニ言語識別のためのハイブリッド連続学習
• Abstract要約: 言語識別は、絶滅危惧種のオーストラリア先住民言語を統合するための重要なステップである。 AAL識別のための事前訓練音声モデルに適用するための2つのハイブリッド連続学習手法を提案する。 Warlpiri、Dalabon、Dharawalの実験では、提案手法は微調整や既存のCLベースラインよりも優れていることが示された。
• 参考スコア（独自算出の注目度）: 21.667628942555506
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Language identification is an important step toward integrating endangered Australian Aboriginal languages (AALs) into speech technologies supporting language revitalisation and digital inclusion. However, extreme data scarcity limits model performance. Transfer learning from high-resource languages shows promise but often suffers from catastrophic forgetting when adapting to new languages. Continual learning (CL) can mitigate this issue, though it remains challenging with very limited data. To address this, we propose two hybrid continual learning methods: Replay Augmented Elastic Weight Consolidation and Constraint Guided Knowledge Distillation to adapt pretrained speech models for AAL identification while preserving previously learned knowledge. Experiments on Warlpiri, Dalabon and Dharawal show that the proposed methods outperform fine-tuning and existing CL baselines, improving adaptation to multiple AALs while maintaining performance on previously learnt high-resource languages.
• Abstract（参考訳）: 言語識別は、絶滅危惧種のオーストラリア原住民言語(AAL)を言語再生とデジタル包摂をサポートする音声技術に統合するための重要なステップである。 しかし、極端なデータ不足はモデルの性能を制限します。 高リソース言語からのトランスファーラーニングは有望であるが、しばしば新しい言語に適応する際の破滅的な忘れ込みに悩まされる。 継続学習(CL)はこの問題を緩和することができるが、非常に限られたデータではまだ困難である。 そこで本研究では,事前学習した知識を保ちながら,AAL識別のための事前学習された音声モデルを適用するために,強化された弾性重み強化と制約付き知識蒸留という2つのハイブリッド連続学習手法を提案する。 Warlpiri、Dalabon、Dharawalの実験では、提案手法は微調整と既存のCLベースラインを上回り、複数のAALへの適応を改善しつつ、学習済みの高リソース言語の性能を維持している。

関連論文リスト

• MiLorE-SSL: Scaling Multilingual Capabilities in Self-Supervised Models without Forgetting [69.6938830307759]
  MiLorE-SSLは、LoRAモジュールとソフトミキシング・オブ・エキスパート・メカニズムを組み合わせて、効率的な連続多言語トレーニングを行う軽量フレームワークである。 LoRAは効率的な低ランク適応を提供するが、ソフトなMoEは言語間のフレキシブルな専門家共有を促進し、言語間の干渉を減らす。 ML-SUPERBの実験では、MiLorE-SSLは新しい言語で高いパフォーマンスを実現し、2.14%のトレーニング可能なパラメータで既存の言語での性能を向上させることが示されている。
  論文  参考訳（メタデータ） (2026-01-28T06:48:52Z)
• Continually Adding New Languages to Multilingual Language Models [5.733123943059241]
  対象言語のみの事前学習データへのアクセスを前提として,多言語モデルに新たな言語を継続的に追加する問題について検討する。 本稿では,選択した初期層と最終層にLow-Rank Adapterを追加し,残りのモデルを凍結させながらLayRA(LayRA)を提案する。 LayRAは、前もってサポートされた言語でモデルの能力を保ちながら、新しい言語を学ぶのにLoRAのような既存のアプローチと競合する、全体的なトレードオフを提供する。
  論文  参考訳（メタデータ） (2025-09-14T20:08:15Z)
• A Study on Regularization-Based Continual Learning Methods for Indic ASR [0.0]
  インドにおける言語多様性は、包括的自動音声認識(ASR)システムを開発する上で大きな課題となっている。 すべての言語データへの同時アクセスを必要とする従来の多言語モデルは、データのシーケンシャルな到着とプライバシ制約のため、現実的ではない。 継続学習(Continuous Learning)は、モデルがそれまでの知識を忘れずに、新しい言語を逐次学習できるようにすることによって、ソリューションを提供する。
  論文  参考訳（メタデータ） (2025-08-08T13:02:19Z)
• How to Learn a New Language? An Efficient Solution for Self-Supervised Learning Models Unseen Languages Adaption in Low-Resource Scenario [72.02391485962127]
  音声認識(ASR)における音声自己監視学習(SSL)モデルの性能向上 低リソース言語 ASR では、事前訓練された言語と低リソース言語のドメインミスマッチ問題に遭遇する。 これらの問題に対処するためのアダプタに基づく従来型の効率的な微調整手法を拡張した。
  論文  参考訳（メタデータ） (2024-11-27T10:51:00Z)
• Seamless Language Expansion: Enhancing Multilingual Mastery in Self-Supervised Models [69.59613095232598]
  既存のSSLモデルにLoRAを統合して新しい言語を拡張する適応手法を提案する。 また、既存の言語における能力を維持するために、データの組み合わせと再クラスタ化を含む保存戦略も開発している。
  論文  参考訳（メタデータ） (2024-06-20T08:13:30Z)
• Improving Language Plasticity via Pretraining with Active Forgetting [63.36484652568976]
  本稿では,新しい言語に迅速に適応可能な PLM を作成する簡単な方法として,事前学習中に能動的に忘れる機構を提案する。 RoBERTaを用いた実験では、忘れるメカニズムで事前訓練されたモデルは、言語適応中により高速な収束を示す。
  論文  参考訳（メタデータ） (2023-07-03T17:12:44Z)
• Adaptive Activation Network For Low Resource Multilingual Speech Recognition [30.460501537763736]
  ASRモデルの上位層に適応的アクティベーションネットワークを導入する。 また,(1)クロス言語学習,(2)アクティベーション関数をソース言語からターゲット言語に置き換える,(2)多言語学習という2つの手法を提案する。 IARPA Babelデータセットに関する実験により、我々のアプローチは、オフスクラッチトレーニングや従来のボトルネック機能に基づく手法よりも優れていることを示した。
  論文  参考訳（メタデータ） (2022-05-28T04:02:59Z)
• Adapt-and-Adjust: Overcoming the Long-Tail Problem of Multilingual Speech Recognition [58.849768879796905]
  エンドツーエンドの多言語音声認識のためのトランスフォーマーベースマルチタスク学習フレームワークであるAdapt-and-Adjust (A2)を提案する。 A2フレームワークは,(1) 訓練済み多言語言語モデル (mBERT) を利用して低リソース言語の性能を向上させる,(2) 言語固有の適応と言語に依存しない2つのアダプタを最小限の追加パラメータで提案する,(3) クラス不均衡を克服する,という3つの手法で解決する。
  論文  参考訳（メタデータ） (2020-12-03T03:46:16Z)
• Meta-Transfer Learning for Code-Switched Speech Recognition [72.84247387728999]
  低リソース環境下でのコード切替音声認識システムにおける学習を伝達するメタトランスファー学習法を提案する。 本モデルでは,コードスイッチングデータに最適化を条件付けることにより,個々の言語を識別し,混合言語音声をよりよく認識できるように変換する。
  論文  参考訳（メタデータ） (2020-04-29T14:27:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。