論文の概要: TADA: Task-Agnostic Dialect Adapters for English

• arxiv url: http://arxiv.org/abs/2305.16651v1
• Date: Fri, 26 May 2023 05:45:03 GMT
• ステータス: 処理完了
• システム内更新日: 2023-05-29 16:52:04.250640
• Title: TADA: Task-Agnostic Dialect Adapters for English
• Title（参考訳）: TADA: タスク非依存の英語用辞書アダプタ
• Authors: Will Held, Caleb Ziems, Diyi Yang
• Abstract要約: 大きな言語モデルは、標準アメリカ英語(SAE)以外の英語方言の話者よりも高いレートで失敗する 本研究では,非SAE方言をアダプティブを用いて調整し,それをSAEのタスク固有アダプタと組み合わせることで,タスク非依存の方言適応のための簡易かつ効果的な手法を提案する。
• 参考スコア（独自算出の注目度）: 44.39195676661607
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large Language Models, the dominant starting point for Natural Language Processing (NLP) applications, fail at a higher rate for speakers of English dialects other than Standard American English (SAE). Prior work addresses this using task-specific data or synthetic data augmentation, both of which require intervention for each dialect and task pair. This poses a scalability issue that prevents the broad adoption of robust dialectal English NLP. We introduce a simple yet effective method for task-agnostic dialect adaptation by aligning non-SAE dialects using adapters and composing them with task-specific adapters from SAE. Task-Agnostic Dialect Adapters (TADA) improve dialectal robustness on 4 dialectal variants of the GLUE benchmark without task-specific supervision.
• Abstract（参考訳）: 自然言語処理(NLP)アプリケーションの主要な出発点であるLarge Language Modelsは、標準アメリカ英語(SAE)以外の英語方言の話者にとっては、より高い速度で失敗する。 以前の作業では、各方言とタスクペアの介入を必要とするタスク固有のデータまたは合成データ拡張を使用して、この問題に対処していた。 これは、堅牢な方言のNLPが広く採用されるのを防ぐスケーラビリティの問題を引き起こす。 我々は,非SAE方言をアダプタを用いて調整し,それらをSAEのタスク固有アダプタと組み合わせることで,タスク非依存の方言適応の簡易かつ効果的な方法を提案する。 Task-Agnostic Dialect Adapters (TADA) は、GLUEベンチマークの4つの方言変種に対する方言の堅牢性を改善する。

関連論文リスト

• An Initial Investigation of Language Adaptation for TTS Systems under Low-resource Scenarios [76.11409260727459]
  本稿では,最近のSSLベースの多言語TSシステムであるZMM-TTSの言語適応性について検討する。 本研究では,事前学習言語と対象言語との音声学的な類似性が,対象言語の適応性能に影響を及ぼすことを示す。
  論文  参考訳（メタデータ） (2024-06-13T08:16:52Z)
• AdaMergeX: Cross-Lingual Transfer with Large Language Models via Adaptive Adapter Merging [96.39773974044041]
  言語間移動は、特定の言語における目標タスクを直接微調整することの効果的な代替手段である。 本稿では,適応型アダプティブマージを利用した新しい言語間変換法である$textttAdaMergeX$を提案する。 実験の結果,提案手法は,すべての設定において既存の手法よりも優れ,新しい,効果的な言語間移動をもたらすことが示された。
  論文  参考訳（メタデータ） (2024-02-29T07:11:24Z)
• What Do Dialect Speakers Want? A Survey of Attitudes Towards Language Technology for German Dialects [60.8361859783634]
  我々はドイツ語に関連する方言と地域言語に関する話者を調査した。 回答者は特に、方言入力で動作する潜在的なNLPツールを好んでいる。
  論文  参考訳（メタデータ） (2024-02-19T09:15:28Z)
• Task-Agnostic Low-Rank Adapters for Unseen English Dialects [52.88554155235167]
  LLM(Large Language Models)は、標準アメリカ英語を好んで不均等に重み付けされたコーパスで訓練される。 HyperLoRAは、方言特化情報と方言横断情報を混同することにより、タスクに依存しない方法で未確認の方言への一般化を改善する。
  論文  参考訳（メタデータ） (2023-11-02T01:17:29Z)
• Simple yet Effective Code-Switching Language Identification with Multitask Pre-Training and Transfer Learning [0.7242530499990028]
  コードスイッチング(Code-switching)は、カジュアルな設定において、多言語話者が異なる言語の単語を1つの発話で混ぜる言語現象である。 英マンダリン言語指向音声データセットにおける言語識別精度向上のための2つの新しいアプローチを提案する。 我々の最良のモデルでは、実際の英マンダリンのコードスイッチングによる子指向音声コーパスにおいて、0.781のバランスの取れた精度を達成し、以前のベースラインを55.3%上回っている。
  論文  参考訳（メタデータ） (2023-05-31T11:43:16Z)
• DADA: Dialect Adaptation via Dynamic Aggregation of Linguistic Rules [64.93179829965072]
  DADAは、多言語対応のSAE訓練モデルに対するモジュラーアプローチである。 DADAは単一タスクと命令言語モデルの両方に有効であることを示す。
  論文  参考訳（メタデータ） (2023-05-22T18:43:31Z)
• Lightweight Adapter Tuning for Multilingual Speech Translation [47.89784337058167]
  適応モジュールはNLPのファインチューニングの代替として最近導入された。 本稿では,多言語音声翻訳用アダプタの包括的解析を提案する。
  論文  参考訳（メタデータ） (2021-06-02T20:51:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。