論文の概要: IsharaBART: An efficient BART-Based Framework for Low-Resource Bangla Sign Language Translation
- arxiv url: http://arxiv.org/abs/2611.16359v1
- Date: Thu, 12 Nov 2026 06:21:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-14 01:36:33.375834
- Title: IsharaBART: An efficient BART-Based Framework for Low-Resource Bangla Sign Language Translation
- Title(参考訳): IsharaBART: 低リソースバングラ手話翻訳のための効率的なBARTベースのフレームワーク
- Abstract要約: バングラ手話(BdSL)における光文翻訳のための双方向生成フレームワーク「IsharaBART」について紹介する。
IsharaBARTは、双方向および自動回帰変換器(BART)ベースの条件言語モデリングと、学習目的を認知する。
プレトレーニングでは62.5-90.4%のコンバージェンスと11.5-118%のBLEU-4がスクラッチよりも高速であることを示す。
- 参考スコア(独自算出の注目度): 0.688204255655161
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Millions of Bangla Sign Language (BdSL) users lack reliable automatic translation tools. Existing systems are limited by data scarcity, unidirectional design, and computationally expensive architectures that are not suitable for low-resource deployment. We introduce IsharaBART, a bidirectional generative framework for gloss-sentence translation in BdSL. IsharaBART uses Bidirectional and Auto-Regressive Transformers (BART)-based conditional language modeling with denoising learning objectives. We developed a parallel dataset of 1,000 professionally annotated gloss-sentence pairs, balanced across tenses and structures. We expanded the dataset to 4,831 pairs through four augmentation techniques: rule-based tense transformations, masked token substitutions, back-translation, and one-shot prompting. A compact denoising sequence-to-sequence model was pre-trained from scratch on monolingual Bangla text from six different corpora, then fine-tuned on the annotated and augmented datasets. We compare IsharaBART against four larger baseline models under identical conditions, where it achieves comparable or superior bidirectional performance. On the gloss-to-sentence (G2S) task, it attains Bilingual Evaluation Understudy (BLEU-4) score up to 51.7, and on the sentence-to-gloss (S2G) task, it achieves 61.40, outperforming multilingual models despite having fewer than 10% of the parameters. Ablation studies demonstrate that pre-training provides 62.5-90.4% faster convergence and 11.5-118% higher BLEU-4 than scratch. Low-rank adaptation (LoRA) reduces trainable parameters by 99.3%, but with 28.0-52.2% loss of BLEU-4 compared to full-parameter fine-tuning.
- Abstract(参考訳): 数百万のBandgla Sign Language (BdSL)ユーザーが、信頼できる自動翻訳ツールを欠いている。
既存のシステムは、データ不足、一方向設計、低リソースのデプロイメントには適さない計算コストのかかるアーキテクチャによって制限されている。
本稿では,BdSLにおける光文翻訳のための双方向生成フレームワークであるIsharaBARTを紹介する。
IsharaBARTは、双方向および自動回帰変換器(BART)ベースの条件言語モデリングと、学習目的を認知する。
我々は,1000個のプロの注釈付きグロス・センス・ペアの並列データセットを開発し,テンソルと構造にバランスを取りました。
データセットを4,831対に拡張した。ルールベースのテンソル変換,マスク付きトークン置換,バックトランスレーション,ワンショットプロンプトという4つの拡張テクニックである。
6つの異なるコーパスからモノリンガルBanglaテキストをスクラッチから学習し,アノテートデータセットとアノテートデータセットを微調整した。
我々はIsharaBARTを同一条件下で4つの大きなベースラインモデルと比較する。
G2S(Gloss-to-Sentence)タスクでは、BLEU-4(Bilingual Evaluation Understudy)スコアが51.7に達し、S2G(S2G)タスクでは、パラメータの10%未満にもかかわらず、61.40を達成している。
アブレーション研究により、プレトレーニングにより62.5-90.4%の収束が速く、11.5-118%のBLEU-4がスクラッチよりも高いことが示されている。
ローランク適応(LoRA)はトレーニング可能なパラメータを99.3%削減するが、フルパラメータの微調整に比べてBLEU-4が28.0-52.2%減少する。
関連論文リスト
- On the Effectiveness and Limitations of Open-Weight LLMs for Low-Resource Offensive Language Detection in Danish [3.9557119683079818]
デンマーク語攻撃言語検出のためのオープンウェイト大言語モデル(LLM)の有効性とロバスト性について検討した。
我々は,3つのBERTファミリーのベースラインと異なる事前学習戦略を比較し,マスク付き言語モデルと教師付き微調整による評価を行った。
単一モデルやプロンプトカテゴリーが支配的ではなく、事前予測できない方法でモデル事前学習と即時設計が相互作用する、という前提である。
論文 参考訳(メタデータ) (2026-11-06T14:23:41Z) - AssameseLM-E2B: An Open-Weight Assamese Language Model for Efficient Consumer-Grade Deployment [0.0]
本稿では,AssameseLM-E2Bとその命令調整型であるAssameseLM-E2B-itについて述べる。
このモデルは拡張バイトレベルのBPE語彙を導入し、多言語2B--3Bベースラインと比較してトークン化オーバーヘッドを500%近く削減する。
論文 参考訳(メタデータ) (2026-11-04T08:48:43Z) - Parameter-Efficient Fine-Tuning for Low-Resource Languages: A Comparative Study of LLMs for Bengali Hate Speech Detection [0.0]
本稿では,LoRAとQLoRAを用いたベンガルヘイトスピーチ検出におけるPEFT(Efficient Fine-Tuning)の最初の応用について述べる。
BD-SHSデータセットには50,281の注釈付きコメントが記載されている。
Llama-3.2-3Bは92.23%、Mistral-7Bは88.94%、Gemma-3-4Bは80.25%だった。
論文 参考訳(メタデータ) (2025-10-19T20:03:22Z) - State-of-the-Art Translation of Text-to-Gloss using mBART : A case study of Bangla [0.023301643766310366]
聴覚障害と愚かな人口は170万人であるにもかかわらず、バングラ手話(BdSL)は未調査領域である。
ドイツとアメリカで使われている文法規則に基づくグロス生成からインスピレーションを得て,BdSLに適応する。
トレーニング済みmBART-50とmBERT-multiclass-uncasedモデルをデータセット上で微調整した。
私たちのmBART-50ファネチューンは、PHOENIX-14TベンチマークでState-of-the-Artのパフォーマンスを示しました。
論文 参考訳(メタデータ) (2025-04-03T05:47:51Z) - Breaking Language Barriers in Multilingual Mathematical Reasoning: Insights and Observations [59.056367787688146]
本稿では, マルチリンガル数学推論 (xMR) LLM の探索と学習の先駆者である。
我々は10の異なる言語を含む最初の多言語数学推論命令データセットMGSM8KInstructを構築した。
翻訳を利用して、10個の異なる言語を含む最初の多言語数学推論命令データセットMGSM8KInstructを構築した。
論文 参考訳(メタデータ) (2023-10-31T08:09:20Z) - OneAligner: Zero-shot Cross-lingual Transfer with One Rich-Resource
Language Pair for Low-Resource Sentence Retrieval [91.76575626229824]
文検索タスク用に特別に設計されたアライメントモデルであるOneAlignerを提案する。
大規模並列多言語コーパス(OPUS-100)の全ての言語ペアで訓練すると、このモデルは最先端の結果が得られる。
実験結果から,文アライメントタスクの性能はモノリンガルおよび並列データサイズに大きく依存することがわかった。
論文 参考訳(メタデータ) (2022-05-17T19:52:42Z) - The USYD-JD Speech Translation System for IWSLT 2021 [85.64797317290349]
本稿では,シドニー大学とJDが共同でIWSLT 2021低リソース音声翻訳タスクを提出したことを述べる。
私たちは、公式に提供されたASRとMTデータセットでモデルをトレーニングしました。
翻訳性能の向上を目的として, バック翻訳, 知識蒸留, 多機能再構成, トランスダクティブファインタニングなど, 最新の効果的な手法について検討した。
論文 参考訳(メタデータ) (2021-07-24T09:53:34Z) - Continual Mixed-Language Pre-Training for Extremely Low-Resource Neural
Machine Translation [53.22775597051498]
我々は,mbart を未熟な言語に効果的に適用するための,継続的な事前学習フレームワークを提案する。
その結果,mBARTベースラインの微調整性能を一貫して改善できることが示された。
私たちのアプローチは、両方の言語が元のmBARTの事前トレーニングで見られる翻訳ペアのパフォーマンスを高めます。
論文 参考訳(メタデータ) (2021-05-09T14:49:07Z) - Multilingual Speech Translation with Efficient Finetuning of Pretrained
Models [82.22294901727933]
最小限のLNA(LayerNorm and Attention)ファインタニングは、ゼロショットのクロスリンガルおよびクロスモーダリティ転送能力を実現することができる。
本手法は多言語多言語モデルにおいて強いゼロショット性能を示す。
論文 参考訳(メタデータ) (2020-10-24T08:15:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。