Fugu-MT 論文翻訳(概要): Spanish TrOCR: Leveraging Transfer Learning for Language Adaptation

論文の概要: Spanish TrOCR: Leveraging Transfer Learning for Language Adaptation

arxiv url: http://arxiv.org/abs/2407.06950v1
Date: Tue, 9 Jul 2024 15:31:41 GMT
ステータス: 処理完了
システム内更新日: 2024-07-10 17:37:36.944876
Title: Spanish TrOCR: Leveraging Transfer Learning for Language Adaptation
Title（参考訳）: スペイン語 TrOCR: 言語適応のためのトランスファー学習の活用
Authors: Filipe Lauar, Valentin Laurent,
Abstract要約: 本研究では,TrOCRアーキテクチャのスペイン語への移行学習能力について検討する。我々は、英語のTrOCRエンコーダを言語固有のデコーダと統合し、この言語でモデルを訓練する。英語のTrOCRをスペイン語で微調整すると、固定データセットサイズに対する言語固有のデコーダよりも優れた認識が得られる。
参考スコア（独自算出の注目度）: 0.0
License: http://creativecommons.org/licenses/by/4.0/
Abstract: This study explores the transfer learning capabilities of the TrOCR architecture to Spanish. TrOCR is a transformer-based Optical Character Recognition (OCR) model renowned for its state-of-the-art performance in English benchmarks. Inspired by Li et al. assertion regarding its adaptability to multilingual text recognition, we investigate two distinct approaches to adapt the model to a new language: integrating an English TrOCR encoder with a language specific decoder and train the model on this specific language, and fine-tuning the English base TrOCR model on a new language data. Due to the scarcity of publicly available datasets, we present a resource-efficient pipeline for creating OCR datasets in any language, along with a comprehensive benchmark of the different image generation methods employed with a focus on Visual Rich Documents (VRDs). Additionally, we offer a comparative analysis of the two approaches for the Spanish language, demonstrating that fine-tuning the English TrOCR on Spanish yields superior recognition than the language specific decoder for a fixed dataset size. We evaluate our model employing character and word error rate metrics on a public available printed dataset, comparing the performance against other open-source and cloud OCR spanish models. As far as we know, these resources represent the best open-source model for OCR in Spanish. The Spanish TrOCR models are publicly available on HuggingFace [20] and the code to generate the dataset is available on Github [25].
Abstract（参考訳）: 本研究では,TrOCRアーキテクチャのスペイン語への移行学習能力について検討する。 TrOCRはトランスフォーマーベースの光学文字認識(OCR)モデルである。日本語のTrOCRエンコーダを言語固有のデコーダと統合し、その言語上でモデルを訓練し、新しい言語データに基づいて英語ベースのTrOCRモデルを微調整する。公開されているデータセットが不足しているため、あらゆる言語でOCRデータセットを作成するためのリソース効率のよいパイプラインと、Visual Rich Documents(VRD)に焦点を当てたさまざまな画像生成方法の包括的なベンチマークを提示します。さらに、スペイン語に対する2つのアプローチの比較分析を行い、英語のTrOCRをスペイン語で微調整することで、固定データセットサイズの言語固有デコーダよりも優れた認識が得られることを示した。我々は、利用可能な印刷データセット上で文字と単語の誤り率の指標を用いたモデルを評価し、他のオープンソースおよびクラウドOCRスパンディッシュモデルと比較した。私たちが知る限り、これらのリソースはスペイン語でOCRのための最高のオープンソースモデルを表しています。スペインのTrOCRモデルはHuggingFace [20]で公開されており、データセットを生成するコードはGithub [25]で公開されている。

関連論文リスト

Towards Retrieval-Augmented Architectures for Image Captioning [81.11529834508424]
本研究は,外部kNNメモリを用いた画像キャプションモデルの構築に向けた新しい手法を提案する。具体的には、視覚的類似性に基づく知識検索コンポーネントを組み込んだ2つのモデル変種を提案する。我々はCOCOデータセットとnocapsデータセットに対する我々のアプローチを実験的に検証し、明示的な外部メモリを組み込むことでキャプションの品質を著しく向上させることができることを示した。
論文参考訳（メタデータ） (2024-05-21T18:02:07Z)
Lost in Translation, Found in Spans: Identifying Claims in Multilingual Social Media [40.26888469822391]
クレームスパン識別(CSI)は、ファクトチェックパイプラインの重要なステップである。ジャーナリストや人間のファクトチェッカーにとって重要な問題だが、いまだに過小評価されている問題である。我々は、多くのソーシャルメディアプラットフォームから5つのインド語と英語で収集された7Kの現実世界のクレームからなる、新しいデータセットX-CLAIMを作成します。
論文参考訳（メタデータ） (2023-10-27T15:28:12Z)
EfficientOCR: An Extensible, Open-Source Package for Efficiently Digitizing World Knowledge [1.8434042562191815]
EffOCRは、オープンソースの光文字認識(OCR)パッケージである。これは、大規模にテキストを解放するための計算とサンプルの効率の要求を満たす。 EffOCRは安価で、トレーニングにはサンプルの効率がよい。
論文参考訳（メタデータ） (2023-10-16T04:20:16Z)
Learning Cross-lingual Mappings for Data Augmentation to Improve Low-Resource Speech Recognition [31.575930914290762]
言語間リソースの爆発は、低リソース言語のデータの不足を補う効果的な方法である。エンドツーエンド音声認識のための学習可能な言語間マッピングの概念を拡張した。その結果,任意のソース言語 ASR モデルを用いて,低リソースターゲット言語認識を行うことが可能であることが示唆された。
論文参考訳（メタデータ） (2023-06-14T15:24:31Z)
Strategies for improving low resource speech to text translation relying on pre-trained ASR models [59.90106959717875]
本稿では,テキスト翻訳(ST)における低音源音声の性能向上のための技術と知見について述べる。本研究は,英語とポルトガル語,タマシェク語とフランス語の2つの言語対について,シミュレーションおよび実低資源設定について実験を行った。
論文参考訳（メタデータ） (2023-05-31T21:58:07Z)
TransDocs: Optical Character Recognition with word to word translation [2.2336243882030025]
本研究は,光学文字認識(OCR)をML技術で改善することに焦点を当てる。この研究は、英語からスペイン語への翻訳のためのANKIデータセットに基づいている。
論文参考訳（メタデータ） (2023-04-15T21:40:14Z)
CLIP-ViP: Adapting Pre-trained Image-Text Model to Video-Language Representation Alignment [146.3128011522151]
本稿では,CLIP,すなわちCLIP-ViPに基づいて,ビデオプロキシ機構を備えたOmniクロスモーダル学習手法を提案する。提案手法は,ビデオテキスト検索におけるCLIPの性能を大きなマージンで向上させる。 MSR-VTT, DiDeMo, LSMDC, ActivityNet など,様々なデータセット上でのSOTA結果も得られた。
論文参考訳（メタデータ） (2022-09-14T05:47:02Z)
Retrieval-Augmented Transformer for Image Captioning [51.79146669195357]
我々は、kNNメモリを用いた画像キャプション手法を開発し、外部コーパスから知識を抽出して生成プロセスを支援する。我々のアーキテクチャは、視覚的類似性に基づく知識検索と、識別可能なエンコーダと、トークンを予測するためにkNN拡張アテンション層を組み合わせる。 COCOデータセットで実施した実験結果は、明示的な外部メモリを利用することで、生成プロセスの助けとなり、キャプションの品質が向上することを示した。
論文参考訳（メタデータ） (2022-07-26T19:35:49Z)
OCR Improves Machine Translation for Low-Resource Languages [10.010595434359647]
我々は,騒音に富んだ実データと合成データからなる新しいベンチマークであるtextscOCR4MTを導入し,公開する。我々は、我々のベンチマークで最先端のOCRシステムを評価し、最も一般的なエラーを分析した。次に,OCRエラーが機械翻訳性能に与える影響について検討する。
論文参考訳（メタデータ） (2022-02-27T02:36:45Z)
Lexically Aware Semi-Supervised Learning for OCR Post-Correction [90.54336622024299]
世界中の多くの言語における既存の言語データの多くは、非デジタル化された書籍や文書に閉じ込められている。従来の研究は、あまり良くない言語を認識するためのニューラル・ポスト・コレクション法の有用性を実証してきた。そこで本研究では,生画像を利用した半教師付き学習手法を提案する。
論文参考訳（メタデータ） (2021-11-04T04:39:02Z)
Reinforced Iterative Knowledge Distillation for Cross-Lingual Named Entity Recognition [54.92161571089808]
言語間NERは、知識をリッチリソース言語から低リソース言語に転送する。既存の言語間NERメソッドは、ターゲット言語でリッチなラベル付けされていないデータをうまく利用しない。半教師付き学習と強化学習のアイデアに基づく新しいアプローチを開発する。
論文参考訳（メタデータ） (2021-06-01T05:46:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。