論文の概要: Writer adaptation for offline text recognition: An exploration of neural network-based methods

• arxiv url: http://arxiv.org/abs/2307.15071v1
• Date: Tue, 11 Jul 2023 11:35:08 GMT
• ステータス: 処理完了
• システム内更新日: 2023-08-06 11:31:17.361480
• Title: Writer adaptation for offline text recognition: An exploration of neural network-based methods
• Title（参考訳）: オフラインテキスト認識のための文字適応:ニューラルネットワークに基づく手法の探索
• Authors: Tobias van der Werff, Maruf A. Dhali, Lambert Schomaker
• Abstract要約: 理想的な手書き文字認識(HTR)モデルは、新しい筆記スタイルに適応すべきである。 我々は, HTRモデルを新しいライターの例を少しだけ使って, ライターに適応させる方法を示す。
• 参考スコア（独自算出の注目度）: 5.285396202883411
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Handwriting recognition has seen significant success with the use of deep learning. However, a persistent shortcoming of neural networks is that they are not well-equipped to deal with shifting data distributions. In the field of handwritten text recognition (HTR), this shows itself in poor recognition accuracy for writers that are not similar to those seen during training. An ideal HTR model should be adaptive to new writing styles in order to handle the vast amount of possible writing styles. In this paper, we explore how HTR models can be made writer adaptive by using only a handful of examples from a new writer (e.g., 16 examples) for adaptation. Two HTR architectures are used as base models, using a ResNet backbone along with either an LSTM or Transformer sequence decoder. Using these base models, two methods are considered to make them writer adaptive: 1) model-agnostic meta-learning (MAML), an algorithm commonly used for tasks such as few-shot classification, and 2) writer codes, an idea originating from automatic speech recognition. Results show that an HTR-specific version of MAML known as MetaHTR improves performance compared to the baseline with a 1.4 to 2.0 improvement in word error rate (WER). The improvement due to writer adaptation is between 0.2 and 0.7 WER, where a deeper model seems to lend itself better to adaptation using MetaHTR than a shallower model. However, applying MetaHTR to larger HTR models or sentence-level HTR may become prohibitive due to its high computational and memory requirements. Lastly, writer codes based on learned features or Hinge statistical features did not lead to improved recognition performance.
• Abstract（参考訳）: 筆跡認識はディープラーニングを用いることで大きな成功を収めた。 しかし、ニューラルネットワークの永続的な欠点は、シフトするデータ分布を扱うのに十分な装備がないことである。 手書きテキスト認識(htr)の分野では、これは訓練中に見たものと似ていない作家の認識精度が低いことを示している。 理想的なhtrモデルは、可能な膨大な書き込みスタイルを扱うために、新しい書き込みスタイルに適応する必要がある。 本稿では,新しい書き手(例16例など)からのサンプルのみを用いて,htrモデルを用いて書き手適応を実現する方法について検討する。 2つのHTRアーキテクチャはベースモデルとして使われ、LSTMまたはTransformerシーケンスデコーダと共にResNetのバックボーンを使用している。 これらの基本モデルを用いることで,2つの手法が文字適応化を図っている。 1)モデル非依存型メタラーニング(maml)は,マイトショット分類などのタスクに一般的に使用されるアルゴリズムである。 2)書き手符号は自動音声認識から派生した概念である。 その結果,MetaHTRとして知られるHTR固有のMAMLでは,単語誤り率(WER)が1.4～2.0向上したベースラインに比べて性能が向上した。 ライター適応による改善は0.2から0.7 werの間であり、より深いモデルはより浅いモデルよりもmetahtrを使った適応に向いているようである。 しかし、MetaHTRをより大きなHTRモデルや文レベルのHTRに適用することは、高い計算とメモリ要求のために禁止される可能性がある。 最後に,学習特徴やヒンジ統計特徴に基づく書き手符号は,認識性能の向上には至らなかった。

関連論文リスト

• Classification of Non-native Handwritten Characters Using Convolutional Neural Network [0.0]
  非ネイティブユーザによる英語文字の分類は、カスタマイズされたCNNモデルを提案することによって行われる。 我々はこのCNNを、手書きの独立した英語文字データセットと呼ばれる新しいデータセットでトレーニングする。 5つの畳み込み層と1つの隠蔽層を持つモデルでは、文字認識精度において最先端モデルよりも優れる。
  論文  参考訳（メタデータ） (2024-06-06T21:08:07Z)
• Self-Taught Recognizer: Toward Unsupervised Adaptation for Speech Foundation Models [84.8919069953397]
  Self-Taught Recognizer (STAR) は、音声認識システムのための教師なし適応フレームワークである。 その結果,STARは14のドメインで平均13.5%の単語誤り率の相対的な減少を実現していることがわかった。 STARは1時間以内のラベル付きデータを必要とする高いデータ効率を示す。
  論文  参考訳（メタデータ） (2024-05-23T04:27:11Z)
• Revisiting N-Gram Models: Their Impact in Modern Neural Networks for Handwritten Text Recognition [4.059708117119894]
  本研究は,言語モデル,特にn-gramモデルが,手書き認識の分野における最先端のディープラーニングアーキテクチャの性能に引き続き寄与するかどうかを論じる。 我々は、明示的なn-gram言語モデルを統合することなく、2つの著名なニューラルネットワークアーキテクチャ、PyLaiaとDANを評価した。 その結果,文字やサブワードの n-gram モデルの導入は,すべてのデータセット上での ATR モデルの性能を著しく向上させることがわかった。
  論文  参考訳（メタデータ） (2024-04-30T07:37:48Z)
• FLIP: Fine-grained Alignment between ID-based Models and Pretrained Language Models for CTR Prediction [49.510163437116645]
  クリックスルーレート(CTR)予測は、パーソナライズされたオンラインサービスにおいてコア機能モジュールとして機能する。 CTR予測のための従来のIDベースのモデルは、表形式の1ホットエンコードされたID特徴を入力として取る。 事前訓練された言語モデル(PLM)は、テキストのモダリティの文を入力として取る別のパラダイムを生み出した。 本稿では,CTR予測のためのIDベースモデルと事前学習言語モデル(FLIP)間の細粒度特徴レベルのアライメントを提案する。
  論文  参考訳（メタデータ） (2023-10-30T11:25:03Z)
• The Languini Kitchen: Enabling Language Modelling Research at Different Scales of Compute [66.84421705029624]
  本稿では,アクセル時間で測定された等価計算に基づくモデル比較を可能にする実験的プロトコルを提案する。 私たちは、既存の学術的ベンチマークを上回り、品質、多様性、文書の長さで上回る、大規模で多様で高品質な書籍データセットを前処理します。 この研究は、GPT-2アーキテクチャから派生したフィードフォワードモデルと、10倍のスループットを持つ新しいLSTMの形式でのリカレントモデルという2つのベースラインモデルも提供する。
  論文  参考訳（メタデータ） (2023-09-20T10:31:17Z)
• Offline Detection of Misspelled Handwritten Words by Convolving Recognition Model Features with Text Labels [0.0]
  テキストに対して手書き画像を比較する作業を紹介する。 我々のモデルの分類ヘッドは、最先端の生成逆数ネットワークを用いて生成された合成データに基づいて訓練されている。 このような大規模なパフォーマンス向上は、ヒューマン・イン・ザ・ループの自動化を利用したアプリケーションの生産性を大幅に向上させる可能性がある。
  論文  参考訳（メタデータ） (2023-09-18T21:13:42Z)
• Adaptive Convolutional Dictionary Network for CT Metal Artifact Reduction [62.691996239590125]
  本稿では,金属人工物削減のための適応畳み込み辞書ネットワーク(ACDNet)を提案する。 我々のACDNetは、トレーニングデータを介して、アーティファクトフリーCT画像の事前を自動で学習し、入力されたCT画像ごとに表現カーネルを適応的に調整することができる。 本手法は,モデルに基づく手法の明確な解釈可能性を継承し,学習に基づく手法の強力な表現能力を維持する。
  論文  参考訳（メタデータ） (2022-05-16T06:49:36Z)
• AttentionHTR: Handwritten Text Recognition Based on Attention Encoder-Decoder Networks [0.0]
  本研究は,手書き単語認識のための注目に基づくシーケンス・ツー・シーケンス・モデルを提案する。 シーンテキストイメージに事前トレーニングされたモデルを、手書き認識モデルのカスタマイズに向けた出発点として活用する。 提案したエンドツーエンドHTRシステムの有効性は、新しいマルチライターデータセットで実証的に評価されている。
  論文  参考訳（メタデータ） (2022-01-23T22:48:36Z)
• MetaHTR: Towards Writer-Adaptive Handwritten Text Recognition [36.12001394921506]
  我々は手書き文字認識の新しい手法を提案する。 新しいメタラーニングフレームワークを使い、新たなライターデータを利用する。 当社のフレームワークは、最先端のHTRモデルの上に簡単に実装できます。
  論文  参考訳（メタデータ） (2021-04-05T12:35:39Z)
• Train your classifier first: Cascade Neural Networks Training from upper layers to lower layers [54.47911829539919]
  我々は,高品質な分類器を探索するアルゴリズムとして見ることのできる,新しいトップダウン学習手法を開発した。 本研究では,自動音声認識(ASR)タスクと言語モデリングタスクについて検討した。 提案手法は,Wall Street Journal 上でのリカレントニューラルネットワーク ASR モデル,Switchboard 上での自己注意型 ASR モデル,WikiText-2 上での AWD-LSTM 言語モデルなど,一貫して改善されている。
  論文  参考訳（メタデータ） (2021-02-09T08:19:49Z)
• MetaDistiller: Network Self-Boosting via Meta-Learned Top-Down Distillation [153.56211546576978]
  本研究では,ラベル生成器を用いて高い適合性を有するソフトターゲットを生成することを提案する。 このラベルジェネレータを最適化するためにメタ学習技術を用いることができる。 実験は CIFAR-100 と ILSVRC2012 の2つの標準分類ベンチマークで実施された。
  論文  参考訳（メタデータ） (2020-08-27T13:04:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。