論文の概要: Tokenization vs. Augmentation: A Systematic Study of Writer Variance in IMU-Based Online Handwriting Recognition
- arxiv url: http://arxiv.org/abs/2603.16883v1
- Date: Wed, 25 Feb 2026 09:26:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-23 08:17:42.359237
- Title: Tokenization vs. Augmentation: A Systematic Study of Writer Variance in IMU-Based Online Handwriting Recognition
- Title(参考訳): トークン化と拡張--IMUによるオンライン手書き文字認識における文字分散の体系的研究
- Authors: Jindong Li, Dario Zanca, Vincent Christlein, Tim Hamann, Jens Barth, Peter Kämpf, Björn Eskofier,
- Abstract要約: 慣性測定単位に基づくオンライン手書き文字認識は,不均一な文字分布と文字間変動に挑戦する。
サブワードトークン化と連結型データ拡張という,これらの問題を解決するための2つの戦略について検討する。
- 参考スコア(独自算出の注目度): 4.519836503888727
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Inertial measurement unit-based online handwriting recognition enables the recognition of input signals collected across different writing surfaces but remains challenged by uneven character distributions and inter-writer variability. In this work, we systematically investigate two strategies to address these issues: sub-word tokenization and concatenation-based data augmentation. Our experiments on the OnHW-Words500 dataset reveal a clear dichotomy between handling inter-writer and intra-writer variance. On the writer-independent split, structural abstraction via Bigram tokenization significantly improves performance to unseen writing styles, reducing the word error rate (WER) from 15.40% to 12.99%. In contrast, on the writer-dependent split, tokenization degrades performance due to vocabulary distribution shifts between the training and validation sets. Instead, our proposed concatenation-based data augmentation acts as a powerful regularizer, reducing the character error rate by 34.5% and the WER by 25.4%. Further analysis shows that short, low-level tokens benefit model performance and that concatenation-based data augmentation performance gain surpasses those achieved by proportionally extended training. These findings reveal a clear variance-dependent effect: sub-word tokenization primarily mitigates inter-writer stylistic variability, whereas concatenation-based data augmentation effectively compensates for intra-writer distributional sparsity.
- Abstract(参考訳): 慣性測定単位に基づくオンライン手書き認識は、異なる筆記面にまたがって収集された入力信号の認識を可能にするが、不均一な文字分布と文字間変動に悩まされている。
本研究では,サブワードトークン化と連結型データ拡張という,これらの問題を解決するための2つの戦略を体系的に検討する。
OnHW-Words500データセットに対する実験により,文字間分散処理と文字間分散処理の明確な二分法が明らかになった。
ライターに依存しない分割では、Bigramトークン化による構造的抽象化により、未確認の書き込みスタイルのパフォーマンスが大幅に向上し、単語エラー率(WER)が15.40%から12.99%に低下する。
対照的に、ライター依存の分割では、トークン化はトレーニングと検証セット間の語彙分布のシフトによって性能が低下する。
代わりに、結合に基づくデータ拡張は強力な正規化器として機能し、文字誤り率を34.5%、WERを25.4%削減した。
さらに分析したところ、短い低レベルトークンはモデル性能に有益であり、連結に基づくデータ拡張性能は、比例的に拡張されたトレーニングによって達成されたものを上回ることが示されている。
サブワードトークン化は,主に文字間スタイリスティックな変動を緩和するが,連結型データ拡張は文字内分布の幅を効果的に補正する。
関連論文リスト
- Enhancing IMU-Based Online Handwriting Recognition via Contrastive Learning with Zero Inference Overhead [4.519836503888727]
推論コストを増大させることなく特徴表現と認識精度を向上させるためのトレーニングフレームワークを提案する。
ECHWRは、トレーニングフェーズ中にセンサー信号とセマンティックテキストの埋め込みを整列する一時的な補助ブランチを使用する。
OnHW-Words500データセットの評価によると、ECHWRは最先端のベースラインを大幅に上回っている。
論文 参考訳(メタデータ) (2026-02-04T13:44:54Z) - Accelerate Speculative Decoding with Sparse Computation in Verification [49.74839681322316]
投機的復号化は、複数のドラフトトークンを並列に検証することにより、自動回帰言語モデル推論を加速する。
既存のスペーシフィケーション方式は主にトークン・バイ・トーケンの自己回帰復号化のために設計されている。
そこで本研究では,注目度,FFN,MoEを両立させるスパース検証フレームワークを提案する。
論文 参考訳(メタデータ) (2025-12-26T07:53:41Z) - Learning to Align: Addressing Character Frequency Distribution Shifts in Handwritten Text Recognition [7.913119666154837]
手書きテキスト認識は、視覚入力を機械可読テキストに変換することを目的としている。
文字集合は時間とともに変化し、文字の頻度分布は歴史的時代や地域によって変化する。
本稿では,予測されたテキストの文字頻度分布とターゲット分布とのワッサーシュタイン距離を組み込んだ新たな損失関数を提案する。
論文 参考訳(メタデータ) (2025-06-11T15:20:30Z) - Improving Sampling Methods for Fine-tuning SentenceBERT in Text Streams [49.3179290313959]
本研究では,選択的な微調整言語モデルの設計した7つのテキストサンプリング手法の有効性について検討した。
これらの手法がSBERTモデルの微調整に与える影響を, 4つの異なる損失関数を用いて正確に評価する。
その結果,テキストストリームの分類にはソフトマックスの損失とバッチ・オール・トリプレットの損失が特に有効であることが示唆された。
論文 参考訳(メタデータ) (2024-03-18T23:41:52Z) - Enhancing Coherence of Extractive Summarization with Multitask Learning [40.349019691412465]
本研究では,コヒーレンス向上を伴う抽出要約のためのマルチタスク学習アーキテクチャを提案する。
アーキテクチャは、抽出要約器とコヒーレント判別器モジュールとを含む。
実験の結果,提案手法は抽出した要約文の連続文の割合を大幅に改善することがわかった。
論文 参考訳(メタデータ) (2023-05-22T09:20:58Z) - Reducing Sequence Length by Predicting Edit Operations with Large
Language Models [50.66922361766939]
本稿では,ローカルなシーケンス変換タスクに対して,ソーステキストの編集スパンを予測することを提案する。
編集スパンの監督データに大規模言語モデルに対する命令チューニングを適用する。
実験の結果,提案手法は4つのタスクにおいて,ベースラインに匹敵する性能を発揮することがわかった。
論文 参考訳(メタデータ) (2023-05-19T17:51:05Z) - Cross-domain Speech Recognition with Unsupervised Character-level
Distribution Matching [60.8427677151492]
2つの領域における各文字間の微粒化適応を行うための文字レベルの分布マッチング手法であるCMatchを提案する。
Libri-Adaptデータセットを用いた実験の結果,提案手法はクロスデバイスとクロス環境の両方で14.39%,16.50%の単語誤り率(WER)を低減できることがわかった。
論文 参考訳(メタデータ) (2021-04-15T14:36:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。