論文の概要: SupGRPO: Enhancing GRPO with Matching-based Online SFT for Text Spotting
- arxiv url: http://arxiv.org/abs/2609.07081v1
- Date: Mon, 07 Sep 2026 06:11:48 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-12 01:43:08.00574
- Title: SupGRPO: Enhancing GRPO with Matching-based Online SFT for Text Spotting
- Title(参考訳): SupGRPO:テキストスポッティングのためのマッチングベースのオンラインSFTによるGRPOの強化
- Abstract要約: テキストスポッティングは、正確なテキスト認識と正確な空間的局所化の両方を必要とする。
現在の専門のスポッターは、自然の場面で厳密な境界ボックスを予測するのに優れていますが、複雑なテキストや芸術的なテキストに固執しています。
MLLMをベースとした2つのファインチューニング手法について検討する。
- 参考スコア(独自算出の注目度): 26.151401269994086
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Text spotting requires both accurate text recognition and precise spatial localization. Current specialised spotters excel at predicting tight bounding boxes in natural scenes, but falter on complex or artistic text, whereas multimodal large language models (MLLMs) possess strong recognition capabilities yet remain weak at localisation. To equip the text spotter with general and powerful recognition capabilities and to maximize its localization ability, we explore two MLLM-based fine-tuning methods: Supervised Fine-Tuning (SFT) and reinforcement learning fine-tuning based on Group Relative Policy Optimisation (GRPO). An interesting finding is that SFT is less effective than GRPO at enhancing recognition, while GRPO is less effective than SFT at enhancing detection. To compensate for each other's shortcomings, we introduce a joint training strategy, SupGRPO, which simultaneously optimizes the model using both SFT and GRPO. SupGRPO employs the specially designed reward functions and develops a matching-based online SFT applied solely to coordinate tokens. It both mitigates the reward sparsity problem of GRPO and avoids the instance order dependency problem of SFT. To evaluate particularly challenging cases, we curate ATS, a dataset for artistic text spotting. Experiments demonstrate that SupGRPO improves both text recognition and detection, and attains superior performance. Our code and dataset will be released at https://github.com/Psycho-9/SupGRPO.
- Abstract(参考訳): テキストスポッティングは、正確なテキスト認識と正確な空間的局所化の両方を必要とする。
現在の特殊スポッターは、自然の場面で密接な境界ボックスを予測するのに優れていますが、複雑なテキストや芸術的なテキストに固執する一方で、マルチモーダルな大規模言語モデル(MLLM)は、ローカライゼーションにおいて弱い認識能力を持つ一方で、ローカライゼーションにおいて弱いままです。
テキストスポッターに汎用的で強力な認識機能を持たせ,その局所化能力を最大化するために,グループ相対ポリシー最適化(GRPO)に基づく教師付きファインチューニング(SFT)と強化学習ファインチューニング(GRPO)の2つのMLLMに基づくファインチューニング手法を検討する。
興味深い発見は、SFT が GRPO よりも認知力を高める効果が低いのに対して、GRPO は SFT よりも検出力を高める効果が低いことである。
相反する欠点を補うために,SFTとGRPOの両方を用いてモデルを同時に最適化する共同トレーニング戦略であるSupGRPOを導入する。
SupGRPOは特別に設計された報酬関数を採用し、トークンのコーディネートにのみ適用されるマッチングベースのオンラインSFTを開発した。
GRPOの報酬分散問題を緩和し、SFTのインスタンス順序依存性問題を回避している。
特に難しい症例を評価するために,芸術的テキストスポッティングのためのデータセットであるATSをキュレートする。
実験により、SupGRPOはテキスト認識と検出の両方を改善し、優れた性能が得られることが示された。
コードとデータセットはhttps://github.com/Psycho-9/SupGRPO.comで公開されます。
関連論文リスト
- AdaGRPO: A Capability-Aware Adaptive Enhancement for Flow-based GRPO [78.36537400975298]
グループ相対政策最適化(GRPO)は、テキスト・ツー・イメージ(T2I)フローモデルと人間の嗜好の整合において顕著な成功を収めた。
我々は,現在のフローベースGRPOの学習ループが,学習者の現在の能力から根本的に切り離されていることを確認した。
本稿では,フローモデルに適した新しい能力認識型RLアルゴリズムであるAdaptive GRPO(AdaGRPO)を提案する。
論文 参考訳(メタデータ) (2026-06-05T02:07:08Z) - S-GRPO: Unified Post-Training for Large Vision-Language Models [11.901218794806796]
我々はLVLM(Large Vision-Language Models)適応のためのS-GRPO(Supervised Group Relative Policy Optimization)を提案する。
S-GRPOは、模擬学習の指導を選好最適化の多軌道探索に統合する。
監督ファインチューニング(SFT)と強化学習(RL)のギャップを優雅に埋める
論文 参考訳(メタデータ) (2026-04-17T08:39:07Z) - GFT: From Imitation to Reward Fine-Tuning with Unbiased Group Advantages and Dynamic Coefficient Rectification [37.24414986596345]
Group Fine-Tuning (GFT) は、大規模言語モデルのための統合後トレーニングフレームワークである。
GFTは一貫してSFTベースの手法を超越し、その後のRLトレーニングとよりスムーズな統合を図っている。
論文 参考訳(メタデータ) (2026-04-15T15:49:58Z) - An Empirical Study of SFT-DPO Interaction and Parameterization in Small Language Models [1.7559669963238091]
GPT-2スケールデコーダでは,SFT-only,DPO-only,SFT-to-DPOトレーニングとFFT(Full Fine-tuning)とLoRAを比較した。
DPOは、強いSFTよりも小さく、タスク依存的な利得を得られ、温かいスタートをせずに競合SFTの精度と一致させることができる。
論文 参考訳(メタデータ) (2026-03-20T16:27:03Z) - CGL: Advancing Continual GUI Learning via Reinforcement Fine-Tuning [67.78566256784404]
Supervised Fine-Tuning (SFT) は高速な適応を可能にし、しばしば知識のオーバーライトを引き起こす。
強化学習(RL)は、事前の相互作用ロジックを消去から保護する固有のレジリエンスを示す。
textbfContinual textbfGUI textbfLearningフレームワークを提案する。
論文 参考訳(メタデータ) (2026-03-03T13:02:20Z) - Self-Rewarding PPO: Aligning Large Language Models with Demonstrations Only [70.43369087819332]
Supervised Fine-tuning (SFT) は、大規模な言語モデルと人間のアノテーションによる実演を整合させる重要な方法として登場した。
本稿では, 自己回帰型PPOを提案する。
論文 参考訳(メタデータ) (2025-10-24T02:02:13Z) - UniAPL: A Unified Adversarial Preference Learning Framework for Instruct-Following [12.924923059340395]
トレーニング後のアライメントは基本的には、参照学習の統一的な問題である、と我々は主張する。
UniAPLは、SFTと嗜好データの混合バッチから共同で学習する、単一段階の統合トレーニング目標を実装している。
論文 参考訳(メタデータ) (2025-09-29T17:53:09Z) - Implicit Reward as the Bridge: A Unified View of SFT and DPO Connections [65.36449542323277]
本稿では,Large Language Model (LLM) 後の学習において,SFT(Supervised Fine-Tuning) と優先学習を統合した理論フレームワークを提案する。
そこで本研究では,学習率の簡易かつ効果的な削減手法を提案する。
論文 参考訳(メタデータ) (2025-06-15T05:42:29Z) - LPO: Towards Accurate GUI Agent Interaction via Location Preference Optimization [58.65395773049273]
位置優先最適化(Location Preference Optimization、LPO)は、位置データを利用してインタラクションの好みを最適化する新しいアプローチである。
LPOは情報エントロピーを使用して、情報に富んだゾーンに注目して相互作用位置を予測する。
私たちのコードは間もなくhttps://github.com/AIDC-AI/LPO.comで公開されます。
論文 参考訳(メタデータ) (2025-06-11T03:43:30Z) - Bridging SFT and DPO for Diffusion Model Alignment with Self-Sampling Preference Optimization [67.8738082040299]
自己サンプリング優先最適化(SSPO)は,訓練後強化学習のための新しいアライメント手法である。
SSPOは、SFTのトレーニング安定性を維持しながら、ペアデータと報酬モデルの必要性を排除する。
SSPOは、テキスト・ツー・イメージベンチマークにおける以前のアプローチを全て上回り、テキスト・ツー・ビデオベンチマークにおける優れたパフォーマンスを示している。
論文 参考訳(メタデータ) (2024-10-07T17:56:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。