論文の概要: CapRL++: Unified Reinforcement Learning with Verifiable Rewards for Dense Image and Video Captioning
- arxiv url: http://arxiv.org/abs/2606.09393v1
- Date: Mon, 08 Jun 2026 12:09:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-09 14:42:06.96734
- Title: CapRL++: Unified Reinforcement Learning with Verifiable Rewards for Dense Image and Video Captioning
- Title(参考訳): CapRL++: 複雑なイメージとビデオキャプションのための検証可能なリワードを備えた統一強化学習
- Abstract要約: 本稿では,Captioning Reinforcement Learning++ (CapRL++)を紹介した。
本稿では,CapRL++が高密度キャプション品質を向上し,空間的・時間的理解などのタスクにおけるキャプションベースの事前訓練を強化していることを示す。
- 参考スコア(独自算出の注目度): 86.9494763617273
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Image and video captioning are fundamental tasks that bridge the visual and linguistic domains, playing a critical role in pre-training Large Vision-Language Models (LVLMs). Current state-of-the-art captioning models are typically trained with Supervised Fine-Tuning (SFT), a paradigm that relies on expensive, non-scalable annotations and often causes models to memorize specific ground-truth answers, limiting their generality and ability to generate diverse, creative descriptions. To overcome these limitations, we propose applying Reinforcement Learning with Verifiable Rewards (RLVR) to the open-ended task of multimodal captioning. We introduce Captioning Reinforcement Learning++ (CapRL++), a novel reference-free training framework that redefines caption quality through its utility: a high-quality caption should enable a non-visual language model to accurately answer questions about the corresponding visual content. CapRL++ employs a decoupled two-stage pipeline where an LVLM generates a caption, and the objective reward is derived from the accuracy of a separate, vision-free LLM answering Multiple-Choice Questions based solely on that caption. Evaluations on more than 20 image and video benchmarks show that CapRL++ improves dense caption quality and strengthens caption-based pretraining across tasks such as spatial and temporal understanding. Pretraining on scalable image and video caption datasets annotated by CapRL++ yields substantial downstream gains. Furthermore, within the Prism Framework for caption quality evaluation, compact models trained with CapRL++ achieve dense captioning performance comparable to substantially larger models such as Qwen2.5-VL-72B and Qwen3-VL-235B-A22B. These results validate that CapRL++ effectively trains models to produce generalizable, high-fidelity descriptions, establishing a robust foundation beyond the limitations of traditional SFT.
- Abstract(参考訳): 画像とビデオのキャプションは視覚領域と言語領域を橋渡しする基本的なタスクであり、LVLM(Large Vision-Language Models)の事前訓練において重要な役割を果たす。
現在の最先端のキャプションモデルは一般的に、高価な非スケール可能なアノテーションに依存するパラダイムであるSupervised Fine-Tuning (SFT)でトレーニングされている。
これらの制約を克服するために,マルチモーダルキャプションのオープンなタスクに対して,RLVR(Reinforcement Learning with Verifiable Rewards)を適用することを提案する。
我々はCaptioning Reinforcement Learning++(CapRL++)を紹介した。Captioning Reinforcement Learning++(CapRL++)は、そのユーティリティを通じてキャプションの品質を再定義する新しいリファレンスフリートレーニングフレームワークである。
CapRL++は、LVLMがキャプションを生成する分離された2段階パイプラインを採用しており、目的の報酬は、そのキャプションのみに基づいて、複数のコニー質問に答える別個の視覚のないLLMの精度から導かれる。
20以上の画像とビデオのベンチマークによる評価では、CapRL++は密度の高いキャプションの品質を改善し、空間的および時間的理解などのタスクに対するキャプションベースの事前トレーニングを強化する。
CapRL++でアノテートされたスケーラブルなイメージとビデオキャプションデータセットの事前トレーニングは、かなりのダウンストリームゲインをもたらす。
さらに、キャプション品質評価のためのPrism Frameworkでは、CapRL++でトレーニングされたコンパクトモデルは、Qwen2.5-VL-72BやQwen3-VL-235B-A22Bのようなかなり大きなモデルに匹敵する高密度キャプション性能を実現する。
これらの結果から,CapRL++ は,従来の SFT の限界を超える堅牢な基盤を確立するため,モデルを効果的に訓練し,一般化可能な高忠実な記述を生成することが検証された。
関連論文リスト
- VCap: Hypergeometric Rewards for Weak-to-Strong Visual Captioning [57.588999592609646]
本稿では,参照キャプション(証人)と視覚信号(代弁者)とをペアにする,証人-代弁者報酬であるVCapを提案する。
VCapは、キャプションの品質検証のための超幾何分布レベルの精度を持つ報酬信号を提供する。
実験では,VCapでトレーニングした8Bモデルは,複数の画像およびビデオキャプションベンチマーク上で,オープンソースおよびクローズドソースSOTAモデルより優れていた。
論文 参考訳(メタデータ) (2026-05-27T06:27:04Z) - BalCapRL: A Balanced Framework for RL-Based MLLM Image Captioning [4.441850776689605]
そこで本稿では, 実用意識の正しさ, 参照カバレッジ, 言語品質を協調的に最適化する, よりバランスのとれた強化学習フレームワークを提案する。
提案手法はキャプション品質を常に改善し, ピークゲインは+13.6 DCScore, +9.0 CaptionQA, +29.0 Cap である。
論文 参考訳(メタデータ) (2026-05-08T07:48:36Z) - CCCaption: Dual-Reward Reinforcement Learning for Complete and Correct Image Captioning [23.289413412387223]
CCCaption: 専用微調整コーパスを備えた双方向逆強化学習フレームワークについて紹介する。
完全性のために、私たちは多様なLVLMを使用して、画像を一連のビジュアルクエリに切り離し、これらのクエリにもっと答えるキャプションに報いる。
正当性については,サブキャプションクエリの正当性を検証することによって,幻覚を含む字幕を罰する。
論文 参考訳(メタデータ) (2026-02-25T07:34:26Z) - CapRL: Stimulating Dense Image Caption Capabilities via Reinforcement Learning [90.19455861166745]
本稿では,キャプションの品質を再定義するトレーニングフレームワークであるCaptioning Reinforcement Learning (CapRL)を紹介する。
主観的画像キャプションタスクにRLVRを適用した最初の研究として、CapRLは複数の設定を大幅に強化することを示した。
CapRLはQwen2.5-VL-72Bに匹敵する性能を達成し、ベースラインのマージンは平均8.4%を超えた。
論文 参考訳(メタデータ) (2025-09-26T17:59:55Z) - ScaleCap: Inference-Time Scalable Image Captioning via Dual-Modality Debiasing [128.8346376825612]
高品質画像キャプションの主な課題は、LVLMの固有のバイアスにある。
本稿では,キャプションを継続的に強化・校正し,推論予算を増大させる,スケーラブルなデバイアス付きキャプション戦略を提案する。
450KイメージにScaleCapをアノテートし、LVLMプレトレーニングに使用することで、11の広く使用されているベンチマークで一貫したパフォーマンス向上を実現している。
論文 参考訳(メタデータ) (2025-06-24T17:59:55Z) - Paraphrasing Is All You Need for Novel Object Captioning [126.66301869607656]
新たな物体キャプション (NOC) は, 訓練中に真実のキャプションを観察することなく, 対象を含む画像を記述することを目的としている。
本稿では,NOC の2段階学習フレームワークである Paraphrasing-to-Captioning (P2C) について述べる。
論文 参考訳(メタデータ) (2022-09-25T22:56:04Z) - Prompt-based Learning for Unpaired Image Captioning [86.44188293709307]
Unpaired Image Captioning (UIC) は、非整合視覚言語サンプルペアから画像記述を学習するために開発された。
近年のVision-Language Pre-Trained Models (VL-PTMs) の成功は、プロンプトベース学習の発展を引き起こしている。
本稿では,UICモデルをトレーニングするためのプロンプトに基づく新しいスキームを提案し,その強力な一般化能力を最大限に活用する。
論文 参考訳(メタデータ) (2022-05-26T03:13:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。