論文の概要: Momentum-Coupled Rubric Adaptation for Detailed Image Captioning
- arxiv url: http://arxiv.org/abs/2609.36893v1
- Date: Tue, 29 Sep 2026 07:22:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-30 21:28:47.27745
- Title: Momentum-Coupled Rubric Adaptation for Detailed Image Captioning
- Title(参考訳): 詳細な画像キャプションのためのMomentum-Coupled Rubric Adaptation
- Abstract要約: ルーブリックに基づく強化学習を用いて,役割間のキャプション品質を向上する。
MoCoと呼ばれる2段階のフレームワークがこれらの役割を調整する。
5つのベンチマークで、MoCoの平均勝利率は72.83%であり、ハイランゲージランキングでは最高である。
- 参考スコア(独自算出の注目度): 37.30965077089983
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Detailed image captioning requires accurate and comprehensive descriptions of fine-grained visual content, yet caption quality spans factual accuracy, information coverage, and clarity. Compared with conventional methods that rely mainly on high-quality supervision or holistic rewards, rubric-based reinforcement learning decomposes these requirements into explicit criteria and provides targeted, structured feedback. However, existing methods often use separate models for caption generation, rubric construction, and judging, which may lead to inconsistent interpretations across roles. Some dynamic rubric methods alternate updates between the caption policy and rubric generator while keeping the judge fixed, but staged optimization may still leave rubric construction and judging out of step with policy optimization. We propose MoCo Rubric, a two-stage framework that coordinates these roles. First, role-conditioned, shared-parameter multi-task supervised fine-tuning equips a single vision--language model to serve as the Caption Policy, Rubric Generator, and Rubric Judge. Then, the Generator constructs rubrics online from captions sampled by the current Policy, reference captions, and image evidence. The Judge provides rubric-based rewards, and only the Policy receives GRPO updates. As Policy updates change the candidates being evaluated, we use an exponential moving average of the Policy parameters to update one momentum model shared by the Generator and Judge. This gradual transfer lets both rubric roles track Policy updates without separate RL optimization while smoothing parameter changes that could disrupt their rubric capabilities under direct synchronization. Across five captioning benchmarks, MoCo Rubric achieves an average pairwise win rate of 72.83\%, the best mean rank in blind ranking, and the highest average score in caption-based question answering.
- Abstract(参考訳): 詳細な画像キャプションは、きめ細かな視覚内容の正確かつ包括的な記述を必要とするが、キャプションの品質は、事実の正確さ、情報カバレッジ、明快さにまたがる。
質の高い監督や総合的な報酬に大きく依存する従来の手法と比較して、ルーブリックに基づく強化学習はこれらの要件を明示的な基準に分解し、目標とする構造化されたフィードバックを提供する。
しかし、既存の手法はしばしばキャプション生成、ルーブリック構成、判断のために別々のモデルを使用し、ロール間の矛盾した解釈につながる可能性がある。
いくつかの動的ルーブリック手法は、裁判官を固定しながらキャプションポリシーとルーブリックジェネレータを交互に更新するが、段階的な最適化は、ルーブリックの構築とポリシー最適化によるステップアウトの判断を残している。
これらの役割を協調する2段階のフレームワークであるMoCo Rubricを提案する。
第一に、ロール条件付き、共有パラメータのマルチタスク制御された微調整は、単一の視覚言語モデルを持ち、キャプションポリシー、ルーブリックジェネレータ、ルーブリックジャッジとして機能する。
次に、ジェネレータは、現在のポリシー、参照キャプション、画像証拠によってサンプリングされたキャプションからオンラインでルーブリックを構築する。
判事はルーリックベースの報酬を提供し、ポリシーのみがGRPO更新を受け取る。
政策更新によって候補が評価されるようになると、政策パラメータの指数的な移動平均を用いて、ジェネレータとジャッジが共有する1つのモーメントモデルを更新する。
この段階的な転送により、両方のルーブリックロールは、RL最適化を別途行わずにポリシー更新を追跡し、パラメータの変更をスムースにすることで、直接同期下でルーブリック機能を破壊できる。
5つのキャプションベンチマークで、MoCo Rubricは平均勝利率72.83\%、ブラインドランキングで最高点、キャプションベースの質問応答で最高点を達成している。
関連論文リスト
- RewardVerse: Rubric-Guided Policy Optimization for Video Reward Modeling [30.036504233085623]
ビデオ生成モデルの最適化には強化学習が不可欠である。
ビデオ報酬モデルは、複雑な主観的なビデオ品質を直接1つのスコアにマッピングするため、不安定なスカラースコアを生成する。
RewardVerseは,ルーリックベースのビデオ報酬フレームワークである。
論文 参考訳(メタデータ) (2026-09-19T11:01:14Z) - Co-Evolving LLM Evaluators and Policies via DynamicRubric [67.2962847914162]
政策によって引き起こされたサンプルに対する評価者フィードバックによるポストトレーニングは、大きな言語モデルを改善するための主要なメカニズムとなる。
反応条件付き評価器であるDynamicRubricを提案する。
8Bバックボーンを用いた実験では、DynamicRubricは評価器のパフォーマンスを改善し、ベースラインよりも強力なポリシー管理を提供する。
論文 参考訳(メタデータ) (2026-07-22T12:35:40Z) - Rank-Then-Act: Reward-Free Control from Frame-Order Progress [5.357451930622806]
Rank-Then-Act (RTA) は、環境に配慮せず、専門家によるビデオデモからコントロールポリシーを学ぶためのフレームワークである。
VLM(Vision-Language Model)をオフラインで,プログレッシブベースのオーディショナルスコアラーとしてトレーニングする。
我々は,予測進行ランクと真の時間指標とのスピアマンランク相関を計算し,有界でスケール不変な学習信号を生成する。
論文 参考訳(メタデータ) (2026-07-02T08:50:32Z) - TRACE: A Unified Rollout Budget Allocation Framework for Efficient Agentic Reinforcement Learning [52.67756371231985]
検証可能な報酬を伴う強化学習(RLVR)は、大規模言語モデルにおける推論とエージェント的行動を強化するための有望なアプローチである。
本稿では,Tree Rollout Allocation for Contrastive Exploration (TRACE)について紹介する。
技術的には、TRACEはロールアウト予算をルートと中間プレフィックスの両方に割り当てている。
論文 参考訳(メタデータ) (2026-06-09T17:16:03Z) - gym-invmgmt: An Open Benchmarking Framework for Inventory Management Methods [1.0799969476894555]
Gym-invmgmtは、監査可能なクロスパラダイム評価のためのOR-Gymインベントリ管理系統の拡張である。
Gymnasium互換のOR-Gymインベントリ管理系統であるGimmom-invmgmtを聴覚的クロスパラダイム評価のために提案する。
論文 参考訳(メタデータ) (2026-05-12T00:22:15Z) - Coverage Improvement and Fast Convergence of On-policy Preference Learning [67.36750525893514]
言語モデルアライメントのためのオンラインのオンラインプライオリティ学習アルゴリズムは、オフラインのアルゴリズムよりも大幅に優れている。
我々は,サンプリング政策の包括的範囲が政治訓練を通じてどのように進展するかを分析する。
一般機能クラス設定における報奨蒸留のための原則的オンライン方式を開発した。
論文 参考訳(メタデータ) (2026-01-13T10:46:06Z) - Real-Time Motion Prediction via Heterogeneous Polyline Transformer with
Relative Pose Encoding [121.08841110022607]
既存のエージェント中心の手法は、公開ベンチマークで顕著な性能を示した。
K-nearest neighbor attention with relative pose encoding (KNARPE) は、トランスフォーマーがペアワイズ相対表現を使用できる新しいアテンション機構である。
エージェント間でコンテキストを共有し、変化しないコンテキストを再利用することで、私たちのアプローチはシーン中心のメソッドと同じくらい効率的になり、最先端のエージェント中心のメソッドと同等に実行されます。
論文 参考訳(メタデータ) (2023-10-19T17:59:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。