論文の概要: Qwen-Image-2.0-RL Technical Report
- arxiv url: http://arxiv.org/abs/2606.27608v1
- Date: Thu, 25 Jun 2026 23:49:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-29 18:24:25.327955
- Title: Qwen-Image-2.0-RL Technical Report
- Title(参考訳): Qwen-Image-2.0-RLテクニカルレポート
- Abstract要約: Qwen-Image-2.0-RLは、人間のフィードバックとオンライン蒸留から強化学習を応用した後学習パイプラインである。
Qwen-Image-2.0-RLは、Qwen-Image-Benchで57.84点、Eloでは1193点、画像編集では1349点を達成している。
- 参考スコア(独自算出の注目度): 66.2346321737379
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We present Qwen-Image-2.0-RL, a post-training pipeline that applies reinforcement learning from human feedback (RLHF) and on-policy distillation (OPD) to improve both the visual quality and instruction-following capability of the Qwen-Image-2.0 diffusion model. To provide reliable reward signals, we construct task-specific composite reward models by fine-tuning vision-language models with a pointwise scoring paradigm and chain-of-thought reasoning. For text-to-image generation, the reward models cover alignment, aesthetics, and portrait fidelity dimensions. For image editing tasks, the reward system addresses instruction-following accuracy and face identity preservation. Building on this reward system, we develop a scalable GRPO-based RL training framework, incorporating a hybrid classifier-free guidance (CFG) strategy to preserve pre-trained knowledge, prompt curation via intra-group reward range filtering, and per-category reward weight calibration. To merge the task-specialized RL policies for T2I and editing, we propose on-policy distillation as the final training stage, which consolidates multiple teachers into a single student model through trajectory-level velocity matching. Extensive evaluation shows that Qwen-Image-2.0-RL achieves 57.84 overall score on Qwen-Image-Bench (+2.61 over the base model), Elo ratings of 1193 in text-to-image arena (+78) and 1349 in image edit arena (+93), demonstrating consistent gains in aesthetic quality, prompt adherence, and editing accuracy.
- Abstract(参考訳): 人間のフィードバック(RLHF)とオンライン蒸留(OPD)による強化学習を適用した後学習パイプラインであるQwen-Image-2.0-RLを提案する。
そこで我々は,ポイントワイドスコアリングパラダイムとチェーンオブソート推論を用いた視覚言語モデルを用いて,タスク固有の複合報酬モデルを構築した。
テキスト・ツー・イメージ生成では、報酬モデルはアライメント、美学、肖像画の忠実度をカバーしている。
画像編集タスクでは、報酬システムは命令追従精度と顔認証の保存に対処する。
この報奨システム上に構築したスケーラブルなGRPOベースのRLトレーニングフレームワークは,事前学習した知識の保存,グループ内報酬範囲フィルタリングによるキュレーションの促進,カテゴリごとの報奨重量のキャリブレーションなどを目的としたハイブリッド分類器フリーガイダンス(CFG)戦略を取り入れたものである。
T2Iのタスク特化RLポリシーと編集を融合させるため,複数の教師を軌道レベルの速度マッチングにより単一学生モデルに統合する最終訓練段階として,オンライン蒸留を提案する。
Qwen-Image-2.0-RLは、Qwen-Image-Bench (+2.61)、Elo評価1193(+78)、画像編集1349(+93)で57.84点を獲得し、美的品質、即効性、編集精度が一貫した向上を示した。
関連論文リスト
- Q-DeepSight: Incentivizing Thinking with Images for Image Quality Assessment and Refinement [58.15004031934379]
我々は、この人間のようなプロセスをエミュレートする思考とイメージのフレームワークであるQ-DeepSightを提案する。
Q-DeepSightは、自然、復元、AI生成コンテンツなど、さまざまなベンチマークで最先端のパフォーマンスを実現している。
本稿では,Q-DeepSight の診断が反復画像強調を導くトレーニングフリーフレームワークであるPerceptual-in-Generation (PiG) を用いて,その実用的価値を示す。
論文 参考訳(メタデータ) (2026-04-18T06:10:57Z) - PromptEcho: Annotation-Free Reward from Vision-Language Models for Text-to-Image Reinforcement Learning [14.637088591693088]
強化学習は、テキスト・ツー・イメージ(T2I)モデルの迅速な追従能力を改善することができる。
本稿では,EmphnoアノテーションとEmphno報酬モデルトレーニングを必要とする報酬構築手法であるPromptEchoを提案する。
論文 参考訳(メタデータ) (2026-04-14T12:21:15Z) - The Image as Its Own Reward: Reinforcement Learning with Adversarial Reward for Image Generation [52.648073272395635]
本稿では、報酬モデルとジェネレータの両方を反復的に更新する逆報酬を持つRLフレームワークであるAdv-GRPOを紹介する。
パラメータ更新を制約するKL正規化とは異なり、学習した報酬は生成元を直接視覚出力に導く。
人的評価では,Flow-GRPO と SD3 がそれぞれ 70.0% と 72.4% の画像品質,美学に優れていた。
論文 参考訳(メタデータ) (2025-11-25T12:35:57Z) - EditScore: Unlocking Online RL for Image Editing via High-Fidelity Reward Modeling [71.8265422228785]
強化学習(RL)は有望な解決策を提供するが、画像編集におけるその採用は、高忠実で効率的な報酬信号の欠如によって妨げられている。
我々は、最先端の特殊報酬モデルの開発を中心に、この障壁を克服するための包括的な方法論を提案する。
論文 参考訳(メタデータ) (2025-09-28T14:28:24Z) - PromptEnhancer: A Simple Approach to Enhance Text-to-Image Models via Chain-of-Thought Prompt Rewriting [31.35160142315478]
本稿では,テキスト・ツー・イメージ(T2I)モデルのための新規で普遍的なプロンプト書き換えフレームワークであるPromptEnhancerを紹介する。
モデル固有の微調整やイメージ・リワードスコアのような暗黙の報酬信号に依存する従来の手法とは異なり、我々のフレームワークはリライターをジェネレータから切り離す。
Hunyuan Image 2.1モデルの実験では、PromptEnhancerは幅広い意味的および構成的課題において画像テキストアライメントを大幅に改善することを示した。
論文 参考訳(メタデータ) (2025-09-04T16:46:10Z) - AR-GRPO: Training Autoregressive Image Generation Models via Reinforcement Learning [56.71089466532673]
本稿では,自己回帰(AR)画像生成モデルにオンラインRLトレーニングを統合するアプローチであるAR-GRPOを提案する。
クラス条件(クラス・ツー・イメージ)とテキスト条件(テキスト・ツー・イメージ)の両方のイメージ生成タスクについて包括的な実験を行う。
その結果,様々な評価指標に対して一貫した改善が得られた。
論文 参考訳(メタデータ) (2025-08-09T10:37:26Z) - RL for Consistency Models: Faster Reward Guided Text-to-Image Generation [15.238373471473645]
強化学習(RL)を用いた微調整一貫性モデルのためのフレームワークを提案する。
RLCM(Reinforcement Learning for Consistency Model)と呼ばれる我々のフレームワークは、一貫性モデルの反復推論プロセスをRLプロシージャとしてフレーム化します。
RL微調整拡散モデルと比較して、RCCMの列車は大幅に高速で、報奨目標に基づいて測定された生成の質を向上し、2段階の推論ステップで高品質な画像を生成することにより推論手順を高速化する。
論文 参考訳(メタデータ) (2024-03-25T15:40:22Z) - DPOK: Reinforcement Learning for Fine-tuning Text-to-Image Diffusion
Models [97.31200133440308]
我々は、オンライン強化学習を用いて、テキスト・ツー・イメージモデルを微調整する。
拡散モデルに焦点をあて、微調整タスクをRL問題として定義する。
我々のアプローチはDPOKと呼ばれ、政策最適化とKL正規化を統合している。
論文 参考訳(メタデータ) (2023-05-25T17:35:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。