論文の概要: OP-GRPO: Efficient Off-Policy GRPO for Flow-Matching Models

• arxiv url: http://arxiv.org/abs/2604.04142v1
• Date: Sun, 05 Apr 2026 15:00:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-07 15:49:18.943166
• Title: OP-GRPO: Efficient Off-Policy GRPO for Flow-Matching Models
• Title（参考訳）: OP-GRPO:フローマッチングモデルのための効率的なオフポリティGRPO
• Authors: Liyu Zhang, Kehan Li, Tingrui Han, Tao Zhao, Yuxuan Sheng, Shibo He, Chao Li,
• Abstract要約: 本稿では,フローマッチングモデルに適したOff-Policy GRPOフレームワークであるOP-GRPOを提案する。 高品質なトラジェクトリを積極的に選択し、それらをリプレイバッファに適応的に組み込んで、その後のトレーニングイテレーションで再利用する。
• 参考スコア（独自算出の注目度）: 14.396100082949005
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Post training via GRPO has demonstrated remarkable effectiveness in improving the generation quality of flow-matching models. However, GRPO suffers from inherently low sample efficiency due to its on-policy training paradigm. To address this limitation, we present OP-GRPO, the first Off-Policy GRPO framework tailored for flow-matching models. First, we actively select high-quality trajectories and adaptively incorporate them into a replay buffer for reuse in subsequent training iterations. Second, to mitigate the distribution shift introduced by off-policy samples, we propose a sequence-level importance sampling correction that preserves the integrity of GRPO's clipping mechanism while ensuring stable policy updates. Third, we theoretically and empirically show that late denoising steps yield ill-conditioned off-policy ratios, and mitigate this by truncating trajectories at late steps. Across image and video generation benchmarks, OP-GRPO achieves comparable or superior performance to Flow-GRPO with only 34.2% of the training steps on average, yielding substantial gains in training efficiency while maintaining generation quality.
• Abstract（参考訳）: GRPOによるポストトレーニングは,フローマッチングモデルの生成品質向上に顕著な効果を示した。 しかし、GRPOは本来、政策上の訓練パラダイムのため、サンプル効率の低下に悩まされている。 この制限に対処するため,フローマッチングモデルに適した最初のOff-Policy GRPOフレームワークであるOP-GRPOを提案する。 まず、我々は、高品質な軌道を積極的に選択し、それらをリプレイバッファに適応的に組み込んで、その後のトレーニングイテレーションで再利用する。 第2に,非政治サンプルによる分散シフトを軽減するために,GRPOのクリッピング機構の整合性を維持しつつ,安定なポリシー更新を確実にするシーケンスレベルの重要度サンプリング補正を提案する。 第3に, 遅延復調段階が不調な非政治比率を生じることを理論的, 実証的に示し, 遅延段階における軌道の切り離しによってこれを緩和する。 画像およびビデオ生成ベンチマーク全体を通じて、OP-GRPOは、平均的なトレーニングステップの34.2%でFlow-GRPOと同等または優れたパフォーマンスを達成し、生成品質を維持しながら、トレーニング効率を大幅に向上させる。

関連論文リスト

• iGRPO: Self-Feedback-Driven LLM Reasoning [88.83313431248473]
  大規模言語モデル(LLM)は複雑な数学的問題を解く上で有望であるが、正確で一貫したソリューションを生み出すには至っていない。 IGRPO(Iterative Group Relative Policy Optimization)は、モデル生成ドラフトを通じて動的自己条件を追加するGRPOの2段階拡張である。 一致するロールアウト予算の下では、iGRPOはGRPOをベースモデルで一貫して上回っている。
  論文  参考訳（メタデータ） (2026-02-09T18:45:11Z)
• GRPO-Guard: Mitigating Implicit Over-Optimization in Flow Matching via Regulated Clipping [63.33669214116784]
  GRPO-Guardは、既存のGRPOフレームワークのシンプルで効果的な拡張である。 PPOクリッピングが有害な更新を適切に制限することを保証するため、バランスとステップ一貫性の重要度を回復する。 重いKL正則化に頼ることなく、暗黙の過最適化を実質的に緩和する。
  論文  参考訳（メタデータ） (2025-10-25T14:51:17Z)
• BranchGRPO: Stable and Efficient GRPO with Structured Branching in Diffusion Models [57.304411396229035]
  BranchGRPOは、ロールアウトプロセスを分岐木に再構成する手法である。 HPDv2.1イメージアライメントでは、BranchGRPOはDanceGRPOよりも最大でtextbf16%のアライメントスコアを改善する。 ハイブリッド版であるBranchGRPO-MixはDanceGRPOよりも4.7倍の速度でトレーニングを加速する。
  論文  参考訳（メタデータ） (2025-09-07T12:53:06Z)
• TempFlow-GRPO: When Timing Matters for GRPO in Flow Models [22.023027865557637]
  本稿では,フローベース生成に固有の時間構造を捕捉し,活用する,原理的なGRPOフレームワークを提案する。 新しい革新は、基礎となる生成力学を尊重する時間的に認識された最適化をモデルに与える。
  論文  参考訳（メタデータ） (2025-08-06T11:10:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。