論文の概要: RankE: End-to-End Post-Training for Discrete Text-to-Image Generation with Decoder Co-Evolution

• arxiv url: http://arxiv.org/abs/2605.21195v1
• Date: Wed, 20 May 2026 13:56:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-21 19:19:56.70791
• Title: RankE: End-to-End Post-Training for Discrete Text-to-Image Generation with Decoder Co-Evolution
• Title（参考訳）: RankE: Decoder共進化による離散テキスト・画像生成のためのエンド・ツー・エンド・ポスト・トライニング
• Authors: Siyong Jian, Siyuan Li, Luyuan Zhang, Zedong Wang, Xin Jin, Ying Li, Cheng Tan, Huan Wang,
• Abstract要約: RankEは、独立したT2I生成のための最初のエンドツーエンドのポストトレーニングフレームワークである。 RankEは、報酬最適化を画素空間の品質改善に確実に変換する。
• 参考スコア（独自算出の注目度）: 24.730101759045755
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Discrete autoregressive (AR) text-to-image (T2I) models pair a VQ tokenizer with an AR policy, and current post-training pipelines optimize only the policy while keeping the VQ decoder frozen. Recent diffusion T2I work, exemplified by REPA-E, has shown that the VAE itself constitutes a key alignment bottleneck, yet no analogous investigation exists for discrete AR models. We show that policy-only optimization induces Latent Covariate Shift: as the policy evolves, the resulting token distribution diverges from the ground-truth distribution on which the decoder was trained, such that reward scores improve while decoded image quality degrades. To address this mismatch, we propose RankE, the first end-to-end post-training framework for discrete T2I generation. Rather than optimizing the policy against a fixed decoder, RankE co-evolves both components through alternating optimization: each module maximizes a ranking-based alignment objective while being regularized by a stability-preserving anchor suited to its parameter space. This co-evolution breaks the fidelity--alignment trade-off that plagues frozen-decoder approaches: on LlamaGen-XL (775M), standard RL improves CLIP but degrades FID, whereas RankE improves both simultaneously (FID 15.21, CLIP 33.76 on MS-COCO 30K). Consistent gains on Janus-Pro (1B) confirm that decoder co-evolution reliably converts reward optimization into pixel-space quality improvements.
• Abstract（参考訳）: 離散自己回帰(AR)テキスト・トゥ・イメージ(T2I)モデルは、VQトークンライザとARポリシを組み合わせ、現在のトレーニング後パイプラインは、VQデコーダを凍結させながらポリシーのみを最適化する。 REPA-Eで実証された最近の拡散T2I研究は、VAE自体が重要なアライメントボトルネックを構成することを示しているが、離散ARモデルには類似した研究は存在しない。 ポリシが進化するにつれて、結果として生じるトークン分布は、デコーダがトレーニングされた基底構造分布から分岐し、画像品質の劣化とともに報酬スコアが向上することを示す。 このミスマッチに対処するため、離散T2I生成のための最初のエンドツーエンドのポストトレーニングフレームワークであるRanEを提案する。 固定デコーダに対してポリシーを最適化する代わりに、Rangeは両方のコンポーネントを交互に最適化することで共進化させる: 各モジュールは、そのパラメータ空間に適合した安定性保存アンカーによって正規化されながら、ランキングベースのアライメントの目的を最大化する。 LlamaGen-XL (775M)では、標準RLはCLIPを改善し、FIDは分解するが、RandEはFIDを同時に改善する(FID 15.21、CLIP 33.76、MS-COCO 30K)。 Janus-Pro (1B) の一貫性のあるゲインは、デコーダの共進化によって報酬の最適化が確実にピクセル空間の品質向上に変換されることを確認した。

関連論文リスト

• Improved Baselines with Representation Autoencoders [61.47127824064028]
  表現オートエンコーダ(RAE)は、従来のVAEを事前訓練された視覚エンコーダに置き換える。 RAEを単純化し、改善する3つの洞察が得られます。 RAEv2はオリジナルのRAEよりも10倍以上早く収束する。
  論文  参考訳（メタデータ） (2026-05-18T12:42:34Z)
• Uniform-Correct Policy Optimization: Breaking RLVR's Indifference to Diversity [23.454044066183027]
  Reinforcement Learning with Verifiable Rewards (RLVR) は、推論タスクにおいて、単一意図の精度(Pass@1)で大幅に向上した。 一般的なRLVRの目的は、どのように確率質量が正しい解間で分配されるかに無関係である。 我々は,GRPOの修正である統一正則政策最適化(UCPO)を提案し,適切な解に対する政策分布に条件付きペナルティを加える。
  論文  参考訳（メタデータ） (2026-05-01T03:02:44Z)
• Taming the Instability: A Robust Second-Order Optimizer for Federated Learning over Non-IID Data [77.19117648492104]
  We present Federated Robust Curvature Optimization (FedRCO), a novel second-order optimization framework designed to improve convergence speed and reduce communication cost。 FedRCOは、効率的な近似曲率と証明可能な安定性メカニズムを統合することで、これらの課題に対処する。 我々は,FedRCOが,最先端の1次法と2次法のどちらよりも高い精度と高速な収束を実現しつつ,多種多様な非IIDシナリオに対して優れたロバスト性を実現することを示す。
  論文  参考訳（メタデータ） (2026-03-30T11:37:46Z)
• Weak-SIGReg: Covariance Regularization for Stable Deep Learning [0.0]
  この研究は、最近LeJEPAの自己教師型フレームワークで導入されたSketched Isotropic Gaussian Regularization (SIGReg)を採用し、教師付き学習のための一般的な最適化安定化器として再利用している。 SIGRegは表現密度を等方性ガウスに対して制限し、このドリフトを緩和する。 SIGRegはアーキテクチャハックなしで20.73%から72.02%の精度でCIFAR-100上でのViTトレーニングを回復し、純粋なSGDでトレーニングされた深いバニラの収束を大幅に改善する。
  論文  参考訳（メタデータ） (2026-03-06T05:32:40Z)
• Unifying Stable Optimization and Reference Regularization in RLHF [64.16830602324345]
  本稿では、報酬ハッキングの防止と安定したポリシー更新の維持を目標とする統一正規化手法を提案する。 我々の単純で原則化されたアライメント目的は、監督された微調整の損失を軽減し、優れたトレードオフをもたらし、アライメント結果と実装の複雑さの両方を明らかに改善する。
  論文  参考訳（メタデータ） (2026-02-12T03:31:19Z)
• Anchoring Values in Temporal and Group Dimensions for Flow Matching Model Alignment [61.80228667422234]
  VGPOは時間次元とグループ次元の両方で値の推定を再定義する。 スパース端末の報酬を密度の高いプロセス認識値推定に変換する。 標準群正規化を絶対値によって強化された新しいプロセスに置き換え、安定した最適化信号を維持する。
  論文  参考訳（メタデータ） (2025-12-13T16:31:26Z)
• Rethinking Autoregressive Models for Lossless Image Compression via Hierarchical Parallelism and Progressive Adaptation [75.58269386927076]
  自己回帰(AR)モデルは、しばしば計算コストの禁止のために非現実的に除外される。 この研究は、階層的並列性とプログレッシブ適応に基づくフレームワークを導入して、このパラダイムを再考する。 各種データセット(自然,衛星,医療)の実験により,本手法が新たな最先端圧縮を実現することを確認した。
  論文  参考訳（メタデータ） (2025-11-14T06:27:58Z)
• Flow-GRPO: Training Flow Matching Models via Online RL [80.62659379624867]
  本稿では,オンライン政策強化学習をフローマッチングモデルに統合する最初の方法であるFlow-GRPOを提案する。 提案手法では,(1)決定論的正規微分方程式を同値な微分方程式に変換するODE-to-SDE変換と,(2)推論ステップの数を維持しながらトレーニングの段階を短縮するDenoising Reduction戦略の2つの主要な戦略を用いる。
  論文  参考訳（メタデータ） (2025-05-08T17:58:45Z)
• PerCoV2: Improved Ultra-Low Bit-Rate Perceptual Image Compression with Implicit Hierarchical Masked Image Modeling [0.030448596365296413]
  PerCoV2は、超低ビットレートの知覚画像圧縮システムである。 PerCoV2は帯域幅とストレージに制約のあるアプリケーション用に設計されている。
  論文  参考訳（メタデータ） (2025-03-12T13:14:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。