論文の概要: Getting Space Right: Agentic Rewards for Image Generation
- arxiv url: http://arxiv.org/abs/2610.14852v1
- Date: Sat, 10 Oct 2026 12:13:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:15.125067
- Title: Getting Space Right: Agentic Rewards for Image Generation
- Title(参考訳): 宇宙を正しくする: 画像生成のためのエージェント・リワード
- Abstract要約: 強化学習(Reinforcement Learning, RL)は空間テキスト・画像生成において有望であるが, 既存の研究は政策最適化に重点を置いている。
本稿では,再利用可能な検証指導と特殊な視覚ツールを組み合わせたカリキュラム誘導型RLフレームワークを提案する。
SpaRW-Evalでは、SpatialCriticは95.1%の精度を達成し、320B GLM-5.3-Flashを40倍の8Bバックボーンで上回っている。
- 参考スコア(独自算出の注目度): 43.95772914351937
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Reinforcement learning (RL) is promising for spatial text-to-image generation, but existing work largely focuses on policy optimization, assuming accurate rewards and effective online rollouts. We observe in-domain gains with out-of-domain degradation, exposing two limitations: unreliable spatial rewards in open-world settings and rollouts lacking basic-to-complex progression. We propose a curriculum-guided RL framework. First, we introduce SpatialCritic, an agentic reward model equipped with a spatial perception harness that combines reusable verification guidance with specialized vision tools. We then construct spatial preference datasets through targeted counterfactual perturbations and perform agent-harness alignment to improve tool selection and evidence integration efficiently. Second, curriculum learning organizes shared foundational capabilities and their compositional dependencies in a capability graph for mastery-guided rollouts, periodic review, and targeted remediation. On SpaRW-Eval, SpatialCritic achieves 95.1% verification accuracy, outperforming 320B GLM-5.3-Flash with a 40x smaller 8B backbone and raising average baseline scores from 78.4 to 83.9 on SD3.5-Medium and 83.2 to 86.5 on BAGEL. Project page: https://xiaofeng-tan.github.io/projects/spatialcritic/
- Abstract(参考訳): 強化学習(Reinforcement Learning, RL)は, 空間テキスト・画像生成において有望であるが, 既存の研究は, 正確な報酬と効果的なオンラインロールアウトを前提として, 政策最適化に重点を置いている。
ドメイン内ゲインをドメイン外劣化で観測し、オープンワールド設定における信頼性の低い空間報酬と、基本から複雑化の欠如のロールアウトの2つの制限を明らかにする。
カリキュラム誘導型RLフレームワークを提案する。
まず、再利用可能な検証ガイダンスと特殊な視覚ツールを組み合わせた空間認識ハーネスを備えたエージェント報酬モデルであるSpatialCriticを紹介する。
次に,対象とする対実的摂動を通じて空間的嗜好データセットを構築し,エージェントハーネスアライメントを行い,ツールの選択とエビデンス統合を効率的に改善する。
第二に、カリキュラム学習は、基本的能力とその構成的依存関係を、熟達したロールアウト、定期的なレビュー、目標とする修復のための能力グラフに整理する。
SpaRW-Evalでは、SpatialCriticは95.1%の精度を達成し、320B GLM-5.3-Flashを40倍の8Bバックボーンで上回り、平均ベースラインスコアはSD3.5-Mediumで78.4から83.9、BAGELで83.2から86.5に上昇した。
プロジェクトページ:https://xiaofeng-tan.github.io/ projects/spatialcritic/
関連論文リスト
- ProAS: A Progress-Aware Advantage Shaping Framework for Multi-Turn Agentic Reinforcement Learning [37.02931939816202]
ProAS(Progress-Aware Advantage Shaping)は、Masking Unreasonable Incentives (MUI)とAsymmetric Penalty Redistribution (APR)を通じてきめ細かなクレジット割り当てを実現するためのプラグイン・アンド・プレイフレームワークである。
ProASは、主要なグループベースのベースラインを新しい最先端のパフォーマンスに普遍的に引き上げ、ALFWorldで91.9%、94.3%、WebShopで66.7%、70.8%のピーク成功率を達成した。
論文 参考訳(メタデータ) (2026-10-13T16:39:38Z) - GroundAnything: Reconciling Parallel Decoding with Precise Visual Grounding at Flash Speed [71.05944634852158]
GroundAnythingはブロックワイズによる正確なローカライゼーションで高速並列デコーディングを再構成する。
30のグラウンドベンチマークで、私たちの自己回帰型であるGroundAnything-VLMは、この技術の新たな全体的な状態を確立します。
エントロピー誘導復号法により、GroundAnythingは、この規模の芸術の先行状態を超越している。
論文 参考訳(メタデータ) (2026-09-30T12:20:51Z) - Beyond Scalar Rewards by Internalizing Reasoning into Score Distributions [80.33276868889341]
Z-Rewardは効率的な報酬展開から推論と重大な判断を分離する。
Z-Reward はテキスト・画像の最適化のための識別可能な報酬信号として機能することを示す。
論文 参考訳(メタデータ) (2026-06-08T06:20:12Z) - Where to Look: Can Foundation Models Reach a Target Viewpoint Through Active Exploration? [44.119113981225404]
本稿では,TVR(Target Viewpoint Reproduction)について紹介する。これは,エージェントが所定のターゲット画像に一致するまで,エージェントが3次元環境下で視点を調整する,アクティブなタスクである。
評価分割では、最強のオープンソースおよびクローズドソースモデルはわずか7.8%と12.0%の成功しか達成していない。
我々は、専門家軌道SFT、合理的教師付きCoT-SFT、オフラインシングルターンGRPO、オンラインマルチターンGRPOをカバーする統合TVRポストトレーニングフレームワークを構築した。
論文 参考訳(メタデータ) (2026-05-31T14:00:10Z) - expo: Exploration-prioritized policy optimization via adaptive kl regulation and gaussian curriculum sampling [11.537163059885687]
2つの軽量プラグインモジュールを用いたExploration-Prioritized Policy Optimization (EXPO)を提案する。
我々は6つの数学的推論ベンチマークでDeepSeek-R1-Distill-Qwen-1.5BとQwen3-8B-Baseの実験を行った。
AIME 2025 pass@32では13.34で、63.33パーセントから76.67パーセントに上昇し、8Bモデルでは平均2.66でパス@32が改善されている。
論文 参考訳(メタデータ) (2026-05-11T03:19:04Z) - PanoEnv: Exploring 3D Spatial Intelligence in Panoramic Environments with Reinforcement Learning [5.308328605042682]
360パノラマ画像は、バーチャルリアリティー、自律運転、総合的なシーン理解のためのロボティクスでますます利用されている。
現在の視覚言語モデル(VLM)は、幾何学的歪みと限定的な3次元監督のため、等角射影(ERP)画像の空間的推論に苦慮している。
合成3D環境から構築した大規模VQAベンチマークであるPanoEnvを紹介する。
我々の7Bモデルは、新しい最先端性能を実現し、全体的な精度を52.93%(+3.59%)、オープンエンド精度を14.83%に改善し、構造化タスク性能を維持した。
論文 参考訳(メタデータ) (2026-02-25T15:12:17Z) - Spatial-SSRL: Enhancing Spatial Understanding via Self-Supervised Reinforcement Learning [93.19037653970622]
本研究では,通常のRGBやRGB-D画像から直接検証可能な信号を導出する自己教師付きRLパラダイムである空間SSRLを紹介する。
我々のタスクの訓練は、一般的な視覚能力を維持しながら空間的推論を大幅に改善する。
以上の結果から,単純で本質的な監視がRLVRを大規模に実現し,LVLMの空間知能を高めるための実践的経路が示唆された。
論文 参考訳(メタデータ) (2025-10-31T16:30:08Z) - SURDS: Benchmarking Spatial Understanding and Reasoning in Driving Scenarios with Vision Language Models [15.50826328938879]
視覚言語モデル(VLM)の空間的推論能力を評価するためのベンチマークであるSURDSを紹介する。
nuScenesデータセットに基づいて構築されたSURDSは、41,080の視覚要求回答トレーニングインスタンスと9,250の評価サンプルで構成されている。
本研究では,空間的に接地された報酬信号を利用した強化学習に基づくアライメント手法を提案する。
論文 参考訳(メタデータ) (2024-11-20T08:14:01Z) - REBEL: Reward Regularization-Based Approach for Robotic Reinforcement Learning from Human Feedback [61.54791065013767]
報酬関数と人間の嗜好の相違は、現実世界で破滅的な結果をもたらす可能性がある。
近年の手法は、人間の嗜好から報酬関数を学習することで、不適応を緩和することを目的としている。
本稿では,ロボットRLHFフレームワークにおける報酬正規化の新たな概念を提案する。
論文 参考訳(メタデータ) (2023-12-22T04:56:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。