論文の概要: Learning the Loop, Not Just the Page: Execution-Grounded Loop Learning for Web Generation
- arxiv url: http://arxiv.org/abs/2610.11543v1
- Date: Thu, 08 Oct 2026 09:11:17 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 02:36:53.912669
- Title: Learning the Loop, Not Just the Page: Execution-Grounded Loop Learning for Web Generation
- Title(参考訳): ページだけでなくループを学習する:Web生成のための実行中心のループ学習
- Abstract要約: 我々は、共有ポリシー内で生成、批判、洗練を共同で学習する実行基盤フレームワークであるWebLoopを紹介します。
Qwen3.5-9Bでは、WebLoopはWebRiseで41.5、WebGen-Benchで38.9%に達し、ベースモデルをそれぞれ11.3と15.4ポイント改善した。
- 参考スコア(独自算出の注目度): 51.48270766328676
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Functional Web generation is increasingly optimized with executable rewards, yet existing methods largely focus on the quality of the final page and leave the process of diagnosing and repairing imperfect implementations underexplored. We identify a central challenge in this setting: the Generator and Refiner produce executable artifacts with direct environment rewards, whereas the intermediate Critic influences downstream behavior without a directly executable outcome. We introduce WebLoop, an execution-grounded framework that jointly learns generation, critique, and refinement within a shared policy. WebLoop trains an execution-free Critic with complementary signals for requirement-level discriminability and downstream helpfulness, first establishing reliable diagnosis and then introducing consequence-aware credit, while all three roles are jointly optimized with group-relative policy learning. With Qwen3.5-9B, WebLoop reaches 41.5 Overall on WebRise and 38.9% accuracy on WebGen-Bench, improving the base model by 11.3 and 15.4 points, respectively. The gains transfer to first-pass generation, persist at 27B scale, and generalize from text-only training to multimodal inputs. Controlled analyses further show that the improvement cannot be explained by an additional refinement pass alone, highlighting the importance of learning the Critic and the loop itself.
- Abstract(参考訳): 関数型Web生成は、実行可能報酬でますます最適化されているが、既存のメソッドは、最終ページの品質に重点を置いて、未調査の実装を診断し、修復するプロセスを残している。
GeneratorとRefinerは直接的な環境報酬を伴う実行可能なアーティファクトを生成しますが、中間のCriticは直接実行可能な結果なしに下流の振る舞いに影響を与えるのです。
我々は、共有ポリシー内で生成、批判、洗練を共同で学習する実行基盤フレームワークであるWebLoopを紹介します。
WebLoopは、要求レベルの識別性とダウンストリームの支援性に関する補完的なシグナルを伴って、実行自由批判をトレーニングし、まず信頼性のある診断を確立し、結果認識クレジットを導入し、3つの役割はいずれも、グループ関係のポリシー学習に共同最適化されている。
Qwen3.5-9Bでは、WebLoopはWebRiseで41.5、WebGen-Benchで38.9%に達し、ベースモデルをそれぞれ11.3と15.4ポイント改善した。
ゲインは、ファーストパス生成に転送され、27Bスケールで持続し、テキストのみのトレーニングからマルチモーダル入力へと一般化される。
制御された分析は、追加の洗練パスだけでは改善を説明できないことを示し、批判とループ自体を学ぶことの重要性を強調している。
関連論文リスト
- Learning to Detect UI Principle Violations via Reinforcement Learning [8.915333011185671]
小さな言語モデルとコーディングエージェントはますますWebフロントエンドコードを生成するが、その出力は通常、機能的正確性のために評価される。
生成されたインターフェイスは、確立されたインターフェースの品質原則に違反しながら、ユニットテストをコンパイル、レンダリング、パスすることができる。
我々は、軽量な視覚言語モデルが、生成したインタフェースの効果的な批判となるかどうかを考察する。
論文 参考訳(メタデータ) (2026-07-22T19:42:59Z) - Self-evolving LLM agents with in-distribution Optimization [60.05867547965365]
大規模言語モデル(LLM)は最近、複雑な環境で対話的なエージェントのための強力なコントローラとして登場した。
本稿では,自動プロセス・リワードラベリングとポリシー学習を統一するLDMエージェントの自己進化フレームワークであるQ-Evolveを提案する。
我々は,AlfWorld,WebShop,ScienceWorldの手法を評価し,Q-Evolveがサンプル効率,堅牢性,全体的なタスク性能において高いベースラインを達成していることを示す。
論文 参考訳(メタデータ) (2026-06-05T15:09:52Z) - DeGRe: Dense-supervised Generative Reranking for Recommendation [22.41679588580571]
オフラインの探索とオンラインの効率のギャップを、密集した監督によって埋める、ジェネレーティブ・リグレード・フレームワークであるDeGReを提案する。
トレーニング中、評価器から高密度の監視信号に変換し、それらを軽量オンラインジェネレータに蒸留する。
私たちは、Taobao Flash ShoppingにDeGReをうまくデプロイし、オンラインレコメンデーションを大幅に改善しました。
論文 参考訳(メタデータ) (2026-05-25T12:00:42Z) - AdaExplore: Failure-Driven Adaptation and Diversity-Preserving Search for Efficient Kernel Generation [59.964989458924585]
AdaExploreは、パフォーマンスクリティカルなカーネルコード生成のための蓄積された実行フィードバックによる自己改善を可能にするエージェントフレームワークである。
適応段階では、エージェントはタスクを合成し、繰り返し発生する障害を有効ルールの再利用可能なメモリに変換する。
探索段階では、候補核を木として整理し、小さな局所精製とより大きな構造再生を交互に行う。
論文 参考訳(メタデータ) (2026-04-17T18:25:03Z) - Vision-Guided Iterative Refinement for Frontend Code Generation [4.648291359076628]
視覚言語モデルは、レンダリングされたWebページに対して構造化されたフィードバックを提供する視覚批評家として機能する。
WebDev Arenaデータセットからの実際のユーザリクエスト全体にわたって、このアプローチはソリューションの品質を一貫した改善をもたらします。
ファインチューニングは、トークン数を大幅に増加させることなく、最も優れた批判的ループソリューションから得られる利益の25%を達成している。
論文 参考訳(メタデータ) (2026-04-07T13:06:48Z) - Beyond Imitation: Reinforcement Learning Fine-Tuning for Adaptive Diffusion Navigation Policies [31.52910494173408]
拡散に基づくロボットナビゲーションポリシーは、ロボットの視覚的観察から直接マルチモーダルな軌道を生成することができる。
拡散型ナビゲーションに適した強化学習フレームワークを提案する。
提案手法は, 衝突頻度を低減しつつ, 52.0%から58.7%, SPLを0.49から0.54に改善する。
論文 参考訳(メタデータ) (2026-03-13T10:14:32Z) - COPO: Consistency-Aware Policy Optimization [17.328515578426227]
強化学習は、複雑な問題解決タスクにおける大規模言語モデル(LLM)の推論能力を大幅に向上させた。
近年、DeepSeek R1の導入により、ルールベースの報酬をコンピューティングの利点関数の低コストな代替手段として活用し、ポリシー最適化を導くことへの関心が高まっている。
本稿では,結果整合性に基づくグローバルな報酬構造を導入する,整合性を考慮したポリシー最適化フレームワークを提案する。
論文 参考訳(メタデータ) (2025-08-06T07:05:18Z) - On the Role of Feedback in Test-Time Scaling of Agentic AI Workflows [71.92083784393418]
エージェントAI(自律的な計画と行動を行うシステム)は広く普及しているが、複雑なタスクにおけるタスクの成功率は低いままである。
推論時のアライメントは、サンプリング、評価、フィードバックの3つのコンポーネントに依存します。
本稿では,様々な形態の批判から抽出されたフィードバックを繰り返し挿入するIterative Agent Decoding(IAD)を紹介する。
論文 参考訳(メタデータ) (2025-04-02T17:40:47Z) - Accelerating LLaMA Inference by Enabling Intermediate Layer Decoding via
Instruction Tuning with LITE [62.13435256279566]
大規模言語モデル(LLM)は、様々な自然言語タスクで顕著なパフォーマンスを実現している。
しかし、その大きなサイズは推論を遅く、計算的に高価にする。
最終層の生成能力に影響を与えることなく、これらの層が「良い」生成能力を得ることができることを示す。
論文 参考訳(メタデータ) (2023-10-28T04:07:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。