論文の概要: SCA: Spatial Credit Assignment for Reinforcement Learning of GUI Agents

• arxiv url: http://arxiv.org/abs/2609.36939v1
• Date: Tue, 29 Sep 2026 07:51:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:47.293587
• Title: SCA: Spatial Credit Assignment for Reinforcement Learning of GUI Agents
• Title（参考訳）: SCA: GUIエージェントの強化学習のための空間クレジットアサインメント
• Abstract要約: グループ相対強化学習は、同一のGUI状態からサンプリングされた複数の応答の報酬を比較することにより、GUIアクション予測を改善する。 バイナリ評価は、空間的に異なる異なるクリックを同一として扱い、すべてのサンプルクリックがフェールした場合に相対的な信号を提供しない。 サンプルクリックの画面座標を用いてグループ相対クレジットを洗練する空間クレジット割り当て(SCA)を提案する。
• 参考スコア（独自算出の注目度）: 16.199154324847406
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: GUI agents automate tasks on digital devices by grounding language instructions in visual interfaces. Existing group-relative reinforcement learning improves GUI action prediction by comparing the rewards of multiple responses sampled from the same GUI state. However, binary evaluation treats spatially different failed clicks as identical and provides no relative signal when all sampled clicks fail. To address these limitations, we propose Spatial Credit Assignment (SCA), which uses the screen coordinates of sampled clicks to refine group-relative credit. Specifically, SCA predicts each held-out response's reward from the other responses in groups containing both successes and failures, then uses the prediction residual to adjust credit. When all sampled clicks fail, SCA instead orders them by distance to the annotated target. These spatial references are used only to construct the training update; the deployed policy remains unchanged. We evaluate whether this correction improves the policy update itself by comparing its error and directional alignment with the exact return gradient in a controlled synthetic study. Across GUI grounding and offline action-prediction benchmarks, SCA improves grounding across professional domains and achieves the strongest results among reinforcement-fine-tuned models on most action-prediction metrics, with consistent gains across the reported GUI suites.
• Abstract（参考訳）: GUIエージェントは、ビジュアルインターフェースで言語命令を接地することで、デジタルデバイス上のタスクを自動化する。 既存のグループ相対強化学習は、同一のGUI状態からサンプリングされた複数の応答の報酬を比較することにより、GUIアクション予測を改善する。 しかし、バイナリ評価では、空間的に異なる異なるクリックを同一と扱い、すべてのサンプルクリックがフェールした場合に相対的な信号を提供しない。 これらの制約に対処するため、サンプルクリックの画面座標を用いてグループ相対クレジットを洗練する空間クレジット割り当て(SCA)を提案する。 具体的には、SCAは成功と失敗の両方を含むグループ内の他の応答から各ホールドアウトレスポンスの報酬を予測し、その予測残差を使用してクレジットを調整します。 すべてのサンプルクリックがフェールすると、SCAはアノテーション付きターゲットまでの距離でそれらを命令します。 これらの空間参照はトレーニング更新を構築するためにのみ使用される。 制御された合成研究において、この補正がポリシー更新自体を改善するかどうかを、その誤差と方向のアライメントと正確な戻り勾配を比較して評価する。 GUIのグラウンディングとオフラインのアクション予測ベンチマークを通じて、SCAはプロのドメイン間のグラウンディングを改善し、ほとんどのアクション予測メトリクスで強化細調整されたモデルの中で最強の結果を達成し、報告されたGUIスイート全体で一貫した利得を得る。

関連論文リスト

• How Many Pixels Is a Digit Worth? Place-Aware Coordinate Entropy for GUI Agent Confidence Estimation [73.2163413577971]
  GUIエージェントは、クリック座標をDigital-tokenシーケンスとして予測するが、標準テキスト-LLM信頼推定手法は、間違ったクリックから正しいクリックをランク付けする。 境界ボックスの正しさは、しばしば下位の桁よりも上位の桁の方が重要である。 これをPACE(Place-Aware Coordinate Entropy)と呼ぶ。 ScreenSpot-ProとScreenSpot-v2の固定スケールエージェント全体で、PACEはAUROCとすべてのプライマリ比較において選択的な精度で勝利する。
  論文  参考訳（メタデータ） (2026-09-21T08:42:08Z)
• Rank-Then-Act: Reward-Free Control from Frame-Order Progress [5.357451930622806]
  Rank-Then-Act (RTA) は、環境に配慮せず、専門家によるビデオデモからコントロールポリシーを学ぶためのフレームワークである。 VLM(Vision-Language Model)をオフラインで,プログレッシブベースのオーディショナルスコアラーとしてトレーニングする。 我々は,予測進行ランクと真の時間指標とのスピアマンランク相関を計算し,有界でスケール不変な学習信号を生成する。
  論文  参考訳（メタデータ） (2026-07-02T08:50:32Z)
• VISTA: View-Consistent Self-Verified Training for GUI Grounding [45.35127211485159]
  VISTAはGRPOベースのトレーニングフレームワークで、同一GUIインスタンスの複数のターゲット保存ビューから各比較グループを構築する。 強化学習を非条件模倣に変換することなく、短時間の座標生成を安定化する。 5つのGUIグラウンドベンチマークと複数のQwenバックボーンのグラウンド精度を一貫して改善する。
  論文  参考訳（メタデータ） (2026-06-12T15:58:18Z)
• TAPO: Tool-Aware Policy Optimization via Credit Transfer for Multimodal Search Agents [54.08846865906602]
  ツール強化マルチモーダルサーチエージェントにおいて,クレジットミス割り当てをGRPOの系統的障害モードとして特徴付ける。 本稿では,情報取得ツールのパラメータ決定性を利用したツール・アウェア・ポリシー・オプティマイズ(TAPO)を提案する。
  論文  参考訳（メタデータ） (2026-06-04T07:15:43Z)
• GUI-Perturbed: Domain Randomization Reveals Systematic Brittleness in GUI Grounding Models [1.5114908780891403]
  GUIグラウンディングモデルは標準ベンチマークで85%以上の精度を報告しているが、命令が直接の要素命名ではなく空間的推論を必要とする場合、27-56ポイントを減少させる。 制御された摂動フレームワークであるGUI-Perturbedを導入する。
  論文  参考訳（メタデータ） (2026-04-15T16:39:22Z)
• CARE What Fails: Contrastive Anchored-REflection for Verifiable Multimodal [84.71254539482369]
  検証可能な報酬を伴うグループ相対的強化学習(RLVR)は、しばしば、すでに失敗している最も情報に富むデータを浪費する。 エラーを監督するマルチモーダル推論のための,障害中心のポストトレーニングフレームワークであるCAREを提案する。 CAREは正確さを改善し、スムーズさをトレーニングすると同時に、障害からの学習信号のシェアを明示的に増やします。
  論文  参考訳（メタデータ） (2025-12-22T16:34:21Z)
• GUI-Shepherd: Reliable Process Reward and Verification for Long-Sequence GUI Tasks [75.50160982584943]
  本稿では,エージェントを誘導するプロセス・リワード・モデルを提案する。 Gui-Shepherdは52ドル(約5,800円)のインタラクションからなるさまざまな大規模データセットでトレーニングされている。 GUIエージェントにおけるプロセス管理の体系的な研究を最初に行った。
  論文  参考訳（メタデータ） (2025-09-28T08:35:16Z)
• Test-Time Reinforcement Learning for GUI Grounding via Region Consistency [17.954613936413942]
  本稿では,複数のサンプル予測から空間投票格子を構築し,コンセンサス領域を同定するテスト時間スケーリング手法を提案する。 また、GUI-RCPOを導入し、これらの一貫性パターンをテスト時間強化学習の報酬に変換する。 提案手法は,GUI接地のためのテスト時間スケーリングとテスト時間強化学習の未解決の可能性を明らかにし,より堅牢でデータ効率のよいGUIエージェントへの有望な道筋を提供する。
  論文  参考訳（メタデータ） (2025-08-07T17:54:27Z)
• Q-REG: End-to-End Trainable Point Cloud Registration with Surface Curvature [81.25511385257344]
  本稿では、リッチな幾何学的情報を用いて、単一の対応から剛性ポーズを推定する新しい解Q-REGを提案する。 Q-REGは、堅牢な推定を徹底的な探索として形式化し、エンドツーエンドのトレーニングを可能にする。 実験では、Q-REGは対応マッチング法に非依存であり、推論とエンドツーエンドトレーニングの両方で使用した場合に一貫した改善を提供する。
  論文  参考訳（メタデータ） (2023-09-27T20:58:53Z)
• USER: Unified Semantic Enhancement with Momentum Contrast for Image-Text Retrieval [115.28586222748478]
  Image-Text Retrieval (ITR) は、与えられたクエリに意味のあるターゲットインスタンスを、他のモダリティから検索することを目的としている。 既存のアプローチは通常、2つの大きな制限に悩まされる。
  論文  参考訳（メタデータ） (2023-01-17T12:42:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。