論文の概要: When and What to Teach: Budget-Aware Online Adaptation for Web Agents
- arxiv url: http://arxiv.org/abs/2609.05513v1
- Date: Mon, 31 Aug 2026 08:40:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-10 19:44:08.078169
- Title: When and What to Teach: Budget-Aware Online Adaptation for Web Agents
- Title(参考訳): いつ、何を教えるか:Webエージェントのオンライン適応に予算を意識する
- Abstract要約: 予算トラジェクトリトリミングを用いたtextbfScore-Guided Online Teachingを提案する。
本フレームワークでは,教師モデルに問合せを行うためにtextbfwhen を指示する可解性対応の教師ゲートと,スコア誘導型ターン選択機構を統合して,保持すべき情報的ターンを決定する。
本手法は,教師の着信率を22.6%減らし,生徒の着信率を52.1%減らした上で,同等の初通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通通
- 参考スコア(独自算出の注目度): 33.565147865356025
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Web agents have achieved significant success in automating complex internet tasks but deploying them in real-world environments requires continuous online adaptation. Given that deploying powerful proprietary models remains commercially cost-prohibitive, practitioners must rely on lightweight local models that evolve post-deployment via online teaching from a stronger teacher. However, standard interactive feedback imposes prohibitive costs. We show that conventional trajectory-level preference optimization wastes budget on both unresolvable episodes and redundant execution turns. To resolve these inefficiencies, we propose \textbf{Score-Guided Online Teaching with Budgeted Trajectory Trimming}, a budget-aware framework that systematically orchestrates \textbf{when} and \textbf{what} to teach. Specifically, our framework integrates a solvability-aware teacher gate to dictate \textbf{when} to query the teacher model and a score-guided turn selection mechanism to decide \textbf{what} informative turns to retain. Extensive experiments on MiniWoB and TimeWarp demonstrate that our method achieves comparable first-pass success while reducing teacher calls by 22.6\% and student training compute by 52.1\% on average. Our code is available at https://github.com/zjw131f1fc/budgeted-online-teaching.
- Abstract(参考訳): Webエージェントは複雑なインターネットタスクの自動化において大きな成功を収めてきたが、実際の環境に配置するには継続的なオンライン適応が必要である。
強力なプロプライエタリなモデルの展開が商業的にコストを抑え続けることを考えると、実践者は、より強力な教師によるオンライン教育を通じて、デプロイ後進化する軽量なローカルモデルに頼らなければならない。
しかし、標準的な対話的フィードバックは、禁止的なコストを課す。
従来の軌道レベルの優先最適化は、解決不可能なエピソードと冗長な実行ターンの両方で予算を浪費することを示す。
これらの非効率性を解決するため,予算的トラジェクトリ・トリミングを用いた「textbf{Score-Guided Online Teaching with Budgeted Trajectory Trimming」を提案し,この枠組みは,「textbf{when}」と「textbf{what}」を体系的に編成して指導する。
具体的には,可解性を考慮した教師ゲートを統合して,教師モデルを問合せするための‘textbf{when}’と,‘textbf{what}インフォメーション・ターンを保持するためのスコア誘導型ターン選択機構を統合する。
MiniWoB と TimeWarp の大規模な実験により,本手法は教師の着信を 22.6 % 減らし,生徒の着信を 52.1 % 減らした。
私たちのコードはhttps://github.com/zjw131f1fc/budgeted-online-Teaching.comで利用可能です。
関連論文リスト
- Learning to Grade Efficiently: A Bandit-Driven Prompt-Selection Framework for Low-Cost LLM Essay Scoring [0.0]
大言語モデル(LLM)は自動エッセイスコア(AES)において強力な能力を示す
本稿では,マルチアームバンディット(MAB)コントローラにおいて,各プロンプト型をアームとして扱うコスト認識手法を提案する。
タスク2のエッセイ作成実験の結果,MABフレームワークは網羅的なグリッド探索に匹敵する精度を達成していることがわかった。
論文 参考訳(メタデータ) (2026-08-24T20:42:56Z) - Progressive$^2$: A Teacher-Student Progressive Co-Evolving Knowledge Distillation Method for Substantial Model Compression [19.122713439477273]
知識蒸留(KD)は、大きなモデル(教師)からより小さなモデル(学生)へ知識を伝達するための広く利用されている技術である。
本稿では, より強力な教師と, より小さな学生のコンビネーションを通じて, プログレッシブ$2$という新しい蒸留手法を提案する。
論文 参考訳(メタデータ) (2026-07-31T13:19:08Z) - Weasel: Out-of-Domain Generalization for Web Agents via Importance-Diversity Data Selection [62.12561798137681]
Weaselは、Webエージェントのオフライントレーニングのための軌道選択方法である。
トレーニングコストを削減しつつ、ドメイン外のパフォーマンスを改善し、標準的な微調整よりも約9.7-12.5$timesのトレーニングスピードアップを実現しています。
論文 参考訳(メタデータ) (2026-05-19T09:19:01Z) - Distribution Corrected Offline Data Distillation for Large Language Models [8.778789513095907]
強力な大規模言語モデルから小さなものへの推論トレースを蒸留することは、リソース制約された設定におけるインテリジェンスを改善するための有望な方法である。
教師が生成したトレースからのオフライン蒸留は、高品質でサンプル効率の高い監視を提供するが、分散的ドリフトに悩まされる。
そこで本研究では,教師の分散ドリフトを補正しつつ,教師が生成するオフラインデータの効率性と監督品質を保ちつつ,教師の分散ドリフトを補正する原理的オフライン推論蒸留フレームワークを提案する。
論文 参考訳(メタデータ) (2026-05-13T19:47:31Z) - ExecTune: Effective Steering of Black-Box LLMs with Guide Models [81.45879384560016]
我々は、ガイドモデルがブラックボックスコアモデルによって実行される構造化戦略を生成する、ガイドコアポリシー(GCoP)と呼ばれるシステムのクラスについて研究する。
我々はGCoPを費用対効果目標として定式化し、エンドツーエンドのパフォーマンスは平均実行可能性によって管理されていることを示す。
教師が指導する受入サンプリング,教師による微調整,構造対応強化学習を組み合わせた,原則的学習レシピであるExecTuneを提案する。
論文 参考訳(メタデータ) (2026-04-09T23:27:46Z) - Continual Learning, Not Training: Online Adaptation For Agents [0.0]
私たちは、推論(教師)を実行から切り離すデュアルエージェントアーキテクチャATLAS(Adaptive Teaching and Learning System)を紹介します。
ATLASは勾配のない連続学習を実現し、モデルパラメータからシステムレベルのオーケストレーションへの適応の軌跡をシフトさせる。
論文 参考訳(メタデータ) (2025-11-02T21:48:31Z) - UCB-type Algorithm for Budget-Constrained Expert Learning [71.67657715154034]
algnameM-LCBはUCBスタイルのメタアルゴリズムであり、幻想的後悔の保証を提供する
我々は、AlgnameM-LCBが、限られたリソースの下で、ステートフルで自己学習の専門家をコーディネートする、より現実的なシナリオまで、古典的な帯域幅パラダイムをどのように拡張しているかを示す。
論文 参考訳(メタデータ) (2025-10-26T12:36:17Z) - xRouter: Training Cost-Aware LLMs Orchestration System via Reinforcement Learning [104.63494870852894]
我々は,学習したルータが直接応答するか,あるいは1つ以上の外部モデルを呼び出すことができるツールコールベースのルーティングシステム x を提案する。
当社の実装には、報酬とコスト会計を含む、完全な強化学習フレームワークが含まれています。
さまざまなベンチマークで、xはコストパフォーマンスのトレードオフを強く達成します。
論文 参考訳(メタデータ) (2025-10-09T16:52:01Z) - Online-BLS: An Accurate and Efficient Online Broad Learning System for Data Stream Classification [52.251569042852815]
オンライン更新毎にクローズドフォームソリューションを備えたオンライン広範学習システムフレームワークを導入する。
我々は,効果的な重み推定アルゴリズムと効率的なオンライン更新戦略を設計する。
我々のフレームワークは、コンセプトドリフトを伴うデータストリームシナリオに自然に拡張され、最先端のベースラインを超えます。
論文 参考訳(メタデータ) (2025-01-28T13:21:59Z) - Exploring and Enhancing the Transfer of Distribution in Knowledge Distillation for Autoregressive Language Models [62.5501109475725]
知識蒸留(KD)は、より小さな学生モデルを模倣するように訓練することで、大きな教師モデルを圧縮する技術である。
本稿では、教師ネットワークが小さなオンラインモジュールを統合し、学生モデルと同時学習するオンライン知識蒸留(OKD)について紹介する。
OKDは、様々なモデルアーキテクチャやサイズにおけるリードメソッドのパフォーマンスを達成または超え、トレーニング時間を最大4倍に短縮する。
論文 参考訳(メタデータ) (2024-09-19T07:05:26Z) - Efficient Methods for Non-stationary Online Learning [63.268670895111654]
動的後悔と適応的後悔を最適化する効率的な方法を提案する。
提案アルゴリズムでは,各ラウンドで1つの勾配クエリと1つの関数評価しか必要としない。
また、さらに強力な測度、すなわち「内部的動的後悔」を研究し、ラウンド当たりの射影数を$O(log2 T)$から$$$$に減らした。
論文 参考訳(メタデータ) (2023-09-16T07:30:12Z) - On Efficient Online Imitation Learning via Classification [17.416831207557603]
分類に基づくオンライン模倣学習($textbfCOIL$)と、オラクル効率の良い後悔最小化アルゴリズムを設計するための基本的な可能性について検討する。
私たちの研究は、分類に基づくオンライン模倣学習を、重要なILセットアップとして、しっかりとした基礎に置きます。
論文 参考訳(メタデータ) (2022-09-26T17:34:36Z) - How to Spend Your Robot Time: Bridging Kickstarting and Offline
Reinforcement Learning for Vision-based Robotic Manipulation [17.562522787934178]
強化学習(RL)は経験から制御を学習するのに有効であることが示されている。
RLは通常、環境との大量のオンラインインタラクションを必要とします。
準最適政策を再利用することで、ターゲットタスクにおけるオンラインインタラクションを最小化する方法について検討する。
論文 参考訳(メタデータ) (2022-05-06T16:38:59Z) - Efficient Crowd Counting via Structured Knowledge Transfer [122.30417437707759]
クラウドカウントはアプリケーション指向のタスクであり、その推論効率は現実世界のアプリケーションにとって不可欠である。
本稿では,学生ネットワークを軽量かつ高効率に構築する構造的知識伝達フレームワークを提案する。
我々のモデルはNvidia 1080 GPUで最低6.5$times$のスピードアップを取得し、最先端のパフォーマンスも達成しています。
論文 参考訳(メタデータ) (2020-03-23T08:05:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。