論文の概要: Teaching Agents in their Own Style: Blackbox Teacher Distillation for Web Agents
- arxiv url: http://arxiv.org/abs/2610.19834v1
- Date: Wed, 14 Oct 2026 09:06:49 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:16.063471
- Title: Teaching Agents in their Own Style: Blackbox Teacher Distillation for Web Agents
- Title(参考訳): エージェントを独自のスタイルで指導する: Webエージェントのためのブラックボックス教師蒸留
- Abstract要約: 本稿では,教員が学生の失敗の編集者であるWebKDを紹介する。
エピソードが失敗すると、教師は最初の間違い点を見つけ、その点から生徒の推論の痕跡、状態、行動を書き直す。
編集の結果、教師の修正は、生徒自身のテキストよりも、生徒にとってより驚くべきものになりうることが判明した。
- 参考スコア(独自算出の注目度): 7.017865728670461
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Frontier web agents using closed models have high inference and computational costs. Smaller open models can be an alternative, but to be performant, they require training supervision from a human or teacher model. Token-level teacher distillation is not an option for closed teachers as it needs access to the model's logits. The standard approach is to imitate teacher demonstrations offline, but it trains the student on states it has never visited, and in a style it does not write in. We introduce WebKD, where the teacher is the editor of the student's failures. Given a failed episode, the teacher finds the first point of mistake, and rewrites the student's reasoning traces, harness states, and actions from that point onward. The editing reveals that the teacher's corrections can be more surprising to the student than the student's own text. WebKD instead aims to edit minimally. In the data space, the teacher writes each correction in the student's style. In the objective space, the reasoning is weighted by its contribution to the action. A role-asymmetric KL anchor allows the corrected action to move freely while keeping the reasoning near the student's prior. On the TimeWarp benchmark, WebKD students gain about 5.5-10.7 pp over behavior cloning, outcome-reward RL, and teacher editing baselines. The performance transfers to unseen versions and to the live web in the OnlineMind2Web benchmark. WebKD opens a new way of distilling black-box models to improve the capabilities of open-weight web agents.
- Abstract(参考訳): クローズドモデルを用いたフロンティアWebエージェントは、高い推論と計算コストを持つ。
より小さなオープンモデルは代替品になり得るが、パフォーマンスのためには、人間または教師モデルからのトレーニングの監督が必要である。
家庭レベルの教師の蒸留は、モデルのロジットにアクセスする必要があるため、閉じた教師には選択肢ではない。
標準的なアプローチは、教師のデモをオフラインで模倣するが、訪れたことのない状態や書かないスタイルで生徒を訓練する。
本稿では,教員が学生の失敗の編集者であるWebKDを紹介する。
エピソードが失敗すると、教師は最初の間違い点を見つけ、その点から生徒の推論の痕跡、状態、行動を書き直す。
編集の結果、教師の修正は、生徒自身のテキストよりも、生徒にとってより驚くべきものになりうることが判明した。
WebKDは最小限の編集を目的としている。
データ空間では、教師は各修正を生徒のスタイルで書く。
目的空間では、推論は行動への貢献によって重み付けされる。
ロール非対称のKLアンカーは、修正された動作を学生の事前の推論を保ちながら自由に動くことを可能にする。
TimeWarpベンチマークでは、WebKDの学生は行動クローニング、結果回帰RL、教師の編集ベースラインで約5.5-10.7ppを得る。
パフォーマンスは目に見えないバージョンと、OnlineMind2WebベンチマークでライブWebに転送される。
WebKDは、オープンウェイトWebエージェントの能力を改善するために、ブラックボックスモデルを蒸留する新しい方法を開く。
関連論文リスト
- Recovering Reliable Supervision via Critique-Guided On-Policy Distillation [14.729045952279558]
回復可能性の回復に誤り認識を用いるCryticOPDを提案する。
教師は間違ったロールアウトを批判し、生徒はエラーの後に解を書き換えることができる。
Qwen3の2人の学生と6つの数学的推論ベンチマークにおいて、CriticOPDはOPDを改善し、競合問題で最大の利益を上げている。
論文 参考訳(メタデータ) (2026-10-14T17:54:34Z) - LoOPSD: On-Policy Self-Distillation with Looped Teachers [74.28216878502211]
モデルの層実行順序を探索して,より強力な教師を構築し,その利点を学生に浸透させるLoOPSDを提案する。
具体的には, モデルの重みを重み付けしながら繰り返し探索し, 生徒が生成した接頭辞に対する教師の予測を用いて学習を指導する。
論文 参考訳(メタデータ) (2026-10-13T11:07:04Z) - Reward-Gated On-Policy Distillation [58.187458236302575]
オンライン蒸留は、強い教師から小さな学生に推論能力を伝達する強力な方法である。
RG-OPD: Reward-Gated On-Policy Distillationは、検証者フィードバックを用いて、教師のログがいつ信頼できるかを決定する。
RG-OPDは、推論とコーディングのベンチマークを通じて、より強い蒸留学生を生み出し、バニラ逆KL蒸留と最近のTLD-KDベースラインの両方を上回ります。
論文 参考訳(メタデータ) (2026-07-04T21:51:22Z) - Can Students Beyond The Teacher? Distilling Knowledge from Teacher's Bias [28.353042919961606]
知識蒸留(KD)は、大きな教師モデルからより小さな学生モデルに知識を伝達し、その性能を向上させる技術である。
現在のKDフレームワークは、学生モデルを誤解させる正しい知識と間違った知識の両方を送信します。
本稿では,バイアスを補正し,学生モデルの性能を大幅に向上させる新しい手法を提案する。
論文 参考訳(メタデータ) (2024-12-13T05:40:20Z) - Exploring and Enhancing the Transfer of Distribution in Knowledge Distillation for Autoregressive Language Models [62.5501109475725]
知識蒸留(KD)は、より小さな学生モデルを模倣するように訓練することで、大きな教師モデルを圧縮する技術である。
本稿では、教師ネットワークが小さなオンラインモジュールを統合し、学生モデルと同時学習するオンライン知識蒸留(OKD)について紹介する。
OKDは、様々なモデルアーキテクチャやサイズにおけるリードメソッドのパフォーマンスを達成または超え、トレーニング時間を最大4倍に短縮する。
論文 参考訳(メタデータ) (2024-09-19T07:05:26Z) - Switching Temporary Teachers for Semi-Supervised Semantic Segmentation [45.20519672287495]
半教師付きセマンティックセグメンテーションで一般的な教師/学生のフレームワークは、主に指数的移動平均(EMA)を用いて、学生の量に基づいて教師の重みを更新する。
本稿では,学生のカップリング問題を軽減するために,2つの臨時教員を兼ねた,シンプルで効果的な方法であるデュアル教師を紹介する。
論文 参考訳(メタデータ) (2023-10-28T08:49:16Z) - Faculty Distillation with Optimal Transport [53.69235109551099]
本稿では,教師の課題と生徒の課題を最適な輸送手段で結びつけることを提案する。
ラベル空間間の意味的関係に基づき、出力分布間の支持ギャップを埋めることができる。
各種条件下での実験は,提案手法の簡潔さと汎用性を示すものである。
論文 参考訳(メタデータ) (2022-04-25T09:34:37Z) - Learning to Teach with Student Feedback [67.41261090761834]
対話的知識蒸留 (Interactive Knowledge Distillation, IKD) は、教師が生徒のフィードバックから教えることを学ぶことを可能にする。
IKDは教師モデルを訓練し、特定の学生のトレーニングステップごとに特定のソフトターゲットを生成する。
教師と生徒の協調的な最適化は2つの反復的なステップによって達成される。
論文 参考訳(メタデータ) (2021-09-10T03:01:01Z) - Undistillable: Making A Nasty Teacher That CANNOT teach students [84.6111281091602]
本論文では,ナスティ・ティーチング(Nasty Teacher)という,通常の教師とほぼ同じパフォーマンスを得られる特別に訓練されたティーチング・ネットワークについて紹介し,研究する。
本稿では, 自負知識蒸留法という, シンプルで効果的な教師構築アルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-05-16T08:41:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。