論文の概要: Learning to Act with Task Progress: Distilling Small Agents from Compact Teacher Supervision
- arxiv url: http://arxiv.org/abs/2610.10332v1
- Date: Wed, 07 Oct 2026 16:15:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 21:58:23.031326
- Title: Learning to Act with Task Progress: Distilling Small Agents from Compact Teacher Supervision
- Title(参考訳): タスクプログレッシブで行動する学習:小型教師監督による小エージェントの蒸留
- Abstract要約: 大きなモデルデモから学ぶことで、すべてのステップで大きなモデルを呼び出すことなく、繰り返しタスクを完了できる小さなエージェントを訓練することが可能になる。
本稿では,現在のタスクステージを記述した短いラベルと,各アクションをペアリングするオフラインアプローチであるTask-Progress Distillation(TPD)を紹介する。
404回のデモで訓練を受けた1.7Bの学生は72.4%がTPDまたはアクションオンリーの監督で未確認のタスクを成功させる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Learning from large-model demonstrations offers a way to train small agents that can complete recurring tasks without calling a large model at every step. A central design choice is what to retain from teacher trajectories that contain reasoning, actions, and information about task progress. We introduce Task-Progress Distillation (TPD), an offline approach that pairs each demonstrated action with a short label describing the current task stage. The student learns these compact targets and selects actions by jointly scoring admissible stage--action pairs, which a deterministic harness executes in the environment. On ALFWorld, a 1.7B student trained with 404 demonstrations achieves 72.4\% mean unseen task success with either TPD or action-only supervision, compared with 48.3\% for a reasoning-trained student using constrained action selection. Explicit stages provide an additional benefit at 200 demonstrations, improving success from 48.0\% to 67.7\% over action-only supervision. With more demonstrations, the action-only student closes the gap, and both approaches reach 76.9\% at 808 demonstrations. Shared-history analyses link part of TPD's local advantage to better decisions when moving between subgoals, particularly from object acquisition to processing. These results show that compact supervision can train effective small task agents, while explicit task progress provides additional guidance at an intermediate demonstration budget.
- Abstract(参考訳): 大きなモデルデモから学ぶことで、すべてのステップで大きなモデルを呼び出すことなく、繰り返しタスクを完了できる小さなエージェントを訓練することが可能になる。
中心となる設計選択は、推論、行動、タスクの進捗に関する情報を含む教師の軌跡から何を維持するかである。
本稿では,現在のタスクステージを記述した短いラベルと,各アクションをペアリングするオフラインアプローチであるTask-Progress Distillation(TPD)を紹介する。
学生は、これらのコンパクトな目標を学習し、環境内で決定論的ハーネスが実行する許容的なステージ-アクションペアを共同でスコアリングすることでアクションを選択する。
ALFWorldでは、404回のデモで訓練された1.7Bの学生が72.4\%の平均的なタスク成功をPDまたはアクションのみの監督で達成している。
明示的なステージは200回のデモでさらなる利益をもたらし、48.0\%から67.7\%に改善された。
より多くのデモで、アクションのみの学生はギャップを埋め、両方のアプローチは808回のデモで76.9\%に達する。
共有履歴分析は、サブゴール間、特にオブジェクト取得から処理への移動において、PDの局所的な優位性の一部をより良い決定にリンクさせる。
これらの結果から,実効性のある小型タスクエージェントを訓練できる一方で,明示的なタスク進捗は中間的な実証予算で追加のガイダンスを提供することがわかった。
関連論文リスト
- PerturBot: Breaking Shortcut Priors in Vision-Language-Action Models with Perturbative Training [54.81497176604651]
視覚-言語-アクション(VLA)ポリシーは、その行動を決定する証拠を無視しながら、複雑なタスクを完了することができる。
私たちはこれらの依存関係をモダリティショートカット(Modality shortcuts)と呼んでいる: 成功例の正規性は、専門家の行動を予測するのに十分な視覚的、語彙的、あるいは運動的手がかりを生み出す。
本稿では,タスク関連エビデンスをより使いやすくし,自分でもショートカットが不十分なPerturbotを提案する。
論文 参考訳(メタデータ) (2026-10-03T15:57:51Z) - When Instructions Retrieve Trajectories: Diagnosing and Mitigating Generalization Failures in VLA Models [18.16273179954973]
視覚言語アクション(VLA)モデルは、分配タスクで90%以上の成功を達成できる。
ポリシーは言語と視覚の両方に反応するが、それらを組み合わせてタスクが必要とするアクションを選択することはない。
細調整された$_0.5$とGR00T-N1.7ポリシーの振る舞い解析により、ロールアウトが失敗した場合、ソースの動作を維持したり、別のデモタスクに切り替えたりすることが多いことが明らかになった。
論文 参考訳(メタデータ) (2026-09-30T15:34:57Z) - LexiconVLA: Learning Reusable Atomic Action Codebooks for Unseen Tasks [52.045695649147966]
クロスタスク再利用のための検索可能な原子-作用レキシコンを提案する。
グローバルかつ詳細なコードブックは、共有インタラクション構造ときめ細かい実行のバリエーションをキャプチャする。
視覚-原子的行動アライメントは、視覚状態変化からの軌道再構成と、行動コードからの視覚的結果予測を結合する。
論文 参考訳(メタデータ) (2026-09-29T05:45:52Z) - Missing Bridges: Composition-Aware Active Imitation Learning [30.957721433554653]
本稿では,アダプティブエージェントを遅延トポロジ(AALT)経由で導入する。
AALTは既存のデモを学習行動によって接続された潜在ハブ状態のトポロジに整理し、一度に多くのタスクを実行できる可能性のある高価値ブリッジのデモを特定し、それぞれをエキスパートクエリにグラウンドする。
論文 参考訳(メタデータ) (2026-09-16T01:48:13Z) - Generalize and Guide: Decomposing Rewards for Few-Shot Inverse Reinforcement Learning [4.847786820784619]
逆強化学習(IRL)は、実演から学ぶための強力なフレームワークを提供する。
マルチタスク識別器の近性誘導IRL(MPG)について紹介する。
MPGは,(1)関係タスク間で共有構造を伝達し,新たなタスクにおける専門家の行動を識別する一般化可能な識別器,(2)状態が専門家の行動からどの程度逸脱しているかを計測し,探索中に補正ガイダンスを提供する近接関数,の2つの相補的報酬成分を学習する。
論文 参考訳(メタデータ) (2026-07-20T09:51:02Z) - Zero-shot Imitation Learning by Latent Topology Mapping [18.335598046913418]
固定された実演データセットが有用な振る舞いを含む長期的目標条件設定について検討するが、エージェントが解決しなければならないすべてのタスクの完全な例ではない。
既存の模倣学習手法は、実証から強力なポリシーを学ぶことができるが、長距離タスクを解く際には、長い原始的行動軌跡の上に小さなエラーが蓄積され、新しいタスクへのゼロショット適応が信頼できない。
ZALT (Zero-shot Agents from Latent Topologies) は、学習中に示されるもの以上の未確認のスタートゴールタスクを解決する模倣学習手法である。
論文 参考訳(メタデータ) (2026-05-08T20:16:52Z) - SparTa: Sparse Graphical Task Models from a Handful of Demonstrations [18.00619071013106]
我々は、ロボットがタスクで達成すべきことを、どのように行うべきかではなく、推測することに集中する。
本稿では、一連の操作グラフを抽出し、オブジェクト状態上の分布を推定するデモセグメンテーションとプーリング手法を提案する。
シミュレーションと実ロボットの両方に適合したモデルをデプロイし、結果のタスク表現が環境全体にわたって信頼性の高い実行をサポートすることを示す。
論文 参考訳(メタデータ) (2026-02-18T21:54:35Z) - Leveraging In-Context Learning for Language Model Agents [51.2996117207114]
インコンテキスト学習(ICL)と動的に選択されたデモは、大規模言語モデル(LLM)の柔軟性と、トレーニングデータを活用してパフォーマンスを向上させる能力を組み合わせたものだ。
実演における類似タスクの軌道選択は, LLMエージェントの性能, 信頼性, 堅牢性, 効率を著しく向上させることを示す。
より大規模なモデル(アノテーションフェーズ)から得られた実演により、より小さなモデルも改善され、ICLエージェントはよりコストのかかる訓練されたエージェントと競合する可能性がある。
論文 参考訳(メタデータ) (2025-06-16T05:37:49Z) - Object-Centric Latent Action Learning [70.3173534658611]
本稿では,画素ではなくオブジェクトを対象とする,オブジェクト中心の潜在動作学習フレームワークを提案する。
我々は、自己教師対象中心の事前学習を利用して、行動関連や注意をそらすダイナミクスを歪めている。
その結果, 物体中心の事前学習は, トラクタの負の効果を50%軽減することがわかった。
論文 参考訳(メタデータ) (2025-02-13T11:27:05Z) - For SALE: State-Action Representation Learning for Deep Reinforcement
Learning [60.42044715596703]
SALEは、状態と行動の間のニュアンスな相互作用をモデル化する埋め込みを学ぶための新しいアプローチである。
我々は、SALEとRLのチェックポイントをTD3に統合し、TD7アルゴリズムを構成する。
OpenAIのジムのベンチマークタスクでは、TD7は平均276.7%、TD3よりも50.7%、それぞれ300k、500Mのタイムステップでパフォーマンスが向上している。
論文 参考訳(メタデータ) (2023-06-04T19:47:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。