論文の概要: TAD: Distilling Vision-Language-Action Policies from Teacher Trajectories Alone
- arxiv url: http://arxiv.org/abs/2610.33650v1
- Date: Sat, 24 Oct 2026 13:05:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 22:27:13.415923
- Title: TAD: Distilling Vision-Language-Action Policies from Teacher Trajectories Alone
- Title(参考訳): TAD:教師のトラジェクトリを1人1人1人1人1人からビジョンランゲージ・アクション・ポリシーを廃止
- Abstract要約: 軌道のみの対数蒸留(gad)は教師の関節位置の固定されたバンクを適応的なフィードバックに変える。
GadはOpenVLA-OFT (7B)を26.2%から76.6%に改善した。
- 参考スコア(独自算出の注目度): 13.994736458219597
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Online distillation of vision-language-action (VLA) policies commonly relies on teacher action scores that an inference-only interface may not expose. Trajectory-only Adversarial Distillation (\gad{}) instead turns a fixed bank of teacher joint-position features into adaptive feedback: a discriminator compares feature marginals from teacher and student rollouts and supplies rewards for on-policy learning. The student interacts with the environment without online teacher queries or environment task rewards. On ManiSkill \texttt{PutOnPlateInScene25Main}, \gad{} improves OpenVLA-OFT (7B) from $26.2\%$ to $76.6\%$ \successonce{} ($+50.4$ percentage points) and from $20.3\%$ to $58.6\%$ \successend{}. It trails white-box on-policy distillation (OPD) at $81.6\%$ / $59.4\%$ by $5.0$ / $0.8$ percentage points ($n{=}256$ evaluation trajectories per checkpoint). The tested four-epoch continuation achieves the highest \gad{} result without additional teacher data. This best run uses $5\times$ OPD's student interaction budget and $12.5\times$ its complete-rollout batch-passes. The comparison demonstrates online VLA improvement without teacher scoring while quantifying unequal interaction and optimization budgets.
- Abstract(参考訳): ヴィジュアル・ランゲージ・アクション(VLA)政策のオンライン蒸留は一般的に、推論のみのインターフェースが露出しないという教師の行動スコアに依存している。
トラジェクトリのみのAdversarial Distillation (\gad{})は、教師のジョイントポジションの固定バンクを適応的なフィードバックに変える。
生徒は、オンライン教師の質問や環境タスクの報酬なしで環境と対話する。
ManiSkill \texttt{PutOnPlateInScene25Main} において、 \gad{} は OpenVLA-OFT (7B) を$26.2\%から$76.6\%$ \successonce{} (+50.4$%) に改善し、$20.3\% から$58.6\%$ \successend{} に改善する。
ホワイトボックスのオンライン蒸留(OPD)を81.6\%$ / 59.4\%$ by 5,.0$ / $0.8$%%ポイント(n{=}256$)で行う。
テストされた4つのエポック連続は、追加の教師データなしで最も高い \gad{} 結果を達成する。
このベストランは、PDの学生交流予算$5\timesと、フルロールアウトのバッチパス$12.5\timesを使用する。
この比較は、教師のスコアを使わずにオンラインVLAの改善を示し、不平等な相互作用と最適化予算を定量化する。
関連論文リスト
- Graph-Conditioned On-Policy Agent Distillation from Off-the-Shelf Teachers [36.72804395570285]
オンライン蒸留(OPD)は、生徒が生み出す軌跡に対する教師のフィードバックで、コンパクトな言語エージェントを訓練する。
教師の採点状況と実行証拠を充実させるGC-OPD(Graph-Conditioned On-Policy Agent Distillation)を導入する。
GC-OPDは、現在の参照や過去の代替品を取得し、学生の視線と組み合わせて、オリジナルの思考アクショントークンをスコアする。
論文 参考訳(メタデータ) (2026-09-29T13:12:44Z) - What Does Privileged Information Add to On-Policy Self-Distillation? [57.872246350931306]
オンラインの自己蒸留(On-policy self-distillation)により、言語モデルは、答や解決方法を見る、自分自身の凍結したコピーから学ぶことができる。
AMPLE-Mathは、5,319の数学的問題からなる再利用可能なスイートで、同じ答えを6つの推論ビューで共有する。
直接応答型ロールアウトを監督する思考能力のある教師によって、Qwen3-1.7Bの改良の大部分は参照レス蒸留によるものである。
論文 参考訳(メタデータ) (2026-09-17T15:57:10Z) - ReOrder-OPD:Reliability-Aware Prompt Ordering for On-Policy Distillation [25.69241346799495]
我々は,教師が生徒の接頭辞から正しい回答を得られる確率として,プロンプトレベルの教師継続信頼性を$R$と定義する。
我々は、高いR$プロンプトがより大きなOPDゲインをもたらし、下降するR$トレーニングがランダムな順序と上昇順序より優れていることを示す。
論文 参考訳(メタデータ) (2026-08-11T13:27:56Z) - $β$-OPSD: Deriving with Policy Optimization, Training with Self-Distillation [85.07190808882523]
オンライン自己蒸留は推論言語モデルを改善するための有望なアプローチである。
我々は,$-OPSDがバニラOPSDを一貫して上回ることを示す。
論文 参考訳(メタデータ) (2026-07-30T17:41:16Z) - Visual Contrastive Self-Distillation [61.298159957622886]
本稿では,視覚的コントラスト自己蒸留法を提案する。
これと対照的に,本研究では,教師の具体的イメージ分布の明確化を図り,その結果のフルディストリビューション目標を学生に蒸留する。
論文 参考訳(メタデータ) (2026-07-23T17:37:37Z) - Keep Policy Gradient in Charge: Sibling-Guided Credit Distillation for Long-Horizon Tool-Use Agents [11.997694190254974]
自己蒸留は、政策のロールアウトや特権教師を再利用することで、より密集的なシグナルを約束する。
しかし、トークンレベルの直接蒸留は、ツールの使用を静かに破壊できることを示す。
SGCD(Singing-Guided Credit Distillation)を導入する。
論文 参考訳(メタデータ) (2026-06-10T19:53:20Z) - Your Teacher Can't Help You Here: Combating Supervision Fidelity Decay in On-Policy Distillation [81.10000755917712]
オンライン蒸留は,教師からのトークンレベルのフィードバックを用いて,学生モデルを自作の軌道上で訓練することにより,推論能力を伝達する。
生徒が生成した接頭辞が長くなるにつれて、教師の次点の分布は自信を減らし、差別性が低下する。
SFDを緩和するため, textbfLookahead Group Reward (ours) を導入する。
論文 参考訳(メタデータ) (2026-05-29T04:39:20Z) - Offline Semantic Guidance for Efficient Vision-Language-Action Policy Distillation [1.5718245345210466]
オフラインセマンティックスーパーバイザーとしてVision-Language Modelを用いた蒸留フレームワークである textbfVLA-AD を導入する。
低レベルのアクション模倣に頼る代わりに、VLA-ADは教師が提供する7-DoFアクションターゲットを高レベルのセマンティックガイダンスで強化する。
論文 参考訳(メタデータ) (2026-05-15T17:48:25Z) - On-Policy Distillation with Best-of-N Teacher Rollout Selection [54.91780727674628]
本報告では, オンライン蒸留のためのベスト・オブ・Nロールアウト教員選抜フレームワークBRTSを提案する。
BRTSは、教師軌道から構築された教師コンテキスト管理ブランチで、標準の学生コンテキストOPDを強化する。
BRTSは、挑戦的な推論ベンチマークにおいて、標準的なPDよりも改善されており、より難しいデータセットに対して最大の利益がある。
論文 参考訳(メタデータ) (2026-05-10T19:49:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。