論文の概要: TimelyDAgger: Timing-Aware Expert Querying for VLA Policy Improvement
- arxiv url: http://arxiv.org/abs/2609.33157v2
- Date: Fri, 02 Oct 2026 10:26:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-06 00:14:29.908664
- Title: TimelyDAgger: Timing-Aware Expert Querying for VLA Policy Improvement
- Title(参考訳): TimelyDAgger: VLAポリシー改善のためのタイムアウェアエキスパートクエリ
- Abstract要約: DAggerは、ポリシー実行中に訪れた州から専門家の監督を集約することで、ロボットポリシーを改善する。
我々は,Bridge-PCAによる内部視覚言語行動のモニタリングと,専門家の行動に基づくフィードバック誘導閾値適応を組み合わせたTimelyDAggerを提案する。
- 参考スコア(独自算出の注目度): 23.246411146258193
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: DAgger improves robot policies by aggregating expert supervision from states visited during policy execution. Robot-gated DAgger automates expert queries, allowing the robot to decide when to request expert takeover. While existing gates emphasize detecting the need for assistance, takeover timing also shapes the content of these demonstrations and their value for policy learning. We propose TimelyDAgger, combining Bridge-PCA monitoring of internal vision-language-action (VLA) features with Feedback-guided Threshold Adaptation based on expert behavior to improve takeover timing. We introduce an evaluation framework linking failure detection, takeover timing, and policy improvement, including Target-Aligned Supervision Ratio (TASR) for assessing supervision quality without retraining. Experiments show that takeover timing affects policy learning, with TimelyDAgger achieving competitive failure detection and higher post-training success in most evaluated settings under matched expert-action budgets. Project website: https://seen-e.github.io/TimelyDagger/.
- Abstract(参考訳): DAggerは、ポリシー実行中に訪れた州から専門家の監督を集約することで、ロボットポリシーを改善する。
ロボットゲートのDAggerは、専門家の問い合わせを自動化し、ロボットが専門家の乗っ取りをいつ要求するかを判断する。
既存のゲートは支援の必要性を検出することを強調する一方で、テイクオーバタイミングはこれらのデモの内容と政策学習の価値を形作る。
本稿では,Bridge-PCAによる内部視覚言語行動(VLA)のモニタリングとフィードバック誘導閾値適応を併用して,テイクオーバタイミングを改善するための専門家行動に基づくTimelyDAggerを提案する。
本稿では、障害検出、テイクオーバタイミング、政策改善をリンクする評価フレームワークを導入し、TASR(Target-Aligned Supervision Ratio)を用いて、リトレーニングなしで監視品質を評価する。
実験では、テイクオーバタイミングがポリシー学習に影響を及ぼし、TimelyDAggerは競争上の失敗の検出と、マッチした専門家アクション予算の下で評価されたほとんどの環境でのトレーニング後の成功を達成する。
プロジェクトWebサイト: https://seen-e.github.io/TimelyDagger/.com
関連論文リスト
- FIERCE: From Generalist Robot Policies to Fast Specialists via Progress-Failure Feedback [32.98143466079881]
汎用的なロボットポリシーは役に立つが、限定的な物理的相互作用を通じてコンパクトなスペシャリストを磨き直すには、情報的学習のフィードバックが必要である。
FIERCEは,タスク適応型プログレッシブ・フェール評価器を統合化した汎用的な強化学習フレームワークである。
この評価は、フィードバック品質、ポリシー学習効率、シミュレーション全体にわたるデプロイメントコストと2つのコンタクトリッチな実際のタスクを分離する。
論文 参考訳(メタデータ) (2026-09-16T13:34:08Z) - SEED: Self-Evolving On-Policy Distillation for Agentic Reinforcement Learning [38.54413500261524]
アウトカムベース強化学習(RL)は、実用的な最適化パラダイムを提供するが、その疎度な軌道レベルの報酬は、中間決定に関する限られたガイダンスを提供する。
筆者らは,自己進化型フレームワークSEED(Self-Evolving On-Policy Distillation)を提案する。
論文 参考訳(メタデータ) (2026-07-16T09:57:18Z) - Visual Verification Enables Inference-time Steering and Autonomous Policy Improvement [5.895174052129856]
推論時ポリシーステアリングと自己改善のための汎用ロボットポリシーのためのジェネレータ検証フレームワークであるVERITASを提案する。
予測時間による検証は、付加的な実演データをトレーニングすることなく、ベニラジェネリストを一貫して上回っていることを実証する。
論文 参考訳(メタデータ) (2026-06-16T17:59:04Z) - Enhancing LLM-based Search Agents via Contribution Weighted Group Relative Policy Optimization [47.7937991619078]
本稿では,プロセスの監督をグループ相対的な政策最適化に統合するフレームワークであるコントリビューション重み付きGRPOを提案する。
CW-GRPOは、LLM判定器を用いて、検索ラウンド毎の検索ユーティリティと推論精度を評価し、ラウンド毎のコントリビューションスコアを生成する。
複数の知識集約型ベンチマークの実験では、CW-GRPOはQwen3-8Bでは5.0%、Qwen3-1.7Bでは6.3%、標準GRPOより優れていた。
論文 参考訳(メタデータ) (2026-04-15T17:37:59Z) - When Should a Robot Think? Resource-Aware Reasoning via Reinforcement Learning for Embodied Robotic Decision-Making [68.12864562049957]
身体ロボットシステムは、高レベルの推論をサポートするために、大規模言語モデル(LLM)ベースのエージェントにますます依存している。
エージェントはいつ、いつ、いつ行動すべきか?
本稿では,エンボディエージェントのリソース・アウェア・オーケストレーションのための階層的なフレームワークであるRARRL(Resource-Aware Reasoning via Reinforcement Learning)を提案する。
論文 参考訳(メタデータ) (2026-03-17T15:38:50Z) - When to Act, Ask, or Learn: Uncertainty-Aware Policy Steering [10.01278648231868]
ポリシーステアリングは、デプロイ時にロボットの振る舞いを適用する新しい方法です。
VLM(Vision-Language Models)は、それらの推論能力のために、汎用的な検証を約束する。
セマンティックタスクの不確実性と低レベルのアクション実現可能性について共同で理由づけるフレームワークである不確実性対応型ポリシーステアリング(UPS)を提案する。
論文 参考訳(メタデータ) (2026-02-25T23:23:22Z) - Learning Affordances at Inference-Time for Vision-Language-Action Models [50.93181349331096]
ロボット工学において、VLA(Vision-Language-Action Model)は複雑な制御タスクを解くための有望な道を提供する。
本稿では,VLAの低レベルポリシーを過去の経験を条件とした高レベルVLMに接続するLITEN(Learning from Inference-Time Execution)を紹介する。
提案手法は,低レベルVLAの計画の生成と実行を行う推論フェーズと,その結果を反映した評価フェーズとを反復する。
論文 参考訳(メタデータ) (2025-10-22T16:43:29Z) - Scaling Policy Compliance Assessment in Language Models with Policy Reasoning Traces [12.671657542087624]
ポリシー推論トレース(英: Policy Reasoning Traces、PRT)は、LLMのポリシーコンプライアンスアセスメント能力を改善するための推論ブリッジとして機能する、特殊化された推論チェーンの一形態である。
実験により, PRTを推論時間とトレーニング時間の両方のシナリオに使用することにより, オープンウェイトモデルと商用モデルの性能が著しく向上することが示された。
論文 参考訳(メタデータ) (2025-09-27T13:10:21Z) - Enabling Self-Improving Agents to Learn at Test Time With Human-In-The-Loop Guidance [58.21767225794469]
大規模言語モデル(LLM)エージェントは、しばしばルールや必要なドメイン知識が頻繁に変化する環境で苦労する。
テスト時に更新されたドメイン知識を継続的に学習するための適応反射型対話エージェント(ARIA)を提案する。
ARIAはTikTok Pay内にデプロイされ、月間アクティブユーザ数は1億5000万を超えている。
論文 参考訳(メタデータ) (2025-07-23T02:12:32Z) - Active Test-time Vision-Language Navigation [60.69722522420299]
ATENAは、不確実なナビゲーション結果に対するエピソードフィードバックを通じて、実用的な人間とロボットのインタラクションを可能にする、テスト時のアクティブな学習フレームワークである。
特にATENAは、成功エピソードにおける確実性を高め、失敗エピソードにおいてそれを減らすことを学び、不確実性の校正を改善している。
さらに,自信ある予測に基づいて,エージェントがナビゲーション結果を評価することができる自己学習戦略を提案する。
論文 参考訳(メタデータ) (2025-06-07T02:24:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。