論文の概要: Learning from Runtime Feedback through Failure-Bank Self-Evolution for Vision-Language-Action Models
- arxiv url: http://arxiv.org/abs/2609.39820v1
- Date: Wed, 30 Sep 2026 14:23:36 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-01 18:57:27.885316
- Title: Learning from Runtime Feedback through Failure-Bank Self-Evolution for Vision-Language-Action Models
- Title(参考訳): ビジョン・ランゲージ・アクションモデルのためのフェールバンク自己進化による実行時フィードバックからの学習
- Abstract要約: FailBankは、ランタイムフィードバックを永続的なポリシー改善に変換するフレームワークである。
VLA-Arenaベンチマークで2つの難易度と2つのVLAバックボーンで評価した。
- 参考スコア(独自算出の注目度): 29.06758511498909
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Vision-language-action (VLA) models generalize broadly across robotic manipulation tasks, but complex environments require balancing task success with unintended contact. Runtime shields can correct individual actions, but they leave the underlying policy unchanged, so repeated disagreements may create a persistent policy-shield mismatch that blocks task progress. To address this challenge, we introduce FailBank, a four-stage self-evolving framework that converts runtime feedback into persistent policy improvement. During collection, a fixed CBF-based safety module serves as an observe-only teacher, producing counterfactual corrections while the policy remains in control. Outcome-aware admission then converts useful proposals into corrective targets and retains successful uncorrected actions as quiet anchors for guarded LoRA updates. We evaluate FailBank on the VLA-Arena benchmark across two difficulty levels and two VLA backbones. Compared with the base policies, FailBank improves the joint success-cost operating point. Across the two backbones, FailBank improves task success rate by 8.5 and 6.9 percentage points, while reducing policy-induced cumulative cost by 35.6\% and 23.8\%, respectively. Compared with runtime shielding, FailBank raises task success rate by 25.4 and 9.5 percentage points, while maintaining comparable policy-induced cumulative cost. These results show that runtime feedback can serve as persistent policy supervision rather than only as a temporary action constraint.
- Abstract(参考訳): 視覚言語アクション(VLA)モデルは、ロボット操作タスクで広く一般化されるが、複雑な環境では、意図しない接触とタスク成功のバランスをとる必要がある。
実行時シールドは個々のアクションを修正できるが、基本となるポリシは変更されないため、繰り返し発生する不一致は、タスクの進捗をブロックする永続的なポリシシールドミスマッチを生成する可能性がある。
この課題に対処するために、ランタイムフィードバックを永続的なポリシー改善に変換する4段階のセルフ進化フレームワークであるFailBankを紹介します。
収集期間中、CBFベースの固定安全モジュールは観察のみの教師として機能し、ポリシーが制御されている間、対実的な修正を行う。
アウトカムアウェアの受付は、有用な提案を修正ターゲットに変換し、ガードされたLoRA更新のための静かなアンカーとして、修正されていないアクションを成功させ続ける。
VLA-ArenaベンチマークでFailBankを2つの難易度と2つのVLAバックボーンで評価した。
基本方針と比較すると、FailBankは共同成功とコストの運用ポイントを改善している。
2つのバックボーン全体で、FailBankはタスク成功率を8.5と6.9のパーセンテージで改善し、政策による累積コストをそれぞれ35.6\%と23.8\%に削減した。
実行時遮蔽と比較して、FailBankはタスク成功率を25.4ポイントと9.5ポイント引き上げる一方で、同様の政策による累積コストを維持している。
これらの結果は、実行時のフィードバックが一時的なアクション制約としてだけではなく、永続的なポリシー監視として機能することを示しています。
関連論文リスト
- Credit-Guided Policy Improvement for Test-time Adaptive Vision-Language Navigation [53.30116823667751]
視覚言語ナビゲーションのためのテスト時適応(TTA-VLN)により、事前訓練されたポリシーは、目に見えない環境にオンラインで適応できる。
分散シフトは、局所的な行動選好を歪め、オフコース決定につながる可能性がある。
我々は,行動誘発観察遷移から署名付き参照関連決定クレジットを回収する信用誘導政策改善(CGPI)を提案する。
論文 参考訳(メタデータ) (2026-09-29T13:46:11Z) - FailPatch: Failure Residual Patching for Vision-Language-Action Models [23.401435115206905]
FailPatchは障害駆動の残留パッチフレームワークで、実行-信頼性の監視からアクションの監視を分離する。
トレーニング可能なパラメータは0.52%に過ぎず、FailPatchは4つの長距離RoboTwinタスクで成功率を11.0ポイント改善する。
論文 参考訳(メタデータ) (2026-09-28T02:51:32Z) - Learning to Leverage Compliance: A Policy-Admittance Learning Framework for Robotic Insertion [2.3732579195955665]
本研究では,一定条件下での実行時インタラクションを通じて視覚ポリシーをガイドする政策適応学習フレームワークを提案する。
マルチレートフィードバック機構は、ハイレートなコンタクト・インタラクション記録をポリシ・トランジション・報酬に集約する。
コンフリクト形成を行うことで, 心房中隔膜接触条件のコンフリクト密度の中央値が約53%減少することを示す。
論文 参考訳(メタデータ) (2026-09-25T15:58:13Z) - CARE: Experience-Guided Atomic Corrective Execution for Vision-Language-Action Policies [52.32735203969873]
VLA(Vision-Language-Action)ポリシーは、ロボット操作において強力なパフォーマンスを達成するが、実行が名目上の軌道から逸脱した後も不安定なままである。
本稿では,実行時に発生する障害から学習することで回復を改善するフレームワークであるCARE(Corrective Atomic Robotic Execution)を提案する。
論文 参考訳(メタデータ) (2026-09-21T05:14:34Z) - Stable and Efficient Real-World Online VLA Post-Training via Asynchronous Replay-Anchored Policy Improvement [60.83624556700821]
本稿では,リプレイ動作における批評家とアクターの更新の両方を基盤として,ロールアウトと学習を同時に行うフレームワークを提案する。
RAPolicyを4つのシングルタスク設定と1つのジョイント5タスク設定で実世界で評価し,オンライントレーニングの予算は1~2時間に過ぎなかった。
論文 参考訳(メタデータ) (2026-09-19T08:45:18Z) - ActionPiece: Rethinking Action Tokenization for Autoregressive Vision-Language-Action Models [40.14720118215973]
アクショントークンーは自己回帰視覚アクション(VLA)モデルにおいて中心的な役割を果たす。
トークン化が再建後の局所的物理的距離ランキングをどれだけよく保存するかを測定するために,身体的ランクの整合性(PRC)を導入する。
本稿では,表現学習と量子化の連携による身体行動関係の保存を行うActionPieceを提案する。
論文 参考訳(メタデータ) (2026-09-16T11:19:54Z) - EmbodiedSkills: A Unified Framework for Orchestrating, Training, and Deploying VLA Agents [56.25120535601186]
視覚言語アクション(VLA)モデルは、視覚観察と言語指示を直接ロボットアクションにマッピングする。
本稿では,各スキル決定を実行提案として扱うフレームワークであるEmbodiedSkillsを提案する。
共有可能スキルインタフェースは、ハイレベルスキル選択、バウンドローレベルVLA実行、ポストアクション検証を接続する。
論文 参考訳(メタデータ) (2026-09-01T14:14:47Z) - CheckVLA: Execution-Time Verification with Action-Conditioned World Model for Long-Horizon Mobile Manipulation [15.532709298240215]
視覚言語アクション(VLA)ポリシーは、オープンループアクションチャンクを通じて長距離移動操作を実行する。
本稿では、個別に訓練されたフリーズされた行動条件付き世界モデルを用いて実行を検証するCheckVLAを提案する。
RoboCasa365では、一般的なトレーニングレシピと一致した呼び出し予算の下で、CheckVLAの平均成功率は36.1%であり、定期的なリプランでは27.6%である。
論文 参考訳(メタデータ) (2026-07-29T11:31:33Z) - On-Policy Self-Evolution via Failure Trajectories for Agentic Safety Alignment [54.30690671490447]
既存の安全アライメント信号は、主に応答レベルまたは政治外である。
FATEは、検証済みの失敗を専門家のデモンストレーションなしで修復管理に変換する。
FATEは攻撃成功率を33.5%、有害なコンプライアンスを82.6%削減し、外的軌道安全診断を6.5%改善する。
論文 参考訳(メタデータ) (2026-05-12T09:56:28Z) - RePO-VLA: Recovery-Driven Policy Optimization for Vision-Language-Action Models [90.39703013636868]
RePO-VLAは、リカバリ駆動のポリシー最適化フレームワークである。
成功、回復、失敗の軌跡に異なる役割を割り当てる。
対人的な成功は、平均で20%から75%、実世界の規模で80%まで上昇する。
論文 参考訳(メタデータ) (2026-05-10T08:24:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。