論文の概要: Does a Learned Corrector Beat a Simple Retreat? Evidence from a Frozen VLA
- arxiv url: http://arxiv.org/abs/2610.06921v1
- Date: Fri, 02 Oct 2026 21:57:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 02:58:29.466947
- Title: Does a Learned Corrector Beat a Simple Retreat? Evidence from a Frozen VLA
- Title(参考訳): 学習したコレクターは簡単なリトリート処理に勝つか? 凍結VLAによる証拠
- Abstract要約: 凍結した視覚言語反応(VLA)政策への介入は、通常の実行時から実行時までの変動を超えて成功を改善する。
これらを4つのRoboTwinタスクで評価する。
3,888回のペアエピソードで、完全なパイプラインは beat_allowbreak block_allowbreak ハンマーで +13.5$,pp (95% インターバル $[+9.4,+17.7]$) で成功を収める。
以前のジョイント構成への固定時間トリガとスクリプトリターンは、2ラウンドにわたる学習パイプラインから検出された差のないネットゲインを生成する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Before deploying runtime recovery for a frozen vision-language-action (VLA) policy, one must establish that an intervention improves success beyond ordinary run-to-run variation and that its complexity adds value over a simple action. We evaluate these questions on frozen $π_{0.5}$ across four RoboTwin tasks. For each test seed, we pair rollouts with and without correction and include a same-seed base-policy re-run as a placebo. Seed-cluster intervals and prespecified comparison rules assess net gains against stochastic outcome changes. Across 3,888 paired episodes, the full pipeline raises success on beat_allowbreak block_allowbreak hammer by $+13.5$\,pp (95\% interval $[+9.4,+17.7]$), with no detectable gain on the other three tasks at the deployed weight. Among failed base episodes on the responsive task, $43.2\%$ succeed on a plain re-run, compared with $63.5\%$ after correction; many nominal rescues therefore reflect the base policy's own variability. A fixed-time trigger and scripted return to an earlier joint configuration produce a net gain with no detected difference from the learned pipeline across two rounds, although our prespecified equivalence criterion is not met consistently. Pausing and a constant-action control do not yield comparable gains. On this benchmark, the decision to intervene depends strongly on the task, and a paired placebo plus a simple retreat baseline are needed to establish what learned correction contributes.
- Abstract(参考訳): 凍結したビジョン言語アクション(VLA)ポリシーのために実行時リカバリをデプロイする前には、介入が通常の実行時変動を超えて成功を向上し、その複雑さが単純なアクションよりも価値を付加することを確立する必要がある。
4つのRoboTwinタスクにまたがる凍結した$π_{0.5}$上でこれらの質問を評価する。
各テストシードに対して、ロールアウトと修正なしでペアリングし、プラセボとして同じシードのベースポリシーを再実行します。
種子クラスタ間隔と予め規定された比較ルールは、確率的結果の変化に対する純利得を評価する。
3,888回のペアエピソードで、完全なパイプラインは beat_allowbreak block_allowbreak ハンマーで$+13.5$\,pp (95\% インターバル $[+9.4,+17.7]$) で成功し、他の3つのタスクのデプロイ重みでの上昇は検出できない。
レスポンシブ・タスクで失敗した基本エピソードの中で、43.2\%$はプレーン・リランで成功し、修正後の63.5\%は成功している。
固定時間トリガとスクリプテッドリターンは、2ラウンドにわたる学習パイプラインから検出された差を伴わないネットゲインを生成するが、我々の予め規定された等価基準は一貫して満たされない。
ページングと定数アクション制御は、同等の利得を得られない。
このベンチマークでは、介入する決定はタスクに強く依存し、学習された補正がもたらすものを確立するためには、ペアのプラセボと単純なリフティングベースラインが必要である。
関連論文リスト
- Fine-Tuning on Self-Generated and Reward-Weighted Data: Learning Dynamics, Convergence Rates, and Benefits of Off-Policyness [69.00065140233411]
REINFORCE -- RE(S) と呼ばれる -- は、$S ge 1$グルーフステップ毎にロールアウト分布を更新する。
我々は、$ ge 1$のスペクトルを網羅するRE(S) の統一理論を開発する。
任意の固定された$S$に対して、RE(S) は、ロールアウト分布の更新数$B = lfloor T / S rfloor rightarrow infty$ として最適ポリシーへの大域収束を楽しむ。
論文 参考訳(メタデータ) (2026-09-29T07:54:06Z) - Uncertainty-Gated Exploration Noise Suppresses Task Collapse in Online RL Fine-Tuning of a Flow-Matching Vision-Language-Action Policy [0.0]
LIBERO-10において,タスク崩壊(タスク崩壊)と呼ばれる障害モードを小額の予算で検討した。
3つの探索ノイズポリシーは、固定ノイズスケール、ReinFlowスタイルの学習ノイズネットワーク、不確実性付きコントローラの3つのライブ変数が異なる。
我々は4つの定義の下でタスクごとの崩壊を測定するツールをリリースし、ノイズや楽器の触覚を再現する。
論文 参考訳(メタデータ) (2026-09-23T23:08:10Z) - Verifier-Induced Support Reshaping in On-Policy Optimization [27.782412748608255]
検証可能な報酬(RLVR)によるオンライン強化学習は、現在の目標を改善できる一方で、後の目標に対する行動の成功は、サンプリングや強化が極めて稀であることを示す。
我々は、この検証者によるサポートの再構築と呼び、有効な報奨支援を、固定されたロールアウト予算内で到達可能な軌道として定義する。
論文 参考訳(メタデータ) (2026-07-31T19:05:43Z) - Teach it to stop, not just to click [0.0]
修復された政策の成功率は上流の足場に支配されていることを示す。
通常のk-seedレポートのためのライブラリ(cua_reliability)をリリースする。
論文 参考訳(メタデータ) (2026-07-19T08:46:06Z) - Counterfactual Shapley Credit Assignment [49.39649767581182]
クレディ・アサインメント・問題(CAP)は、効率的かつ説明可能な強化学習(RL)エージェントを開発するための基礎である。
対実共有($-value)を通じて信用と責任を判断する新しい枠組みである対実共有($-value)を導入する。
我々は、$$-valuesを計算し、優先順位付き軌道再生(PTR)と組み合わせた新しいポリシーメソッドのクラス$-PPOを可能にする一貫した推定器を導出する。
論文 参考訳(メタデータ) (2026-07-18T23:28:20Z) - ShortOPD: Recovering Pruned LLMs with Short-to-Long On-Policy Distillation [72.54604107217669]
textscpass@$k$は圧縮後にほぼ消滅するが、textscpass@$k$は繰り返しサンプリングの下でほぼ回復する。
回復は、密集したトークンレベルの監督の下で、圧縮されたモデル自身のオン政治状態で訓練すべきである。
我々は,教師が確認した反復接尾辞を検知する短時間のOPDスケジュールであるtextbfshortopdを提案する。
論文 参考訳(メタデータ) (2026-07-14T17:50:50Z) - When Does Learning to Stop Help? A Cost-Aware Study of Early Exits in Reasoning Models [4.8190992438931035]
LearnStopは、プレフィックスオブザーバブルな機能の上に隠された状態のないロジスティックストッパーである。
学習は、答えが振動し、正しさの証拠が広がる場所を給与する。
コスト計算は、KVキャッシュでトークンを32%節約するのと同じ方針で、ブラックボックスの繰り返しプリフィルで121%余分なコストがかかる。
論文 参考訳(メタデータ) (2026-06-29T19:33:42Z) - Scaling Laws for Agent Harnesses via Effective Feedback Compute [53.68149869349268]
emphEffective Feedback Compute (EFC)は、情報的、有効、非冗長な場合にのみフィードバックを信用し、その後の決定のために保持するトレースレベルのスケーリング座標である。
EFCベースの座標は、生の計算ベースラインよりも失敗率を常に予測する。
論文 参考訳(メタデータ) (2026-05-28T09:45:47Z) - Do Repetitions Matter? Strengthening Reliability in LLM Evaluations [0.374750127323442]
LLMのリーダーボードはシングルランに依存することが多いが、信頼できる結論を得るために何回繰り返しが必要なのかは不明だ。
我々は、AI4Mathベンチマークで8つの最先端モデルを再評価し、設定ごとに3つの独立した実行を実行しました。
論文 参考訳(メタデータ) (2025-09-28T21:45:20Z) - From Continual Learning to SGD and Back: Better Rates for Continual Linear Models [50.11453013647086]
以前見られたタスクの損失を、$k$の繰り返しの後、忘れること、すなわち、分析する。
実現可能な最小二乗の設定において、新しい最上界を創出する。
我々は、タスクを繰り返しないランダム化だけで、十分に長いタスクシーケンスで破滅的な事態を防げることを初めて証明した。
論文 参考訳(メタデータ) (2025-04-06T18:39:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。