論文の概要: Where Small Mistakes Matter: Quantifying State Criticality for Imitation Learning
- arxiv url: http://arxiv.org/abs/2610.17709v1
- Date: Tue, 13 Oct 2026 04:37:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:15.507632
- Title: Where Small Mistakes Matter: Quantifying State Criticality for Imitation Learning
- Title(参考訳): 小さなミスが重要な場所:模倣学習における状態臨界の定量化
- Abstract要約: SCRIM(State Criticality Measure)は、タスク結果が小さな、ポリシーに関連のあるアクションエラーに対してどれほど脆弱であるかの尺度である。
SCRIMは各デモステートに、タスク結果がいかに脆弱であるかを、小さなポリシー関連アクションエラーに反映したスコアを割り当てる。
SCRIMは,訓練データの量を大幅に削減しつつ,性能を保ちながら,実演のコンパクトで高価値なサブセットを選択することで,データのキュレーションを可能にすることを示す。
- 参考スコア(独自算出の注目度): 7.388226400558739
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Imitation learning typically treats every demonstration state as equally important, optimizing a behavior-cloning objective uniformly across the dataset. Yet not all states are created equal: in a small number of critical states, even a slight deviation from the expert action can lead to a failure, while in many other states such errors are recoverable and inconsequential. We formalize state criticality in imitation learning as the worst-case degradation in downstream value induced by a bounded perturbation of the expert action at a given state. We then propose SCRIM, a practical State CRIticality Measure that estimates this quantity by training an adversarial disturbance policy and a value critic around a fixed imitation policy. SCRIM assigns each demonstration state a score reflecting how vulnerable the task outcome is to small, policy-relevant action errors. We show that these scores can be used to reweight behavior-cloning losses, improving imitation at consequential states and increasing overall task performance. We further show that SCRIM enables data curation by selecting compact, high-value subsets of demonstrations that preserve performance while substantially reducing the amount of training data. We evaluate SCRIM across various simulated and real-world robotic manipulation tasks, and demonstrate that SCRIM improves policy training, enables efficient data selection, and provides interpretable insights into which moments in a demonstration are most critical for task success. Project website: https://sia-lab-git.github.io/SCRIM/
- Abstract(参考訳): 模倣学習は通常、すべてのデモンストレーション状態を同じように重要視し、データセット全体にわたって行動閉鎖目標を均一に最適化する。
少数の臨界状態では、専門家の行動からわずかに逸脱しても失敗することがあるが、他の多くの状態ではそのようなエラーは回復可能で不適切である。
我々は,擬似学習における状態臨界性を,与えられた状態における専門家行動の有界摂動によって引き起こされる下流値の最悪のケース劣化として定式化する。
次に, SCRIMを提案する。SCRIMは, 敵対的外乱政策を訓練し, 固定された模倣政策に関する価値評価を行うことにより, この量を推定する実用的国家クライティリティ尺度である。
SCRIMは各デモステートに、タスク結果がいかに脆弱であるかを、小さなポリシー関連アクションエラーに反映したスコアを割り当てる。
これらのスコアは、行動閉鎖損失の軽減、連続状態の模倣の改善、タスク全体のパフォーマンス向上に有効であることを示す。
さらに、SCRIMは、訓練データの量を大幅に削減しつつ、性能を保ちながら、実演のコンパクトで高価値なサブセットを選択することで、データのキュレーションを可能にすることを示す。
シミュレーションおよび実世界のロボット操作タスク間でSCRIMを評価し、SCRIMがポリシートレーニングを改善し、効率的なデータ選択を可能にし、デモのどの瞬間がタスクの成功に最も重要であるかを解釈可能な洞察を提供する。
プロジェクトウェブサイト:https://sia-lab-git.github.io/SCRIM/
関連論文リスト
- Mulligan: Performance-Guided Data Collection for Efficient On-Robot Learning [49.96968347002295]
人間のデモから学ぶことは、ロボットに新しいタスクを教えるための信頼できる方法だが、ポリシーが改善するにつれて、追加のデモから得られる利益は減少する。
我々は、高精度な操作タスクにおいて、監督エピソードの固定予算から改善を最大化する方法を問う。
フェールが初期状態の小さなサブセットに集中できることを観察するため、均一なコレクションは、ポリシーがすでに処理している状態にオペレータの時間の大部分を費やします。
論文 参考訳(メタデータ) (2026-10-05T06:56:13Z) - CARE: Experience-Guided Atomic Corrective Execution for Vision-Language-Action Policies [52.32735203969873]
VLA(Vision-Language-Action)ポリシーは、ロボット操作において強力なパフォーマンスを達成するが、実行が名目上の軌道から逸脱した後も不安定なままである。
本稿では,実行時に発生する障害から学習することで回復を改善するフレームワークであるCARE(Corrective Atomic Robotic Execution)を提案する。
論文 参考訳(メタデータ) (2026-09-21T05:14:34Z) - FLARE: A Failure-Aware Framework for Autonomous Correction and Recovery in Visual-Language Robotic Manipulation [43.89036551517797]
VLA(Vision-Language-Action Models)は、複雑な長距離ロボット操作タスクへの一般化において、大きな可能性を証明している。
彼らのパフォーマンスは、通常、軌道単調で障害のないデモンストレーションで訓練されるため、不安定なままである。
我々は、リトライとリセットのパラダイムを通じて、堅牢なエラー回復機能を備えたVLAを実現する新しいフレームワークであるFLAREを提案する。
論文 参考訳(メタデータ) (2026-08-27T05:58:06Z) - Beyond Monotonic Progress: Retry-Supervised Value Learning for Robot Imitation [38.88183703128359]
混在型ロボットのデモから誤検知値関数を学習するフレームワークであるReTVL(ReTry-Supervised Value Learning)を提案する。
ReTVLは、グローバルプログレスキャリブレーションとローカルなペアワイズ選好学習を組み合わせることで、ミスに伴う局所的な劣化・回復構造をキャプチャする。
実ロボット操作タスクの実験では、ReTVLは進捗ベースのベースラインよりもよりきめ細かな値推定を生成する。
論文 参考訳(メタデータ) (2026-06-23T14:27:10Z) - Rewarding the Scientific Process: Process-Level Reward Modeling for Agentic Data Analysis [68.28714988482703]
プロセス・リワード・モデル(PRM)は、LLM(Large Language Models)の推論能力を増強することに成功した。
本稿では,一般ドメインのPRMがデータ分析エージェントの監督に苦慮していることを示す。
本稿では,新しい環境対応生成プロセス報酬モデルであるDataPRMを紹介する。
論文 参考訳(メタデータ) (2026-04-27T09:00:30Z) - Reshaping Action Error Distributions for Reliable Vision-Language-Action Models [69.38615670891038]
ロボット操作において、視覚言語アクション(VLA)モデルは、一般化可能でスケーラブルなロボットポリシーを学ぶための有望なパラダイムとして登場した。
連続動作型VLAモデルに焦点をあて、トレーニング中の動作誤差分布を再構成することにより、従来のMSEベースの回帰を超越する。
複数の代表的VLAアーキテクチャ上で、標準、少数ショット、ノイズの多い設定にまたがるアプローチを評価します。
論文 参考訳(メタデータ) (2026-02-04T05:37:09Z) - REMIND: Input Loss Landscapes Reveal Residual Memorization in Post-Unlearning LLMs [0.1784233255402269]
機械学習は、モデルから特定のトレーニングデータの影響を、完全な再トレーニングを必要とせずに取り除くことを目的としている。
未学習データの微妙な残差を検出するための新しい評価手法であるREMINDを提案する。
未学習のデータは、より平坦で、より急なロスランドスケープをもたらす一方、保持または関連のないデータは、より鋭く、より揮発性のあるパターンを示す。
論文 参考訳(メタデータ) (2025-11-06T09:58:19Z) - Data-CUBE: Data Curriculum for Instruction-based Sentence Representation
Learning [85.66907881270785]
本稿では,学習用マルチタスクデータの順序を列挙するデータカリキュラム,すなわちData-CUBEを提案する。
タスクレベルでは、タスク間の干渉リスクを最小化するために最適なタスクオーダーを見つけることを目的としている。
インスタンスレベルでは、タスク毎のすべてのインスタンスの難易度を測定し、トレーニングのためにそれらを簡単に微分できるミニバッチに分割します。
論文 参考訳(メタデータ) (2024-01-07T18:12:20Z) - Value-Consistent Representation Learning for Data-Efficient
Reinforcement Learning [105.70602423944148]
本稿では,意思決定に直接関連のある表現を学習するための,VCR(Value-Consistent Expression Learning)という新しい手法を提案する。
この想像された状態と環境によって返される実状態とを一致させる代わりに、VCRは両方の状態に$Q$-valueヘッドを適用し、2つのアクション値の分布を得る。
検索不要なRLアルゴリズムに対して,提案手法が新たな最先端性能を実現することが実証された。
論文 参考訳(メタデータ) (2022-06-25T03:02:25Z) - Regularized Behavior Value Estimation [31.332929202377]
正規化行動値推定(R-BVE)を導入する。
R-BVEはトレーニング中の行動方針の価値を推定し、展開時にのみ政策改善を行います。
我々は,RL Unplugged ATARIデータセットの最先端性能を含む,R-BVEの有効性の実証的な証拠を多数提供する。
論文 参考訳(メタデータ) (2021-03-17T11:34:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。