論文の概要: STEAM: Self-Supervised Temporal Ensemble Advantage Modeling for Real-World Robot Learning
- arxiv url: http://arxiv.org/abs/2606.29834v1
- Date: Mon, 29 Jun 2026 06:19:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-30 18:07:16.080117
- Title: STEAM: Self-Supervised Temporal Ensemble Advantage Modeling for Real-World Robot Learning
- Title(参考訳): STEAM: リアルタイムロボット学習のための自己監督型テンポラルアンサンブルアドバンテージモデリング
- Abstract要約: 政策学習には、信頼できる局所的な進歩と失敗と回帰を区別するフレームレベルのアドバンテージが必要です。
本稿では,専門家による実証からこのような利点を学習するラベルフリー手法であるSTEAM(Self-supervised Temporal Ensemble Advantage Modeling)を提案する。
- 参考スコア(独自算出の注目度): 76.76959348575764
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Real-world robot learning increasingly relies on heterogeneous data, but demonstrations and rollouts often mix useful progress with stalls, corrections, and suboptimal behavior. Effective policy learning therefore requires frame-level advantages that distinguish reliable local progress from failures and regressions. We propose Self-supervised Temporal Ensemble Advantage Modeling (STEAM), a label-free method that learns such advantages from expert demonstrations. STEAM trains an ensemble of temporal-offset predictors on frame pairs within expert trajectories, using the normalized temporal offset between two frames as a self-supervised signal. Each predictor maps a frame pair to a distribution over temporal offsets, which is converted into a scalar advantage. STEAM then takes the minimum advantage across the ensemble to score mixed-quality rollout data conservatively. Across real-world bimanual towel folding, chip checkout, cola restocking, and single-arm pick-and-place tasks, STEAM identifies stalls, failures, and recoveries. When combined with CFGRL, STEAM further improves policy success rate by 59%, 54.3%, 23% and 16.2% over baselines, respectively.
- Abstract(参考訳): 実世界のロボット学習はますます異質なデータに依存しているが、デモやロールアウトは、ストールや修正、準最適行動と有用な進歩を混ぜ合わせていることが多い。
したがって、効果的な政策学習には、信頼できる局所的な進歩と失敗と回帰を区別するフレームレベルのアドバンテージが必要である。
本稿では,専門家による実証実験からこのような利点を学習するラベルフリーな手法である,自己教師付きテンポラルアンサンブルアドバンテージモデリング(STEAM)を提案する。
STEAMは、2つのフレーム間の正規化された時間オフセットを自己教師信号として使用して、専門家軌道内のフレーム対に時間オフセット予測器のアンサンブルを訓練する。
各予測器はフレーム対を時間オフセット上の分布にマッピングし、スカラー・アドバンテージに変換する。
STEAMは、アンサンブル全体で最小限の利点を生かし、混合品質のロールアウトデータを保守的にスコアする。
STEAMは、現実世界のバイマニュアルタオルの折り畳み、チップチェックアウト、コーラのリストック、シングルアームのピック・アンド・プレイスタスク全体にわたって、ストール、障害、リカバリを識別する。
CFGRLと組み合わせると、STEAMは政策成功率をそれぞれ59%、54.3%、23%、16.2%改善する。
関連論文リスト
- ST-LoRA: Single Trajectory LoRA Ensemble for Uncertainty Aware Agricultural Segmentation [4.391214332238358]
デジタル農業における意思決定支援には、正確な予測とよく校正された不確実性推定が必要である。
本稿では,パラメータ効率のよいアンサンブルフレームワークST-LoRAを提案する。
ST-LoRAは、データセットとアーキテクチャの両方にわたるセグメンテーションの精度とキャリブレーションにおいて、フルランクのアンサンブルと一致または超えている。
論文 参考訳(メタデータ) (2026-08-02T22:49:28Z) - Rank-Then-Act: Reward-Free Control from Frame-Order Progress [5.357451930622806]
Rank-Then-Act (RTA) は、環境に配慮せず、専門家によるビデオデモからコントロールポリシーを学ぶためのフレームワークである。
VLM(Vision-Language Model)をオフラインで,プログレッシブベースのオーディショナルスコアラーとしてトレーニングする。
我々は,予測進行ランクと真の時間指標とのスピアマンランク相関を計算し,有界でスケール不変な学習信号を生成する。
論文 参考訳(メタデータ) (2026-07-02T08:50:32Z) - Perfect Demo Makes Poor Teacher: Learning Robust Alignment from Critical Motion Segments [53.85970147743299]
専門家によるデモンストレーションは、ロボット模倣学習における金の標準であると広く考えられている。
しかし、挿入、積み重ね、アライメントなどのきめ細かい操作のために、私たちは直感的な失敗モードを発見しました。
視覚言語モデルとアクションエキスパートをブリッジする,コンパクトな動的特徴であるSTAIRを導入する。
論文 参考訳(メタデータ) (2026-06-14T04:15:29Z) - Multimodal Learning on Low-Quality Data with Conformal Predictive Self-Calibration [72.0672328514289]
マルチモーダル学習は、しばしば低品質データの課題に悩まされる。
コンフォーマル予測自己校正(Conformal Predictive Self-Calibration)と呼ばれる統合フレームワークを提案する。
私たちのフレームワークは、既存の最先端メソッドを一貫して上回ります。
論文 参考訳(メタデータ) (2026-05-05T14:48:52Z) - MindGames Arena Generalization Track: In2AI Solution with Delayed Per-Step Reward Attribution [45.957713330643934]
マルチエージェント戦略相互作用のための言語モデルエージェントの訓練は、中核的な困難をもたらす。
標準的な強化学習では、報酬は各ステップで割り当てられると仮定しているが、この仮定は時間とエージェントの間で結果が絡み合っている環境では失敗する。
我々は,段階ごとの報酬帰属の遅れに,適度ゲーティング,エピソードライフサイクル,後処理パイプラインを導入している。
論文 参考訳(メタデータ) (2026-04-13T23:59:03Z) - Human-in-the-loop Online Rejection Sampling for Robotic Manipulation [55.99788088622936]
Hi-ORSは、オンライン微調整中に負の報酬を得たサンプルをフィルタリングすることで、値推定を安定化する。
Hi-ORSは、わずか1.5時間でコンタクトリッチな操作をマスターするためのpiベースのポリシーを微調整する。
論文 参考訳(メタデータ) (2025-10-30T11:53:08Z) - RHYTHM: Reasoning with Hierarchical Temporal Tokenization for Human Mobility [9.200793414310182]
RHYTHM(Reasoning with Hierarchical Temporal Tokenization for Human Mobility)を導入した。
汎用予測器や推論器として,大規模言語モデル (LLM) を用いる。
RHYTHMは総合的な精度が2.4%、週末に5.0%、トレーニング時間が24.6%減少している。
論文 参考訳(メタデータ) (2025-09-27T04:55:56Z) - Generative Regression Based Watch Time Prediction for Short-Video Recommendation [36.95095097454143]
短いビデオレコメンデーションシステムでは、時計の時間予測が重要なタスクとして現れている。
最近の研究は、連続時計時間推定を正規回帰タスクに変換することによって、これらの問題に対処しようとしている。
本稿では,WTPをシーケンス生成タスクとして再構成する新しい生成回帰(GR)フレームワークを提案する。
論文 参考訳(メタデータ) (2024-12-28T16:48:55Z) - Right on Time: Revising Time Series Models by Constraining their Explanations [18.266824309661168]
ディープ時系列モデルは、しばしば急激な相関に依存する傾向があるため、信頼性の問題に悩まされる。
このようなショートカットを緩和し、時系列モデルにおける"Clever-Hans"モーメントを防止するために、Right on Time(RioT)を導入する。
RioTはモデルを制約し、注釈付きスプリアス相関から遠ざけている。
論文 参考訳(メタデータ) (2024-02-20T11:15:13Z) - REBAR: Retrieval-Based Reconstruction for Time-series Contrastive Learning [64.08293076551601]
正の対を識別する学習尺度を新たに提案する。
検索ベースレコンストラクションは2つのシーケンス間の類似度を測定する。
本稿では,REBAR誤差が相互クラスメンバシップの予測因子であることを示す。
論文 参考訳(メタデータ) (2023-11-01T13:44:45Z) - Distributionally Robust Models with Parametric Likelihood Ratios [123.05074253513935]
3つの単純なアイデアにより、より広いパラメトリックな確率比のクラスを用いてDROでモデルを訓練することができる。
パラメトリック逆数を用いてトレーニングしたモデルは、他のDROアプローチと比較して、サブポピュレーションシフトに対して一貫して頑健であることがわかった。
論文 参考訳(メタデータ) (2022-04-13T12:43:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。