論文の概要: Residual Reinforcement Learning for Robot Teleoperation under Stochastic Delays
- arxiv url: http://arxiv.org/abs/2605.15480v1
- Date: Thu, 14 May 2026 23:45:59 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-18 17:44:16.285
- Title: Residual Reinforcement Learning for Robot Teleoperation under Stochastic Delays
- Title(参考訳): 確率遅延下でのロボット遠隔操作のための残留強化学習
- Authors: Kaize Deng, Zewen Yang,
- Abstract要約: 遠隔操作における通信遅延は、制御安定性と制御性能の低下を損なう信号の不連続をもたらす。
本稿では,Long Short-Term Memory (LSTM) を用いた状態推定器と,遅延に耐性のある残差RLポリシーを併用したハイブリッド制御フレームワークである遅延耐性RLを提案する。
- 参考スコア(独自算出の注目度): 1.8630868148375317
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Stochastic communication delays in teleoperation introduce signal discontinuities that undermine control stability and degrade control performance. Consequently, the conventional reinforcement learning (RL) methods struggle with the delayed observations due to the delay-induced observations, leading to high-frequency chattering. To address this, we propose a hybrid control framework, delay-resilient RL, integrating a state estimator utilizing Long Short-Term Memory (LSTM) with a residual RL policy, which is resilient to stochastic delays. The LSTM reconstructs smooth, continuous state estimates from delayed observations, enabling the RL agent to learn a residual torque compensation policy that balances tracking accuracy with velocity smoothness. Experimental validation on Franka Panda robots demonstrates that our approach significantly outperforms the state-of-the-art baselines, ensuring robust and stable teleoperation even under high-variance stochastic delays.
- Abstract(参考訳): 遠隔操作における確率的通信遅延は、制御安定性を損なう信号の不連続性を導入し、制御性能を低下させる。
その結果、従来の強化学習(RL)法は遅延誘起観測による遅延観測に苦慮し、高周波の発声に繋がった。
そこで本稿では,Long Short-Term Memory (LSTM) を用いた状態推定器と,確率的遅延に耐性のある残差RLポリシーを併用したハイブリッド制御フレームワークである遅延耐性RLを提案する。
LSTMは遅延した観測から連続状態のスムーズな推定値を再構成し、RLエージェントは追跡精度と速度のスムーズさのバランスをとる残留トルク補償ポリシーを学習することができる。
フランカ・パンダのロボットを用いた実験により,我々の手法は最先端のベースラインを著しく上回り,高分散確率遅延下においても頑健で安定した遠隔操作を確実にすることを示した。
関連論文リスト
- Delay-Empowered Causal Hierarchical Reinforcement Learning [24.381499367239858]
Delay-Empowered Causal Hierarchical Reinforcement Learning (DECHRL)を提案する。
DECHRLは状態遷移の因果構造と関連する遅延分布の両方を明示的にモデル化する。
遅延を考慮した2DMinecraftおよびMiniGrid環境におけるDECHRLの評価を行った。
論文 参考訳(メタデータ) (2026-05-12T15:28:32Z) - ReLaMix: Residual Latency-Aware Mixing for Delay-Robust Financial Time-Series Forecasting [7.648281596746326]
ReLaMixはTimeMixerの軽量な拡張であり、学習可能なボトルネック圧縮と、遅延した観測下でのロバストな信号回復のための残留リファインメントを統合している。
大規模な第2分解能PAXGUSDTベンチマークの実験では、ReLaMixは複数の遅延比と予測地平線をまたいだ最先端の精度を一貫して達成している。
論文 参考訳(メタデータ) (2026-03-21T16:06:17Z) - When Sensors Fail: Temporal Sequence Models for Robust PPO under Sensor Drift [64.37959940809633]
時間的持続的なセンサ故障下でのPPOのロバスト性について検討する。
トランスフォーマーを用いたシーケンスポリシーは, センサ数が少ない場合でも高いリターンを保ちながら, 堅牢性, RNN, SSMよりも大幅に優れていた。
論文 参考訳(メタデータ) (2026-03-04T22:21:54Z) - Delay-Compensated Stiffness Estimation for Robot-Mediated Dyadic Interaction [1.2366208723499545]
本稿では,ロボットによる人間-人-人との対話のための遅延補償剛性推定フレームワークを提案する。
市販のリハビリテーションロボット(H-MAN)をプラットフォームとして実験した結果,提案手法が標準推定器を著しく上回っていることが示された。
これらの知見は,遠隔ダイアド相互作用における高忠実度触覚知覚の実現に有望な解決法である。
論文 参考訳(メタデータ) (2026-01-25T12:21:52Z) - Model-Based Reinforcement Learning under Random Observation Delays [9.860349466867193]
我々は,POMDPにおけるランダムなセンサ遅延について検討した。
本稿では,入ってくる観測ストリームに基づいて,信頼状態を逐次更新するモデルに基づくフィルタリングプロセスを提案する。
次に、モデルベースのRLにこのアイデアを組み込んだ、シンプルな遅延認識フレームワークを紹介します。
論文 参考訳(メタデータ) (2025-09-25T08:01:13Z) - Stochastic Approximation with Delayed Updates: Finite-Time Rates under Markovian Sampling [73.5602474095954]
マルコフサンプリングの遅延更新による近似スキームの非漸近的性能について検討した。
我々の理論的な発見は、幅広いアルゴリズムの遅延の有限時間効果に光を当てた。
論文 参考訳(メタデータ) (2024-02-19T03:08:02Z) - Posterior Sampling with Delayed Feedback for Reinforcement Learning with
Linear Function Approximation [62.969796245827006]
Delayed-PSVI は楽観的な値に基づくアルゴリズムであり、後続サンプリングによる雑音摂動により値関数空間を探索する。
我々のアルゴリズムは、未知の遅延が存在する場合に、$widetildeO(sqrtd3H3 T + d2H2 E[tau]$最悪の後悔を実現する。
遅延LPSVIのための勾配に基づく近似サンプリングスキームをLangevin動的に組み込んだ。
論文 参考訳(メタデータ) (2023-10-29T06:12:43Z) - Neural Laplace Control for Continuous-time Delayed Systems [76.81202657759222]
本稿では,ニューラルラプラス力学モデルとモデル予測制御(MPC)プランナを組み合わせた連続時間モデルに基づくオフラインRL法を提案する。
専門家の政策性能に近い連続的な遅延環境を実験的に示す。
論文 参考訳(メタデータ) (2023-02-24T12:40:28Z) - Reinforcement Learning with Random Delays [14.707955337702943]
後方視における軌道断片の部分的再サンプリングにより、オフ・ポリティクスの多段階値推定が可能となることを示す。
この原理を適用し,遅延のある環境において,ソフト・アクタ・クライブに基づくアルゴリズムである遅延補正アクタ・クライブ(DCAC)を導出する。
論文 参考訳(メタデータ) (2020-10-06T18:39:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。