論文の概要: TaRL: Learning General and Physical Rewards from Tactile Demonstrations
- arxiv url: http://arxiv.org/abs/2609.36785v1
- Date: Tue, 29 Sep 2026 05:56:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-30 21:28:47.224604
- Title: TaRL: Learning General and Physical Rewards from Tactile Demonstrations
- Title(参考訳): TaRL: 触覚の実証から一般と身体を学習する
- Abstract要約: 接触に富んだ操作には、ロボットが正確な接触をシークエンスし、安定した握力を維持し、指示力を適用する必要がある。
視覚的な報酬学習は、アクションフリーのデモンストレーションから報酬を推測することでこの問題に対処する。
触覚の実証から報酬を学習するフレームワークである触覚リワード学習(TaRL)を提案する。
- 参考スコア(独自算出の注目度): 4.821277948970684
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Contact-rich manipulation requires robots to sequence precise contacts, maintain stable grasps, and apply directed forces. Reinforcement learning (RL) can acquire such behaviors automatically, but its performance hinges on reward design: sparse rewards reduce the learning efficiency, while dense rewards are hard to specify. Visual reward learning addresses this by inferring rewards from action-free demonstrations. Because it conditions only on visual observations, it fails to capture rewards beyond visual goals. We propose Tactile Reward Learning (TaRL), a framework that learns rewards from tactile demonstrations. TaRL takes a sequence of tactile deformation maps as input, and regresses task-completion progress from both successful and failed demonstrations. Because TaRL captures local robot-object interaction, it provides informative feedback to learn firm grasps and correctly directed forces; meanwhile, it is robust to changes in scene layout such as object position. We evaluate TaRL on four manipulation tasks in simulation and two in the real world. Used as a shaping reward, it substantially improves both sample efficiency and final success rate, raising success on Nut threading from 34% to 56% in simulation and on cube pickup from 37% to 97% in the real world. Combining tactile with visual rewards improves performance further. TaRL also generalizes across object instances: trained on box placement and directly deployed to can placement, it significantly improves policy learning on the new task. Project page is available at https://embodiedai-ntu.github.io/tarl.
- Abstract(参考訳): 接触に富んだ操作には、ロボットが正確な接触をシークエンスし、安定した握力を維持し、指示力を適用する必要がある。
強化学習(RL)はそのような行動を自動的に取得できるが、その性能は報酬設計に依存している。
視覚的な報酬学習は、アクションフリーのデモンストレーションから報酬を推測することでこの問題に対処する。
視覚的な観察のみを条件にしているため、視覚的な目標を超える報酬を掴むことができない。
触覚の実証から報酬を学習するフレームワークである触覚リワード学習(TaRL)を提案する。
TaRLは一連の触覚変形マップを入力とし、成功と失敗の両方からタスク補完の進捗を遅らせる。
TaRLは局所的なロボットと物体の相互作用をキャプチャするので、しっかりした把握力と正しい指示力を学ぶための情報フィードバックを提供するが、一方、物体の位置などのシーンレイアウトの変化に対して堅牢である。
シミュレーションにおける4つの操作タスクと実世界における2つの操作タスクについてTaRLを評価する。
成形報酬として使用され、サンプル効率と最終成功率の両方を大幅に改善し、シミュレーションでは34%から56%、実世界では37%から97%に成長した。
触覚と視覚的な報酬を組み合わせることで、パフォーマンスがさらに向上する。
TaRLはまた、オブジェクトインスタンスをまたいで一般化する: ボックス配置で訓練され、配置できるように直接デプロイされ、新しいタスクにおけるポリシー学習を大幅に改善する。
プロジェクトページはhttps://embodiedai-ntu.github.io/tarl.comで公開されている。
関連論文リスト
- Affordance-Guided Reinforcement Learning via Visual Prompting [51.361977466993345]
Keypoint-based Affordance Guidance for Improvements (KAGI) は、視覚言語モデル(VLM)によって形成される報酬を自律的なRLに活用する手法である。
自然言語記述によって指定された多様な実世界の操作タスクにおいて、KAGIは自律的なRLのサンプル効率を改善し、30Kのオンライン微調整ステップでタスク完了を成功させる。
論文 参考訳(メタデータ) (2024-07-14T21:41:29Z) - A Study on Dense and Sparse (Visual) Rewards in Robot Policy Learning [19.67628391301068]
我々は,様々な種類の報酬の下で,複数の最先端の深層強化学習アルゴリズムの性能について検討した。
以上の結果から,視覚的疎度報酬は視覚的疎度報酬よりも優れており,全てのタスクに最適なアルゴリズムが存在しないことが示唆された。
論文 参考訳(メタデータ) (2021-08-06T17:47:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。