論文の概要: GIFT: Generalizing Intent for Flexible Test-Time Rewards
- arxiv url: http://arxiv.org/abs/2603.22574v1
- Date: Mon, 23 Mar 2026 21:14:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-25 19:53:37.190006
- Title: GIFT: Generalizing Intent for Flexible Test-Time Rewards
- Title(参考訳): GIFT: フレキシブルなテストタイムリワードのためのインテントの一般化
- Authors: Fin Amin, Nathaniel Dennler, Andreea Bobu,
- Abstract要約: GIFTは、表面的な手がかりではなく、人間の意図による報酬の一般化を基盤とするフレームワークである。
GIFTは、意図条件の類似性を通じて、新しいテストステートを行動的に等価なトレーニングステートにマッピングする。
7-DoFのFranka Pandaロボットの実際の実験では、GIFTが物理的設定に確実に移行することを示した。
- 参考スコア(独自算出の注目度): 1.9662978733004601
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Robots learn reward functions from user demonstrations, but these rewards often fail to generalize to new environments. This failure occurs because learned rewards latch onto spurious correlations in training data rather than the underlying human intent that demonstrations represent. Existing methods leverage visual or semantic similarity to improve robustness, yet these surface-level cues often diverge from what humans actually care about. We present Generalizing Intent for Flexible Test-Time Rewards (GIFT), a framework that grounds reward generalization in human intent rather than surface cues. GIFT leverages language models to infer high-level intent from user demonstrations by contrasting preferred with non-preferred behaviors. At deployment, GIFT maps novel test states to behaviorally equivalent training states via intent-conditioned similarity, enabling learned rewards to generalize across distribution shifts without retraining. We evaluate GIFT on tabletop manipulation tasks with new objects and layouts. Across four simulated tasks with over 50 unseen objects, GIFT consistently outperforms visual and semantic similarity baselines in test-time pairwise win rate and state-alignment F1 score. Real-world experiments on a 7-DoF Franka Panda robot demonstrate that GIFT reliably transfers to physical settings. Further discussion can be found at https://mit-clear-lab.github.io/GIFT/
- Abstract(参考訳): ロボットはユーザのデモから報酬関数を学習するが、これらの報酬は多くの場合、新しい環境への一般化に失敗する。
この失敗は、学習した報酬が、実証が表す人間の意図ではなく、トレーニングデータにおける急激な相関にひっかかるためである。
既存の手法では、視覚的または意味的な類似性を利用して堅牢性を向上させるが、これらの表面レベルの手がかりは、人間が実際に関心を持っているものからしばしば分かれる。
本稿では,表層工法ではなく,人間の意図による一般化に報いるフレームワークである,フレキシブル・テスト・タイム・リワードのための汎用インテント(GIFT)について紹介する。
GIFTは言語モデルを利用して、ユーザのデモから高いレベルの意図を推論する。
デプロイ時にGIFTは、意図条件の類似性を通じて、新しいテストステートを行動的に等価なトレーニングステートにマッピングする。
テーブルトップ操作タスクにおける新しいオブジェクトとレイアウトを用いたGIFTの評価を行った。
50以上の未確認オブジェクトを持つ4つのシミュレーションタスクの中で、GIFTは、テストタイムのペアワイド勝利率とステートアライメントF1スコアにおいて、視覚的および意味的類似性のベースラインを一貫して上回っている。
7-DoFのFranka Pandaロボットの実際の実験では、GIFTが物理的設定に確実に移行することを示した。
さらなる議論はhttps://mit-clear-lab.github.io/GIFT/で見ることができる。
関連論文リスト
- Rewarding DINO: Predicting Dense Rewards with Vision Foundation Models [13.236640565210477]
ロボット操作において、よく設計された高密度報酬関数は、タスクが完了したかどうかを示すが、その過程で進行をエンコードする。
本稿では,特定の軌道ではなく,実際の報酬関数を学習する言語条件付報酬モデリング手法であるRewarding DINOを紹介する。
我々は,24のMeta-World+タスクから抽出したデータをランクベース損失を用いて学習し,ペアワイズ精度,ランク相関,キャリブレーションを評価する。
論文 参考訳(メタデータ) (2026-03-17T13:34:47Z) - Rethinking Visual-Language-Action Model Scaling: Alignment, Mixture, and Regularization [65.37179698521766]
VLA(Vision-Language-Action)モデルは、ジェネラリストロボットの制御を強く約束する。
標準的な「スケールデータ」レシピがロボット工学に翻訳されるかどうかはまだ不明だ。
本稿では,多様なロボットを対象とした事前学習のためのコアトレーニング選択を再考する,VLAスケーリングの体系的かつ制御された研究を提案する。
論文 参考訳(メタデータ) (2026-02-10T12:25:43Z) - Unified Multimodal Diffusion Forcing for Forceful Manipulation [13.51688687815195]
マルチモーダルロボット軌道から学習するための統合フレームワークであるマルチモーダル拡散強制法を提案する。
固定分布をモデル化する代わりに、MDFはランダムな部分マスクを適用し、軌道の再構成のために拡散モデルを訓練する。
我々は,実環境とシミュレーション環境の接触に富む,力強い操作作業におけるMDFの評価を行った。
論文 参考訳(メタデータ) (2025-11-06T21:08:35Z) - Adaptive Language-Guided Abstraction from Contrastive Explanations [53.48583372522492]
報酬を計算するためにこれらの特徴をどのように使うべきかを決定する前に、環境のどの特徴が関係しているかを決定する必要がある。
連立特徴と報奨学習のためのエンドツーエンドの手法は、しばしば、刺激的な状態特徴に敏感な脆い報酬関数をもたらす。
本稿では,言語モデルを用いて人間に意味のある特徴を反復的に識別するALGAEという手法について述べる。
論文 参考訳(メタデータ) (2024-09-12T16:51:58Z) - What Makes Pre-Trained Visual Representations Successful for Robust
Manipulation? [57.92924256181857]
照明やシーンテクスチャの微妙な変化の下では,操作や制御作業のために設計された視覚表現が必ずしも一般化されないことがわかった。
創発的セグメンテーション能力は,ViTモデルにおける分布外一般化の強い予測因子であることがわかった。
論文 参考訳(メタデータ) (2023-11-03T18:09:08Z) - Sample Efficient Imitation Learning via Reward Function Trained in
Advance [2.66512000865131]
イミテーションラーニング(IL)は、実証から専門家の行動を模倣することを学ぶフレームワークである。
本稿では,逆強化学習の新たな手法を導入することで,サンプル効率の向上に尽力する。
論文 参考訳(メタデータ) (2021-11-23T08:06:09Z) - Learning One Representation to Optimize All Rewards [19.636676744015197]
我々は,報酬のないマルコフ決定プロセスのダイナミクスのフォワードバックワード(fb)表現を紹介する。
後尾に指定された報酬に対して、明確な準最適ポリシーを提供する。
これは任意のブラックボックス環境で制御可能なエージェントを学ぶためのステップです。
論文 参考訳(メタデータ) (2021-03-14T15:00:08Z) - PsiPhi-Learning: Reinforcement Learning with Demonstrations using
Successor Features and Inverse Temporal Difference Learning [102.36450942613091]
時間差学習(ITD)と呼ばれる逆強化学習アルゴリズムを提案する。
Psi Phi$-learningと呼ばれるデモで強化学習のための新しいアルゴリズムに到達し、オンライン環境の相互作用から学習とITDをシームレスに統合する方法を示します。
論文 参考訳(メタデータ) (2021-02-24T21:12:09Z) - Robust Policies via Mid-Level Visual Representations: An Experimental
Study in Manipulation and Navigation [115.4071729927011]
エンド・ツー・エンドのRLフレームワークにおいて,中間レベルの視覚表現を汎用的かつ容易に認識可能な知覚状態として用いることの効果について検討した。
一般化を支援し、サンプルの複雑さを改善し、最終的なパフォーマンスを高めることを示します。
実際には、ドメインのランダム化やスクラッチからの学習が失敗したタスクのポリシーをうまくトレーニングするために、中間レベルの表現が使用できる。
論文 参考訳(メタデータ) (2020-11-13T00:16:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。