論文の概要: hint$^2$: Hierarchical World Models for Inference-Time Temporal Logic Guidance
- arxiv url: http://arxiv.org/abs/2608.13678v1
- Date: Thu, 13 Aug 2026 18:22:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-17 20:14:29.185266
- Title: hint$^2$: Hierarchical World Models for Inference-Time Temporal Logic Guidance
- Title(参考訳): hint$^2$: Inference-Time Temporal Logic Guidanceのための階層的世界モデル
- Abstract要約: hint$2$は、実行時に複雑な仕様を満たすためのショートホライズンポリシーを導く方法である。
高レベルモデルは、未来の行動誘発原子命題を予測し、オートマトンを通して進行を導く。
低レベル力学モデルは、正確な局所安全誘導のための即時状態の進化を予測する。
- 参考スコア(独自算出の注目度): 14.10447768557637
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: A central goal of robot learning is to enable robots to execute rich instructions specified at runtime. Large-scale language-conditioned policies have made substantial progress toward this goal, yet still struggle with temporal structure and safety constraints. Linear Temporal Logic (LTL) provides a powerful language to express complex, non-Markovian instructions. However, guiding learned manipulation policies toward LTL satisfaction remains challenging because modern policies generate short-horizon action chunks and replan in closed loop, while almost all LTL specifications are evaluated over long-horizon trajectories. In this paper, we introduce hint$^2$, a method for guiding short-horizon policies toward satisfying complex LTL specifications at inference time using hierarchical world models. Our key idea is to derive two separate guidance objectives using each world model's abstraction level. A high-level model predicts future action-induced transitions in task-relevant atomic propositions to guide progress through the LTL automaton, while a low-level dynamics model predicts immediate state evolution for accurate local safety guidance. Our results show that hint$^2$ overcomes the limitations of current LTL-guided diffusion methods, outperforms existing inference-time steering methods in CALVIN, and successfully completes instructions with complex liveness and safety constraints more elegantly than language-conditioned alternatives. Finally, we demonstrate that hint$^2$ can handle complex instructions on a real UR5e manipulator.
- Abstract(参考訳): ロボット学習の中心的な目標は、実行時に指定された豊富な命令をロボットが実行できるようにすることである。
大規模言語条件のポリシーはこの目標に向けて大きな進歩を遂げているが、それでも時間的構造と安全性の制約に苦慮している。
線形時間論理(LTL)は、複雑で非マルコフ的な命令を表現する強力な言語を提供する。
しかし,LTL満足度に対する学習的操作ポリシーの導出は,近年の政策が短水平動作チャンクを生成し,閉ループで再計画するのに対して,ほとんど全てのTL仕様は長水平軌道上で評価されるため,依然として困難である。
本稿では,階層的世界モデルを用いた推論時に,複雑なTLL仕様を満たすための短距離ポリシーを導く手法である hint$2$を紹介した。
私たちのキーとなるアイデアは、それぞれの世界モデルの抽象化レベルを使用して、2つの別々のガイダンス目標を導き出すことです。
高レベルモデルは、タスク関連原子命題の将来の行動誘発遷移を予測し、LTLオートマトンを通して進捗を誘導する一方、低レベルダイナミクスモデルは、正確な局所安全誘導のために即時状態進化を予測する。
以上の結果から,現在のLTL誘導拡散法の限界を克服し,CALVINにおける既存の推論時ステアリング手法を上回り,言語条件の代替手段よりも複雑な生存性と安全性の制約で命令を完了させることに成功した。
最後に、実際のUR5eマニピュレータ上での複雑な命令を hint$^2$ で処理できることを実証する。
関連論文リスト
- LUCID: Latent-Skill Unified Control via Imagined Dynamics for Long-Horizon Humanoid Loco-Manipulation [16.259708213720383]
ロングホライゾン・ヒューマノイド・ロコ・マニピュレーションは、多彩な全身スキルと信頼性の高い高い意思決定を必要とする。
既存の手法はしばしば、スクリプト化されたプランナー、有限状態マシン、タスク固有のモデルフリーポリシーと事前訓練されたスキルを協調する。
階層型モデルに基づく強化学習フレームワークである textbfLUCID を提案する。
論文 参考訳(メタデータ) (2026-08-07T20:26:34Z) - Zero-Shot Instruction Following in RL via Structured LTL Representations [50.41415009303967]
マルチタスク強化学習では、エージェントが訓練中に見えない新しいタスクをゼロショットで実行しなければならない。
この設定では、最近、時間的に拡張された構造化タスクを特定するための強力なフレームワークとして線形時間論理が採用されている。
既存のアプローチはジェネラリストの政策を訓練することに成功しているが、仕様に固有のリッチな論理的・時間的構造を効果的に捉えるのに苦労することが多い。
論文 参考訳(メタデータ) (2026-02-15T23:22:50Z) - Zero-Shot Instruction Following in RL via Structured LTL Representations [54.08661695738909]
リニア時間論理(LTL)は、強化学習(RL)エージェントのための複雑で構造化されたタスクを特定するための魅力的なフレームワークである。
近年の研究では、命令を有限オートマトンとして解釈し、タスク進捗を監視する高レベルプログラムと見なすことができ、テスト時に任意の命令を実行することのできる1つのジェネラリストポリシーを学習できることが示されている。
本稿では,この欠点に対処する任意の命令に従うために,マルチタスクポリシーを学習するための新しいアプローチを提案する。
論文 参考訳(メタデータ) (2025-12-02T10:44:51Z) - Hierarchical DLO Routing with Reinforcement Learning and In-Context Vision-language Models [16.323279440736645]
変形可能な線形物体(DLO)の長距離ルーティングタスクは,産業用組立ラインや日常生活で一般的である。
DLOルーティングタスクの課題を解決するための,完全自律的階層型フレームワークを提案する。
論文 参考訳(メタデータ) (2025-10-22T05:57:23Z) - Learning to Reason and Navigate: Parameter Efficient Action Planning with Large Language Models [63.765846080050906]
本稿では,大規模言語モデル (PEAP-LLM) を用いたパラメータ効率の高いアクションプランナを提案する。
実験により,提案したREVERIEモデルが従来の最先端モデルよりも優れていることが示された。
論文 参考訳(メタデータ) (2025-05-12T12:38:20Z) - Embodied Long Horizon Manipulation with Closed-loop Code Generation and Incremental Few-shot Adaptation [12.077740860502878]
身体的ロングホライゾン操作では、ロボットシステムが視覚や自然言語などのマルチモーダル入力を処理し、それらを実行可能なアクションに変換する必要がある。
近年,大規模言語モデル (LLM) を自然言語を用いてタスクをサブタスクに分解し,事前訓練した低レベルコントローラを誘導する高レベルプランナとしての利用が検討されている。
我々のフレームワークは,LoHoRavens,CALVIN,Franka Kitchen,および乱雑な現実世界設定をまたいだ,30以上の多様かつ不明瞭なロングホライゾンタスクに対して,最先端のパフォーマンスを実現する。
論文 参考訳(メタデータ) (2025-03-27T20:32:58Z) - DeepLTL: Learning to Efficiently Satisfy Complex LTL Specifications for Multi-Task RL [59.01527054553122]
線形時間論理(LTL)は、最近、複雑で時間的に拡張されたタスクを特定するための強力なフォーマリズムとして採用されている。
既存のアプローチにはいくつかの欠点がある。
これらの問題に対処するための新しい学習手法を提案する。
論文 参考訳(メタデータ) (2024-10-06T21:30:38Z) - Directed Exploration in Reinforcement Learning from Linear Temporal Logic [59.707408697394534]
リニア時間論理(LTL)は強化学習におけるタスク仕様のための強力な言語である。
合成された報酬信号は基本的に疎結合であり,探索が困難であることを示す。
我々は、仕様をさらに活用し、それに対応するリミット決定性B"uchi Automaton(LDBA)をマルコフ報酬プロセスとしてキャストすることで、よりよい探索を実現することができることを示す。
論文 参考訳(メタデータ) (2024-08-18T14:25:44Z) - LGR2: Language Guided Reward Relabeling for Accelerating Hierarchical Reinforcement Learning [23.878883576384002]
大規模言語モデル(LLM)は論理的推論、文脈内学習、コード生成において顕著な能力を示している。
LGR2 は LLM を利用して高次ポリシーのための言語誘導報酬関数を生成する新しい HRL フレームワークである。
スパース環境における試料効率をさらに高めるため, 目標条件付き後視体験レザベリングを統合した。
論文 参考訳(メタデータ) (2024-06-09T18:40:24Z) - LTLDoG: Satisfying Temporally-Extended Symbolic Constraints for Safe Diffusion-based Planning [12.839846486863308]
本研究では,新しい静的かつ時間的に拡張された制約/命令に準拠する長い水平軌道を生成することに焦点を当てる。
本稿では、線形時間論理を用いて指定された命令を与えられた逆プロセスの推論ステップを変更する、データ駆動拡散に基づくフレームワーク、 finiteDoGを提案する。
ロボットナビゲーションと操作の実験では、障害物回避と訪問シーケンスを指定する公式を満たす軌道を生成することができる。
論文 参考訳(メタデータ) (2024-05-07T11:54:22Z) - Plan-Seq-Learn: Language Model Guided RL for Solving Long Horizon Robotics Tasks [50.27313829438866]
Plan-Seq-Learn (PSL) は、抽象言語と学習した低レベル制御の間のギャップを埋めるためにモーションプランニングを使用するモジュラーアプローチである。
PSLは85%以上の成功率、言語ベース、古典的、エンドツーエンドのアプローチを達成している。
論文 参考訳(メタデータ) (2024-05-02T17:59:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。