論文の概要: GAPL: Grounded Action-effect Policy Learning for LLM-Based Trajectory Planning
- arxiv url: http://arxiv.org/abs/2608.18254v1
- Date: Tue, 18 Aug 2026 19:09:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-20 20:13:55.187234
- Title: GAPL: Grounded Action-effect Policy Learning for LLM-Based Trajectory Planning
- Title(参考訳): GAPL:LLMに基づく軌道計画のための行動効果政策学習
- Abstract要約: 大きな言語モデル(LLM)は意味に富んだ計画機能を提供するが、その応用は幻覚的推論によって制限される。
本稿では, LLMに基づく効果推定, シミュレーションに基づく効果評価, およびポリシー最適化をクローズドループシステムに統合する統一フレームワークGAPLを提案する。
- 参考スコア(独自算出の注目度): 8.497965800042335
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Trajectory planning for autonomous driving requires both high-level reasoning and precise low-level control. Large Language Models (LLMs) offer semantic-rich planning capabilities, however, their application is limited by hallucinated reasoning, poor grounding in environment dynamics, and limited numerical precision in control. We propose GAPL (Grounded Action-effect Policy Learning), a unified framework that integrates LLM-based effect estimation, simulation-based effect grounding, and policy optimization into a closed-loop system. GAPL consists of three modules: (1) an LLM-based Effect Evaluator for structured multi-dimensional action-effect estimation; (2) a Simulation-based Effect Grounder that predicts dynamics-consistent effects from simulator rollouts; and (3) an Effect-Aware Decision Maker that grounds LLM effect estimates against simulation via a distiller to guide Proximal Policy Optimization (PPO)-based policy learning. Experiments on four Highway-env scenarios demonstrate that GAPL consistently outperforms baselines, achieving average reductions of {0.76, 0.86, 2.00} in collision rate, average displacement error (ADE), and final displacement error (FDE), and an average reward gain of 1.44.
- Abstract(参考訳): 自律運転のための軌道計画には、高レベル推論と正確な低レベル制御の両方が必要である。
大規模言語モデル(LLM)は、意味に富む計画能力を提供するが、その応用は、幻覚的推論、環境力学の基盤の弱さ、制御における数値的精度の制限によって制限される。
GAPL(Grounded Action-effect Policy Learning)は, LLMに基づく効果推定, シミュレーションに基づく効果評価, およびポリシー最適化をクローズドループシステムに統合した統合フレームワークである。
GAPL は,(1) 構造化多次元行動効果推定のための LLM に基づく効果評価器,(2) シミュレータロールアウトから動的に一貫性のある効果を予測するシミュレーションベース効果グラウンド,(3) 蒸留器によるシミュレーションに対する LLM 効果推定を根拠に,PPO に基づく政策学習をガイドするエフェクト・アウェア・ディシジョン・メーカーの3つのモジュールから構成される。
4つのハイウェイ-envシナリオの実験では、GAPLはベースラインを一貫して上回り、衝突速度、平均変位誤差(ADE)、最終変位誤差(FDE)、平均報酬利得(FDE)が平均0.76、0.86、2.00の減少を達成する。
関連論文リスト
- An Adaptive Control Architecture for Slope and Terrain Compensation in Autonomous Navigation in Mediterranean Greenhouses [38.96391848836269]
本稿では,輸送ペイロードに基づく新しい地形適応戦略を提案し,高精度かつロバストな軌道追跡を実現する。
提案手法は, (i) 最も一般的な温室効果土, コンクリート, コンパクト砂, 砂利, および (ii) IMUを用いた地形斜面の直接測定の実験的評価に基づく。
この情報に基づいて、カスケード軌道追跡スキームが設計され、外側ループのモデルベース予測コントローラ(MPC)と内側ループのPIコントローラで構成されている。
論文 参考訳(メタデータ) (2026-09-02T11:55:47Z) - IADD-TR: Intervention-Aware Dynamics Decoupling with Targeted Regularization for Model-Based Reinforcement Learning [57.16513298507272]
IADD-TRは、IADD(Intervention-Aware Dynamics Decoupling)とTR(Targeted Regularization)を組み合わせた統合フレームワークである。
IADDは、ゼロアクションアンカーを用いて、アクション干渉段階とアクションフリー自然進化段階への遷移を分解し、堅牢な一般化のためにこの2段階の分解の非特異性を解決する。
政策学習においては,リプレイ状態の政策段階関数の効率的な影響関数からTRを導出する。
論文 参考訳(メタデータ) (2026-08-11T08:20:02Z) - Efficient Reinforcement Learning using Linear Koopman Dynamics for Nonlinear Robotic Systems [4.946483489399818]
本稿では,非線形ロボットシステムの最適閉ループ制御のためのモデルに基づく強化学習フレームワークを提案する。
提案手法は、クープマン作用素理論を通じて線形昇降力学を学習し、結果のモデルをポリシー最適化のためのアクタ批判アーキテクチャに統合する。
このフレームワークは、いくつかのシミュレーションされた非線形制御ベンチマークと、2つの実世界のハードウェアプラットフォームで評価される。
論文 参考訳(メタデータ) (2026-04-21T20:40:22Z) - Adapt to Thrive! Adaptive Power-Mean Policy Optimization for Improved LLM Reasoning [25.337475849019842]
RLVR(Reinforcement Learning with Verifiable Rewards)は、Large Language Models(LLM)の推論能力を高めるための重要なパラダイムである。
既存のメソッドは通常、モデルの進化する推論能力に悪影響を及ぼす静的ポリシー最適化スキームに依存します。
本稿では,PMPO (Power-Mean Policy Optimization) とFAC (Feedback-Adaptive Clipping) の2つの主要なイノベーションを含む適応的電力量政策最適化 (APMPO) を提案する。
論文 参考訳(メタデータ) (2026-04-11T07:34:59Z) - Fine-Tuning Large Language Models for Cooperative Tactical Deconfliction of Small Unmanned Aerial Systems [3.3091223236295213]
低高度空域における小型無人航空システム(SUAS)は、安全臨界条件下での信頼性の高い戦術的不信の必要性を高めている。
本稿では, 大規模言語モデル (LLMs) を, 微調整戦略を用いた協調的マルチエージェント・戦術デコンフリクションの意思決定者として検討する。
論文 参考訳(メタデータ) (2026-03-30T15:22:27Z) - Unbiased Dynamic Pruning for Efficient Group-Based Policy Optimization [60.87651283510059]
Group Relative Policy Optimization (GRPO) はLLM推論を効果的にスケールするが、計算コストは禁じている。
本研究では,非バイアス勾配推定を保ちながら動的プルーニングを可能にする動的プルーニングポリシー最適化(DPPO)を提案する。
刈り込みによって引き起こされるデータの空間性を軽減するため,ウィンドウベースの欲求戦略であるDense Prompt Packingを導入する。
論文 参考訳(メタデータ) (2026-03-04T14:48:53Z) - Influence-Preserving Proxies for Gradient-Based Data Selection in LLM Fine-tuning [51.87858735871145]
対象モデルから直接影響保存プロキシを導出するフレームワークであるIproxを紹介する。
Iproxは、既製のプロキシやベースラインメソッドよりも一貫して優れています。
論文 参考訳(メタデータ) (2026-02-19T20:57:30Z) - Reshaping Action Error Distributions for Reliable Vision-Language-Action Models [69.38615670891038]
ロボット操作において、視覚言語アクション(VLA)モデルは、一般化可能でスケーラブルなロボットポリシーを学ぶための有望なパラダイムとして登場した。
連続動作型VLAモデルに焦点をあて、トレーニング中の動作誤差分布を再構成することにより、従来のMSEベースの回帰を超越する。
複数の代表的VLAアーキテクチャ上で、標準、少数ショット、ノイズの多い設定にまたがるアプローチを評価します。
論文 参考訳(メタデータ) (2026-02-04T05:37:09Z) - Model-Based Policy Adaptation for Closed-Loop End-to-End Autonomous Driving [54.46325690390831]
本稿では,事前学習したE2E運転エージェントのロバスト性と安全性を高めるための汎用フレームワークとして,モデルベースポリシー適応(MPA)を提案する。
MPAは、ジオメトリ一貫性のあるシミュレーションエンジンを用いて、まず様々な対物軌道を生成する。
MPAは拡散ベースのポリシーアダプタを訓練し、基本方針の予測を洗練させ、Q値モデルを多段階に分けて長期的な結果を評価する。
論文 参考訳(メタデータ) (2025-11-26T17:01:41Z) - BAPO: Stabilizing Off-Policy Reinforcement Learning for LLMs via Balanced Policy Optimization with Adaptive Clipping [69.74252624161652]
適応クリッピング(BAPO)を用いたBAlanced Policy Optimizationを提案する。
BAPOはクリッピングバウンダリを動的に調整し、適応的に正と負のコントリビューションを再バランスさせ、エントロピーを保持し、RL最適化を安定化させる。
AIME 2024とAIME 2025ベンチマークでは、7B BAPOモデルがSkyWork-OR1-7Bのようなオープンソースモデルを上回っています。
論文 参考訳(メタデータ) (2025-10-21T12:55:04Z) - Sim-to-Real Transfer of Adaptive Control Parameters for AUV
Stabilization under Current Disturbance [1.099532646524593]
本稿では,最大エントロピー深層強化学習フレームワークを古典的なモデルベース制御アーキテクチャと組み合わせ,適応制御系を定式化する新しい手法を提案する。
本フレームワークでは,バイオインスパイアされた体験再生機構,拡張されたドメインランダム化手法,物理プラットフォーム上で実行される評価プロトコルなどを含むSim-to-Real転送戦略を導入する。
実験により,AUVの準最適モデルから有能なポリシを効果的に学習し,実車への移動時の制御性能を3倍に向上することを示した。
論文 参考訳(メタデータ) (2023-10-17T08:46:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。