論文の概要: MAGNIFIED: RL Fine-tuning of Multimodal Large Language Models for Motion Planning

• arxiv url: http://arxiv.org/abs/2606.20641v1
• Date: Tue, 02 Jun 2026 16:07:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-30 20:46:32.125154
• Title: MAGNIFIED: RL Fine-tuning of Multimodal Large Language Models for Motion Planning
• Title（参考訳）: MAGNIFIED:運動計画のための多モード大言語モデルのRL微調整
• Abstract要約: MLLM(Multi-modal Large Language Models)は意味理解と常識推論において顕著な能力を示す。 次世代のテキスト予測目標は、自動運転車の計画目標を達成できない可能性がある。 本稿では,MLLMをベースとした運転エージェントをトークンレベルの報酬から学習することで,計画目標と整合する強化学習ファインチューニング手法MAGNIFIEDを提案する。
• 参考スコア（独自算出の注目度）: 16.474293563670415
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Multi-modal Large Language Models (MLLMs) have demonstrated remarkable capabilities in semantic understanding and common sense reasoning, making them promising candidates for solving planning problems in autonomous driving. However, the next-token text prediction objectives traditionally used in pre-training and supervised fine-tuning (SFT) of MLLMs may fall short of fulfilling the planning objectives for autonomous vehicles. The next-token prediction objective merely encourages per-token imitation in text, often irrespective of multi-step consequences and the alignment with crucial planning considerations such as giving space to other road actors. To overcome these limitations, we propose a reinforcement learning fine-tuning (RLFT) approach, MAGNIFIED, that aligns the MLLM-based driving agent with planning objectives by learning from token-level rewards. By mapping a sequence of predicted tokens to corresponding vehicle trajectories and learning from planning rewards, MAGNIFIED optimizes for the true planning objectives rather than focusing solely on token prediction accuracy, enabling the model to refine its understanding of the planning task beyond simple imitation. We validate our approach on the Waymo Open Motion Dataset with a novel setup incorporating rasterized birds-eye views and tokenized trajectories as inputs and planning-oriented outputs. An initial SFT phase establishes a strong baseline in outputting plan trajectories as sequences of X-Y coordinates in text, while subsequent RL fine-tuning substantially enhances planning performance relative to the SFT baseline (demonstrating over a 10.5% reduction in overlap rate and a 38.9% reduction in off-road rate), underscoring the potential of RLFT on MLLMs to achieve vehicle planning that is better aligned with compliant, comfortable, and efficient driving.
• Abstract（参考訳）: MLLM(Multi-modal Large Language Models)は、セマンティック理解と常識推論において顕著な能力を示しており、自律運転における計画問題の解決に有望な候補となっている。 しかし、MLLMの事前訓練や教師付き微調整(SFT)に伝統的に用いられてきた次世代のテキスト予測目的は、自動運転車の計画目標を達成できない可能性がある。 次トーケン予測の目的は、多段階の結果によらず、しばしば他の道路俳優にスペースを与えるといった重要な計画的考察と整合して、テキスト中のトーケンごとの模倣を促進するだけである。 これらの制限を克服するために,MLLMをベースとした運転エージェントをトークンレベルの報酬から学習することで,計画目標と整合する強化学習微調整(RLFT)手法(MAGNIFIED)を提案する。 予測トークンの列を対応する車両軌道にマッピングし、計画的な報酬から学習することにより、MAGNIFIEDは、トークン予測精度のみに焦点をあてるのではなく、真の計画目標のために最適化し、単純な模倣以上の計画タスクの理解を深めることを可能にする。 我々は、ラスタ化鳥眼ビューとトークン化軌跡を入力および計画指向の出力として組み込んだ新しいセットアップにより、Waymo Open Motion Datasetに対するアプローチを検証する。 最初のSFTフェーズは、計画軌跡をテキスト中のX-Y座標列として出力する強力なベースラインを確立し、その後のRL微調整は、SFTベースラインに対する計画性能を大幅に向上させる(オーバーラップレートの10.5%以上、オフロードレートの38.9%以上)。

関連論文リスト

• Efficient and Explainable End-to-End Autonomous Driving via Masked Vision-Language-Action Diffusion [23.834662472392694]
  Masked Vision-Language-Action Diffusion for Autonomous Driving (MVLAD-AD)は、効率的な計画と意味論的説明のギャップを埋める新しいフレームワークである。 本稿では,実世界の運転分布から,運動的に実現可能なウェイポイントのコンパクトなコードブックを構築するための,離散的なアクショントークン化戦略を提案する。 nuScenesおよび派生ベンチマークの実験により、MVLAD-ADはより優れた効率を実現し、計画精度において最先端の自己回帰的および拡散的ベースラインを上回っていることが示された。
  論文  参考訳（メタデータ） (2026-02-24T05:59:10Z)
• PILOT: Planning via Internalized Latent Optimization Trajectories for Large Language Models [51.43746425777865]
  大規模言語モデル(LLM)は、しばしばグローバル戦略を定式化する能力に欠けており、長い水平タスクにおけるエラーの伝播につながる。 PILOTは,大規模モデルの戦略的監視を本質的な潜伏誘導に内部化するためのフレームワークである。
  論文  参考訳（メタデータ） (2026-01-07T12:38:56Z)
• ImagiDrive: A Unified Imagination-and-Planning Framework for Autonomous Driving [64.12414815634847]
  ビジョン・ランゲージ・モデル(VLM)とドライビング・ワールド・モデル(DWM)は、この課題のさまざまな側面に対処する強力なレシピとして独立して登場した。 我々は、VLMベースの運転エージェントとDWMベースのシーン想像装置を統合した、新しいエンドツーエンドの自動運転フレームワークであるImagiDriveを提案する。
  論文  参考訳（メタデータ） (2025-08-15T12:06:55Z)
• Plan-R1: Safe and Feasible Trajectory Planning as Language Modeling [74.41886258801209]
  本稿では,行動学習から原理的アライメントを分離する2段階の軌道計画フレームワークを提案する。 Plan-R1は計画の安全性と実現可能性を大幅に改善し、最先端の性能を達成する。
  論文  参考訳（メタデータ） (2025-05-23T09:22:19Z)
• Distilling Multi-modal Large Language Models for Autonomous Driving [64.63127269187814]
  近年のエンド・ツー・エンドの自動運転システムは,大規模言語モデル(LLM)をプランナーとして活用し,レアイベントに対する一般化性を向上させる。 我々は,LLMの世界の知識を活用しつつ,LLMフリー(あるいはビジョンベース)プランナの効率を維持するエンド・ツー・エンドの自動運転システムであるDiMAを提案する。 DiMAを用いたトレーニングでは、L2軌道誤差が37%減少し、ビジョンベースプランナーの衝突速度が80%低下し、ロングテールシナリオでは44%軌道誤差が減少する。
  論文  参考訳（メタデータ） (2025-01-16T18:59:53Z)
• Tokenize the World into Object-level Knowledge to Address Long-tail Events in Autonomous Driving [43.156632952193966]
  従来のエンド・ツー・エンドの運転モデルは、トレーニング・ディストリビューション内での珍しいまたは目に見えない入力のために、長い尾のイベントに悩まされる。 オブジェクトレベルの知識に世界をトークン化する新しい多モード大規模言語モデル(MM-LLM)であるTOKENを提案する。 ToKENは、従来のエンドツーエンドの駆動モデルを活用することにより、データの不足と非効率なトークン化を効果的に軽減する。
  論文  参考訳（メタデータ） (2024-07-01T04:34:50Z)
• Asynchronous Large Language Model Enhanced Planner for Autonomous Driving [26.72215912937613]
  AsyncDriverは、リアルタイムプランナーが正確に制御可能な軌道予測を行うための新しいフレームワークである。 推論周波数の非同期性に乗じて,LLMが導入した計算コストの削減に成功している。 実験により,本手法はnuPlanの難解なシナリオに対して,より優れたクローズドループ評価性能が得られることが示された。
  論文  参考訳（メタデータ） (2024-06-20T17:59:03Z)
• Exploring and Benchmarking the Planning Capabilities of Large Language Models [57.23454975238014]
  この研究は、大規模言語モデル(LLM)の計画能力を改善するための基礎を築いた。 我々は、古典的な計画ベンチマークと自然言語シナリオの両方を含む包括的なベンチマークスイートを構築した。 本研究は,LLM計画の強化を目的としたマルチショットインコンテキスト学習について検討し,文脈長の増大と計画性能の向上の関係について検討する。
  論文  参考訳（メタデータ） (2024-06-18T22:57:06Z)
• LLM-Assist: Enhancing Closed-Loop Planning with Language-Based Reasoning [65.86754998249224]
  従来のルールベースプランナとLCMベースのプランナを併用した,新しいハイブリッドプランナを開発した。 当社のアプローチでは,既存のプランナが苦労する複雑なシナリオをナビゲートし,合理的なアウトプットを生成すると同時に,ルールベースのアプローチと連携して作業する。
  論文  参考訳（メタデータ） (2023-12-30T02:53:45Z)
• GPT-Driver: Learning to Drive with GPT [47.14350537515685]
  我々は,OpenAI GPT-3.5モデルを自律走行車のための信頼性の高い運動プランナに変換する,シンプルで効果的なアプローチを提案する。 我々は、Large Language Models(LLMs)固有の強力な推論能力と一般化の可能性に乗じる。 我々は,大規模な nuScenes データセットに対する我々のアプローチを評価し,GPT ベースの運動プランナの有効性,一般化能力,解釈可能性について検証した。
  論文  参考訳（メタデータ） (2023-10-02T17:59:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。