論文の概要: CritiqueDriveVLM: From Verifier-Guided Reinforcement Learning to Latent Thought Distillation for Autonomous Driving
- arxiv url: http://arxiv.org/abs/2607.04179v1
- Date: Sun, 05 Jul 2026 08:51:47 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-07 22:26:29.847141
- Title: CritiqueDriveVLM: From Verifier-Guided Reinforcement Learning to Latent Thought Distillation for Autonomous Driving
- Title(参考訳): CritiqueDriveVLM:検証ガイドによる強化学習から自律運転のための潜在思考蒸留へ
- Abstract要約: VLM(Vision-Language Models)は、自動運転において大きな可能性を秘めている。
CritiqueDriveVLMは、VLMに直接推論を内部化する新しい3段階のフレームワークである。
学生の潜在表現を教師の完全収束推論状態と整合させることで、我々は深い論理能力を高速でCoTフリーなシステム-1学生に圧縮する。
- 参考スコア(独自算出の注目度): 14.150596203774384
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: End-to-end Vision-Language Models (VLMs) show immense potential in autonomous driving. However, standard Supervised Fine-Tuning (SFT) often suffers from reasoning hallucinations and conservative biases. While traditional tool-augmented frameworks and Chain-of-Thought (CoT) approaches mitigate these issues, they incur exorbitant token consumption and unacceptable latency, rendering real-time deployment impractical. To resolve this reliability-efficiency trade-off, we propose CritiqueDriveVLM, a novel unified three-stage framework internalizing reasoning directly into the VLM. First, we introduce Critique-Driven Multi-Turn Reinforcement Learning (RL) guided by a multi-dimensional verifier. By providing granular scalar feedback and a multi-turn penalty, we force the policy to internalize logical deduction, cultivating a robust System-2 Teacher that achieves high accuracy without fragile external tools. Subsequently, we propose Latent Thought Distillation to overcome the latency bottleneck. By aligning the Student's latent representations with the Teacher's fully converged reasoning states, we compress deep logical capabilities into a fast, CoT-free System-1 Student. Extensive experiments on the widely-used DriveLMM-01 benchmark demonstrate remarkable improvements. Compared to the base model, our tool-free Teacher significantly boosts Multiple Choice Quality (MCQ) from 55.54% to a state-of-the-art 76.54%. Crucially, our distilled Student preserves competitive reasoning depth while drastically minimizing generation length to an average of merely 28 tokens. This slashes inference latency by 88% (from 3482 ms to 416 ms), paving a highly robust pathway for low-latency autonomous driving.Our source code is available at https://github.com/MICLAB-BUPT/CritiqueDriveVLM.
- Abstract(参考訳): VLM(End-to-end Vision-Language Models)は、自動運転において大きな可能性を秘めている。
しかし、SFT(Supervised Fine-Tuning)は幻覚と保守的な偏見の推論に悩まされることが多い。
従来のツール拡張フレームワークとCoT(Chain-of-Thought)アプローチはこれらの問題を緩和しますが、排他的トークン消費と許容できないレイテンシを発生させ、リアルタイムデプロイメントを非現実的にします。
信頼性と効率のトレードオフを解決するために,VLMに直接推論を内包する新しい三段階統合フレームワークであるCristiqueDriveVLMを提案する。
まず,多次元検証による批判駆動型多段階強化学習(RL)を紹介する。
より粒度の細かいスカラーフィードバックと多ターンペナルティを提供することで、論理的推論を内部化させ、脆弱な外部ツールを使わずに高精度なシステム2教師を育成する。
次に、遅延ボトルネックを克服するために、遅延思考蒸留を提案する。
学生の潜在表現を教師の完全に収束した推論状態と整合させることで、我々は深い論理能力を高速でCoTフリーなシステム-1学生に圧縮する。
広く使われているDriveLMM-01ベンチマークの大規模な実験は、顕著な改善を示している。
基本モデルと比較して、当社のツールフリーの教師は、Multiple Choice Quality (MCQ) を55.54%から76.54%に大幅に向上させています。
重要な点として, 留学生は, 平均28トークンまで生成時間を大幅に最小化しながら, 競争力のある推論深度を保っている。
これにより、推論遅延を88%(3482msから416ms)削減し、低レイテンシ自動運転のための非常に堅牢なパスを舗装する。
関連論文リスト
- Teaching Thinking Models to Reason with Tools: A Full-Pipeline Recipe for Tool-Integrated Reasoning [59.74608632210439]
そこで本研究では,ツール使用の自然な動作を,ツールなし推論能力を犠牲にすることなく,強力な思考モデルに注入する方法を示す。
提案手法は,オープンソースモデル間のベンチマークにおいて,最先端のパフォーマンスを実現するモデルを生成する。
論文 参考訳(メタデータ) (2026-05-07T14:23:21Z) - Drive-KD: Multi-Teacher Distillation for VLMs in Autonomous Driving [26.97190983537793]
本稿では、自動運転を「パーセプション推論計画」三脚に分解するフレームワークであるDrive-KDを提案する。
基本ラインを上回り,機能固有の単教師モデルを構築するための蒸留信号として,層固有の注意を識別する。
実験により, 蒸留したInternVL3-1Bモデルは, 42倍のGPUメモリと11.4倍のスループットを有し, 事前学習した78Bモデルよりも全体的な性能が向上していることがわかった。
論文 参考訳(メタデータ) (2026-01-29T05:41:24Z) - ThinkDrive: Chain-of-Thought Guided Progressive Reinforcement Learning Fine-Tuning for Autonomous Driving [14.981675960513606]
既存の手法は、非構造的推論、一般化の貧弱、そして人間の運転との不一致に悩まされている。
我々は,CoTガイドによる自律運転のためのプログレッシブRL微調整フレームワークであるThinkDriveを提案する。
その結果,ThinkDriveは,試験で1.45%,1.95%,1.01%,測定強度,精度でそれぞれ強いRLベースラインを上回っていることがわかった。
論文 参考訳(メタデータ) (2026-01-08T08:30:36Z) - Addressing Overthinking in Large Vision-Language Models via Gated Perception-Reasoning Optimization [56.59356959631999]
Gated Perception-Reasoning Optimization (GPRO) は3つの決定経路間で動的に計算をルーティングするメタ推論コントローラである。
GPROは精度と効率を大幅に改善し、最近のスロー思考法よりも優れている。
論文 参考訳(メタデータ) (2026-01-07T23:05:17Z) - OmniDrive-R1: Reinforcement-driven Interleaved Multi-modal Chain-of-Thought for Trustworthy Vision-Language Autonomous Driving [11.793091014248025]
我々は自動運転用に設計されたエンドツーエンドのVLMフレームワークであるOmniDrive-R1を紹介する。
私たちの中心となるイノベーションは、強化駆動のビジュアルグラウンド機能です。
この機能は、純粋な2段階強化学習訓練パイプラインとClip-GRPOアルゴリズムによって実現されている。
論文 参考訳(メタデータ) (2025-12-16T03:19:28Z) - MindDrive: A Vision-Language-Action Model for Autonomous Driving via Online Reinforcement Learning [51.20229133553804]
自律運転における現在のビジョン・ランゲージ・アクション(VLA)パラダイムは主に模倣学習(IL)に依存している
オンライン強化学習は、トライアル・アンド・エラー学習を通じてこれらの問題に対処するための有望な経路を提供する。
大規模言語モデル(LLM)と2つの異なるLoRAパラメータからなるVLAフレームワークであるMindDriveを提案する。
軌道レベルの報酬を推論空間に戻すことで、MindDriveは、限定的な言語駆動決定の有限セットに対する試行錯誤学習を可能にする。
論文 参考訳(メタデータ) (2025-12-15T18:31:32Z) - Directional Reasoning Injection for Fine-Tuning MLLMs [51.53222423215055]
マルチモーダルな大言語モデル(MLLM)は急速に進歩しているが、その推論能力は強いテキストのみのモデルよりも遅れていることが多い。
このギャップを埋める既存の方法は、大規模マルチモーダル推論データや強化学習の監督された微調整に依存している。
この問題を解決するために,DRIFT(Directional Reasoning Injection for Fine-Tuning)を提案する。
論文 参考訳(メタデータ) (2025-10-16T18:06:46Z) - AdaThinkDrive: Adaptive Thinking via Reinforcement Learning for Autonomous Driving [21.10362636088305]
Chain of Thought (CoT)はVision Language Action (VLA)モデルで広く採用されている。
AdaThinkDriveは、高速でスローな思考にインスパイアされたデュアルモード推論機構を備えた新しいVLAフレームワークである。
論文 参考訳(メタデータ) (2025-09-17T07:35:39Z) - Consistent Paths Lead to Truth: Self-Rewarding Reinforcement Learning for LLM Reasoning [87.7836502955847]
本稿では,Large Language Model (LLM)推論を強化するための,自己回帰型強化学習フレームワークを提案する。
私たちのキーとなる洞察は、正しい応答はモデルの可能性の観点から一貫した軌道パターンを示すことが多いということです。
本稿では,安定度とボラティリティを,頑健なベクトル空間集約戦略を通じて統合する,本質的な報酬機構であるCoVoを紹介する。
論文 参考訳(メタデータ) (2025-06-10T12:40:39Z) - Beyond 'Aha!': Toward Systematic Meta-Abilities Alignment in Large Reasoning Models [86.88657425848547]
大型推論モデル(LRMs)はすでに長い連鎖推論のための潜在能力を持っている。
我々は、自動生成の自己検証タスクを使用して、モデルに推論、帰納、誘拐の3つのメタ能力を持たせることを明確にした。
我々の3つのステージ・パイプラインの個別アライメント、パラメータ空間のマージ、ドメイン固有の強化学習は、命令調整ベースラインと比較して10%以上のパフォーマンス向上を実現します。
論文 参考訳(メタデータ) (2025-05-15T17:58:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。