論文の概要: Reasoning-aware Speculative Decoding for Efficient Vision-Language-Action Models in Autonomous Driving
- arxiv url: http://arxiv.org/abs/2606.31160v1
- Date: Tue, 30 Jun 2026 05:41:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-01 18:27:19.087905
- Title: Reasoning-aware Speculative Decoding for Efficient Vision-Language-Action Models in Autonomous Driving
- Title(参考訳): 自律運転における効率的な視覚・言語・行動モデルのための推論型投機的復号法
- Abstract要約: 自律走行のための現代のビジョン・ランゲージ・アクション(VLA)プランナーは、軌道を発生させる前にチェーン・オブ・カウセーション(CoC)推論ステップを発行する。
我々は、CoC推論が2つの質的に異なるニーズを持っていることを観察する。
まず1次元回転位置埋め込みである textbfFlatRoPE を導入する。
第2に、静的参照とともにアクション品質報酬を使用する後トレーニングステージである textbfAction-aware (AARL) を導入する。
- 参考スコア(独自算出の注目度): 8.517893148366856
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Modern Vision-Language-Action (VLA) planners for autonomous driving emit a chain-of-causation (CoC) reasoning step \emph{before} producing a trajectory. The reasoning is autoregressive and dominates inference latency, while the trajectory head is parallel and cheap. Latency is an operational constraint in autonomous driving, so accelerating the reasoning step is the central problem we address. We observe that CoC reasoning has two qualitatively different needs: most tokens continue routine setup that follows naturally from the ego-trajectory history, and a small fraction encode commitments that require fresh visual evidence about an unexpected situation. We split this reasoning into two specialized paths: a \emph{routine reasoner} that handles the predictable continuation by attending to trajectory history, and a \emph{deliberative reasoner} (the unmodified VLA target) that handles novel cases by attending to current visual evidence, using the speculative decoding framework as the architectural template for how the two paths cooperate. Unlike standard speculative decoding, our routine reasoner is not a smaller replica of the target; the two reasoners are deliberately specialized to read different parts of the prompt. We propose two techniques to realize this. First, we introduce \textbf{FlatRoPE}, a 1D rotary positional embedding in the draft that breaks the rotational symmetry of the target's 3D M-RoPE, redirecting attention away from visual tokens and onto trajectory-history tokens. Second, we introduce \textbf{Action-aware RL (AARL)}, a post-training stage that uses an action-quality reward together with a static-reference KL anchor. Together, our two-reasoner system reduces the reasoning-step running time by approximately $4\times$ relative to the original Alpamayo planner.
- Abstract(参考訳): 自律運転のための現代のビジョン・ランゲージ・アクション(VLA)プランナーは、軌道を生成する推論ステップ \emph{before} のチェーン・オブ・カウセーション(CoC)を放出する。
推論は自己回帰的であり、推論遅延を支配し、軌道ヘッドは並列で安価である。
レイテンシは自動運転の運用上の制約なので、推論のステップを加速することが、私たちが対処する中心的な問題です。
多くのトークンは、エゴ軌道の歴史から自然に続く定期的なセットアップを継続し、少数のエンコードでは、予期せぬ状況に関する新鮮な視覚的証拠を必要とする。
我々は,この推論を2つの特別な経路に分割した: トラジェクティブ・ヒストリーに参加することによって予測可能な継続を処理できる \emph{routine reasoner} と,2つの経路が協調するアーキテクチャテンプレートとして投機的復号フレームワークを用いて,新しい事例を扱う \emph{deliberative reasoner} (修正されていないVLAターゲット) である。
通常の投機的復号法とは異なり、我々のルーチン推論器はターゲットのより小さなレプリカではなく、2つの推論器は意図的にプロンプトの異なる部分を読み取るように特殊化されている。
これを実現するための2つの手法を提案する。
まず、ターゲットの3次元M-RoPEの回転対称性を破る1次元回転位置埋め込みである「textbf{FlatRoPE}」を紹介する。
第2に、静的参照KLアンカーとともに、アクション品質の報酬を使用する後トレーニングステージである \textbf{Action-aware RL (AARL)} を導入する。
また,本システムにより,最初のAlpamayoプランナーと比較して,走行時間を約4\times$に短縮する。
関連論文リスト
- Neuro-Symbolic Drive: Rule-Grounded Faithful Reasoning for Driving VLAs [32.34223412562161]
本稿では、ルール付き推論トレースで駆動VLAを監督する、ニューロシンボリック駆動フレームワークであるNeuro-Symbolic Driveを紹介する。
私たちのキーとなる観察は、ルールベースのプランナーは、すでに実行可能な推論エンジンとして機能している象徴的なAIシステムであるということです。
これらのトレースは、アクションを決定するプランナー状態から直接導かれるため、推論が構造的に構築によって運動生成と結合されることが保証される。
論文 参考訳(メタデータ) (2026-06-22T20:57:59Z) - Temporal-Aware Reasoning Optimization for Video Temporal Grounding [55.29748680163419]
本稿では,時間的思考能力を明確に向上させるフレームワークであるTaRO(Temporal-Aware Reasoning Optimization)を提案する。
まず、事前生成した高密度キャプションを利用して、明示的な視覚的手がかりやタイムスタンプに基づく推論経路を構築するコンストラクティブ推論探索を導入する。
第二に、推論の品質を評価するために、テンポラル・センシティビティ・リワードを設計する。高品質な推論は特定のイベントやタイムスタンプに固定されるべきである。
論文 参考訳(メタデータ) (2026-06-08T09:21:01Z) - Ulterior Motives: Detecting Misaligned Reasoning in Continuous Thought Models [0.0]
大規模言語モデル(LLM)における複雑な推論を導く重要な手法として、CoT推論(Chain-of-Thought)が登場した。
MoralChainは12,000の社会的シナリオを並列な道徳的/不道徳的推論パスでベンチマークする。
連続的思考モデルは、一致したアウトプットを生成しながら、不一致な潜在的推論を示すことができることを示す。
論文 参考訳(メタデータ) (2026-04-25T22:43:15Z) - OneVL: One-Step Latent Reasoning and Planning with Vision-Language Explanation [61.18260993245354]
Chain-of-Thought(CoT)推論は、VLAベースの自律運転において、軌道予測の強力なドライバである。
本稿では,2つの補助デコーダによって制御されるコンパクトな潜在トークンを通じて推論をルーティングする,統一VLAおよびワールドモデルフレームワークであるOneVLを提案する。
OneVLは、明示的なCoTを超える最初の遅延CoTメソッドとなり、応答のみのレイテンシで最先端の精度を提供する。
論文 参考訳(メタデータ) (2026-04-20T16:37:22Z) - DualCoT-VLA: Visual-Linguistic Chain of Thought via Parallel Reasoning for Vision-Language-Action Models [50.07453075750711]
VLA(Vision-Language-Action)モデルは、視覚的な観察と言語指示を直接ロボット行動にマッピングする。
近年の取り組みは、行動能力の前に思考でVLAモデルを育むために、Chain-of-Thought (CoT)推論を取り入れている。
並列推論機構を持つVLAモデルの視覚言語的CoT法であるDualCoT-VLAを提案する。
論文 参考訳(メタデータ) (2026-03-23T17:59:25Z) - Unifying Language-Action Understanding and Generation for Autonomous Driving [25.23561391638388]
VLA(Vision-Language-Action)モデルは、エンドツーエンドの自動運転において有望なパラダイムとして浮上している。
既存の手法には、言語命令とアクションアウトプットの永続的なミスアライメントと、典型的な自己回帰行動生成の非効率性という2つの重要な制限がある。
LinkVLAは、これらの課題に直接対処し、アライメントと効率の両方を強化する新しいアーキテクチャです。
論文 参考訳(メタデータ) (2026-03-02T04:41:10Z) - Structured Reasoning for Large Language Models [59.215789462977206]
本研究では、推論を明示的、評価可能、トレーニング可能なコンポーネントに分解するフレームワークであるStructured Reasoning(SCR)を提案する。
SCRは推論効率と自己検証を大幅に改善する。
既存の推論パラダイムと比較して、出力トークンの長さを最大50%削減する。
論文 参考訳(メタデータ) (2026-01-12T04:04:01Z) - Double: Breaking the Acceleration Limit via Double Retrieval Speculative Parallelism [19.7914286780195]
textscDouble (Double Retrieval Speculative Parallelism)を紹介する。
提案手法は,理論的な高速化限界を断ち切るために反復的検索投機を実行する。
実験では、LLaMA3.3-70Bで$textbf5.3times$、Qwen3-32Bで$textbf2.8times$の最先端のスピードアップが示されている。
論文 参考訳(メタデータ) (2026-01-09T04:35:21Z) - Beyond 'Aha!': Toward Systematic Meta-Abilities Alignment in Large Reasoning Models [86.88657425848547]
大型推論モデル(LRMs)はすでに長い連鎖推論のための潜在能力を持っている。
我々は、自動生成の自己検証タスクを使用して、モデルに推論、帰納、誘拐の3つのメタ能力を持たせることを明確にした。
我々の3つのステージ・パイプラインの個別アライメント、パラメータ空間のマージ、ドメイン固有の強化学習は、命令調整ベースラインと比較して10%以上のパフォーマンス向上を実現します。
論文 参考訳(メタデータ) (2025-05-15T17:58:33Z) - Reason for Future, Act for Now: A Principled Framework for Autonomous
LLM Agents with Provable Sample Efficiency [53.8779374188643]
本稿では,推論と行動のオーケストレーションを行うための,証明可能な後悔の保証を備えた原則的枠組みを提案する。
具体的には、メモリバッファから学習する推論のためのプロンプトテンプレートを設計し、長い水平線上で将来の軌道を計画する。
各ステップにおいて、LLMエージェントは計画された軌跡の初期動作("act for now")を受け取り、収集したフィードバックをメモリバッファに格納し、推論ルーチンを再起動して、将来の軌跡を新しい状態から再設計する。
論文 参考訳(メタデータ) (2023-09-29T16:36:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。