論文の概要: DeepThinkVLA: Enhancing Reasoning Capability of Vision-Language-Action Models
- arxiv url: http://arxiv.org/abs/2511.15669v1
- Date: Fri, 31 Oct 2025 05:26:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-11-23 18:31:12.354499
- Title: DeepThinkVLA: Enhancing Reasoning Capability of Vision-Language-Action Models
- Title(参考訳): DeepThinkVLA:ビジョン・ランゲージ・アクションモデルの推論能力向上
- Abstract要約: DeepThinkVLAはVision-Language-Actionモデルのための新しいアーキテクチャである。
因果的注意を伴うシーケンシャルCoTを生成し、双方向の注意に切り替え、アクションベクトルを高速に復号する。
LIBEROベンチマークで97.0%の成功率を達成した。
- 参考スコア(独自算出の注目度): 51.76664843721462
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Enabling Vision-Language-Action (VLA) models to "think before acting" via Chain-of-Thought (CoT) is a promising path to overcoming the data-hungry nature of end-to-end robot policies. However, progress is stalled by a fundamental conflict: existing models use a single autoregressive decoder for both sequential CoT reasoning and high-dimensional, parallelizable robot actions. This architectural mismatch degrades motor control and fails to forge a strong causal link between thought and action. We introduce DeepThinkVLA, which resolves this conflict through a tightly integrated architecture and training strategy. Architecturally, our hybrid-attention decoder generates sequential CoT with causal attention and then switches to bidirectional attention for fast, parallel decoding of action vectors. This design is complemented by a two-stage training pipeline: we first use Supervised Fine-Tuning (SFT) to teach the model foundational reasoning, then apply Reinforcement Learning (RL) with task-success rewards to causally align the full reasoning-action sequence with desired outcomes. This synergy leads to state-of-the-art performance, achieving a 97.0% success rate on the LIBERO benchmark. Our ablations confirm the design's effectiveness: the hybrid architecture alone outperforms standard decoders by 15.5%, and the final RL stage provides a crucial 2% boost to secure top performance.
- Abstract(参考訳): ビジョン・ランゲージ・アクション(VLA:Enabling Vision-Language-Action)は、Chain-of-Thought (CoT)を介して「行動する前に考える」ためのモデルである。
既存のモデルは、シーケンシャルなCoT推論と高次元の並列化可能なロボットアクションの両方に単一の自己回帰デコーダを使用する。
このアーキテクチャミスマッチはモーター制御を劣化させ、思考と行動の間に強い因果関係を築けない。
私たちは、密に統合されたアーキテクチャとトレーニング戦略を通じて、この対立を解決するDeepThinkVLAを紹介します。
アーキテクチャ上、我々のハイブリッドアテンションデコーダは因果的注意を伴う逐次CoTを生成し、高速かつ並列なアクションベクトルの復号のために双方向の注意に切り替える。
このデザインは、2段階のトレーニングパイプラインによって補完されます。まず最初に、モデルの基礎的推論を教えるためにSupervised Fine-Tuning (SFT)を使用します。
このシナジーは最先端のパフォーマンスをもたらし、LIBEROベンチマークで97.0%の成功率を達成した。
ハイブリッドアーキテクチャだけで標準デコーダを15.5%上回り、最終RLステージは最高のパフォーマンスを確保するために重要な2%のアップを提供する。
関連論文リスト
- NebulaVLA: A Dual-Frequency Vision-Language-Action Model With Guide Action for Robotic Manipulation [16.57017306622846]
低レベルのアクション制御から高レベルのセマンティック推論を分離する非同期デュアル周波数アーキテクチャであるNebulaVLAを提案する。
ヘテロジニアスロボット間のセマンティックギャップをブリッジするために,統一言語に基づく行動表現であるGESTURE-7を導入する。
論文 参考訳(メタデータ) (2026-08-17T12:40:23Z) - WAM-Diff2: Hierarchical AR-to-Diffusion Distillation for Highly Efficient Autonomous Driving VLA [27.102605117827398]
VLA(Vision-Language-Action)モデルは、エンドツーエンドの自動運転の顕著なパラダイムとして登場した。
それらは、シーケンシャルな自己回帰的復号から生じる高い計算遅延と露出バイアスによって制約される。
WAM-Diff2は3段階階層戦略を利用したマルチタスク離散拡散VLAフレームワークである。
論文 参考訳(メタデータ) (2026-08-02T06:45:16Z) - DaV-Gen: End-to-End Generative Retrieval via Draft-and-Verify [4.546259713278263]
textbfDaV-Genは、検索とレコメンデーションの両方のパラダイムを基本として設計された、新しい統一ソリューションである。
トレーニング中、モデルは候補のドラフトと詳細な検証の両方に同時に最適化される。
これは、2つの異なるが関連する目的に基づいてモデルを共同で訓練する複合損失関数によって達成される。
論文 参考訳(メタデータ) (2026-07-09T11:22:50Z) - Revisiting Embodied Chain-of-Thought for Generalizable Robot Manipulation [24.465551417061494]
CoT(Embodied chain-of- Thought)は、言語推論とロボット制御を橋渡しすることを目的としている。
現在までに最大規模のCoTコーパスを構築しており,978,743軌道,226.3Mサンプル,2592.5時間ロボットデータで構成されている。
論文 参考訳(メタデータ) (2026-06-02T15:37:59Z) - DualCoT-VLA: Visual-Linguistic Chain of Thought via Parallel Reasoning for Vision-Language-Action Models [50.07453075750711]
VLA(Vision-Language-Action)モデルは、視覚的な観察と言語指示を直接ロボット行動にマッピングする。
近年の取り組みは、行動能力の前に思考でVLAモデルを育むために、Chain-of-Thought (CoT)推論を取り入れている。
並列推論機構を持つVLAモデルの視覚言語的CoT法であるDualCoT-VLAを提案する。
論文 参考訳(メタデータ) (2026-03-23T17:59:25Z) - ActionCodec: What Makes for Good Action Tokenizers [106.78093973045526]
VLA(Vision-Language-Action)モデルでは、より優れた命令追従と訓練効率が示されている。
このパラダイムの中心はアクショントークン化であるが、その設計は主に再構築の忠実さに焦点を当てている。
我々は、トレーニング効率とVLA性能の両方を大幅に向上させる高性能なアクショントークンであるtextbfActionCodecを紹介する。
論文 参考訳(メタデータ) (2026-02-17T07:07:15Z) - FASTer: Toward Efficient Autoregressive Vision Language Action Modeling via Neural Action Tokenization [61.10456021136654]
本稿では,効率的で汎用的なロボット学習のための統合フレームワークであるFASTerを紹介する。
FASTerVQは、アクションチャンクをシングルチャネルイメージとしてエンコードし、高い圧縮比を維持しながら、グローバルな時間的依存関係をキャプチャする。
FASTerVLAはブロックワイドの自動回帰デコーディングと軽量アクションエキスパートを備えたトークンライザ上に構築されており、推論の高速化とタスクパフォーマンスの向上を実現している。
論文 参考訳(メタデータ) (2025-12-04T16:21:38Z) - DualVLA: Building a Generalizable Embodied Agent via Partial Decoupling of Reasoning and Action [62.70893433854428]
推論能力を維持しつつ、慎重に設計した後処理により動作性能を向上させるDualVLAを提案する。
実験の結果、DualVLAはSimplerEnvの平均成功率は61.0であり、8つの競合するマルチモーダルベンチマークの平均スコアは65.4であることがわかった。
論文 参考訳(メタデータ) (2025-11-27T06:03:53Z) - VLA-R1: Enhancing Reasoning in Vision-Language-Action Models [35.264042764326895]
VLA(Vision-Language-Action)モデルは、知覚、言語理解、行動生成を統一することを目的としている。
現在のVLAモデルは、しばしば明示的なステップバイステップ推論を欠いている。
本稿では,検証リワードからの強化学習を統合した推論強化VLAであるVLA-R1を提案する。
論文 参考訳(メタデータ) (2025-10-02T02:54:03Z) - How LLMs Learn to Reason: A Complex Network Perspective [14.638878448692493]
Reinforcement Learning from Verifiable Rewards による大規模言語モデルのトレーニングは、突飛な振る舞いのセットを示している。
この現象は単一統一理論を用いて説明できると考えられる。
私たちの研究は、将来のAIシステムの創発的な推論能力をエンジニアリングするための新しい物理的直感を提供します。
論文 参考訳(メタデータ) (2025-09-28T04:10:37Z) - Efficient Generative Model Training via Embedded Representation Warmup [12.485320863366411]
生成モデルは基本的な課題に直面し、高いレベルのセマンティック概念と低レベルの合成の詳細を同時に学ばなければならない。
基本的2相学習フレームワークである組込み表現ワームアップを提案する。
このフレームワークは,REPAのような単一位相法と比較して,FID=1.41に達するために350エポックで11.5$times$の高速化を実現している。
論文 参考訳(メタデータ) (2025-04-14T12:43:17Z) - End-to-End Meta-Bayesian Optimisation with Transformer Neural Processes [52.818579746354665]
本稿では,ニューラルネットワークを一般化し,トランスフォーマーアーキテクチャを用いて獲得関数を学習する,エンド・ツー・エンドの差別化可能な最初のメタBOフレームワークを提案する。
我々は、この強化学習(RL)によるエンドツーエンドのフレームワークを、ラベル付き取得データの欠如に対処できるようにします。
論文 参考訳(メタデータ) (2023-05-25T10:58:46Z) - Building Robust Ensembles via Margin Boosting [98.56381714748096]
敵のロバスト性においては、単一のモデルは通常、全ての敵の攻撃に対して十分な力を持っていない。
我々は最大利得のアンサンブルを学習するアルゴリズムを開発した。
提案アルゴリズムは,既存のアンサンブル技術に勝るだけでなく,エンド・ツー・エンドで訓練された大規模モデルにも勝ることを示す。
論文 参考訳(メタデータ) (2022-06-07T14:55:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。