論文の概要: Measuring the Reasoning-Action Coupling in Driving Vision-Language-Action Models through Counterfactuals
- arxiv url: http://arxiv.org/abs/2610.30953v1
- Date: Thu, 22 Oct 2026 09:04:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-24 02:08:44.295903
- Title: Measuring the Reasoning-Action Coupling in Driving Vision-Language-Action Models through Counterfactuals
- Title（参考訳）: 実測による視覚・言語・行動モデルにおける推論・行動結合の測定
- Abstract要約: 視覚言語アクション(VLA)モデルを駆動することは、安全クリティカルなドメインに魅力的な説明可能性をもたらす。
生成した推論が実際に軌道を生成する原因をトラックするかどうかを検討する。
以上の結果から,これらのモデルが結果として生じる運転行動の理由が,その行動そのものと弱い結合があることが示唆された。
- 参考スコア（独自算出の注目度）: 4.300030291231078
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Driving vision-language-action (VLA) models bring an appealing form of explainability to a safety-critical domain, since a system that can state the reasons for its maneuvers offers the transparency that deployment and public trust in autonomous driving demand. These models read the world into language before they act on it, describing the scene and reasoning over it in text that ranges from chain-of-thought to multi-stage question answering on the way to a trajectory. That framing quietly assumes two separable properties, namely that the trajectory follows the generated reasoning and that the generated reasoning tracks the causes that actually produce the trajectory. To thoroughly investigate these properties, we apply causal, counterfactual interventions to four driving VLAs across different benchmarks. First, we perturb the models' own reasoning and show that altering its meaning produces small trajectory changes relative to blanking the same models' camera inputs, a pattern that persists across benchmarks and model architectures. We then construct scene-level counterfactuals through photorealistic removal of key objects named in the models' reasoning and analyze whether the generated reasoning and trajectories track these changes. Overall, our findings indicate that the reasoning these models present to account for their resulting driving behavior is weakly coupled to that behavior itself, pointing to limits on the explainability these systems are intended to provide.
- Abstract（参考訳）: ビジョン・ランゲージ・アクション(VLA)モデルは、その操作の理由を説明できるシステムによって、自律運転需要に対するデプロイメントと公的な信頼の透明性を提供するため、安全クリティカルなドメインに魅力的な説明可能性をもたらす。
これらのモデルは、実行前に世界を言語に読み上げ、シーンを記述し、思考の連鎖から軌道の途中で答える多段階の質問まで、テキストで推論する。
このフレーミングは、2つの分離可能な性質、すなわち、軌道が生成された推論に従うことと、生成された推論が実際に軌道を生成する原因を追跡することを静かに仮定する。
これらの特性を徹底的に調査するために、異なるベンチマークで4つの駆動VLAに因果的、反実的介入を適用する。
まず、モデル自身の推論を摂動させ、その意味を変えることで、同じモデルのカメラ入力を空白にすることで、小さな軌道変化が生じることを示す。
次に、モデル推論に名前付けられたキーオブジェクトを光リアルに除去し、生成した推論と軌跡がこれらの変化を追跡するかどうかを分析する。
全体として、これらのモデルが結果として生じる運転行動の理由が、その行動自体と弱い結合であることを示し、システムが提供する説明可能性に限界があることを示唆している。
関連論文リスト
- CausalDriveBench: Evaluating Causal Reasoning in Vision-Language-Action Models for Autonomous Driving [9.843010103670167]
CausalDriveBenchはPearlのCausal Hierarchy(PCH)に基盤を置く評価フレームワークである
我々は、因果的活動、休眠、気晴らしを区別する nuScene 上の因果的シーングラフを構築した。
ベンチマークには7,285の因果QAペアと1,000の反事実軌跡が含まれている。
論文 参考訳（メタデータ） (2026-09-26T02:21:05Z) - Outcome-Guided Distillation: A Teacher-Student Framework to Advance VLM Reasoning in Autonomous Driving [9.830258914764979]
VLM(Vision-Language Models)は明確な推論を提供し、解釈可能性と堅牢性を向上させる。
教師-学生アーキテクチャを通して構造化推論と幾何学的精度を統合する新しい枠組みを提案する。
提案手法は,解釈可能性の明確な推論と,堅牢で正確な駆動性能の提供という2つの目標を統合した。
論文 参考訳（メタデータ） (2026-07-31T06:10:24Z) - What Do They See? Interpreting Complex Road Scenarios Through the Eyes of Vision-Language-Action Models for Safe and Trustworthy Autonomous Vehicle Learning [2.5264159985739623]
フロントカメラ画像から検出対象を体系的に除去するフレームワークを提案する。
これにより、各オブジェクトの存在がモデルの計画行動に与える影響を分離する。
また、モデルが人間ドライバーが考慮する対象に強く反応するケースも見つかる。
論文 参考訳（メタデータ） (2026-07-18T19:20:16Z) - ReasonBreak: Probing Vulnerabilities in Reasoning-Enabled Vision-Language-Action Models for Autonomous Driving [16.626967606526872]
統合推論を用いたビジョン・ランゲージ・アクション(VLA)モデルは、エンドツーエンドの自動運転のために提案されている。
これらのモデルが現実的な入力摂動に対して非常に脆弱であることを示し、推論において最大89%の攻撃成功率(ASR)を達成した。
本稿では,推論のセマンティックな側面と構造的側面を,安全中心の尺度とともに把握する推論認識評価フレームワークを提案する。
論文 参考訳（メタデータ） (2026-05-27T21:21:37Z) - CARE Drive A Framework for Evaluating Reason-Responsiveness of Vision Language Models in Automated Driving [3.5279672254773353]
CARE Driveは、自動運転に適用された視覚言語モデルにおける理由応答性を評価するためのフレームワークである。
それは、制御された文脈変動の下でのベースラインと理由強化モデル決定を比較し、人間の理由が決定行動に因果的に影響を及ぼすかどうかを評価する。
結果は、人間の明確な理由がモデル決定に大きな影響を与え、専門家の推奨行動との整合性が向上することを示している。
論文 参考訳（メタデータ） (2026-02-17T15:13:36Z) - Analyzing Reasoning Consistency in Large Multimodal Models under Cross-Modal Conflicts [74.47786985522762]
テキスト慣性(textual inertia)と呼ばれる重要な障害モードを特定し、矛盾する視覚的証拠を無視しながら、モデルは間違ったテキストに盲目的に固執する傾向がある。
本稿では,多種多様なLMMの推論連鎖に摂動を構造的に注入するLogicGraph摂動プロトコルを提案する。
その結果,10%未満の症例で自己修正が成功し,主に視覚的テキスト誤りの伝播に寄与することが判明した。
論文 参考訳（メタデータ） (2026-01-07T16:39:34Z) - Counterfactual VLA: Self-Reflective Vision-Language-Action Model with Adaptive Reasoning [71.19675094463834]
この作業では、モデルが実行前に計画されたアクションを推論し、修正することを可能にする、自己修正型のVLAフレームワークである、Counterfactual VLAを導入している。
CF-VLAはまず、駆動意図を要約した時間分割メタアクションを生成し、その後、メタアクションと視覚コンテキストの両方で条件付けられた反実的推論を実行する。
大規模運転データセットの実験では、CF-VLAは軌道精度を最大17.6%向上し、安全基準を20.5%向上し、適応的思考を示す。
論文 参考訳（メタデータ） (2025-12-30T19:04:17Z) - Vision-Language-Action Models for Autonomous Driving: Past, Present, and Future [125.92052530850425]
VLA(Vision-Language-Action)フレームワークは、認識と言語に基づく意思決定を統合する。
VLAフレームワークは、より解釈可能で、一般化可能で、人間に準拠した運転ポリシーへの道筋を提供する。
この研究は、人間と互換性のある自動運転システムを構築するための一貫性のある基盤を確立することを目的としている。
論文 参考訳（メタデータ） (2025-12-18T16:57:44Z) - ROVER: Benchmarking Reciprocal Cross-Modal Reasoning for Omnimodal Generation [79.17352367219736]
ROVERは1つのモダリティを使用して、もう1つの出力を誘導、検証、精査する。
ROVERは、相互モーダルな推論を明示的にターゲットとする、人間による注釈付きベンチマークである。
論文 参考訳（メタデータ） (2025-11-03T02:27:46Z) - Discrete Diffusion for Reflective Vision-Language-Action Models in Autonomous Driving [55.13109926181247]
離散拡散による安全な軌道生成のためのリフレクション機構を統合した学習ベースのフレームワークであるReflectDriveを紹介する。
我々のアプローチの中心は、勾配のない反復的な自己補正を行う、安全を意識した反射機構である。
本手法は目標条件付き軌道生成から始まり,マルチモーダル運転動作をモデル化する。
論文 参考訳（メタデータ） (2025-09-24T13:35:15Z) - SAFE-SIM: Safety-Critical Closed-Loop Traffic Simulation with Diffusion-Controllable Adversaries [94.84458417662407]
制御可能なクローズドループ安全クリティカルシミュレーションフレームワークであるSAFE-SIMを紹介する。
提案手法は,1)現実の環境を深く反映した現実的な長距離安全クリティカルシナリオの生成,2)より包括的でインタラクティブな評価のための制御可能な敵行動の提供,の2つの利点をもたらす。
複数のプランナにまたがるnuScenesとnuPlanデータセットを使用して、我々のフレームワークを実証的に検証し、リアリズムと制御性の両方の改善を実証した。
論文 参考訳（メタデータ） (2023-12-31T04:14:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。