論文の概要: Reasoning as a Double-Edged Sword: Architecture and Cross-Stage Robustness in Vision-Language-Action Models
- arxiv url: http://arxiv.org/abs/2607.17786v1
- Date: Mon, 20 Jul 2026 10:20:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-21 18:48:37.589496
- Title: Reasoning as a Double-Edged Sword: Architecture and Cross-Stage Robustness in Vision-Language-Action Models
- Title（参考訳）: ダブルエッジソードとしての推論:視覚・言語・アクションモデルにおけるアーキテクチャとクロスステージロバスト性
- Abstract要約: 行動の前に理由付けをする政策は、観察を直接行動にマッピングする政策よりも摂動入力を吸収すべきである。
この前提を推論スペクトルにまたがる3つのモデルでテストする。
潜望的なモデルは、はるかにロバストであることに気付きました。
- 参考スコア（独自算出の注目度）: 27.2709460237741
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Does adding a reasoning step make a Vision-Language-Action (VLA) model more robust to perturbation? Intuitively, a policy that reasons before acting should absorb a perturbed input better than one that maps observations directly to actions. We test this premise head-on across three models that span the reasoning spectrum (no reasoning, a text chain-of-thought, and a latent iterative loop), perturbing each at the vision, reasoning, and action stages on LIBERO and SimplerEnv. Two questions organize the study: does the reasoning design shift robustness, and can the reasoning be read back at runtime as a safety signal? We find that the latent-iterative model is by far the least robust: under both stochastic noise and white-box perturbation its task success collapses, while the other two hold. This fragility is structural rather than cumulative: varying the reasoning depth at inference barely moves it. Reasoning outputs can in principle be monitored, but the monitors fail under fair tests. A plan--action consistency probe that looks near-perfect under naive evaluation falls to chance under adaptive attack. Under matched-FPR calibration, fusing it with an action-anomaly probe never lifts defended success above undefended. Scoped to these output-level behavioral probes under white-box vision-stage attack, this ceiling is a precondition that any viable defense must first satisfy.
- Abstract（参考訳）: 推論ステップを追加することで、Vision-Language-Action(VLA)モデルは摂動に対してより堅牢になるのでしょうか?
直感的には、行動の前に理由付けをする政策は、観察を直接行動にマッピングする政策よりも摂動入力を吸収すべきである。
我々は、この前提を推論スペクトル(推論なし、テキストチェーンなし、反復ループなし)にまたがる3つのモデルでテストし、LIBEROとSimplerEnvのビジョン、推論、アクションステージでそれぞれ摂動する。
推論設計は堅牢性を変え、安全信号として実行時に推論を読み戻すことができるか?
確率的ノイズとホワイトボックスの摂動の両方の下で、タスクの成功は崩壊し、他の2つは失敗する。
この不安定さは累積的ではなく構造的であり、推論の推論深度をほとんど動かさない。
推論出力は原則として監視できるが、モニタは公正なテストで失敗する。
直感的な評価の下でほぼ完璧に見えるプラン-アクション整合性プローブは、アダプティブアタックの下ではチャンスに該当する。
マッチしたFPRキャリブレーションの下では、アクション・アノマリー・プローブと融合し、防御された成功を無防備以上のものにすることは決してない。
ホワイトボックス・ビジョン・ステージ・アタックの下でのこれらの出力レベルの行動プローブと組み合わせて、この天井は、実行可能な防御が最初に満たさなければならない前提条件である。
関連論文リスト
- LookAgain: Closed-Loop GUI Grounding with Visually Grounded Reflection [42.672264792698904]
近年のグラフィカルユーザインタフェース(GUI)のグラウンダは、標準ベンチマークでのシングルショット精度が大幅に向上している。
しかし、そのパフォーマンスは、小さなターゲット、密集したコントロール、配布外インターフェースで著しく低下している。
予測後の視覚反射によって駆動される閉ループGUIグライダーであるLookAgainを提案する。
論文 参考訳（メタデータ） (2026-08-10T15:23:52Z) - Bridging Physical Reasoning and Task Generalization via Visual Action Outcome Reasoning Alignment [67.2775785848366]
2つの重要な障害モードは、物理的現実と矛盾する幻覚的連鎖(CoT)推論と、モデルの推論と行動の不一致である。
両問題に直接対処する新たな報酬設計であるVAORAを提案する。
VAORAは2つの補完的な報酬を導入している: 視覚アライメント・リワード(Visual Alignment Reward) - VLM推論をエージェントアクション自体とは独立に視覚コンテキストに固定する。
論文 参考訳（メタデータ） (2026-07-07T17:27:59Z) - When the Chain of Thought Knows Better: Failure Modes in Multi-Turn Reasoning Models [7.185483586381928]
マルチターン推論モデルの故障は終端スコア評価にはほとんど見えない。
モデルは長い対話の早い段階で安全でないスタンスにロックすることができるが、その最終ターンの拒絶率は、堅牢に整列されたベースラインと区別できないように見える。
本稿では,CoT出力2x2安全行列のトレースレベル診断を提案する。
論文 参考訳（メタデータ） (2026-06-09T11:50:28Z) - Behavior Cue Reasoning: Monitorable Reasoning Improves Efficiency and Safety through Oversight [8.531991753482838]
LLM(Large Language Models)における推論(Reasoning in Large Language Models)は、監視の課題である。
LLM推論をより制御しやすく、監視しやすくするための振舞いキュー推論を提案する。
論文 参考訳（メタデータ） (2026-05-07T23:05:50Z) - Ulterior Motives: Detecting Misaligned Reasoning in Continuous Thought Models [0.0]
大規模言語モデル(LLM)における複雑な推論を導く重要な手法として、CoT推論(Chain-of-Thought)が登場した。
MoralChainは12,000の社会的シナリオを並列な道徳的/不道徳的推論パスでベンチマークする。
連続的思考モデルは、一致したアウトプットを生成しながら、不一致な潜在的推論を示すことができることを示す。
論文 参考訳（メタデータ） (2026-04-25T22:43:15Z) - How Does Prefix Matter in Reasoning Model Tuning? [57.69882799751655]
推論(数学)、コーディング、安全性、事実性の3つのコアモデル機能にまたがる3つのR1シリーズモデルを微調整します。
その結果,プレフィックス条件付きSFTでは安全性と推論性能が向上し,Safe@1の精度は最大で6%向上した。
論文 参考訳（メタデータ） (2026-01-04T18:04:23Z) - Counterfactual VLA: Self-Reflective Vision-Language-Action Model with Adaptive Reasoning [71.19675094463834]
この作業では、モデルが実行前に計画されたアクションを推論し、修正することを可能にする、自己修正型のVLAフレームワークである、Counterfactual VLAを導入している。
CF-VLAはまず、駆動意図を要約した時間分割メタアクションを生成し、その後、メタアクションと視覚コンテキストの両方で条件付けられた反実的推論を実行する。
大規模運転データセットの実験では、CF-VLAは軌道精度を最大17.6%向上し、安全基準を20.5%向上し、適応的思考を示す。
論文 参考訳（メタデータ） (2025-12-30T19:04:17Z) - Hallucination Detection via Internal States and Structured Reasoning Consistency in Large Language Models [7.18947815679122]
内部状態探索と整合検証は、大きな言語モデルにおける幻覚を検出するために用いられる。
両手法のギャップを埋める統一的なフレームワークを開発する。
私たちのフレームワークは一貫して、強力なベースラインをはるかに上回ります。
論文 参考訳（メタデータ） (2025-10-13T15:31:21Z) - VOGUE: Guiding Exploration with Visual Uncertainty Improves Multimodal Reasoning [62.09195763860549]
検証可能な報酬(RLVR)による強化学習は、大きな言語モデル(LLM)の推論を改善するが、探索に苦労する。
出力(テキスト)から入力(視覚)空間へ探索をシフトする新しい手法である$textbfVOGUE(Visual Uncertainty Guided Exploration)を紹介した。
本研究は,視覚入力の本質的不確実性における基盤探索が,マルチモーダル推論を改善するための効果的な戦略であることを示す。
論文 参考訳（メタデータ） (2025-10-01T20:32:08Z) - Landscape of Thoughts: Visualizing the Reasoning Process of Large Language Models [58.64449765678416]
思考のランドスケープ(LoT)を導入し、任意の複数選択データセット上で特定の推論手法で推論軌跡を検査する。
LoTは、強いモデルと弱いモデル、正解と誤解、および異なる推論タスクを区別する。
トラジェクトリの正しさを評価する軽量検証器にLoTを適用することで、この利点を実証する。
論文 参考訳（メタデータ） (2025-03-28T06:09:51Z) - Unveiling the Magic of Code Reasoning through Hypothesis Decomposition and Amendment [54.62926010621013]
我々は,大規模言語モデルの推論能力に対する新たな視点を提供するために,新しいタスクであるコード推論を導入する。
論理的推論の確立した形式に基づいて3つのメタベンチマークを要約し、8つの特定のベンチマークタスクにインスタンス化する。
本稿では,人間の複雑な問題解決手法に触発された新たな経路探索パイプラインを提案する。
論文 参考訳（メタデータ） (2025-02-17T10:39:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。