論文の概要: Say the Same, Act Differently: Diagnosing and Steering Text-Action Divergence in Reasoning VLAs

• arxiv url: http://arxiv.org/abs/2611.04166v1
• Date: Tue, 03 Nov 2026 01:57:41 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-11-04 17:21:42.167629
• Title: Say the Same, Act Differently: Diagnosing and Steering Text-Action Divergence in Reasoning VLAs
• Title（参考訳）: 同じことを言っても、異なる行為: VLAの推論における診断とステアリングのテキスト-アクションの多様性
• Abstract要約: Reasoning Vision-Language-action (VLA)モデルは、身体の安全を監視するために、物理的制御と自然言語の合理性を組み合わせる。 視覚的摂動は、生成した有理語対単語を同一に保ちながら、物理的な動作を変えることができることを示す。 アルパマヨの154の障害物標識付き運転シーンでは、TNAS誘導攻撃は単語対単語同義理の下で新たな衝突を引き起こす。
• 参考スコア（独自算出の注目度）: 12.471993787508461
• License:
• Abstract: Reasoning vision-language-action (VLA) models pair physical control with natural-language rationales that supervisors can read to monitor embodied safety. Prior attacks on VLA reasoning corrupt the rationale itself and leave visible evidence in the text. We show that visual perturbations can instead alter the physical action while keeping the generated rationale word-for-word identical. At the shared text/action interface of Alpamayo for driving and InstructVLA for manipulation, our text-neutral action-subspace (TNAS) diagnostic shows that the locally most action-sensitive direction is nearly orthogonal to the active text-loss gradients, with 1.87% and 5.28% norm overlap. At equal hidden-state perturbation norms across both models, interventions along this text-neutral residual shift actions 4.64x to 47.8x more than text-gradient perturbations, whereas text-gradient perturbations induce 21.2x to 277x more text drift. Steering visual perturbations along this direction reaches the same decoupling from the image. Across 154 obstacle-annotated driving scenes in Alpamayo, TNAS-guided attacks induce a new collision under a word-for-word identical rationale in 52.6% of scenes under full-image perturbations and 35.1% under a localized forward-camera patch, compared with 4.55% for unguided action attacks. Relative to a text-preserving baseline, TNAS guidance raises exact rationale preservation from 83.0% to 89.5% and cuts teacher-forced text drift by 68.4% at a comparable collision rate. In InstructVLA, TNAS guidance cuts text drift by 40.5% and preserves the exact response on 85.0% of examples alongside a 1.73-unit action-chunk shift. An unchanged rationale therefore cannot certify a safe action, so monitors for reasoning VLAs must verify the predicted action channel directly.
• Abstract（参考訳）: Reasoning Vision-Language-action (VLA)モデルは、物理制御と自然言語の合理性を組み合わせることで、監督者が実施した安全性を監視するために読むことができる。 VLAの推論に対する以前の攻撃は、理性自体を腐敗させ、テキストに目に見える証拠を残した。 視覚的摂動は、生成した有理語対単語を同一に保ちながら、物理的な動作を変えることができることを示す。 運転用Alpamayoの共有テキスト/アクションインターフェースと操作用InstructVLAでは,テキストニュートラルアクションサブスペース(TNAS)診断により,局所的に最も行動に敏感な方向が,アクティブテキストロス勾配とほぼ直交していることが示され,1.87%と5.28%の標準重なりを示した。 両モデルで同じ隠れ状態の摂動ノルムでは、このテキストニュートラル残差アクション4.64xから47.8xの介入は、テキスト勾配の摂動よりも大きいが、テキスト勾配の摂動は21.2xから277倍のテキストドリフトを誘導する。 この方向に沿った視覚的摂動は、画像から同じ疎結合に達する。 アルパマヨの154箇所で、TNAS誘導による攻撃は、52.6%のシーンがフルイメージの摂動の下で、35.1%がローカライズされた前方カメラパッチの下で、新しい衝突を引き起こす。 テキスト保存ベースラインとは対照的に、TNASガイダンスは83.0%から89.5%まで正確な合理性を維持し、教師によるテキストのドリフトを68.4%削減する。 InstructVLAでは、TNASガイダンスはテキストのドリフトを40.5%削減し、85.0%のサンプルに対する正確なレスポンスを1.73単位のアクション・チャンクシフトと共に保持する。 したがって、不確実な合理的性は安全なアクションを証明できないため、VLAを推論するモニターは予測されたアクションチャネルを直接検証しなければならない。

関連論文リスト

• DISTRACT: Degradation-Indexed Study of Textual Reference Across Competing Targets [2.0590127484132523]
  VLT(Vision-versus Tracker)は、トラッキングを支援するための記述を受け入れるが、テキストを受け入れることは、そのコンテンツがトラッキングの判断を変更することを保証しない。 そこで本研究では,ビデオ,ターゲット,イントラクタを4つの先行テキストを4つの画像劣化で横断しながら固定する,マッチング・インターベンション・ベンチマークであるDISTRACTを紹介する。 動作コントラスト,レイヤワイド表現プローブ,アクティベーションパッチを用いて,4つのデータセット上の5つのVLTを評価する。
  論文  参考訳（メタデータ） (2026-10-20T15:53:23Z)
• SaTPO: Text-to-Image Safety Alignment via Transition Preference Optimization [81.8045246762617]
  テキストと画像の拡散モデルの安全性は、有用な生成能力を損なうことなく有害なコンテンツを抑えることを目的としている。 本稿では,デノナイズ時に段階的にアライメントを行う安全遷移選好最適化(SaTPO)を提案する。
  論文  参考訳（メタデータ） (2026-10-14T04:21:20Z)
• TacitVLA: Reasoning Vision-Language-Action Models Without Reasoning Latency [72.91348574008946]
  本稿では,現在のコールで発生する推論にアクションエキスパートが決して参加しない推論VLAであるTacitVLAを紹介する。 推論テキストがエピソードメモリとしても機能するロングホライゾンタスクでは、アクション実行中の各エントリを生成することができる。 我々は、操作と自律運転、メモリ、非メモリタスクにまたがる4つのベンチマークについて、制御された研究で評価した。
  論文  参考訳（メタデータ） (2026-10-13T01:09:25Z)
• Same Space or Not: Benchmarking Spatial Intelligence Through Cross-View Contradictions [80.65137714222533]
  スペース・アンド・ノット(Space or Not)は、クロスビューの矛盾解決のベンチマークである。 人間は83.3%の精度を達成しており、最強の視覚言語モデルでは39.7%である。
  論文  参考訳（メタデータ） (2026-10-09T17:54:57Z)
• When Reasoning Helps Action: Monitoring and Steering Chain-of-Thought in Vision-Language-Action Policies [7.580719272198118]
  推論可能なVLAポリシは、そのアクションの説明とガイドのように見えるチェーンオブ思想のトレースを公開する。 信頼性と動作性を評価するための2つの評価軸を定義し,運用する。 アルパマヨ1.5の運転VLAでは、TRUSTは88.9%の精度で正確さを監視し、推論の正確さを75.9%から90.0%に改善する。
  論文  参考訳（メタデータ） (2026-09-30T19:04:58Z)
• CounterSteer: Suppressing Indirect Prompt Injection with Activation Steering [4.1626636325601405]
  間接的なプロンプトインジェクションにより、エージェントは信頼できない検索されたテキストを命令として扱う。 モデル内のこの振る舞いを抑える推論時間ディフェンスであるCounterSteerを提案する。
  論文  参考訳（メタデータ） (2026-09-29T02:51:31Z)
• PredActor: Predictive Action Diffusion for Steerable Onboard Humanoid Control [49.348182500314614]
  アクションのみの拡散は直接アクションを生成するが、テスト時間運動の目的に対する明示的な将来の軌道は欠如している。 連立状態-作用拡散はこの表現を提供するが、代表コントローラはしばしば特権付きフルボディ状態に依存する。 提案するPredActorは,これらのステアリングを直接実行されるポリシに含める,予測的行動拡散ポリシである。
  論文  参考訳（メタデータ） (2026-09-21T16:20:25Z)
• T2LSC-Bench: Benchmarking Localized Semantic Control in Text-to-Image Generation [30.939965668317967]
  製品ラベリング、署名、インターフェースデザインでは、予め定義された主題のアイデンティティや周囲のシーンセマンティクスを変更することなく、指定されたテキストを含む領域内でターゲットテキストをレンダリングすべきである。 既存のビジュアルテキストベンチマークでは、可読性、スペル精度、レイアウトを評価しており、この種のセマンティックリークはほとんど検討されていない。 T2LSC-Benchは、50の被験者と1200のプロンプトケースからなる制御された診断ベンチマークであり、6つのモデルで7,160の画像が得られた。 デュアルブランチプロトコルは、OCR-VLMテキスト検証と構造化VLM意味判断を組み合わせて、テキスト・アット・アンカー精度(TAA)、意味的主題保存(Semantic Subject Preservation)を測定する。
  論文  参考訳（メタデータ） (2026-09-02T08:02:40Z)
• Under Pressure: Emotional Framing Induces Measurable Behavioral Shifts and Structured Internal Geometry in Small Language Models [0.0]
  局所的に展開された小さな言語モデルの行動と冷静な内的表現の両方が感情的にフレーム化された評価フォローアップによって変化するかどうかを考察する。 当社のベンチマークでは、Qwen 3.5 0.8Bという4つの不可能なコーディングタスクと、8つのフォローアップフレーミング(落ち着き、プレッシャー、緊急性、承認、恥、好奇心、励まし、脅威)を使っています。 これらの結果は、小さなオープンモデルにおいて測定可能な即応性制御の方向を示す証拠であると同時に、本質的な感情状態の主張を妨げていると解釈する。
  論文  参考訳（メタデータ） (2026-04-06T17:30:30Z)
• Diversity Boosts AI-Generated Text Detection [51.56484100374058]
  DivEyeは、予備的な機能を使って、予測不可能がテキスト間でどのように変動するかをキャプチャする、新しいフレームワークである。 提案手法は、既存のゼロショット検出器を最大33.2%向上させ、微調整ベースラインとの競合性能を達成する。
  論文  参考訳（メタデータ） (2025-09-23T10:21:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。