論文の概要: What the Guard Misses, the Robot Executes: Implied Harm in VLA Instructions

• arxiv url: http://arxiv.org/abs/2610.05818v1
• Date: Mon, 05 Oct 2026 05:11:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-10 04:03:43.23294
• Title: What the Guard Misses, the Robot Executes: Implied Harm in VLA Instructions
• Title（参考訳）: 守衛隊が見逃すのは、VLAの命令に傷がついたロボット
• Abstract要約: 視覚言語アクションモデル(VLA)は拒否できない命令に対して作用するため、有害な要求のスクリーニングはモニターに落ちる。 これらのモニタが有害な理由から要求される通常のロボットタスクをキャッチするかどうかを検証し、その意図が明るみに示されるかだけに変化しながらタスクを固定する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Vision-language-action models (VLAs) act on instructions without being able to refuse, so screening harmful requests falls to monitors. We test whether these monitors catch ordinary robot tasks requested for harmful reasons, holding the task fixed while varying only how explicitly the intent is stated. $π_{0.5}$ completes the task at every level of explicitness, as often as for harmless controls. Text guards flag nearly every blunt request but few implied ones: up to 95% of implied-harm runs end with the task done and no flag raised, and up to 90% even after recalibrating on robot instructions. Monitoring the model's activations does not close this gap. Linear probes separate harmful from harmless instructions almost perfectly in the base language and vision-language models, but this separation weakens after robot training in two model families, most for implied harm.
• Abstract（参考訳）: 視覚言語アクションモデル(VLA)は拒否できない命令に対して作用するため、有害な要求のスクリーニングはモニターに落ちる。 これらのモニタが有害な理由から要求される通常のロボットタスクをキャッチするかどうかを検証し、その意図が明るみに示されるかだけに変化しながらタスクを固定する。 π_{0.5}$は、無害な制御と同様に、明示性のあらゆるレベルにおいてタスクを完了させる。 インプリートハームの95%は、完了したタスクで終了し、フラグが掲げられていない。 モデルのアクティベーションを監視することは、このギャップを埋めるものではない。 リニアプローブは、ベース言語と視覚言語モデルでほぼ完全に無害な命令と区別されるが、この分離は2つのモデルファミリーでのロボットトレーニング後に弱まる。

関連論文リスト

• Taming VLAs under Robot Execution Errors: Self-Compensation and Stress Testing [59.15715295478112]
  視覚言語アクション(VLA)ポリシーは、ロボットが実行した動作が命令された動作から逸脱した場合にしばしば失敗する。 本稿では,VLAポリシーがロボットの実行エラーを事前に補償できるデプロイ時適応手法である自己補償型VLAを提案する。
  論文  参考訳（メタデータ） (2026-09-29T12:08:13Z)
• AuthGuard-R: Safety-Compliant Mission Hijacking and Dual-Gate Defense for LLM-Controlled Robots [0.7519872646378835]
  本論文は,行動は物理的に安全であり,ユーザによる許可されたミッションに反する可能性がある,という問題を考察する。 認証されたミッションに違反しながら安全ゲートを通過する計画を探索するアダプティブアタックフレームワークであるMissionPAIRを提案する。 また、署名されたミッションにすべての実行可能なアクションをバインドする決定論的認証層であるAuthGuard-Rを提案する。
  論文  参考訳（メタデータ） (2026-09-25T10:56:22Z)
• Recall Is Not Protection: Evaluating Safety Monitors Against Model Compliance [0.0]
  セーフティモニタは、デプロイされた言語モデルに送られるスクリーンプロンプトを通知し、有害な要求を通知し、応答されないようにする。 それらは有害なラベルに対するリコールによって評価されるが、もしモデルがそうでなければ害を防げるだけである。 対象モデルからの繰り返し応答をサンプリングし、もしモデルが少なくとも一度は満たされた場合、有害なプロンプトを仮に呼び出すとともに、実行不可能なプロンプトに対して別々にリコールを報告します。
  論文  参考訳（メタデータ） (2026-09-05T01:19:35Z)
• Foresight: Failure Detection for Long-Horizon Robotic Manipulation with Action-Conditioned World Model Latents [58.49879338545782]
  ロングホライゾンタスクは、現実のロボット展開では一般的なものだが、そのようなタスクの障害検出は未調査のままである。 動作条件付き世界モデルからの潜在表現を用いて、操作軌跡をモニタする故障検出フレームワークであるForesightを提案する。 この結果から, 動作条件付きワールドモデル埋め込みは, 長距離操作における信頼性のある故障監視のためのスケーラブルな表現を提供する可能性が示唆された。
  論文  参考訳（メタデータ） (2026-06-22T09:32:28Z)
• Trajectory-Level Redirection Attacks on Vision-Language-Action Models [8.83087913765963]
  視覚言語アクション(VLA)ポリシーは、自然言語をクローズドループロボット制御にもたらすことで、ロボットはテキスト命令から直接操作タスクを実行することができる。 本研究は,低レベルなアクションを対象とする場合や,変化するイメージをまたいだアクションを継続させる場合の逆方向のプロンプトについて検討する。 実験により、ほぼ良性な急激な摂動がVLAロールアウトを攻撃者が特定したターゲットにリダイレクトできることが示されている。
  論文  参考訳（メタデータ） (2026-06-11T07:12:17Z)
• Do What? Teaching Vision-Language-Action Models to Reject the Impossible [53.40183895299108]
  VLA(Vision-Language-Action)モデルは、さまざまなロボットタスクにおいて強力なパフォーマンスを示している。 Instruct-Verify-and-Act(IVA)を提案する。 実験の結果,IVAはベースラインよりも97.56%の精度で虚偽の前提検出精度を向上させることがわかった。
  論文  参考訳（メタデータ） (2025-08-22T10:54:33Z)
• HarmAug: Effective Data Augmentation for Knowledge Distillation of Safety Guard Models [92.85175340702125]
  本研究では,大規模な教師の安全ガードモデルを,バイナリ有害度ラベル付き命令応答ペアのラベル付きデータセットを用いて,より小さなモデルに蒸留する。 本稿では,LLMをジェイルブレイクして有害な命令を発生させる単純なデータ拡張手法であるHarmAugを提案する。 私たちのHarmAugは、70億以上のパラメータを持つ大規模モデルに匹敵するF1スコアを達成し、計算コストの25%未満で運用しながら、AUPRCでそれを上回るパフォーマンスを実現しています。
  論文  参考訳（メタデータ） (2024-10-02T13:12:13Z)
• Task Success is not Enough: Investigating the Use of Video-Language Models as Behavior Critics for Catching Undesirable Agent Behaviors [22.728139463769896]
  大規模生成モデルは意味のある候補解を抽出するのに有用であるが、それらはしばしばタスク制約やユーザの好みを見落としている。 具体的AIの文脈では、検証は多くの場合、命令で指定された目標条件が満たされたかどうかのみを評価する。 ロボットタスクのスコープを考えると、Goのような明示的な知識タスクに使用されるものに似たスクリプト検証を構築することは不可能である。 大きなビジョンと言語モデル(VLM)は、ビデオの中の望ましくないロボットの振る舞いを捉えるために、スケーラブルな行動批判として、ほぼ全能的なものですか?
  論文  参考訳（メタデータ） (2024-02-06T18:07:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。