論文の概要: VLA Policies Do Not Know When Not to Act: Unintended Task Execution and Start Suppression

• arxiv url: http://arxiv.org/abs/2610.41609v1
• Date: Fri, 30 Oct 2026 11:45:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-02 22:05:31.693964
• Title: VLA Policies Do Not Know When Not to Act: Unintended Task Execution and Start Suppression
• Title（参考訳）: VLAのポリシーは、いつ行動しないのか分からない:意図しないタスク実行と抑制開始
• Abstract要約: 空で、中立で、ナンセンスで、実現不可能で、不正なタスク命令を6つのモデルチェックポイントに適用する。 ロボットが動き始めるか、どのタスクが完了するか、命令が何を決定するか、という3つの質問を行う。 2つのGR00Tチェックポイントでは、どのタスクが実行されたかが決定されたが、ロボットが動き始めたかは決定されなかった。
• 参考スコア（独自算出の注目度）: 5.239430974355765
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: A robot should act only on an instruction from a person or on an intent that the robot explicitly represents and generates. Unintended actions taken without such an instruction can cause risk or inconvenience to people and the environment. We examine how recent vision-language-action (VLA) policies respond when the instruction is missing or meaningless. We apply a paired protocol with empty, neutral, nonsense, infeasible, and wrong-task instructions to six model checkpoints in LIBERO-Goal simulation. Holding the initial state fixed and varying only the instruction, we ask three questions: whether the robot starts to move, which task it completes, and what the instruction determines. Even when the instruction was empty, the robot started moving in every episode with all six checkpoints, and with five of them it often completed a task that the instruction had not specified. On two GR00T checkpoints, the instruction determined which task was executed but not whether the robot started moving; the robot moved even on infeasible instructions. We then tested three methods for suppressing the start: prepending "if no task is given do not move" to the instruction; a gate that holds the robot when the first action chunk for the given instruction nearly equals that for an empty instruction; and fine-tuning the policy to hold still on non-task inputs. The prefix stopped the robot in none of the six checkpoints, and the gate held it on non-task inputs in five of the six checkpoints. The fine-tuned policy never completed a task on non-task inputs, but it did not reliably keep the robot still, and it failed to suppress the start on infeasible instructions.
• Abstract（参考訳）: ロボットは、人からの指示や、ロボットが明示的に表現し、生成する意図にのみ作用するべきである。 このような指示を受けない意図しない行動は、人や環境に危険または不便をもたらす可能性がある。 本稿では,近年の視覚言語行動(VLA)政策が,授業の欠如や意味不明の場合にどのように反応するかを検討する。 LIBERO-Goalシミュレーションにおいて、6つのモデルチェックポイントに対して、空で、中立で、ナンセンスで、実現不可能で、不正なタスク命令を持つペアプロトコルを適用する。 初期状態を固定し、命令のみを変更することで、ロボットが動き始めるか、どのタスクが完了するか、命令が何を決定するかの3つの質問を行う。 命令が空になっても、ロボットは6つのチェックポイントすべてでエピソードごとに動き始め、そのうち5つは命令が指定していないタスクを完了した。 2つのGR00Tチェックポイントでは、どのタスクが実行されたかを指示するが、ロボットが動き始めたかどうかを判断する。 そこで我々は,「タスクが与えられなければ動かない」という命令に先立ち,与えられた命令に対する最初のアクションチャンクが空の命令にほぼ等しい場合にロボットを保持するゲート,非タスク入力に係わるポリシーを微調整する3つの方法を試した。 接頭辞は6つのチェックポイントのうち1つでロボットを停止させ、ゲートは6つのチェックポイントのうち5つで非タスク入力でロボットを保持した。 微調整されたポリシーは、非タスク入力のタスクを完了することはなかったが、ロボットを確実に維持することはできず、実行不可能な指示の開始を抑えることができなかった。

関連論文リスト

• Refuses When Asked, Complies When Acting: A Runtime Safety Check for Robot Control Loops [0.0]
  GPT-6アストラのデフォルトループは有害な命令を実行することを示す。 この政策は15回の試験の0%を拒絶し、毎回損害を未然に試し、27%で完了した。 1つのエグジットである give_up は達成できない目標を意図しており、そのハザードを引き合いに出してはいない。
  論文  参考訳（メタデータ） (2026-10-19T22:29:34Z)
• What the Guard Misses, the Robot Executes: Implied Harm in VLA Instructions [0.0]
  視覚言語アクションモデル(VLA)は拒否できない命令に対して作用するため、有害な要求のスクリーニングはモニターに落ちる。 これらのモニタが有害な理由から要求される通常のロボットタスクをキャッチするかどうかを検証し、その意図が明るみに示されるかだけに変化しながらタスクを固定する。
  論文  参考訳（メタデータ） (2026-10-05T05:11:58Z)
• Coding Agents with an Obstacle-Aware Harness for Safe Robot Manipulation [25.388350905374054]
  コーディングエージェントはロボット操作のための有望なパラダイムとして登場した。 我々は,ロボットが触れるべきでない障害物と,各タスクが操作目標をペアリングする安全制約の下でそれらを評価した。 本稿では、安全制約の優先順位付けを可能にする2つの障害物認識ハーネスをモデルに装備するSafeHarnessを提案する。
  論文  参考訳（メタデータ） (2026-09-17T17:59:58Z)
• REI-Bench: Can Embodied Agents Understand Vague Human Instructions in Task Planning? [12.490512012911635]
  言語学者は、そのような曖昧さは表現(RE)を参照することからしばしば生じることを示唆している。 本稿では,人間の指示におけるREsの不明瞭さがLLMに基づくロボットタスク計画にどのように影響するかを考察する。 本稿では,あいまいなRE(REI-Bench)を用いた最初のロボットタスク計画ベンチマークを提案する。
  論文  参考訳（メタデータ） (2025-05-16T05:27:15Z)
• Hi Robot: Open-Ended Instruction Following with Hierarchical Vision-Language-Action Models [76.1979254112106]
  汎用ロボットは、タスク実行中に複雑な命令、プロンプト、さらにはフィードバックを処理できなければならない。 階層構造における視覚言語モデルを用いたシステムについて述べる。 我々は、単腕、二腕、二腕移動ロボットを含む3つのロボットプラットフォームにまたがるシステムを評価した。
  論文  参考訳（メタデータ） (2025-02-26T18:58:41Z)
• ThinkBot: Embodied Instruction Following with Thought Chain Reasoning [66.09880459084901]
  EIF(Embodied Instruction following)は、複雑な環境下でオブジェクトを相互作用させることで、エージェントが人間の指示を完了させる。 我々は,人間の指導における思考連鎖を原因とした思考ボットを提案し,その不足した行動記述を復元する。 私たちのThinkBotは、成功率と実行効率の両面で、最先端のEIFメソッドよりも大きなマージンで優れています。
  論文  参考訳（メタデータ） (2023-12-12T08:30:09Z)
• Learning Video-Conditioned Policies for Unseen Manipulation Tasks [83.2240629060453]
  ビデオ条件付きポリシー学習は、以前は目に見えないタスクの人間のデモをロボット操作スキルにマッピングする。 我々は,現在のシーン観察と対象課題のビデオから適切なアクションを生成するためのポリシーを学習する。 われわれは,多タスクロボット操作環境の課題と,技術面における性能の面から,そのアプローチを検証した。
  論文  参考訳（メタデータ） (2023-05-10T16:25:42Z)
• Towards Coordinated Robot Motions: End-to-End Learning of Motion Policies on Transform Trees [63.31965375413414]
  人間による実証から構造化政策を学習し、マルチタスクの課題解決を提案します。 我々の構造化ポリシーは、異なる空間におけるサブタスクポリシーを組み合わせるためのフレームワークであるRMPflowにインスパイアされている。 マルチタスク問題に適したエンドツーエンドの学習目標関数を導き出します。
  論文  参考訳（メタデータ） (2020-12-24T22:46:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。