論文の概要: Refusals That Bend: Measuring and Predicting Task Malleability in Embodied VLM Planners

• arxiv url: http://arxiv.org/abs/2609.38971v1
• Date: Wed, 30 Sep 2026 04:44:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 18:57:27.187536
• Title: Refusals That Bend: Measuring and Predicting Task Malleability in Embodied VLM Planners
• Title（参考訳）: ボディードVLMプランナにおけるタスクエラーの計測と予測
• Abstract要約: 生体視覚言語モデル(VLM)は、様々な環境にまたがって一般化されるため、ロボットの高レベルプランナーとしてますます多くデプロイされている。 プランナーが既に与えた拒絶は、環境への通常の変更を生き残ることを示す。 小さなオープンソースVLMから読み取られた信号の合成は、ランダムに選択するのと同じくらい、可鍛性のあるタスクを2.4times$で識別する。
• 参考スコア（独自算出の注目度）: 15.848663095223062
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Embodied vision-language models (VLMs) are increasingly deployed as high-level planners for robots because they generalize across diverse environments. However, this requires their safety alignment to also hold in unseen environments. Existing red-teaming assumes an adversary who optimizes the prompt, the pixels, or text in the environment, and existing benchmarks ask whether a planner recognizes or mitigates a hazard in a fixed scene. Neither asks whether a refusal the planner has already given survives an ordinary change to the environment. We ask that question by placing a single everyday object into the environment, with no pixel, gradient, or prompt under adversarial control. On $846$ tasks that a constitution-guarded planner initially refuses, we find $20.2\%$ of tasks can be flipped to compliance by one or more objects, and the number of objects differs from one task to another. In addition, the object need not be chosen for the task, i.e., items drawn from a fixed list, with no knowledge of the environment or the instruction, bypass safety about as often as items proposed for the specific task. We qualitatively contrast the tasks bypassed most and least often and find that the distinction lies in how conspicuous the hazard is in the instruction and environment. Susceptibility to safety bypass is therefore a property of the task, which we call its \emph{malleability}, and we show that it can be predicted before the target is ever queried. A composite of signals read from a small open-source VLM identifies malleable tasks $2.4\times$ as often as picking at random. Everyday objects, whether placed by an adversary or introduced by ordinary rearrangement of the environment, are thus sufficient to overturn a refusal. Because susceptibility is determined by how a task is specified, we recommend assessing malleability per task prior to deployment.
• Abstract（参考訳）: 生体視覚言語モデル(VLM)は、様々な環境にまたがって一般化されるため、ロボットの高レベルプランナーとしてますます多くデプロイされている。 しかし、これは見知らぬ環境での安全確保も必要である。 既存のレッドチームでは、環境中のプロンプト、ピクセル、テキストを最適化する敵を仮定し、既存のベンチマークでは、プランナーが固定されたシーンでハザードを認識したり軽減したりするかどうかを問う。 どちらも、プランナーが既に与えた拒絶が、環境への通常の変更を生き残るかどうかを問うものではない。 我々は,1つの日常オブジェクトをピクセルや勾配やプロンプトのない環境に配置することで,その疑問に答える。 憲法で保護されたプランナーが最初に拒否する846ドルのタスクでは、20.2\%のタスクが1つ以上のオブジェクトによってコンプライアンスに切り替えられ、あるタスクから別のタスクにオブジェクトの数が異なることが分かる。 さらに、オブジェクトは特定のタスクに対して提案されたアイテムと同じくらいの頻度で安全を回避し、例えば、固定リストから引き出されたアイテムを環境や命令の知識なしで選択する必要はない。 我々は、最も頻繁に無視されるタスクを質的に対比し、その区別が、教育と環境における危険がいかに顕著であるかにかかっていることに気付く。 したがって、安全バイパスに対する感受性はタスクの特性であり、そのタスクは \emph{malleability} と呼ばれ、ターゲットがクエリされる前に予測できることが示される。 小さなオープンソースVLMから読み出された信号の合成は、ランダムに選択するのと同じくらい、可鍛性のあるタスクを2.4\times$と識別する。 したがって、敵が配置した物や、環境の通常の再配置によって導入された物は、拒絶を覆すのに十分である。 感受性はタスクの指定方法によって決定されるため、デプロイ前にタスクごとの適合性を評価することを推奨する。

関連論文リスト

• Actively Resolving Contextual Uncertainty for Underspecified Tasks in Natural Language [58.02938677145988]
  CLUE(Closed-Loop contextual Uncertainty rEsolution)は、自然言語で与えられた文脈の不確実性を解決するためのフレームワークである。 CLUEはボストン・ダイナミクス・スポットに15のタスクにまたがる屋内と屋外の3つの環境に展開します。
  論文  参考訳（メタデータ） (2026-09-24T18:22:15Z)
• From Task Solving to Robust Real-World Adaptation in LLM Agents [17.122224644097304]
  大規模言語モデルは、拡張された地平線上での計画、呼び出し、アクションを行う特別なエージェントとして、ますます多くデプロイされている。 グリッド型ゲームにおけるエージェントLLMを、単純なゴールだが長距離実行でベンチマークする。 名目上のタスク解決と,デプロイメントのような堅牢性の間には,大きなギャップがあります。
  論文  参考訳（メタデータ） (2026-02-02T20:10:40Z)
• What Do LLM Agents Know About Their World? Task2Quiz: A Paradigm for Studying Environment Understanding [50.35012849818872]
  大規模言語モデル(LLM)エージェントは、複雑な意思決定やツール使用タスクにおいて顕著な能力を示した。 本研究では,タスク実行と世界状態理解の分離を目的とした決定論的かつ自動評価パラダイムであるTask-to-Quiz(T2Q)を提案する。 実験の結果,タスク成功は環境理解の指標として不十分な場合が多く,現在の記憶機構はエージェントが環境の基底モデルを取得するのに有効ではないことが明らかとなった。
  論文  参考訳（メタデータ） (2026-01-14T14:09:11Z)
• AGENTSAFE: Benchmarking the Safety of Embodied Agents on Hazardous Instructions [64.85086226439954]
  本稿では,有害な指示に対するVLMエージェントの安全性を評価するためのベンチマークであるSAFEを提案する。 SAFEは、SAFE−THOR、SAFE−VERSE、SAFE−DIAGNOSEの3つの成分からなる。 我々は、ハザード認識を安全な計画と実行に翻訳する体系的な失敗を明らかにする。
  論文  参考訳（メタデータ） (2025-06-17T16:37:35Z)
• Leverage Task Context for Object Affordance Ranking [57.59106517732223]
  25の共通タスク、50k以上の画像、661k以上のオブジェクトからなる、最初の大規模タスク指向のアベイランスランキングデータセットを構築しました。 その結果,タスクコンテキストに基づくアベイランス学習のパラダイムの実現可能性と,サリエンシランキングやマルチモーダルオブジェクト検出の分野における最先端モデルよりも,我々のモデルの方が優れていることが示された。
  論文  参考訳（メタデータ） (2024-11-25T04:22:33Z)
• GUIDEd Agents: Enhancing Navigation Policies through Task-Specific Uncertainty Abstraction in Localization-Limited Environments [1.614803913005309]
  本稿では,タスク固有の不確実性要件を直接ナビゲーションポリシーに統合する計画手法を提案する。 本稿では,これらの不確実性要件をロボットの意思決定に組み込んだ政策条件付けフレームワークGUIDEを提案する。 本稿では,GUIDEを強化学習フレームワークに組み込むことで,作業完了と不確実性管理を明確な報奨エンジニアリングなしで効果的にバランスするナビゲーションポリシーを学習することができることを示す。
  論文  参考訳（メタデータ） (2024-10-19T18:46:17Z)
• Task Allocation for Multi-Robot Task and Motion Planning: a case for Object Picking in Cluttered Workspaces [1.3535770763481902]
  統合型マルチロボットタスクとモーションプランニング手法を提案する。 未知のオブジェクトの再配列を含むタスクを処理できる。 2つのフランカエミカマニピュレータのシミュレーション実験で実験を行った。
  論文  参考訳（メタデータ） (2021-10-08T12:36:43Z)
• ObjectNav Revisited: On Evaluation of Embodied Agents Navigating to Objects [119.46959413000594]
  この文書は、ObjectNavのワーキンググループのコンセンサスレコメンデーションを要約します。 評価基準の微妙だが重要な詳細について推奨する。 CVPR 2020のEmbodied AIワークショップで実施された課題において、これらの推奨事項のインスタンス化について、詳細な説明を行う。
  論文  参考訳（メタデータ） (2020-06-23T17:18:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。