論文の概要: Refuses When Asked, Complies When Acting: A Runtime Safety Check for Robot Control Loops

• arxiv url: http://arxiv.org/abs/2610.27350v1
• Date: Mon, 19 Oct 2026 22:29:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-21 21:58:47.533507
• Title: Refuses When Asked, Complies When Acting: A Runtime Safety Check for Robot Control Loops
• Title（参考訳）: ロボットの制御ループの安全チェック
• Abstract要約: GPT-6アストラのデフォルトループは有害な命令を実行することを示す。 この政策は15回の試験の0%を拒絶し、毎回損害を未然に試し、27%で完了した。 1つのエグジットである give_up は達成できない目標を意図しており、そのハザードを引き合いに出してはいない。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Frontier models can control robots through agent harnesses that loop on one question: what motion comes next toward the user's goal? We show that this default loop carries out harmful instructions. With GPT-6 Astra controlling a low-cost SO-101 arm through the Inspect Robots harness on three household tasks whose hazard is common knowledge, such as "put the knife in the toy basket", the policy refused 0% of 15 trials, attempted the harm every time, and completed it in 27%. Its one exit, give_up, is meant for goals that cannot be achieved, and it never cited the hazard. We add an optional runtime safety check to the loop: before the first motion, the model is asked whether it would carry out the instruction, given the same camera frames. The check would have stopped all 15 hazardous instructions, including the 4 that completed the harm, and flagged none of the 15 harmless controls. Code and data: https://github.com/Arnav-Gr0ver/Refuses-When-Asked-Complies-When-Acting.
• Abstract（参考訳）: Frontierモデルは、エージェントハーネスを通じてロボットを制御することができる。 このデフォルトループは有害な命令を実行することを示す。 GPT-6 アストラは安価なSO-101アームをインスペクティ・ロボットズで制御し、「おもちゃのバスケットにナイフを差し込む」などの共通知識を持つ3つの家庭の作業に利用し、政策は15回の試験の0%を拒絶し、毎回危害を未然に防ぎ、27%で完了した。 1つのエグジットである give_up は達成できない目標を意図しており、そのハザードを引き合いに出してはいない。 ループにオプションのランタイムセーフティチェックを追加する。最初の動作の前に、同じカメラフレームから命令を実行するかどうかをモデルに尋ねる。 チェックは、損害を完了した4機を含む15の有害な指示を全て停止し、無害な15機のうちの1機に警告を発した。 コードとデータ:https://github.com/Arnav-Gr0ver/Refuses-When-Asked-Complies-When-Acting

関連論文リスト

• StepSafe: Learning Timely Intervention with Context-Aware Safety Reasoning [53.94447352970449]
  Methodlong(ASPO)はステップレベルのタイムリーな介入のためのトレーニングフレームワークである。 タイムリーな介入を伴うステップレベルの推論ガードレールである textscStepSafe を提示する。
  論文  参考訳（メタデータ） (2026-10-14T21:32:36Z)
• NavGPT-3: Harnessing Context in a Hierarchical Navigation Runtime [66.14176202476176]
  言語モデルとOSライクなランタイムを接続するハーネスであるNavGPT-3を紹介する。 アクションポリシー NavGPT VLAは、19.28Mの例に基づいて訓練され、シーンの変化に比例して、アロケーションを使用して視覚トークンを割り当てます。 完全なハーネスで、NavGPT-3はR2R-CEに芸術の状態を設定し、自律的なエージェントを人間レベルに持ち込む。
  論文  参考訳（メタデータ） (2026-10-07T18:45:56Z)
• What the Guard Misses, the Robot Executes: Implied Harm in VLA Instructions [0.0]
  視覚言語アクションモデル(VLA)は拒否できない命令に対して作用するため、有害な要求のスクリーニングはモニターに落ちる。 これらのモニタが有害な理由から要求される通常のロボットタスクをキャッチするかどうかを検証し、その意図が明るみに示されるかだけに変化しながらタスクを固定する。
  論文  参考訳（メタデータ） (2026-10-05T05:11:58Z)
• Refuses in Chat, Complies with Arms: LLM Refusal Does Not Survive Robot Control [2.8013764727265618]
  有害なロボット命令の物理AI安全性ベンチマークであるRoboHarmを導入し、7つのフロンティアモデルをテストした。 私たちは各モデルを固定し、テキスト・アズ・ポリシーズから、エンドエフェクタ・ポーズやジョイント・アングルを指示する視覚エージェントまで、インターフェースのみを変更します。 MuJoCoのシミュレーション双子のYAMアームロボットでは、オブジェクトが何であるかが言われても、モデルがロボットを制御すると、拒絶がテキストリクエストの73%から18-25%に落ちます。
  論文  参考訳（メタデータ） (2026-10-03T03:57:46Z)
• Mind the Refinement Gap: When Safe High-Level Robot Plans Produce Unsafe Executions [1.8700974135631865]
  言語対応ロボットシステムは、セマンティックグラフ計画と時間論理的安全モニターをますます組み合わせている。 線形時間論理 (LTL) の仕様の下で, 表面計画上の評価値とグラフ修正トレース上の判定値を比較することにより, これらのシステムにおけるトレース完全性仮定について検討する。
  論文  参考訳（メタデータ） (2026-10-02T01:31:57Z)
• Initiation Safety: A Missing Dimension in Generalist-Robot Safety [0.0]
  第3の疑問が欠落していると私たちは主張している。ロボットは、その最初の難解なソーシャルアクションを、まったく受け入れるべきだろうか? 現在のフレームワークでは,個別のセーフティレイヤとして扱うことは滅多にありません。 我々は、ジェネラリストロボットの安全性の中で開始認可をフレーム化し、計画後のVLAガードレールと対比する。
  論文  参考訳（メタデータ） (2026-07-08T13:49:06Z)
• A Trajectory-Based Safety Audit of Clawdbot (OpenClaw) [77.1549110891026]
  6つのリスク次元にわたるClawdbotの軌道中心評価について述べる。 我々は、完全なインタラクショントラジェクトリ(メッセージ、アクション、ツールコール引数/アウトプット)をログし、自動化されたトラジェクトリ判断とヒューマンレビューの両方を使用して安全性を評価する。
  論文  参考訳（メタデータ） (2026-02-16T00:33:02Z)
• Sensor Deprivation Attacks for Stealthy UAV Manipulation [51.9034385791934]
  無人航空機は最先端の制御アルゴリズムを用いて自律的にタスクを実行する。 本稿では,マルチパートを提案する。 センサー分離攻撃 (Sensor Deprivation Attacks, SDA) - 極秘に影響を及ぼす攻撃。 センサーのリコンフィグレーションによる プロセス制御
  論文  参考訳（メタデータ） (2024-10-14T23:03:58Z)
• "Don't forget to put the milk back!" Dataset for Enabling Embodied Agents to Detect Anomalous Situations [49.66220439673356]
  私たちは、SafetyDetectと呼ばれる新しいデータセットを作成しました。 SafetyDetectデータセットは1000の異常なホームシーンで構成されている。 提案手法は,シーンのグラフ表現とシーン内のオブジェクト間の関係の両方とともに,大規模言語モデル(LLM)を利用する。
  論文  参考訳（メタデータ） (2024-04-12T21:56:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。