論文の概要: Refuses in Chat, Complies with Arms: LLM Refusal Does Not Survive Robot Control

• arxiv url: http://arxiv.org/abs/2610.14043v1
• Date: Sat, 03 Oct 2026 03:57:46 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-20 23:38:54.759789
• Title: Refuses in Chat, Complies with Arms: LLM Refusal Does Not Survive Robot Control
• Title（参考訳）: LLMの拒絶は救世主のロボットの制御を妨げない
• Abstract要約: 有害なロボット命令の物理AI安全性ベンチマークであるRoboHarmを導入し、7つのフロンティアモデルをテストした。 私たちは各モデルを固定し、テキスト・アズ・ポリシーズから、エンドエフェクタ・ポーズやジョイント・アングルを指示する視覚エージェントまで、インターフェースのみを変更します。 MuJoCoのシミュレーション双子のYAMアームロボットでは、オブジェクトが何であるかが言われても、モデルがロボットを制御すると、拒絶がテキストリクエストの73%から18-25%に落ちます。
• 参考スコア（独自算出の注目度）: 2.8013764727265618
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Frontier language models reliably refuse to explain how to cause physical harm. We ask whether this refusal survives when the same models control a robot. We introduce RoboHarm, a physical AI safety benchmark of harmful robot instructions, and test seven frontier models on it. We hold each model fixed and vary only the interface, from text to Code as Policies to vision agents that command end-effector poses or joint angles. In a MuJoCo simulation twin of a bimanual YAM arm robot, refusal falls from 73% of text requests to 18-25% once the model controls the robot, even when it is told what the objects are. On the physical robot, six models with end-effector control refused 18% of 612 trials against 19% in sim, and three with joint control refused 41% of 252 against 31%. GPT-5.6 Sol refused every text request and none of its trials on the real robot. Case studies of the robot transcripts show that models miss the hazard, name it without inferring its consequences, or act despite recognizing it, and their refusals often hinge on uncertainty about what an object is rather than on the harm of the action. Safety alignment learned in text thus fails to generalize to action, leaving current models with a poorly understood safety gap in the physical world.
• Abstract（参考訳）: 最前線の言語モデルは、物理的損害を引き起こす方法の説明を確実に拒否する。 我々は、同じモデルがロボットを制御するとき、この拒絶が生き残るかどうかを問う。 有害なロボット命令の物理AI安全性ベンチマークであるRoboHarmを導入し、7つのフロンティアモデルをテストした。 私たちは各モデルを固定し、テキスト・アズ・ポリシーズから、エンドエフェクタ・ポーズやジョイント・アングルを指示する視覚エージェントまで、インターフェースのみを変更します。 MuJoCoのシミュレーション双子のYAMアームロボットでは、オブジェクトが何であるかが言われても、モデルがロボットを制御すると、拒絶がテキストリクエストの73%から18-25%に落ちます。 物理的ロボットでは、エンドエフェクタコントロールの6つのモデルが612の試験の18%をシムで19%、ジョイントコントロールの3つのモデルが252の41%を31%を拒絶した。 GPT-5.6 ソルは全てのテキスト要求を拒否し、実際のロボットに対する試験は一切行わなかった。 ロボットの文字起こしのケーススタディでは、モデルがハザードを見逃し、結果を推測せずに名前を付け、それを認識しても行動し、その拒絶はしばしば、アクションの害ではなく、オブジェクトが何であるかという不確実性に隠れている。 したがって、テキストで学んだ安全性の整合性は、動作を一般化するのに失敗し、現在のモデルは物理的世界において十分に理解されていない安全性のギャップを残している。

関連論文リスト

• Human Demonstrations as Post-Training Data for Any Robot Body: Retargeting the Object, Not the Hand [0.0]
  携帯電話のようなシンプルでスケーラブルなデバイスに記録された人間のデモは、ロボットのポストトレーニングデータとして機能する。 キャプチャーは、時間とともにオブジェクトのポーズ、接触間隔、そして前兆のある再構成された3Dオブジェクトという、ボディフリーのレコードを生成する。
  論文  参考訳（メタデータ） (2026-10-14T15:28:23Z)
• VioLA: Learning Generalist Humanoid Control Policies from Human Data [91.11609447813039]
  VioLAは人体と手の動きを予測するヒューマノイドのポリシーである。 タスク固有の微調整なしで、実際のロボットのゼロショットの移動指示に従う。
  論文  参考訳（メタデータ） (2026-10-08T17:57:27Z)
• Exploiting Vulnerabilities: Universal Adversarial Attacks on Vision-Language-Action Models in Robotics [48.41285841709567]
  VLA(Vision-Language-Action)モデルは、視覚知覚、言語理解、行動生成をエンドツーエンドの学習フレームワークにシームレスに統合することで、ロボット操作に革命をもたらした。 本稿では,ロボットの視野内に置くとタスク成功率を大幅に低下させる表面テクスチャを最適化した球体であるUniversal Adversarial Objectを提案する。
  論文  参考訳（メタデータ） (2026-09-30T07:34:24Z)
• VisTacAlign: Co-Training Dexterous Policies on Tactile Human and Robot Demonstrations [1.002991947914955]
  VisTacAlignは、人間とロボットのデモに対する3D-視覚触覚のデクサラスなポリシーを共同訓練するためのフレームワークである。 グローブトラッキングされた人間の手の動きは、17-DoFの触覚ロボットハンドに1回指先修正を加えて再ターゲティングされる。 静電容量式触覚グローブは、信号空間内のロボットの指先センサーにアライメントされ、1つの指先力表現が解釈可能である。
  論文  参考訳（メタデータ） (2026-09-25T08:12:04Z)
• When Should a Failing Robot Ask? Initiating Corrective Human-Robot Dialogue from Audited Sensor Evidence [0.0]
  タスクで失敗するロボットは、自分自身の診断で行動したり、他のセンサーに相談したり、人を中断したりするという、最初の意思決定に直面します。 私たちは、すべての障害の本当の原因がわかっているシミュレートされたベンチマークを構築します。 我々は、この選択を3つの行動決定問題として、行動し、自分のセンサーを照会するか、あるいは人間に尋ねる。
  論文  参考訳（メタデータ） (2026-09-18T15:56:52Z)
• Dexterity from Smart Lenses: Multi-Fingered Robot Manipulation with In-the-Wild Human Demonstrations [52.29884993824894]
  自然環境で日々のタスクを行う人間から、マルチフィンガーロボットポリシーを学ぶことは、ロボットコミュニティにとって長年の大きな目標だった。 AINAは、Aria Gen 2メガネを使用して、どこでも、どこでも、あらゆる環境で収集されたデータから、マルチフィンガーポリシーを学ぶことができる。
  論文  参考訳（メタデータ） (2025-11-20T18:59:02Z)
• Jailbreaking LLM-Controlled Robots [82.04590367171932]
  大規模言語モデル(LLM)は、文脈推論と直感的な人間とロボットの相互作用を可能にすることによって、ロボット工学の分野に革命をもたらした。 LLMは脱獄攻撃に弱いため、悪意のあるプロンプトはLLMの安全ガードレールをバイパスすることで有害なテキストを誘発する。 LLM制御ロボットをジェイルブレイクするアルゴリズムであるRoboPAIRを紹介する。
  論文  参考訳（メタデータ） (2024-10-17T15:55:36Z)
• Giving Robots a Hand: Learning Generalizable Manipulation with Eye-in-Hand Human Video Demonstrations [66.47064743686953]
  眼内カメラは、視覚に基づくロボット操作において、より優れたサンプル効率と一般化を可能にすることを約束している。 一方、人間がタスクを行うビデオは、ロボット遠隔操作の専門知識を欠いているため、収集コストがずっと安い。 本研究では,広範にラベルのない人間ビデオによるロボット模倣データセットを拡張し,眼球運動ポリシーの一般化を大幅に促進する。
  論文  参考訳（メタデータ） (2023-07-12T07:04:53Z)
• RoboMal: Malware Detection for Robot Network Systems [4.357338639836869]
  本稿では,バイナリ実行ファイル上で静的なマルウェア検出を行うRoboMalフレームワークを提案する。 このフレームワークは、GRU、CNN、ANNといった広く使われている教師付き学習モデルと比較される。 特に、LSTMベースのRoboMalモデルは、10倍のクロスバリデーションで85%の精度と87%の精度で他のモデルより優れている。
  論文  参考訳（メタデータ） (2022-01-20T22:11:38Z)
• Fault-Aware Robust Control via Adversarial Reinforcement Learning [35.16413579212691]
  本稿では, 関節損傷症例に対するロボットの脆弱性を大幅に向上させる, 対向強化学習フレームワークを提案する。 我々は,本アルゴリズムを3本指ロボットと4本指ロボットで検証する。 我々のアルゴリズムはシミュレーションでのみ訓練でき、微調整なしで実際のロボットに直接展開できる。
  論文  参考訳（メタデータ） (2020-11-17T16:01:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。