論文の概要: Rethinking Safety for Generalist Robots

• arxiv url: http://arxiv.org/abs/2609.06326v1
• Date: Sun, 06 Sep 2026 01:23:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-12 05:59:25.78259
• Title: Rethinking Safety for Generalist Robots
• Title（参考訳）: 汎用ロボットの安全性再考
• Abstract要約: 我々は、ロボットのライフサイクル全体で考慮される危険を広げる、ロボットの安全の新しい時代の必要性を論じる。 本稿では,ジェネラリストロボットの安全な展開を導くための,新興リスクの分類とフルスタックな研究課題について述べる。
• 参考スコア（独自算出の注目度）: 18.929186283033413
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Generalist robots promise to transform our society: the same system that prepares a meal or folds laundry might also repair a car, inspect infrastructure, or care for a loved one. Yet this versatility introduces risks far beyond the collision- and force-based safety notions that have long dominated robotics. Notions of safety must now consider context (e.g., turning off a building's electricity is only safe during scheduled maintenance), user intent (e.g., asking the robot to ``clean the kitchen'' includes unspoken expectations that the robot should not mix dangerous but powerful cleaning agents like bleach and ammonia), hard-to-model physical consequences (e.g., burning food during meal preparation), and more. We argue the need for a new era of robot safety---embodied AI safety---that broadens the hazards considered across the robot's lifecycle while recognizing that the safety of bits cannot be separated from the safety of atoms. We present a taxonomy of emerging risks and a full-stack research agenda to guide the safe deployment of generalist robots.
• Abstract（参考訳）: 一般的なロボットは、私たちの社会を変えることを約束する。食事の準備や洗濯物を折り畳むのと同じシステムは、車を修理したり、インフラを検査したり、愛する人の世話をする。 しかし、この万能性は、長年ロボット工学を支配してきた衝突や力による安全の概念をはるかに超えるリスクをもたらす。 安全の通知は、現在コンテキスト(例えば、建物の電気をオフにすることは、定期的なメンテナンスの間のみ安全である)、ユーザー意図(例えば、ロボットに「キッチンをクリーンにする」よう要求するなど)、ロボットが危険なが、漂白やアンモニアのような強力な洗浄剤を混入すべきではないという明確な期待(例えば、食事の準備中に食べ物を燃やすなど)、などを考慮する必要がある。 我々は、ロボットの安全性が原子の安全性から切り離せないことを認識しながら、ロボットのライフサイクル全体で考慮される危険を拡大する、新しいロボットの安全性の必要性を論じる。 本稿では,ジェネラリストロボットの安全な展開を導くための,新たなリスクの分類法とフルスタックな研究課題を提案する。

関連論文リスト

• ANNIE: Be Careful of Your Robots [48.89876809734855]
  エンボディドAIシステムに対する敵の安全攻撃に関する最初の体系的研究について述べる。 すべての安全カテゴリーで攻撃の成功率は50%を超えている。 結果は、実証済みのAIシステムにおいて、これまで未調査だったが、非常に連続的な攻撃面を露呈する。
  論文  参考訳（メタデータ） (2025-09-03T15:00:28Z)
• Human-Robot Red Teaming for Safety-Aware Reasoning [1.3060095849496556]
  安全を意識した推論のためのヒューマンロボット・レッド・チーム・パラダイムを提案する。 人間とロボットが協力して、環境に関する仮定に挑戦し、起こりうる危険の空間を探索することを期待しています。 この調査により、ロボットは、特にハザード識別、リスクアセスメント、リスク軽減、安全報告など、安全を意識した推論を行うことができる。
  論文  参考訳（メタデータ） (2025-08-02T00:55:09Z)
• A roadmap for AI in robotics [55.87087746398059]
  AIの可能性を生かして、私たちの日常生活にロボットを配備する上での、際立った障壁に取り組みたいと考えています。 この記事では、1990年代からロボット工学におけるAIが達成したことを評価し、課題と約束を列挙した短期的・中期的な研究ロードマップを提案する。
  論文  参考訳（メタデータ） (2025-07-26T15:18:28Z)
• Safety Guardrails for LLM-Enabled Robots [82.0459036717193]
  従来のロボット安全アプローチは、大規模言語モデル(LLM)の新たな脆弱性に対処しない LLM対応ロボットの安全性を確保するための2段ガードレールアーキテクチャであるRoboGuardを提案する。 RoboGuardは、安全プランのパフォーマンスを損なうことなく、安全でないプランの実行を92%から2.5%以下に削減することを示す。
  論文  参考訳（メタデータ） (2025-03-10T22:01:56Z)
• Don't Let Your Robot be Harmful: Responsible Robotic Manipulation via Safety-as-Policy [53.048430683355804]
  ロボット操作における人間の指示の実行は、深刻な安全性のリスクにつながる可能性がある。 i) 安全リスクを含むシナリオを自動生成し、仮想的なインタラクションを行う世界モデルと、(ii) 反射による結果を予測するメンタルモデルを含む。 本研究は, 安全行政がリスクを回避し, 合成データセットと実世界の両方の実験において, 効率的にタスクを完了できることを実証する。
  論文  参考訳（メタデータ） (2024-11-27T12:27:50Z)
• $π_0$: A Vision-Language-Action Flow Model for General Robot Control [77.32743739202543]
  本稿では,インターネット規模のセマンティック知識を継承するために,事前学習された視覚言語モデル(VLM)上に構築された新しいフローマッチングアーキテクチャを提案する。 我々は,事前訓練後のタスクをゼロショットで実行し,人からの言語指導に追従し,微調整で新たなスキルを習得する能力の観点から,我々のモデルを評価した。
  論文  参考訳（メタデータ） (2024-10-31T17:22:30Z)
• ABNet: Attention BarrierNet for Safe and Scalable Robot Learning [58.4951884593569]
  バリアベースの手法は、安全なロボット学習における主要なアプローチの1つである。 本稿では,より大規模な基本安全モデルを段階的に構築するスケーラブルなAttention BarrierNet(ABNet)を提案する。 2次元ロボット障害物回避、安全なロボット操作、視覚に基づくエンドツーエンド自動運転におけるABNetの強みを実証する。
  論文  参考訳（メタデータ） (2024-06-18T19:37:44Z)
• Safety Control of Service Robots with LLMs and Embodied Knowledge Graphs [12.787160626087744]
  本稿では,大規模言語モデルとERCP(Embodied Robotic Control Prompts)とEKG(Embodied Knowledge Graphs)との新たな統合を提案する。 ERCPは、LLMが安全かつ正確な応答を生成するための事前定義された命令として設計されている。 EKGは、ロボットの動作が安全プロトコルと継続的に一致していることを保証する包括的な知識基盤を提供する。
  論文  参考訳（メタデータ） (2024-05-28T05:50:25Z)
• Deception Game: Closing the Safety-Learning Loop in Interactive Robot Autonomy [7.915956857741506]
  既存の安全手法は、ロボットが実行時に学習し適応する能力を無視することが多く、過度に保守的な行動を引き起こす。 本稿では,ロボットの進化する不確実性を明示的に考慮した安全制御ポリシを合成するための,新しいクローズドループパラダイムを提案する。
  論文  参考訳（メタデータ） (2023-09-03T20:34:01Z)
• A New Paradigm of Threats in Robotics Behaviors [4.873362301533825]
  我々は、次世代ロボットにおけるセキュリティの脅威の新しいパラダイムを特定する。 これらの脅威は、既知のハードウェアやネットワークベースの脅威を超えます。 これらの脆弱性を現実的な例で悪用する攻撃の分類を提供する。
  論文  参考訳（メタデータ） (2021-03-24T15:33:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。