論文の概要: Initiation Safety: A Missing Dimension in Generalist-Robot Safety

• arxiv url: http://arxiv.org/abs/2607.07420v2
• Date: Wed, 15 Jul 2026 13:02:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-16 14:31:40.664068
• Title: Initiation Safety: A Missing Dimension in Generalist-Robot Safety
• Title（参考訳）: ジェネラリストロボットの安全性の欠如
• Abstract要約: 第3の疑問が欠落していると私たちは主張している。ロボットは、その最初の難解なソーシャルアクションを、まったく受け入れるべきだろうか? 現在のフレームワークでは,個別のセーフティレイヤとして扱うことは滅多にありません。 我々は、ジェネラリストロボットの安全性の中で開始認可をフレーム化し、計画後のVLAガードレールと対比する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Safety for generalist robots is usually discussed in terms of motion or dialogue. We argue a third question is missing: should the robot take its first hard-to-undo social action at all, such as a greeting, an uninvited grasp, or stepping into someone's space? We call this initiation authorization. Current frameworks rarely treat it as a separate safety layer. Today's stacks often skip this step: a high engagement score or a confident VLA rollout is treated as permission to act. But seeing a person is not the same as having their consent to be addressed. We frame initiation authorization within generalist-robot safety and contrast it with post-plan VLA guardrails, implementing PAS (probe-authorize-speak) on a doorway humanoid, comparing it with direct-init on logged traces, and proposing a three-condition user study, with open questions on metrics, governance, and where initiation ends and foundation-model generation begins.
• Abstract（参考訳）: ジェネラリストロボットの安全性は通常、動きや対話の観点から議論される。 ロボットは、挨拶、招待されない抱きしめ、あるいは誰かの空間に足を踏み入れるなど、初めて、やりにくいソーシャルアクションを全く受けるべきだろうか? 私たちはこれを開始認可と呼ぶ。 現在のフレームワークでは,個別のセーフティレイヤとして扱うことは滅多にありません。 今日のスタックは、高いエンゲージメントスコアや確実なVLAロールアウトを行動許可として扱うことで、このステップをスキップすることが多い。 しかし、相手を見ることは、相手の同意を得るのと同じではない。 我々はジェネラリストロボットの安全性の中で初期化許可を定め、それをポストプランVLAガードレールと対比し、戸口ヒューマノイドにPAS(probe-authorize-speak)を実装し、ログされたトレースの直接入出力と比較し、3条件のユーザスタディを提案し、メトリクス、ガバナンス、開始終了と基盤モデル生成の開始点についてオープンな質問をする。

関連論文リスト

• Propagating Unsafe Actions in LLM Controlled Multi-Robot Collaboration via Single Robot Compromise [26.689718481370903]
  大規模言語モデル (LLMs) は、インテリジェンスにおける一般的なプランナーとしてますます使われている。 対戦相手が単一のエントリーロボットのみと対話するマルチロボットシステムに対する新たな攻撃パラダイムを提案する。 私たちはこのプロセスを3つのメトリクス、服従、伝染、ステルスネスで定量化します。
  論文  参考訳（メタデータ） (2026-05-15T05:45:52Z)
• A Trajectory-Based Safety Audit of Clawdbot (OpenClaw) [77.1549110891026]
  6つのリスク次元にわたるClawdbotの軌道中心評価について述べる。 我々は、完全なインタラクショントラジェクトリ(メッセージ、アクション、ツールコール引数/アウトプット)をログし、自動化されたトラジェクトリ判断とヒューマンレビューの両方を使用して安全性を評価する。
  論文  参考訳（メタデータ） (2026-02-16T00:33:02Z)
• RoboSafe: Safeguarding Embodied Agents via Executable Safety Logic [56.38397499463889]
  視覚言語モデル(VLM)を利用するエージェントは、複雑な現実世界のタスクを実行する能力がますます高まっている。 しかし、安全でない行動を引き起こす可能性のある危険な指示に弱いままである。 提案するRoboSafeは,実行可能述語ベースの安全ロジックを通じて,エージェントを具体化するためのランタイムセーフガードである。
  論文  参考訳（メタデータ） (2025-12-24T15:01:26Z)
• Can AI Perceive Physical Danger and Intervene? [16.825608691806988]
  AIが物理的な世界と対話するとき、新しい安全上の課題が生まれる。 最先端のファンデーションモデルは、物理的な安全性に関する常識的な事実をどの程度理解していますか?
  論文  参考訳（メタデータ） (2025-09-25T22:09:17Z)
• ANNIE: Be Careful of Your Robots [48.89876809734855]
  エンボディドAIシステムに対する敵の安全攻撃に関する最初の体系的研究について述べる。 すべての安全カテゴリーで攻撃の成功率は50%を超えている。 結果は、実証済みのAIシステムにおいて、これまで未調査だったが、非常に連続的な攻撃面を露呈する。
  論文  参考訳（メタデータ） (2025-09-03T15:00:28Z)
• Oyster-I: Beyond Refusal -- Constructive Safety Alignment for Responsible Language Models [93.5740266114488]
  コンストラクティブ・セーフティ・アライメント(CSA)は、悪意のある誤用を防ぎつつ、脆弱性のあるユーザを安全で有益な結果へと積極的に誘導する。 Oy1は、高度な汎用能力を保ちながら、オープンモデル間の最先端の安全性を達成する。 私たちは、責任あるユーザ中心AIをサポートするために、Oy1、コード、ベンチマークをリリースしています。
  論文  参考訳（メタデータ） (2025-09-02T03:04:27Z)
• Adversarial Attacks on Robotic Vision Language Action Models [118.02118618146568]
  視覚言語行動モデル(VLA)に対する敵対的攻撃について検討する。 我々のアルゴリズムの主な貢献は、完全な制御権限を得るためのLLMジェイルブレイク攻撃の適応と応用である。 LLMのジェイルブレイク文学とは大きく異なるのは、現実世界の攻撃は害の概念と意味的に結びついている必要はないからである。
  論文  参考訳（メタデータ） (2025-06-03T19:43:58Z)
• Generating Robot Constitutions & Benchmarks for Semantic Safety [22.889717765617394]
  ロボット脳のセマンティック安全性を評価するためのASIMOVベンチマークをリリースする。 実世界のデータからロボットの構成を自動的に生成するフレームワークを開発した。 動作規則書にニュアンスを導入可能な,新しい自動改善プロセスを提案する。
  論文  参考訳（メタデータ） (2025-03-11T17:50:47Z)
• "Can you be my mum?": Manipulating Social Robots in the Large Language Models Era [3.4565684255652065]
  この研究は、日常的なユーザーが言語モデルを利用して倫理的原則に違反しようとする方法を理解することを目的としている。 実験では,ミスティロボットと対話する21人の大学生を対象に実験を行った。 その結果,情緒的言語を用いた侮辱や哀れみへの訴えなど,5つのテクニックを参加者が採用していることが判明した。
  論文  参考訳（メタデータ） (2025-01-08T17:29:19Z)
• Learning Vision-based Pursuit-Evasion Robot Policies [54.52536214251999]
  我々は、部分的に観察可能なロボットの監督を生成する完全観測可能なロボットポリシーを開発する。 我々は、RGB-Dカメラを搭載した4足歩行ロボットに、野生での追従回避のインタラクションにポリシーを展開させる。
  論文  参考訳（メタデータ） (2023-08-30T17:59:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。