論文の概要: Neuro-Symbolic Predicate Learning for Semantic Safe Robot Control

• arxiv url: http://arxiv.org/abs/2609.39594v1
• Date: Wed, 30 Sep 2026 12:18:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 18:57:27.686353
• Title: Neuro-Symbolic Predicate Learning for Semantic Safe Robot Control
• Title（参考訳）: セマンティックセーフロボット制御のためのニューロシンボリック述語学習
• Abstract要約: 「セマンティックセーフロボット制御のためのニューロシンボリック述語学習」を提案する。 NEUPROは、実践者がタスク関連の安全要件を透過的な象徴的ルールとして表現することを可能にする。 NEUPROは、タスク全体を一般化し、従来のブラックボックスコスト定式化の解釈可能性制限を緩和する安全クリティカルな特徴を学習する。
• 参考スコア（独自算出の注目度）: 48.31927123480438
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As robots are increasingly deployed in everyday environments, ensuring their safety has become a central challenge. Existing methods often encode safety requirements as opaque mathematical/logical formulations or dense cost functions. While effective in specific tasks, they remain difficult to interpret, tightly coupled to individual tasks, and offer limited insight into why a robot action is considered safe or unsafe. To address this limitation, we propose ``Neuro-Symbolic Predicate Learning for Semantic Safe Robot Control'' (NEUPRO), which leverages a differentiable reasoner that can learn reusable safety representations from human-specified safety knowledge. NEUPRO allows practitioners to express task-related safety requirements as transparent symbolic rules, while enabling gradients to propagate through these rules to a feature extractor that maps raw observations to safety-relevant concepts. As a result, the learned feature extractor is (softly) grounded in human-understandable semantics, supports transparent constraint evaluation, and is transferable across tasks. By coupling interpretability with differentiability, NEUPRO moves beyond opaque cost design toward reusable safety reasoning. To evaluate NEUPRO's capability, we collect and release REASON, the first real robot benchmark dataset for interpretable robot safety specification. Experiments on REASON show that NEUPRO learns safety-critical features that generalize across tasks, mitigate the interpretability limitations of conventional black-box cost formulations, and provide explicit explanations of safety violation.
• Abstract（参考訳）: ロボットが日常の環境にますます配置されるにつれて、安全性の確保が重要な課題となっている。 既存の方法は、しばしば安全要件を不透明な数学的/論理的定式化や高コスト関数としてエンコードする。 特定のタスクでは有効だが、個々のタスクと密接に結びついて解釈することは困難であり、なぜロボットのアクションが安全または安全でないと考えられるのかについて限定的な洞察を与える。 この制限に対処するために,人間仕様の安全知識から再利用可能な安全表現を学習可能な相違可能な推論器を活用する「ネウロ・シンボリック・プレディケート・ラーニング for Semantic Safe Robot Control」 (NEUPRO) を提案する。 NEUPROは、専門家が作業関連の安全要件を透明な象徴的規則として表現し、これらの規則を通じて勾配を伝播させることを可能にし、生の観察を安全関連概念にマッピングする特徴抽出器である。 その結果、学習した特徴抽出器は(ソフトに)人間の理解可能な意味論に基づいており、透過的な制約評価をサポートし、タスク間で伝達可能である。 NEUPROは、解釈可能性と微分可能性を結合することにより、不透明なコスト設計を超えて、再利用可能な安全推論へと移行する。 NEUPROの能力を評価するために,ロボットの安全仕様を解釈可能なものにするための,最初のリアルロボットベンチマークデータセットであるREASONを収集,リリースした。 REASONの実験では、NEUPROはタスクをまたいで一般化する安全クリティカルな特徴を学習し、従来のブラックボックスコスト定式化の解釈可能性制限を緩和し、安全性違反の明確な説明を提供する。

関連論文リスト

• Pre-Execution Safety Gate & Task Safety Contracts for LLM-Controlled Robot Systems [14.419994656981002]
  我々は、安全でない自然言語タスクコマンドがロボットの実行に到達するのを防ぐ、ニューロシンボリックな安全アーキテクチャであるSafeGateを紹介した。 さらに,ゲートを通過するコマンドを不変条件,ガード条件,中止条件に分解するタスクセーフティ契約を導入する。 その結果,SafeGateは,良性タスクの高い受け入れを維持しつつも,欠陥コマンドの受け入れを著しく減少させることがわかった。
  論文  参考訳（メタデータ） (2026-04-07T04:46:06Z)
• Contextual Safety Reasoning and Grounding for Open-World Robots [79.98924225712668]
  COREは、環境に関する事前の知識なしに、オンラインのコンテキスト推論、接地、執行を可能にする安全フレームワークである。 知覚の不確実性を考慮したCOREの確率論的安全性保証を提供する。 シミュレーションと実世界の実験を通じて、COREは目に見えない環境において、文脈的に適切な振る舞いを強制することを示した。
  論文  参考訳（メタデータ） (2026-02-23T15:51:23Z)
• RoboSafe: Safeguarding Embodied Agents via Executable Safety Logic [56.38397499463889]
  視覚言語モデル(VLM)を利用するエージェントは、複雑な現実世界のタスクを実行する能力がますます高まっている。 しかし、安全でない行動を引き起こす可能性のある危険な指示に弱いままである。 提案するRoboSafeは,実行可能述語ベースの安全ロジックを通じて,エージェントを具体化するためのランタイムセーフガードである。
  論文  参考訳（メタデータ） (2025-12-24T15:01:26Z)
• Can AI Perceive Physical Danger and Intervene? [16.825608691806988]
  AIが物理的な世界と対話するとき、新しい安全上の課題が生まれる。 最先端のファンデーションモデルは、物理的な安全性に関する常識的な事実をどの程度理解していますか?
  論文  参考訳（メタデータ） (2025-09-25T22:09:17Z)
• Safe-SAIL: Towards a Fine-grained Safety Landscape of Large Language Models via Sparse Autoencoder Interpretation Framework [31.278770676774325]
  大規模言語モデル(LLM)内でのSAE機能を解釈するフレームワークであるSafe-SAILを提案する。 提案手法は,SAEを最も優れた概念特異的解釈可能性で体系的に識別し,安全性関連ニューロンを説明し,解釈プロセスをスケールアップするための効率的な戦略を導入する。
  論文  参考訳（メタデータ） (2025-09-11T11:22:43Z)
• SCANS: Mitigating the Exaggerated Safety for LLMs via Safety-Conscious Activation Steering [56.92068213969036]
  悪意のある命令から脅威を守るために、LLM(Large Language Models)には安全アライメントが不可欠である。 近年の研究では、過大な安全性の問題により、安全性に配慮したLCMは、良質な問い合わせを拒否する傾向にあることが明らかになっている。 過大な安全性の懸念を和らげるために,SCANS法を提案する。
  論文  参考訳（メタデータ） (2024-08-21T10:01:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。