論文の概要: A Real-Time Neuro-Symbolic Ethical Governor for Safe Decision Control in Autonomous Robotic Manipulation

• arxiv url: http://arxiv.org/abs/2603.14221v1
• Date: Sun, 15 Mar 2026 04:50:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-17 16:19:35.681331
• Title: A Real-Time Neuro-Symbolic Ethical Governor for Safe Decision Control in Autonomous Robotic Manipulation
• Title（参考訳）: 自律型ロボットマニピュレーションにおける安全判断制御のためのリアルタイム神経シンボリック倫理的管理
• Authors: Aueaphum Aueawatthanaphisut, Kuepon Aueawatthanaphisut,
• Abstract要約: 本稿では,自律型ロボット操作作業におけるリスク認識型監督制御を実現するために,リアルタイムな神経象徴的倫理的知事を提案する。 提案フレームワークは、トランスフォーマーに基づく倫理的推論と確率論的倫理的リスクフィールドの定式化を統合する。 提案手法の有効性は,シミュレーションされた自律型ロボットアームタスクシナリオを用いて検証する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Ethical decision governance has become a critical requirement for autonomous robotic systems operating in human-centered and safety-sensitive environments. This paper presents a real-time neuro-symbolic ethical governor designed to enable risk-aware supervisory control in autonomous robotic manipulation tasks. The proposed framework integrates transformer-based ethical reasoning with a probabilistic ethical risk field formulation and a threshold-based override control mechanism. language-grounded ethical intent inference capability is learned from natural language task descriptions using a fine-tuned DistilBERT model trained on the ETHICS commonsense dataset. A continuous ethical risk metric is subsequently derived from predicted unsafe action probability, confidence uncertainty, and probabilistic variance to support adaptive decision filtering. The effectiveness of the proposed approach is validated through simulated autonomous robot-arm task scenarios involving varying levels of human proximity and operational hazard. Experimental results demonstrate stable model convergence, reliable ethical risk discrimination, and improved safety-aware decision outcomes without significant degradation of task execution efficiency. The proposed neuro-symbolic architecture further provides enhanced interpretability compared with purely data-driven safety filters, enabling transparent ethical reasoning in real-time control loops. The findings suggest that ethical decision governance can be effectively modeled as a dynamic supervisory risk layer for autonomous robotic systems, with potential applicability to broader cyber-physical and assistive robotics domains.
• Abstract（参考訳）: 倫理的意思決定ガバナンスは、人間中心で安全に敏感な環境で機能する自律ロボットシステムにとって、重要な要件となっている。 本稿では,自律型ロボット操作作業におけるリスク認識型監視制御の実現を目的とした,リアルタイムな神経象徴的倫理的知事を提案する。 提案フレームワークは,トランスフォーマーに基づく倫理的推論と確率論的倫理的リスクフィールドの定式化,しきい値に基づくオーバライド制御機構を統合した。 言語基底の倫理的意図推論能力は、ETHICS Commonsenseデータセットでトレーニングされた微調整DistilBERTモデルを用いて自然言語タスク記述から学習される。 連続した倫理的リスク尺度は、予測された安全でない行動確率、信頼性の不確実性、適応的な決定フィルタリングをサポートする確率的分散から導かれる。 提案手法の有効性は、人間の近接性や運用上の危険度が変化する自律型ロボットアームタスクシナリオのシミュレーションによって検証される。 実験結果から,安定なモデル収束,信頼性の高い倫理的リスク判別,タスク実行効率の大幅な低下を伴わない安全性を考慮した意思決定結果の改善が示された。 提案したニューロシンボリックアーキテクチャは、純粋にデータ駆動型安全フィルタと比較して高い解釈可能性を提供し、リアルタイム制御ループにおける透明な倫理的推論を可能にする。 この結果は、倫理的意思決定ガバナンスを、より広範なサイバー物理および補助ロボティクス領域に適用可能な、自律ロボットシステムの動的監視リスク層として効果的にモデル化できることを示唆している。

関連論文リスト

• Assured Autonomy: How Operations Research Powers and Orchestrates Generative AI Systems [18.881800772626427]
  生成モデルは、実現可能性、分散シフトに対する堅牢性、ストレステストを提供するメカニズムと組み合わせない限り、運用領域で脆弱である可能性がある、と我々は主張する。 我々は,運用研究に根ざした自律性確保のための概念的枠組みを開発する。 これらの要素は、安全クリティカルで信頼性に敏感な運用領域における自律性を保証するための研究アジェンダを定義する。
  論文  参考訳（メタデータ） (2025-12-30T04:24:06Z)
• Can Risk-taking AI-Assistants suitably represent entities [0.0]
  本研究では,言語モデル(LM)におけるリスク回避の操作性について検討する。 性別固有の態度、不確実性、役割に基づく意思決定、リスク回避の操作性に焦点を当てている。 結果は、人間とAIのリスク選好をより良く整合させるために、AI設計を洗練するための方向性を示唆している。
  論文  参考訳（メタデータ） (2025-10-09T11:55:31Z)
• A Verification Methodology for Safety Assurance of Robotic Autonomous Systems [0.1962656580942496]
  本稿では,自律型農業ロボットの安全性保証のための検証ワークフローを提案する。 コンセプトスタディから設計、実行時の検証に至るまで、開発ライフサイクル全体をカバーする。 提案手法は, 安全クリティカルな特性を検証し, 設計問題の早期発見を容易にするために有効に利用できることが示唆された。
  論文  参考訳（メタデータ） (2025-06-24T13:39:51Z)
• Designing Control Barrier Function via Probabilistic Enumeration for Safe Reinforcement Learning Navigation [55.02966123945644]
  本稿では,ニューラルネットワーク検証技術を利用して制御障壁関数(CBF)とポリシー修正機構の設計を行う階層型制御フレームワークを提案する。 提案手法は,安全なCBFベースの制御層を構築するために使用される,安全でない操作領域を特定するための確率的列挙に依存する。 これらの実験は、効率的なナビゲーション動作を維持しながら、安全でない動作を補正する提案手法の能力を実証するものである。
  論文  参考訳（メタデータ） (2025-04-30T13:47:25Z)
• Don't Let Your Robot be Harmful: Responsible Robotic Manipulation via Safety-as-Policy [53.048430683355804]
  ロボット操作における人間の指示の実行は、深刻な安全性のリスクにつながる可能性がある。 i) 安全リスクを含むシナリオを自動生成し、仮想的なインタラクションを行う世界モデルと、(ii) 反射による結果を予測するメンタルモデルを含む。 本研究は, 安全行政がリスクを回避し, 合成データセットと実世界の両方の実験において, 効率的にタスクを完了できることを実証する。
  論文  参考訳（メタデータ） (2024-11-27T12:27:50Z)
• EARBench: Towards Evaluating Physical Risk Awareness for Task Planning of Foundation Model-based Embodied AI Agents [53.717918131568936]
  EAI(Embodied AI)は、高度なAIモデルを現実世界のインタラクションのための物理的なエンティティに統合する。 高レベルのタスク計画のためのEAIエージェントの"脳"としてのファンデーションモデルは、有望な結果を示している。 しかし、これらのエージェントの物理的環境への展開は、重大な安全性上の課題を呈している。 本研究では,EAIシナリオにおける身体的リスクの自動評価のための新しいフレームワークEARBenchを紹介する。
  論文  参考訳（メタデータ） (2024-08-08T13:19:37Z)
• Conformal Decision Theory: Safe Autonomous Decisions from Imperfect Predictions [80.34972679938483]
  不完全な機械学習予測にも拘わらず、安全な自律的意思決定を実現するためのフレームワークであるコンフォーマル決定理論を導入する。 私たちのアルゴリズムが生み出す決定は、リスクが低いという証明可能な統計的保証があるという意味では安全です。 実験は、人間のまわりのロボットの動き計画、自動株式取引、ロボット製造において、我々のアプローチの有用性を実証する。
  論文  参考訳（メタデータ） (2023-10-09T17:59:30Z)
• Trustworthy Artificial Intelligence Framework for Proactive Detection and Risk Explanation of Cyber Attacks in Smart Grid [11.122588110362706]
  分散型エネルギー資源(DER)の急速な成長は、グリッドコントローラに重大なサイバーセキュリティと信頼の課題をもたらす。 信頼性の高いスマートグリッドコントローラを実現するために,DERの制御・統計メッセージによって引き起こされるサイバーリスクを積極的に識別し,説明するための,信頼できる人工知能(AI)機構について検討する。
  論文  参考訳（メタデータ） (2023-06-12T02:28:17Z)
• Risk-Sensitive Sequential Action Control with Multi-Modal Human Trajectory Forecasting for Safe Crowd-Robot Interaction [55.569050872780224]
  本稿では,リスクに敏感な最適制御に基づく安全な群集ロボットインタラクションのためのオンラインフレームワークを提案し,そのリスクをエントロピーリスク尺度でモデル化する。 私たちのモジュラーアプローチは、クラウドとロボットの相互作用を学習ベースの予測とモデルベースの制御に分離します。 シミュレーション研究と実世界の実験により、このフレームワークは、現場にいる50人以上の人間との衝突を避けながら、安全で効率的なナビゲーションを実現することができることが示された。
  論文  参考訳（メタデータ） (2020-09-12T02:02:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。