論文の概要: Runtime Enforcement for Operationalizing Ethics in Autonomous Systems
- arxiv url: http://arxiv.org/abs/2604.03714v1
- Date: Sat, 04 Apr 2026 12:41:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-07 15:49:18.734805
- Title: Runtime Enforcement for Operationalizing Ethics in Autonomous Systems
- Title（参考訳）: 自律システムにおける倫理運用のための実行時執行
- Authors: Martina De Sanctis, Gianluca Filippone, Paola Inverardi, Raffaela Mirandola, Sara Pettinari, Patrizia Scandurra,
- Abstract要約: まず、システムの倫理的空間を概念化し、構造化された倫理的保証プロセスの概要を示す。
倫理規則、特に社会的、法的、倫理的、共感的、文化的(SLEEC)要件を運用する執行サブシステムを導入している。
執行サブシステムは、システムの倫理的振る舞いを監視し制御するためのMAPE-K制御ループアーキテクチャ上に構築されている。
- 参考スコア（独自算出の注目度）: 4.273088326805547
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper addresses the challenge of operationalizing ethics in autonomous systems through runtime enforcement. It first conceptualizes the system's ethical space and outlines a structured ethics assurance process. Building on this foundation, it introduces an enforcement subsystem that operationalizes ethical rules, specifically social, legal, ethical, empathetic, and cultural (SLEEC) requirements, through the Abstract State Machine (ASM) formalism. The enforcement subsystem is built on the MAPE-K control-loop architecture for monitoring and controlling the system's ethical behavior, and it relies on an ASM-based runtime model of the ethical rules to enforce. This enables the dynamic evaluation, adaptation, and enforcement of ethical behavior within a runtime formal model. The overall approach, named SLEEC@run.time, is demonstrated on an assistive robot scenario, showcasing how both the robot's behavior and the governing ethical rules can dynamically adapt to contextual changes. By leveraging a flexible runtime model, SLEEC@run.time accommodates changes such as the addition or removal of SLEEC rules, ensuring a robust and evolvable approach to ethical assurance in autonomous systems. The evaluation of SLEEC@run.time shows that it effectively ensures the system's adherence to ethical principles with negligible execution time overhead.
- Abstract（参考訳）: 本稿では,実行時執行による自律システムにおける倫理運用の課題について論じる。
まず、システムの倫理的空間を概念化し、構造化された倫理的保証プロセスの概要を示す。
この基盤に基づいて、特に社会的、法的、倫理的、共感的、文化的(SLEEC)要件を、抽象国家機械(ASM)フォーマリズムを通じて運用する執行サブシステムを導入する。
執行サブシステムは、システムの倫理的行動を監視し制御するためのMAPE-K制御ループアーキテクチャに基づいて構築されており、強制する倫理的ルールのASMベースの実行モデルに依存している。
これにより、実行時形式モデル内での倫理的行動の動的評価、適応、実施が可能になる。
SLEEC@run.timeという名前の全体的なアプローチは、ロボットの振る舞いと統治的倫理的ルールの両方が文脈の変化に動的に適応できるかを示す、補助ロボットのシナリオで実証されている。
柔軟なランタイムモデルを活用することで、SLEEC@run.timeは、SLEECルールの追加や削除などの変更に対応し、自律システムにおける倫理的保証に対する堅牢で進化可能なアプローチを保証する。
SLEEC@run.timeの評価は、システムが無視可能な実行時間オーバーヘッドを持つ倫理的原則に効果的に準拠することを示している。
関連論文リスト
- Mirror: A Multi-Agent System for AI-Assisted Ethics Review [104.3684024153469]
MirrorはAIによる倫理的レビューのためのエージェントフレームワークである。
倫理的推論、構造化された規則解釈、統合されたアーキテクチャ内でのマルチエージェントの議論を統合する。
論文 参考訳（メタデータ） (2026-02-09T03:38:55Z) - Executable Ontologies in Game Development: From Algorithmic Control to Semantic World Modeling [51.56484100374058]
我々は,実行可能オントロジー(EO)が,アルゴリズム行動プログラミングからセマンティックワールドモデリングへ移行したことを論じる。
本稿では,EOが明示的なプリエンプションロジックではなく,データフロー条件によるタスク割り込みを優先的に行う方法を示す。
論文 参考訳（メタデータ） (2026-01-12T19:57:35Z) - Behavior Trees vs Executable Ontologies: a Comparative Analysis of Robot Control Paradigms [51.56484100374058]
ロボット行動のモデリングには,インペラティブ・ビヘイビア・ツリー(BT)と宣言的実行可能オントロジー(EO)の2つのアプローチを比較した。
一方、EOはデータフロールールによって駆動される時間的イベントベースのセマンティックグラフとしてドメインを表現している。
論文 参考訳（メタデータ） (2025-11-19T09:38:01Z) - Governable AI: Provable Safety Under Extreme Threat Models [31.36879992618843]
我々は、従来の内部制約から外部に強制された構造コンプライアンスに移行するGAI(Governable AI)フレームワークを提案する。
GAIフレームワークは、シンプルで信頼性が高く、完全に決定論的で、強力で、柔軟性があり、汎用的なルール執行モジュール(REM)、ガバナンスルール、AIによる妥協やサブバージョンに対するエンドツーエンドの保護を提供する、統制可能なセキュアなスーパープラットフォーム(GSSP)で構成されている。
論文 参考訳（メタデータ） (2025-08-28T04:22:59Z) - Runtime Advocates: A Persona-Driven Framework for Requirements@Runtime Decision Support [41.03292974500013]
緊急対応のために派遣される小型無人航空システム(sUAS)群のような複雑なシステムは、実行時に動的再構成を必要とすることが多い。
これは、進化するニーズが進行中のシステム機能と振る舞いを形作る、ヒューマン・オン・ザ・ループの要件を導入する。
本稿では,倫理的に認知され,安全を重視し,規制に配慮した意思決定支援を実現するための,ランタイム要件エンジニアリングのためのペルソナベースのアドボケートフレームワークを提案する。
論文 参考訳（メタデータ） (2025-05-07T16:31:38Z) - Deontic Temporal Logic for Formal Verification of AI Ethics [4.028503203417233]
本稿では,AIシステムの倫理的行動を定義し評価するために,デオン論理に基づく形式化を提案する。
公理と定理を導入し、公正性と説明可能性に関する倫理的要件を捉えている。
筆者らは,実世界のCompASとローン予測AIシステムの倫理性を評価することにより,この形式化の有効性を評価する。
論文 参考訳（メタデータ） (2025-01-10T07:48:40Z) - Social, Legal, Ethical, Empathetic, and Cultural Rules: Compilation and Reasoning (Extended Version) [8.425874385897831]
SLEEC(社会的、法的、倫理的、共感的、文化的)ルールは、AIベースの自律システムが従うべき規則の定式化、検証、実施を促進することを目的としている。
AIシステムで効果的な使用を可能にするためには、これらのルールを自動推論をサポートする形式言語に体系的に翻訳する必要がある。
本研究ではまず,SLEEC規則の古典論理への翻訳を正当化するSLEEC規則パターンの言語学的解析を行う。
論文 参考訳（メタデータ） (2023-12-15T11:23:49Z) - EALM: Introducing Multidimensional Ethical Alignment in Conversational
Information Retrieval [43.72331337131317]
我々は、倫理的アライメントを、効率的なデータスクリーニングのための初期倫理的判断段階と統合するワークフローを導入する。
本稿では,ETHICSベンチマークから適応したQA-ETHICSデータセットについて述べる。
さらに,二項および多ラベルの倫理的判断タスクにおいて,最高の性能を実現する新しい手法を提案する。
論文 参考訳（メタデータ） (2023-10-02T08:22:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。