論文の概要: RobEthiChor: Automated Context-aware Ethics-based Negotiation for Autonomous Robots

• arxiv url: http://arxiv.org/abs/2507.22664v1
• Date: Wed, 30 Jul 2025 13:21:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-07-31 16:14:18.22132
• Title: RobEthiChor: Automated Context-aware Ethics-based Negotiation for Autonomous Robots
• Title（参考訳）: RobEthiChor:自律ロボットのための文脈認識倫理に基づくネゴシエーション
• Authors: Mashal Afzal Memon, Gianluca Filippone, Gian Luca Scoccia, Marco Autili, Paola Inverardi,
• Abstract要約: RobEthiChorは、自律的なシステムがユーザーの倫理的嗜好と文脈的要因を意思決定に組み込むことを可能にするアプローチである。 RobEthiChorは、倫理ベースの交渉が可能な自律的なシステムを設計するためのドメインに依存しない参照アーキテクチャを備えている。 RobEthiChor-Rosはロボットに展開して倫理ベースの交渉機能を提供する。
• 参考スコア（独自算出の注目度）: 2.8940641557757485
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: The presence of autonomous systems is growing at a fast pace and it is impacting many aspects of our lives. Designed to learn and act independently, these systems operate and perform decision-making without human intervention. However, they lack the ability to incorporate users' ethical preferences, which are unique for each individual in society and are required to personalize the decision-making processes. This reduces user trust and prevents autonomous systems from behaving according to the moral beliefs of their end-users. When multiple systems interact with differing ethical preferences, they must negotiate to reach an agreement that satisfies the ethical beliefs of all the parties involved and adjust their behavior consequently. To address this challenge, this paper proposes RobEthiChor, an approach that enables autonomous systems to incorporate user ethical preferences and contextual factors into their decision-making through ethics-based negotiation. RobEthiChor features a domain-agnostic reference architecture for designing autonomous systems capable of ethic-based negotiating. The paper also presents RobEthiChor-Ros, an implementation of RobEthiChor within the Robot Operating System (ROS), which can be deployed on robots to provide them with ethics-based negotiation capabilities. To evaluate our approach, we deployed RobEthiChor-Ros on real robots and ran scenarios where a pair of robots negotiate upon resource contention. Experimental results demonstrate the feasibility and effectiveness of the system in realizing ethics-based negotiation. RobEthiChor allowed robots to reach an agreement in more than 73\% of the scenarios with an acceptable negotiation time (0.67s on average). Experiments also demonstrate that the negotiation approach implemented in RobEthiChor is scalable.
• Abstract（参考訳）: 自律システムの存在は急速に成長しており、私たちの生活の多くの側面に影響を与えています。 独立して学習し、行動するために設計されたこれらのシステムは、人間の介入なしに意思決定を行い、実行します。 しかし、社会の個々の個人に特有の倫理的嗜好を取り入れ、意思決定プロセスのパーソナライズを要求される能力は欠如している。 これにより、ユーザの信頼を減らし、エンドユーザの道徳的信念に従って自律的なシステムが振舞うのを防ぐ。 複数のシステムが異なる倫理的嗜好と相互作用する場合、関係するすべての当事者の倫理的信念を満たす合意に達するために交渉し、結果として行動を調整する必要がある。 この課題に対処するために,自律システムにおいて倫理に基づく交渉を通じて,ユーザの倫理的嗜好や文脈的要因を意思決定に組み込むことが可能なアプローチであるRobEthiChorを提案する。 RobEthiChorは、倫理ベースの交渉が可能な自律的なシステムを設計するためのドメインに依存しない参照アーキテクチャを備えている。 また,ロボットオペレーティングシステム(ROS)におけるRobEthiChor-Rosの実装について述べる。 提案手法を評価するため,実際のロボットにRobEthiChor-Rosを配置し,ロボット同士がリソースの競合について交渉するシナリオを実行した。 倫理に基づく交渉の実現におけるシステムの有効性と有効性を示す実験結果が得られた。 RobEthiChorは、許容可能な交渉時間(平均0.67秒)で73%以上のシナリオでロボットが合意に達することを許可した。 実験では、RobEthiChorで実装されたネゴシエーションアプローチがスケーラブルであることも示している。

関連論文リスト

• Resource Rational Contractualism Should Guide AI Alignment [69.07915246220985]
  契約主義的アライメントは、多様な利害関係者が支持する合意の中で決定を下すことを提案する。 我々は、AIシステムが合理的な当事者が形成する合意を近似する枠組みであるリソース・リアリズムを提案する。 RRC対応エージェントは、効率的に機能するだけでなく、変化する人間の社会世界への適応と解釈を動的に行うことができる。
  論文  参考訳（メタデータ） (2025-06-20T18:57:13Z)
• Artificial Intelligence (AI) and the Relationship between Agency, Autonomy, and Moral Patiency [0.0]
  私たちは、現在のAIシステムは高度に洗練されていますが、真のエージェンシーと自律性は欠如しています。 我々は、意識のない限られた形態の人工道徳機関を達成できる未来のシステムの可能性を排除することはできない。
  論文  参考訳（メタデータ） (2025-04-11T03:48:40Z)
• AI Automatons: AI Systems Intended to Imitate Humans [54.19152688545896]
  人々の行動、仕事、能力、類似性、または人間性を模倣するように設計されたAIシステムが増加している。 このようなAIシステムの研究、設計、展開、可用性は、幅広い法的、倫理的、その他の社会的影響に対する懸念を喚起している。
  論文  参考訳（メタデータ） (2025-03-04T03:55:38Z)
• Human Decision-making is Susceptible to AI-driven Manipulation [87.24007555151452]
  AIシステムは、ユーザの認知バイアスと感情的な脆弱性を利用して、有害な結果に向けてそれらを操縦する。 本研究では、経済的・感情的な意思決定の文脈におけるこのような操作に対する人間の感受性について検討した。
  論文  参考訳（メタデータ） (2025-02-11T15:56:22Z)
• Delegating Responsibilities to Intelligent Autonomous Systems: Challenges and Benefits [1.7205106391379026]
  AIシステムは自律性と適応性で機能するので、技術的社会システムにおける伝統的な道徳的責任の境界が課題となっている。 本稿では,知的自律エージェントへの責任委譲に関する議論の進展と,そのような実践の倫理的意味について考察する。
  論文  参考訳（メタデータ） (2024-11-06T18:40:38Z)
• Beneficent Intelligence: A Capability Approach to Modeling Benefit, Assistance, and Associated Moral Failures through AI Systems [12.239090962956043]
  AI倫理に関する一般的な言説は、AIシステムが個人と対話する際に生じる多様な倫理的懸念を捉えるのに必要な言語や形式主義を欠いている。 本稿では、利害関係者に有意義な利益や援助を与えるために、AIシステムに必要な倫理的概念と権利のネットワークを定式化する枠組みを提案する。
  論文  参考訳（メタデータ） (2023-08-01T22:38:14Z)
• Proceeding of the 1st Workshop on Social Robots Personalisation At the crossroads between engineering and humanities (CONCATENATE) [37.838596863193565]
  本ワークショップは,ロボット工学におけるパーソナライゼーションに関する学際的な議論を提起することを目的としている。 異なる分野の研究者を集結させ、パーソナライズのためのガイドラインを提案することを目的としている。
  論文  参考訳（メタデータ） (2023-07-10T11:11:24Z)
• The Road to a Successful HRI: AI, Trust and ethicS-TRAITS [64.77385130665128]
  このワークショップの目的は、人間とロボットの効果的で長期にわたるコラボレーションに向けた過去および現在進行中の研究についての洞察の交換を促進することである。 特に、自律的およびプロアクティブなインタラクションを実装するために必要なAI技術に焦点を当てています。
  論文  参考訳（メタデータ） (2022-06-07T11:12:45Z)
• Future Intelligent Autonomous Robots, Ethical by Design. Learning from Autonomous Cars Ethics [19.911701966878947]
  インテリジェントな自律ロボットの倫理学の分野は、実用的な実用価値を持つ研究の好例である。 インテリジェントな自律ロボットの開発へのアプローチの出発点として使用できる。 自律的なインテリジェントなロボカーの倫理に関する私たちの研究や、ロボット工学の倫理に関する既存の文献から、私たちの貢献は、一連の価値と倫理原則で構成されています。
  論文  参考訳（メタデータ） (2021-07-16T21:10:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。