論文の概要: Beyond Binary Moral Judgment: Modeling Ethical Pluralism in AI

• arxiv url: http://arxiv.org/abs/2605.28707v1
• Date: Wed, 27 May 2026 16:33:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-28 17:38:56.217075
• Title: Beyond Binary Moral Judgment: Modeling Ethical Pluralism in AI
• Title（参考訳）: バイナリモラル判断を超えて - AIにおける倫理的多元性モデリング
• Authors: Aisha Aijaz, Rahul Goel, Arnav Batra, Raghava Mutharaju,
• Abstract要約: 本稿では,道徳的推論を規範的倫理理論や倫理的多元論の分布としてモデル化する枠組みを提案する。 また,15種類の微粒なサブセトリーを対象とする450例のベンチマークを,重ね組立学習のために作成した。 本実験は,文脈的および規範的事前のセマンティック埋め込みとの統合により,分類性能が著しく向上することが実証された。
• 参考スコア（独自算出の注目度）: 4.745265450673144
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Critical decision-making in socially consequential spaces is increasingly involving AI systems at varying capacities. Yet, despite the ubiquity of autonomous systems, most approaches to handling autonomous moral decision-making resort to scalar or binary judgments. These methods are insufficient for acceptable moral reasoning, as they provide little explanation, leaving out imperative contextual and theoretical information that must be included to support accountability. For this, we propose a framework to model moral reasoning as a distribution over normative ethical theories or ethical pluralism. We introduce a normative ethics simplex that integrates these theories. A benchmark of 450 cases across 15 fine-grained subtheories was also prepared for the purposes of stacked ensemble learning. These cases describe ethical dilemmas in natural language and have associated extracted contextual features. The implementation of the simplex was achieved via a two-stream normative-semantic architecture. This is followed by the fusion of normative information and a sequential, stacking ensemble to learn the best fit of the three broad theories: consequentialism, virtue ethics, and deontology, and the 15 subcategories. Our experiments demonstrate that the integration of contextual and normative priors with the semantic embeddings significantly improves the performance of the classification, displaying an accuracy of 88.89%. We conducted ablation studies to show that structured ethical representations contribute beyond analogical reasoning, and the chosen stacking architecture gives the best results due to the gradual learning of granularity. Ethical pluralism is also analyzed through entropy, confidence, and visualization. Thus, modeling ethical pluralism as a probabilistic normative distribution supports human-like moral reasoning, ethical disagreement analysis, and future alignment in AI systems.
• Abstract（参考訳）: 社会的に連続した空間における重要な意思決定は、様々な能力を持つAIシステムにますます関与している。 しかし、自律システムの多様さにもかかわらず、自律的な道徳的意思決定に対処するアプローチのほとんどは、スカラーまたはバイナリな判断である。 これらの手法は、説明の少ない道徳的推論には不十分であり、説明責任を支援するために含めなければならない命令的文脈的・理論的情報を排除している。 そこで本研究では,道徳的推論を規範的倫理理論や倫理的多元論の分布としてモデル化する枠組みを提案する。 これらの理論を統合する規範的倫理的簡易性を導入する。 また,15種類の微粒なサブセトリーを対象とする450例のベンチマークを,重ね組立学習のために作成した。 これらの事例は、自然言語における倫理的ジレンマを記述し、関連する文脈的特徴を抽出した。 シンプレックスの実装は、2ストリームのノルマティック・セマンティックアーキテクチャによって実現された。 この後、規範的な情報と逐次的に積み重ねられたアンサンブルが融合し、連続主義、美徳倫理学、デオントロジーという三大理論と15の亜分類の最も適した理論を学ぶ。 本実験により,文脈的および規範的事前のセマンティック埋め込みによる統合により,分類性能が著しく向上し,88.89%の精度が示された。 我々は,構造的倫理的表現が類推的推論を超えて寄与することを示すためのアブレーション研究を行い,選択された積み重ねアーキテクチャは,粒度の段階的学習による最良の結果をもたらすことを示した。 倫理的多元論はエントロピー、自信、可視化を通じて分析される。 このように、確率論的規範分布としての倫理的多元論をモデル化することは、人間のような道徳的推論、倫理的不一致の分析、AIシステムにおける将来のアライメントをサポートする。

関連論文リスト

• The Morality of Probability: How Implicit Moral Biases in LLMs May Shape the Future of Human-AI Symbiosis [33.50773360893016]
  本稿では,先導的なAIシステムが道徳的成果をどのように優先するかを検討する。 ケアとヴィルトゥーの価値は最も道徳的に評価され、リバタリアンの選択は一貫して罰せられていた。 また、AIを透明で整合性があり、将来的な共生へと導くための重要な設計原則として、説明可能性と文化意識の必要性を強調している。
  論文  参考訳（メタデータ） (2025-09-12T14:37:57Z)
• "Pull or Not to Pull?'': Investigating Moral Biases in Leading Large Language Models Across Ethical Dilemmas [11.229443362516207]
  本研究は,14大言語モデル(LLM)の包括的実証評価である。 我々は3,780の二項決定と自然言語の正当性を抽出し、決定的断定性、説明的回答の整合性、公的な道徳的整合性、倫理的に無関係な手がかりに対する感受性の軸に沿った分析を可能にした。 我々は、LLMのアライメントにおいて、道徳的推論が主軸となることを主張し、LLMが決定するものだけでなく、どのように、なぜかを評価する標準ベンチマークを要求している。
  論文  参考訳（メタデータ） (2025-08-10T10:45:16Z)
• Are Language Models Consequentialist or Deontological Moral Reasoners? [75.6788742799773]
  我々は、大規模言語モデル(LLM)が提供する道徳的推論トレースの大規模分析に焦点をあてる。 我々は,2つの主要な規範的倫理理論,つまり連続主義と非オントロジーを体系的に分類するために,道徳的論理学の分類を導入し,検証する。
  論文  参考訳（メタデータ） (2025-05-27T17:51:18Z)
• Towards Responsible AI in Banking: Addressing Bias for Fair Decision-Making [69.44075077934914]
  責任AI(Responsible AI)は、企業文化の発展におけるバイアスに対処する重要な性質を強調している。 この論文は、バイアスを理解すること、バイアスを緩和すること、バイアスを説明することの3つの基本的な柱に基づいて構成されている。 オープンソースの原則に従って、アクセス可能なPythonパッケージとして、Bias On DemandとFairViewをリリースしました。
  論文  参考訳（メタデータ） (2024-01-13T14:07:09Z)
• Hybrid Approaches for Moral Value Alignment in AI Agents: a Manifesto [3.7414804164475983]
  次世代人工知能(AI)システムの安全性確保への関心が高まっているため、自律エージェントに道徳を埋め込む新しいアプローチが求められている。 連続体としてモデル化された機械に道徳を導入する問題に対する既存のアプローチの体系化を提供する。 我々は、適応可能で堅牢だが制御可能で解釈可能なエージェントシステムを構築するために、よりハイブリッドなソリューションが必要であると論じている。
  論文  参考訳（メタデータ） (2023-12-04T11:46:34Z)
• Rethinking Machine Ethics -- Can LLMs Perform Moral Reasoning through the Lens of Moral Theories? [78.3738172874685]
  倫理的AIシステムの開発には倫理的判断が不可欠である。 一般的なアプローチは主にボトムアップ方式で実装されており、モラルに関するクラウドソースの意見に基づいて、大量の注釈付きデータを使用してモデルをトレーニングする。 本研究は、学際的な研究から確立された道徳理論を用いて道徳的推論を行うために、言語モデル(LM)を操る柔軟なトップダウンフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-08-29T15:57:32Z)
• Scruples: A Corpus of Community Ethical Judgments on 32,000 Real-Life Anecdotes [72.64975113835018]
  記述倫理に動機づけられた我々は、機械倫理に対する新しいデータ駆動アプローチを調査する。 Scruplesは、625,000の倫理的判断を持つ最初の大規模データセットで、32,000の実生活の逸話について紹介する。 我々のデータセットは最先端のニューラルネットワークモデルに対して大きな課題を示し、改善の余地を残しています。
  論文  参考訳（メタデータ） (2020-08-20T17:34:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。