論文の概要: On the Computational Complexity of Ethics: Moral Tractability for Minds and Machines

• arxiv url: http://arxiv.org/abs/2302.04218v1
• Date: Wed, 8 Feb 2023 17:39:58 GMT
• ステータス: 処理完了
• システム内更新日: 2023-02-09 15:15:19.127502
• Title: On the Computational Complexity of Ethics: Moral Tractability for Minds and Machines
• Title（参考訳）: 倫理の計算複雑性について:心と機械に対する道徳的トラクタビリティ
• Authors: Jakob Stenseke
• Abstract要約: 倫理領域の問題を解決するために人工知能(AI)が使えるかどうかについての議論は、主に人間の能力の観点からAIができることとできないことによって進められてきた。 本稿では,計算システムにできることやできないことに基づいて,どのようなモラルマシンが可能であるかを検討する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Why should moral philosophers, moral psychologists, and machine ethicists care about computational complexity? Debates on whether artificial intelligence (AI) can or should be used to solve problems in ethical domains have mainly been driven by what AI can or cannot do in terms of human capacities. In this paper, we tackle the problem from the other end by exploring what kind of moral machines are possible based on what computational systems can or cannot do. To do so, we analyze normative ethics through the lens of computational complexity. First, we introduce computational complexity for the uninitiated reader and discuss how the complexity of ethical problems can be framed within Marr's three levels of analysis. We then study a range of ethical problems based on consequentialism, deontology, and virtue ethics, with the aim of elucidating the complexity associated with the problems themselves (e.g., due to combinatorics, uncertainty, strategic dynamics), the computational methods employed (e.g., probability, logic, learning), and the available resources (e.g., time, knowledge, learning). The results indicate that most problems the normative frameworks pose lead to tractability issues in every category analyzed. Our investigation also provides several insights about the computational nature of normative ethics, including the differences between rule- and outcome-based moral strategies, and the implementation-variance with regard to moral resources. We then discuss the consequences complexity results have for the prospect of moral machines in virtue of the trade-off between optimality and efficiency. Finally, we elucidate how computational complexity can be used to inform both philosophical and cognitive-psychological research on human morality by advancing the Moral Tractability Thesis (MTT).
• Abstract（参考訳）: なぜ道徳哲学者、道徳心理学者、機械倫理学者は計算複雑性を気にすべきなのか? 倫理領域の問題を解決するために人工知能(AI)が使えるかどうかについての議論は、主に人間の能力の観点からAIができることとできないことによって進められてきた。 本稿では,計算システムでできることやできないことに基づいて,どのようなモラルマシンが可能かを検討することで,他方からこの問題に取り組む。 そのため、計算複雑性のレンズを通して規範的倫理を分析する。 まず,非開始読者に計算複雑性を導入し,marrの3つの分析レベルにおいて倫理的問題の複雑さがどのようにフレーム化されるかについて議論する。 次に,問題そのものに関連する複雑性(組合せ論,不確実性,戦略的ダイナミクスなど),採用される計算方法(確率,論理学,学習など),利用可能な資源(時間,知識,学習など)を明らかにすることを目的として,帰属主義,デオントロジー,美徳倫理に基づく倫理的問題の研究を行った。 その結果、規範的なフレームワークがもたらすほとんどの問題は、分析されたすべてのカテゴリにおけるトラクタビリティの問題に繋がることがわかった。 また,ルールと結果に基づくモラル戦略の相違や,モラル資源に関する実装のばらつきなど,規範的倫理の計算的性質に関するいくつかの知見を提供する。 次に、最適性と効率のトレードオフにより、複雑性の結果がモラルマシンの展望にもたらす結果について議論する。 最後に,Moral Tractability Thesis(MTT)を推し進めることで,人間の道徳に関する哲学的・認知心理学的な研究に計算複雑性がいかに役立つかを明らかにする。

関連論文リスト

• Can Artificial Intelligence Embody Moral Values? [0.0]
  中立論では テクノロジーは価値に恵まれない 本稿では,人工知能,特に自律的に目標を追求する決定を下す人工知能が中立論に挑むことを論じる。 我々の中心的な主張は、人工エージェントの根底にある計算モデルが、公正さ、正直さ、害を避けるといった道徳的価値の表現を統合することができるということである。
  論文  参考訳（メタデータ） (2024-08-22T09:39:16Z)
• Why should we ever automate moral decision making? [30.428729272730727]
  AIが重大な道徳的意味を持つ決定に関与している場合、懸念が生じる。 道徳的推論は広く受け入れられている枠組みを欠いている。 もう一つのアプローチは、人間の道徳的決定からAIを学ぶことである。
  論文  参考訳（メタデータ） (2024-07-10T13:59:22Z)
• Does Explainable AI Have Moral Value? [0.0]
  説明可能なAI(XAI)は、複雑なアルゴリズムシステムと人間の利害関係者のギャップを埋めることを目的としている。 現在の談話では、XAIを技術ツール、ユーザインターフェース、あるいはポリシーメカニズムとして独立して検討することが多い。 本稿では,道徳的義務と相互性の概念を基盤とした統一的倫理的枠組みを提案する。
  論文  参考訳（メタデータ） (2023-11-05T15:59:27Z)
• Rethinking Machine Ethics -- Can LLMs Perform Moral Reasoning through the Lens of Moral Theories? [78.3738172874685]
  倫理的AIシステムの開発には倫理的判断が不可欠である。 一般的なアプローチは主にボトムアップ方式で実装されており、モラルに関するクラウドソースの意見に基づいて、大量の注釈付きデータを使用してモデルをトレーニングする。 本研究は、学際的な研究から確立された道徳理論を用いて道徳的推論を行うために、言語モデル(LM)を操る柔軟なトップダウンフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-08-29T15:57:32Z)
• Ethical Frameworks and Computer Security Trolley Problems: Foundations for Conversations [14.120888473204907]
  コンピュータセキュリティ研究における道徳的問題と倫理的/道徳哲学の関連性について検討する。 道徳的に正しいものや間違っているものを定義したり、別のフレームワークについて議論したりしません。
  論文  参考訳（メタデータ） (2023-02-28T05:39:17Z)
• Modeling Moral Choices in Social Dilemmas with Multi-Agent Reinforcement Learning [4.2050490361120465]
  ボトムアップ学習アプローチは、AIエージェントの倫理的行動の研究と開発にもっと適しているかもしれない。 本稿では,道徳理論に基づく報酬を内在的に動機づけたRLエージェントによる選択の体系的分析を行う。 我々は、異なる種類の道徳が協力、欠陥、搾取の出現に与える影響を分析する。
  論文  参考訳（メタデータ） (2023-01-20T09:36:42Z)
• When to Make Exceptions: Exploring Language Models as Accounts of Human Moral Judgment [96.77970239683475]
  AIシステムは人間の道徳的判断や決定を理解し、解釈し、予測しなければなりません。 AIの安全性に対する中心的な課題は、人間の道徳心の柔軟性を捉えることだ。 ルール破りの質問応答からなる新しい課題セットを提案する。
  論文  参考訳（メタデータ） (2022-10-04T09:04:27Z)
• Fairness in Agreement With European Values: An Interdisciplinary Perspective on AI Regulation [61.77881142275982]
  この学際的立場の論文は、AIにおける公平性と差別に関する様々な懸念を考察し、AI規制がそれらにどう対処するかについて議論する。 私たちはまず、法律、(AI)産業、社会技術、そして(道徳)哲学のレンズを通して、AIと公正性に注目し、様々な視点を提示します。 我々は、AI公正性の懸念の観点から、AI法の取り組みを成功に導くために、AIレギュレーションが果たす役割を特定し、提案する。
  論文  参考訳（メタデータ） (2022-06-08T12:32:08Z)
• Metaethical Perspectives on 'Benchmarking' AI Ethics [81.65697003067841]
  ベンチマークは、人工知能(AI)研究の技術的進歩を測定するための基盤とみられている。 AIの顕著な研究領域は倫理であり、現在、ベンチマークのセットも、AIシステムの「倫理性」を測定する一般的な方法もない。 我々は、現在と将来のAIシステムのアクションを考えるとき、倫理よりも「価値」について話す方が理にかなっていると論じる。
  論文  参考訳（メタデータ） (2022-04-11T14:36:39Z)
• Scruples: A Corpus of Community Ethical Judgments on 32,000 Real-Life Anecdotes [72.64975113835018]
  記述倫理に動機づけられた我々は、機械倫理に対する新しいデータ駆動アプローチを調査する。 Scruplesは、625,000の倫理的判断を持つ最初の大規模データセットで、32,000の実生活の逸話について紹介する。 我々のデータセットは最先端のニューラルネットワークモデルに対して大きな課題を示し、改善の余地を残しています。
  論文  参考訳（メタデータ） (2020-08-20T17:34:15Z)
• Learning from Learning Machines: Optimisation, Rules, and Social Norms [91.3755431537592]
  経済的な実体の行動に最も類似したAIの領域は道徳的に良い意思決定の領域であるようだ。 近年のAIにおけるディープラーニングの成功は、そのような問題を解決するための明示的な仕様よりも暗黙的な仕様の方が優れていることを示唆している。
  論文  参考訳（メタデータ） (2019-12-29T17:42:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。