論文の概要: Formalizing Kantian Ethics: Formula of the Universal Law Logic (FULL)

• arxiv url: http://arxiv.org/abs/2604.14254v1
• Date: Wed, 15 Apr 2026 14:30:40 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-17 21:29:29.948869
• Title: Formalizing Kantian Ethics: Formula of the Universal Law Logic (FULL)
• Title（参考訳）: カンティアン倫理の形式化:普遍法論理(FULL)の定式化
• Authors: Taylor Olson,
• Abstract要約: 機械倫理の分野は、道徳をよりよく理解し、AIエージェントをより安全にするために、人工道徳エージェント(AMA)を構築することを目的としている。 多くのアプローチは人間の道徳的直観を行動に対する公理の集合としてエンコードしている。 本稿では,これらの2つの制約を形式化する道徳的手続きの形式化について検討する。
• 参考スコア（独自算出の注目度）: 4.111899441919164
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The field of machine ethics aims to build Artificial Moral Agents (AMAs) to better understand morality and make AI agents safer. To do so, many approaches encode human moral intuition as a set of axioms on actions e.g., do not harm, you must help others. However, this introduces (at least) two limitations for future AMAs. First, it does not consider the agent's purposes in performing the action. Second, it assumes that we humans can enumerate our moral intuition. This paper explores formalizing a moral procedure that alleviates these two limitations. We specifically consider Kantian ethics and present a multi-sorted quantified modal logic we call the Formula of the Universal Law Logic (FULL). The FULL formalizes Kant's first formulation of the categorical imperative, the Formula of the Universal Law (FUL), and concepts such as causality and agency. We demonstrate on three cases from Kantian ethics that the FULL can reason to evaluate agents' actions for certain purposes without built-in moral intuition, given that it has sufficient (non-normative) background knowledge. Therefore, the FULL is a contribution towards more robust and autonomous AMAs, and a more formal understanding of Kantian ethics.
• Abstract（参考訳）: 機械倫理の分野は、道徳をよりよく理解し、AIエージェントをより安全にするために、人工道徳エージェント(AMA)を構築することを目的としている。 そのためには、人間の道徳的直観を行動に対する公理の集合としてエンコードするアプローチが多い。 しかし、これは(少なくとも)将来のAMAに2つの制限をもたらす。 第一に、アクションを実行する際のエージェントの目的を考慮しない。 第二に、人間は我々の道徳的直観を列挙できると仮定する。 本稿では,これらの2つの制約を緩和する道徳的手続きの形式化について検討する。 我々は、特にカント倫理を考察し、Universal Law Logic (FULL) のフォーミュラと呼ばれる多分野の量子化モーダル論理を提案する。 FULLはカントの最初の分類的命令、FUL(Fulall of the Universal Law)、因果性やエージェンシーといった概念の定式化を定式化している。 我々は,その背景知識が十分(非規範的)であることを考えると,FULLが倫理的直観を組み込まずにエージェントの行動を評価する理由となることを,カント倫理学の3つの事例で示している。 したがって、FULLはより堅牢で自律的なAMAへの貢献であり、カント倫理に関するより正式な理解である。

関連論文リスト

• MoReBench: Evaluating Procedural and Pluralistic Moral Reasoning in Language Models, More than Outcomes [31.1183238867944]
  MoReBench: 1,000のモラルシナリオを紹介します。それぞれが、シナリオを推論するとき、専門家が必須とみなす基準のセットと組み合わせています。 MoReBenchには、道徳的考慮事項の特定、トレードオフの重み付け、行動可能なレコメンデーションなど、23万以上の基準が含まれている。 第二に、MoReBench-Theory: 150の例を使って、AIが規範的倫理の5つの主要なフレームワークで推論できるかどうかを検証します。
  論文  参考訳（メタデータ） (2025-10-18T07:34:31Z)
• Are Language Models Consequentialist or Deontological Moral Reasoners? [75.6788742799773]
  我々は、大規模言語モデル(LLM)が提供する道徳的推論トレースの大規模分析に焦点をあてる。 我々は,2つの主要な規範的倫理理論,つまり連続主義と非オントロジーを体系的に分類するために,道徳的論理学の分類を導入し,検証する。
  論文  参考訳（メタデータ） (2025-05-27T17:51:18Z)
• When Ethics and Payoffs Diverge: LLM Agents in Morally Charged Social Dilemmas [68.79830818369683]
  大規模言語モデル(LLM)は、人間や他のエージェントとの意思決定を含む複雑なエージェントの役割での使用を可能にしている。 大規模言語モデル(LLM)の最近の進歩は、人間や他のエージェントとの意思決定を含む複雑なエージェントの役割において、それらの使用を可能にしている。 道徳的命令が報酬やインセンティブと直接衝突するときの行動についての理解は限られている。 本稿では,社会ジレンマシミュレーション(MoralSim)におけるモラル行動について紹介し,LLMが囚人のジレンマゲームや公共グッズゲームにおいて道徳的に課金された文脈でどのように振る舞うかを評価する。
  論文  参考訳（メタデータ） (2025-05-25T16:19:24Z)
• If our aim is to build morality into an artificial agent, how might we begin to go about doing so? [0.0]
  我々は、最も関連する道徳的パラダイムや課題を含む道徳的エージェントを構築する際に考慮すべきさまざまな側面について議論する。 デザインへのハイブリッドアプローチと、モラルパラダイムを組み合わせる階層的アプローチを含むソリューションを提案する。
  論文  参考訳（メタデータ） (2023-10-12T12:56:12Z)
• Rethinking Machine Ethics -- Can LLMs Perform Moral Reasoning through the Lens of Moral Theories? [78.3738172874685]
  倫理的AIシステムの開発には倫理的判断が不可欠である。 一般的なアプローチは主にボトムアップ方式で実装されており、モラルに関するクラウドソースの意見に基づいて、大量の注釈付きデータを使用してモデルをトレーニングする。 本研究は、学際的な研究から確立された道徳理論を用いて道徳的推論を行うために、言語モデル(LM)を操る柔軟なトップダウンフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-08-29T15:57:32Z)
• When to Make Exceptions: Exploring Language Models as Accounts of Human Moral Judgment [96.77970239683475]
  AIシステムは人間の道徳的判断や決定を理解し、解釈し、予測しなければなりません。 AIの安全性に対する中心的な課題は、人間の道徳心の柔軟性を捉えることだ。 ルール破りの質問応答からなる新しい課題セットを提案する。
  論文  参考訳（メタデータ） (2022-10-04T09:04:27Z)
• Automated Kantian Ethics: A Faithful Implementation [0.0]
  私は、カント哲学の伝統に忠実な自動カント倫理の実装を提示します。 私は、Dyadic Deontic Logic におけるカントの圏論的命令を形式化し、イザベルの定理証明器でこの形式化を実装し、私の実装がカント倫理の期待された性質とどのように協調するかを評価するためのテストフレームワークを開発する。 私のシステムは、哲学的に成熟した倫理的AIエージェントへの初期のステップであり、哲学文学に根ざしているため、複雑な倫理的ジレンマにおいてニュアンスな判断を下すことができる。
  論文  参考訳（メタデータ） (2022-07-20T19:09:15Z)
• Reinforcement Learning Under Moral Uncertainty [13.761051314923634]
  機械学習の野心的な目標は、倫理的に振る舞うエージェントを作ることだ。 倫理的エージェントは、特定の道徳理論の下で正しい行動に報いることによって訓練することができるが、道徳性の本質について広く意見の相違がある。 本稿では、競合するデシダラタの異なる点を実現するための2つのトレーニング手法を提案し、モラルの不確実性の下で行動するための単純な環境におけるエージェントを訓練する。
  論文  参考訳（メタデータ） (2020-06-08T16:40:12Z)
• Toward equipping Artificial Moral Agents with multiple ethical theories [1.5736899098702972]
  人工道徳エージェント (Artificial Moral Agents, AMA) は、コンピュータ科学の分野であり、人間の行動に類似した道徳的な決定を下す自律機械を作ることを目的としている。 研究と設計は、基礎として、いかなる特定の規範的倫理理論でも、少なくとも1つの特定の規範的倫理理論でも行われてきた。 これは、AMAの機能能力と汎用性を制限し、結果として限られた数の人々が同意する道徳的な結果を引き起こすため、問題となる。 我々は,一般規範的倫理理論のための3層モデルを構築し,AMAが推論時に使用する倫理的視点のシリアライズに利用することができる。
  論文  参考訳（メタデータ） (2020-03-02T14:33:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。