論文の概要: How do LLMs Evaluate Perceived Moral Agency? Investigating Moral Decision-Making in Human-Artificial Agents Interactions

• arxiv url: http://arxiv.org/abs/2609.05037v1
• Date: Fri, 04 Sep 2026 11:56:59 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-07 18:15:24.027146
• Title: How do LLMs Evaluate Perceived Moral Agency? Investigating Moral Decision-Making in Human-Artificial Agents Interactions
• Title（参考訳）: LLMは道徳的行為をどう評価するか? : 人間と人工エージェントの相互作用における道徳的決定-メイキングの考察
• Abstract要約: 人間は道徳的エージェンシーを持ち、倫理的に導かれた決定を行い、その結果に対して責任を負う能力を持っている。 ロボット、ドローン、非暴力的AIシステムなどの人工知能(AA)がスマートシティ環境に埋め込まれるにつれ、道徳的エージェンシーが新たな緊急性にどう影響するかという疑問が持ち上がっている。 本稿では,人間とLLMが人間と自律的な人工エージェント間で知覚される道徳的エージェンシー(PMA)をどのように評価するかを,私たちの知る限りで比較した最初の実証的研究について述べる。
• 参考スコア（独自算出の注目度）: 66.41429744325532
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: As LLMs take on roles requiring moral advice, understanding how they attribute moral agency becomes critical. Humans possess moral agency, the capacity to make ethically guided decisions and bear responsibility for their consequences, a well-established construct in moral psychology. Yet as artificial agents (AAs) such as robots, drones, and disembodied AI systems become increasingly embedded in smart city environments, the question of whether and how moral agency is attributed to them takes on new urgency. This paper presents, to the best of our knowledge, the first empirical study comparing how humans and LLMs evaluate perceived moral agency (PMA) across human and autonomous artificial agents varying in embodiment, situated in plausible smart city scenarios. Using an adaptation of a validated PMA scale, we applied a protocol to 190 human participants as well as various LLMs. Our evaluation reveals higher perceptions of moral agency in humans than in AAs. However, when facing moral dilemmas in concrete scenarios, LLMs reason outward from the situation, prioritizing harm severity and contextual urgency over any stable assessment of the agent itself, amplifying a context-sensitivity also present in human raters. These findings are particularly relevant as LLMs become increasingly involved in everyday moral decisions.
• Abstract（参考訳）: LLMは道徳的アドバイスを必要とする役割を担っているので、彼らが道徳的エージェンシーをどう評価するかを理解することが重要になる。 人間は道徳的エージェンシーを持ち、倫理的に導かれた決定を行い、その結果に対する責任を負う能力は、道徳心理学において確立された構成である。 しかし、ロボットやドローン、脱落したAIシステムといった人工知能(AA)がスマートシティ環境にますます浸透するにつれて、道徳的エージェンシーが新たな緊急性にどう影響するかという疑問が持ち上がっている。 本稿は,人間とLLMが人間と自律型人工エージェント間で認識される道徳的エージェンシー(PMA)をどのように評価するかを,我々の知る限りで比較した最初の実証的研究である。 検証されたPMA尺度の適応を用いて、190人の被験者と様々なLSMにプロトコルを適用した。 評価の結果,AAよりも道徳的エージェンシーの認知度が高いことが明らかとなった。 しかし、具体的なシナリオで道徳的ジレンマに直面した場合、LSMは状況から外向きに推論し、エージェント自体の安定した評価よりも害の重大さと文脈的緊急性を優先し、文脈感受性を増幅する。 これらの発見は、LLMが日々の道徳的決定にますます関与するようになり、特に関連性が高い。

関連論文リスト

• Are Language Models Sensitive to Morally Irrelevant Distractors? [47.92026843851412]
  低あいまいなシナリオであっても、道徳的気晴らし者が大きな言語モデルの道徳的判断を30%以上シフトできることを示す。 この研究は、人間の道徳的判断の安定性を仮定する理論に挑戦する。
  論文  参考訳（メタデータ） (2026-02-10T05:18:05Z)
• Discerning What Matters: A Multi-Dimensional Assessment of Moral Competence in LLMs [0.14963505712040906]
  道徳的能力は道徳的原則に従って行動する能力である。 大規模言語モデル(LLM)は、道徳的能力を求める状況においてますます展開されているため、この能力を実証的に評価することへの関心が高まっている。 i) 道徳的特徴を明確に強調した事前パッケージ化された道徳的シナリオへの過度な信頼、(ii) 道徳的推論よりも検証予測に焦点をあてること、(iii) 追加情報が必要な時に認識できないモデルの不適切なテスト。
  論文  参考訳（メタデータ） (2025-06-16T03:59:38Z)
• When Ethics and Payoffs Diverge: LLM Agents in Morally Charged Social Dilemmas [68.79830818369683]
  大規模言語モデル(LLM)は、人間や他のエージェントとの意思決定を含む複雑なエージェントの役割での使用を可能にしている。 大規模言語モデル(LLM)の最近の進歩は、人間や他のエージェントとの意思決定を含む複雑なエージェントの役割において、それらの使用を可能にしている。 道徳的命令が報酬やインセンティブと直接衝突するときの行動についての理解は限られている。 本稿では,社会ジレンマシミュレーション(MoralSim)におけるモラル行動について紹介し,LLMが囚人のジレンマゲームや公共グッズゲームにおいて道徳的に課金された文脈でどのように振る舞うかを評価する。
  論文  参考訳（メタデータ） (2025-05-25T16:19:24Z)
• Exploring Persona-dependent LLM Alignment for the Moral Machine Experiment [23.7081830844157]
  本研究では,道徳機械実験の様々な文脈における社会主導型意思決定と人的判断の整合性について検討した。 LLMのモラル決定は人格によって大きく異なり、人間よりも重要なタスクに対するモラル決定のシフトが大きいことが判明した。 道徳的決定を伴うアプリケーションにこれらのモデルを配置する際の倫理的意味とリスクについて論じる。
  論文  参考訳（メタデータ） (2025-04-15T05:29:51Z)
• Do LLMs trust AI regulation? Emerging behaviour of game-theoretic LLM agents [61.132523071109354]
  本稿では、異なる規制シナリオ下での戦略選択をモデル化する、AI開発者、規制当局、ユーザ間の相互作用について検討する。 我々の研究は、純粋なゲーム理論エージェントよりも「悲観的」な姿勢を採用する傾向にある戦略的AIエージェントの出現する振る舞いを特定する。
  論文  参考訳（メタデータ） (2025-04-11T15:41:21Z)
• Measurement of LLM's Philosophies of Human Nature [113.47929131143766]
  大規模言語モデル(LLM)を対象とする標準化された心理尺度を設計する。 現在のLSMは、人間に対する信頼の欠如を示す。 本稿では,LLMが継続的に価値体系を最適化できるメンタルループ学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-04-03T06:22:19Z)
• The Moral Turing Test: Evaluating Human-LLM Alignment in Moral Decision-Making [0.0]
  我々は、様々な道徳的シナリオに対して、人間とLLMが生成する反応の大規模なコーパスを作成しました。 我々は人間とLLMの道徳的評価の相違を見出した。 LLMも人間も道徳的に複雑な実用ジレンマを拒絶する傾向があったが、LSMは個人のフレーミングに敏感であった。
  論文  参考訳（メタデータ） (2024-10-09T17:52:00Z)
• Modeling Moral Choices in Social Dilemmas with Multi-Agent Reinforcement Learning [4.2050490361120465]
  ボトムアップ学習アプローチは、AIエージェントの倫理的行動の研究と開発にもっと適しているかもしれない。 本稿では,道徳理論に基づく報酬を内在的に動機づけたRLエージェントによる選択の体系的分析を行う。 我々は、異なる種類の道徳が協力、欠陥、搾取の出現に与える影響を分析する。
  論文  参考訳（メタデータ） (2023-01-20T09:36:42Z)
• When to Make Exceptions: Exploring Language Models as Accounts of Human Moral Judgment [96.77970239683475]
  AIシステムは人間の道徳的判断や決定を理解し、解釈し、予測しなければなりません。 AIの安全性に対する中心的な課題は、人間の道徳心の柔軟性を捉えることだ。 ルール破りの質問応答からなる新しい課題セットを提案する。
  論文  参考訳（メタデータ） (2022-10-04T09:04:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。