論文の概要: Morally Programmed LLMs Reshape Human Morality

• arxiv url: http://arxiv.org/abs/2604.10222v1
• Date: Sat, 11 Apr 2026 14:10:15 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-14 20:13:15.910953
• Title: Morally Programmed LLMs Reshape Human Morality
• Title（参考訳）: プログラムされたLLMが人間のモラルを再構築
• Authors: Pengzhao Lyu, Yeun Joon Kim, Yingyue Luna Luan, Jungmin Choi,
• Abstract要約: 我々は,2つの大規模言語モデル (LLM) をデオン論理的原理 (D-LLM) と実用主義的原理 (U-LLM) でプログラムする。 道徳的にプログラムされたLLMとの相互作用は、これらのシステムに埋め込まれた原則に合わせるために、人間の道徳的傾向を体系的にシフトさせた。 これらの効果は相互作用の2週間後も強く保たれ、わずかに崩壊しただけであり、表面的な合意よりも深い内部化が示唆された。
• 参考スコア（独自算出の注目度）: 0.07388615275046899
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As large language models (LLMs) increasingly participate in high-stakes decision-making, a central societal debate has revolved around which moral frameworks-deontological or utilitarian-should guide machine behavior. However, a largely overlooked question is whether the moral principles that humans encode in LLMs could, through repeated interactions, reshape human moral inclinations. We developed two LLMs programmed with either deontological principles (D-LLM) or utilitarian principles (U-LLM) and conducted two pre-registered experiments involving extensive human-LLM interactions, comprising 15,985 total exchanges across the two experiments. Results show that interacting with these morally programmed LLMs systematically shifted human moral inclinations to align with the principles embedded in these systems. These effects remained strong two weeks after the interaction, with only slight decay, suggesting deep internalization rather than superficial agreement. Further, LLM-induced shifts in human moral inclinations translated into meaningful changes in socio-political policy evaluations, shaping how individuals approach contentious social issues. Overall, these results demonstrate that morally programmed LLMs can shape-not merely reflect-human morality, revealing a critical design paradox: embedding moral principles in LLMs not only restricts their behavior but also poses the risk of shaping human morality, raising important ethical and policy questions about who determines which principles intelligent machines should adhere to.
• Abstract（参考訳）: 大規模言語モデル (LLMs) がハイテイクな意思決定にますます参加するにつれて、中心的な社会的な議論は、道徳的な枠組み、デオントロジーまたは実用主義的な方法による機械の振る舞いを導くものを中心に展開してきた。 しかしながら、概して見過ごされた疑問は、人間がLLMにエンコードする道徳原則が、反復的な相互作用を通じて、人間の道徳的傾向を再形成できるかどうかである。 我々は,D-LLM (D-LLM) と実用主義 (U-LLM) のどちらかをプログラムした2つのLCMを開発し,2つの実験で15,985回の交換を含む広範囲な人間とLLMの相互作用を含む2つの事前登録実験を行った。 その結果、これらの道徳的にプログラムされたLLMとの相互作用は、これらのシステムに埋め込まれた原則に合わせるために、人間の道徳的傾向を体系的に変化させることが示されている。 これらの効果は相互作用の2週間後も強く保たれ、わずかに崩壊しただけであり、表面的な合意よりも深い内部化が示唆された。 さらに、LLMによる人間の道徳的傾向の変化は、社会的・政治的政策評価の有意義な変化に変換され、個人が競争的な社会問題にどのようにアプローチするかを形成する。 これらの結果は、道徳的にプログラムされたLLMは、単に人間の道徳を反映するだけでなく、批判的なデザインのパラドックスを浮き彫りにすることができることを示している。

関連論文リスト

• MoralityGym: A Benchmark for Evaluating Hierarchical Moral Alignment in Sequential Decision-Making Agents [10.221486703870996]
  本稿では,道徳的規範を順序付きデオン的制約として表現するための新しい形式主義であるモラル・チェーンと,トロリー・ジレンマ型体育館環境として提示される98の倫理的ジレンマ問題のベンチマークであるモラル・ガイムを紹介する。 この研究は、複雑な現実世界のコンテキストにおいて、より確実に、透過的に、倫理的に振る舞うAIシステムを開発するための基盤を提供する。
  論文  参考訳（メタデータ） (2026-02-13T15:40:32Z)
• Are Language Models Sensitive to Morally Irrelevant Distractors? [47.92026843851412]
  低あいまいなシナリオであっても、道徳的気晴らし者が大きな言語モデルの道徳的判断を30%以上シフトできることを示す。 この研究は、人間の道徳的判断の安定性を仮定する理論に挑戦する。
  論文  参考訳（メタデータ） (2026-02-10T05:18:05Z)
• Learning to Diagnose and Correct Moral Errors: Towards Enhancing Moral Sensitivity in Large Language Models [8.691489065712316]
  道徳的良性および有害な入力を診断し,道徳的誤りを正すために,LLMをファシリケートする2つの実用的推論手法を提案する。 実用的推論手法の中心的な強みは、その推論手法を推論負荷に基づいて設計するための統一的な視点である。
  論文  参考訳（メタデータ） (2026-01-06T15:09:05Z)
• Are Language Models Consequentialist or Deontological Moral Reasoners? [75.6788742799773]
  我々は、大規模言語モデル(LLM)が提供する道徳的推論トレースの大規模分析に焦点をあてる。 我々は,2つの主要な規範的倫理理論,つまり連続主義と非オントロジーを体系的に分類するために,道徳的論理学の分類を導入し,検証する。
  論文  参考訳（メタデータ） (2025-05-27T17:51:18Z)
• When Ethics and Payoffs Diverge: LLM Agents in Morally Charged Social Dilemmas [68.79830818369683]
  大規模言語モデル(LLM)は、人間や他のエージェントとの意思決定を含む複雑なエージェントの役割での使用を可能にしている。 大規模言語モデル(LLM)の最近の進歩は、人間や他のエージェントとの意思決定を含む複雑なエージェントの役割において、それらの使用を可能にしている。 道徳的命令が報酬やインセンティブと直接衝突するときの行動についての理解は限られている。 本稿では,社会ジレンマシミュレーション(MoralSim)におけるモラル行動について紹介し,LLMが囚人のジレンマゲームや公共グッズゲームにおいて道徳的に課金された文脈でどのように振る舞うかを評価する。
  論文  参考訳（メタデータ） (2025-05-25T16:19:24Z)
• Exploring Persona-dependent LLM Alignment for the Moral Machine Experiment [23.7081830844157]
  本研究では,道徳機械実験の様々な文脈における社会主導型意思決定と人的判断の整合性について検討した。 LLMのモラル決定は人格によって大きく異なり、人間よりも重要なタスクに対するモラル決定のシフトが大きいことが判明した。 道徳的決定を伴うアプリケーションにこれらのモデルを配置する際の倫理的意味とリスクについて論じる。
  論文  参考訳（メタデータ） (2025-04-15T05:29:51Z)
• Addressing Moral Uncertainty using Large Language Models for Ethical Decision-Making [0.42481744176244507]
  本稿では,タスクに依存しない倫理的レイヤを用いて,事前学習された強化学習(RL)モデルを洗練する倫理的意思決定フレームワークを提案する。 倫理的階層は、Jensen-Shannon Divergence と Dempster-Shafer Theory を用いて複数の道徳的観点から信念のスコアを集約する。 この統合学習フレームワークは、複雑な環境においてRLエージェントが道徳的不確実性をナビゲートし、様々なタスクにおいて道徳的に健全な決定を可能にする。
  論文  参考訳（メタデータ） (2025-02-17T19:05:55Z)
• Rethinking Machine Ethics -- Can LLMs Perform Moral Reasoning through the Lens of Moral Theories? [78.3738172874685]
  倫理的AIシステムの開発には倫理的判断が不可欠である。 一般的なアプローチは主にボトムアップ方式で実装されており、モラルに関するクラウドソースの意見に基づいて、大量の注釈付きデータを使用してモデルをトレーニングする。 本研究は、学際的な研究から確立された道徳理論を用いて道徳的推論を行うために、言語モデル(LM)を操る柔軟なトップダウンフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-08-29T15:57:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。