論文の概要: Can LLMs Imagine Moral Alternatives Beyond Binary Dilemmas?

• arxiv url: http://arxiv.org/abs/2606.31213v1
• Date: Tue, 30 Jun 2026 06:49:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-01 18:27:19.107114
• Title: Can LLMs Imagine Moral Alternatives Beyond Binary Dilemmas?
• Title（参考訳）: LLMは二項ジレンマ以上の道徳的代替品を想像できるか?
• Abstract要約: 我々は、物語的ジレンマとAI対応エージェントジレンマにまたがる307のモラルジレンマのデータセットであるMoralAltDatasetを紹介する。 妥協の選択肢は、元の選択肢よりも好まれることがよくあります。 そこで我々は,LLMが生成する代替品の品質を,ペアワイズ選好と専門家による基準を用いて評価した。
• 参考スコア（独自算出の注目度）: 13.299941267753981
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As large language models (LLMs) are increasingly deployed as moral advisors and agents, they need to address dilemmas between two competing values. However, existing research on LLMs with moral dilemmas overlooks a central aspect of human moral cognition: the ability to imagine alternatives that move beyond the given options. We introduce MoralAltDataset, a dataset of 307 moral dilemmas spanning narrative Advisor dilemmas and AI-facing Agent dilemmas, each augmented with compromise and reframed alternatives. We first examine whether humans and LLMs shift their judgments when such alternatives are introduced. Across 15 LLMs, we find that compromise alternatives are often preferred over either original option, substantially reshaping moral choice. We then evaluate the quality of LLM-generated alternatives against human-authored ones using pairwise preference and expert-based criteria. Results show that LLM-generated alternatives are often preferred and better satisfy fine-grained structural and ethical criteria, while revealing trade-offs between structural quality and practical feasibility.
• Abstract（参考訳）: 大きな言語モデル(LLM)は、モラルアドバイザやエージェントとしてますます多くデプロイされているため、競合する2つの値間のジレンマに対処する必要がある。 しかしながら、道徳的ジレンマを伴うLLMに関する既存の研究は、人間の道徳的認知の中心的な側面、すなわち与えられた選択肢を超えて移動する選択肢を想像する能力を見落としている。 私たちはMoralAltDatasetを紹介します。307のモラルジレンマとAI対応エージェントジレンマにまたがるモラルジレンマのデータセット。 まず,このような代替案が導入されたとき,人間とLLMが判断を変えるかどうかを検討する。 15の LLM 全体で、妥協代替案は元の選択肢よりも好まれており、道徳的な選択を根本的に変えていることが分かっています。 そこで我々は,LLMが生成する代替品の品質を,ペアワイズ選好と専門家による基準を用いて評価した。 その結果, LLM生成の代替案は, 構造品質と実用性とのトレードオフを明らかにしつつ, きめ細かな構造的・倫理的基準を良好に満たすことが多かった。

関連論文リスト

• How do LLMs Evaluate Perceived Moral Agency? Investigating Moral Decision-Making in Human-Artificial Agents Interactions [66.41429744325532]
  人間は道徳的エージェンシーを持ち、倫理的に導かれた決定を行い、その結果に対して責任を負う能力を持っている。 ロボット、ドローン、非暴力的AIシステムなどの人工知能(AA)がスマートシティ環境に埋め込まれるにつれ、道徳的エージェンシーが新たな緊急性にどう影響するかという疑問が持ち上がっている。 本稿では,人間とLLMが人間と自律的な人工エージェント間で知覚される道徳的エージェンシー(PMA)をどのように評価するかを,私たちの知る限りで比較した最初の実証的研究について述べる。
  論文  参考訳（メタデータ） (2026-09-04T11:56:59Z)
• MM-SCALE: Grounded Multimodal Moral Reasoning via Scalar Judgment and Listwise Alignment [48.39756797294967]
  本稿では、視覚言語モデルと人間の道徳的嗜好を整合させるデータセットMM-SCALEを提案する。 それぞれのイメージ・シナリオペアには、道徳的受容性スコアと、人間による根拠付き推論ラベルが注釈付けされている。 我々のフレームワークは、よりリッチなアライメント信号とマルチモーダルな道徳的推論のキャリブレーションを提供する。
  論文  参考訳（メタデータ） (2026-02-03T15:48:00Z)
• Arbiters of Ambivalence: Challenges of Using LLMs in No-Consensus Tasks [52.098988739649705]
  本研究では, LLMのバイアスと限界について, 応答生成器, 判定器, 討論器の3つの役割について検討した。 我々は、様々な先行的曖昧なシナリオを含む例をキュレートすることで、合意なしのベンチマークを開発する。 以上の結果から, LLMは, オープンエンドの回答を生成する際に, 曖昧な評価を行うことができる一方で, 審査員や討論者として採用する場合は, 合意なしのトピックにスタンスを取る傾向が示唆された。
  論文  参考訳（メタデータ） (2025-05-28T01:31:54Z)
• Are Language Models Consequentialist or Deontological Moral Reasoners? [75.6788742799773]
  我々は、大規模言語モデル(LLM)が提供する道徳的推論トレースの大規模分析に焦点をあてる。 我々は,2つの主要な規範的倫理理論,つまり連続主義と非オントロジーを体系的に分類するために,道徳的論理学の分類を導入し,検証する。
  論文  参考訳（メタデータ） (2025-05-27T17:51:18Z)
• When Ethics and Payoffs Diverge: LLM Agents in Morally Charged Social Dilemmas [68.79830818369683]
  大規模言語モデル(LLM)は、人間や他のエージェントとの意思決定を含む複雑なエージェントの役割での使用を可能にしている。 大規模言語モデル(LLM)の最近の進歩は、人間や他のエージェントとの意思決定を含む複雑なエージェントの役割において、それらの使用を可能にしている。 道徳的命令が報酬やインセンティブと直接衝突するときの行動についての理解は限られている。 本稿では,社会ジレンマシミュレーション(MoralSim)におけるモラル行動について紹介し,LLMが囚人のジレンマゲームや公共グッズゲームにおいて道徳的に課金された文脈でどのように振る舞うかを評価する。
  論文  参考訳（メタデータ） (2025-05-25T16:19:24Z)
• The Staircase of Ethics: Probing LLM Value Priorities through Multi-Step Induction to Complex Moral Dilemmas [20.792208554628367]
  我々は多段階モラルジレンマデータセットを導入し,3,302個の5段階ジレンマのLLMの進化的道徳的判断を評価する。 このフレームワークは、LLMがジレンマをエスカレートする際の道徳的推論をどのように調整するかを、きめ細やかな動的解析を可能にする。 我々の研究は、動的で文脈に配慮した評価パラダイムへのシフトを呼びかけ、LLMのより人間らしく価値に敏感な開発への道を開いた。
  論文  参考訳（メタデータ） (2025-05-23T17:59:50Z)
• The Greatest Good Benchmark: Measuring LLMs' Alignment with Utilitarian Moral Dilemmas [0.3386560551295745]
  実用性ジレンマを用いてLLMの道徳的判断を評価する。 我々の分析は、確立した道徳理論から分岐し、人口道徳基準を定めている道徳的嗜好を一貫してコード化している。
  論文  参考訳（メタデータ） (2025-03-25T12:29:53Z)
• Right vs. Right: Can LLMs Make Tough Choices? [12.92528740921513]
  倫理的ジレンマは、道徳的価値の矛盾を含む2つの「正しい」選択肢の選択を記述する。 LLMが倫理ジレンマをどのようにナビゲートするかを包括的に評価する。 我々は、4組の矛盾する値を含む1,730の倫理ジレンマからなるデータセットを構築した。
  論文  参考訳（メタデータ） (2024-12-27T21:20:45Z)
• The Moral Mind(s) of Large Language Models [0.0]
  大規模言語モデル (LLM) は、その決定を導く道徳的嗜好の一貫性のある構造を示す。 確率論的合理性テストを用いて、各主要プロバイダの少なくとも1つのモデルが、ほぼ安定した道徳的嗜好と整合した振る舞いを示した。 そして、これらのユーティリティ関数を推定し、ほとんどのモデルが中立的な道徳的スタンスの周りに集まっていることを発見した。
  論文  参考訳（メタデータ） (2024-11-19T15:40:16Z)
• Exploring and steering the moral compass of Large Language Models [55.2480439325792]
  大規模言語モデル(LLM)は、様々な分野における自動化と意思決定の推進の中心となっている。 本研究は,その道徳的特徴を評価するために,最も先進的なLCMの総合的比較分析を提案する。
  論文  参考訳（メタデータ） (2024-05-27T16:49:22Z)
• The Moral Machine Experiment on Large Language Models [0.0]
  本研究は,大規模言語モデル(LLM)の倫理的意思決定傾向を検討するために,モラルマシンフレームワークを利用した。 LLMとヒトの嗜好は広く一致しているが、特にPaLM 2とLlama 2は相違点が異なる。 これらの知見は、LLMの倫理的枠組みと、その自律運転への潜在的影響を解明する。
  論文  参考訳（メタデータ） (2023-09-12T04:49:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。