論文の概要: The Judgment-Consequence Gap: LLM Moral Reasoning in Healthcare Decisions

• arxiv url: http://arxiv.org/abs/2608.05583v1
• Date: Thu, 06 Aug 2026 04:12:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-07 17:43:06.697736
• Title: The Judgment-Consequence Gap: LLM Moral Reasoning in Healthcare Decisions
• Title（参考訳）: 医療判断におけるLCMのモラル推論
• Abstract要約: 大規模言語モデル(LLM)は医療などの高度な領域に入る。 LLMは、患者が健康を害する行動の責任を負うと人間に同意するが、その判断が不足する資源の割り当て方法に影響を与えることを圧倒的に拒否する。 LLMは、責任と資源不足が交わるときに人間と体系的に異なる道徳的枠組みを適用する。
• 参考スコア（独自算出の注目度）: 20.192422641852534
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As large language models (LLMs) enter high-stakes domains such as healthcare, understanding their moral reasoning becomes essential. Decisions about scarce medical resources often hinge on judgments of responsibility, particularly when patients' own actions contribute to illness. We investigate how LLMs reason about responsibility and its consequences, tracing their judgments across successive levels, from the behavior, to the resulting illness, to the denial of care. We evaluate a wide range of LLMs, spanning different model families and capability levels, on various clinical vignettes adapted from prior studies. Our results identify a judgment-consequence gap: LLMs largely agree with humans that patients bear responsibility for health-harming behaviors, yet overwhelmingly refuse to let that judgment influence how they allocate scarce resources. Specifically, LLMs default to random allocation, whereas humans consistently favor the less-culpable patient. Compared to humans, LLMs also place greater emphasis on access to information, reducing responsibility judgments when health-risk knowledge is unavailable. These findings reveal that LLMs apply a systematically different moral framework than humans when responsibility and resource scarcity intersect, surprisingly often amplifying normative disagreement with humans as reasoning capability increases.
• Abstract（参考訳）: 大規模言語モデル(LLM)が医療などの高度な領域に入るにつれ、彼らの道徳的推論を理解することが不可欠となる。 医療資源の不足に関する決定は、特に患者の行動が病気の原因となる場合、しばしば責任判断にヒンジする。 我々は,LCMが責任とその帰結を理由として,行動から結果の病気,介護拒否に至るまで,それぞれの判断を連続的に追跡する方法について検討した。 先行研究から適応した各種臨床ヴィグネットを用いて,様々なモデルファミリーと能力レベルにまたがる広い範囲のLSMを評価した。 LLMは、患者が健康を害する行動に責任を持つという人間に大きく同意するが、その判断が不足するリソースの割り当て方法に影響を与えることは圧倒的に拒否する。 具体的には、LLMはデフォルトでランダムなアロケーションがデフォルトだが、人間は一貫して、計算不可能な患者を好んでいる。 人間と比較して、LSMは情報へのアクセスに重点を置いており、健康リスクの知識が利用できない場合の責任判断を減らす。 これらの結果から、LLMは、責任と資源不足が交わるときに人間と体系的に異なる道徳的枠組みを適用し、推論能力が増大するにつれて、驚くほど人間との規範的な意見の不一致を増幅することが明らかとなった。

関連論文リスト

• How do LLMs Evaluate Perceived Moral Agency? Investigating Moral Decision-Making in Human-Artificial Agents Interactions [66.41429744325532]
  人間は道徳的エージェンシーを持ち、倫理的に導かれた決定を行い、その結果に対して責任を負う能力を持っている。 ロボット、ドローン、非暴力的AIシステムなどの人工知能(AA)がスマートシティ環境に埋め込まれるにつれ、道徳的エージェンシーが新たな緊急性にどう影響するかという疑問が持ち上がっている。 本稿では,人間とLLMが人間と自律的な人工エージェント間で知覚される道徳的エージェンシー(PMA)をどのように評価するかを,私たちの知る限りで比較した最初の実証的研究について述べる。
  論文  参考訳（メタデータ） (2026-09-04T11:56:59Z)
• Rare Diseases, Common Dilemmas: LLMs Prioritize Equal Resource Distribution over Patient Benefit in Decision-Making [6.669841955172372]
  臨床的意思決定は、しばしば患者の自律性や正義を尊重する、善意、非正当性などの倫理的価値の優先順位付けを伴う。 最近の研究は、大規模言語モデル(LLM)がそのような主観的で価値の高い臨床判断をいかに行うかを評価し始めている。 本報告では,208種類の臨床症状を呈し,それぞれが真に高いコンフリクトを呈する稀な疾患ヴィニグレットについて検討した。
  論文  参考訳（メタデータ） (2026-08-25T23:54:22Z)
• Characterizing Rhetorical Misalignment in Decision-Making with Language Models [22.79503625028684]
  大規模言語モデル (LLMs) は、ハイテイクな人間とAIの意思決定にますます統合されている。 本研究では,LLMが与えられた意思決定コンテキストに対して,修辞的に不適切な表現形式を使用するような失敗モードである修辞的不適応について検討する。 LLMは、異なるモデルにまたがる有害な決定のフリップの平均2.81%の率を誘導する。
  論文  参考訳（メタデータ） (2026-07-24T02:36:00Z)
• Can Induced Emotion Bias LLM Behaviors in Sequential Decision Making? [64.5408523407693]
  大規模言語モデル(LLM)は、高い領域における自律的なエージェントとして、ますます多くデプロイされている。 アイオワ・ギャンブリング・タスクを用いて,誘因的感情が意思決定に影響を及ぼすかどうかを検討する。 人間の感情とは違って、LLMエージェントの意思決定ダイナミクスは平均的に有意な偏見を示さないことが判明した。
  論文  参考訳（メタデータ） (2026-07-14T11:09:51Z)
• Verbalizing LLMs' assumptions to explain and control sycophancy [62.927670321859495]
  LLMは、真のアセスメントを提供するのではなく、"am I in the wrong? LLMからこれらの仮定を抽出するフレームワークであるVerbalized Assumptionsを提案する。 我々の研究は、梅毒のメカニズムとしての仮定の新たな理解に貢献している。
  論文  参考訳（メタデータ） (2026-04-03T14:15:43Z)
• LLMs in Cybersecurity: Friend or Foe in the Human Decision Loop? [0.15293427903448023]
  大規模言語モデル(LLM)は、認知的協力者としての行動によって人間の意思決定を変革している。 本稿では,LLMがセキュリティクリティカルな文脈でどのように人間の判断を形作るかを検討する。
  論文  参考訳（メタデータ） (2025-09-08T12:06:06Z)
• Who Gets the Kidney? Human-AI Alignment, Indecision, and Moral Values [36.47201247038004]
  本研究では,Large Language Models (LLMs) が,様々な属性の優先順位付けにおいて,人的価値との相違を示すことを示す。 少ないサンプルを用いた低ランク教師あり微調整は、決定整合性の向上と不確定性モデリングの校正に有効であることを示す。
  論文  参考訳（メタデータ） (2025-05-30T01:23:11Z)
• Fact or Guesswork? Evaluating Large Language Models' Medical Knowledge with Structured One-Hop Judgments [108.55277188617035]
  大規模言語モデル(LLM)は、様々な下流タスクドメインで広く採用されているが、実際の医学的知識を直接呼び起こし、適用する能力は、まだ探索されていない。 標準化された語彙と知識グラフの包括的なリポジトリであるUMLS(Unified Medical Language System)から派生したデータセットであるMKJ(Messical Knowledge Judgment dataset)を紹介する。 バイナリ分類フレームワークを通じて、MKJは、簡潔なワンホップ文の妥当性を評価することによって、LCMが基本的な医学的事実を把握できることを評価する。
  論文  参考訳（メタデータ） (2025-02-20T05:27:51Z)
• The Decoy Dilemma in Online Medical Information Evaluation: A Comparative Study of Credibility Assessments by LLM and Human Judges [4.65004369765875]
  大規模言語モデル(LLM)がどの程度「合理的に」振舞うかは明らかになっていない。 LLMエージェントに埋め込まれた認知バイアスのリスクを実証的に確認した。 AIエージェントのデバイアスの複雑さと重要性を強調します。
  論文  参考訳（メタデータ） (2024-11-23T00:43:27Z)
• Persuasion with Large Language Models: a Survey [49.86930318312291]
  大規模言語モデル (LLM) は説得力のあるコミュニケーションに新たな破壊的可能性を生み出している。 政治、マーケティング、公衆衛生、電子商取引、慈善事業などの分野では、LLMシステムズは既に人間レベルや超人的説得力を達成している。 LLMをベースとした説得の現在と将来の可能性は、倫理的・社会的リスクを著しく引き起こす可能性が示唆された。
  論文  参考訳（メタデータ） (2024-11-11T10:05:52Z)
• Human-AI collectives produce the most accurate differential diagnoses [0.0]
  医師集団と大規模言語モデル(LLM)のハイブリッド集団は,医師集団と医師集団のどちらよりも優れていることを示す。 我々のアプローチは、医療診断のような複雑でオープンな領域における精度を向上させるための、人間と機械の集合的知性の可能性を強調します。
  論文  参考訳（メタデータ） (2024-06-21T08:46:30Z)
• MoCa: Measuring Human-Language Model Alignment on Causal and Moral Judgment Tasks [49.60689355674541]
  認知科学の豊富な文献は人々の因果関係と道徳的直観を研究してきた。 この研究は、人々の判断に体系的に影響を及ぼす多くの要因を明らかにした。 大規模言語モデル(LLM)が、人間の参加者と一致するテキストベースのシナリオについて因果的、道徳的な判断を下すかどうかを検証する。
  論文  参考訳（メタデータ） (2023-10-30T15:57:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。