論文の概要: What Does the AI Doctor Value? Auditing Pluralism in the Clinical Ethics of Language Models

• arxiv url: http://arxiv.org/abs/2605.18738v1
• Date: Mon, 18 May 2026 17:56:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-19 17:57:50.224009
• Title: What Does the AI Doctor Value? Auditing Pluralism in the Clinical Ethics of Language Models
• Title（参考訳）: AIの医師の価値は何か? : 言語モデルの臨床倫理における多元論的考察
• Authors: Payal Chandak, Victoria Alkin, David Wu, Maya Dagan, Taposh Dutta Roy, Maria Clara Saad Menezes, Ayush Noori, Nirali Somia, John S. Brownstein, Ran Balicer, Rebecca W. Brendel, Noa Dagan, Isaac S. Kohane, Gabriel A. Brat,
• Abstract要約: 医学は本質的に多元的であり、自律性、受益性、非効率性、正義といった原則は日常的に矛盾する。 良い臨床実践は、一つの倫理的スタンスを課すのではなく、各患者の価値観と調和してこれらの緊張をナビゲートする。 本稿では,臨床者が検証したジレンマのベンチマークと,意思決定から直接価値の優先順位を復元する帰属方法からなる,医療AIにおける価値多元性を監査するためのフレームワークを提案する。
• 参考スコア（独自算出の注目度）: 3.552218268811112
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Medicine is inherently pluralistic. Principles such as autonomy, beneficence, nonmaleficence, and justice routinely conflict, and such ethical dilemmas often sharply divide reasonable physicians. Good clinical practice navigates these tensions in concert with each patient's values rather than imposing a single ethical stance. The ethical values that large language models bring to medical advice, however, have not been systematically examined. We present a framework for auditing value pluralism in medical AI, comprising a benchmark of clinician-verified dilemmas and an attribution method that recovers value priorities directly from decisions. The ecosystem of frontier models spans physician-level value heterogeneity, and models discuss competing values in their reasoning (Overton pluralism) before committing to a decision. However, individual model decisions are near-deterministic across repeated sampling and semantic variations, failing to reproduce the distributional pluralism of the physician panel. Across benchmark cases, these consistent decisions reflect committed, systematic value preferences. While most model priorities fall within the natural range of inter-physician variation, some significantly underweight patient autonomy. A single LLM deployed without regard for its value priorities could amplify those priorities at scale to every patient it serves. Without explicit efforts to balance ethical perspectives with one or multiple models, these tools risk replacing clinical pluralism with a deployment monoculture.
• Abstract（参考訳）: 医学は本質的に多元主義である。 自律性、受益性、非正当性、正義といった原則は日常的に対立し、そのような倫理的ジレンマはしばしば合理的な医師を厳しく分けている。 良い臨床実践は、一つの倫理的スタンスを課すのではなく、各患者の価値観と調和してこれらの緊張をナビゲートする。 しかし、大きな言語モデルが医学的アドバイスをもたらす倫理的価値は、体系的に検討されていない。 本稿では,臨床者が検証したジレンマのベンチマークと,意思決定から直接価値の優先順位を復元する帰属方法からなる,医療AIにおける価値多元性を監査するためのフレームワークを提案する。 フロンティアモデルのエコシステムは、医師レベルの値の不均一性にまたがり、モデルは、決定にコミットする前に彼らの推論(オーバートン多元論)において競合する値について議論する。 しかし、個々のモデル決定は、繰り返しサンプリングと意味的変動にまたがってほぼ決定論的であり、医師パネルの分布的多元性は再現できない。 ベンチマークケース全体で、これらの一貫した決定は、コミットされた、体系的な価値優先を反映します。 ほとんどのモデル優先性は、自然界の医師間変異の範囲内にあるが、いくつかは明らかに低体重の患者自律性である。 価値の優先順位を考慮せずにデプロイされる単一のLSMは、提供対象のすべての患者に対して、これらの優先順位を大規模に増幅する可能性がある。 倫理的視点と1つまたは複数のモデルとのバランスをとるための明示的な努力がなければ、これらのツールは、臨床多元論をデプロイメントのモノカルチャーに置き換えるリスクがある。

関連論文リスト

• Pluralistic Alignment for Healthcare: A Role-Driven Framework [14.636276754192219]
  多様な視点と価値をシミュレートするために,まず軽量で一般化可能な多元的アライメントアプローチ EthosAgents を提案する。 実験により、7つの異なる大きさのオープンおよびクローズドモデルにまたがる3つのモードの多元的アライメントが進行することを示す。 以上の結果から,健康関連多元主義は適応的かつ規範的アプローチを要求され,これらのモデルが他のハイテイク領域の多様性をいかに尊重するかについての洞察を提供する。
  論文  参考訳（メタデータ） (2025-09-12T20:28:27Z)
• Leveraging Imperfection with MEDLEY A Multi-Model Approach Harnessing Bias in Medical AI [42.798415096963396]
  医学人工知能のバイアスは、伝統的に除去を必要とする欠陥と見なされている。 多様な出力を保存しながら複数のAIモデルを編成する概念的フレームワークであるMEDLEYを提案する。 意見の不一致を抑制する従来のアプローチとは異なり、MEDLEYはモデル固有のバイアスを潜在的な強みとして文書化する。
  論文  参考訳（メタデータ） (2025-08-29T14:12:03Z)
• On Arbitrary Predictions from Equally Valid Models [49.56463611078044]
  モデル多重性(英: Model multiplicity)とは、同じ患者に対して矛盾する予測を認める複数の機械学習モデルを指す。 たとえ小さなアンサンブルであっても、実際は予測的多重性を緩和・緩和できることを示す。
  論文  参考訳（メタデータ） (2025-07-25T16:15:59Z)
• Robust and Interpretable Medical Image Classifiers via Concept Bottleneck Models [49.95603725998561]
  本稿では,自然言語の概念を用いた堅牢で解釈可能な医用画像分類器を構築するための新しいパラダイムを提案する。 具体的には、まず臨床概念をGPT-4から検索し、次に視覚言語モデルを用いて潜在画像の特徴を明示的な概念に変換する。
  論文  参考訳（メタデータ） (2023-10-04T21:57:09Z)
• Value Kaleidoscope: Engaging AI with Pluralistic Human Values, Rights, and Duties [68.66719970507273]
  価値多元性とは、複数の正しい値が互いに緊張して保持されるという考え方である。 統計的学習者として、AIシステムはデフォルトで平均に適合する。 ValuePrismは、218kの値、権利、義務の大規模なデータセットで、31kの人間が記述した状況に関連付けられています。
  論文  参考訳（メタデータ） (2023-09-02T01:24:59Z)
• Representational Ethical Model Calibration [0.7078141380481605]
  エピステム・エクイティ(英: Epistem equity)は、意思決定におけるインテリジェンスの比較忠実度である。 その量化の一般的な枠組みは、言うまでもなく、保証は存在しない。 表現倫理モデルのための包括的枠組みを導入する。
  論文  参考訳（メタデータ） (2022-07-25T10:33:39Z)
• Semi-Supervised Variational Reasoning for Medical Dialogue Generation [70.838542865384]
  医療対話生成には,患者の状態と医師の行動の2つの重要な特徴がある。 医療対話生成のためのエンドツーエンドの変分推論手法を提案する。 行動分類器と2つの推論検出器から構成される医師政策ネットワークは、拡張推論能力のために提案される。
  論文  参考訳（メタデータ） (2021-05-13T04:14:35Z)
• Scruples: A Corpus of Community Ethical Judgments on 32,000 Real-Life Anecdotes [72.64975113835018]
  記述倫理に動機づけられた我々は、機械倫理に対する新しいデータ駆動アプローチを調査する。 Scruplesは、625,000の倫理的判断を持つ最初の大規模データセットで、32,000の実生活の逸話について紹介する。 我々のデータセットは最先端のニューラルネットワークモデルに対して大きな課題を示し、改善の余地を残しています。
  論文  参考訳（メタデータ） (2020-08-20T17:34:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。