論文の概要: Do Large Language Models Show Racial and Sex Bias in Pain Management? A Counterfactual Audit of GPT, Claude, Gemini, Llama, DeepSeek and Qwen
- arxiv url: http://arxiv.org/abs/2611.14935v1
- Date: Wed, 11 Nov 2026 02:35:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-14 01:36:32.985863
- Title: Do Large Language Models Show Racial and Sex Bias in Pain Management? A Counterfactual Audit of GPT, Claude, Gemini, Llama, DeepSeek and Qwen
- Title(参考訳): GPT, Claude, Gemini, Llama, DeepSeek, Qwen の非現実的調査
- Abstract要約: 前回の監査ではいくつかのプロプライエタリなモデルがテストされ、レースは明確に述べられ、モデル自身の応答不安定さを計測することはめったになかった。
本研究では,1,386件の比較では,1,386件の誤り発見率に差は認められなかった。
痛みと痛みの差は、0-10スケールで1点以内で0に等しい。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Racial and ethnic minority patients receive less pain treatment than non-Hispanic White patients, and large language models (LLMs) used as medical AI could reproduce that bias. Prior audits tested a few proprietary models, stated race explicitly and rarely measured the models' own response instability. In exploratory, non-preregistered analyses, Study 1 had four open-weight LLMs assess six acute-pain vignettes in every combination of four races and two sexes, with identity stated or cued only by a name (two names per group), comparing each identity with a White male reference on the same case and sampling seed. In Study 2, 24 configurations of 17 models, including OpenAI's GPT-4.1 mini and gpt-oss, Anthropic's Claude Haiku 4.5, Google's Gemini 2.5 Flash, Meta's Llama, DeepSeek and Qwen, with reasoning on and off and at two precisions, answered the same vignettes and the 50 clinician-written Q-Pain cases. In this single-prompt, JSON-constrained task, no difference survived correction in Study 1, none of 1,386 comparisons survived the false discovery rate in Study 2, and every pain-severity difference was equivalent to zero within one point on a 0-10 scale (within a quarter point for 237 of 238 Q-Pain comparisons). Opioid decisions were bounded less precisely (Study 1 could not exclude differences of about 20 percentage points), so they show no detected difference, not proof of none. The few differences surviving correction within a model favoured Black patients. Models differed far more from one another and across their own settings than between patients (the reference patient received the high opioid dose in 6% to 93% of responses), although serving software, provider and prompt format also differed. Fairness audits of clinical AI should use several names per group, pair comparisons on the seed, report the noise floor and test each deployed configuration.
- Abstract(参考訳): 人種や少数民族の患者は、非ヒスパニック白人患者よりも痛みを軽減し、医療用AIとして使用される大きな言語モデル(LLM)は、そのバイアスを再現することができる。
前回の監査ではいくつかのプロプライエタリなモデルがテストされ、レースは明確に述べられ、モデル自身の応答不安定さを計測することはめったになかった。
探索的・非予備登録分析において、研究1は、4つの人種と2つの性の組み合わせで6つの急激なペイン・ヴィグネットを評価し、1つの名前(グループごとに2つの名前)のみで特定または検索し、それぞれのアイデンティティを同じ事例における白人男性基準と比較し、シードをサンプリングした。
研究2では、OpenAIのGPT-4.1 miniとgpt-oss、AnthropicのClaude Haiku 4.5、GoogleのGemini 2.5 Flash、Meta's Llama、DeepSeek、Qwenを含む17モデルの24の構成が、同一のウィグレットと50のクリニカルで書かれたQ-Painケースに応答した。
この単一プロンプトのJSON制約タスクでは,1,386個の比較では,1,386個の比較では偽発見率を保たず,0-10スケールで1点以内の痛み度差は0に等しい(Q-Pain比較では237の4分の1)。
その結果,オピオイド判定の精度は低かった(研究1では約20ポイントの差は除外できなかった)ため,検出された差は認められなかった。
モデル内の生存率のわずかな差は、黒人患者を好んだ。
対象患者は6%から93%の反応率でオピオイドを服用したが,ソフトウェア,プロバイダ,プロンプトフォーマットも異なっていた。
臨床AIの公正監査では、グループ毎に複数の名前を使用し、シードのペア比較を行い、ノイズフロアを報告し、デプロイされた各構成をテストする必要がある。
関連論文リスト
- Disparity Laundering: Consensus Without Fairness in Clinical Multi-Agent Systems [12.737053086429894]
臨床大言語モデルは、個別のエラーを平均化するという前提で、多エージェントチームとして、ますます焦点が当てられている。
5つのモデルファミリーと4つのアグリゲーショントポロジーからなるフルファクターは、120のMIMIC-IV緊急ケースにおいて、構成が相違を和らげることはない。
どのモデルにも、そのベースラインギャップを増幅するトポロジーがあるが、どのモデルもモデルによって異なるため、設計が確実に安全で確実に増幅されることはない。
現在では、モデル毎、アウトプット毎、バージョン毎の監査は、部品の認証は可能ですが、コミットされた決定は行われません。
論文 参考訳(メタデータ) (2026-10-28T03:10:28Z) - MedRoundsQA: A Persona and Difficulty Aware Evaluation for Multi-Turn Medical Consultations [37.085079820080644]
医療ベンチマークは、実際のコンサルテーションを反映していない単ターン、複数選択の臨床ケースで支配されている。
MedRoundsQAは17の専門分野にまたがる1,387件の検診ケースから得られたマルチターン診断ベンチマークである。
論文 参考訳(メタデータ) (2026-09-11T13:41:53Z) - Counterfactual Fairness Audits of Multi-Step Clinical LLM Agents Require a Measured Per-Action Instability Floor [3.0704370207786265]
本研究は, アクションフロアを横に置かずに報告した反実的公正度推定値が, 相違の証拠として読めないことを示す。
FairMedAgentは, 臨床適応剤の作用の差異を評価するための評価ハーネスである。
論文 参考訳(メタデータ) (2026-09-02T23:38:17Z) - RareLens: Towards End-to-End Rare Disease Care via Aligning Divergent Large Language Model Reasoning [42.80742579670377]
RareLensは、まれな疾患の軌跡全体にわたる臨床的意思決定を支援するシステムである。
RareBenchは、33のOrphanetカテゴリと7000以上の条件にまたがる157,525件の実際のデータセットである。
検診で0.917、診断と治療で65.5%、89.8%の成績を収めた。
論文 参考訳(メタデータ) (2026-07-25T16:58:10Z) - EQUITRIAGE: A Fairness Audit of Gender Bias in LLM-Based Emergency Department Triage [0.0]
本稿では,救急部門における大規模言語モデル(LLM)の公平性監査であるEQUITRIAGEについて紹介する。
5つのモデルは全て、事前登録された5%の閾値を超えるフリップレートを生み出した。
グループパリティ、反事実的不変性、性別のキャリブレーションは、異なる公平性の性質である。
論文 参考訳(メタデータ) (2026-05-05T17:20:55Z) - PsychBench: Auditing Epidemiological Fidelity in Large Language Model Mental Health Simulations [0.0]
大きな言語モデルは、臨床訓練、研究、メンタルヘルスツールのために患者をシミュレートするためにますます多くデプロイされている。
LLM患者シミュレーションの最初の疫学的検査である PsychBench を紹介した。
モデルでは, 抽出した個体群を誤って表現しながら, 臨床的に有意な個体を生成できることが示唆された。
論文 参考訳(メタデータ) (2026-04-19T10:05:25Z) - PanCanBench: A Comprehensive Benchmark for Evaluating Large Language Models in Pancreatic Oncology [48.732366302949515]
大規模言語モデル(LLM)は、標準化された検査において専門家レベルの性能を達成したが、複数の選択精度は現実の臨床的有用性や安全性を十分に反映していない。
我々は、未確認患者の質問に対して、専門家のルーブリックを作成するための、ループ内人間パイプラインを開発した。
LLM-as-a-judge フレームワークを用いて,22のプロプライエタリおよびオープンソース LLM の評価を行い,臨床完全性,事実精度,Web-search 統合について検討した。
論文 参考訳(メタデータ) (2026-03-02T00:50:39Z) - Statistical and Computational Phase Transitions in Group Testing [73.55361918807883]
本研究の目的は、希少な疾患を患っているk人の集団を同定することである。
個々人のテストを割り当てるための2つの異なる単純なランダムな手順を考える。
論文 参考訳(メタデータ) (2022-06-15T16:38:50Z) - A Patient-Centric Dataset of Images and Metadata for Identifying
Melanomas Using Clinical Context [39.10946113351587]
2020 SIIM-ISIC メラノーマ分類データセットは、以前の課題と臨床実践の相違に対処するために構築された。
このデータセットは、3大陸の患者2,056人で、患者1人あたり平均16の病変がある。
論文 参考訳(メタデータ) (2020-08-07T20:22:23Z) - CT-based COVID-19 Triage: Deep Multitask Learning Improves Joint
Identification and Severity Quantification [45.86448200141968]
感染リスクのある患者をできるだけ早期に分離する研究を優先するための新型コロナウイルスの同定、重度定量化、重篤な患者の研究の強調、病院への誘導、救急医療の提供の2つの基本的な設定について述べる。
両トリアージアプローチを統合するマルチタスクアプローチを提案し、利用可能なラベルを1つのモデルにまとめる畳み込みニューラルネットワークを提案する。
我々は約2000件の公開CT研究をトレーニングし、32件のCOVID-19研究、30件の細菌性肺炎、31件の健常患者、および30件の肺病理患者からなる慎重に設計したセットを用いて、典型的な患者の血流をエミュレートする。
論文 参考訳(メタデータ) (2020-06-02T08:05:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。