論文の概要: EQUITRIAGE: A Fairness Audit of Gender Bias in LLM-Based Emergency Department Triage

• arxiv url: http://arxiv.org/abs/2605.03998v1
• Date: Tue, 05 May 2026 17:20:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-06 19:35:44.05799
• Title: EQUITRIAGE: A Fairness Audit of Gender Bias in LLM-Based Emergency Department Triage
• Title（参考訳）: EQUITRIAGE: LLMをベースとした救急部門におけるジェンダーバイアスの公正監査
• Authors: Richard J. Young, Alice M. Matthews,
• Abstract要約: 本稿では,救急部門における大規模言語モデル(LLM)の公平性監査であるEQUITRIAGEについて紹介する。 5つのモデルは全て、事前登録された5%の閾値を超えるフリップレートを生み出した。 グループパリティ、反事実的不変性、性別のキャリブレーションは、異なる公平性の性質である。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Emergency department triage assigns patients an acuity score that determines treatment priority, and clinical evidence documents persistent gender disparities in human acuity assessment. As hospitals pilot large language models (LLMs) as triage decision support, a critical question is whether these models reproduce or mitigate known biases. We present EQUITRIAGE, a fairness audit of LLM-based ESI assignment evaluating five models (Gemini-3-Flash, Nemotron-3-Super, DeepSeek-V3.1, Mistral-Small-3.2, GPT-4.1-Nano) across 374,275 evaluations on 18,714 MIMIC-IV-ED vignettes under four prompt strategies. Of 9,368 originals, 9,346 are paired with a gender-swapped counterfactual. All five models produced flip rates above a pre-registered 5% threshold (9.9% to 43.8%). Two showed directional female undertriage (DeepSeek F/M 2.15:1, Gemini 1.34:1); two were near-parity; one had high sensitivity with weak male-direction asymmetry. DeepSeek's directional bias coexisted with a low outcome-linked calibration gap (0.013 against MIMIC-IV admission), a Chouldechova-style dissociation between within-group calibration and between-pair counterfactual invariance. Demographic blinding reduced Gemini's flip rate to 0.5%; an age-preserving blind variant left DeepSeek with residual F/M 1.25, implicating age as a residual channel. Chain-of-thought prompting degraded accuracy for all five models. A two-model ablation reveals opposite underlying mechanisms for the same directional phenotype: in Gemini the signal is emergent in the combined name+gender swap, while in DeepSeek the gender token alone carries it. EQUITRIAGE shows that group parity, counterfactual invariance, and gender calibration are distinct fairness properties, that intervention effectiveness is model-dependent, and that per-model counterfactual auditing should precede clinical deployment.
• Abstract（参考訳）: 救急部門トリアージは、治療の優先順位を決定する明度スコアを患者に割り当て、臨床証拠は人間の明度評価において持続的な男女差を文書化する。 病院は大規模言語モデル(LLM)をトリアージ決定支援として運用しているため、これらのモデルが既知のバイアスを再現するか緩和するかが重要な問題である。 本報告では,374,275個のMIMIC-IV-EDウィグレットを用いて,5種類のモデル(Gemini-3-Flash,Nemotron-3-Super,DeepSeek-V3.1,Mistral-Small-3.2,GPT-4.1-Nano)を評価する。 オリジナル9,368本のうち、9,346本はジェンダースワップされたカウンターファクトとペアリングされている。 5モデルとも5%以上のフリップレート(9.9%から43.8%)を生み出した。 2つの方向の女性下垂体(DeepSeek F/M 2.15:1, Gemini 1.34:1, Gemini 1.34:1)が認められた。 DeepSeekの方向性バイアスは、低結果リンクのキャリブレーションギャップ(MIMIC-IVの入院に対する0.013)、グループ内キャリブレーションとペア間の反事実不変性の間のチョルデコバスタイルの解離と共存していた。 デモグラフィック・ブラインドはジェミニのフリップレートを0.5%に減らし、年齢保存のブラインド変種はディープシークに残余のF/M 1.25を残して残余のチャネルとして年齢を含ませた。 チェーン・オブ・シントは5つのモデルの精度を低下させる。 Geminiでは、シグナルは複合名+ジェンダースワップで発生し、DeepSeekではジェンダートークンだけがそれを運ぶ。 EQUITRIAGEは、グループパリティ、反ファクト的不変性、性別のキャリブレーションが異なる公平性であり、介入効果はモデル依存であり、モデルごとの反ファクト的監査は臨床展開に先立って行われるべきであることを示した。

関連論文リスト

• Compared to What? Baselines and Metrics for Counterfactual Prompting [39.56472929066589]
  患者の性別を外科的に変化させると,MedQAの14.9%のフリップ率を予測する。 本稿では,目標介入下で観察される相違点と,パラフレーズ入力によって引き起こされる相違点を比較検討する枠組みを提案する。 一般モデル感度を考慮すると,これらの効果は大きく消散することがわかった。
  論文  参考訳（メタデータ） (2026-05-01T19:23:33Z)
• PsychBench: Auditing Epidemiological Fidelity in Large Language Model Mental Health Simulations [0.0]
  大きな言語モデルは、臨床訓練、研究、メンタルヘルスツールのために患者をシミュレートするためにますます多くデプロイされている。 LLM患者シミュレーションの最初の疫学的検査である PsychBench を紹介した。 モデルでは, 抽出した個体群を誤って表現しながら, 臨床的に有意な個体を生成できることが示唆された。
  論文  参考訳（メタデータ） (2026-04-19T10:05:25Z)
• How Independent are Large Language Models? A Statistical Framework for Auditing Behavioral Entanglement and Reweighting Verifier Ensembles [46.63622714488747]
  共有事前学習データ、蒸留、アライメントパイプラインは、隠れた振る舞い依存、潜伏絡みを誘導することができる。 実際には、これは相関した推論パターンと同期された障害として現れます。 ブラックボックス言語モデル間の行動絡みを監査するための統計的枠組みを開発する。
  論文  参考訳（メタデータ） (2026-04-08T23:32:06Z)
• Robust Fair Disease Diagnosis in CT Images [6.957497306200416]
  クラス不均衡とグループアンダー表現はしばしば一致し、複合的な障害モードを生み出します。 この問題の両軸を対象とする2段階の目標を提案する。 Kinetics-400で事前訓練した3D ResNet-18を用いたFair Disease Diagnosisベンチマークについて検討した。
  論文  参考訳（メタデータ） (2026-04-08T03:37:44Z)
• FairMed-XGB: A Bayesian-Optimised Multi-Metric Framework with Explainability for Demographic Equity in Critical Healthcare Data [1.7915158401181968]
  批判的ケア設定にデプロイされた機械学習モデルは、人口統計バイアス、特に性別格差を示す。 本稿では,ジェンダーベースの予測バイアスを体系的に検出し緩和する新しいフレームワークであるFairMed-XGBを紹介する。 FairMed-XGBは、公平な臨床試験のための堅牢で解釈可能で倫理的に整合したソリューションを提供する。
  論文  参考訳（メタデータ） (2026-03-16T07:57:40Z)
• Evaluating the Presence of Sex Bias in Clinical Reasoning by Large Language Models [0.5872014229110214]
  大規模言語モデル(LLM)は、ドキュメント、教育、臨床決定支援のための医療にますます組み込まれている。 本研究では,現代LPMが臨床推論における性差を示し,モデル構成がこれらの行動にどのように影響するかを検討した。
  論文  参考訳（メタデータ） (2026-02-04T10:21:38Z)
• Transparent Early ICU Mortality Prediction with Clinical Transformer and Per-Case Modality Attribution [42.85462513661566]
  ICU滞在後48時間から, 生理的時系列測定と非構造的臨床記録とを融合した, 軽量で透明なマルチモーダルアンサンブルを提案する。 ロジスティック回帰モデルは、バイタル用双方向LSTMとノート用微調整された臨床ModernBERT変換器の2つのモード固有モデルからの予測を組み合わせる。 MIMIC-IIIベンチマークでは、遅延融合アンサンブルは、よく校正された予測を維持しながら、最高の単一モデルに対する差別を改善する。
  論文  参考訳（メタデータ） (2025-11-19T20:11:49Z)
• MeCaMIL: Causality-Aware Multiple Instance Learning for Fair and Interpretable Whole Slide Image Diagnosis [40.3028468133626]
  MIL(Multiple Case Learning)は、コンピュータ病理学における全スライド画像(WSI)解析の主流パラダイムとして登場した。 因果関係を意識したMILフレームワークである textbfMeCaMIL は、構造化因果グラフを通じて、階層的共同創設者を明示的にモデル化する。 MeCaMILは優れた公正性を達成する -- 人口格差の分散は、属性全体の平均で65%以上減少する。
  論文  参考訳（メタデータ） (2025-11-14T06:47:21Z)
• MEDEQUALQA: Evaluating Biases in LLMs with Counterfactual Reasoning [7.167933033102407]
  重篤な症状と症状を一定に保ちながら,患者代名詞のみを摂動する反ファクト・ベンチマークであるMEDEQUALQAを紹介する。 我々は、GPT-4.1モデルを評価し、代名詞の変種間の安定性を測定するために、推論トレース間のセマンティックテキスト類似性(STS)を計算する。 以上の結果から,総じて高い類似性(平均STS >0.80)を示した。
  論文  参考訳（メタデータ） (2025-10-09T22:12:58Z)
• Bias in Gender Bias Benchmarks: How Spurious Features Distort Evaluation [116.86965910589775]
  対象物の10%だけをマスクしたり、背景が弱くぼやけたりといった、最小限の摂動でさえ、バイアススコアを劇的に変える可能性がある。 これは、現在のバイアス評価がモデル応答を、性別バイアスよりも刺激的な特徴に反映していることを示唆している。
  論文  参考訳（メタデータ） (2025-09-09T11:14:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。