Fugu-MT 論文翻訳(概要): Counterfactual Auditing of Bias in Open-Source Large Language Models for Clinical Triage

論文の概要: Counterfactual Auditing of Bias in Open-Source Large Language Models for Clinical Triage

arxiv url: http://arxiv.org/abs/2610.01963v1
Date: Thu, 01 Oct 2026 16:17:43 GMT
ステータス: 翻訳完了
システム内更新日: 2026-10-03 01:19:24.271167
Title: Counterfactual Auditing of Bias in Open-Source Large Language Models for Clinical Triage
Title（参考訳）: オープンソース大規模言語モデルを用いた臨床トライアージにおけるバイアスの実態調査
Abstract要約: オープンソースの大規模言語モデル (LLMs) は、局所的およびプライバシ保護による臨床決定支援のためにますます検討されている。小児救急重症度指数(ESI)予測のための10個のオープンソースLCMの比較検討を行った。
参考スコア（独自算出の注目度）: 4.836986736624673
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Emergency department (ED) triage is a high-stakes prioritization task in which demographic, socioeconomic, and system-context information may improperly influence acuity assignment. Although open-source large language models (LLMs) are increasingly considered for local and privacy-preserving clinical decision support, it remains unclear how counterfactual bias varies across model families, sizes, medical-domain models, and domain-adapted models. We present a comparative counterfactual audit of ten open-source LLMs for pediatric Emergency Severity Index (ESI) prediction. Starting from real and handbook-style clinical vignettes, we construct paired counterfactual variants that change only one injected demographic, socioeconomic, healthcare-access, behavioral, social, or system-context variable while holding the clinical presentation fixed. Models include Qwen2.5-7B, Qwen2.5-14B-Instruct, a QLoRA fine-tuned Qwen2.5-7B, MedGemma variants, MedLLaMA2-7B, GPT-OSS-20B, and GPT-OSS-120B. We measure any counterfactual shift, undertriage, overtriage, shifts greater than one ESI level, mean shift, and mean absolute shift. Counterfactual sensitivity varied substantially and did not consistently decrease with larger model size or medical-domain pretraining. The fine-tuned Qwen2.5-7B showed the lowest overall sensitivity, with a 5.27% any-shift rate and mean absolute shift of 0.0534, versus 16.02% and 0.1706 for the base model. Several larger or medical-domain models showed more significant shifts. Stratified and correlation analyses further revealed clinically important directionality and shared failure patterns hidden by aggregate rates. These findings support counterfactual auditing as a lightweight, clinically interpretable framework for comparing fairness risks in open-source LLMs before clinical deployment.
Abstract（参考訳）: 救急部門(ED)トリアージ(英: Emergency Department)とは、人口統計学、社会経済学、システムコンテキストなどの情報が、アキューティの割り当てに不適切に影響を及ぼすような、高い優先順位付けタスクである。オープンソースの大規模言語モデル (LLMs) は, 局所的およびプライバシ保護による臨床的意思決定支援のためにますます検討されているが, モデルファミリ, サイズ, 医療ドメインモデル, ドメイン適応モデル間で, 反事実バイアスがどの程度異なるかは, いまだ不明である。小児救急重症度指数(ESI)予測のための10個のオープンソースLCMの比較検討を行った。実版,手帳型臨床ヴィグネットから始めて,臨床プレゼンテーションを固定したまま,1つの注入された人口,社会経済,医療アクセス,行動,社会,システムコンテキスト変数だけを変化させる対物変異体を構築した。 Qwen2.5-7B、Qwen2.5-14B-Instruct、QLoRAファインチューニングのQwen2.5-7B、MedGemma variants、MedLLaMA2-7B、GPT-OSS-20B、GPT-OSS-120Bなどである。対物シフト、アンダートリアージ、オーバートリアージ、ESIレベル以上のシフト、平均シフト、平均絶対シフトを測定します。因子感受性は著しく変化し, モデルサイズや医学領域の事前訓練で常に低下しなかった。微調整されたQwen2.5-7Bは、ベースモデルでは16.02%と0.1706に対して、いかなるシフトも5.27%、絶対シフトは0.0534であった。いくつかの大きなドメインまたは医療ドメインモデルは、より大きな変化を示した。階層化および相関解析により, 臨床的に重要な方向性と, 集合率で隠された共有障害パターンが明らかにされた。これらの知見は, 臨床展開前のオープンソースのLCMの公正性リスクを比較するための, 軽量かつ臨床的に解釈可能なフレームワークとして, 対人的監査を支援する。

関連論文リスト

Beyond Scalar Scores: Exploring LLM-based Metrics for Clinical Significance Evaluation in Radiology Reports [49.5225801722164]
既存のメトリクスは、医学的に根拠のないスカラーにレポートの品質を低下させることによって、この要件を曖昧にしている。テストベッドとしてReEvalMedベンチマークを用いて,この境界について検討し,計量レベルの臨床的意義を評価する。
論文参考訳（メタデータ） (2026-06-17T08:10:30Z)
PREBA: Surgical Duration Prediction via PCA-Weighted Retrieval-Augmented LLMs and Bayesian Averaging Aggregation [51.96735866702332]
PreBAはPCA重み付き検索とベイズ平均アグリゲーションを統合した検索拡張フレームワークである。例えば、PreBAはパフォーマンスを大幅に改善し、MAEを最大40%削減し、ゼロショット推論でR2を-0.13から0.62に引き上げる。
論文参考訳（メタデータ） (2026-02-27T07:19:23Z)
Measuring Stability Beyond Accuracy in Small Open-Source Medical Large Language Models for Pediatric Endocrinology [34.80893325510028]
小さなオープンソース医療用大規模言語モデル(LLM)は、低リソースのデプロイメントとより広範なアクセシビリティのための有望な機会を提供する。人体評価と臨床検査を併用して,6つの小さなオープンソース医療用LLMを評価した。
論文参考訳（メタデータ） (2025-12-26T14:30:53Z)
Developing Fairness-Aware Task Decomposition to Improve Equity in Post-Spinal Fusion Complication Prediction [3.860970992977915]
術後合併症予測のための公平性を考慮したマルチタスク学習フレームワークを提案する。 FAIR-MTLはデータ駆動型サブグループ推論機構を採用している。 AUCは0.86であり、75%の精度でシングルタスクベースラインを上回り、バイアスを大幅に低減する。
論文参考訳（メタデータ） (2025-11-29T19:06:07Z)
EchoBench: Benchmarking Sycophancy in Medical Large Vision-Language Models [82.43729208063468]
医療用LVLM(Large Vision-Language Models)の最近のベンチマークでは、信頼性と安全性を見越して、リーダボードの精度を強調している。ユーザが提供した情報を非批判的に反響させる傾向のモデルについて検討する。医療用LVLMの梅毒を系統的に評価するベンチマークであるEchoBenchを紹介する。
論文参考訳（メタデータ） (2025-09-24T14:09:55Z)
DeVisE: Behavioral Testing of Medical Large Language Models [14.832083455439749]
DeVisEは、きめ細かい臨床的理解を求めるための行動テストフレームワークである。我々はMIMIC-IVからICU排出音符のデータセットを構築した。汎用型および医療用微調整型にまたがる5種類のLSMについて検討した。
論文参考訳（メタデータ） (2025-06-18T10:42:22Z)
Fairness Evolution in Continual Learning for Medical Imaging [47.52603262576663]
本研究では、ドメイン固有の公平度指標を用いてタスク間でバイアスがどのように進化し、異なるCL戦略がこの進化にどのように影響するかを検討する。以上の結果から,擬似ラベルと擬似ラベルの学習は最適分類性能を実現するが,擬似ラベルの偏りは小さいことが示唆された。
論文参考訳（メタデータ） (2024-04-10T09:48:52Z)
SANSformers: Self-Supervised Forecasting in Electronic Health Records with Attention-Free Models [48.07469930813923]
本研究は,医療施設への患者訪問数を予測することにより,医療サービスの需要を予測することを目的とする。 SNSformerは、特定の帰納バイアスを設計し、EHRデータの特異な特徴を考慮に入れた、注意のない逐次モデルである。本研究は, 各種患者集団を対象とした医療利用予測の修正における, 注意力のないモデルと自己指導型事前訓練の有望な可能性について考察した。
論文参考訳（メタデータ） (2021-08-31T08:23:56Z)
EventScore: An Automated Real-time Early Warning Score for Clinical Events [3.3039612529376625]
臨床劣化を示す各種臨床事象の早期予測のための解釈可能なモデルを構築した。このモデルは2つのデータセットと4つの臨床イベントで評価される。私達のモデルは手動で記録された特徴を要求しないで完全に自動化することができます。
論文参考訳（メタデータ） (2021-02-11T11:55:08Z)
UNITE: Uncertainty-based Health Risk Prediction Leveraging Multi-sourced Data [81.00385374948125]
我々はUNcertaInTyベースのhEalth Risk Prediction(UNITE)モデルを提案する。 UNITEは、複数ソースの健康データを活用した正確な疾患リスク予測と不確実性推定を提供する。非アルコール性脂肪肝疾患(NASH)とアルツハイマー病(AD)の実態予測タスクにおけるUNITEの評価を行った。 UNITEはAD検出のF1スコアで最大0.841点、NASH検出のPR-AUCで最大0.609点を達成し、最高のベースラインで最大19%の高パフォーマンスを達成している。
論文参考訳（メタデータ） (2020-10-22T02:28:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。