論文の概要: A Computational Audit of Demographic Association Encoding in ClinicalBERT Language Predictions
- arxiv url: http://arxiv.org/abs/2606.14460v1
- Date: Fri, 12 Jun 2026 13:51:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-15 16:00:42.918552
- Title: A Computational Audit of Demographic Association Encoding in ClinicalBERT Language Predictions
- Title(参考訳): クリニカルバースト言語予測における復刻会エンコーディングの計算監査
- Authors: Kehinde Temitayo Soetan,
- Abstract要約: 臨床BERTにおける表現バイアスの体系的評価について述べる。
MIMIC-III放電サマリーを用いたBERTモデルの評価を行った。
統計学的に有意な32例のうち65.6%は観察されたコーパスの分布に矛盾し、黒人患者は80%、調査対象者の帰属率は87.5%まで上昇した。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Transformer-based clinical language models are increasingly integrated into high-stakes clinical decision support pipelines, yet the computational mechanisms through which demographic associations encoded in medical documentation propagate into model probability distributions remain empirically underspecified. We present a systematic computational audit of representational bias in ClinicalBERT (Alsentzer et al., 2019), a BERT-based model pretrained on MIMIC-III discharge summaries, employing two complementary probing methodologies: Log Probability Bias Analysis (LPBA), which quantifies demographic descriptor-induced shifts in masked token probability distributions across behavioral and evaluative semantic categories, and Masked Language Model-based analysis (MLM), which probes internal representational structure for demographic agency attribution encoding across 98 real clinical sentence templates and eight intersectional race-gender combinations. Corpus frequency analysis operationalizes the distinction between statistical disparity and bias amplification by benchmarking model outputs against empirical term frequencies in the MIMIC-III training corpus. Of 32 statistically significant findings, 65.6% contradict observed corpus distributions, rising to 80% for Black patients and 87.5% for agency attribution under MLM probing, providing direct empirical evidence that representational bias in ClinicalBERT operates predominantly through model-internal amplification rather than training data inheritance. Keywords: natural language processing, clinical documentation, algorithmic auditing, representational bias, health equity 1
- Abstract(参考訳): トランスフォーマーベースの臨床言語モデルは、ハイテイクな臨床決定支援パイプラインにますます統合されているが、医療文書に符号化された人口統計学的関連がモデル確率分布に伝播する計算メカニズムは、実証的に未特定のままである。
我々は,MIMIC-III放電サマリーに事前訓練されたBERTベースモデルであるCrystalBERT(Alsentzer et al , 2019)における表現バイアスの体系的な計算手法として,行動的および評価的セマンティクスカテゴリにまたがるマスク付きトークン確率分布の人口統計記述による変化を定量化するログ確率バイアス分析(LPBA)と,98の実クリニカルテキストテンプレートと8つの交叉レースジェンダーの組み合わせを符号化した人口統計機関の属性構造を探索するMasked Language Model-based Analysis(MLM)を提案する。
コーパス周波数解析は,MIMIC-III学習コーパスにおける経験的項周波数に対するモデル出力のベンチマークにより,統計的格差とバイアス増幅の区別を運用する。
統計学的に有意な32例のうち65.6%はコーパス分布に矛盾し、黒人患者は80%、MLM調査では87.5%に上昇した。
キーワード:自然言語処理、臨床ドキュメント、アルゴリズム監査、表現バイアス、ヘルスエクイティ1
関連論文リスト
- Towards Multidisciplinary Summarization of Hospital Stays: Efficient Sentence-Level Clinical Provenance Categorization [10.976481873409531]
本研究では,大規模言語モデル (LLM) の教師付き微調整 (SFT) を用いた臨床経験分類パイプラインを提案する。
2つのLlama-3モデルを2,002MIMIC-III(Adult ICU)コーパスであるMedSecIdに適応した。
モデル容量 (8B vs. 70B) と227文レベルのゴールド標準データセットを用いた定量化を行った。
論文 参考訳(メタデータ) (2026-06-01T16:57:51Z) - Automated ICD Classification of Psychiatric Diagnoses: From Classical NLP to Large Language Models [67.51123543731806]
メンタルヘルスは世界的な優先事項となり、臨床診断のコーディングにおける管理上の負担が大きくなった。
本研究では、自然言語処理(NLP)と機械学習(ML)技術を用いて、フリーテキスト記述を国際疾患分類(ICD)にマッピングすることで、精神医学的診断分析の自動化を提案する。
論文 参考訳(メタデータ) (2026-05-20T13:26:05Z) - Eligibility-Aware Evidence Synthesis: An Agentic Framework for Clinical Trial Meta-Analysis [49.83108591873481]
EligMetaはエージェントフレームワークで、自動トライアル発見と、資格を意識したメタ分析を統合する。
フレームワークは、目標トライアル間の人口アライメントを反映した類似性に基づく研究重量を計算し、適性基準を構造化する。
論文 参考訳(メタデータ) (2026-04-03T03:18:50Z) - Enhancing mortality prediction in cardiac arrest ICU patients through meta-modeling of structured clinical data from MIMIC-IV [0.0]
本研究では、構造化された臨床データと構造化されていない情報を統合する機械学習モデルを開発し、評価する。
機能選択にはLASSOとXGBoostを使用しました。
構造化データとテキスト入力を組み合わせた最終ロジスティック回帰モデルは、構造化データのみを使用する場合の0.753に対して、0.918のAUCを達成したが、相対的な改善は22%であった。
論文 参考訳(メタデータ) (2025-10-20T20:56:45Z) - Prismatic Synthesis: Gradient-based Data Diversification Boosts Generalization in LLM Reasoning [77.120955854093]
我々は,データ多様性が言語モデルにおける一般化の強力な予測因子であることを示す。
モデル誘起勾配のエントロピーを通して多様性を定量化する計量であるG-Vendiを導入する。
多様な合成データを生成するためのフレームワークであるPrismatic Synthesisを提案する。
論文 参考訳(メタデータ) (2025-05-26T16:05:10Z) - Enhancing In-Hospital Mortality Prediction Using Multi-Representational Learning with LLM-Generated Expert Summaries [3.5508427067904864]
ICU患者の院内死亡率(IHM)予測は、時間的介入と効率的な資源配分に重要である。
本研究は、構造化された生理データと臨床ノートをLarge Language Model(LLM)によって生成された専門家要約と統合し、IHM予測精度を向上させる。
論文 参考訳(メタデータ) (2024-11-25T16:36:38Z) - Debias-CLR: A Contrastive Learning Based Debiasing Method for Algorithmic Fairness in Healthcare Applications [0.17624347338410748]
異なる治療と戦うために,暗黙の処理内脱バイアス法を提案した。
心不全患者の臨床記録と診断基準,治療報告,生理的活力について検討した。
Debias-CLRは、性別や民族を嫌う場合に、SC-WEAT(Single-Category Word Embedding Association Test)の効果を減少させることができた。
論文 参考訳(メタデータ) (2024-11-15T19:32:01Z) - XAI for In-hospital Mortality Prediction via Multimodal ICU Data [57.73357047856416]
マルチモーダルICUデータを用いて病院内死亡率を予測するための,効率的で説明可能なAIソリューションを提案する。
我々は,臨床データから異種入力を受信し,意思決定を行うマルチモーダル・ラーニングを我々のフレームワークに導入する。
我々の枠組みは、医療研究において重要な要素の発見を容易にする他の臨床課題に容易に移行することができる。
論文 参考訳(メタデータ) (2023-12-29T14:28:04Z) - A Transformer-based representation-learning model with unified
processing of multimodal input for clinical diagnostics [63.106382317917344]
本稿では,マルチモーダル入力を統一的に処理する臨床診断支援として,トランスフォーマーを用いた表現学習モデルについて報告する。
統一モデルは, 肺疾患の同定において, 画像のみのモデル, 非統一型マルチモーダル診断モデルより優れていた。
論文 参考訳(メタデータ) (2023-06-01T16:23:47Z) - Auditing ICU Readmission Rates in an Clinical Database: An Analysis of
Risk Factors and Clinical Outcomes [0.0]
本研究では,30日間の読解問題における臨床データ分類のための機械学習パイプラインを提案する。
公正監査は、平等機会、予測パリティ、偽陽性率パリティ、偽陰性率パリティ基準の格差を明らかにする。
この研究は、人工知能(AI)システムのバイアスと公平性に対処するために、研究者、政策立案者、実践者の協力的努力の必要性を示唆している。
論文 参考訳(メタデータ) (2023-04-12T17:09:38Z) - A comprehensive comparative evaluation and analysis of Distributional
Semantic Models [61.41800660636555]
我々は、静的DSMによって生成されたり、BERTによって生成された文脈化されたベクトルを平均化して得られるような、型分布ベクトルの包括的評価を行う。
その結果、予測ベースモデルの優越性は現実よりも明らかであり、ユビキタスではないことが明らかとなった。
我々は認知神経科学からRepresentational similarity Analysis(RSA)の方法論を借りて、分布モデルによって生成された意味空間を検査する。
論文 参考訳(メタデータ) (2021-05-20T15:18:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。