論文の概要: Building Trust in Clinical LLMs: Bias Analysis and Dataset Transparency

• arxiv url: http://arxiv.org/abs/2510.18556v1
• Date: Tue, 21 Oct 2025 12:08:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-10-25 03:08:13.460118
• Title: Building Trust in Clinical LLMs: Bias Analysis and Dataset Transparency
• Title（参考訳）: 臨床LLMにおける信頼の構築:バイアス分析とデータセットの透明性
• Authors: Svetlana Maslenkova, Clement Christophe, Marco AF Pimentel, Tathagata Raha, Muhammad Umar Salman, Ahmed Al Mahrooqi, Avani Gupta, Shadab Khan, Ronnie Rajan, Praveenkumar Kanithi,
• Abstract要約: 臨床言語モデルにおける下流バイアスの詳細な分析について述べる。 我々は、民族、性別、年齢など、多様な人口集団にまたがる異なるオピオイド処方の傾向に注目した。 HC4: Healthcare Comprehensive Commons Corpusを紹介します。
• 参考スコア（独自算出の注目度）: 3.097915343305639
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models offer transformative potential for healthcare, yet their responsible and equitable development depends critically on a deeper understanding of how training data characteristics influence model behavior, including the potential for bias. Current practices in dataset curation and bias assessment often lack the necessary transparency, creating an urgent need for comprehensive evaluation frameworks to foster trust and guide improvements. In this study, we present an in-depth analysis of potential downstream biases in clinical language models, with a focus on differential opioid prescription tendencies across diverse demographic groups, such as ethnicity, gender, and age. As part of this investigation, we introduce HC4: Healthcare Comprehensive Commons Corpus, a novel and extensively curated pretraining dataset exceeding 89 billion tokens. Our evaluation leverages both established general benchmarks and a novel, healthcare-specific methodology, offering crucial insights to support fairness and safety in clinical AI applications.
• Abstract（参考訳）: 大規模言語モデルは医療に変革的ポテンシャルを提供するが、その責任と公平な開発は、トレーニングデータの特徴がモデル行動にどのように影響するかを、より深く理解することに依存している。 データセットのキュレーションとバイアス評価の現在のプラクティスは、しばしば必要な透明性を欠いている。 本研究では, 臨床言語モデルにおける下流バイアスの可能性について, 民族, 性別, 年齢などの多様な人口集団にまたがる差分オピオイド処方の傾向に着目し, 詳細な分析を行った。 この調査の一環として, HC4: Healthcare Comprehensive Commons Corpusを紹介した。 我々の評価は、確立された一般的なベンチマークと、医療特有の方法論の両方を活用し、臨床AIアプリケーションにおける公正性と安全性をサポートする重要な洞察を提供する。

関連論文リスト

• Medical Reasoning in the Era of LLMs: A Systematic Review of Enhancement Techniques and Applications [59.721265428780946]
  医学における大きな言語モデル(LLM)は印象的な能力を実現しているが、体系的で透明で検証可能な推論を行う能力に重大なギャップが残っている。 本稿は、この新興分野に関する最初の体系的なレビューを提供する。 本稿では,学習時間戦略とテスト時間メカニズムに分類した推論強化手法の分類法を提案する。
  論文  参考訳（メタデータ） (2025-08-01T14:41:31Z)
• Uncertainty-Driven Expert Control: Enhancing the Reliability of Medical Vision-Language Models [52.2001050216955]
  既存の方法は、モデル構造を調整したり、高品質なデータで微調整したり、好みの微調整によって、医療ビジョン言語モデル(MedVLM)の性能を向上させることを目的としている。 我々は,MedVLMと臨床専門知識の連携を図るために,Expert-Controlled-Free Guidance (Expert-CFG) という,ループ内のエキスパート・イン・ザ・ループフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-07-12T09:03:30Z)
• Predictive Representativity: Uncovering Racial Bias in AI-based Skin Cancer Detection [0.0]
  本稿では,予測表現性(PR)の概念を紹介する。 PRは、データセットの構成から成果レベルのエクイティへと焦点をシフトします。 解析の結果,皮膚光タイプによる性能の相違が明らかとなった。
  論文  参考訳（メタデータ） (2025-07-10T22:21:06Z)
• Bias in Large Language Models Across Clinical Applications: A Systematic Review [0.0]
  大規模言語モデル(LLM)は、医療に急速に統合され、様々な臨床業務を強化することを約束している。 本研究は, LLMの有病率, 出所, 徴候, 臨床的意義について検討する。
  論文  参考訳（メタデータ） (2025-04-03T13:32:08Z)
• Systematic Literature Review on Clinical Trial Eligibility Matching [0.24554686192257422]
  レビューでは、説明可能なAIと標準化されたオントロジーがクリニックの信頼を高め、採用を広げる方法が強調されている。 臨床治験採用におけるNLPの変革的ポテンシャルを十分に実現するためには、高度な意味的および時間的表現、拡張されたデータ統合、厳密な予測的評価のさらなる研究が必要である。
  論文  参考訳（メタデータ） (2025-03-02T11:45:50Z)
• SemioLLM: Evaluating Large Language Models for Diagnostic Reasoning from Unstructured Clinical Narratives in Epilepsy [45.2233252981348]
  臨床知識を符号化するための言語モデル(LLM)が示されている。 6つの最先端モデルをベンチマークする評価フレームワークであるSemioLLMを提案する。 ほとんどのLSMは、脳内の発作発生領域の確率的予測を正確かつ確実に生成できることを示す。
  論文  参考訳（メタデータ） (2024-07-03T11:02:12Z)
• A Toolbox for Surfacing Health Equity Harms and Biases in Large Language Models [20.11590976578911]
  大規模言語モデル(LLM)は、複雑な健康情報のニーズを満たすことを約束すると同時に、健康格差を悪化させる可能性がある。 エクイティ関連モデル失敗の信頼性評価は、ヘルスエクイティを促進するシステムを開発するための重要なステップである。 医学的問題に対するLLMによる長期的回答において、株式関連害を生じさせる可能性のあるバイアスを克服するためのリソースと方法論を提示する。
  論文  参考訳（メタデータ） (2024-03-18T17:56:37Z)
• Evaluating the Fairness of the MIMIC-IV Dataset and a Baseline Algorithm: Application to the ICU Length of Stay Prediction [65.268245109828]
  本稿では、MIMIC-IVデータセットを用いて、滞在時間を予測するXGBoostバイナリ分類モデルにおける公平性とバイアスについて検討する。 この研究は、人口統計属性にわたるデータセットのクラス不均衡を明らかにし、データ前処理と特徴抽出を採用する。 この論文は、偏見を緩和するための公正な機械学習技術と、医療専門家とデータサイエンティストの協力的な努力の必要性について結論付けている。
  論文  参考訳（メタデータ） (2023-12-31T16:01:48Z)
• Large Language Models for Healthcare Data Augmentation: An Example on Patient-Trial Matching [49.78442796596806]
  患者-心電図マッチング(LLM-PTM)のための革新的なプライバシ対応データ拡張手法を提案する。 本実験では, LLM-PTM法を用いて平均性能を7.32%向上させ, 新しいデータへの一般化性を12.12%向上させた。
  論文  参考訳（メタデータ） (2023-03-24T03:14:00Z)
• Estimating and Improving Fairness with Adversarial Learning [65.99330614802388]
  本研究では,深層学習に基づく医療画像解析システムにおけるバイアスの同時緩和と検出を目的としたマルチタスク・トレーニング戦略を提案する。 具体的には,バイアスに対する識別モジュールと,ベース分類モデルにおける不公平性を予測するクリティカルモジュールを追加することを提案する。 大規模で利用可能な皮膚病変データセットのフレームワークを評価します。
  論文  参考訳（メタデータ） (2021-03-07T03:10:32Z)
• Clinical Outcome Prediction from Admission Notes using Self-Supervised Knowledge Integration [55.88616573143478]
  臨床テキストからのアウトカム予測は、医師が潜在的なリスクを見落としないようにする。 退院時の診断,手術手順,院内死亡率,長期予測は4つの一般的な結果予測対象である。 複数の公開資料から得られた患者結果に関する知識を統合するために,臨床結果の事前学習を提案する。
  論文  参考訳（メタデータ） (2021-02-08T10:26:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。