論文の概要: Demographic Injection in Medical Language Models under Diversity, Equity, and Inclusion Prompts

• arxiv url: http://arxiv.org/abs/2608.15254v1
• Date: Sat, 15 Aug 2026 14:18:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-18 19:59:03.239942
• Title: Demographic Injection in Medical Language Models under Diversity, Equity, and Inclusion Prompts
• Title（参考訳）: 多様性, 等価性, 包括的プロンプト下における医療用言語モデルへのデモグラフィー注入
• Abstract要約: 医学的問題に付加された1文のDIEプロンプトは、モデルに、これまで述べたことのない患者の属性を追加する。 47のモデルと4つの医療ベンチマーク、376,000のレスポンスが検証されたモデル・ジャッジ・パイプラインによって評価され、1つのDEIプロンプトは注入率を0.7%から33.1%に引き上げる。
• 参考スコア（独自算出の注目度）: 2.4171019220503402
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Clinical-AI guidance increasingly recommends prompting language models to reason with attention to diversity, equity, and inclusion (DEI). We measure a side effect that misrepresents patients: a one-sentence DEI prompt appended to a medical question leads models to add patient demographic attributes (race, socioeconomic status, sex) the question never stated, in effect rewriting who the patient is. We call this demographic injection. Across 47 models, four medical benchmarks, and 376,000 responses scored by a validated model-judge pipeline, a single DEI prompt raises the injection rate from 0.7% to 33.1% (47x) in all 47 of 47 models, attributable to the equity content rather than to added length (18x above a length-matched control; p=1.4x10^-14). Most added content is a general population statement that leaves the answer unchanged, but a smaller subset attaches an attribute to the specific patient or changes the selected option (0.25-2.4% of responses, 99.8% toward the incorrect option), where the invented demographic changes the answer the model recommends. Phrasing scales the effect from 14% to 56%. DEI prompts are just one example of a more general mechanism. Any instruction that nudges how a model reasons can make it add unrequested details, including details about the patient. Flagged outputs are treated as model errors under study, not clinical guidance.
• Abstract（参考訳）: 臨床AIガイダンスは、多様性、株式、包摂性(DEI)に注目して言語モデルに推論を促すことをますます推奨している。 医学的問題に付加された1文のDEIプロンプトは、患者人口統計特性(人種、社会経済的地位、性別)をモデルに追加し、実際に患者が誰であるかを書き換える。 これを人口統計注入と呼ぶ。 47モデル、4つの医療ベンチマーク、376,000の反応が検証されたモデル・ジャッジ・パイプラインによって測定され、1つのDIプロンプトは47モデル中の47モデル全てにおいて、注入率を0.7%から33.1%(47x)に引き上げる。 しかし、小さなサブセットは特定の患者に属性を付けるか、選択された選択肢を変更する(0.25-2.4%、誤った選択肢に向かって99.8%)。 プラーシングは効果を14%から56%に拡大する。 DEIプロンプトは、より一般的なメカニズムの1つの例にすぎない。 モデル理由がどのようにして、患者の詳細を含む、要求されない詳細を追加するのかを判断するインストラクション。 フラッグアウトプットは、臨床ガイダンスではなく、研究中のモデルエラーとして扱われる。

関連論文リスト

• DementiaCare-Bench: A Modality-Validated Video Benchmark [83.92703885588868]
  認知症は世界中で推定5700万人に影響を与える。 ほとんどの家族にとって、ケアの最も難しい部分は記憶喪失ではなく、認知症の行動や心理的症状である。 DementiaCare-Bench: 9つのBPSDカテゴリの94クリップに区切られた、プロのケア用トレーニングビデオ56本を提示する。
  論文  参考訳（メタデータ） (2026-09-11T14:52:49Z)
• Whose doctor does the AI recommend? An algorithm audit of reputation and demographic signals in large language model-assisted physician choice [0.0]
  患者は医師が見る大きな言語モデル(LLM)アシスタントをますます求めている。 本稿では,これらの推奨事項を因果的にどう扱うか,あらかじめ特定したランダム化アルゴリズム監査について報告する。
  論文  参考訳（メタデータ） (2026-08-14T15:39:10Z)
• When Chain-of-Thought Backfires: Evaluating Prompt Sensitivity in Medical Language Models [2.064612766965483]
  MedMCQA(4,183質問)とPubMedQA(1,000質問)でMedGemma(4Bおよび27Bパラメータ)を評価する。 実験の結果,いくつかの知見が得られた。
  論文  参考訳（メタデータ） (2026-03-26T23:04:20Z)
• Explainable Admission-Level Predictive Modeling for Prolonged Hospital Stay in Elderly Populations: Challenges in Low- and Middle-Income Countries [65.4286079244589]
  長期滞在期間 (pLoS) は, 院内感染のリスクに関連する重要な要因である。 入院レベルの患者と病院の診療データを用いて, pLosの予測モデルを開発し, 解説する。
  論文  参考訳（メタデータ） (2026-01-07T23:35:24Z)
• MedVoiceBias: A Controlled Study of Audio LLM Behavior in Clinical Decision-Making [24.535496581050094]
  大規模言語モデルは、テキストベースのインターフェースから臨床環境でのオーディオインタラクションへ移行する。 我々はこれらのモデルを170の症例で評価し、それぞれ36の異なる音声プロファイルから音声に合成した。
  論文  参考訳（メタデータ） (2025-11-10T00:44:37Z)
• Medical Hallucinations in Foundation Models and Their Impact on Healthcare [71.15392179084428]
  基礎モデルの幻覚は自己回帰訓練の目的から生じる。 トップパフォーマンスモデルは、チェーン・オブ・シークレット・プロンプトで強化された場合、97%の精度を達成した。
  論文  参考訳（メタデータ） (2025-02-26T02:30:44Z)
• Personalized Prediction Models for Changes in Knee Pain among Patients with Osteoarthritis Participating in Supervised Exercise and Education [0.0]
  膝関節症(英語: Knee osteoarthritis, OA)は、運動性障害と生活の質を低下させる慢性疾患である。 OA症状の痛みと機能的制限を管理するための運動療法と患者教育のメリットが証明されているにもかかわらず、これらの戦略は、しばしば未利用である。 予測を改善するには、GLA:D以外の新しい変数が必要である。
  論文  参考訳（メタデータ） (2024-10-16T14:15:01Z)
• Equity in Healthcare: Analyzing Disparities in Machine Learning Predictions of Diabetic Patient Readmissions [2.321323878201932]
  本研究では,糖尿病患者に対して,機械学習(ML)モデルを用いて患者の入院容積を正確に予測する方法について検討した。 私たちはDeep Learning、Generalized Linear Models、Gradient Boosting Machines (GBM)、Naive Bayesといったモデルを比較しました。 GBMは84.3%のF1スコアと82.2%の精度で、人口統計学的に読み書きを正確に予測した。
  論文  参考訳（メタデータ） (2024-03-27T23:49:22Z)
• Robust and Interpretable Medical Image Classifiers via Concept Bottleneck Models [49.95603725998561]
  本稿では,自然言語の概念を用いた堅牢で解釈可能な医用画像分類器を構築するための新しいパラダイムを提案する。 具体的には、まず臨床概念をGPT-4から検索し、次に視覚言語モデルを用いて潜在画像の特徴を明示的な概念に変換する。
  論文  参考訳（メタデータ） (2023-10-04T21:57:09Z)
• Improving Selective Visual Question Answering by Learning from Your Peers [74.20167944693424]
  VQA(Visual Question Answering)モデルは、間違っていた場合の回答を控えるのに苦労する可能性がある。 本稿では,複数モーダル選択関数の学習におけるLearning from Your Peers (LYP) アプローチを提案する。 提案手法では,学習データの異なるサブセットに基づいて訓練されたモデルの予測を,選択的VQAモデルの最適化のターゲットとして利用する。
  論文  参考訳（メタデータ） (2023-06-14T21:22:01Z)
• What Do You See in this Patient? Behavioral Testing of Clinical NLP Models [69.09570726777817]
  本稿では,入力の変化に関する臨床結果モデルの振る舞いを評価する拡張可能なテストフレームワークを提案する。 私たちは、同じデータを微調整しても、モデル行動は劇的に変化し、最高のパフォーマンスのモデルが常に最も医学的に可能なパターンを学習していないことを示しています。
  論文  参考訳（メタデータ） (2021-11-30T15:52:04Z)
• Classification supporting COVID-19 diagnostics based on patient survey data [82.41449972618423]
  新型コロナウイルス患者の効果的なスクリーニングを可能にするロジスティック回帰とXGBoost分類器が作成された。 得られた分類モデルは、DECODEサービス(decode.polsl.pl)の基礎を提供し、COVID-19病患者のスクリーニング支援に役立てることができる。 このデータセットは、3,000以上のサンプルで構成されており、ポーランドの病院で収集されたアンケートに基づいている。
  論文  参考訳（メタデータ） (2020-11-24T17:44:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。