論文の概要: Whose doctor does the AI recommend? An algorithm audit of reputation and demographic signals in large language model-assisted physician choice

• arxiv url: http://arxiv.org/abs/2608.14399v1
• Date: Fri, 14 Aug 2026 15:39:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-17 20:14:29.424004
• Title: Whose doctor does the AI recommend? An algorithm audit of reputation and demographic signals in large language model-assisted physician choice
• Title（参考訳）: AIはどの医師を推薦するのか? 大規模言語モデルによる医師選択における評価と人口統計信号のアルゴリズム監査
• Abstract要約: 患者は医師が見る大きな言語モデル(LLM)アシスタントをますます求めている。 本稿では,これらの推奨事項を因果的にどう扱うか,あらかじめ特定したランダム化アルゴリズム監査について報告する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Patients increasingly ask large language model (LLM) assistants which doctor to see, making these systems AI infomediaries: algorithms that intermediate one person's choice among other people and thereby decide, silently and at scale, which physicians become visible. We report a prespecified randomized algorithm audit of what causally moves those recommendations. Seven models (six open-weight; gpt-4o-mini) each chose among five synthetic family-medicine physician cards whose attributes were independently randomized across 3,024 choice sets, three patient personas, nine prompt paraphrases and nine experimental arms, yielding 40,068 scored responses; gender and ethnicity were signaled through names following correspondence-audit methodology. Reputation signals dominate: raising a rating from 3.9 to 4.7 increases choice probability by 31.4 percentage points (pp), and raising the fee from $90 to $190 lowers it by 20.0 pp. Demographic parity is rejected, but not in the direction human audit studies predict: female-signaled names gain 2.5 pp, and Hispanic-, South-Asian- and Black-signaled names gain 1.3-2.9 pp over White-signaled names, tilts worth $7-$14 per visit in fee-equivalent terms, and a content-free first-listed position is worth $11. Yet models mentioned gender or ethnicity in at most 0.03% of their stated reasons and abstained in 0.39% of trials, so these effects are invisible in the models' own explanations, and transparency obligations relying on model self-report would not detect them. One reasoning model failed the prespecified auditability gate outright. The frozen design makes the audit repeatable: any new model can be assessed against identical stimuli, making recurring behavioural audit, rather than self-reported explanation, the monitoring technology fit for purpose.
• Abstract（参考訳）: 患者は、医師が診る大きな言語モデル(LLM)アシスタントをますます求め、これらのシステムをAIインフォメーション(AIインフォメーション)にする: 他人の選択を仲介し、医師が目に見えるように、静かに、そして大規模に決定するアルゴリズム。 本稿では,これらの推奨事項を因果的にどう扱うか,あらかじめ特定したランダム化アルゴリズム監査について報告する。 7つのモデル (6つのオープンウェイト, gpt-4o-mini) は, それぞれ3,024個の選択セット, 3人の患者ペルソナ, 9人のプロンプト・パラフレーズ, 9人の実験用アームで独立にランダム化され, 40,068人の回答を得た。 評価を3.9から4.7に上げると、選択確率は31.4ポイント(pp)増加し、手数料を90ドルから190ドルに上げると20.0ppに低下する。 女性署名名称は2.5pp、ヒスパニック系、南アジア系、黒人署名名称は1.3-2.9pp、白人署名名称は7ドルから14ドル、コンテンツなしファーストリストは11.99ドルである。 しかし、モデルが表現された理由の少なくとも0.03%で性別や民族について言及し、0.39%の裁判で棄権されたため、これらの効果はモデル自身の説明には見えず、モデルの自己申告に依存する透明性義務はそれらを検出することはない。 理由の1つは、事前に規定された監査性ゲートが完全に失敗したことである。 凍結した設計では、監査を繰り返すことができる: どんな新しいモデルでも、同じ刺激に対して評価することができ、自己報告された説明ではなく、反復的な行動監査を行うことができる。

関連論文リスト

• Marginal Fidelity Does Not Establish User Simulation in Demographic Synthetic Survey Panels: Response Contracts, Support Collapse and Conditioning Failure [51.736723807086385]
  人口密着協定は、個別のシミュレーションの証拠ではなく、エスカレーション契約の証拠であり、シミュレーションされた回答者なしで得られる推定値である。 9つのアライメントされたモデルバッテリペアでは、非個人個体数のクエリの平均は6.27 MAE対12.39であり、9つの比較すべてで勝利する。
  論文  参考訳（メタデータ） (2026-09-07T10:22:22Z)
• One note in three: a verified census of three deployed AI scribes, and the instrument that counted it [0.0]
  私たちは、同じ142のコンサルティングで3人の商用AIスクリプタを監査しました。 重要なフィルタをクリアする5,898個のモデルが2つのモデルからなる対向パネルに到達した。 3分の1のメモは、アレルギーや薬物情報に集中して、確認された失敗をもたらす。
  論文  参考訳（メタデータ） (2026-08-31T16:00:27Z)
• Demographic Injection in Medical Language Models under Diversity, Equity, and Inclusion Prompts [2.4171019220503402]
  医学的問題に付加された1文のDIEプロンプトは、モデルに、これまで述べたことのない患者の属性を追加する。 47のモデルと4つの医療ベンチマーク、376,000のレスポンスが検証されたモデル・ジャッジ・パイプラインによって評価され、1つのDEIプロンプトは注入率を0.7%から33.1%に引き上げる。
  論文  参考訳（メタデータ） (2026-08-15T14:18:18Z)
• RareLens: Towards End-to-End Rare Disease Care via Aligning Divergent Large Language Model Reasoning [42.80742579670377]
  RareLensは、まれな疾患の軌跡全体にわたる臨床的意思決定を支援するシステムである。 RareBenchは、33のOrphanetカテゴリと7000以上の条件にまたがる157,525件の実際のデータセットである。 検診で0.917、診断と治療で65.5%、89.8%の成績を収めた。
  論文  参考訳（メタデータ） (2026-07-25T16:58:10Z)
• EQUITRIAGE: A Fairness Audit of Gender Bias in LLM-Based Emergency Department Triage [0.0]
  本稿では,救急部門における大規模言語モデル(LLM)の公平性監査であるEQUITRIAGEについて紹介する。 5つのモデルは全て、事前登録された5%の閾値を超えるフリップレートを生み出した。 グループパリティ、反事実的不変性、性別のキャリブレーションは、異なる公平性の性質である。
  論文  参考訳（メタデータ） (2026-05-05T17:20:55Z)
• Evaluation format, not model capability, drives triage failure in the assessment of consumer health AI [3.910019733981544]
  ChatGPT Healthは緊急事態の51.6%を減らし、消費者が直面するAIトリアージは安全リスクをもたらすと結論付けた。 5つのフロンティア LLM (GPT-5.2, Claude Sonnet 4.6, Claude Opus 4.6, Gemini 3 Flash, Gemini 3.1 Pro) を17-scenario部分レプリケーションバンク上でテストした。 見出しのアンダートリアージレートは評価形式に強く依存しており、デプロイされたトリアージの挙動を安定的に見積もってはならない。
  論文  参考訳（メタデータ） (2026-03-12T00:58:22Z)
• From Black Box to Glass Box: Cross-Model ASR Disagreement to Prioto Review in Ambient AI Scribe Documentation [43.148402136307716]
  異種ASRシステム間のクロスモデル不一致は、基準のない不確実性信号として機能する。 商用APIとオープンソースエンジンにまたがる8つのASRシステムを備えた,50の公開医療用オーディオクリップを転写した。 低アグリメント領域は内容の不一致に富み、高リスク質量のクインタイル全体では53.9%から73.9%に増加した。
  論文  参考訳（メタデータ） (2026-03-02T13:02:13Z)
• PanCanBench: A Comprehensive Benchmark for Evaluating Large Language Models in Pancreatic Oncology [48.732366302949515]
  大規模言語モデル(LLM)は、標準化された検査において専門家レベルの性能を達成したが、複数の選択精度は現実の臨床的有用性や安全性を十分に反映していない。 我々は、未確認患者の質問に対して、専門家のルーブリックを作成するための、ループ内人間パイプラインを開発した。 LLM-as-a-judge フレームワークを用いて,22のプロプライエタリおよびオープンソース LLM の評価を行い,臨床完全性,事実精度,Web-search 統合について検討した。
  論文  参考訳（メタデータ） (2026-03-02T00:50:39Z)
• Self-Transparency Failures in Expert-Persona LLMs: A Large-Scale Behavioral Audit [0.0]
  本研究では,ハイテイクドメインにおけるプロフェッショナルペルソナの割り当て時に,モデルが自己透明性を示すか否かを検討する。 ファイナンシャル・アドバイザー・ペルソナは最初のプロンプトで30.8%、ニューロサージョン・ペルソナはわずか3.5%だった。 これにより、仮説化された逆ゲルマン・アムネシア効果の前提条件が作成され、いくつかの領域における適切な開示により、ユーザーは高文脈への信頼を過度に一般化する。
  論文  参考訳（メタデータ） (2025-11-26T16:41:49Z)
• Benchmarking Reasoning Robustness in Large Language Models [76.79744000300363]
  新規データや不完全データでは,性能が著しく低下することがわかった。 これらの結果は、厳密な論理的推論に対するリコールへの依存を浮き彫りにした。 本稿では,情報不足によって引き起こされる幻覚を利用して推論ギャップを明らかにする,Math-RoBと呼ばれる新しいベンチマークを提案する。
  論文  参考訳（メタデータ） (2025-03-06T15:36:06Z)
• Medical Hallucinations in Foundation Models and Their Impact on Healthcare [71.15392179084428]
  基礎モデルの幻覚は自己回帰訓練の目的から生じる。 トップパフォーマンスモデルは、チェーン・オブ・シークレット・プロンプトで強化された場合、97%の精度を達成した。
  論文  参考訳（メタデータ） (2025-02-26T02:30:44Z)
• Llamas Know What GPTs Don't Show: Surrogate Models for Confidence Estimation [70.27452774899189]
  大規模言語モデル(LLM)は、ユーザを誤解させるのではなく、不正な例に対して低い信頼を示さなければならない。 2023年11月現在、最先端のLLMはこれらの確率へのアクセスを提供していない。 言語的信頼度と代理モデル確率を構成する最良の方法は、12データセットすべてに対して最先端の信頼度推定を与える。
  論文  参考訳（メタデータ） (2023-11-15T11:27:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。