論文の概要: One note in three: a verified census of three deployed AI scribes, and the instrument that counted it
- arxiv url: http://arxiv.org/abs/2608.31017v1
- Date: Mon, 31 Aug 2026 16:00:27 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-01 18:31:31.496615
- Title: One note in three: a verified census of three deployed AI scribes, and the instrument that counted it
- Title(参考訳): 3つに1つの注意: 3つのデプロイされたAIスクリプティングの検証された国勢調査と、それを数えた楽器
- Abstract要約: 私たちは、同じ142のコンサルティングで3人の商用AIスクリプタを監査しました。
重要なフィルタをクリアする5,898個のモデルが2つのモデルからなる対向パネルに到達した。
3分の1のメモは、アレルギーや薬物情報に集中して、確認された失敗をもたらす。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Ambient AI scribes draft clinical notes under the reassurance that a clinician signs every note. We audited three commercial AI scribes on the same 142 consultations: 565 notes from recorded UK primary-care and US ambulatory encounters plus authored scenarios. Twelve discovery passes proposed 13,678 candidate errors; the 5,898 clearing an importance filter went to an adversarial panel of two models from different families, each told to refute what it could, and 618 survived. One note in three (31.3% [27.0, 35.6]) carries a verified failure, concentrated in allergy and medication information, invented patient identity, and history written up as examination on telephone consultations that can contain none. No product was given a patient record; setting aside the two classes a record would have prefilled, invented identity and dates, the rate is 24.8% [20.8, 29.0]. One failure mode did not fit our scheme, drawn from published scribe-error taxonomies: a treatment the clinician retracts, recorded as delivered care. Two clinicians adjudicated blind, disjoint samples: a physician author upheld 20 of 21 findings (95.2% [77.3, 99.2]) and an independent clinician, not an author, 12 of 12 ([75.8, 100]); both judged every sampled refusal genuine. A failure rate depends on the instrument as much as the scribes. With model, evidence and settings fixed, the review instruction alone moves the share of candidates verified from 9.3% to 79.0%, and the reviewing family moves it too: alone at that instruction the gentler flags 54.8% of notes against 27.8%. Between 28% and 97% of sampled notes carry a failure depending on the standard. Published audits disagree among themselves by a margin instrument differences alone can produce: omission is 54-86% of their errors against our 23.1%. We release all 618 findings with transcript-side evidence, every prompt and model version, and the re-runnable pipeline.
- Abstract(参考訳): Ambient AIは、クリニックがすべてのノートに署名する保証の下で、ドラフト臨床ノートを書き込む。
私たちは、同じ142のコンサルテーションで、3つの商用AIのスクリプターを監査しました。
重要なフィルターをクリアする5,898個は、異なる家族の2つのモデルからなる敵パネルに送られ、それぞれにそれを否定するよう指示され、618個が生き残った。
3分の1(31.3% [27.0, 35.6])のメモには、アレルギーや薬物情報に集中し、患者のアイデンティティを発明し、電話相談の検査として書かれた歴史が記録されている。
2つのクラスを別にすれば、レコードはプリフィルされ、発明されたアイデンティティと日付であり、24.8%[20.8, 29.0]である。
1つの障害モードは、報告されたクリニカル・リトラクション(クリニカル・リトラクション)をケアとして記録した、クリニカル・リトラクション(英語版)の治療法から引き出された我々の計画に適合しなかった。
医師は21例中20例 (95.2% [77.3, 99.2]) と独立した臨床医で、著者ではなく12例 ([75.8, 100]) であった。
失敗率は、スクリプティングと同等に楽器に依存する。
モデル、エビデンス、設定の修正により、審査指示だけで検証された候補者のシェアを9.3%から79.0%に、審査家族もそれを移動させる。
サンプルノートの28%から97%は、標準によっては失敗している。
公表された監査は、利益率と利益率の差だけでは一致しない: 欠落率は、我々の23.1%に対する54-86%である。
我々は618の発見を全てリリースし、書き起こし側のエビデンス、すべてのプロンプトとモデルバージョン、そして再実行可能なパイプラインを公開します。
関連論文リスト
- PaperDoctor: Evidence-Grounded and Actionable Feedback for Scientific Papers in Progress [130.58520199343707]
PaperDoctorは,3つの重要なイノベーションを備えた,サブミッション前のフィードバックのためのエージェントフレームワークである。
まず、全体論的階層的なフレームワークは、書き込み、レイアウト、参照、コード、理論、先行作業、実験を評価します。
第二に、各発見には、観察、文、方程式、コードラインなどの特定の証拠へのポインタ、修正提案が含まれる。
第3に、PaperDoctorはクレームの重要性と計算予算に基づいて実験を選択的に再構築し、再実行する。
論文 参考訳(メタデータ) (2026-09-15T11:08:11Z) - DementiaCare-Bench: A Modality-Validated Video Benchmark [83.92703885588868]
認知症は世界中で推定5700万人に影響を与える。
ほとんどの家族にとって、ケアの最も難しい部分は記憶喪失ではなく、認知症の行動や心理的症状である。
DementiaCare-Bench: 9つのBPSDカテゴリの94クリップに区切られた、プロのケア用トレーニングビデオ56本を提示する。
論文 参考訳(メタデータ) (2026-09-11T14:52:49Z) - Marginal Fidelity Does Not Establish User Simulation in Demographic Synthetic Survey Panels: Response Contracts, Support Collapse and Conditioning Failure [51.736723807086385]
人口密着協定は、個別のシミュレーションの証拠ではなく、エスカレーション契約の証拠であり、シミュレーションされた回答者なしで得られる推定値である。
9つのアライメントされたモデルバッテリペアでは、非個人個体数のクエリの平均は6.27 MAE対12.39であり、9つの比較すべてで勝利する。
論文 参考訳(メタデータ) (2026-09-07T10:22:22Z) - VeriPhy: Agentic Physical Reasoning for World Model Evaluation and Refinement [57.86962208273888]
テキストのみのプランナが入力された物理義務にプロンプトをコンパイルする監査可能な物理検証システムを提案する。
それぞれのアクションは、ペイロードがタイプされた測定か、明示的にタグ付けされた学習状態である証明付きエビデンスレコードを返す。
我々は, 実発生障害を即時参照, 空間, 時間でローカライズする, 1500クリックの欠陥記録のコーパスにおいて, 評価をアンロックする。
論文 参考訳(メタデータ) (2026-09-02T20:36:45Z) - LLM Judges Verify Presence, Not Absence: Omission Blindness in AI Clinical Notes and What Recovers It [0.0]
Ambient AIは、ドラフト臨床ノートを書き、公開監査では、主なエラーは欠落である。
私たちのベンチマークには、監査済みのファクトシートから500個のルリックエラーノートペアがあります。
シングルノートでは、完璧なノートよりも確実にデザインフラグが省略されることはない。
論文 参考訳(メタデータ) (2026-08-31T15:59:54Z) - SDoH-Aware Narrative Anchoring Bias in Medical LLMs for Trustworthy Clinical Decision Support [0.0]
本稿は,SDoHを意識したナラティブアンカーバイアスとしてリスクを評価する。
私たちは,NarrativeShield SDoH MedQAという医療質問応答データセットを使用している。
最終実験では300の臨床ケースを使用し、8,100のモデル応答を生成する。
論文 参考訳(メタデータ) (2026-08-24T04:58:32Z) - Whose doctor does the AI recommend? An algorithm audit of reputation and demographic signals in large language model-assisted physician choice [0.0]
患者は医師が見る大きな言語モデル(LLM)アシスタントをますます求めている。
本稿では,これらの推奨事項を因果的にどう扱うか,あらかじめ特定したランダム化アルゴリズム監査について報告する。
論文 参考訳(メタデータ) (2026-08-14T15:39:10Z) - Auditable agentic AI for evidence-grounded thyroid ultrasound diagnosis and reporting [59.709162055944915]
ThyroidXAgentは、特殊な診断ツールをコーディネートし、その出力を監査可能なケースレベルの証拠記録として保存するエージェントAIシステムである。
NHC-MISD-TUSコホート内35施設8,721件を含む,重複しない28,458件の検査を行った。
セグメンテーションでは平均Diceスコアが87.21パーセント、良悪性分類では平均AUROCが0.9466だった。
論文 参考訳(メタデータ) (2026-08-12T21:02:59Z) - MedVIGIL: Evaluating Trustworthy Medical VLMs Under Broken Visual Evidence [24.517280048376758]
medvigilは4つの公開医療用VQAソースから作成された300ケースの評価スイートである。
あらゆるゴールド回答、拒絶オプション、候補答えセット、パラフレーズ、虚偽の前提トラップ、ROIボックス、臨床リスクレベルが臨床著者によって作成される。
メドビニル複合スコア(MCS)に要約した7つの正当性条件監査指標を報告する。
独立した放射線学者は、静電気障害率5.8%でMCS 83.3をスコアし、14.1ポイントの複合ヘッドルームを最強の監査モデルの上に残した。
論文 参考訳(メタデータ) (2026-05-08T15:55:30Z) - Same Verdict, Different Reasons: LLM-as-a-Judge and Clinician Disagreement on Medical Chatbot Completeness [49.2667937337333]
不完全な患者の医療反応を検出するために,この仮定をストレステストする。
我々は,2つの臨床診断データセットにわたる3つの粒度(General-Likert,Analytical-Rubric,Dynamic-Checklist)と3つのバックボーンモデルを評価する。
論文 参考訳(メタデータ) (2026-03-26T19:01:55Z) - PanCanBench: A Comprehensive Benchmark for Evaluating Large Language Models in Pancreatic Oncology [48.732366302949515]
大規模言語モデル(LLM)は、標準化された検査において専門家レベルの性能を達成したが、複数の選択精度は現実の臨床的有用性や安全性を十分に反映していない。
我々は、未確認患者の質問に対して、専門家のルーブリックを作成するための、ループ内人間パイプラインを開発した。
LLM-as-a-judge フレームワークを用いて,22のプロプライエタリおよびオープンソース LLM の評価を行い,臨床完全性,事実精度,Web-search 統合について検討した。
論文 参考訳(メタデータ) (2026-03-02T00:50:39Z) - Evaluating Generative AI as an Educational Tool for Radiology Resident Report Drafting [1.5457333450799497]
本研究は,HIPAA 準拠の GPT-4o システムを用いて,実地臨床環境において住民が作成した乳房画像報告を自動的にフィードバックするシステムについて検討した。
1) キー発見の欠落または追加,(2) 技術的記述子の誤用または欠落,(3) 結果と一致しない最終評価の3つの一般的な誤り型が同定された。
GPT-4oは、90.5%、78.3%、90.4%のエラータイプで、コンセンサスに強く同意している。
論文 参考訳(メタデータ) (2025-09-22T20:51:09Z) - Medical Hallucinations in Foundation Models and Their Impact on Healthcare [71.15392179084428]
基礎モデルの幻覚は自己回帰訓練の目的から生じる。
トップパフォーマンスモデルは、チェーン・オブ・シークレット・プロンプトで強化された場合、97%の精度を達成した。
論文 参考訳(メタデータ) (2025-02-26T02:30:44Z) - Impact of Large Language Model Assistance on Patients Reading Clinical Notes: A Mixed-Methods Study [46.5728291706842]
臨床記録をより読みやすくするために,大言語モデル(LLM)を用いた患者対応ツールを開発した。
乳がんの既往歴のある患者から寄贈された臨床記録と臨床医からの合成ノートを用いて,本ツールの試験を行った。
論文 参考訳(メタデータ) (2024-01-17T23:14:52Z) - Human Evaluation and Correlation with Automatic Metrics in Consultation
Note Generation [56.25869366777579]
近年,機械学習モデルによる臨床相談ノートの作成が急速に進んでいる。
5人の臨床医が57件のモック・コンサルテーションを聴き、自作のノートを書き、自動的に生成されたノートを編集し、全てのエラーを抽出する、広範囲にわたる人的評価研究を行った。
単純な文字ベースのLevenshtein距離測定は、BertScoreのような一般的なモデルベースの測定値に比較して、同等に動作します。
論文 参考訳(メタデータ) (2022-04-01T14:04:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。