論文の概要: SycoEval-EM: Sycophancy Evaluation of Large Language Models in Simulated Clinical Encounters for Emergency Care

• arxiv url: http://arxiv.org/abs/2601.16529v1
• Date: Fri, 23 Jan 2026 08:01:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-01-26 14:27:27.597543
• Title: SycoEval-EM: Sycophancy Evaluation of Large Language Models in Simulated Clinical Encounters for Emergency Care
• Title（参考訳）: SycoEval-EM:Sycophancy Evaluation of Large Language Models in Simulated Clinical Encounters for Emergency Care (特集 救急医療)
• Authors: Dongshen Peng, Yi Wang, Carl Preiksaitis, Christian Rose,
• Abstract要約: 大規模言語モデル (LLM) は, 臨床診断支援において有望であるが, 不適切な治療のために患者に圧力をかけるリスクがある。 シコエバルEM(SycoEval-EM)は,患者を説得し,頑健性を評価するマルチエージェント・シミュレーション・フレームワークである。
• 参考スコア（独自算出の注目度）: 2.2245087144264657
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) show promise in clinical decision support yet risk acquiescing to patient pressure for inappropriate care. We introduce SycoEval-EM, a multi-agent simulation framework evaluating LLM robustness through adversarial patient persuasion in emergency medicine. Across 20 LLMs and 1,875 encounters spanning three Choosing Wisely scenarios, acquiescence rates ranged from 0-100\%. Models showed higher vulnerability to imaging requests (38.8\%) than opioid prescriptions (25.0\%), with model capability poorly predicting robustness. All persuasion tactics proved equally effective (30.0-36.0\%), indicating general susceptibility rather than tactic-specific weakness. Our findings demonstrate that static benchmarks inadequately predict safety under social pressure, necessitating multi-turn adversarial testing for clinical AI certification.
• Abstract（参考訳）: 大規模言語モデル (LLM) は, 臨床診断支援において有望であるが, 不適切な治療のために患者に圧力をかけるリスクがある。 SycoEval-EMは, 救急医療における対人的患者説得によるLCM堅牢性の評価を行うマルチエージェント・シミュレーション・フレームワークである。 20個のLLMと1,875個のSchoosing Wiselyシナリオにまたがる遭遇は0-100\%であった。 モデルでは、オピオイド処方薬 (25.0\%) よりも画像要求 (38.8\%) の脆弱性が高く、モデル能力は頑丈さを予測できなかった。 すべての説得戦術は、戦術固有の弱点よりも一般的な感受性を示す(30.0-36.0.%)。 以上の結果から,静的なベンチマークでは社会的圧力下での安全性の予測が不十分であることが示唆された。

関連論文リスト

• DispatchMAS: Fusing taxonomy and artificial intelligence agents for emergency medical services [49.70819009392778]
  大規模言語モデル (LLM) とマルチエージェントシステム (MAS) は、ディスパッチを増強する機会を提供する。 本研究の目的は,現実的なシナリオをシミュレートする分類基盤型マルチエージェントシステムの開発と評価である。
  論文  参考訳（メタデータ） (2025-10-24T08:01:21Z)
• EchoBench: Benchmarking Sycophancy in Medical Large Vision-Language Models [82.43729208063468]
  医療用LVLM(Large Vision-Language Models)の最近のベンチマークでは、信頼性と安全性を見越して、リーダボードの精度を強調している。 ユーザが提供した情報を非批判的に反響させる傾向のモデルについて検討する。 医療用LVLMの梅毒を系統的に評価するベンチマークであるEchoBenchを紹介する。
  論文  参考訳（メタデータ） (2025-09-24T14:09:55Z)
• A Novel Evaluation Benchmark for Medical LLMs: Illuminating Safety and Effectiveness in Clinical Domains [15.73821689524201]
  大言語モデル (LLMs) は臨床決定支援において有望であるが、安全性評価と有効性検証において大きな課題に直面している。 臨床専門家のコンセンサスに基づく多次元フレームワークであるCSEDBを開発した。 13名の専門医が, 現実のシナリオをシミュレートする26の臨床部門にまたがって, 2,069件のオープンエンドQ&A項目を作成した。
  論文  参考訳（メタデータ） (2025-07-31T12:10:00Z)
• Beyond Benchmarks: Dynamic, Automatic And Systematic Red-Teaming Agents For Trustworthy Medical Language Models [87.66870367661342]
  大規模言語モデル(LLM)は、医療におけるAIアプリケーションで使用される。 LLMを継続的にストレステストするレッドチームフレームワークは、4つのセーフティクリティカルなドメインで重大な弱点を明らかにすることができる。 敵エージェントのスイートは、自律的に変化するテストケースに適用され、安全でないトリガー戦略を特定し、評価する。 私たちのフレームワークは、進化可能でスケーラブルで信頼性の高い、次世代の医療AIのセーフガードを提供します。
  論文  参考訳（メタデータ） (2025-07-30T08:44:22Z)
• Adaptable Cardiovascular Disease Risk Prediction from Heterogeneous Data using Large Language Models [70.64969663547703]
  AdaCVDは、英国バイオバンクから50万人以上の参加者を対象に、大規模な言語モデルに基づいて構築された適応可能なCVDリスク予測フレームワークである。 包括的かつ可変的な患者情報を柔軟に取り込み、構造化データと非構造化テキストの両方をシームレスに統合し、最小限の追加データを使用して新規患者の集団に迅速に適応する。
  論文  参考訳（メタデータ） (2025-05-30T14:42:02Z)
• Non-Invasive Suicide Risk Prediction Through Speech Analysis [74.8396086718266]
  自動自殺リスク評価のための非侵襲的音声ベースアプローチを提案する。 我々は、wav2vec、解釈可能な音声・音響特徴、深層学習に基づくスペクトル表現の3つの特徴セットを抽出する。 我々の最も効果的な音声モデルは、6.6.2,%$のバランスの取れた精度を達成する。
  論文  参考訳（メタデータ） (2024-04-18T12:33:57Z)
• Clinical Outcome Prediction from Admission Notes using Self-Supervised Knowledge Integration [55.88616573143478]
  臨床テキストからのアウトカム予測は、医師が潜在的なリスクを見落としないようにする。 退院時の診断,手術手順,院内死亡率,長期予測は4つの一般的な結果予測対象である。 複数の公開資料から得られた患者結果に関する知識を統合するために,臨床結果の事前学習を提案する。
  論文  参考訳（メタデータ） (2021-02-08T10:26:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。