論文の概要: Deployment-Centered Evaluation: Predicting Query-Level Rejection Risk in a Clinical LLM System

• arxiv url: http://arxiv.org/abs/2606.12702v1
• Date: Wed, 10 Jun 2026 21:44:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-12 15:55:27.474815
• Title: Deployment-Centered Evaluation: Predicting Query-Level Rejection Risk in a Clinical LLM System
• Title（参考訳）: デプロイ中心評価:臨床用LLMシステムにおけるクエリレベル拒絶リスクの予測
• Authors: Alyssa Unell, Miguel Fuentes, Brenna Li, Bridget Lin, Meena Jagadeesan, Sanmi Koyejo, Nigam Shah,
• Abstract要約: 大規模言語モデル(LLM)は、臨床システムにますます統合され、これらのシステムの実際の実用性を評価することが不可欠である。 静的ベンチマークは、ユーザの受け入れよりも正確性を計測し、クエリ間でパフォーマンスを集約し、密度の高い注釈付きデータセットを必要とする傾向にある。 我々は,学術医療センターの電子健康記録に埋め込まれたLCMシステムの展開中心評価を行い,ユーザのフィードバックは少ないが,展開条件をよく反映している。
• 参考スコア（独自算出の注目度）: 33.34100218601891
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) are increasingly integrated into clinical systems, making it essential to evaluate the real-world utility of these systems. However, static benchmarks tend to measure correctness rather than user acceptance, aggregate performance across queries, and require densely annotated datasets -- leading to major blind spots for evaluating clinical systems. In this work, we perform a deployment-centered evaluation of an LLM system embedded within electronic health records at an academic medical center, where user feedback is sparse but closely reflects the deployment conditions. Specifically, we train a pre-response classifier that estimates the risk that a future interaction will result in the user rejecting the LLM response, based on query content and deployment-specific context available before generation. We conduct a prospective analysis of our model over 4.5 months of user feedback, finding that our prediction model achieves an AUROC of 0.719. Further, we estimate the benefit of such predictions in two downstream use cases (guardrail triggering and abstention). Our key conceptual insight is that making use of deployment-specific context (i.e., the provider type, department name, language model used for response), as opposed to only query content, improves the ability to predict whether the user will reject the system output. Altogether, our empirical case study demonstrates the feasibility of predicting user rejection using deployment-specific context, opening the door to targeted guardrails.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、臨床システムにますます統合され、これらのシステムの実際の実用性を評価することが不可欠である。 しかし、静的ベンチマークは、ユーザーの受け入れよりも正確さを計測し、クエリ間でパフォーマンスを集計し、密度の高い注釈付きデータセットを必要とする傾向があるため、臨床システムを評価する上で大きな盲点となる。 本研究では,学術医療センターにおける電子カルテに埋め込まれたLCMシステムの展開中心評価を行う。 具体的には、クエリの内容と、生成前に利用可能なデプロイメント固有のコンテキストに基づいて、将来のインタラクションがLCM応答を拒否するリスクを見積もるプレレスポンス分類器をトレーニングする。 ユーザからのフィードバックを4.5ヶ月以上にわたって予測し、予測モデルが0.719のAUROCを達成することを確認した。 さらに、下流の2つのユースケース(ガードレールトリガーと停止)において、そのような予測の利点を見積もる。 我々の主要な概念的洞察は、提供者タイプ、部門名、応答に使用される言語モデルなど、デプロイメント固有のコンテキストを利用することで、クエリコンテンツのみではなく、ユーザがシステム出力を拒否するかどうかを予測する能力を向上させることである。 実験ケーススタディでは、デプロイメント固有のコンテキストを用いてユーザ拒否を予測し、ターゲットのガードレールへのドアを開放する可能性を示している。

関連論文リスト

• Preference-Aware Rubric Learning for Personalized Evaluation [59.539429430690156]
  既存の評価手法では、長期的なインタラクション履歴に埋め込まれたユーザ固有の嗜好をキャプチャできない。 静的判断よりも学習問題としてパーソナライズされた評価を定式化するパラダイムであるパーソナライズド・アズ・ラーニングを提案する。 実験により、PARLはユーザ対応の応答を確実に識別し、ユーザ間で一般化する高忠実なルーブリックを一貫して誘導することが示された。
  論文  参考訳（メタデータ） (2026-05-29T17:00:55Z)
• PREBA: Surgical Duration Prediction via PCA-Weighted Retrieval-Augmented LLMs and Bayesian Averaging Aggregation [51.96735866702332]
  PreBAはPCA重み付き検索とベイズ平均アグリゲーションを統合した検索拡張フレームワークである。 例えば、PreBAはパフォーマンスを大幅に改善し、MAEを最大40%削減し、ゼロショット推論でR2を-0.13から0.62に引き上げる。
  論文  参考訳（メタデータ） (2026-02-27T07:19:23Z)
• Context-Adaptive Requirements Defect Prediction through Human-LLM Collaboration [1.4499356176178066]
  本稿では,欠陥予測を静的な分類タスクではなく適応プロセスとして扱うHuman-LLM Collaboration(HLC)アプローチを提案する。 メルセデス・ベンツの要求条件である1,266のQuREベンチマークの弱い単語の匂いを用いて,本手法の評価を行った。
  論文  参考訳（メタデータ） (2026-01-05T10:00:14Z)
• Bayesian Evaluation of Large Language Model Behavior [11.847752638476257]
  大規模言語モデルに基づくテキスト生成システムがどのように振る舞うかを評価することがますます重要である。 既存の評価手法は、しばしば統計的不確実性定量化を無視する。 本稿では,2値評価指標における不確かさの定量化にベイズ的手法を適用した2つのケーススタディを提案する。
  論文  参考訳（メタデータ） (2025-11-04T19:51:46Z)
• Clinical Uncertainty Impacts Machine Learning Evaluations [40.773483049446426]
  機械学習評価は, 直接分布に作用する確率的指標を用いて, アノテーションの不確かさを明示的に考慮すべきである,と論じる。 我々は、データセットの生アノテーションをコミュニティに公開し、パフォーマンス推定が臨床データをよりよく反映できるように、不確実性を考慮した評価を採用するよう促す。
  論文  参考訳（メタデータ） (2025-09-26T11:56:58Z)
• Aligning the Evaluation of Probabilistic Predictions with Downstream Value [2.6636053598505307]
  予測性能のみに基づくメトリクスは、しばしば現実世界の下流への影響の尺度から発散する。 本稿では、下流評価と整合したプロキシ評価関数を学習するためのデータ駆動手法を提案する。 我々のアプローチでは、ニューラルネットワークによってパラメータ化された重み付けされたスコアリングルールを利用して、下流タスクのパフォーマンスに合わせて重み付けが学習される。
  論文  参考訳（メタデータ） (2025-08-25T17:41:27Z)
• Stream-Based Monitoring of Algorithmic Fairness [4.811789437743092]
  ストリームベースのモニタリングは,実行時の決定と予測システムのアルゴリズム的公正性を検証するためのソリューションとして提案されている。 本稿では,仕様言語 RTLola における時空間データストリームに対するアルゴリズム的公正性を定式化する方法を提案する。
  論文  参考訳（メタデータ） (2025-01-30T13:18:59Z)
• ReEval: Automatic Hallucination Evaluation for Retrieval-Augmented Large Language Models via Transferable Adversarial Attacks [91.55895047448249]
  本稿では,LLMベースのフレームワークであるReEvalについて述べる。 本稿では、ChatGPTを用いてReEvalを実装し、2つの人気のあるオープンドメインQAデータセットのバリエーションを評価する。 我々の生成したデータは人間可読であり、大きな言語モデルで幻覚を引き起こすのに役立ちます。
  論文  参考訳（メタデータ） (2023-10-19T06:37:32Z)
• Bring Your Own Data! Self-Supervised Evaluation for Large Language Models [52.15056231665816]
  大規模言語モデル(LLM)の自己教師型評価のためのフレームワークを提案する。 閉書知識,毒性,長期文脈依存性を測定するための自己指導型評価戦略を実証する。 自己監督評価と人監督評価との間には強い相関関係が認められた。
  論文  参考訳（メタデータ） (2023-06-23T17:59:09Z)
• Performance metrics for intervention-triggering prediction models do not reflect an expected reduction in outcomes from using the model [71.9860741092209]
  臨床研究者はしばしばリスク予測モデルの中から選択し評価する。 振り返りデータから算出される標準メトリクスは、特定の仮定の下でのみモデルユーティリティに関係します。 予測が時間を通して繰り返し配信される場合、標準メトリクスとユーティリティの関係はさらに複雑になる。
  論文  参考訳（メタデータ） (2020-06-02T16:26:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。