論文の概要: High-Stakes Decisions with Language Models: Insights from Emergency Triage
- arxiv url: http://arxiv.org/abs/2608.01361v1
- Date: Sun, 02 Aug 2026 16:25:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-04 15:07:25.183452
- Title: High-Stakes Decisions with Language Models: Insights from Emergency Triage
- Title（参考訳）: 言語モデルによるハイテイク決定:緊急トリアージからの洞察
- Abstract要約: 本稿では,言語モデルを用いた緊急トリアージが確率的決定枠組み内で理解可能であることを示す。
有能な言語モデルでは、記述されたユーティリティに応じてレコメンデーションを調整することができる。
- 参考スコア（独自算出の注目度）: 20.584746473566135
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: High-stakes decisions under uncertainty, such as medical emergency triage, require more than accurate predictions. They depend on estimating the likelihood of alternative outcomes while explicitly weighing the consequences of different actions, principles that have long formed the foundation of medical diagnosis and decision making. Yet language models are increasingly used for high-stakes clinical recommendations without explicit specification of the utilities governing these decisions. Here we show that emergency triage with language models can be understood within a probabilistic decision framework, providing a case study of a broader decision-analytic paradigm for steering, evaluating, and deploying language models in high-stakes settings. Using clinical vignettes from a structured evaluation of a consumer triage system, we analyze recommendations for treatment under alternative utility functions that specify the relative costs of missed emergencies and unnecessary escalation. We find that capable language models adjust recommendations in response to stated utilities, revealing that the same underlying predictions can support markedly different decision policies. These findings show that effective deployment depends not only on improving predictions but also on making decision objectives explicit. More broadly, they suggest that language models for high-stakes applications should be understood and evaluated as probabilistic decision systems whose recommendations depend jointly on predictive performance and explicit utilities.
- Abstract（参考訳）: 医療用緊急トリアージのような不確実性の高い意思決定には、正確な予測以上のものが必要である。
それらは、異なる行動の結果、長い間医学的診断と意思決定の基礎を形成してきた原則を明示的に評価しながら、代替的な結果の可能性を推定することに依存する。
しかし、言語モデルは、これらの決定を規定するユーティリティを明確に指定することなく、ハイテイクな臨床レコメンデーションにますます使われています。
ここでは,言語モデルを用いた緊急トリアージを確率論的決定枠組み内で理解し,より広範な意思決定分析パラダイムのケーススタディを提供する。
消費者トリアージシステムの構造的評価から得られた臨床ヴィグネットを用いて,緊急時と不必要なエスカレーションの相対コストを規定する代替ユーティリティ機能による治療の勧告を解析した。
有能な言語モデルは、記述されたユーティリティに応じてレコメンデーションを調整し、同じ基盤となる予測が、明らかに異なる決定ポリシーをサポートできることを明らかにする。
これらの結果から,効果的なデプロイメントは予測の改善だけでなく,意思決定の目的を明確にすることにも依存していることがわかった。
より広義には、ハイテイクなアプリケーションのための言語モデルは、予測性能と明示的なユーティリティに密接に依存する確率的決定システムとして理解され、評価されるべきである。
関連論文リスト
- Medical Model Synthesis Architectures: A Case Study [72.46211022258122]
現在のAIシステムは、不確実性の下で調整された推論に苦労している。
我々は,不確実性の下で,現実的に有用だが公式に透過的な臨床予測を行うことができるAIシステムのためのフレームワークを提案する。
このフレームワークの最初の概念実証は、どのようにして差分診断に利用できるかを示す。
論文 参考訳（メタデータ） (2026-05-10T19:30:16Z) - Uncertainty-Driven Expert Control: Enhancing the Reliability of Medical Vision-Language Models [52.2001050216955]
既存の方法は、モデル構造を調整したり、高品質なデータで微調整したり、好みの微調整によって、医療ビジョン言語モデル(MedVLM)の性能を向上させることを目的としている。
我々は,MedVLMと臨床専門知識の連携を図るために,Expert-Controlled-Free Guidance (Expert-CFG) という,ループ内のエキスパート・イン・ザ・ループフレームワークを提案する。
論文 参考訳（メタデータ） (2025-07-12T09:03:30Z) - Evaluating Prediction-based Interventions with Human Decision Makers In Mind [1.192656186481075]
我々は,予測モデルエイズの存在下での人的意思決定の様々なモデルを定式化し,検討する。
これらの行動モデルはそれぞれ、意思決定対象に依存性を生じさせ、既存の仮定に反する結果をもたらすことを示す。
論文 参考訳（メタデータ） (2025-02-12T20:35:52Z) - Utility-Directed Conformal Prediction: A Decision-Aware Framework for Actionable Uncertainty Quantification [32.93992587758183]
我々は,下流のコスト関数を考慮に入れた予測セットを特定するために,共形予測に基づく手法を開発した。
提案手法は,下流決定とユーザ指定ユーティリティ機能を取り入れつつ,コンフォメーション手法の強みを活用する。
本手法は皮膚疾患の階層構造を効果的に取り入れた医療診断における実世界のユースケースを提案する。
論文 参考訳（メタデータ） (2024-10-02T17:22:09Z) - The Importance of Causality in Decision Making: A Perspective on Recommender Systems [2.758826407076454]
勧告システム(Recommendation Systems, RS)コミュニティでは、因果関係が注目されている。
本稿では、推定すべき因果量の形式的定義と、今後の研究開発の促進への参考となる一般的な因果グラフを提供する。
論文 参考訳（メタデータ） (2024-09-16T13:30:41Z) - Unified Uncertainty Estimation for Cognitive Diagnosis Models [70.46998436898205]
本稿では,幅広い認知診断モデルに対する統一的不確実性推定手法を提案する。
診断パラメータの不確かさをデータ・アスペクトとモデル・アスペクトに分解する。
本手法は有効であり,認知診断の不確実性に関する有用な知見を提供することができる。
論文 参考訳（メタデータ） (2024-03-09T13:48:20Z) - Conformal Prediction with Large Language Models for Multi-Choice
Question Answering [7.049780432343948]
共形予測からの不確実性推定は予測精度と密接に相関していることがわかった。
この研究は、安全クリティカルな状況において、より信頼性が高く信頼性の高い大規模言語モデルの活用に寄与する。
論文 参考訳（メタデータ） (2023-05-28T15:26:10Z) - In Search of Insights, Not Magic Bullets: Towards Demystification of the
Model Selection Dilemma in Heterogeneous Treatment Effect Estimation [92.51773744318119]
本稿では,異なるモデル選択基準の長所と短所を実験的に検討する。
選択戦略,候補推定器,比較に用いるデータの間には,複雑な相互作用があることを強調した。
論文 参考訳（メタデータ） (2023-02-06T16:55:37Z) - Improving the compromise between accuracy, interpretability and
personalization of rule-based machine learning in medical problems [0.08594140167290096]
特定の患者に対してルールが正しいか否かを予測するための新しいコンポーネントを導入し、その手順にパーソナライズを導入する。
3つの公開臨床データセットを用いた検証結果から,選択したルールセットの予測性能の向上も可能であることが示された。
論文 参考訳（メタデータ） (2021-06-15T01:19:04Z) - Clinical Outcome Prediction from Admission Notes using Self-Supervised
Knowledge Integration [55.88616573143478]
臨床テキストからのアウトカム予測は、医師が潜在的なリスクを見落としないようにする。
退院時の診断,手術手順,院内死亡率,長期予測は4つの一般的な結果予測対象である。
複数の公開資料から得られた患者結果に関する知識を統合するために,臨床結果の事前学習を提案する。
論文 参考訳（メタデータ） (2021-02-08T10:26:44Z) - When Does Uncertainty Matter?: Understanding the Impact of Predictive
Uncertainty in ML Assisted Decision Making [68.19284302320146]
我々は,異なるレベルの専門知識を持つ人々が,異なるタイプの予測不確実性にどう反応するかを評価するために,ユーザスタディを実施している。
その結果,後続の予測分布を示すことは,MLモデルの予測との相違点が小さくなることがわかった。
このことは、後続の予測分布は、人間の分布の種類や専門性を考慮し、注意を払って使用するべき有用な決定支援として役立つ可能性があることを示唆している。
論文 参考訳（メタデータ） (2020-11-12T02:23:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。