論文の概要: Misaligned Clinical Risk Classification and Cost Asymmetry in Open-Weight Large Language Models

• arxiv url: http://arxiv.org/abs/2609.23999v2
• Date: Mon, 28 Sep 2026 03:06:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-29 21:31:51.574384
• Title: Misaligned Clinical Risk Classification and Cost Asymmetry in Open-Weight Large Language Models
• Title（参考訳）: オープンウェイト大規模言語モデルにおけるリスク分類とコスト非対称性の相違
• Abstract要約: 言語モデルが患者のリスクと臨床費用のトレードオフをいかに統合するかは、まだよく分かっていない。 本研究では,4つのオープンウェイト LLM が内部的にコストトレードオフを表現しているか,これらの表現が臨床予測とどのように関連しているか,そして,特定のコスト方向や大きさによって予測される決定が変化するかを検討した。
• 参考スコア（独自算出の注目度）: 1.0010369462881612
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: How large language models (LLMs) integrate patient risk with clinical cost tradeoffs remains poorly understood. We investigated how four open-weight LLMs (Qwen-2.5-7B/32B and Llama-3.1-8B/70B) internally represent cost tradeoffs, how these representations relate to clinical predictions, and whether decisions shift as predicted by the specified cost direction and magnitude. Using a public diabetes dataset, we varied 11 false-negative (FN) to false-positive (FP) cost ratios across three phrasings and examined representations and behavioral outputs. Patient risk was linearly recoverable on par with conventional classifiers (AUC $\approx 0.83$), and cost direction was recoverable in every model. However, representational shifts in cost direction tracked output changes only in the two larger models, and responses to cost magnitude were predominantly direction-agnostic. Only 2 of 12 model-phrasings showed both opposing responses to increasing FN versus FP costs and cost-correct ordering. Representationally, a direction fitted on one cost side did not invert when transferred to the other, as expected under mirror-symmetric encoding. These findings suggest that LLMs encode risk and cost information but do not reliably integrate them into cost-correct decisions. Clinical evaluations should therefore include tradeoff tests, phrasing sensitivity, and default operating points alongside predictive performance.
• Abstract（参考訳）: 言語モデル(LLM)が患者のリスクと臨床費用のトレードオフをいかに統合するかは、まだよく分かっていない。 4つのオープンウェイトLDM(Qwen-2.5-7B/32BとLlama-3.1-8B/70B)がコストトレードオフをどのように表現しているか、これらの表現が臨床予測とどのように関連しているか、そして、特定のコスト方向と大きさによって予測される決定が変化するかを検討した。 公的な糖尿病データセットを用いて,11の偽陰性(FN)から偽陽性(FP)のコスト比を3つの言い回しに変化させ,表現と行動出力を検討した。 患者リスクは従来の分類器(AUC $\approx 0.83$)と同等に線形に回復可能であり、全てのモデルでコスト方向が回復可能であった。 しかし、コスト方向の表現的変化は2つの大きなモデルでのみ出力の変化を追跡し、コストスケールに対する応答は主に方向に依存しなかった。 12種のうち2種のみがFNとFPのコストの上昇と価格の正しい注文に対する反対反応を示した。 言い換えると、一方のコスト側に取り付けられた方向は、ミラー対称符号化で期待されるように、他方のコスト側への転送時に反転しなかった。 これらの結果から,LSMはリスク情報やコスト情報をエンコードするが,コストの正しい決定に確実に組み込むことはできないことが示唆された。 したがって、臨床評価にはトレードオフテスト、感度の表現、予測性能とともにデフォルトの操作ポイントを含めるべきである。

関連論文リスト

• Market Signal Injection: Adversarial Context Manipulation of LLM Pricing Agents [7.751304917408626]
  大きな言語モデル(LLM)の価格設定エージェントは、数値が変わらない場合でも、市場データの提示方法に反応する可能性がある。 本稿では, 数値フォーマット, 競合注文, 定性的な市場注釈を明示的な指示を出さずに操作する攻撃である市場信号注入(MSI)を導入する。 シミュレーションしたBertrand DuopolyおよびTiopolyマーケットにおける9つのオープンウェイトモデルと,Duopolyマーケットにおける3つのプロプライエタリモデルを評価した。
  論文  参考訳（メタデータ） (2026-09-16T09:16:08Z)
• Beyond Scalar Scores: Exploring LLM-based Metrics for Clinical Significance Evaluation in Radiology Reports [49.5225801722164]
  既存のメトリクスは、医学的に根拠のないスカラーにレポートの品質を低下させることによって、この要件を曖昧にしている。 テストベッドとしてReEvalMedベンチマークを用いて,この境界について検討し,計量レベルの臨床的意義を評価する。
  論文  参考訳（メタデータ） (2026-06-17T08:10:30Z)
• Same Verdict, Different Reasons: LLM-as-a-Judge and Clinician Disagreement on Medical Chatbot Completeness [49.2667937337333]
  不完全な患者の医療反応を検出するために,この仮定をストレステストする。 我々は,2つの臨床診断データセットにわたる3つの粒度(General-Likert,Analytical-Rubric,Dynamic-Checklist)と3つのバックボーンモデルを評価する。
  論文  参考訳（メタデータ） (2026-03-26T19:01:55Z)
• PREBA: Surgical Duration Prediction via PCA-Weighted Retrieval-Augmented LLMs and Bayesian Averaging Aggregation [51.96735866702332]
  PreBAはPCA重み付き検索とベイズ平均アグリゲーションを統合した検索拡張フレームワークである。 例えば、PreBAはパフォーマンスを大幅に改善し、MAEを最大40%削減し、ゼロショット推論でR2を-0.13から0.62に引き上げる。
  論文  参考訳（メタデータ） (2026-02-27T07:19:23Z)
• Suppressing Prior-Comparison Hallucinations in Radiology Report Generation via Semantically Decoupled Latent Steering [94.37535002230504]
  本研究では,Semantically Decoupled Latent Steeringと呼ばれる学習自由な推論時間制御フレームワークを開発した。 提案手法は,大言語モデル (LLM) による意味分解による意味のない介入ベクトルを構築する。 本手法は歴史的幻覚の可能性を著しく低下させることを示す。
  論文  参考訳（メタデータ） (2026-02-27T04:49:01Z)
• Cost-Aware Prediction (CAP): An LLM-Enhanced Machine Learning Pipeline and Decision Support System for Heart Failure Mortality Prediction [2.6045133848979214]
  本稿では,大規模言語モデル(LLM)エージェントによる費用対効果分析を組み合わせたコスト対効果予測(CAP)フレームワークを提案する。 心臓不全患者の1年間の死亡を予測できるMLモデルを構築した。
  論文  参考訳（メタデータ） (2025-11-19T11:34:47Z)
• Prediction accuracy versus rescheduling flexibility in elective surgery management [1.4249472316161877]
  本稿では,LOS予測精度と様々な補正ポリシー間のフレキシビリティの再スケジューリングの関係について検討する。 ベッドオーバーフローを防止するため,LOS予測誤差に基づく最も効果的な患者の再スケジュール戦略について検討した。
  論文  参考訳（メタデータ） (2025-07-21T12:46:18Z)
• Analyzing Cost-Sensitive Surrogate Losses via $\mathcal{H}$-calibration [28.549898537165525]
  本稿では,コスト依存型サロゲートやコスト依存型モデルを用いて機械学習モデルをトレーニングすべきかどうかを理解することを目的とする。 コストに敏感なサロゲートは、共通の分布仮定の下で小さなモデルを学ぶ際に、コスト非依存のサロゲートを厳密に上回ります。
  論文  参考訳（メタデータ） (2025-02-26T19:46:57Z)
• Uncertainty in Language Models: Assessment through Rank-Calibration [65.10149293133846]
  言語モデル(LM)は、自然言語生成において有望な性能を示している。 与えられた入力に応答する際の不確実性を正確に定量化することは重要である。 我々は、LMの確実性と信頼性を評価するために、Rank$-$Calibration$と呼ばれる斬新で実用的なフレームワークを開発する。
  論文  参考訳（メタデータ） (2024-04-04T02:31:05Z)
• Controlling False Positive/Negative Rates for Deep-Learning-Based Prostate Cancer Detection on Multiparametric MR images [58.85481248101611]
  そこで本研究では,病変からスライスまでのマッピング機能に基づく,病変レベルのコスト感受性損失と付加的なスライスレベルの損失を組み込んだ新しいPCa検出ネットワークを提案する。 1) 病変レベルFNRを0.19から0.10に, 病変レベルFPRを1.03から0.66に減らした。
  論文  参考訳（メタデータ） (2021-06-04T09:51:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。