論文の概要: Do We Need the Largest LLMs for Every Clinical Decision?
- arxiv url: http://arxiv.org/abs/2610.26937v1
- Date: Sat, 17 Oct 2026 22:07:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-21 21:58:47.402076
- Title: Do We Need the Largest LLMs for Every Clinical Decision?
- Title(参考訳): 臨床診断に一番大きなLSMは必要か?
- Abstract要約: CERTA(英: CERTA)は、量子化モデルがネイティブなBF16参照の代わりにいつ代用できるかを決定する決定レベル統計証明書である。
患者別校正, 検査により, 非特定患者の文脈から2500の臨床的検証判定を行った。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large clinical language models often require multi-GPU infrastructure, limiting local deployment. We introduce CERTA, a decision-level statistical certificate that determines when a quantized model may substitute for its native BF16 reference and escalates decisions that cannot be certified to it. Across eleven instruction-tuned models, both general-purpose and domain-adapted, from three families (7-72B), we evaluated 2,500 clinical-verification decisions from de-identified patient contexts (2,484 patients), with patient-disjoint calibration and testing. In the higher-power operational analysis, round-to-nearest 8-bit quantization at BF16 storage served 99.8-100% of held-out decisions across all eleven models; formal finite-sample guarantees were assessed separately using the exact split-sample procedure. In the same operational analysis, the class-conditional 4-bit frontier reduced the amortized, BF16-equivalent deployment cost to 25.8% and 27.3% of the BF16 reference for Qwen2.5-72B and HuatuoGPT-o1-72B, respectively, with measured peak memory of 43.0 and 42.7 GB, below the nominal capacity of a single 48 GB accelerator. Deployment on that specific hardware was not directly tested. Under the exact split-sample certificate, which also accounts for configuration selection, these costs were 26.7% and 27.9%. On external disease named-entity benchmarks against human annotations, the frontier-selected NF4 configurations had a mean absolute F1 change of 0.045 on both datasets, with substantial model-specific variation. CERTA converts compression from a fixed precision choice into a risk-controlled deployment policy for this verification task.
- Abstract(参考訳): 大規模な臨床言語モデルは、ローカルデプロイメントを制限するマルチGPUインフラストラクチャを必要とすることが多い。
CERTAは、量子化モデルがネイティブなBF16参照の代わりにいつ代用できるかを判断し、それを証明できない決定をエスカレートする決定レベル統計証明書である。
3家系(7-72B)の汎用モデルとドメイン適応モデル(ドメイン適応モデル)の計11種を対象に,非特定患者の文脈(2,484例)から2500件の臨床検証を行い,患者分離校正と検査を行った。
高出力の運用分析では、BF16ストレージでのラウンド・トゥ・アレスト8ビットの量子化は11モデルすべてで99.8-100%のホールドアウト決定に役立ち、正式な有限サンプル保証は正確な分割サンプリング手順で別々に評価された。
同じ運用分析で、クラス条件の4ビットフロンティアは、48GBのアクセルの容量より43.0GBと42.7GBのピークメモリで、それぞれQwen2.5-72BとHuatuoGPT-o1-72BのBF16参照の25.8%と27.3%に減らした。
特定のハードウェアへのデプロイは直接テストされなかった。
正確な分割サンプル証明書の下では、構成の選択も考慮しており、これらのコストは26.7%と27.9%であった。
人間のアノテーションに対する外部疾患名義性ベンチマークでは、フロンティア選択されたNF4構成は、両方のデータセットで平均0.045の絶対的なF1変化を示し、相当なモデル固有のバリエーションがあった。
CERTAは、圧縮を固定精度の選択から、この検証タスクのためのリスク制御されたデプロイメントポリシーに変換する。
関連論文リスト
- DecisionPivot: A Diagnostic Benchmark for Decision Models in LLM Systems [20.41716710043437]
DecisionPivotは、48のタスクと7つの決定ロールにわたる40,033のアイテムからなる診断ベンチマークである。
文書化された、モデル固有のプロトコルを用いて、40の意思決定モデルと14の一般モデルを評価する。
論文 参考訳(メタデータ) (2026-10-20T16:57:49Z) - Personalising Deformable Image Registration with Clinical Context and Deformation History for Adaptive Radiotherapy [48.52787121001821]
既存の登録方法は、各画像対を独立して扱う。
臨床コンテキスト認識と患者適応型画像登録(CAP-DIR)を開発した。
CAP-DIRは、内部テストのオルガン-アット-リスク領域の正常化クロス相関を84.76%から96.92%に増加させた。
論文 参考訳(メタデータ) (2026-10-13T06:02:57Z) - Greedy Decoding Is Not Precision-Invariant: Cross-Precision Output Divergence in LLM Inference [13.137699166830322]
大規模言語モデルからのグレディ復号は、一般に決定論的として扱われる。
同一のモデル,プロンプト,デコードアルゴリズムは同一のハードウェア上で,BF16とFP16の異なる出力を生成する。
実験により,22層に蓄積したボディーエラーは,浮動小数点数と浮動小数点数とを区別しないことがわかった。
論文 参考訳(メタデータ) (2026-09-22T15:54:16Z) - AVT-Fabric: Active Visuo-Tactile Perception via Adaptive Evidence Selection for Efficient Robotic Fabric Comparison [50.18779315745876]
AVT-Fabricは、各比較の難しさに応じて触覚証拠を割り当てるRGBファーストフレームワークである。
400のホールドアウト比較において、AVT-Fabricはコンパクトな7Bマルチモーダル大言語モデルで98.0%の精度を達成した。
このフレームワークは実際のロボットシステムにもデプロイされており、8つのアプリケーションシナリオのうち7つのシナリオで78.1%のペアのランキング精度と正しい布地選択を実現している。
論文 参考訳(メタデータ) (2026-09-18T06:43:04Z) - Open ultrasound foundation model for robust segmentation and clinical measurement across heterogeneous settings [66.3653308198376]
SonoCorpusは、24の臨床応用と17の国にまたがる53のパブリックデータセットから、456,963のイメージと1,626,085のエキスパートマスクを統合するオープンリソースである。
SonoBaseは、事前にトレーニングされたインタラクティブセグメンテーション基盤モデルである。
論文 参考訳(メタデータ) (2026-09-16T15:34:21Z) - Conformal Prediction for Risk-Controlled Medical Entity Extraction Across Clinical Domains [2.744879848686032]
本稿では,医療機関抽出のための有限サンプルカバレッジ保証を提供するコンフォメーション予測フレームワークを提案する。
まず,FactScoreをベースとした原子式ステートメント評価により,GPT-4.1を用いて,FDAの医薬品ラベル1000個から構造化されたエンティティを抽出した。
第2に,GPT-4.1とLlama-4-Maverickを用いたRadGraphスキーマを用いてMIMIC-CXRレポートから放射線学的実体を抽出し,医師のアノテーションに対して評価した。
論文 参考訳(メタデータ) (2026-03-01T05:12:25Z) - Uncertainty Makes It Stable: Curiosity-Driven Quantized Mixture-of-Experts [6.221156050218661]
本稿では、資源制約のあるデバイス上でのディープニューラルネットワークのための好奇心駆動型量子化混合処理フレームワークを提案する。
われわれの4ビット量子化は、16ビットの精度(0.858対0.859 F1)の99.9%を維持し、4倍の圧縮と41%の省エネを実現している。
我々の情報理論的ルーティングは、適応量子化が精度(0.858 F1, 1.2M params)、エネルギー効率(3.87 F1/mJ)、予測可能なエッジモデルをもたらすことを示す。
論文 参考訳(メタデータ) (2025-11-13T15:32:41Z) - "Give Me BF16 or Give Me Death"? Accuracy-Performance Trade-Offs in LLM Quantization [67.3213104337679]
量子化は大規模言語モデル(LLM)推論を高速化するための強力なツールであるが、異なるフォーマット間での精度と性能のトレードオフは依然として不明である。
FP8,INT8,INT4の量子化を学術ベンチマークや実世界のタスクで評価し,これまでで最も包括的な実証的研究を行った。
論文 参考訳(メタデータ) (2024-11-04T18:21:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。