論文の概要: Can Post-Training Turn LLMs into Good Medical Coders? An Empirical Study of Generative ICD Coding
- arxiv url: http://arxiv.org/abs/2606.13940v1
- Date: Thu, 11 Jun 2026 22:04:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-15 16:00:42.663609
- Title: Can Post-Training Turn LLMs into Good Medical Coders? An Empirical Study of Generative ICD Coding
- Title(参考訳): 学習後LCMを良い医療プログラマにできるか? : 生成型ICD符号化の実証的研究
- Abstract要約: ジェネレーティブ・大型言語モデル(LLM)は弱い医療用コーダーとしてしばしば報告される。
生成型ICD符号化のためのポストトレーニングに関する制御的実証的研究について述べる。
- 参考スコア(独自算出の注目度): 40.63304781183767
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Automated International Classification of Diseases (ICD) coding is a core medical-coding task for billing, epidemiology, and clinical decision support. Generative large language models (LLMs) are often reported as weak medical coders, but this finding mainly comes from inference-time settings such as prompting, retrieval, reranking, or tool use, leaving the role of task-specific post-training underexplored. We present a controlled empirical study of post-training for generative ICD coding, comparing discriminative baselines with LLM coders across prompting, supervised fine-tuning, and reinforcement learning under a common protocol and metric set. To our knowledge, this is the first study to evaluate RL-based post-training for generative LLM coders in ICD coding. We further introduce PHI, a diagnostic curriculum that extends GRPO to refine missed-code cases. Our results show that prompting-only evaluation substantially underestimates the potential of LLMs for ICD coding. SFT provides the main capability jump, GRPO further improves code-set prediction beyond SFT, and PHI provides targeted gains on macro-level performance. These findings suggest that the main bottleneck is not the generative formulation alone, but how the model is adapted and optimized for full-taxonomy recall. We release our code, data splits, and checkpoints at https://github.com/AlexandreWANG915/LLM4ICD.
- Abstract(参考訳): 国際疾患分類 (ICD) コーディングは、請求書作成、疫学、臨床決定支援のための中核的な医療的コーディングタスクである。
ジェネレーティブな大規模言語モデル(LLM)は弱い医療用コーダーとしてしばしば報告されるが、この発見は主に推論時間の設定(プロンプト、検索、再ランク付け、ツールの使用など)から来ており、タスク固有のポストトレーニングの役割は過小評価されている。
本稿では,LCMコーダと差別的ベースラインを共通プロトコルとメトリックセットの下でのプロンプト,教師付き微調整,強化学習で比較した,生成型ICD符号化のためのポストトレーニングに関する実証的研究について述べる。
我々の知る限り、ICD符号化におけるジェネレーティブLLMコーダのためのRLベースのポストトレーニングを評価する最初の研究である。
また、GRPOを拡張した診断カリキュラムであるPHIについても紹介する。
以上の結果から,CD符号化におけるLCMの可能性は,プロンプトのみの評価が著しく過小評価されていることが示唆された。
SFTは主要な機能ジャンプを提供し、GRPOはSFTを超えてコードセット予測をさらに改善し、PHIはマクロレベルのパフォーマンスを目標とするゲインを提供する。
これらの結果は, 生成的定式化のみではなく, モデルがどのように適応し, フルタコノミーリコールに最適化されているかが主なボトルネックであることを示唆している。
コード、データ分割、チェックポイントはhttps://github.com/AlexandreWANG915/LLM4ICDで公開しています。
関連論文リスト
- From Documents to Spans: Code-Centric Learning for LLM-based ICD Coding [29.729356191729888]
完全臨床文書からスケーラブルで短いエビデンスの範囲に監督を移行させるトレーニングフレームワークであるCode-Centric Learningを提案する。
提案するフレームワークは,学習コストを大幅に削減し,見えないICD符号の精度を向上し,解釈可能性を維持する,混合学習戦略とコード中心データ拡張から構成される。
論文 参考訳(メタデータ) (2026-03-16T13:37:01Z) - From Code Foundation Models to Agents and Applications: A Practical Guide to Code Intelligence [150.3696990310269]
大規模言語モデル(LLM)は、自然言語記述を直接関数コードに変換することによって、自動ソフトウェア開発を変革した。
コードLLMに関する総合的な合成と実践的ガイド(一連の解析および探索実験)を提供する。
一般LLM(GPT-4, Claude, LLaMA)とコード特殊化LLM(StarCoder, Code LLaMA, DeepSeek-Coder, QwenCoder)のコード機能の解析を行う。
論文 参考訳(メタデータ) (2025-11-23T17:09:34Z) - Is Compression Really Linear with Code Intelligence? [60.123628177110206]
textitFormat Annealingは、事前訓練されたモデルの本質的な能力を同等に評価するために設計された、軽量で透明なトレーニング手法である。
我々の経験的結果は、測定されたコードインテリジェンスとビット・パー・キャラクタ(BPC)の基本的な対数関係を明らかにする。
私たちの研究は、コードインテリジェンスの開発における圧縮の役割をより微妙に理解し、コードドメインにおける堅牢な評価フレームワークに貢献します。
論文 参考訳(メタデータ) (2025-05-16T16:59:14Z) - SnipGen: A Mining Repository Framework for Evaluating LLMs for Code [51.07471575337676]
言語モデル(LLM)は、コードリポジトリを含む広範なデータセットに基づいてトレーニングされる。
それらの有効性を評価することは、トレーニングに使用されるデータセットと評価に使用されるデータセットとが重複する可能性があるため、大きな課題となる。
SnipGenは、コード生成のために、様々な下流タスクをまたいだ迅速なエンジニアリングを活用するように設計された包括的なリポジトリマイニングフレームワークである。
論文 参考訳(メタデータ) (2025-02-10T21:28:15Z) - OpenCoder: The Open Cookbook for Top-Tier Code Large Language Models [76.59316249991657]
コードのための大規模言語モデル(LLM)は、コード生成、推論タスク、エージェントシステムなど、さまざまな領域で必須になっている。
オープンアクセスのコード LLM はプロプライエタリなモデルの性能レベルに近づきつつあるが、高品質なコード LLM は依然として限られている。
トップクラスのコードLLMであるOpenCoderは、主要なモデルに匹敵するパフォーマンスを達成するだけでなく、研究コミュニティの"オープンクックブック"としても機能します。
論文 参考訳(メタデータ) (2024-11-07T17:47:25Z) - Exploring LLM Multi-Agents for ICD Coding [15.730751450511333]
ICD符号化のためのマルチエージェント方式は実世界の符号化プロセスを効果的に模倣し、一般的な符号と稀な符号の両方の性能を向上させる。
提案手法は, 事前学習や微調整を必要とする最先端のICD符号化手法に匹敵する結果を得るとともに, 稀なコード精度, 説明可能性で性能を向上する。
論文 参考訳(メタデータ) (2024-04-01T15:17:39Z) - Automated clinical coding using off-the-shelf large language models [10.365958121087305]
診断用ICD符号を患者病院入院に割り当てる作業は、典型的には、熟練した人間のコーダーによって行われる。
自動ICD符号化への取り組みは、教師付きディープラーニングモデルによって支配されている。
本研究では,既製の事前学習型大規模言語モデルを活用し,実用的ソリューションを開発する。
論文 参考訳(メタデータ) (2023-10-10T11:56:48Z) - Read, Attend, and Code: Pushing the Limits of Medical Codes Prediction
from Clinical Notes by Machines [0.42641920138420947]
医用コード代入マッピングを学習するための、読み取り、 attend、および Code (RAC) モデルを提示する。
RACは、現在最高のマクロF1を18.7%上回るSOTA(the New State of the Art)を確立している。
この新たなマイルストーンは、マシンにおける完全自律型医療コーディング(AMC)への重要な一歩となる。
論文 参考訳(メタデータ) (2021-07-10T06:01:58Z) - TransICD: Transformer Based Code-wise Attention Model for Explainable
ICD Coding [5.273190477622007]
国際疾患分類法 (ICD) は, 医療分野の請求システムにおいて有効かつ重要であることが示されている。
現在、ICDコードは手動で臨床メモに割り当てられており、多くのエラーを引き起こす可能性がある。
本稿では,文書のトークン間の相互依存を捉えるためにトランスフォーマーベースのアーキテクチャを適用し,コードワイド・アテンション・メカニズムを用いて文書全体のコード固有表現を学習する。
論文 参考訳(メタデータ) (2021-03-28T05:34:32Z) - A Meta-embedding-based Ensemble Approach for ICD Coding Prediction [64.42386426730695]
国際疾病分類 (icd) は、世界中で臨床コーディングに使われているデファクトコードである。
これらのコードにより、医療提供者は償還を請求し、診断情報の効率的な保管と検索を容易にします。
提案手法は,日常的な医学データと科学論文の外部知識を用いて,効果的に単語ベクトルを訓練することにより,神経モデルの性能を高める。
論文 参考訳(メタデータ) (2021-02-26T17:49:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。