論文の概要: Conditional Rank Allocation for Taxonomy-Aware Medical Language Model Adaptation
- arxiv url: http://arxiv.org/abs/2610.06765v1
- Date: Mon, 05 Oct 2026 17:38:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 23:02:56.20266
- Title: Conditional Rank Allocation for Taxonomy-Aware Medical Language Model Adaptation
- Title(参考訳): 分類学を意識した医療用言語モデル適応のための条件付きランクアロケーション
- Abstract要約: ARBORは,各質問に対して,共有低ランクベースからランク1成分を選択するパラメータ効率のよい手法である。
5シード実験では、平均精度が69.69%、LoRA r16とMoELoRAをそれぞれ1.26ポイント、MoELoRAを1.30ポイント上回る。
- 参考スコア(独自算出の注目度): 6.31769666693778
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Medical question answering spans specialties and clinical operations that may benefit from different adaptation directions. We propose ARBOR, a parameter-efficient method that selects rank-one components from a shared low-rank basis for each question. An additive gate combines question representations, specialty tags, operation tags, and their interaction; a learned coefficient scales the adapter residual. An illustrative separation under orthogonal, equiprobable subtasks shows how conditional selection can avoid an approximation floor faced by a fixed update with the same active rank. This result motivates the design without asserting a corresponding bound for medical corpora. On Qwen3-8B across CMB, CMExam, MedQA, and MedMCQA, five-seed experiments yield 69.69% mean accuracy across benchmarks, exceeding LoRA r16 and MoELoRA by 1.26 and 1.30 percentage points, respectively. The reported advantage over LoRA r16 increases from 0.08 to 1.94 points as training expands from one to seven specialties. Tag perturbations and atom masking support the usefulness of clinical routing, while atom clusters align with the supplied specialty labels (adjusted Rand index 0.62). Calibration, transfer, and measured costs further characterize the method. These findings support structured conditional adaptation for medical QA, while leaving clinical safety and broader deployment untested.
- Abstract(参考訳): 医学的質問応答は、異なる適応方向から恩恵を受ける可能性のある専門性や臨床操作にまたがる。
ARBORは,各質問に対して,共有低ランクベースからランク1成分を選択するパラメータ効率のよい手法である。
加算ゲートは質問表現、特殊タグ、操作タグ、およびそれらの相互作用を結合し、学習された係数はアダプタ残余をスケールする。
直交等質なサブタスクの下での図示的分離は、条件付き選択が、同じアクティブなランクの固定された更新によって直面する近似フロアを避ける方法を示している。
この結果は、医療コーパスに対応する境界を主張することなく、設計を動機付ける。
CMB、CMExam、MedQA、MedMCQAにまたがるQwen3-8Bでは、ベンチマークの平均精度は69.69%で、それぞれLoRA r16、MoELoRAを1.26、MedMCQAを1.30ポイント上回る。
LoRA r16に対するアドバンテージは、トレーニングが1つから7つの専門分野に拡大するにつれて、0.08から1.94ポイントに増加した。
タグの摂動と原子マスキングは臨床ルーティングの有用性を支持し、一方原子クラスターは供給された専門ラベル(調整されたRand index 0.62)と一致している。
キャリブレーション、転送、測定コストは、この方法をさらに特徴付ける。
以上より, 医療用QAに対する構造的条件適応を支援するとともに, 臨床安全性とより広範な展開を未確認のまま残した。
関連論文リスト
- From Given to Gathered Evidence: Agentic Learning for Longitudinal Medical Reasoning [42.74871555080072]
基礎モデルは、ツール使用ハーネスを介して臨床薬として機能することができる。
本研究は,エビデンスを検索するための一連の役割特異的臨床エージェントを提案する。
判例は、質問・回答の模倣を越えて、転送可能な調査ポリシーへと移行する。
論文 参考訳(メタデータ) (2026-09-30T12:01:45Z) - Cross-Scale Transfer Learning for Depression Severity Prediction: From PHQ-8 to HAMD-17 Across Languages and Clinical Paradigms [6.137096667354723]
本研究は,データ不足下における臨床面接書からのうつ病重症度予測に対処する。
クロススケール転送のためのシーケンシャルローランク適応(LoRA)プロトコルを提案する。
論文 参考訳(メタデータ) (2026-09-23T17:30:07Z) - MedSNIP: Building and Benchmarking Snippet-Level Granularity for Medical Fact Verification [50.13873960887466]
我々はスニペットレベルの医療事実検証のベンチマークであるMedSNIP-Benchを紹介する。
また,自動スニペット生成パイプラインであるMedSNIPを導入する。
MedSNIP-Bench、HealthFC、MedHallu全体で、スニペットレベルの検証は偽クラスF1を保存または改善する。
論文 参考訳(メタデータ) (2026-09-11T14:08:44Z) - Clinical Intent Extraction: A FHIR-Aligned Representation and the CIRCA Benchmark [47.027290803102666]
臨床行動、フォローアップ、命令、レファラール、指示は、非com-patible corporaにまたがる細い断片に注釈付けされる。
本稿では,これらのアクションを完全構造化された再配置として回収するCIEと,各アクションを動詞,型,符号化対象,タイミング,条件に分解するCIRを紹介する。
CIRにおける5つのヘテロジニアスコーパスを再発現すると、CIRCA:10,011は2つの音符分布にまたがる調和された意図を持ち、ヒトに有意なサブセット、ソース・ツー・CIR横断歩道、および1となる。
論文 参考訳(メタデータ) (2026-08-24T07:42:58Z) - Clinically Structured Rank-Gated LoRA for Cross-Benchmark Medical Question Answering [4.896659944013307]
BiRG-LoRA (BiRG-LoRA) は、医学質問応答のための単一適応ランク付きLoRA法である。
BiRG-LoRAは、トレーニング可能なPEFTベースラインの中で、最高4ベンチマークのマクロ平均精度を達成する。
論文 参考訳(メタデータ) (2026-06-30T09:59:05Z) - Beyond Scalar Scores: Exploring LLM-based Metrics for Clinical Significance Evaluation in Radiology Reports [49.5225801722164]
既存のメトリクスは、医学的に根拠のないスカラーにレポートの品質を低下させることによって、この要件を曖昧にしている。
テストベッドとしてReEvalMedベンチマークを用いて,この境界について検討し,計量レベルの臨床的意義を評価する。
論文 参考訳(メタデータ) (2026-06-17T08:10:30Z) - ClinicalBench: Stress-Testing Assertion-Aware Retrieval for Cross-Admission Clinical QA on MIMIC-IV [0.0]
推論ベンチマークはクリーンインプットの臨床的パフォーマンスを測定する。
我々は, 否定, 時間性, 家族反対の帰属が正しい答えを誤ったものに戻すことができる, 実際の EHR ノートを検索することで, 推論の段階を評価する。
EpiKGは、アサーションラベルと時間性タグを患者の知識グラフに格納し、質問意図による検索をルーティングする。
論文 参考訳(メタデータ) (2026-05-11T18:47:52Z) - A Modular Approach for Clinical SLMs Driven by Synthetic Data with Pre-Instruction Tuning, Model Merging, and Clinical-Tasks Alignment [46.776978552161395]
小型言語モデル(SLM)は、GPT-4のような大規模言語モデルに代わる費用対効果を提供する。
SLMは費用対効果のある代替手段を提供するが、その限られた能力は生物医学的な領域適応を必要とする。
本研究では,SLMを高性能な臨床モデルに適用するための新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2025-05-15T21:40:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。