論文の概要: Clinically Structured Rank-Gated LoRA for Cross-Benchmark Medical Question Answering

• arxiv url: http://arxiv.org/abs/2606.31432v2
• Date: Wed, 01 Jul 2026 11:12:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-02 15:15:53.082901
• Title: Clinically Structured Rank-Gated LoRA for Cross-Benchmark Medical Question Answering
• Title（参考訳）: クロスベンチマーク医療質問票作成のためのランク付きLORAの臨床的検討
• Authors: Hao Gong, Ruilin Gong, Yining Huang,
• Abstract要約: BiRG-LoRA (BiRG-LoRA) は、医学質問応答のための単一適応ランク付きLoRA法である。 BiRG-LoRAは、トレーニング可能なPEFTベースラインの中で、最高4ベンチマークのマクロ平均精度を達成する。
• 参考スコア（独自算出の注目度）: 4.896659944013307
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Medical multiple-choice question answering requires parameter-efficient adaptation across heterogeneous knowledge domains and reasoning operations. A medication question, a diagnostic decision, a public-health item, and a nursing-action item may require different low-rank updates, while some recall items should preserve the base model's representation with only mild adapter intervention. We propose BiRG-LoRA, a single-adapter rank-gated LoRA method for medical question answering. BiRG-LoRA keeps one LoRA module per target layer but makes its rank dimension input-conditioned: for each question, a biaxial gate combines hidden semantic evidence with specialty/profession priors, clinical-operation priors, and their interaction to select a sparse top-$k$ subset of rank atoms. A scalar injection coefficient further controls the strength of the selected adapter update. Under a matched Qwen3-8B CMB-source protocol, BiRG-LoRA achieves the highest four-benchmark macro-average accuracy among trainable PEFT baselines and matched routing controls: 69.31% averaged over CMB, CMExam, MedQA, and MedMCQA. It improves over MoELoRA by 0.89 percentage points while using 28.1% fewer trainable parameters; a paired, benchmark-stratified bootstrap over final predictions gives a 95% confidence interval of [0.42, 1.37] for this macro-average gain. Basic controls show that BiRG-LoRA also improves over vanilla LoRA r16 and active-rank-matched LoRA r4 by 0.83 macro points, and an evaluation-time weak-axis perturbation check suggests that performance is not brittle to moderate tag noise. The results support a bounded claim: clinically structured rank allocation improves cross-benchmark medical QA under a matched single-seed protocol, while training-seed variance remains future work.
• Abstract（参考訳）: 医学的多重選択質問応答には、不均一な知識領域と推論操作をまたいだパラメータ効率の適応が必要である。 薬物問題、診断判断、公衆衛生項目、看護行為項目は、異なる低ランク更新を必要とする場合があるが、一部のリコール項目は、軽度のアダプタ介入のみでベースモデルの表現を保存すべきである。 医療質問応答のための単一適応ランク付きLoRA法であるBiRG-LoRAを提案する。 BiRG-LoRAはターゲット層ごとに1つのLoRAモジュールを保持するが、そのランク次元を入力条件にしている: それぞれの質問に対して、二軸ゲートは隠されたセマンティックエビデンスと専門/専門の先行、臨床操作の先行、およびそれらの相互作用を結合して、ランク原子のトップ$k$サブセットを選択する。 スカラー注入係数は、選択されたアダプタ更新の強度をさらに制御する。 一致したQwen3-8B CMB-sourceプロトコルの下で、BiRG-LoRAはトレーニング可能なPEFTベースラインと一致したルーティング制御で最高4ベンチマークのマクロ平均精度を達成している。 トレーニング可能なパラメータを28.1%減らしながら、MoELoRAを0.89パーセント改善し、最終的な予測よりもベンチマーク階層化されたブートストラップにより、このマクロ平均ゲインに対して95%の信頼区間が[0.42, 1.37]与えられる。 BiRG-LoRA はバニラ LoRA r16 とアクティブランクの LoRA r4 を0.83 マクロポイントで改善し、評価時の弱軸摂動チェックは、中程度のタグノイズに対して性能が不安定でないことを示唆している。 臨床構造化されたランクアロケーションは、マッチしたシングルシードプロトコルの下でのクロスベンチマーク医療QAを改善し、トレーニングシードのばらつきは今後も継続する。

関連論文リスト

• TriageRA-CCF: Source-Side Clinical Confidence and Coverage Signals for Adaptive Rank Budgeting in Medical LLMs [8.601855281320903]
  TriageRA-CCFは、適応的なランク予算の医療用大言語モデルのためのソースサイドの教師である。 ソーストレーニングデータからのみ計算される3つの信号、ベースモデル回答の信頼性、メタデータセル臨床カバレッジ、および対実的クローズミスプロキシを組み合わせる。 一致したCMBソーストレーニングプロトコルの下で、TriageRA-CCFはLoRA、DoRA、MoELoRAベースラインの中で最高の平均精度を達成する。
  論文  参考訳（メタデータ） (2026-06-28T12:52:07Z)
• iLoRA: Bayesian Low-Rank Adaptation with Latent Interaction Graphs for Microbiome Diagnosis [15.311128089548573]
  iLoRAは、最初のベイズグラフ条件付きLoRAフレームワークである。 入力から遅延相互作用グラフを推論し、入力条件付きLoRA更新を生成する。 微生物の診断では,病状は種レベルと微生物のクロストークの両方に依存する。
  論文  参考訳（メタデータ） (2026-05-28T16:26:06Z)
• SMoA: Spectrum Modulation Adapter for Parameter-Efficient Fine-Tuning [57.85676271833619]
  低ランク適応 (LoRA) は、全パラメータの微調整をシミュレートするために低ランク更新法を用いる。 ランクが大きくなるにつれて、より主特異な方向が保存され、一般にモデルの性能が向上する。 textbfSpectrum textbfModulation textbfAdapterを提案する。
  論文  参考訳（メタデータ） (2026-05-20T13:19:28Z)
• FIM-LoRA: Task-Informative Rank Allocation for LoRA via Calibration-Time Gradient-Variance Estimation [0.0]
  低ランク適応(LoRA)は、全ての適応された重み行列に均一なランクを割り当てる。 各LoRA-B行列の勾配分散を層情報化の代用として計算し, 等級予算を比例的に再分配する。 結果として得られるアダプタは、層ごとのランクパターンを持つ標準のLoRAである。
  論文  参考訳（メタデータ） (2026-05-16T04:03:21Z)
• A Multi-Agent Framework for Medical AI: Leveraging Fine-Tuned GPT, LLaMA, and DeepSeek R1 for Evidence-Based and Bias-Aware Clinical Query Processing [0.4349324020366305]
  大規模言語モデル(LLM)は、医療問題に対する回答を約束するが、臨床的使用は、弱い検証、不十分な証拠の根拠、信頼できない信頼のシグナルによって制限される。 本稿では,補完的なLCMとエビデンス検索,不確実性推定,バイアスチェックを組み合わせて回答信頼性を向上させるマルチエージェント医療QAフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-02-15T14:17:27Z)
• From Conflict to Consensus: Boosting Medical Reasoning via Multi-Round Agentic RAG [65.0203623486525]
  大規模言語モデル(LLM)は、医学的質問応答において高い推論能力を示す。 幻覚や時代遅れの知識を生み出す傾向は、医療分野において重大なリスクをもたらす。 既存の手法はノイズの多いトークンレベルの信号に依存しており、複雑な推論に必要なマルチラウンドの改良は欠如している。
  論文  参考訳（メタデータ） (2026-02-06T08:25:30Z)
• P-RAG: Prompt-Enhanced Parametric RAG with LoRA and Selective CoT for Biomedical and Multi-Hop QA [9.399056753263757]
  Retrieval-Augmented Generation (RAG) は、推論中に外部知識を取得することで、この制約に対処する。 3種類のRAG変異体-Standard RAG, DA-RAG, 提案したPrompt-Enhanced Parametric RAG (P-RAG) について検討した。 P-RAG は LLM 内にパラメトリック知識を統合し、チェイン・オブ・ソート (CoT) の誘導とローランド適応 (LoRA) によって導かれる証拠を回収する。
  論文  参考訳（メタデータ） (2026-02-02T03:42:45Z)
• Faster Than SVD, Smarter Than SGD: The OPLoRA Alternating Update [50.36542772932594]
  Low-Rank Adaptation (LoRA) は、凍結重量の上の低ランク更新を学習することで、大きなモデルを微調整する。 ローランクプロジェクションによる完全なトレーニング(SVDLoRA)とLoRAファインチューニングの間にはまだギャップがあり、LoRAのステップをさらに改善できることを示している。
  論文  参考訳（メタデータ） (2025-09-24T10:32:50Z)
• Automatic Rank Determination for Low-Rank Adaptation via Submodular Function Maximization [56.78271181959529]
  SubLoRAは、サブモジュール関数に基づくローランド適応(LoRA)のランク決定方法である。 提案手法は, 理論的基礎, 2次精度, 実用計算効率の両立を図っている。
  論文  参考訳（メタデータ） (2025-07-02T15:56:40Z)
• LoRA Done RITE: Robust Invariant Transformation Equilibration for LoRA Optimization [78.93425154518705]
  低ランク適応 (LoRA) は、メモリ要求を低減し、LLMのパラメータ効率の高い微調整法である。 本稿では,LoRA最適化のための適応行列プレコンディショニング手法であるLoRA-RITEを紹介する。
  論文  参考訳（メタデータ） (2024-10-27T22:57:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。