論文の概要: AdaLoRA-QAT: Adaptive Low-Rank and Quantization-Aware Segmentation
- arxiv url: http://arxiv.org/abs/2604.01167v1
- Date: Wed, 01 Apr 2026 17:18:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-02 16:44:32.113451
- Title: AdaLoRA-QAT: Adaptive Low-Rank and Quantization-Aware Segmentation
- Title(参考訳): AdaLoRA-QAT: 適応型低ランクと量子化対応セグメンテーション
- Authors: Prantik Deb, Srimanth Dhondy, N. Ramakrishna, Anu Kapoor, Raju S. Bapi, Tapabrata Chakraborti,
- Abstract要約: AdaLoRA-QATは、適応型低ランクエンコーダ適応とフル量子化対応トレーニングを組み合わせた2段階の微調整フレームワークである。
95.6%のDiceを実現し、完全精度のSAMデコーダを微調整し、トレーニング可能なパラメータを16.6倍減らし、2.24倍のモデル圧縮が得られる。
これらの結果から,AdaLoRA-QATは精度,効率,構造的信頼性を効果的にバランスさせ,医用画像セグメンテーションのためのコンパクトで展開可能な基礎モデルを実現できることが示された。
- 参考スコア(独自算出の注目度): 3.7529248291177404
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Chest X-ray (CXR) segmentation is an important step in computer-aided diagnosis, yet deploying large foundation models in clinical settings remains challenging due to computational constraints. We propose AdaLoRA-QAT, a two-stage fine-tuning framework that combines adaptive low-rank encoder adaptation with full quantization-aware training. Adaptive rank allocation improves parameter efficiency, while selective mixed-precision INT8 quantization preserves structural fidelity crucial for clinical reliability. Evaluated across large-scale CXR datasets, AdaLoRA-QAT achieves 95.6% Dice, matching full-precision SAM decoder fine-tuning while reducing trainable parameters by 16.6\times and yielding 2.24\times model compression. A Wilcoxon signed-rank test confirms that quantization does not significantly degrade segmentation accuracy. These results demonstrate that AdaLoRA-QAT effectively balances accuracy, efficiency, and structural trust-worthiness, enabling compact and deployable foundation models for medical image segmentation. Code and pretrained models are available at: https://prantik-pdeb.github.io/adaloraqat.github.io/
- Abstract(参考訳): 胸部X線(CXR)セグメンテーションはコンピュータ支援診断において重要なステップであるが, 計算制約のため, 大きな基礎モデルを臨床環境に展開することは困難である。
適応型低ランクエンコーダ適応とフル量子化学習を組み合わせた2段階ファインチューニングフレームワークであるAdaLoRA-QATを提案する。
適応的なランク割り当てはパラメータ効率を向上し、選択的な混合精度INT8量子化は臨床信頼性に欠かせない構造的忠実性を保っている。
大規模CXRデータセットで評価され、AdaLoRA-QATは95.6%のDiceを達成し、トレーニング可能なパラメータを16.6\times削減し、2.24\timesモデル圧縮を生成する。
ウィルコクソン符号ランク試験は、量子化がセグメンテーションの精度を著しく低下させないことを確認した。
これらの結果から,AdaLoRA-QATは精度,効率,構造的信頼性を効果的にバランスさせ,医用画像セグメンテーションのためのコンパクトで展開可能な基礎モデルを実現できることが示された。
コードと事前訓練されたモデルは、https://prantik-pdeb.github.io/adaloraqat.github.io/で利用可能である。
関連論文リスト
- CoT-X: An Adaptive Framework for Cross-Model Chain-of-Thought Transfer and Optimization [5.857877898558651]
CoT(Chain-of-Thought)推論は、大規模言語モデル(LLM)の問題解決能力を高めるが、かなりの推論オーバーヘッドをもたらす。
本稿では、適応的推論要約フレームワークを用いて、異なるスケールとアーキテクチャのモデル間での効率的なCoT転送について検討する。
論文 参考訳(メタデータ) (2025-11-07T22:35:31Z) - CAGE: Curvature-Aware Gradient Estimation For Accurate Quantization-Aware Training [73.46600457802693]
本稿では,量子化による損失に対応する新しい手法を提案する。
CAGEは、同様の計算コストで、精度の観点から最先端の手法を大幅に改善する。
LlamaモデルのQAT事前トレーニングでは、CAGEは4ビット(W4A4)で達成された精度と事前のベストメソッドとを一致させる。
論文 参考訳(メタデータ) (2025-10-21T16:33:57Z) - PT$^2$-LLM: Post-Training Ternarization for Large Language Models [52.4629647715623]
大きな言語モデル(LLM)は、様々なタスクにまたがる印象的な機能を示しているが、その大きなメモリと計算能力は、デプロイメントを妨げている。
PT$2$-LLMを提案する。
その中核は2段精製パイプラインを備えた非対称3次量子化器である。
論文 参考訳(メタデータ) (2025-09-27T03:01:48Z) - Simple is what you need for efficient and accurate medical image segmentation [7.2109224546543675]
本稿では,スケーラブルな超軽量医用画像分割モデルSimpleUNetを提案する。
記録破りの16KBパラメータ設定により、SimpleUNetはLBUNetや他の軽量ベンチマークを上回っている。
0.67MBの派生型は、より優れた効率(8.60 GFLOPs)と精度を実現し、マルチセンターの乳房病変のデータセットの平均DSC/IoUは85.76%/75.60%に達した。
論文 参考訳(メタデータ) (2025-06-16T12:31:48Z) - Quantum Machine Learning for Predicting Anastomotic Leak: A Clinical Study [0.16777183511743468]
AL(Anastomotic leak)は,大腸癌術後の合併症である。
本研究では、AL予測のための量子ニューラルネットワーク(QNN)の可能性について検討する。
論文 参考訳(メタデータ) (2025-06-02T14:13:10Z) - Detach-ROCKET: Sequential feature selection for time series classification with random convolutional kernels [0.7499722271664144]
ROCKETに基づくモデルにおいて, 逐次的特徴分離(Sequential Feature Detachment, SFD)を導入する。
SFDは、オリジナルの機能の10%しか使用せずに、より良いテスト精度でモデルを作成することができる。
また,特徴量とモデル精度の最適バランスを決定するためのエンドツーエンドの手法を提案する。
論文 参考訳(メタデータ) (2023-09-25T20:24:36Z) - Augmenting Hessians with Inter-Layer Dependencies for Mixed-Precision
Post-Training Quantization [7.392278887917975]
本稿では,ネットワーク上のテンソルに異なる数値精度を割り当てる混合精度ポストトレーニング量子化手法を提案する。
実験では,16ビットベースラインの25.48%$,21.69%$,33.28%$に対して,レイテンシの低減を実証した。
論文 参考訳(メタデータ) (2023-06-08T02:18:58Z) - Towards Reliable Medical Image Segmentation by Modeling Evidential Calibrated Uncertainty [57.023423137202485]
医用画像のセグメンテーションの信頼性に関する懸念が臨床医の間で続いている。
本稿では,医療画像セグメンテーションネットワークにシームレスに統合可能な,実装が容易な基礎モデルであるDEviSを紹介する。
主観的論理理論を活用することで、医用画像分割の確率と不確実性を明示的にモデル化する。
論文 参考訳(メタデータ) (2023-01-01T05:02:46Z) - Prompt Tuning for Parameter-efficient Medical Image Segmentation [79.09285179181225]
2つの医用画像データセットのセマンティックセグメンテーションにパラメータ効率が良いが効果的な適応を実現するために,いくつかのコントリビューションを提案し,検討する。
我々はこのアーキテクチャを、オンライン生成プロトタイプへの割り当てに基づく専用密集型セルフスーパービジョンスキームで事前訓練する。
得られたニューラルネットワークモデルにより、完全に微調整されたモデルとパラメータに適応したモデルとのギャップを緩和できることを実証する。
論文 参考訳(メタデータ) (2022-11-16T21:55:05Z) - Search What You Want: Barrier Panelty NAS for Mixed Precision
Quantization [51.26579110596767]
混合精度量子化のための新しいバリアペナルティベースNAS(BP-NAS)を提案する。
BP-NASは、分類(Cifar-10, ImageNet)と検出(COCO)の両方に基づいて芸術の新たな状態を設定する
論文 参考訳(メタデータ) (2020-07-20T12:00:48Z) - AQD: Towards Accurate Fully-Quantized Object Detection [94.06347866374927]
本稿では,浮動小数点演算を除去するために,AQDと呼ばれる高精度な量子化オブジェクト検出ソリューションを提案する。
我々のAQDは、非常に低ビットのスキームの下での完全精度と比較して、同等またはそれ以上の性能を実現しています。
論文 参考訳(メタデータ) (2020-07-14T09:07:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。