論文の概要: Privacy-Preserving SAM Quantization for Efficient Edge Intelligence in Healthcare
- arxiv url: http://arxiv.org/abs/2410.01813v1
- Date: Sat, 14 Sep 2024 10:43:35 GMT
- ステータス: 処理完了
- システム内更新日: 2024-11-04 14:54:47.284311
- Title: Privacy-Preserving SAM Quantization for Efficient Edge Intelligence in Healthcare
- Title(参考訳): 医療におけるエッジインテリジェンスのためのプライバシ保護SAM量子化
- Authors: Zhikai Li, Jing Zhang, Qingyi Gu,
- Abstract要約: Segment Anything Model (SAM) はインテリジェントなイメージセグメンテーションに優れている。
SAMはリソース制限されたエッジデバイスにデプロイする上で大きな課題となる。
本研究では,原データなしで量子化パラメータを学習・校正する DFQ-SAM という,SAM のためのデータフリー量子化フレームワークを提案する。
- 参考スコア(独自算出の注目度): 9.381558154295012
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The disparity in healthcare personnel expertise and medical resources across different regions of the world is a pressing social issue. Artificial intelligence technology offers new opportunities to alleviate this issue. Segment Anything Model (SAM), which excels in intelligent image segmentation, has demonstrated exceptional performance in medical monitoring and assisted diagnosis. Unfortunately, the huge computational and storage overhead of SAM poses significant challenges for deployment on resource-limited edge devices. Quantization is an effective solution for model compression; however, traditional methods rely heavily on original data for calibration, which raises widespread concerns about medical data privacy and security. In this paper, we propose a data-free quantization framework for SAM, called DFQ-SAM, which learns and calibrates quantization parameters without any original data, thus effectively preserving data privacy during model compression. Specifically, we propose pseudo-positive label evolution for segmentation, combined with patch similarity, to fully leverage the semantic and distribution priors in pre-trained models, which facilitates high-quality data synthesis as a substitute for real data. Furthermore, we introduce scale reparameterization to ensure the accuracy of low-bit quantization. We perform extensive segmentation experiments on various datasets, and DFQ-SAM consistently provides significant performance on low-bit quantization. DFQ-SAM eliminates the need for data transfer in cloud-edge collaboration, thereby protecting sensitive data from potential attacks. It enables secure, fast, and personalized healthcare services at the edge, which enhances system efficiency and optimizes resource allocation, and thus facilitating the pervasive application of artificial intelligence in worldwide healthcare.
- Abstract(参考訳): 世界中の様々な地域における医療従事者の専門知識と医療資源の格差は、社会的問題である。
人工知能技術はこの問題を緩和する新たな機会を提供する。
画像のセグメンテーションに優れたセグメンテーションモデル (SAM) は, 医療モニタリングや診断支援において極めて優れた性能を示した。
残念なことに、SAMの膨大な計算およびストレージオーバーヘッドは、リソース制限されたエッジデバイスへのデプロイに重大な課題をもたらす。
量子化はモデルの圧縮に有効なソリューションであるが、従来の手法はキャリブレーションのためにオリジナルのデータに大きく依存しているため、医療データのプライバシーやセキュリティに対する懸念が広がる。
本稿では、原データなしで量子化パラメータを学習・校正し、モデル圧縮時のデータプライバシを効果的に保持する、データフリーなSAM用量子化フレームワークDFQ-SAMを提案する。
具体的には、セグメンテーションのための擬陽性ラベルの進化とパッチの類似性を組み合わせて、事前訓練されたモデルにおけるセマンティクスと分布の先行性を完全に活用し、実際のデータの代わりに高品質なデータ合成を容易にする。
さらに、低ビット量子化の精度を確保するため、スケール再パラメータ化を導入する。
我々は様々なデータセットに対して広範囲なセグメンテーション実験を行い、DFQ-SAMは低ビット量子化において一貫した性能を提供する。
DFQ-SAMは、クラウドとエッジのコラボレーションにおけるデータ転送の必要性を排除し、潜在的な攻撃から機密データを保護する。
安全で高速でパーソナライズされた医療サービスをエッジで実現し、システムの効率を向上し、リソース割り当てを最適化する。
関連論文リスト
- Masked Clinical Modelling: A Framework for Synthetic and Augmented Survival Data Generation [1.7769033811751995]
本稿では,マスク付き言語モデリングに触発されたMCM(Masked Clinical Modelling)について紹介する。
MCMはデータ合成と条件付きデータ拡張の両方のために設計されている。
我々は,このプロトタイプをCox Proportional Hazardsモデルを用いてWHAS500データセット上で評価する。
論文 参考訳(メタデータ) (2024-10-22T08:38:46Z) - COMFORT: A Continual Fine-Tuning Framework for Foundation Models Targeted at Consumer Healthcare [3.088223994180069]
COMFORTはTransformerベースの基盤モデルとWMSベースの疾患検出のギャップを埋めることを目的としている。
本稿では,トランスフォーマーに基づく基礎モデルを生理的信号の大規模データセット上で事前学習するための新しいアプローチを提案する。
次に、低ランク適応(LoRA)とその変種など、パラメータ効率のよい各種細調整法(PEFT)を用いて、モデルを微調整し、下流の様々な疾患検出タスクに適応させる。
論文 参考訳(メタデータ) (2024-09-14T22:24:52Z) - A Federated Learning-Friendly Approach for Parameter-Efficient Fine-Tuning of SAM in 3D Segmentation [5.011091042850546]
医用画像解析に基礎モデルを適用するには、かなりの量のデータでそれらを微調整する必要がある。
このような微調整のためのタスク固有の医療データを中央で収集することは、多くのプライバシー上の懸念を引き起こす。
フェデレーテッド・ラーニング(FL)は、プライベートな分散データをトレーニングするための効果的な手段を提供するが、大規模な基盤モデルをフェデレーテッドする際の通信コストは、すぐに重大なボトルネックとなる可能性がある。
論文 参考訳(メタデータ) (2024-07-31T16:48:06Z) - PrivFED -- A Framework for Privacy-Preserving Federated Learning in Enhanced Breast Cancer Diagnosis [0.0]
本研究では、ウィスコンシンデータセットに基づいてトレーニングされたフェデレーション学習フレームワークを導入し、データの不足や不均衡といった課題を軽減する。
このモデルの平均精度はエッジデバイスで99.95%、中央サーバで98%である。
論文 参考訳(メタデータ) (2024-05-13T18:01:57Z) - QKSAN: A Quantum Kernel Self-Attention Network [53.96779043113156]
量子カーネル法(Quantum Kernel Methods, QKM)のデータ表現能力とSAMの効率的な情報抽出能力を組み合わせた量子カーネル自己認識機構(Quantum Kernel Self-Attention Mechanism, QKSAM)を導入する。
量子カーネル自己保持ネットワーク(QKSAN)フレームワークは,DMP(Dederred Measurement Principle)と条件測定技術を巧みに組み込んだQKSAMに基づいて提案されている。
4つのQKSANサブモデルはPennyLaneとIBM Qiskitプラットフォームにデプロイされ、MNISTとFashion MNISTのバイナリ分類を実行する。
論文 参考訳(メタデータ) (2023-08-25T15:08:19Z) - Blockchain-empowered Federated Learning for Healthcare Metaverses:
User-centric Incentive Mechanism with Optimal Data Freshness [66.3982155172418]
まず、医療メタバースのための分散型フェデレートラーニング(FL)に基づく、ユーザ中心のプライバシ保護フレームワークを設計する。
次に,情報時代(AoI)を有効データ更新度指標として利用し,観測理論(PT)に基づくAoIベースの契約理論モデルを提案し,センシングデータ共有の動機付けを行う。
論文 参考訳(メタデータ) (2023-07-29T12:54:03Z) - Learnable Weight Initialization for Volumetric Medical Image Segmentation [66.3030435676252]
本稿では,学習可能な重みに基づくハイブリッド医療画像セグメンテーション手法を提案する。
我々のアプローチはどんなハイブリッドモデルにも簡単に統合でき、外部のトレーニングデータを必要としない。
多臓器・肺がんセグメンテーションタスクの実験は、我々のアプローチの有効性を実証している。
論文 参考訳(メタデータ) (2023-06-15T17:55:05Z) - ClusterQ: Semantic Feature Distribution Alignment for Data-Free
Quantization [111.12063632743013]
本稿では,ClusterQと呼ばれるデータフリーな量子化手法を提案する。
意味的特徴のクラス間分離性を高めるために,特徴分布統計をクラスタ化し,整列する。
また、クラス内分散を組み込んで、クラスワイドモードの崩壊を解決する。
論文 参考訳(メタデータ) (2022-04-30T06:58:56Z) - Machine Learning in Precision Medicine to Preserve Privacy via
Encryption [2.099922236065961]
我々は,がんを予測するMLモデルの構築に使用した,暗号化(MLE)フレームワークを用いた汎用機械学習を提案する。
我々のフレームワークの予測精度は、同じデータセット上で実施された最新の研究よりもわずかに高い。
私たちは、フレームワークの設計と実装、すべてのML実験とコード、そして、無料のクラウドサービスにデプロイされた最終的な予測モデルを含む、オープンソースのリポジトリを提供しています。
論文 参考訳(メタデータ) (2021-02-05T20:22:15Z) - Privacy-preserving medical image analysis [53.4844489668116]
医用画像におけるプライバシ保護機械学習(PPML)のためのソフトウェアフレームワークであるPriMIAを提案する。
集合型学習モデルの分類性能は,未発見データセットの人間専門家と比較して有意に良好である。
グラデーションベースのモデル反転攻撃に対するフレームワークのセキュリティを実証的に評価する。
論文 参考訳(メタデータ) (2020-12-10T13:56:00Z) - Self-Training with Improved Regularization for Sample-Efficient Chest
X-Ray Classification [80.00316465793702]
挑戦的なシナリオで堅牢なモデリングを可能にするディープラーニングフレームワークを提案する。
その結果,85%のラベル付きデータを用いて,大規模データ設定で学習した分類器の性能に適合する予測モデルを構築することができた。
論文 参考訳(メタデータ) (2020-05-03T02:36:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。