論文の概要: MedAide: Leveraging Large Language Models for On-Premise Medical
Assistance on Edge Devices
- arxiv url: http://arxiv.org/abs/2403.00830v1
- Date: Wed, 28 Feb 2024 08:30:49 GMT
- ステータス: 処理完了
- システム内更新日: 2024-03-05 23:08:08.840657
- Title: MedAide: Leveraging Large Language Models for On-Premise Medical
Assistance on Edge Devices
- Title(参考訳): MedAide: エッジデバイス上でのオンデマンド医療支援に大規模言語モデルを活用する
- Authors: Abdul Basit, Khizar Hussain, Muhammad Abdullah Hanif, Muhammad
Shafique
- Abstract要約: 大規模言語モデル(LLM)は、その顕著な自然言語処理(NLP)能力によって、様々な領域に革命をもたらしている。
しかし,資源制約のあるエッジコンピューティングや組み込みシステムにLLMをデプロイすることは,大きな課題となる。
これらの課題には、限られた医療施設とインフラを備えた遠隔地での医療支援の提供が含まれる。
- 参考スコア(独自算出の注目度): 7.042194397224198
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large language models (LLMs) are revolutionizing various domains with their
remarkable natural language processing (NLP) abilities. However, deploying LLMs
in resource-constrained edge computing and embedded systems presents
significant challenges. Another challenge lies in delivering medical assistance
in remote areas with limited healthcare facilities and infrastructure. To
address this, we introduce MedAide, an on-premise healthcare chatbot. It
leverages tiny-LLMs integrated with LangChain, providing efficient edge-based
preliminary medical diagnostics and support. MedAide employs model
optimizations for minimal memory footprint and latency on embedded edge devices
without server infrastructure. The training process is optimized using low-rank
adaptation (LoRA). Additionally, the model is trained on diverse medical
datasets, employing reinforcement learning from human feedback (RLHF) to
enhance its domain-specific capabilities. The system is implemented on various
consumer GPUs and Nvidia Jetson development board. MedAide achieves 77\%
accuracy in medical consultations and scores 56 in USMLE benchmark, enabling an
energy-efficient healthcare assistance platform that alleviates privacy
concerns due to edge-based deployment, thereby empowering the community.
- Abstract(参考訳): 大規模言語モデル(LLM)は、その顕著な自然言語処理(NLP)能力によって、様々な領域に革命をもたらしている。
しかし,資源制約のあるエッジコンピューティングや組み込みシステムにLLMをデプロイすることは,大きな課題となる。
もう一つの課題は、医療施設やインフラが限られている遠隔地に医療援助を提供することである。
この問題を解決するために、オンプレミスのヘルスケアチャットボットであるMedAideを紹介します。
LangChainと統合された小さなLLMを活用し、効率的なエッジベースの医療診断とサポートを提供する。
MedAideは、最小限のメモリフットプリントとレイテンシーを、サーバーインフラストラクチャなしで組み込みエッジデバイス上でモデル最適化する。
トレーニングプロセスはローランク適応(LoRA)を用いて最適化される。
さらに、モデルは多様な医療データセットに基づいて訓練され、人間からのフィードバック(RLHF)からの強化学習を用いてドメイン固有の能力を向上させる。
このシステムは、様々な消費者向けGPUとNvidia Jetson開発ボードで実装されている。
MedAideは医療相談で77%の精度を達成し、USMLEベンチマークで56点を記録し、エッジベースのデプロイメントによるプライバシー上の懸念を軽減するエネルギー効率の高い医療支援プラットフォームを可能にし、コミュニティを力づける。
関連論文リスト
- Apollo: An Lightweight Multilingual Medical LLM towards Democratizing
Medical AI to 6B People [74.95250992640979]
我々は6つの最も広く話されている言語にまたがる医療用LLMの開発を目指しており、世界人口は610億人である。
この取り組みは、ApolloCorpora多言語医療データセットとXMedBenchベンチマークの作成で頂点に達した。
トレーニングコーパス、コード、モデルの重み付け、評価ベンチマークをオープンソースにします。
論文 参考訳(メタデータ) (2024-03-06T11:56:02Z) - MEDITRON-70B: Scaling Medical Pretraining for Large Language Models [91.25119823784705]
大きな言語モデル(LLM)は、医療知識へのアクセスを民主化することができる。
医療領域に適応した7Bおよび70BパラメータのオープンソースLLMスイートであるMEDITRONをリリースする。
論文 参考訳(メタデータ) (2023-11-27T18:49:43Z) - ChiMed-GPT: A Chinese Medical Large Language Model with Full Training
Regime and Better Alignment to Human Preferences [55.42521181558716]
中国医学領域向けに設計された新しいベンチマークLSMであるChiMed-GPTを提案する。
ChiMed-GPTは、コンテキスト長を4,096トークンに拡大し、事前トレーニング、SFT、RLHFを含む総合的なトレーニング体制を実行している。
情報抽出,質問応答,対話生成などの実世界のタスクの評価は,一般的なドメインLLMよりもChiMed-GPTの方が優れた性能を示している。
論文 参考訳(メタデータ) (2023-11-10T12:25:32Z) - LVM-Med: Learning Large-Scale Self-Supervised Vision Models for Medical
Imaging via Second-order Graph Matching [59.01894976615714]
LVM-Medは、大規模医療データセットに基づいてトレーニングされた、最初のディープネットワークファミリーである。
55の公開データセットから約13万の医療画像を収集しました。
LVM-Medは、多くの最先端の教師付き、自己監督型、基礎モデルよりも経験的に優れている。
論文 参考訳(メタデータ) (2023-06-20T22:21:34Z) - Learnable Weight Initialization for Volumetric Medical Image
Segmentation [54.1807206010136]
本稿では,学習可能な重みに基づくハイブリッド医療画像セグメンテーション手法を提案する。
我々のアプローチはどんなハイブリッドモデルにも簡単に統合でき、外部のトレーニングデータを必要としない。
多臓器・肺がんセグメンテーションタスクの実験は、我々のアプローチの有効性を実証している。
論文 参考訳(メタデータ) (2023-06-15T17:55:05Z) - Lightweight Mobile Automated Assistant-to-physician for Global
Lower-resource Areas [9.978987200997686]
我々は、低リソース地域の医療提供者を支援する人工知能アシスタントを設計し、人口統計と医療サイン/症状データを文書化しました。
このアプリケーションは患者から基本情報を収集し、プライマリ・ケア・プロバイダーに診断と処方薬の提案を提供する。
論文 参考訳(メタデータ) (2021-10-28T14:02:16Z) - MedPerf: Open Benchmarking Platform for Medical Artificial Intelligence
using Federated Evaluation [110.31526448744096]
この可能性を解き明かすには、大規模な異種データに対して医療AIモデルの性能を測定する体系的な方法が必要である、と私たちは主張する。
MedPerfは、医療分野で機械学習をベンチマークするためのオープンフレームワークです。
論文 参考訳(メタデータ) (2021-09-29T18:09:41Z) - Multilingual Medical Question Answering and Information Retrieval for
Rural Health Intelligence Access [1.0499611180329804]
いくつかの発展途上国の農村部では、高品質な医療、医療インフラ、専門的診断へのアクセスはほとんど利用できない。
このような医療アクセスの欠如、患者の以前の健康記録の欠如、および先住民語での情報の置換によるいくつかの死を、容易に防ぐことができる。
本稿では,機械学習とNLP(Natural Language Processing)技術における現象の進展を利用して,低リソース・多言語・予備的ファーストポイント・オブ・コンタクト・メディカルアシスタントを設計するアプローチについて述べる。
論文 参考訳(メタデータ) (2021-06-02T16:05:24Z) - Edge Computing For Smart Health: Context-aware Approaches,
Opportunities, and Challenges [13.506100532943162]
スマートヘルスケア(s-health)を実現する上で最も有望なアプローチは、エッジコンピューティング機能と次世代無線ネットワーク技術である。
我々はMECベースのアーキテクチャを構想し、ネットワーク内およびコンテキスト対応処理を実現する上でのメリットについて論じる。
このようなアーキテクチャを活用して効率的なデータ配信を実現する2つの主要な機能を示す。
論文 参考訳(メタデータ) (2020-04-15T19:50:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。