論文の概要: The Role of High-Performance GPU Resources in Large Language Model Based Radiology Imaging Diagnosis
- arxiv url: http://arxiv.org/abs/2509.16328v2
- Date: Wed, 24 Sep 2025 19:08:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-12-07 19:06:32.026489
- Title: The Role of High-Performance GPU Resources in Large Language Model Based Radiology Imaging Diagnosis
- Title（参考訳）: 大規模言語モデルを用いた放射線画像診断における高性能GPUリソースの役割
- Authors: Jyun-Ping Kao,
- Abstract要約: 大規模言語モデル(LLM)は放射線学に急速に適用され、自動画像解釈とレポート生成タスクが実現されている。
高性能なグラフィカル処理ユニット(GPU)は、画像データ上で大きなLLMを実行するために必要な計算量とメモリスループットを提供する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large-language models (LLMs) are rapidly being applied to radiology, enabling automated image interpretation and report generation tasks. Their deployment in clinical practice requires both high diagnostic accuracy and low inference latency, which in turn demands powerful hardware. High-performance graphical processing units (GPUs) provide the necessary compute and memory throughput to run large LLMs on imaging data. We review modern GPU architectures (e.g. NVIDIA A100/H100, AMD Instinct MI250X/MI300) and key performance metrics of floating-point throughput, memory bandwidth, VRAM capacity. We show how these hardware capabilities affect radiology tasks: for example, generating reports or detecting findings on CheXpert and MIMIC-CXR images is computationally intensive and benefits from GPU parallelism and tensor-core acceleration. Empirical studies indicate that using appropriate GPU resources can reduce inference time and improve throughput. We discuss practical challenges including privacy, deployment, cost, power and optimization strategies: mixed-precision, quantization, compression, and multi-GPU scaling. Finally, we anticipate that next-generation features (8-bit tensor cores, enhanced interconnect) will further enable on-premise and federated radiology AI. Advancing GPU infrastructure is essential for safe, efficient LLM-based radiology diagnostics.
- Abstract（参考訳）: 大規模言語モデル(LLM)は放射線学に急速に適用され、自動画像解釈とレポート生成タスクが実現されている。
彼らの臨床実践への展開には、高い診断精度と低い推論遅延の両方が必要であり、それによって強力なハードウェアが要求される。
高性能なグラフィカル処理ユニット(GPU)は、画像データ上で大きなLLMを実行するために必要な計算量とメモリスループットを提供する。
最新のGPUアーキテクチャ(NVIDIA A100/H100、AMD Instinct MI250X/MI300)と、浮動小数点スループット、メモリ帯域幅、VRAM容量の主なパフォーマンス指標についてレビューする。
例えば、CheXpertおよびMIMIC-CXR画像のレポートの生成や発見は、計算集約的で、GPU並列性とテンソルコアアクセラレーションの恩恵を受けている。
実証研究は、適切なGPUリソースを使用することで、推論時間を短縮し、スループットを向上させることを示唆している。
プライバシ、デプロイメント、コスト、パワー、最適化戦略(混合精度、量子化、圧縮、マルチGPUスケーリング)など、現実的な課題について論じる。
最後に,次世代機能(8ビットテンソルコア,拡張相互接続)が,オンプレミスおよびフェデレートされた放射線学AIをさらに有効化すると予想する。
安全かつ効率的なLSMベースの放射線診断にはGPUインフラストラクチャの強化が不可欠である。
関連論文リスト
- NGPU-LM: GPU-Accelerated N-Gram Language Model for Context-Biasing in Greedy ASR Decoding [54.88765757043535]
この研究は、統計的なn-gram言語モデルのデータ構造を再考し、GPU最適化推論の高速かつ並列な操作を可能にする。
我々のアプローチは NGPU-LM と呼ばれ、7% 未満の計算オーバーヘッドを持つ全ての主要な ASR モデルに対して、カスタマイズ可能なgreedy decoding を導入している。
提案手法は,ビーム探索による顕著な遅延を回避しつつ,greedy と beam search の精度ギャップの50%以上を排除できる。
論文 参考訳（メタデータ） (2025-05-28T20:43:10Z) - MRGen: Segmentation Data Engine for Underrepresented MRI Modalities [59.61465292965639]
稀ながら臨床的に重要な画像モダリティのための医用画像分割モデルの訓練は、注釈付きデータの不足により困難である。
本稿では,データ合成における生成モデルの利用について検討する。
本稿では,テキストプロンプトとセグメンテーションマスクを条件とした医用画像合成のためのデータエンジンMRGenを提案する。
論文 参考訳（メタデータ） (2024-12-04T16:34:22Z) - Efficient and accurate neural field reconstruction using resistive memory [52.68088466453264]
デジタルコンピュータにおける従来の信号再構成手法は、ソフトウェアとハードウェアの両方の課題に直面している。
本稿では,スパース入力からの信号再構成のためのソフトウェア・ハードウェア協調最適化を用いた体系的アプローチを提案する。
この研究は、AI駆動の信号復元技術を進歩させ、将来の効率的で堅牢な医療AIと3Dビジョンアプリケーションへの道を開く。
論文 参考訳（メタデータ） (2024-04-15T09:33:09Z) - Towards Deterministic End-to-end Latency for Medical AI Systems in
NVIDIA Holoscan [0.35516599670943777]
医療機器メーカーは、単一のプラットフォームに複数のアプリケーションを統合することで、AIとMLがもたらすメリットを最大化することを熱望している。
複数のAIアプリケーションの同時実行は、それぞれ独自の視覚化コンポーネントを持ち、予測不可能なエンドツーエンドのレイテンシをもたらす。
本稿では,センサデータと画像のストリーミングを行うリアルタイムAIシステムであるHoloscanプラットフォームにおけるこれらの課題に対処する。
論文 参考訳（メタデータ） (2024-02-06T23:20:34Z) - Energy efficiency in Edge TPU vs. embedded GPU for computer-aided
medical imaging segmentation and classification [0.9728436272434581]
眼底画像に基づく緑内障の診断を例として, 組込み基板上でリアルタイムでセグメンテーションと分類を行う可能性を示す。
組み込みアクセラレーションシステム(EAS)のメモリ制限と低処理能力は、ディープネットワークベースのシステムトレーニングでの使用を制限する。
機械学習(ML)アクセラレーターを搭載した2つのEASの時間とエネルギー特性を評価し,前報で開発した例診断ツールを実行する。
論文 参考訳（メタデータ） (2023-11-20T09:38:56Z) - Neural Network Methods for Radiation Detectors and Imaging [1.6395318070400589]
機械学習、特にディープニューラルネットワーク(DNN)の最近の進歩により、放射線検出器や撮像ハードウェアの新たな最適化と性能向上スキームが実現されている。
本稿では、光子源におけるデータ生成の概要、画像処理タスクのためのディープラーニングベースの方法、ディープラーニングアクセラレーションのためのハードウェアソリューションについて述べる。
論文 参考訳（メタデータ） (2023-11-09T20:21:51Z) - FusionAI: Decentralized Training and Deploying LLMs with Massive
Consumer-Level GPUs [57.12856172329322]
我々は、巨大な未使用のコンシューマレベルのGPUをアンロックする分散システムを構想する。
このシステムは、CPUとGPUメモリの制限、ネットワーク帯域幅の低さ、ピアとデバイスの多様性など、重要な課題に直面している。
論文 参考訳（メタデータ） (2023-09-03T13:27:56Z) - EfficientViT: Multi-Scale Linear Attention for High-Resolution Dense
Prediction [67.11722682878722]
この研究は、新しいマルチスケール線形注意を持つ高解像度ビジョンモデルのファミリーであるEfficientViTを提示する。
マルチスケール線形注意は,グローバルな受容場とマルチスケール学習を実現する。
EfficientViTは従来の最先端モデルよりも優れたパフォーマンス向上を実現している。
論文 参考訳（メタデータ） (2022-05-29T20:07:23Z) - Providing Meaningful Data Summarizations Using Examplar-based Clustering
in Industry 4.0 [67.80123919697971]
我々は,従来のCPUアルゴリズムと比較して,一精度で最大72倍,半精度で最大452倍の高速化を実現していることを示す。
提案アルゴリズムは射出成形プロセスから得られた実世界のデータに適用し, 得られたサマリーが, コスト削減と不良部品製造の削減のために, この特定のプロセスのステアリングにどのように役立つかについて議論する。
論文 参考訳（メタデータ） (2021-05-25T15:55:14Z) - Accelerating Deep Learning Applications in Space [0.0]
拘束デバイス上でのCNNを用いた物体検出の性能について検討する。
我々は、Single Shot MultiBox Detector (SSD)とリージョンベースのFully Convolutional Network (R-FCN)について詳しく検討する。
性能は、推測時間、メモリ消費、精度で測定される。
論文 参考訳（メタデータ） (2020-07-21T21:06:30Z) - Organ Segmentation From Full-size CT Images Using Memory-Efficient FCN [10.411340412305849]
医用画像分割作業では、サブボリュームトリミングが一般的な前処理となっている。
いくつかのメモリ最適化手法を組み込んだ,メモリ効率の良い完全畳み込みネットワーク(FCN)を提案する。
論文 参考訳（メタデータ） (2020-03-24T07:12:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。