論文の概要: CanvOI, an Oncology Intelligence Foundation Model: Scaling FLOPS Differently

• arxiv url: http://arxiv.org/abs/2409.02885v1
• Date: Wed, 4 Sep 2024 17:15:44 GMT
• ステータス: 処理完了
• システム内更新日: 2024-09-05 16:52:09.824912
• Title: CanvOI, an Oncology Intelligence Foundation Model: Scaling FLOPS Differently
• Title（参考訳）: CanvOI - オンコロジーインテリジェンスの基礎モデル: FLOPSのスケーリング
• Authors: Jonathan Zalach, Inbal Gazy, Assaf Avinoam, Ron Sinai, Eran Shmuel, Inbar Gilboa, Christine Swisher, Naim Matasci, Reva Basho, David B. Agus,
• Abstract要約: 本稿では,VT-g/10ベースの基盤モデルであるCanvOIについて述べる。 より大きなタイルサイズ(380 x 380ピクセル)と小さなパッチサイズ(10 x 10ピクセル)を導入することで、モデルの性能を最適化することができた。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: The rapidly evolving field of digital oncopathology faces significant challenges, including the need to address diverse and complex clinical questions, often involving rare conditions, with limited availability of labeled data. These limitations hinder the development of robust AI-driven tools in the biomedical space, where accuracy in probabilistic determinations is of utmost importance. To address this, digital pathology foundation models have begun to emerge, typically developed with the size and diversity of the pre-training dataset and model parameters in mind. Here, we present CanvOI, a ViT-g/10-based foundation model designed to enhance the capabilities of digital pathology by addressing these challenges through a different approach. Considering the unique nature of oncologic histopathological images and the requirements from the embeddings to provide meaningful representations for Multiple Instance Learning (MIL) downstream models, we chose to modify the input image characteristics. By introducing larger tile sizes (380 x 380 pixels) and smaller patch sizes (10 x 10 pixels), we were able to optimize the model's performance, pushing computational resources in a new direction and achieving state-of-the-art performance on cancer-related benchmarks. CanvOI demonstrated a 1.5-7.4% improvement in averaged AUC compared to other leading foundation models built for digital pathology. Moreover, our results demonstrate that CanvOI significantly outperformed the other models, with the performance gap widening substantially when trained on just 10% of the initial cohort. This work highlights an alternative approach that, if integrated with traditional development approaches, has the potential to advance Oncology Intelligence (OI), overcome some of the current barriers and ultimately improve the clinical outcome of cancer patients.
• Abstract（参考訳）: 急速に発展するデジタルオンコパシーの分野は、多種多様な複雑な臨床問題に対処する必要があるなど、重要な課題に直面している。 これらの制限は、確率的決定の正確性が最も重要である生体医療分野において、堅牢なAI駆動ツールの開発を妨げる。 これを解決するために、デジタル病理基盤モデルが登場し始めており、通常、トレーニング済みデータセットとモデルパラメータを念頭において、サイズと多様性が発達している。 本稿では,VT-g/10ベースの基盤モデルであるCanvOIについて紹介する。 本研究は, 腫瘍病理像の特異な性質と, 下流モデルに意味のある表現を提供するための埋め込みからの要求を踏まえて, 入力画像特性の修正を選択した。 より大きなタイルサイズ(380×380ピクセル)と小さなパッチサイズ(10×10ピクセル)を導入することで、我々はモデルの性能を最適化し、計算資源を新しい方向に押し上げ、がん関連ベンチマークで最先端のパフォーマンスを達成することができた。 CanvOIは、デジタル病理学のために作られた他の主要な基礎モデルと比較して平均AUCが1.5-7.4%改善したことを示した。 さらに,CanvOIは初期コホートの10%しか訓練していない場合,性能差が大きく,他のモデルよりも優れていた。 この研究は、従来の開発アプローチと統合すれば、オンコロジー・インテリジェンス(OI)を前進させる可能性があり、現在の障壁を克服し、最終的にはがん患者の臨床結果を改善するという別のアプローチを強調している。

関連論文リスト

• Rethinking Model Prototyping through the MedMNIST+ Dataset Collection [0.11999555634662634]
  本研究は,MedMNIST+データベースに対する評価環境の多様化のためのベンチマークを示す。 我々は、医用画像分類のための共通畳み込みニューラルネットワーク(CNN)とトランスフォーマーベースのアーキテクチャを徹底的に分析する。 この結果から,計算効率のよいトレーニングスキームと最新の基礎モデルは,高額なエンドツーエンドトレーニングとリソース強化アプローチのギャップを埋める上で有望であることが示唆された。
  論文  参考訳（メタデータ） (2024-04-24T10:19:25Z)
• Structured Model Pruning for Efficient Inference in Computational Pathology [2.9687381456164004]
  バイオメディカルイメージングにおいて広く使われているU-Netスタイルのアーキテクチャを解析する手法を開発した。 我々は,プルーニングが性能を低下させることなく,少なくとも70%圧縮できることを実証的に実証した。
  論文  参考訳（メタデータ） (2024-04-12T22:05:01Z)
• Towards a clinically accessible radiology foundation model: open-access and lightweight, with automated evaluation [113.5002649181103]
  オープンソースの小型マルチモーダルモデル(SMM)を訓練し、放射線学における未測定臨床ニーズに対する能力ギャップを埋める。 トレーニングのために,697万以上の画像テキストペアからなる大規模なデータセットを組み立てる。 評価のために,GPT-4に基づく実測値CheXpromptを提案する。 LlaVA-Radの推論は高速で、単一のV100 GPU上でプライベート設定で実行できる。
  論文  参考訳（メタデータ） (2024-03-12T18:12:02Z)
• Leveraging Foundation Models for Content-Based Medical Image Retrieval in Radiology [0.14631663747888957]
  コンテンツに基づく画像検索は、放射線学における診断支援と医学研究を大幅に改善する可能性がある。 現在のCBIRシステムは、特定の病態の専門化による限界に直面しており、実用性は制限されている。 本稿では,コンテンツに基づく医用画像検索のための特徴抽出器として視覚基盤モデルを提案する。
  論文  参考訳（メタデータ） (2024-03-11T10:06:45Z)
• MedDiffusion: Boosting Health Risk Prediction via Diffusion-based Data Augmentation [58.93221876843639]
  本稿では,MedDiffusion という,エンドツーエンドの拡散に基づくリスク予測モデルを提案する。 トレーニング中に合成患者データを作成し、サンプルスペースを拡大することで、リスク予測性能を向上させる。 ステップワイズ・アテンション・メカニズムを用いて患者の来訪者間の隠れた関係を識別し、高品質なデータを生成する上で最も重要な情報をモデルが自動的に保持することを可能にする。
  論文  参考訳（メタデータ） (2023-10-04T01:36:30Z)
• Virchow: A Million-Slide Digital Pathology Foundation Model [34.38679208931425]
  本稿では,コンピュータ病理学の基礎モデルであるVirchowを紹介する。 Virchowは、150万のヘマトキシリンとエオシン染色されたスライドイメージに基づいて、632万のパラメータをトレーニングしたビジョントランスフォーマーモデルである。
  論文  参考訳（メタデータ） (2023-09-14T15:09:35Z)
• Generative Adversarial Networks for Stain Normalisation in Histopathology [2.2166690647926037]
  現在の研究における重要な障害の1つは、デジタル病理画像間の高レベルの視覚的変動である。 Sten normalization は、画像の構造的内容を変更することなく、デジタル病理画像の視覚的プロファイルを標準化することを目的としている。 研究者は、病理画像を効率的に正規化し、AIモデルをより堅牢で一般化可能にする方法を見つけることを目的としている。
  論文  参考訳（メタデータ） (2023-08-05T11:38:05Z)
• Ultrasound Signal Processing: From Models to Deep Learning [64.56774869055826]
  医用超音波画像は、信頼性と解釈可能な画像再構成を提供するために、高品質な信号処理に大きく依存している。 データ駆動方式で最適化されたディープラーニングベースの手法が人気を集めている。 比較的新しいパラダイムは、データ駆動型ディープラーニングの活用とドメイン知識の活用という2つのパワーを組み合わせたものだ。
  論文  参考訳（メタデータ） (2022-04-09T13:04:36Z)
• A multi-stage machine learning model on diagnosis of esophageal manometry [50.591267188664666]
  このフレームワークには、飲み込みレベルにおけるディープラーニングモデルと、学習レベルにおける機能ベースの機械学習モデルが含まれている。 これは、生のマルチスワローデータからHRM研究のCC診断を自動的に予測する最初の人工知能モデルである。
  論文  参考訳（メタデータ） (2021-06-25T20:09:23Z)
• Many-to-One Distribution Learning and K-Nearest Neighbor Smoothing for Thoracic Disease Identification [83.6017225363714]
  ディープラーニングは、病気の識別性能を改善するための最も強力なコンピュータ支援診断技術となった。 胸部X線撮影では、大規模データの注釈付けには専門的なドメイン知識が必要で、時間を要する。 本論文では、単一モデルにおける疾患同定性能を改善するために、複数対1の分布学習(MODL)とK-nearest neighbor smoothing(KNNS)手法を提案する。
  論文  参考訳（メタデータ） (2021-02-26T02:29:30Z)
• Predicting Clinical Diagnosis from Patients Electronic Health Records Using BERT-based Neural Networks [62.9447303059342]
  医療コミュニティにおけるこの問題の重要性を示す。 本稿では,変換器 (BERT) モデルによる2方向表現の分類順序の変更について述べる。 約400万人のユニークな患者訪問からなる、大規模なロシアのEHRデータセットを使用します。
  論文  参考訳（メタデータ） (2020-07-15T09:22:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。