Fugu-MT 論文翻訳(概要): Interpretability analysis on a pathology foundation model reveals biologically relevant embeddings across modalities

論文の概要: Interpretability analysis on a pathology foundation model reveals biologically relevant embeddings across modalities

arxiv url: http://arxiv.org/abs/2407.10785v1
Date: Mon, 15 Jul 2024 15:03:01 GMT
ステータス: 処理完了
システム内更新日: 2024-07-16 14:39:57.531580
Title: Interpretability analysis on a pathology foundation model reveals biologically relevant embeddings across modalities
Title（参考訳）: 病理基盤モデルにおける解釈可能性解析による生体内への生体内埋め込みの解明
Authors: Nhat Le, Ciyue Shen, Chintan Shah, Blake Martin, Daniel Shenker, Harshith Padigela, Jennifer Hipp, Sean Grullon, John Abel, Harsha Vardhan Pokkalla, Dinkar Juyal,
Abstract要約: 病理基盤モデルから得られたViT-Smallエンコーダの特徴を2つのデータセットに応用して解析する。我々は、モデル埋め込み空間内での遺伝子発現とともに、細胞および組織形態の解釈可能な表現を発見する。
参考スコア（独自算出の注目度）: 1.4602325266401266
License: http://creativecommons.org/licenses/by-nc-nd/4.0/
Abstract: Mechanistic interpretability has been explored in detail for large language models (LLMs). For the first time, we provide a preliminary investigation with similar interpretability methods for medical imaging. Specifically, we analyze the features from a ViT-Small encoder obtained from a pathology Foundation Model via application to two datasets: one dataset of pathology images, and one dataset of pathology images paired with spatial transcriptomics. We discover an interpretable representation of cell and tissue morphology, along with gene expression within the model embedding space. Our work paves the way for further exploration around interpretable feature dimensions and their utility for medical and clinical applications.
Abstract（参考訳）: 機械論的解釈性は、大規模言語モデル(LLM)について詳細に研究されている。医用画像における類似の解釈可能性に関する予備調査を初めて行った。具体的には,病理基盤モデルから得られたVT-Smallエンコーダの特徴を,1つの病理画像データセットと1つの病理画像データセットの2つのデータセットに応用して解析する。我々は、モデル埋め込み空間内での遺伝子発現とともに、細胞および組織形態の解釈可能な表現を発見する。我々の研究は、解釈可能な特徴次元とその医療・臨床応用への有用性に関するさらなる探求の道を開くものである。

関連論文リスト

Causal Representation Learning from Multimodal Biological Observations [57.00712157758845]
我々は,マルチモーダルデータに対するフレキシブルな識別条件の開発を目指している。我々は、各潜伏成分の識別可能性を保証するとともに、サブスペース識別結果を事前の作業から拡張する。我々の重要な理論的要素は、異なるモーダル間の因果関係の構造的空間性である。
論文参考訳（メタデータ） (2024-11-10T16:40:27Z)
Deep Latent Variable Modeling of Physiological Signals [0.8702432681310401]
潜時変動モデルを用いた生理モニタリングに関する高次元問題について検討する。まず、光学的に得られた信号を入力として、心の電気波形を生成するための新しい状態空間モデルを提案する。次に,確率的グラフィカルモデルの強みと深い敵対学習を組み合わせた脳信号モデリング手法を提案する。第3に,生理的尺度と行動の合同モデリングのための枠組みを提案する。
論文参考訳（メタデータ） (2024-05-29T17:07:33Z)
Tertiary Lymphoid Structures Generation through Graph-based Diffusion [54.37503714313661]
本研究では,最先端のグラフベース拡散モデルを用いて生物学的に意味のある細胞グラフを生成する。本研究では, グラフ拡散モデルを用いて, 3次リンパ構造(TLS)の分布を正確に学習できることを示す。
論文参考訳（メタデータ） (2023-10-10T14:37:17Z)
Biologically-informed deep learning models for cancer: fundamental trends for encoding and interpreting oncology data [0.0]
本稿では,癌生物学における推論を支援するために用いられる深層学習(DL)モデルに着目した構造化文献解析を行う。この研究は、既存のモデルが、先行知識、生物学的妥当性、解釈可能性とのより良い対話の必要性にどのように対処するかに焦点を当てている。
論文参考訳（メタデータ） (2022-07-02T12:11:35Z)
Learning multi-scale functional representations of proteins from single-cell microscopy data [77.34726150561087]
局所化分類に基づいて訓練された単純な畳み込みネットワークは、多様な機能情報をカプセル化したタンパク質表現を学習できることを示す。また,生物機能の異なるスケールでタンパク質表現の質を評価するためのロバストな評価戦略を提案する。
論文参考訳（メタデータ） (2022-05-24T00:00:07Z)
PathologyBERT -- Pre-trained Vs. A New Transformer Language Model for Pathology Domain [2.3628956573813498]
大規模な病理データベースのテキストマイニングが成功すれば、「ビッグデータ」がん研究の進展に重要な役割を果たす可能性がある。病理学の分野での急速なデータマイニング開発を支援するために、病理学固有の言語空間は存在しない。 PathologyBERTは,347,173例の病理組織学的報告に基づいて訓練された,訓練済みの仮面言語モデルである。
論文参考訳（メタデータ） (2022-05-13T20:42:07Z)
Mapping the landscape of histomorphological cancer phenotypes using self-supervised learning on unlabeled, unannotated pathology slides [9.27127895781971]
病理形態学的現象型学習は、小さな画像タイルにおける識別画像の特徴の自動発見を通じて行われる。タイルは、組織形態学的表現型のライブラリを構成する形態学的に類似したクラスターに分類される。
論文参考訳（メタデータ） (2022-05-04T08:06:55Z)
Analyzing the Effects of Handling Data Imbalance on Learned Features from Medical Images by Looking Into the Models [50.537859423741644]
不均衡なデータセットでモデルをトレーニングすることは、学習問題にユニークな課題をもたらす可能性がある。ニューラルネットワークの内部ユニットを深く調べて、データの不均衡処理が学習した機能にどのように影響するかを観察します。
論文参考訳（メタデータ） (2022-04-04T09:38:38Z)
Self-Supervised Vision Transformers Learn Visual Concepts in Histopathology [5.164102666113966]
我々は、様々な弱い教師付きおよびパッチレベルのタスクに対する検証を行い、様々な自己教師付きモデルを訓練することにより、病理学における良い表現を探索する。我々の重要な発見は、DINOベースの知識蒸留を用いたビジョントランスフォーマーが、組織像におけるデータ効率と解釈可能な特徴を学習できることを発見したことである。
論文参考訳（メタデータ） (2022-03-01T16:14:41Z)
A multi-stage machine learning model on diagnosis of esophageal manometry [50.591267188664666]
このフレームワークには、飲み込みレベルにおけるディープラーニングモデルと、学習レベルにおける機能ベースの機械学習モデルが含まれている。これは、生のマルチスワローデータからHRM研究のCC診断を自動的に予測する最初の人工知能モデルである。
論文参考訳（メタデータ） (2021-06-25T20:09:23Z)
G-MIND: An End-to-End Multimodal Imaging-Genetics Framework for Biomarker Identification and Disease Classification [49.53651166356737]
診断によって誘導される画像データと遺伝データを統合し、解釈可能なバイオマーカーを提供する新しいディープニューラルネットワークアーキテクチャを提案する。 2つの機能的MRI(fMRI)パラダイムとSingle Nucleotide Polymorphism (SNP)データを含む統合失調症の集団研究で本モデルを評価した。
論文参考訳（メタデータ） (2021-01-27T19:28:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。