論文の概要: Local Attention Graph-based Transformer for Multi-target Genetic
Alteration Prediction
- arxiv url: http://arxiv.org/abs/2205.06672v1
- Date: Fri, 13 May 2022 14:24:24 GMT
- ステータス: 処理完了
- システム内更新日: 2022-05-16 16:59:30.250645
- Title: Local Attention Graph-based Transformer for Multi-target Genetic
Alteration Prediction
- Title(参考訳): 多目的遺伝的変化予測のための局所注意グラフベース変換器
- Authors: Daniel Reisenb\"uchler, Sophia J. Wagner, Melanie Boxberg, Tingying
Peng
- Abstract要約: MIL(LA-MIL)のための汎用ローカルアテンショングラフを用いたトランスフォーマを提案する。
LA-MILは消化器癌に対する突然変異予測において最先端の結果が得られることを実証した。
これは、局所的な自己保持がグローバルモジュールと同等の依存性を十分にモデル化していることを示唆している。
- 参考スコア(独自算出の注目度): 0.22940141855172028
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Classical multiple instance learning (MIL) methods are often based on the
identical and independent distributed assumption between instances, hence
neglecting the potentially rich contextual information beyond individual
entities. On the other hand, Transformers with global self-attention modules
have been proposed to model the interdependencies among all instances. However,
in this paper we question: Is global relation modeling using self-attention
necessary, or can we appropriately restrict self-attention calculations to
local regimes in large-scale whole slide images (WSIs)? We propose a
general-purpose local attention graph-based Transformer for MIL (LA-MIL),
introducing an inductive bias by explicitly contextualizing instances in
adaptive local regimes of arbitrary size. Additionally, an efficiently adapted
loss function enables our approach to learn expressive WSI embeddings for the
joint analysis of multiple biomarkers. We demonstrate that LA-MIL achieves
state-of-the-art results in mutation prediction for gastrointestinal cancer,
outperforming existing models on important biomarkers such as microsatellite
instability for colorectal cancer. This suggests that local self-attention
sufficiently models dependencies on par with global modules. Our implementation
will be published.
- Abstract(参考訳): 古典的な多重インスタンス学習(mil)メソッドは、しばしばインスタンス間の同一かつ独立した分散仮定に基づいているため、個々のエンティティを超えて、潜在的に豊富なコンテキスト情報を無視する。
一方,グローバルな自己アテンションモジュールを持つトランスフォーマーは,すべてのインスタンス間の相互依存性をモデル化するために提案されている。
大規模全スライド画像(wsis)において,自己注意を用いたグローバルリレーションモデリングは必要か,あるいは局所的レジームに対する自己注意計算を適切に制限できるか,という疑問を呈する。
任意の大きさの適応的局所環境においてインスタンスを明示的にコンテキスト化することにより,帰納的バイアスを導入する。
さらに、効率よく適応した損失関数により、複数のバイオマーカーの結合解析のための表現型WSI埋め込みを学習することができる。
LA-MILは消化器癌に対する突然変異予測において最先端の結果を得られ,大腸癌に対するマイクロサテライト不安定性などの重要なバイオマーカーの既存モデルよりも優れていた。
このことは、局所自己着在性がグローバルモジュールと同等の依存性を十分にモデル化することを示唆している。
私たちの実装が公開される。
関連論文リスト
- Rethinking Transformer for Long Contextual Histopathology Whole Slide Image Analysis [9.090504201460817]
ヒストホイルスライド画像(英語版)(WSI)解析は、医師の日常業務における臨床がん診断のゴールドスタンダードとなっている。
従来の手法では、スライドレベルラベルのみを与えられたスライドレベルの予測を可能にするために、マルチパスラーニングが一般的であった。
大規模なWSIにおける長いシーケンスの計算複雑性を軽減するため、HIPTではリージョンスライシング、TransMILでは完全な自己アテンションの近似を採用している。
論文 参考訳(メタデータ) (2024-10-18T06:12:36Z) - DGR-MIL: Exploring Diverse Global Representation in Multiple Instance Learning for Whole Slide Image Classification [2.1835540289285706]
多様なグローバル表現(DGR-MIL)に基づく新しい多重インスタンス学習法を提案する。
提案モデルは,CAMELYON-16とTCGA肺がんデータセットにおいて,最先端のMIL集約モデルよりもかなり優れている。
論文 参考訳(メタデータ) (2024-07-04T01:58:30Z) - Learning Divergence Fields for Shift-Robust Graph Representations [73.11818515795761]
本研究では,相互依存データに対する問題に対して,学習可能な分散場を持つ幾何学的拡散モデルを提案する。
因果推論によって新たな学習目標が導出され、ドメイン間で無神経な相互依存の一般化可能なパターンを学習するためのモデルが導出される。
論文 参考訳(メタデータ) (2024-06-07T14:29:21Z) - MamMIL: Multiple Instance Learning for Whole Slide Images with State Space Models [56.37780601189795]
本稿では,WSI分析のためのフレームワークMamMILを提案する。
私たちは各WSIを非指向グラフとして表現します。
マンバが1次元シーケンスしか処理できない問題に対処するために、トポロジ対応の走査機構を提案する。
論文 参考訳(メタデータ) (2024-03-08T09:02:13Z) - Federated Model Aggregation via Self-Supervised Priors for Highly
Imbalanced Medical Image Classification [31.633870207003092]
本稿では,公用自己監督型補助ネットワークを用いたクライアント間クラス間変動について検討する。
我々は,グローバルモデル最適化を導くために,自己教師付き事前制御による動的バランスの取れたモデルアグリゲーションを導出する。
論文 参考訳(メタデータ) (2023-07-27T15:52:18Z) - Unifying and Personalizing Weakly-supervised Federated Medical Image
Segmentation via Adaptive Representation and Aggregation [1.121358474059223]
フェデレートラーニング(FL)は、データプライバシとセキュリティを損なうことなく、複数のサイトが協力して強力なディープモデルをトレーニングすることを可能にする。
微粒な監督を施した弱く監督されたセグメンテーションは、アノテーションコストを下げる大きな可能性を秘めているため、ますます注目されている。
医用画像セグメンテーションのための新しいFLフレームワークであるFedICRAを提案する。
論文 参考訳(メタデータ) (2023-04-12T06:32:08Z) - Global-to-Local Modeling for Video-based 3D Human Pose and Shape
Estimation [53.04781510348416]
フレーム内精度とフレーム間スムーズさにより,映像に基づく3次元人間のポーズと形状推定を評価する。
エンドツーエンドフレームワークGLoT(Global-to-Local Transformer)における長期的・短期的相関のモデル化を構造的に分離することを提案する。
我々のGLoTは、一般的なベンチマーク(3DPW、MPI-INF-3DHP、Human3.6M)において、最も低いモデルパラメータを持つ従来の最先端の手法を上回る。
論文 参考訳(メタデータ) (2023-03-26T14:57:49Z) - Meta-Causal Feature Learning for Out-of-Distribution Generalization [71.38239243414091]
本稿では,協調タスク生成モジュール (BTG) とメタ因果特徴学習モジュール (MCFL) を含む,バランス付きメタ因果学習器 (BMCL) を提案する。
BMCLは、分類のためのクラス不変の視覚領域を効果的に識別し、最先端の手法の性能を向上させるための一般的なフレームワークとして機能する。
論文 参考訳(メタデータ) (2022-08-22T09:07:02Z) - Feature Re-calibration based MIL for Whole Slide Image Classification [7.92885032436243]
全スライド画像(WSI)分類は疾患の診断と治療の基本的な課題である。
本稿では,WSI バッグ (インスタンス) の分布を,最大インスタンス (クリティカル) 特性の統計値を用いて再校正することを提案する。
位置符号化モジュール(PEM)を用いて空間・形態情報をモデル化し,マルチヘッド自己アテンション(PSMA)をトランスフォーマーエンコーダでプーリングする。
論文 参考訳(メタデータ) (2022-06-22T07:00:39Z) - Federated and Generalized Person Re-identification through Domain and
Feature Hallucinating [88.77196261300699]
人物再識別(re-ID)におけるフェデレーションドメイン一般化(FedDG)の問題について検討する。
一般化された局所的・グローバルなモデルを学ぶための多様な特徴を創出する手法として,DFH (Domain and Feature Hallucinating) を提案する。
提案手法は4つの大規模re-IDベンチマークにおいてFedDGの最先端性能を実現する。
論文 参考訳(メタデータ) (2022-03-05T09:15:13Z) - PaDiM: a Patch Distribution Modeling Framework for Anomaly Detection and
Localization [64.39761523935613]
本稿では,画像中の異常を同時検出・ローカライズするPatch Distribution Modeling, PaDiMを提案する。
PaDiMは、パッチの埋め込みに事前訓練された畳み込みニューラルネットワーク(CNN)を使用している。
また、CNNの異なるセマンティックレベル間の相関を利用して、異常のローカライズも改善している。
論文 参考訳(メタデータ) (2020-11-17T17:29:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。