論文の概要: Local Attention Graph-based Transformer for Multi-target Genetic
Alteration Prediction
- arxiv url: http://arxiv.org/abs/2205.06672v1
- Date: Fri, 13 May 2022 14:24:24 GMT
- ステータス: 処理完了
- システム内更新日: 2022-05-16 16:59:30.250645
- Title: Local Attention Graph-based Transformer for Multi-target Genetic
Alteration Prediction
- Title(参考訳): 多目的遺伝的変化予測のための局所注意グラフベース変換器
- Authors: Daniel Reisenb\"uchler, Sophia J. Wagner, Melanie Boxberg, Tingying
Peng
- Abstract要約: MIL(LA-MIL)のための汎用ローカルアテンショングラフを用いたトランスフォーマを提案する。
LA-MILは消化器癌に対する突然変異予測において最先端の結果が得られることを実証した。
これは、局所的な自己保持がグローバルモジュールと同等の依存性を十分にモデル化していることを示唆している。
- 参考スコア(独自算出の注目度): 0.22940141855172028
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Classical multiple instance learning (MIL) methods are often based on the
identical and independent distributed assumption between instances, hence
neglecting the potentially rich contextual information beyond individual
entities. On the other hand, Transformers with global self-attention modules
have been proposed to model the interdependencies among all instances. However,
in this paper we question: Is global relation modeling using self-attention
necessary, or can we appropriately restrict self-attention calculations to
local regimes in large-scale whole slide images (WSIs)? We propose a
general-purpose local attention graph-based Transformer for MIL (LA-MIL),
introducing an inductive bias by explicitly contextualizing instances in
adaptive local regimes of arbitrary size. Additionally, an efficiently adapted
loss function enables our approach to learn expressive WSI embeddings for the
joint analysis of multiple biomarkers. We demonstrate that LA-MIL achieves
state-of-the-art results in mutation prediction for gastrointestinal cancer,
outperforming existing models on important biomarkers such as microsatellite
instability for colorectal cancer. This suggests that local self-attention
sufficiently models dependencies on par with global modules. Our implementation
will be published.
- Abstract(参考訳): 古典的な多重インスタンス学習(mil)メソッドは、しばしばインスタンス間の同一かつ独立した分散仮定に基づいているため、個々のエンティティを超えて、潜在的に豊富なコンテキスト情報を無視する。
一方,グローバルな自己アテンションモジュールを持つトランスフォーマーは,すべてのインスタンス間の相互依存性をモデル化するために提案されている。
大規模全スライド画像(wsis)において,自己注意を用いたグローバルリレーションモデリングは必要か,あるいは局所的レジームに対する自己注意計算を適切に制限できるか,という疑問を呈する。
任意の大きさの適応的局所環境においてインスタンスを明示的にコンテキスト化することにより,帰納的バイアスを導入する。
さらに、効率よく適応した損失関数により、複数のバイオマーカーの結合解析のための表現型WSI埋め込みを学習することができる。
LA-MILは消化器癌に対する突然変異予測において最先端の結果を得られ,大腸癌に対するマイクロサテライト不安定性などの重要なバイオマーカーの既存モデルよりも優れていた。
このことは、局所自己着在性がグローバルモジュールと同等の依存性を十分にモデル化することを示唆している。
私たちの実装が公開される。
関連論文リスト
- Adaptive Global-Local Representation Learning and Selection for
Cross-Domain Facial Expression Recognition [54.334773598942775]
ドメインシフトは、クロスドメイン顔表情認識(CD-FER)において重要な課題となる
適応的グローバルローカル表現学習・選択フレームワークを提案する。
論文 参考訳(メタデータ) (2024-01-20T02:21:41Z) - Enhancing Automatic Modulation Recognition through Robust Global Feature
Extraction [12.868218616042292]
変調信号は長時間の時間依存性を示す。
人間の専門家は星座図のパターンを分析し、変調スキームを分類する。
古典的な畳み込みベースのネットワークは、局所的な特徴を抽出することに長けているが、グローバルな関係を捉えるのに苦労している。
論文 参考訳(メタデータ) (2024-01-02T06:31:24Z) - Modelling Cellular Perturbations with the Sparse Additive Mechanism
Shift Variational Autoencoder [6.352775857356592]
摂動モデルに対する合成性, 絡み合い, 解釈性を組み合わせたスパース加算機構シフト変分自動符号化器SAMS-VAEを提案する。
SAMS-VAEは、潜伏サンプルの潜伏状態を、潜伏介入効果のサンプル特異な変動と疎大なグローバル変数を捉えた局所潜伏変数の和としてモデル化する。
2つの一般的な単一セルシークエンシングデータセットを用いて,SAMS-VAEを定性的に評価した。
論文 参考訳(メタデータ) (2023-11-05T23:37:31Z) - Consistency Regularization for Generalizable Source-free Domain
Adaptation [62.654883736925456]
ソースフリードメイン適応(source-free domain adapt, SFDA)は、ソースデータセットにアクセスすることなく、十分にトレーニングされたソースモデルを未学習のターゲットドメインに適応することを目的としている。
既存のSFDAメソッドは、ターゲットのトレーニングセット上で適用されたモデルを評価し、目に見えないが同一の分散テストセットからデータを無視する。
より一般化可能なSFDA法を開発するための整合正則化フレームワークを提案する。
論文 参考訳(メタデータ) (2023-08-03T07:45:53Z) - Federated Model Aggregation via Self-Supervised Priors for Highly
Imbalanced Medical Image Classification [31.633870207003092]
本稿では,公用自己監督型補助ネットワークを用いたクライアント間クラス間変動について検討する。
我々は,グローバルモデル最適化を導くために,自己教師付き事前制御による動的バランスの取れたモデルアグリゲーションを導出する。
論文 参考訳(メタデータ) (2023-07-27T15:52:18Z) - Unifying and Personalizing Weakly-supervised Federated Medical Image
Segmentation via Adaptive Representation and Aggregation [1.121358474059223]
フェデレートラーニング(FL)は、データプライバシとセキュリティを損なうことなく、複数のサイトが協力して強力なディープモデルをトレーニングすることを可能にする。
微粒な監督を施した弱く監督されたセグメンテーションは、アノテーションコストを下げる大きな可能性を秘めているため、ますます注目されている。
医用画像セグメンテーションのための新しいFLフレームワークであるFedICRAを提案する。
論文 参考訳(メタデータ) (2023-04-12T06:32:08Z) - Global-to-Local Modeling for Video-based 3D Human Pose and Shape
Estimation [53.04781510348416]
フレーム内精度とフレーム間スムーズさにより,映像に基づく3次元人間のポーズと形状推定を評価する。
エンドツーエンドフレームワークGLoT(Global-to-Local Transformer)における長期的・短期的相関のモデル化を構造的に分離することを提案する。
我々のGLoTは、一般的なベンチマーク(3DPW、MPI-INF-3DHP、Human3.6M)において、最も低いモデルパラメータを持つ従来の最先端の手法を上回る。
論文 参考訳(メタデータ) (2023-03-26T14:57:49Z) - Meta-Causal Feature Learning for Out-of-Distribution Generalization [71.38239243414091]
本稿では,協調タスク生成モジュール (BTG) とメタ因果特徴学習モジュール (MCFL) を含む,バランス付きメタ因果学習器 (BMCL) を提案する。
BMCLは、分類のためのクラス不変の視覚領域を効果的に識別し、最先端の手法の性能を向上させるための一般的なフレームワークとして機能する。
論文 参考訳(メタデータ) (2022-08-22T09:07:02Z) - Feature Re-calibration based MIL for Whole Slide Image Classification [7.92885032436243]
全スライド画像(WSI)分類は疾患の診断と治療の基本的な課題である。
本稿では,WSI バッグ (インスタンス) の分布を,最大インスタンス (クリティカル) 特性の統計値を用いて再校正することを提案する。
位置符号化モジュール(PEM)を用いて空間・形態情報をモデル化し,マルチヘッド自己アテンション(PSMA)をトランスフォーマーエンコーダでプーリングする。
論文 参考訳(メタデータ) (2022-06-22T07:00:39Z) - Federated and Generalized Person Re-identification through Domain and
Feature Hallucinating [88.77196261300699]
人物再識別(re-ID)におけるフェデレーションドメイン一般化(FedDG)の問題について検討する。
一般化された局所的・グローバルなモデルを学ぶための多様な特徴を創出する手法として,DFH (Domain and Feature Hallucinating) を提案する。
提案手法は4つの大規模re-IDベンチマークにおいてFedDGの最先端性能を実現する。
論文 参考訳(メタデータ) (2022-03-05T09:15:13Z) - PaDiM: a Patch Distribution Modeling Framework for Anomaly Detection and
Localization [64.39761523935613]
本稿では,画像中の異常を同時検出・ローカライズするPatch Distribution Modeling, PaDiMを提案する。
PaDiMは、パッチの埋め込みに事前訓練された畳み込みニューラルネットワーク(CNN)を使用している。
また、CNNの異なるセマンティックレベル間の相関を利用して、異常のローカライズも改善している。
論文 参考訳(メタデータ) (2020-11-17T17:29:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。