論文の概要: GKD: Semi-supervised Graph Knowledge Distillation for Graph-Independent
Inference
- arxiv url: http://arxiv.org/abs/2104.03597v1
- Date: Thu, 8 Apr 2021 08:23:37 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-09 12:50:34.121543
- Title: GKD: Semi-supervised Graph Knowledge Distillation for Graph-Independent
Inference
- Title（参考訳）: GKD:グラフ独立推論のための半教師付きグラフ知識蒸留
- Authors: Mahsa Ghorbani, Mojtaba Bahrami, Anees Kazi, Mahdieh
SoleymaniBaghshah, Hamid R. Rabiee, and Nassir Navab
- Abstract要約: 本稿では,知識蒸留に基づく新しい半教師付き手法GKDを提案する。
自閉症スペクトラム障害の診断のための2つの公開データセットとアルツハイマー病に関する実験を行う。
これらの実験によると、GKDは従来のグラフベースのディープラーニング手法よりも精度、AUC、マクロF1で優れている。
- 参考スコア（独自算出の注目度）: 41.348451615460796
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The increased amount of multi-modal medical data has opened the opportunities
to simultaneously process various modalities such as imaging and non-imaging
data to gain a comprehensive insight into the disease prediction domain. Recent
studies using Graph Convolutional Networks (GCNs) provide novel semi-supervised
approaches for integrating heterogeneous modalities while investigating the
patients' associations for disease prediction. However, when the meta-data used
for graph construction is not available at inference time (e.g., coming from a
distinct population), the conventional methods exhibit poor performance. To
address this issue, we propose a novel semi-supervised approach named GKD based
on knowledge distillation. We train a teacher component that employs the
label-propagation algorithm besides a deep neural network to benefit from the
graph and non-graph modalities only in the training phase. The teacher
component embeds all the available information into the soft pseudo-labels. The
soft pseudo-labels are then used to train a deep student network for disease
prediction of unseen test data for which the graph modality is unavailable. We
perform our experiments on two public datasets for diagnosing Autism spectrum
disorder, and Alzheimer's disease, along with a thorough analysis on synthetic
multi-modal datasets. According to these experiments, GKD outperforms the
previous graph-based deep learning methods in terms of accuracy, AUC, and Macro
F1.
- Abstract（参考訳）: マルチモーダル医療データの増大により、画像や非画像データなどの様々なモダリティを同時に処理し、疾患予測領域に関する包括的な洞察を得る機会が開かれた。
グラフ畳み込みネットワーク(GCN)を用いた最近の研究は、患者の疾患予測関連を調査しながら、異質なモダリティを統合するための新しい半教師付きアプローチを提供する。
しかし、グラフ構築に使用されるメタデータが推論時に利用できない場合(例えば、異なる集団から来る場合)、従来の手法では性能が低下する。
そこで本研究では,知識蒸留に基づく新しい半教師付き手法GKDを提案する。
学習段階でのみグラフと非グラフモダリティの恩恵を受けるために,ディープニューラルネットワークの他にラベル伝達アルゴリズムを用いた教師コンポーネントをトレーニングする。
教師コンポーネントは利用可能なすべての情報をソフトな擬似ラベルに埋め込む。
次に、ソフト擬似ラベルを使用して、グラフモダリティが利用できない未発見のテストデータの病気予測のための深層学生ネットワークを訓練する。
自閉症スペクトラム障害とアルツハイマー病を診断するための2つの公開データセットと,合成多モードデータセットの徹底的な解析を行った。
これらの実験によると、GKDは従来のグラフベースのディープラーニング手法よりも精度、AUC、マクロF1で優れている。
関連論文リスト
- Classification of developmental and brain disorders via graph
convolutional aggregation [6.6356049194991815]
本稿では,グラフサンプリングにおける集約を利用したアグリゲータ正規化グラフ畳み込みネットワークを提案する。
提案モデルは,画像特徴と非画像特徴の両方をグラフノードとエッジに組み込むことで,識別グラフノード表現を学習する。
我々は、自閉症脳画像データ交換(ABIDE)とアルツハイマー病神経イメージングイニシアチブ(ADNI)という2つの大きなデータセット上の最近のベースライン手法と比較して、我々のモデルをベンチマークした。
論文 参考訳（メタデータ） (2023-11-13T14:36:29Z) - Dynamic Graph Enhanced Contrastive Learning for Chest X-ray Report
Generation [92.73584302508907]
コントラスト学習を用いた医療レポート作成を支援するために,動的構造とノードを持つ知識グラフを提案する。
詳しくは、グラフの基本構造は一般知識から事前構築される。
各イメージ機能は、レポート生成のためにデコーダモジュールに入力する前に、独自の更新グラフに統合される。
論文 参考訳（メタデータ） (2023-03-18T03:53:43Z) - Transductive Linear Probing: A Novel Framework for Few-Shot Node
Classification [56.17097897754628]
自己教師付きグラフと対照的な事前学習による帰納的線形探索は、同じプロトコル下での最先端の完全教師付きメタラーニング手法より優れていることを示す。
この研究が、数ショットのノード分類問題に新たな光を当て、グラフ上のわずかにラベル付けされたインスタンスから学ぶことの今後の研究を促進することを願っている。
論文 参考訳（メタデータ） (2022-12-11T21:10:34Z) - Graph-in-Graph (GiG): Learning interpretable latent graphs in
non-Euclidean domain for biological and healthcare applications [52.65389473899139]
グラフは、医療領域において、非ユークリッドな非ユークリッドデータをユビキタスに表現し、分析するための強力なツールである。
近年の研究では、入力データサンプル間の関係を考慮すると、下流タスクに正の正の正則化効果があることが示されている。
タンパク質分類と脳イメージングのためのニューラルネットワークアーキテクチャであるGraph-in-Graph(GiG)を提案する。
論文 参考訳（メタデータ） (2022-04-01T10:01:37Z) - Multi-modal Graph Learning for Disease Prediction [35.156975779372836]
マルチモーダルな疾患予測のためのエンドツーエンドマルチモーダルグラフ学習フレームワーク(MMGL)を提案する。
手動でグラフを定義する代わりに、潜在グラフ構造は適応グラフ学習の効果的な方法によって取得される。
2つの疾患予測タスクに関する広範な実験群は、提案したMMGLがより良好な性能を発揮することを示した。
論文 参考訳（メタデータ） (2022-03-11T12:33:20Z) - Multi-modal Graph Learning for Disease Prediction [35.4310911850558]
病気予測のためのエンドツーエンドのマルチモーダルグラフ学習フレームワーク(MMGL)を提案する。
隣接行列を既存の手法として手動で定義する代わりに、潜在グラフ構造を適応グラフ学習の新しい方法によって捉えることができる。
論文 参考訳（メタデータ） (2021-07-01T03:59:22Z) - Weakly-supervised Graph Meta-learning for Few-shot Node Classification [53.36828125138149]
新しいグラフメタ学習フレームワーク - Graph Hallucination Networks (Meta-GHN) を提案する。
新たなロバストネス強化エピソードトレーニングに基づいて、Meta-GHNは、弱いラベル付きデータからクリーンノード表現を幻覚させるメタ学習を行う。
大規模な実験は、既存のグラフメタ学習研究よりもMeta-GHNの方が優れていることを示す。
論文 参考訳（メタデータ） (2021-06-12T22:22:10Z) - Edge-variational Graph Convolutional Networks for Uncertainty-aware
Disease Prediction [7.6146285961466]
本研究では、画像データと非画像データを自動的に統合し、不確実性を考慮した疾患予測を行うための一般化可能なフレームワークを提案する。
4つのデータベースを用いた実験結果から,自閉症スペクトラム障害,アルツハイマー病,眼疾患の診断精度を一貫して改善できることがわかった。
論文 参考訳（メタデータ） (2020-09-06T15:53:17Z) - Latent-Graph Learning for Disease Prediction [44.26665239213658]
我々は,GCNの下流における疾患分類の課題に向けて,一つの最適なグラフを学習することが可能であることを示す。
一般的に用いられているスペクトルGCNアプローチとは異なり、我々のGCNは空間的かつ誘導的であり、これまで見られなかった患者も推測できる。
論文 参考訳（メタデータ） (2020-03-27T08:18:01Z) - Dynamic Graph Correlation Learning for Disease Diagnosis with Incomplete
Labels [66.57101219176275]
胸部X線画像上の疾患診断は,多ラベル分類の課題である。
本稿では,異なる疾患間の相互依存を調査する新たな視点を提示する病的診断グラフ畳み込みネットワーク(DD-GCN)を提案する。
本手法は,相関学習のための動的隣接行列を用いた特徴写像上のグラフを初めて構築する手法である。
論文 参考訳（メタデータ） (2020-02-26T17:10:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。