論文の概要: Longitudinal Self-supervised Learning Using Neural Ordinary Differential Equation

• arxiv url: http://arxiv.org/abs/2310.10431v1
• Date: Mon, 16 Oct 2023 14:16:04 GMT
• ステータス: 処理完了
• システム内更新日: 2023-10-17 13:56:34.155598
• Title: Longitudinal Self-supervised Learning Using Neural Ordinary Differential Equation
• Title（参考訳）: 神経常微分方程式を用いた縦型自己教師あり学習
• Authors: Rachid Zeghlache, Pierre-Henri Conze, Mostafa El Habib Daho, Yihao Li, Hugo Le Boit\'e, Ramin Tadayoni, Pascal Massin, B\'eatrice Cochener, Ikram Brahim, Gwenol\'e Quellec, Mathieu Lamard
• Abstract要約: 近年,疾患の進行を自己管理的に学習する目的で,新たなアルゴリズムのクラスが出現している。 外部ラベルや監督なしに時間的パターンを捉えることで、縦型自己教師型学習は有望な道のりとなった。 本報告では, 疾患の進行を学習するためのコアアルゴリズムについて, より深く理解することを目的としている。
• 参考スコア（独自算出の注目度）: 1.8594165055074698
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Longitudinal analysis in medical imaging is crucial to investigate the progressive changes in anatomical structures or disease progression over time. In recent years, a novel class of algorithms has emerged with the goal of learning disease progression in a self-supervised manner, using either pairs of consecutive images or time series of images. By capturing temporal patterns without external labels or supervision, longitudinal self-supervised learning (LSSL) has become a promising avenue. To better understand this core method, we explore in this paper the LSSL algorithm under different scenarios. The original LSSL is embedded in an auto-encoder (AE) structure. However, conventional self-supervised strategies are usually implemented in a Siamese-like manner. Therefore, (as a first novelty) in this study, we explore the use of Siamese-like LSSL. Another new core framework named neural ordinary differential equation (NODE). NODE is a neural network architecture that learns the dynamics of ordinary differential equations (ODE) through the use of neural networks. Many temporal systems can be described by ODE, including modeling disease progression. We believe that there is an interesting connection to make between LSSL and NODE. This paper aims at providing a better understanding of those core algorithms for learning the disease progression with the mentioned change. In our different experiments, we employ a longitudinal dataset, named OPHDIAT, targeting diabetic retinopathy (DR) follow-up. Our results demonstrate the application of LSSL without including a reconstruction term, as well as the potential of incorporating NODE in conjunction with LSSL.
• Abstract（参考訳）: 医学画像における経時的解析は、解剖学的構造や疾患の進行の経時的変化を調べる上で重要である。 近年, 連続画像と時系列画像のどちらかを用いて, 疾患の進行を自己管理的に学習することを目的として, 新たなアルゴリズムのクラスが出現している。 外部ラベルや監督なしに時間的パターンを捉えることで、縦型自己教師学習(LSSL)が有望な道となった。 このコア手法をよりよく理解するために,異なるシナリオ下でのLSSLアルゴリズムについて検討する。 オリジナルのLSSLは自動エンコーダ(AE)構造に組み込まれている。 しかし、従来の自己管理戦略は通常、シームズ的な方法で実施される。 そこで本研究では, シームズ様 LSSL の利用について検討する。 神経常微分方程式(NODE)と呼ばれる新しいコアフレームワーク。 NODEはニューラルネットワークを用いて、通常の微分方程式(ODE)の力学を学習するニューラルネットワークアーキテクチャである。 多くの時相系はODEによって記述され、疾患の進行をモデル化する。 LSSLとNODEの間には興味深い関係があると信じています。 本稿は,前述の変化とともに進行する疾患を学習するためのコアアルゴリズムの理解を深めることを目的としている。 実験では,糖尿病網膜症(DR)の追跡を対象とする縦断データセットOPHDIATを用いた。 以上の結果から,再建用語を含まないLSSLの適用と,NODEをLSSLと併用する可能性を示す。

関連論文リスト

• LaTiM: Longitudinal representation learning in continuous-time models to predict disease progression [2.663690023739801]
  本研究では、時間認識型ニューラル常微分方程式(NODE)を用いた疾患進行解析のための新しい枠組みを提案する。 自己教師付き学習(SSL)によって訓練されたフレームワークに"タイムアウェアヘッド"を導入し、データ拡張のために潜時空間における時間情報を活用する。 OPHDIATデータベースを用いた糖尿病網膜症進行予測法の有効性を示す。
  論文  参考訳（メタデータ） (2024-04-10T15:29:29Z)
• How neural networks learn to classify chaotic time series [77.34726150561087]
  本研究では,通常の逆カオス時系列を分類するために訓練されたニューラルネットワークの内部動作について検討する。 入力周期性とアクティベーション周期の関係は,LKCNNモデルの性能向上の鍵となる。
  論文  参考訳（メタデータ） (2023-06-04T08:53:27Z)
• Continuous time recurrent neural networks: overview and application to forecasting blood glucose in the intensive care unit [56.801856519460465]
  連続時間自己回帰リカレントニューラルネットワーク(Continuous Time Autoregressive Recurrent Neural Network, CTRNN)は、不規則な観測を考慮に入れたディープラーニングモデルである。 重篤なケア環境下での血糖値の確率予測へのこれらのモデルの適用を実証する。
  論文  参考訳（メタデータ） (2023-04-14T09:39:06Z)
• Temporal Feature Alignment in Contrastive Self-Supervised Learning for Human Activity Recognition [2.2082422928825136]
  自己教師付き学習は通常、ラベルのないデータから深い特徴表現を学習するために使用される。 本稿では,時間空間に動的時間ワープアルゴリズムを組み込んで,時間次元で特徴を整列させる手法を提案する。 提案されたアプローチは、最近のSSLベースラインと比較して、ロバストな特徴表現を学習する大きな可能性を秘めている。
  論文  参考訳（メタデータ） (2022-10-07T07:51:01Z)
• Neural Laplace: Learning diverse classes of differential equations in the Laplace domain [86.52703093858631]
  本稿では,これらすべてを含む多種多様な微分方程式(DE)を学習するための統一的な枠組みを提案する。 時間領域の力学をモデル化する代わりに、ラプラス領域でモデル化する。 The experiment, Neural Laplace shows excellent performance in modelling and extrapolating the trajectories of various class of DEs。
  論文  参考訳（メタデータ） (2022-06-10T02:14:59Z)
• On the balance between the training time and interpretability of neural ODE for time series modelling [77.34726150561087]
  本稿は,現代のニューラルODEを,時系列モデリングアプリケーションのためのより単純なモデルに還元することはできないことを示す。 ニューラルODEの複雑さは、従来の時系列モデリングツールと比較されるか、超える。 本稿では,ニューラルネットワークとODEシステムを用いた時系列モデリングの新しい視点を提案する。
  論文  参考訳（メタデータ） (2022-06-07T13:49:40Z)
• Combining Recurrent, Convolutional, and Continuous-time Models with Linear State-Space Layers [21.09321438439848]
  一般化する制御系にインスパイアされた単純なシーケンスモデルを導入する。 LSSLモデルは上記の3つのモデルのファミリーと密接な関係を示し、その強みを継承する。 例えば、畳み込みを連続時間に一般化し、共通のRNN-1を説明し、時間スケール適応のようなNDEの特徴を共有する。
  論文  参考訳（メタデータ） (2021-10-26T19:44:53Z)
• Differentiable Multiple Shooting Layers [18.37758865401204]
  多重ショット層 (MSL) は並列化可能なルートフィンディングアルゴリズムを用いて初期値問題の解を求める。 我々は,MSLのアルゴリズム的枠組みを開発し,理論的および計算的観点から解法の選択の相違を解析する。 医療データの時系列分類のためのニューラル制御微分方程式(ニューラルCDE)におけるMSL推論の適用による高速化について検討した。
  論文  参考訳（メタデータ） (2021-06-07T18:05:44Z)
• Self-Supervised Learning of Graph Neural Networks: A Unified Review [50.71341657322391]
  ラベルなしサンプルを多用する新たなパラダイムとして,自己教師型学習が登場している。 SSLを用いたグラフニューラルネットワーク(GNNs)のトレーニング方法の統一レビューを提供します。 gnnに対するssl手法の処理は,様々な手法の類似性と相違に光を当て,新しい手法やアルゴリズムの開発段階を定めている。
  論文  参考訳（メタデータ） (2021-02-22T03:43:45Z)
• Understanding Self-supervised Learning with Dual Deep Networks [74.92916579635336]
  本稿では,2組の深層ReLUネットワークを用いたコントラスト型自己教師学習(SSL)手法を理解するための新しい枠組みを提案する。 種々の損失関数を持つSimCLRの各SGD更新において、各層の重みは共分散演算子によって更新されることを示す。 共分散演算子の役割と、そのようなプロセスでどのような特徴が学習されるかをさらに研究するために、我々は、階層的潜在木モデル(HLTM)を用いて、データ生成および増大過程をモデル化する。
  論文  参考訳（メタデータ） (2020-10-01T17:51:49Z)
• Longitudinal Self-Supervised Learning [13.094393751939837]
  グラウンド・トゥルース・ラベルは神経科学においてしばしば欠落しているか高価である。 本稿では,MRIと潜在画像表現の関連因子間の多変量写像を定式化することにより,歪みの新たな定義を提案する。 我々は、画像表現から脳年齢を乱すコサインロスを伴う標準的な自動符号化構造を用いて、LSSL(Longitudinal Self-Supervised Learning)というモデルを実装した。
  論文  参考訳（メタデータ） (2020-06-12T03:35:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。