論文の概要: Accelerating Domain-aware Deep Learning Models with Distributed Training

• arxiv url: http://arxiv.org/abs/2301.11787v1
• Date: Wed, 25 Jan 2023 22:59:47 GMT
• ステータス: 処理完了
• システム内更新日: 2023-01-30 15:10:23.077852
• Title: Accelerating Domain-aware Deep Learning Models with Distributed Training
• Title（参考訳）: 分散トレーニングによるドメイン認識ディープラーニングモデルの高速化
• Authors: Aishwarya Sarkar, Chaoqun Lu and Ali Jannesari
• Abstract要約: モデル性能を改善したドメイン固有知識を利用した分散ドメイン認識ネットワークを提案する。 以上の結果から,最大4.1倍の速さで流出口の流出ピークを効果的に予測した。 提案手法は全体の12.6倍の高速化を実現し,平均予測性能は16%向上した。
• 参考スコア（独自算出の注目度）: 0.8164433158925593
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recent advances in data-generating techniques led to an explosive growth of geo-spatiotemporal data. In domains such as hydrology, ecology, and transportation, interpreting the complex underlying patterns of spatiotemporal interactions with the help of deep learning techniques hence becomes the need of the hour. However, applying deep learning techniques without domain-specific knowledge tends to provide sub-optimal prediction performance. Secondly, training such models on large-scale data requires extensive computational resources. To eliminate these challenges, we present a novel distributed domain-aware spatiotemporal network that utilizes domain-specific knowledge with improved model performance. Our network consists of a pixel-contribution block, a distributed multiheaded multichannel convolutional (CNN) spatial block, and a recurrent temporal block. We choose flood prediction in hydrology as a use case to test our proposed method. From our analysis, the network effectively predicts high peaks in discharge measurements at watershed outlets with up to 4.1x speedup and increased prediction performance of up to 93\%. Our approach achieved a 12.6x overall speedup and increased the mean prediction performance by 16\%. We perform extensive experiments on a dataset of 23 watersheds in a northern state of the U.S. and present our findings.
• Abstract（参考訳）: データ生成技術の最近の進歩は、地理空間データの爆発的な成長をもたらした。 水文学、生態学、輸送学などの領域では、時空間的相互作用の複雑なパターンを深層学習技術の助けを借りて解釈することで、時間が必要となる。 しかし、ドメイン固有の知識を持たないディープラーニング技術を適用すると、準最適予測性能が得られる傾向にある。 第二に、そのようなモデルを大規模データでトレーニングするには、広範な計算資源が必要である。 これらの課題を解消するために,ドメイン固有知識を利用した分散ドメイン対応時空間ネットワークを提案する。 我々のネットワークは、画素寄与ブロック、分散多重チャネル畳み込み(CNN)空間ブロック、繰り返し時間ブロックで構成されている。 提案手法を検証するために,水文学における洪水予知法を選択する。 解析結果から,最大4.1倍の速度アップと最大93.%の予測性能で,流域の排出計測値のピークを効果的に予測できることがわかった。 我々のアプローチは全体の12.6倍のスピードアップを達成し,平均予測性能を16\%向上させた。 アメリカ合衆国北部の23の流域のデータセットについて広範な実験を行い、その結果を報告する。

関連論文リスト

• Application of Long-Short Term Memory and Convolutional Neural Networks for Real-Time Bridge Scour Prediction [0.0]
  我々は,過去のセンサモニタリングデータに基づいて,橋脚周辺の深度変化を予測するために,ディープラーニングアルゴリズムの力を利用する。 本研究では,Long Short-Term Memory (LSTM) モデルとConvolutional Neural Network (CNN) モデルの性能について検討した。
  論文  参考訳（メタデータ） (2024-04-25T12:04:36Z)
• Rapid Flood Inundation Forecast Using Fourier Neural Operator [77.30160833875513]
  洪水浸水予測は洪水前後の緊急計画に重要な情報を提供する。 近年,高分解能な流体力学モデリングが普及しつつあるが,道路の洪水範囲やリアルタイムのビルディングレベルは依然として計算的に要求されている。 洪水範囲と浸水深度予測のためのハイブリッドプロセスベースおよびデータ駆動機械学習(ML)アプローチを提案する。
  論文  参考訳（メタデータ） (2023-07-29T22:49:50Z)
• An evaluation of deep learning models for predicting water depth evolution in urban floods [59.31940764426359]
  高空間分解能水深予測のための異なる深層学習モデルの比較を行った。 深層学習モデルはCADDIESセル-オートマタフラッドモデルによってシミュレーションされたデータを再現するために訓練される。 その結果,ディープラーニングモデルでは,他の手法に比べて誤差が低いことがわかった。
  論文  参考訳（メタデータ） (2023-02-20T16:08:54Z)
• Transfer learning to improve streamflow forecasts in data sparse regions [0.0]
  本研究では,データスパース領域におけるストリームフロー予測の一般化性能向上のために,微調整およびパラメータ転送による伝達学習(TL)の方法論について検討する。 本稿では,Long Short-Term Memory(LSTM)という形式で,十分に大きなソースドメインデータセットに適合する標準のリカレントニューラルネットワークを提案する。 本稿では,モデルの空間的および時間的成分を分離し,モデルを一般化する訓練を行うことにより,水文学応用のための伝達学習手法を実装する手法を提案する。
  論文  参考訳（メタデータ） (2021-12-06T14:52:53Z)
• Convolutional generative adversarial imputation networks for spatio-temporal missing data in storm surge simulations [86.5302150777089]
  GAN(Generative Adversarial Imputation Nets)とGANベースの技術は、教師なし機械学習手法として注目されている。 提案手法を Con Conval Generative Adversarial Imputation Nets (Conv-GAIN) と呼ぶ。
  論文  参考訳（メタデータ） (2021-11-03T03:50:48Z)
• Accelerating Training and Inference of Graph Neural Networks with Fast Sampling and Pipelining [58.10436813430554]
  グラフニューラルネットワーク(GNN)のミニバッチトレーニングには、多くの計算とデータ移動が必要である。 我々は,分散マルチGPU環境において,近傍サンプリングを用いたミニバッチトレーニングを行うことを支持する。 本稿では,これらのボトルネックを緩和する一連の改良点について述べる。 また,サンプリングによる推論を支援する実験分析を行い,試験精度が実質的に損なわれていないことを示す。
  論文  参考訳（メタデータ） (2021-10-16T02:41:35Z)
• Transfer Learning Approaches for Knowledge Discovery in Grid-based Geo-Spatiotemporal Data [1.2693545159861856]
  時空間的特徴の抽出と解析は,洪水などの自然現象の根本原因を認識する上で重要である。 本稿では,知識をある地域から別の地域へ伝達するこの問題に対処するために,効果的に再利用可能な事前学習モデルであるHydroDeepを提案する。
  論文  参考訳（メタデータ） (2021-10-02T16:55:34Z)
• Estimating permeability of 3D micro-CT images by physics-informed CNNs based on DNS [1.6274397329511197]
  本稿では,地質岩のマイクロCTによる透水率予測手法を提案する。 透過性予測専用のCNNのためのトレーニングデータセットは、古典格子ボルツマン法(LBM)によって通常生成される透過性ラベルからなる。 その代わりに、定常ストークス方程式を効率的かつ分散並列に解き、直接数値シミュレーション(DNS)を行う。
  論文  参考訳（メタデータ） (2021-09-04T08:43:19Z)
• A Graph Convolutional Network with Signal Phasing Information for Arterial Traffic Prediction [63.470149585093665]
  動脈交通予測は 現代のインテリジェント交通システムの発展に 重要な役割を担っています 動脈交通予測に関する既存の研究の多くは、ループセンサからの流量と占有率の時間的測定のみを考慮し、上流と下流の検出器間のリッチな空間的関係を無視している。 我々は,信号タイミング計画から発生する空間情報を用いて,深層学習アプローチである拡散畳み込みリカレントニューラルネットワークを強化することで,このギャップを埋める。
  論文  参考訳（メタデータ） (2020-12-25T01:40:29Z)
• Data-driven Flood Emulation: Speeding up Urban Flood Predictions by Deep Convolutional Neural Networks [0.0]
  本稿では,最大水深の予測を画像から画像への変換問題と考えることを提案する。 結果は、シミュレーションを行うのではなく、データから学習した情報を用いて入力標高から生成される。 提案したニューラルネットワークは、都市レイアウト計画のための洪水予測など、異なるが関連する問題に適用できる可能性がある。
  論文  参考訳（メタデータ） (2020-04-17T16:44:46Z)
• Large Batch Training Does Not Need Warmup [111.07680619360528]
  大きなバッチサイズを使用してディープニューラルネットワークをトレーニングすることは、有望な結果を示し、多くの現実世界のアプリケーションに利益をもたらしている。 本稿では,大規模バッチ学習のための全層適応レートスケーリング(CLARS)アルゴリズムを提案する。 分析に基づいて,このギャップを埋め,3つの一般的な大規模バッチトレーニング手法の理論的洞察を提示する。
  論文  参考訳（メタデータ） (2020-02-04T23:03:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。