論文の概要: Scaling Deep Learning Research with Kubernetes on the NRP Nautilus HyperCluster

• arxiv url: http://arxiv.org/abs/2411.12038v1
• Date: Mon, 18 Nov 2024 20:19:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-20 13:37:25.510491
• Title: Scaling Deep Learning Research with Kubernetes on the NRP Nautilus HyperCluster
• Title（参考訳）: NRP Nautilus HyperCluster上のKubernetesによるディープラーニング研究のスケールアップ
• Authors: J. Alex Hurt, Anes Ouadou, Mariam Alshehri, Grant J. Scott,
• Abstract要約: 合計で234のディープニューラルモデルがNautilusで4,040時間トレーニングされている。 本研究では,NRP Nautilus HyperClusterを用いたディープラーニングモデルトレーニングの自動化とスケールアップについて検討する。
• 参考スコア（独自算出の注目度）: 1.2731671380229848
• License:
• Abstract: Throughout the scientific computing space, deep learning algorithms have shown excellent performance in a wide range of applications. As these deep neural networks (DNNs) continue to mature, the necessary compute required to train them has continued to grow. Today, modern DNNs require millions of FLOPs and days to weeks of training to generate a well-trained model. The training times required for DNNs are oftentimes a bottleneck in DNN research for a variety of deep learning applications, and as such, accelerating and scaling DNN training enables more robust and accelerated research. To that end, in this work, we explore utilizing the NRP Nautilus HyperCluster to automate and scale deep learning model training for three separate applications of DNNs, including overhead object detection, burned area segmentation, and deforestation detection. In total, 234 deep neural models are trained on Nautilus, for a total time of 4,040 hours
• Abstract（参考訳）: 科学計算の分野では、ディープラーニングアルゴリズムは幅広い応用において優れた性能を示している。 これらのディープニューラルネットワーク(DNN)は成熟し続けているため、トレーニングに必要な計算量は増え続けている。 現在、現代のDNNは、十分に訓練されたモデルを生成するために、何百万ものFLOPと数日から数週間のトレーニングを必要としている。 DNNに必要なトレーニング時間は、さまざまなディープラーニングアプリケーションにおいて、DNN研究においてボトルネックとなることが多いため、DNNトレーニングの高速化とスケールアップは、より堅牢で迅速な研究を可能にする。 そこで本研究では,NRP Nautilus HyperClusterを用いて,頭上オブジェクト検出,焼成領域分割,森林破壊検出など,DNNの3つの異なるアプリケーションを対象としたディープラーニングモデルトレーニングの自動化とスケールアップについて検討する。 合計で234のディープニューラルモデルがNautilusでトレーニングされ、合計時間は4,040時間である。

関連論文リスト

• High-performance deep spiking neural networks with 0.3 spikes per neuron [9.01407445068455]
  バイオインスパイアされたスパイクニューラルネットワーク(SNN)を人工ニューラルネットワーク(ANN)より訓練することは困難である 深部SNNモデルのトレーニングは,ANNと全く同じ性能が得られることを示す。 我々のSNNは1ニューロンあたり0.3スパイク以下で高性能な分類を行い、エネルギー効率の良い実装に役立てる。
  論文  参考訳（メタデータ） (2023-06-14T21:01:35Z)
• Constructing Deep Spiking Neural Networks from Artificial Neural Networks with Knowledge Distillation [20.487853773309563]
  スパイキングニューラルネットワーク(SNN)は、高い計算効率を持つ脳にインスパイアされたモデルとしてよく知られている。 知識蒸留(KD)を用いた深部SNNモデル構築手法を提案する。
  論文  参考訳（メタデータ） (2023-04-12T05:57:21Z)
• Intelligence Processing Units Accelerate Neuromorphic Learning [52.952192990802345]
  スパイキングニューラルネットワーク(SNN)は、エネルギー消費と遅延の観点から、桁違いに改善されている。 我々は、カスタムSNN PythonパッケージsnnTorchのIPU最適化リリースを提示する。
  論文  参考訳（メタデータ） (2022-11-19T15:44:08Z)
• Training Spiking Neural Networks with Local Tandem Learning [96.32026780517097]
  スパイキングニューラルネットワーク(SNN)は、前者よりも生物学的に可塑性でエネルギー効率が高いことが示されている。 本稿では,局所タンデム学習(Local Tandem Learning, LTL)と呼ばれる一般化学習規則を提案する。 CIFAR-10データセット上の5つのトレーニングエポック内に高速なネットワーク収束を示すとともに,計算複雑性が低い。
  論文  参考訳（メタデータ） (2022-10-10T10:05:00Z)
• Automated machine learning for borehole resistivity measurements [0.0]
  ディープニューラルネットワーク(DNN)は、ボアホール比抵抗測定の反転のためのリアルタイムソリューションを提供する。 非常に大きなDNNを使って演算子を近似することができるが、かなりの訓練時間を必要とする。 本研究では,DNNの精度とサイズを考慮したスコアリング機能を提案する。
  論文  参考訳（メタデータ） (2022-07-20T12:27:22Z)
• Deep Learning in Spiking Phasor Neural Networks [0.6767885381740952]
  スパイキングニューラルネットワーク(SNN)は、低レイテンシで低消費電力のニューロモルフィックハードウェアで使用するために、ディープラーニングコミュニティの注目を集めている。 本稿では,Spking Phasor Neural Networks(SPNN)を紹介する。 SPNNは複雑に評価されたディープニューラルネットワーク(DNN)に基づいており、スパイク時間による位相を表す。
  論文  参考訳（メタデータ） (2022-04-01T15:06:15Z)
• Deep Reinforcement Learning with Spiking Q-learning [51.386945803485084]
  スパイクニューラルネットワーク(SNN)は、少ないエネルギー消費で人工知能(AI)を実現することが期待されている。 SNNと深部強化学習(RL)を組み合わせることで、現実的な制御タスクに有望なエネルギー効率の方法を提供する。
  論文  参考訳（メタデータ） (2022-01-21T16:42:11Z)
• Strengthening the Training of Convolutional Neural Networks By Using Walsh Matrix [0.0]
  分類性能を向上させるため,DNNのトレーニングと構造を変更した。 畳み込みニューラルネットワーク(CNN)の最後の層に続く最小距離ネットワーク(MDN)が分類器として使用される。 異なる領域では、ノード数が少ないDivFEを使用することでより高い分類性能が得られたことが観察されている。
  論文  参考訳（メタデータ） (2021-03-31T18:06:11Z)
• Deep Time Delay Neural Network for Speech Enhancement with Full Data Learning [60.20150317299749]
  本稿では,全データ学習による音声強調のためのディープタイム遅延ニューラルネットワーク(TDNN)を提案する。 トレーニングデータを完全に活用するために,音声強調のための完全なデータ学習手法を提案する。
  論文  参考訳（メタデータ） (2020-11-11T06:32:37Z)
• Progressive Tandem Learning for Pattern Recognition with Deep Spiking Neural Networks [80.15411508088522]
  スパイキングニューラルネットワーク(SNN)は、低レイテンシと高い計算効率のために、従来の人工知能ニューラルネットワーク(ANN)よりも優位性を示している。 高速かつ効率的なパターン認識のための新しいANN-to-SNN変換およびレイヤワイズ学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2020-07-02T15:38:44Z)
• Rectified Linear Postsynaptic Potential Function for Backpropagation in Deep Spiking Neural Networks [55.0627904986664]
  スパイキングニューラルネットワーク(SNN)は、時間的スパイクパターンを用いて情報を表現し、伝達する。 本稿では,情報符号化,シナプス可塑性,意思決定におけるスパイクタイミングダイナミクスの寄与について検討し,将来のDeepSNNやニューロモルフィックハードウェアシステムの設計への新たな視点を提供する。
  論文  参考訳（メタデータ） (2020-03-26T11:13:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。