論文の概要: Optimized Three Deep Learning Models Based-PSO Hyperparameters for
Beijing PM2.5 Prediction
- arxiv url: http://arxiv.org/abs/2306.07296v1
- Date: Sat, 10 Jun 2023 16:06:44 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-14 16:38:15.389072
- Title: Optimized Three Deep Learning Models Based-PSO Hyperparameters for
Beijing PM2.5 Prediction
- Title(参考訳): 北京PM2.5予測のための3つのディープラーニングモデルに基づくPSOハイパーパラメータの最適化
- Authors: Andri Pranolo, Yingchi Mao, Aji Prasetya Wibawa, Agung Bella Putra
Utama, Felix Andika Dwiyanto
- Abstract要約: 本研究では,Long short term memory(LSTM), Convolutional Neural Network(CNN), Multilayer perceptron(MLP)のディープラーニングアーキテクチャの最適化を試みる。
提案したモデルの性能を測定するため,北京PM2.5データセットを解析した。
これらの最適化されたモデルを使用することで、大気汚染管理のための勧告を生成することができる。
- 参考スコア(独自算出の注目度): 1.3649494534428745
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Deep learning is a machine learning approach that produces excellent
performance in various applications, including natural language processing,
image identification, and forecasting. Deep learning network performance
depends on the hyperparameter settings. This research attempts to optimize the
deep learning architecture of Long short term memory (LSTM), Convolutional
neural network (CNN), and Multilayer perceptron (MLP) for forecasting tasks
using Particle swarm optimization (PSO), a swarm intelligence-based
metaheuristic optimization methodology: Proposed M-1 (PSO-LSTM), M-2 (PSO-CNN),
and M-3 (PSO-MLP). Beijing PM2.5 datasets was analyzed to measure the
performance of the proposed models. PM2.5 as a target variable was affected by
dew point, pressure, temperature, cumulated wind speed, hours of snow, and
hours of rain. The deep learning network inputs consist of three different
scenarios: daily, weekly, and monthly. The results show that the proposed M-1
with three hidden layers produces the best results of RMSE and MAPE compared to
the proposed M-2, M-3, and all the baselines. A recommendation for air
pollution management could be generated by using these optimized models
- Abstract(参考訳): ディープラーニングは、自然言語処理、画像識別、予測など、さまざまなアプリケーションで優れたパフォーマンスを実現する機械学習アプローチである。
ディープラーニングネットワークのパフォーマンスはハイパーパラメータ設定に依存する。
本研究では,Long short term memory (LSTM), Convolutional Neural Network (CNN), Multilayer perceptron (MLP) のディープラーニングアーキテクチャを,PSO (PSO-LSTM), Proposed M-1 (PSO-MLP), M-2 (PSO-CNN), M-3 (PSO-MLP) を用いて予測する手法を提案する。
北京pm2.5データセットを解析して,提案モデルの性能を測定した。
PM2.5は露点,圧力,温度,累積風速,積雪時間,降雨時間の影響を受けていた。
ディープラーニングネットワークのインプットは、毎日、毎週、毎月の3つのシナリオで構成される。
その結果, 3層を隠蔽したM-1は, M-2, M-3および全てのベースラインと比較して, RMSEとMAPEの最良の結果が得られることがわかった。
これらの最適化モデルを用いた大気汚染対策の提言
関連論文リスト
- EPS-MoE: Expert Pipeline Scheduler for Cost-Efficient MoE Inference [49.94169109038806]
本稿では,新しいパイプラインスケジューラであるEPS-MoEを紹介する。
その結果,既存の並列推論手法に比べて,プリフィルスループットが平均21%向上していることが判明した。
論文 参考訳(メタデータ) (2024-10-16T05:17:49Z) - Scaling Laws for Predicting Downstream Performance in LLMs [75.28559015477137]
この研究は、性能評価のためのより効率的な指標として、事前学習損失に焦点を当てている。
我々は、データソース間のFLOPに基づいて、ドメイン固有の事前学習損失を予測するために、電力法解析関数を拡張した。
我々は2層ニューラルネットワークを用いて、複数のドメイン固有の損失と下流性能の非線形関係をモデル化する。
論文 参考訳(メタデータ) (2024-10-11T04:57:48Z) - Bypass Back-propagation: Optimization-based Structural Pruning for Large Language Models via Policy Gradient [57.9629676017527]
大規模言語モデルを用いた最適化に基づく構造解析手法を提案する。
我々は,プルーニングモデルの損失を最適化することにより,確率空間におけるプルーニングマスクを直接学習する。
A100 GPUで13Bモデルに対して約35GBのメモリで2.7時間動作させる。
論文 参考訳(メタデータ) (2024-06-15T09:31:03Z) - Introducing a Deep Neural Network-based Model Predictive Control
Framework for Rapid Controller Implementation [41.38091115195305]
本研究は、HCCI燃焼制御のためのディープニューラルネットワーク(DNN)に基づく非線形MPCの実験的実装を示す。
ARM Cortex A72上のMPCのリアルタイム実装を可能にするために、Acadosソフトウェアパッケージを使用することで、最適化計算は1.4ms以内で完了する。
現像した制御器のIMEP軌道は, プロセス制約の観測に加えて, 根平均2乗誤差0.133バールで良好であった。
論文 参考訳(メタデータ) (2023-10-12T15:03:50Z) - Deep Learning for Day Forecasts from Sparse Observations [60.041805328514876]
深層ニューラルネットワークは、気象条件をモデル化するための代替パラダイムを提供する。
MetNet-3は、密度とスパースの両方のデータセンサーから学習し、降水、風、温度、露点を最大24時間前に予測する。
MetNet-3は、それぞれ時間分解能と空間分解能が高く、最大2分と1km、運用遅延は低い。
論文 参考訳(メタデータ) (2023-06-06T07:07:54Z) - Improving Urban Flood Prediction using LSTM-DeepLabv3+ and Bayesian
Optimization with Spatiotemporal feature fusion [7.790241122137617]
本研究では,都市洪水予測のためのCNN-RNNハイブリッド機能融合モデリング手法を提案する。
空間的特徴の処理におけるCNNの長所と、時系列の異なる次元の分析におけるRNNの長所を統合した。
論文 参考訳(メタデータ) (2023-04-19T22:00:04Z) - Development, Optimization, and Deployment of Thermal Forward Vision
Systems for Advance Vehicular Applications on Edge Devices [0.3058685580689604]
我々は、エンドツーエンドのYOLO深層学習フレームワークを用いたスマートフォワードセンシングシステムとして、熱的小型YOLO多クラスオブジェクト検出(TTYMOD)システムを提案する。
このシステムは大規模な熱機関で訓練され、35,000以上の異なる熱フレームからなる新たなオープンソースデータセットが新たに集められている。
温度調整されたナノネットワークの有効性を、平均精度、秒間フレーム、平均推定時間を含む様々な定性的指標を用いて定量化する。
論文 参考訳(メタデータ) (2023-01-18T15:45:33Z) - Bayesian Neural Network Language Modeling for Speech Recognition [59.681758762712754]
長期記憶リカレントニューラルネットワーク(LSTM-RNN)とトランスフォーマーで表される最先端のニューラルネットワーク言語モデル(NNLM)は非常に複雑になりつつある。
本稿では,LSTM-RNN と Transformer LM の基盤となる不確実性を考慮するために,ベイズ学習フレームワークの全体構造を提案する。
論文 参考訳(メタデータ) (2022-08-28T17:50:19Z) - CPM-2: Large-scale Cost-effective Pre-trained Language Models [71.59893315671997]
本稿では, PLM を用いた事前学習, 微調整, 推論の効率性問題に対処するための費用対効果技術について述べる。
我々は,既存のPLMをスクラッチからトレーニングする代わりに活用することで,事前学習プロセスの促進を目的とした知識継承を導入する。
計算資源が限られている大規模PLMに対して,新しい推論ツールキット,すなわちInfMoEを実装した。
論文 参考訳(メタデータ) (2021-06-20T15:43:54Z) - Particle Swarm Optimized Federated Learning For Industrial IoT and Smart
City Services [9.693848515371268]
本研究では,局所機械学習モデルに対するハイパーパラメータ設定を最適化するために,PSOに基づく手法を提案する。
2つのケーススタディを用いて提案手法の性能評価を行った。
論文 参考訳(メタデータ) (2020-09-05T16:20:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。