Fugu-MT 論文翻訳(概要): Optimizing Neural Network Weights using Nature-Inspired Algorithms

論文の概要: Optimizing Neural Network Weights using Nature-Inspired Algorithms

arxiv url: http://arxiv.org/abs/2105.09983v1
Date: Thu, 20 May 2021 18:32:29 GMT
ステータス: 処理完了
システム内更新日: 2021-05-29 17:54:30.935368
Title: Optimizing Neural Network Weights using Nature-Inspired Algorithms
Title（参考訳）: 自然刺激型アルゴリズムを用いたニューラルネットワーク重みの最適化
Authors: Wael Korani, Malek Mouhoub and Samira Sadaoui
Abstract要約: データから学習すると,これらのアルゴリズムがDFNNの重みを効率的に更新することを示す。 3つのウィスコンシン乳がんデータセットを用いた最適化アルゴリズムを用いてDFNNの性能評価を行った。
参考スコア（独自算出の注目度）: 2.610470075814367
License: http://creativecommons.org/licenses/by/4.0/
Abstract: This study aims to optimize Deep Feedforward Neural Networks (DFNNs) training using nature-inspired optimization algorithms, such as PSO, MTO, and its variant called MTOCL. We show how these algorithms efficiently update the weights of DFNNs when learning from data. We evaluate the performance of DFNN fused with optimization algorithms using three Wisconsin breast cancer datasets, Original, Diagnostic, and Prognosis, under different experimental scenarios. The empirical analysis demonstrates that MTOCL is the most performing in most scenarios across the three datasets. Also, MTOCL is comparable to past weight optimization algorithms for the original dataset, and superior for the other datasets, especially for the challenging Prognostic dataset.
Abstract（参考訳）: 本研究の目的は、PSO、MTO、およびその変種であるMTOCLのような自然に着想を得た最適化アルゴリズムを用いて、DFNN(Deep Feedforward Neural Networks)トレーニングを最適化することである。データから学習する際のDFNNの重みを効率的に更新する方法を示す。ウィスコンシン州における3つの乳がんデータセット(オリジナル,診断,予後)を用いた最適化アルゴリズムによるDFNNの性能評価を行った。経験的分析は、MTOCLが3つのデータセットのほとんどのシナリオで最もパフォーマンスが高いことを示している。また、MTOCLは元のデータセットの過去の重み付け最適化アルゴリズムに匹敵するものであり、他のデータセットよりも優れている。

関連論文リスト

Task-level Distributionally Robust Optimization for Large Language Model-based Dense Retrieval [32.104911827710936]
本稿では,大規模言語モデルに基づくDense Retrievalファインタニングのためのタスクレベル分散ロバスト最適化(tDRO)を提案する。 tDROはドメインの重みをパラメータ化し、拡張されたドメイン勾配で更新する。実験では、大規模検索ベンチマークの最適改善と、最大30%のデータセット使用率の削減が示されている。
論文参考訳（メタデータ） (2024-08-20T07:48:19Z)
Discovering Preference Optimization Algorithms with and for Large Language Models [50.843710797024805]
オフライン優先最適化は、LLM(Large Language Model)出力の品質を向上・制御するための重要な手法である。我々は、人間の介入なしに、新しい最先端の選好最適化アルゴリズムを自動で発見する客観的発見を行う。実験は、ロジスティックと指数的損失を適応的にブレンドする新しいアルゴリズムであるDiscoPOPの最先端性能を示す。
論文参考訳（メタデータ） (2024-06-12T16:58:41Z)
Functional Graphical Models: Structure Enables Offline Data-Driven Optimization [111.28605744661638]
構造がサンプル効率のよいデータ駆動最適化を実現する方法を示す。また、FGM構造自体を推定するデータ駆動最適化アルゴリズムを提案する。
論文参考訳（メタデータ） (2024-01-08T22:33:14Z)
The effect of data augmentation and 3D-CNN depth on Alzheimer's Disease detection [51.697248252191265]
この研究は、データハンドリング、実験設計、モデル評価に関するベストプラクティスを要約し、厳密に観察する。我々は、アルツハイマー病(AD)の検出に焦点を当て、医療における課題のパラダイム的な例として機能する。このフレームワークでは,3つの異なるデータ拡張戦略と5つの異なる3D CNNアーキテクチャを考慮し,予測15モデルを訓練する。
論文参考訳（メタデータ） (2023-09-13T10:40:41Z)
Neural lasso: a unifying approach of lasso and neural networks [0.27624021966289597]
可変選択のための統計的手法は、ニューラルネットワークを介して表現される。統計的アプローチとニューラルバージョンは同じ目的関数を持つが、最適化によって異なることが観察された。重要な変数を識別する新しい最適化アルゴリズムが登場した。
論文参考訳（メタデータ） (2023-09-07T15:17:10Z)
Reconstruction of gene regulatory network via sparse optimization [0.0]
規制ネットワークの20%を事前の既知のデータとして導入することで、推論アルゴリズムのパラメータ選択の基盤となることが判明した。 DREAM5データセットの実験では、モデレーション関係のスパース最適化に基づく推論がうまく機能していることが示されている。投票アルゴリズムは4つのデータセットのうち3つで最良の結果を得る。
論文参考訳（メタデータ） (2022-11-11T07:57:59Z)
Improved Algorithms for Neural Active Learning [74.89097665112621]
非パラメトリックストリーミング設定のためのニューラルネットワーク(NN)ベースの能動学習アルゴリズムの理論的および経験的性能を改善する。本研究では,SOTA(State-of-the-art (State-the-art)) 関連研究で使用されるものよりも,アクティブラーニングに適する人口減少を最小化することにより,2つの後悔の指標を導入する。
論文参考訳（メタデータ） (2022-10-02T05:03:38Z)
Gone Fishing: Neural Active Learning with Fisher Embeddings [55.08537975896764]
ディープニューラルネットワークと互換性のあるアクティブな学習アルゴリズムの必要性が高まっている。本稿では,ニューラルネットワークのための抽出可能かつ高性能な能動学習アルゴリズムBAITを紹介する。
論文参考訳（メタデータ） (2021-06-17T17:26:31Z)
Genetically Optimized Prediction of Remaining Useful Life [4.115847582689283]
LSTMおよびGRUモデルを実装し、得られた結果と提案された遺伝子訓練ニューラルネットワークを比較します。遺伝的アルゴリズムを用いた他の最適化層を追加することによって,予測の整合性の向上を期待する。これらのモデルと提案されたアーキテクチャは、nasaのターボファンジェットエンジンデータセットでテストされている。
論文参考訳（メタデータ） (2021-02-17T16:09:23Z)
Self-Directed Online Machine Learning for Topology Optimization [58.920693413667216]
自己指向型オンライン学習最適化は、ディープニューラルネットワーク(DNN)と有限要素法(FEM)計算を統合している。本アルゴリズムは, コンプライアンスの最小化, 流体構造最適化, 伝熱促進, トラス最適化の4種類の問題によって検証された。その結果, 直接使用法と比較して計算時間を2～5桁削減し, 実験で検証した全ての最先端アルゴリズムより優れていた。
論文参考訳（メタデータ） (2020-02-04T20:00:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。