論文の概要: Concurrent Neural Tree and Data Preprocessing AutoML for Image
Classification
- arxiv url: http://arxiv.org/abs/2205.13033v1
- Date: Wed, 25 May 2022 20:03:09 GMT
- ステータス: 処理完了
- システム内更新日: 2022-05-27 15:02:48.980453
- Title: Concurrent Neural Tree and Data Preprocessing AutoML for Image
Classification
- Title(参考訳): 画像分類のためのコンカレントニューラルツリーとデータ前処理オートML
- Authors: Anish Thite, Mohan Dodda, Pulak Agarwal, Jason Zutty
- Abstract要約: 現在のSOTA (State-of-the-art) には、アルゴリズム検索空間の一部として入力データを操作するための従来の手法は含まれていない。
進化的多目的アルゴリズム設計エンジン(EMADE, Evolutionary Multi-objective Algorithm Design Engine)は、従来の機械学習手法のための多目的進化的検索フレームワークである。
CIFAR-10画像分類ベンチマークデータセットにおいて,これらの手法を検索空間の一部として含めることで,性能向上の可能性が示唆された。
- 参考スコア(独自算出の注目度): 0.5735035463793008
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deep Neural Networks (DNN's) are a widely-used solution for a variety of
machine learning problems. However, it is often necessary to invest a
significant amount of a data scientist's time to pre-process input data, test
different neural network architectures, and tune hyper-parameters for optimal
performance. Automated machine learning (autoML) methods automatically search
the architecture and hyper-parameter space for optimal neural networks.
However, current state-of-the-art (SOTA) methods do not include traditional
methods for manipulating input data as part of the algorithmic search space. We
adapt the Evolutionary Multi-objective Algorithm Design Engine (EMADE), a
multi-objective evolutionary search framework for traditional machine learning
methods, to perform neural architecture search. We also integrate EMADE's
signal processing and image processing primitives. These primitives allow EMADE
to manipulate input data before ingestion into the simultaneously evolved DNN.
We show that including these methods as part of the search space shows
potential to provide benefits to performance on the CIFAR-10 image
classification benchmark dataset.
- Abstract(参考訳): Deep Neural Networks(DNN)は、さまざまな機械学習問題に対して広く利用されているソリューションである。
しかし、入力データを前処理し、異なるニューラルネットワークアーキテクチャをテストし、最適なパフォーマンスのためにハイパーパラメータをチューニングするために、データサイエンティストのかなりの時間に投資する必要があることが多い。
自動機械学習(AutoML)メソッドは、最適なニューラルネットワークのためのアーキテクチャとハイパーパラメータ空間を自動的に検索する。
しかし、現在の最先端(SOTA)手法には、アルゴリズム検索空間の一部として入力データを操作するための従来の手法は含まれていない。
進化的多目的アルゴリズム設計エンジン(EMADE, Evolutionary Multi-objective Algorithm Design Engine)は,従来の機械学習手法のための多目的進化探索フレームワークである。
また、EMADEの信号処理と画像処理プリミティブを統合する。
これらのプリミティブは、EMADEが同時に進化したDNNに入る前に入力データを操作できるようにする。
CIFAR-10画像分類ベンチマークデータセットにおいて,これらの手法を検索空間の一部として含めることで,性能向上の可能性が示された。
関連論文リスト
- A Pairwise Comparison Relation-assisted Multi-objective Evolutionary Neural Architecture Search Method with Multi-population Mechanism [58.855741970337675]
ニューラルアーキテクチャサーチ(NAS)により、リサーチ者は広大なサーチスペースを自動的に探索し、効率的なニューラルネットワークを見つけることができる。
NASは重要なボトルネックに悩まされており、探索プロセス中に多くのアーキテクチャを評価する必要がある。
SMEM-NASは,多集団構造に基づく多目的進化アルゴリズムである。
論文 参考訳(メタデータ) (2024-07-22T12:46:22Z) - Differentiable Visual Computing for Inverse Problems and Machine
Learning [27.45555082573493]
ビジュアルコンピューティング手法は、幾何学を解析し、固体、流体、その他の媒体を物理的にシミュレートし、光学技術で世界をレンダリングするために用いられる。
ディープラーニング(DL)は、一般的なアルゴリズムモデルの構築を可能にする。
DLは高度にパラメータ化されたニューラルネットワークアーキテクチャ -- ユニバーサル関数近似器 -- と勾配に基づく検索アルゴリズムによって実現されている。
論文 参考訳(メタデータ) (2023-11-21T23:02:58Z) - SA-CNN: Application to text categorization issues using simulated
annealing-based convolutional neural network optimization [0.0]
畳み込みニューラルネットワーク(CNN)は、ディープラーニングアルゴリズムの代表クラスである。
テキストCNNニューラルネットワークに基づくテキスト分類タスクのためのSA-CNNニューラルネットワークを提案する。
論文 参考訳(メタデータ) (2023-03-13T14:27:34Z) - Intelligence Processing Units Accelerate Neuromorphic Learning [52.952192990802345]
スパイキングニューラルネットワーク(SNN)は、エネルギー消費と遅延の観点から、桁違いに改善されている。
我々は、カスタムSNN PythonパッケージsnnTorchのIPU最適化リリースを提示する。
論文 参考訳(メタデータ) (2022-11-19T15:44:08Z) - Towards Theoretically Inspired Neural Initialization Optimization [66.04735385415427]
我々は,ニューラルネットワークの初期状態を評価するための理論的知見を備えた,GradCosineという微分可能な量を提案する。
標準制約下でGradCosineを最大化することにより、ネットワークのトレーニングとテストの両方の性能を向上させることができることを示す。
サンプル分析から実際のバッチ設定に一般化されたNIOは、無視可能なコストで、より優れた初期化を自動で探すことができる。
論文 参考訳(メタデータ) (2022-10-12T06:49:16Z) - Differentiable Neural Architecture Learning for Efficient Neural Network
Design [31.23038136038325]
スケールド・シグモイド関数に基づく新しいemphアーキテクチャのパラメータ化を提案する。
そこで本論文では,候補ニューラルネットワークを評価することなく,ニューラルネットワークを最適化するための汎用的エファイブルニューラルネットワーク学習(DNAL)手法を提案する。
論文 参考訳(メタデータ) (2021-03-03T02:03:08Z) - Model-Based Deep Learning [155.063817656602]
信号処理、通信、制御は伝統的に古典的な統計モデリング技術に依存している。
ディープニューラルネットワーク(DNN)は、データから操作を学ぶ汎用アーキテクチャを使用し、優れたパフォーマンスを示す。
私たちは、原理数学モデルとデータ駆動システムを組み合わせて両方のアプローチの利点を享受するハイブリッド技術に興味があります。
論文 参考訳(メタデータ) (2020-12-15T16:29:49Z) - MS-RANAS: Multi-Scale Resource-Aware Neural Architecture Search [94.80212602202518]
我々は,MS-RANAS(Multi-Scale Resource-Aware Neural Architecture Search)を提案する。
我々は,検索コストの削減を図るために,ワンショットのアーキテクチャ探索手法を採用した。
我々は精度-速度トレードオフの観点から最先端の結果を得る。
論文 参考訳(メタデータ) (2020-09-29T11:56:01Z) - VINNAS: Variational Inference-based Neural Network Architecture Search [2.685668802278155]
スパース畳み込みニューラルネットワークを探索するための可変変分推論に基づくNAS法を提案する。
提案手法は,非ゼロパラメータの約2倍の精度で最先端の精度を示しながら,多様なネットワークセルを探索する。
論文 参考訳(メタデータ) (2020-07-12T21:47:35Z) - Complex Human Action Recognition in Live Videos Using Hybrid FR-DL
Method [1.027974860479791]
入力シーケンス中の代表フレームの自動選択により,前処理フェーズの課題に対処する。
本稿では,バックグラウンドサブトラクションとHOGを用いたハイブリッド手法を提案し,続いて深層ニューラルネットワークと骨格モデリング手法を適用した。
本稿では,このモデルをFR-DL(Feature Reduction & Deep Learning based action recognition method)と呼ぶ。
論文 参考訳(メタデータ) (2020-07-06T15:12:50Z) - AutoML-Zero: Evolving Machine Learning Algorithms From Scratch [76.83052807776276]
基本数学的操作をビルディングブロックとして使うだけで,完全な機械学習アルゴリズムを自動的に発見できることが示される。
汎用的な検索空間を通じて人間のバイアスを大幅に低減する新しいフレームワークを導入することでこれを実証する。
機械学習アルゴリズムをゼロから発見する上で、これらの予備的な成功は、この分野における有望な新しい方向性を示していると信じている。
論文 参考訳(メタデータ) (2020-03-06T19:00:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。