論文の概要: GANDSE: Generative Adversarial Network based Design Space Exploration
for Neural Network Accelerator Design
- arxiv url: http://arxiv.org/abs/2208.00800v1
- Date: Mon, 1 Aug 2022 12:32:46 GMT
- ステータス: 処理完了
- システム内更新日: 2022-08-02 14:51:29.981360
- Title: GANDSE: Generative Adversarial Network based Design Space Exploration
for Neural Network Accelerator Design
- Title（参考訳）: GANDSE: ニューラルネットワーク加速器設計のためのジェネレーティブ・アドバイサル・ネットワークに基づく設計空間探索
- Authors: Lang Feng, Wenjian Liu, Chuliang Guo, Ke Tang, Cheng Zhuo, Zhongfeng
Wang
- Abstract要約: GANDSEというニューラルネットワークアクセラレータ設計自動化フレームワークを提案する。
GANDSEは、多層パーセプトロンや深層強化学習といったアプローチと比較して、より最適化された設計を無視できる時間で見つけることができる。
- 参考スコア（独自算出の注目度）: 27.290616313982323
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: With the popularity of deep learning, the hardware implementation platform of
deep learning has received increasing interest. Unlike the general purpose
devices, e.g., CPU, or GPU, where the deep learning algorithms are executed at
the software level, neural network hardware accelerators directly execute the
algorithms to achieve higher both energy efficiency and performance
improvements. However, as the deep learning algorithms evolve frequently, the
engineering effort and cost of designing the hardware accelerators are greatly
increased. To improve the design quality while saving the cost, design
automation for neural network accelerators was proposed, where design space
exploration algorithms are used to automatically search the optimized
accelerator design within a design space. Nevertheless, the increasing
complexity of the neural network accelerators brings the increasing dimensions
to the design space. As a result, the previous design space exploration
algorithms are no longer effective enough to find an optimized design. In this
work, we propose a neural network accelerator design automation framework named
GANDSE, where we rethink the problem of design space exploration, and propose a
novel approach based on the generative adversarial network (GAN) to support an
optimized exploration for high dimension large design space. The experiments
show that GANDSE is able to find the more optimized designs in negligible time
compared with approaches including multilayer perceptron and deep reinforcement
learning.
- Abstract（参考訳）: ディープラーニングの人気により、ディープラーニングのハードウェア実装プラットフォームへの関心が高まっている。
ディープラーニングアルゴリズムがソフトウェアレベルで実行される汎用デバイス、例えばcpuやgpuとは異なり、ニューラルネットワークハードウェアアクセラレータは、エネルギー効率とパフォーマンス改善の両方を達成するためにアルゴリズムを直接実行します。
しかし、ディープラーニングアルゴリズムが頻繁に進化するにつれて、ハードウェアアクセラレータを設計するエンジニアリングの労力とコストが大幅に増大する。
低コストで設計品質を向上させるため,ニューラルネットワーク加速器の設計自動化を提案し,設計空間内で最適化された加速器設計を自動的に探索する設計空間探索アルゴリズムを用いた。
それでも、ニューラルネットワークアクセラレータの複雑さの増大は、設計スペースの寸法の増大をもたらします。
その結果、以前の設計空間探索アルゴリズムは、もはや最適化された設計を見つけるのに十分効果的ではない。
本研究では,設計空間探索の問題を再考するGANDSEというニューラルネットワーク加速器設計自動化フレームワークを提案し,高次元大規模設計空間のための最適化探索を支援するために,GAN(Generative Adversarial Network)に基づく新しいアプローチを提案する。
実験の結果,GANDSEは多層パーセプトロンや深層強化学習といったアプローチと比較して,最適化された設計を無視できることがわかった。
関連論文リスト
- Scaling Deep Networks with the Mesh Adaptive Direct Search algorithm [3.3073775218038883]
我々は,emphMesh Adaptive Direct Search(MADS)アルゴリズムを用いて,画像分類のための軽深度ニューラルネットワークの設計を自動化する。
本試験は, 競争圧縮率と試行回数の減少を示す。
論文 参考訳（メタデータ） (2023-01-17T00:08:03Z) - HARL: Hierarchical Adaptive Reinforcement Learning Based Auto Scheduler
for Neural Networks [51.71682428015139]
効率的なテンソルプログラム探索のための強化学習に基づく自動スケジューリングシステムであるHARLを提案する。
HarLは、最先端のオートスケジューラと比較して、テンソル演算子の性能を22%改善し、探索速度を4.3倍改善する。
また、エンドツーエンドのニューラルネットワークでは、推論性能と探索速度も大幅に向上する。
論文 参考訳（メタデータ） (2022-11-21T04:15:27Z) - NASA: Neural Architecture Search and Acceleration for Hardware Inspired
Hybrid Networks [24.95135135092478]
我々はNASAというニューラルアーキテクチャ検索・加速フレームワークを提案する。
自動乗算型DNN開発を可能にし、専用乗算型加速器を統合する。
実験は、達成可能な精度と効率のトレードオフの観点から、NASAのアルゴリズム・ハードウェアの共同設計フレームワークの利点を一貫して評価する。
論文 参考訳（メタデータ） (2022-10-24T16:03:42Z) - A Semi-Decoupled Approach to Fast and Optimal Hardware-Software
Co-Design of Neural Accelerators [22.69558355718029]
ハードウェアとソフトウェアの共同設計は、フレキシブルなデザインスペースの利点を完全に享受し、ニューラルネットワークのパフォーマンスを最適化するために現れています。
このような共同設計は、全検索空間を事実上無限大に拡大し、重大な課題を提起する。
本稿では,設計空間全体の規模を桁違いに小さくするが,最適性を損なうことなく,Emphsemi-Decoupledアプローチを提案する。
論文 参考訳（メタデータ） (2022-03-25T21:49:42Z) - FPGA-optimized Hardware acceleration for Spiking Neural Networks [69.49429223251178]
本研究は,画像認識タスクに適用したオフライントレーニングによるSNN用ハードウェアアクセラレータの開発について述べる。
この設計はXilinx Artix-7 FPGAをターゲットにしており、利用可能なハードウェアリソースの40%を合計で使用している。
分類時間を3桁に短縮し、ソフトウェアと比較すると精度にわずか4.5%の影響を与えている。
論文 参考訳（メタデータ） (2022-01-18T13:59:22Z) - AutoSpace: Neural Architecture Search with Less Human Interference [84.42680793945007]
現在のニューラルネットワークアーキテクチャ検索(NAS)アルゴリズムは、ネットワーク構築のための検索空間を設計するための専門知識と努力を必要とします。
探索空間を最適なものに進化させる新しい微分可能な進化フレームワークであるAutoSpaceを提案する。
学習した検索空間では、最近のNASアルゴリズムの性能は、以前手作業で設計した空間に比べて大幅に改善できる。
論文 参考訳（メタデータ） (2021-03-22T13:28:56Z) - Evolving Search Space for Neural Architecture Search [70.71153433676024]
最適化された検索空間サブセットを維持することにより,前回の取り組みから得られた結果を増幅するニューラルサーチ空間進化(NSE)方式を提案する。
我々は333万のFLOPでImageNet上で77.3%のトップ1リトレーニング精度を実現し、最先端の性能を得た。
遅延制約が適用された場合、我々の結果は、77.9%のTop-1再トレーニング精度を持つ、以前の最高のパフォーマンスのモバイルモデルよりも優れた性能が得られる。
論文 参考訳（メタデータ） (2020-11-22T01:11:19Z) - Learned Hardware/Software Co-Design of Neural Accelerators [20.929918108940093]
ディープラーニングソフトウェアスタックとハードウェアアクセラレータは多様で広大な。
以前の作業では、ハードウェアアーキテクチャとは別途ソフトウェア最適化を検討し、検索スペースを効果的に削減した。
本稿では,ハードウェア/ソフトウェアの共同設計として,共同設計空間における望ましい点を自動的に識別することを目的としている。
論文 参考訳（メタデータ） (2020-10-05T15:12:52Z) - Generative Design by Reinforcement Learning: Enhancing the Diversity of
Topology Optimization Designs [5.8010446129208155]
本研究では、トポロジ設計の多様性を最大化する報酬関数を備えた強化学習に基づく生成設計プロセスを提案する。
RLをベースとした生成設計は,GPUを完全自動で活用することにより,短時間で多数の多様な設計を生成できることを示す。
論文 参考訳（メタデータ） (2020-08-17T06:50:47Z) - Optimizing Memory Placement using Evolutionary Graph Reinforcement
Learning [56.83172249278467]
大規模検索空間を対象とした進化グラフ強化学習(EGRL)を提案する。
我々は、推論のために、Intel NNP-Iチップ上で、我々のアプローチを直接訓練し、検証する。
また,NNP-Iコンパイラと比較して28～78%の高速化を実現している。
論文 参考訳（メタデータ） (2020-07-14T18:50:12Z) - DepthNet Nano: A Highly Compact Self-Normalizing Neural Network for
Monocular Depth Estimation [76.90627702089357]
DepthNet Nanoは、人間の機械の共同設計戦略を用いて設計された単眼深度推定のためのコンパクトなディープニューラルネットワークである。
提案したDepthNet Nanoは、最先端のネットワークで同等の性能を保ちながら、高い効率のネットワークアーキテクチャを持っている。
論文 参考訳（メタデータ） (2020-04-17T00:41:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。