論文の概要: DiGamma: Domain-aware Genetic Algorithm for HW-Mapping Co-optimization
for DNN Accelerators
- arxiv url: http://arxiv.org/abs/2201.11220v1
- Date: Wed, 26 Jan 2022 22:44:11 GMT
- ステータス: 処理完了
- システム内更新日: 2022-01-29 03:05:40.399212
- Title: DiGamma: Domain-aware Genetic Algorithm for HW-Mapping Co-optimization
for DNN Accelerators
- Title(参考訳): DiGamma:DNN加速器のHWマッピング協調最適化のためのドメイン認識遺伝的アルゴリズム
- Authors: Sheng-Chun Kao, Michael Pellauer, Angshuman Parashar, Tushar Krishna
- Abstract要約: 本稿では,HWとマッピングによって構築された膨大な設計空間を効率的に符号化するHW-Mapping共最適化フレームワークと,探索効率を向上させるための特殊な演算子を備えたドメイン認識型遺伝的アルゴリズムDiGammaを提案する。
評価の結果,DiGammaは,エッジおよびクラウド設定において,最高性能のベースライン最適化アルゴリズムと比較して,(ジオメアン)3.0xと10.0xの高速化を実現可能であることがわかった。
- 参考スコア(独自算出の注目度): 4.248341310190857
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The design of DNN accelerators includes two key parts: HW resource
configuration and mapping strategy. Intensive research has been conducted to
optimize each of them independently. Unfortunately, optimizing for both
together is extremely challenging due to the extremely large cross-coupled
search space. To address this, in this paper, we propose a HW-Mapping
co-optimization framework, an efficient encoding of the immense design space
constructed by HW and Mapping, and a domain-aware genetic algorithm, named
DiGamma, with specialized operators for improving search efficiency. We
evaluate DiGamma with seven popular DNNs models with different properties. Our
evaluations show DiGamma can achieve (geomean) 3.0x and 10.0x speedup,
comparing to the best-performing baseline optimization algorithms, in edge and
cloud settings.
- Abstract(参考訳): DNNアクセラレータの設計には、HWリソース設定とマッピング戦略の2つの重要な部分が含まれている。
それぞれを独立して最適化するための集中的な研究が行われている。
残念ながら、両者を最適化することは極めて大きなクロスカップリング検索スペースのために非常に難しい。
そこで本稿では,HW-Mapping共最適化フレームワーク,HWとマッピングによって構築された巨大な設計空間の効率的な符号化,ドメイン認識型遺伝的アルゴリズムであるDiGammaを提案する。
異なる特性を持つ7つのDNNモデルを用いてDiGammaを評価する。
評価の結果,DiGammaは,エッジおよびクラウド設定において,最高性能のベースライン最適化アルゴリズムと比較して,3.0xと10.0xの高速化を実現することができた。
関連論文リスト
- Genetically Modified Wolf Optimization with Stochastic Gradient Descent
for Optimising Deep Neural Networks [0.0]
本研究の目的は、人口ベースメタヒューリスティックアルゴリズムを用いて、ニューラルネットワーク(NN)重み付けを最適化するための代替アプローチを分析することである。
Grey Wolf (GWO) と Genetic Modified Algorithms (GA) のハイブリッドをグラディエント・Descent (SGD) と組み合わせて検討した。
このアルゴリズムは、高次元性の問題にも対処しながら、エクスプロイトと探索の組み合わせを可能にする。
論文 参考訳(メタデータ) (2023-01-21T13:22:09Z) - Massively Parallel Genetic Optimization through Asynchronous Propagation
of Populations [50.591267188664666]
Propulateは、グローバル最適化のための進化的最適化アルゴリズムとソフトウェアパッケージである。
提案アルゴリズムは, 選択, 突然変異, 交叉, 移動の変種を特徴とする。
Propulateは解の精度を犠牲にすることなく、最大で3桁高速であることがわかった。
論文 参考訳(メタデータ) (2023-01-20T18:17:34Z) - An efficient hybrid classification approach for COVID-19 based on Harris
Hawks Optimization and Salp Swarm Optimization [0.0]
本研究では、Covid-19分類のためのHarris Hawks Optimization Algorithm(HHO)とSalp Swarm Optimization(SSA)のハイブリッドバイナリバージョンを提案する。
提案アルゴリズム(HHOSSA)は,SVMで96%の精度,2つの分類器で98%,98%の精度を達成した。
論文 参考訳(メタデータ) (2022-12-25T19:52:18Z) - An Empirical Evaluation of Zeroth-Order Optimization Methods on
AI-driven Molecule Optimization [78.36413169647408]
分子目的を最適化するための様々なZO最適化手法の有効性について検討する。
ZO符号に基づく勾配降下(ZO-signGD)の利点を示す。
本稿では,Guurcamol スイートから広く使用されているベンチマークタスクに対して,ZO 最適化手法の有効性を示す。
論文 参考訳(メタデータ) (2022-10-27T01:58:10Z) - Automatic Mapping of the Best-Suited DNN Pruning Schemes for Real-Time
Mobile Acceleration [71.80326738527734]
本稿では,汎用的,きめ細かな構造化プルーニング手法とコンパイラの最適化を提案する。
提案手法は,より微細な構造化プルーニング手法とともに,最先端のDNN最適化フレームワークよりも優れていることを示す。
論文 参考訳(メタデータ) (2021-11-22T23:53:14Z) - ZARTS: On Zero-order Optimization for Neural Architecture Search [94.41017048659664]
微分可能なアーキテクチャサーチ (DARTS) は、NASの高効率性のため、一般的なワンショットパラダイムである。
この作業はゼロオーダーの最適化に変わり、上記の近似を強制せずに探索するための新しいNASスキームであるZARTSを提案する。
特に、12ベンチマークの結果は、DARTSの性能が低下するZARTSの顕著な堅牢性を検証する。
論文 参考訳(メタデータ) (2021-10-10T09:35:15Z) - Provably Faster Algorithms for Bilevel Optimization [54.83583213812667]
バイレベル最適化は多くの重要な機械学習アプリケーションに広く適用されている。
両レベル最適化のための2つの新しいアルゴリズムを提案する。
両アルゴリズムが$mathcalO(epsilon-1.5)$の複雑さを達成し,既存のアルゴリズムを桁違いに上回っていることを示す。
論文 参考訳(メタデータ) (2021-06-08T21:05:30Z) - A Framework for Discovering Optimal Solutions in Photonic Inverse Design [0.0]
フォトニック逆設計は複雑な光学系にとって必須の工学ツールとして登場した。
グローバル最適に近づく解を見つけることは、計算的に難解なタスクを示すかもしれない。
我々は,複雑な最適化空間上でのグローバル最適化に近い解の探索を高速化するフレームワークを開発する。
論文 参考訳(メタデータ) (2021-06-03T22:11:03Z) - Hybrid Henry Gas Solubility Optimization Algorithm with Dynamic
Cluster-to-Algorithm Mapping for Search-based Software Engineering Problems [1.0323063834827413]
本稿ではHenry Gas Solubility Optimization(HGSO)アルゴリズムの新しい変種であるHGSO(Hybrid HGSO)について述べる。
前者とは異なり、HHGSOは異なるメタヒューリスティックアルゴリズムを提供する複数のクラスタを同じ集団内で共存させることができる。
HHGSOは、適応的な切替係数を持つペナル化および報酬モデルによる動的クラスタ-アルゴリズムマッピングを発明し、メタヒューリスティックなハイブリダイゼーションのための新しいアプローチを提供する。
論文 参考訳(メタデータ) (2021-05-31T12:42:15Z) - Domain Adaptive Person Re-Identification via Coupling Optimization [58.567492812339566]
ドメイン適応型人物再識別(ReID)は、ドメインのギャップとターゲットシナリオに対するアノテーションの不足のために困難である。
本稿では,ドメイン不変写像 (DIM) 法とグローバル局所距離最適化 (GLO) を含む結合最適化手法を提案する。
GLOはターゲットドメインの教師なし設定でReIDモデルをトレーニングするために設計されている。
論文 参考訳(メタデータ) (2020-11-06T14:01:03Z) - EDD: Efficient Differentiable DNN Architecture and Implementation
Co-search for Embedded AI Solutions [40.32848001349242]
本稿では,完全同時かつ効率的なDNNアーキテクチャと実装共同研究手法を提案する。
探索変数とハードウェア実装変数を1つの解空間に融合させることにより,共同探索問題を定式化し,アルゴリズムの精度とハードウェア実装品質を最大化する。
論文 参考訳(メタデータ) (2020-05-06T02:37:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。