論文の概要: AIRCHITECT: Learning Custom Architecture Design and Mapping Space
- arxiv url: http://arxiv.org/abs/2108.08295v1
- Date: Mon, 16 Aug 2021 05:05:52 GMT
- ステータス: 処理完了
- システム内更新日: 2021-08-20 14:40:26.243978
- Title: AIRCHITECT: Learning Custom Architecture Design and Mapping Space
- Title（参考訳）: AIRCHITECT: カスタムアーキテクチャ設計とマッピング空間の学習
- Authors: Ananda Samajdar, Jan Moritz Joseph, Matthew Denton, Tushar Krishna
- Abstract要約: 我々は機械学習モデルをトレーニングし、カスタムアーキテクチャの設計とマッピング空間の最適パラメータを予測する。
最適設計およびマッピングパラメータの予測を「一般化」するために,設計空間を捕捉し,モデルを訓練することは可能であることを示す。
私たちはAIRCHITECTと呼ばれるカスタムネットワークアーキテクチャをトレーニングし、94.3%のテスト精度でアーキテクチャ設計空間を学習することができる。
- 参考スコア（独自算出の注目度）: 2.498907460918493
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Design space exploration is an important but costly step involved in the
design/deployment of custom architectures to squeeze out maximum possible
performance and energy efficiency. Conventionally, optimizations require
iterative sampling of the design space using simulation or heuristic tools. In
this paper we investigate the possibility of learning the optimization task
using machine learning and hence using the learnt model to predict optimal
parameters for the design and mapping space of custom architectures, bypassing
any exploration step. We use three case studies involving the optimal array
design, SRAM buffer sizing, mapping, and schedule determination for
systolic-array-based custom architecture design and mapping space. Within the
purview of these case studies, we show that it is possible to capture the
design space and train a model to "generalize" prediction the optimal design
and mapping parameters when queried with workload and design constraints. We
perform systematic design-aware and statistical analysis of the optimization
space for our case studies and highlight the patterns in the design space. We
formulate the architecture design and mapping as a machine learning problem
that allows us to leverage existing ML models for training and inference. We
design and train a custom network architecture called AIRCHITECT, which is
capable of learning the architecture design space with as high as 94.3% test
accuracy and predicting optimal configurations which achieve on average
(GeoMean) of 99.9% the best possible performance on a test dataset with $10^5$
GEMM workloads.
- Abstract（参考訳）: 設計空間探索は、最大限の性能とエネルギー効率を抑えるために、カスタムアーキテクチャの設計・展開に重要なステップであるが費用がかかる。
従来、最適化にはシミュレーションやヒューリスティックツールを使用して設計空間を反復的にサンプリングする必要がある。
本稿では,機械学習を用いて最適化タスクを学習する可能性について検討し,学習モデルを用いてカスタムアーキテクチャの設計とマッピング空間の最適パラメータを予測し,探索ステップをバイパスする。
本稿では,最適なアレイ設計,SRAMバッファサイズ,マッピング,スケジュール決定を含む3つのケーススタディを用いて,サイストリックアレイに基づくカスタムアーキテクチャ設計とマッピング空間について検討する。
これらのケーススタディのパービュー内では,設計空間をキャプチャし,ワークロードや設計制約を問う場合の最適設計とマッピングパラメータの予測を"一般化"するためにモデルをトレーニングすることが可能であることを示す。
我々は,最適化空間の体系的設計認識と統計的分析を行い,設計空間のパターンを強調する。
アーキテクチャ設計とマッピングを機械学習問題として定式化し、トレーニングと推論に既存のMLモデルを活用できるようにします。
私たちはAIRCHITECTと呼ばれるカスタムネットワークアーキテクチャを設計し、訓練し、最大94.3%のテスト精度でアーキテクチャ設計空間を学習し、平均(GeoMean)で99.9%の最適な構成を予測できる。
関連論文リスト
- Automated architectural space layout planning using a physics-inspired generative design framework [4.202451453254076]
空間配置の決定は、建築プロジェクトの設計段階における主要な活動の1つである。
提案手法は、空間レイアウト計画と進化的最適化メタヒューリスティックのための、物理学から着想を得た新しいパラメトリックモデルを統合する。
その結果、このような生成設計フレームワークは、設計段階において幅広い設計提案を生成できることが明らかとなった。
論文 参考訳（メタデータ） (2024-06-21T02:50:52Z) - Implicitly Guided Design with PropEn: Match your Data to Follow the Gradient [52.2669490431145]
PropEnは'matching'にインスパイアされている。
一致したデータセットによるトレーニングは、データ分布内に留まりながら、興味のある性質の勾配を近似することを示す。
論文 参考訳（メタデータ） (2024-05-28T11:30:19Z) - Mechanistic Design and Scaling of Hybrid Architectures [114.3129802943915]
我々は、様々な計算プリミティブから構築された新しいハイブリッドアーキテクチャを特定し、テストする。
本研究では,大規模計算最適法則と新しい状態最適スケーリング法則解析を用いて,結果のアーキテクチャを実験的に検証する。
我々は,MAD合成法と計算-最適パープレキシティを相関させ,新しいアーキテクチャの正確な評価を可能にする。
論文 参考訳（メタデータ） (2024-03-26T16:33:12Z) - Compositional Generative Inverse Design [69.22782875567547]
入力変数を設計して目的関数を最適化する逆設計は重要な問題である。
拡散モデルにより得られた学習エネルギー関数を最適化することにより、そのような逆例を避けることができることを示す。
N-body 相互作用タスクと2次元多面体設計タスクにおいて,実験時に学習した拡散モデルを構成することにより,初期状態と境界形状を設計できることを示す。
論文 参考訳（メタデータ） (2024-01-24T01:33:39Z) - Optimization for truss design using Bayesian optimization [1.5070398746522742]
トラスの形状は、積載量を決定する上で支配的な要素である。
与えられたパラメータ空間において、我々のゴールは、負荷を持つ容量を最大化し、誘起ストレスに屈しない船体のパラメータを見つけることである。
設計評価のための計算コストの高い設計解析ツールである有限要素解析に頼っている。
論文 参考訳（メタデータ） (2023-05-27T10:28:27Z) - Design Space Exploration and Explanation via Conditional Variational
Autoencoders in Meta-model-based Conceptual Design of Pedestrian Bridges [52.77024349608834]
本稿では,条件付き変分オートエンコーダ(CVAE)による人間設計者向上のための性能駆動型設計探索フレームワークを提案する。
CVAEはスイスの歩行者橋の合成例18万件で訓練されている。
論文 参考訳（メタデータ） (2022-11-29T17:28:31Z) - Efficient Automatic Machine Learning via Design Graphs [72.85976749396745]
最適なモデル設計を探索する効率的なサンプルベース手法であるFALCONを提案する。
FALCONは,1)グラフニューラルネットワーク(GNN)を介してデザイングラフ上でメッセージパッシングを行うタスク非依存モジュール,2)既知のモデル性能情報のラベル伝搬を行うタスク固有モジュールを特徴とする。
FALCONは,30個の探索ノードのみを用いて,各タスクに対して良好な性能を持つ設計を効率的に得ることを実証的に示す。
論文 参考訳（メタデータ） (2022-10-21T21:25:59Z) - A Semi-Decoupled Approach to Fast and Optimal Hardware-Software
Co-Design of Neural Accelerators [22.69558355718029]
ハードウェアとソフトウェアの共同設計は、フレキシブルなデザインスペースの利点を完全に享受し、ニューラルネットワークのパフォーマンスを最適化するために現れています。
このような共同設計は、全検索空間を事実上無限大に拡大し、重大な課題を提起する。
本稿では,設計空間全体の規模を桁違いに小さくするが,最適性を損なうことなく,Emphsemi-Decoupledアプローチを提案する。
論文 参考訳（メタデータ） (2022-03-25T21:49:42Z) - Apollo: Transferable Architecture Exploration [26.489275442359464]
我々はApolloと呼ばれるトランスファー可能なアーキテクチャ探索フレームワークを提案する。
提案手法は,ベースラインのブラックボックス最適化手法よりも,高報酬設計構成のサンプル効率が高いことを示す。
論文 参考訳（メタデータ） (2021-02-02T19:36:02Z) - Evolving Search Space for Neural Architecture Search [70.71153433676024]
最適化された検索空間サブセットを維持することにより,前回の取り組みから得られた結果を増幅するニューラルサーチ空間進化(NSE)方式を提案する。
我々は333万のFLOPでImageNet上で77.3%のトップ1リトレーニング精度を実現し、最先端の性能を得た。
遅延制約が適用された場合、我々の結果は、77.9%のTop-1再トレーニング精度を持つ、以前の最高のパフォーマンスのモバイルモデルよりも優れた性能が得られる。
論文 参考訳（メタデータ） (2020-11-22T01:11:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。