論文の概要: Tao: Re-Thinking DL-based Microarchitecture Simulation

• arxiv url: http://arxiv.org/abs/2404.10921v1
• Date: Tue, 16 Apr 2024 21:45:10 GMT
• ステータス: 処理完了
• システム内更新日: 2024-04-18 17:42:39.996340
• Title: Tao: Re-Thinking DL-based Microarchitecture Simulation
• Title（参考訳）: Tao: DLベースのマイクロアーキテクチャシミュレーション
• Authors: Santosh Pandey, Amir Yazdanbakhsh, Hang Liu,
• Abstract要約: 既存のマイクロアーキテクチャシミュレータは、異なる側面で優れ、不足している。 ディープラーニング(DL)ベースのシミュレーションは驚くほど高速で、精度は極めて高いが、適切な低レベルのマイクロアーキテクチャのパフォーマンス指標を提供することができない。 本稿では,3つの主要な貢献により,DLに基づくシミュレーションを再設計するTAOを紹介する。
• 参考スコア（独自算出の注目度）: 8.501776613988484
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Microarchitecture simulators are indispensable tools for microarchitecture designers to validate, estimate, and optimize new hardware that meets specific design requirements. While the quest for a fast, accurate and detailed microarchitecture simulation has been ongoing for decades, existing simulators excel and fall short at different aspects: (i) Although execution-driven simulation is accurate and detailed, it is extremely slow and requires expert-level experience to design. (ii) Trace-driven simulation reuses the execution traces in pursuit of fast simulation but faces accuracy concerns and fails to achieve significant speedup. (iii) Emerging deep learning (DL)-based simulations are remarkably fast and have acceptable accuracy but fail to provide adequate low-level microarchitectural performance metrics crucial for microarchitectural bottleneck analysis. Additionally, they introduce substantial overheads from trace regeneration and model re-training when simulating a new microarchitecture. Re-thinking the advantages and limitations of the aforementioned simulation paradigms, this paper introduces TAO that redesigns the DL-based simulation with three primary contributions: First, we propose a new training dataset design such that the subsequent simulation only needs functional trace as inputs, which can be rapidly generated and reused across microarchitectures. Second, we redesign the input features and the DL model using self-attention to support predicting various performance metrics. Third, we propose techniques to train a microarchitecture agnostic embedding layer that enables fast transfer learning between different microarchitectural configurations and reduces the re-training overhead of conventional DL-based simulators. Our extensive evaluation shows {\ours} can reduce the overall training and simulation time by 18.06x over the state-of-the-art DL-based endeavors.
• Abstract（参考訳）: マイクロアーキテクチャシミュレータは、マイクロアーキテクチャ設計者が特定の設計要件を満たす新しいハードウェアを検証、評価、最適化するために必須のツールである。 高速で正確で詳細なマイクロアーキテクチャーシミュレーションの探求は何十年にもわたって続いているが、既存のシミュレーターは様々な面で優れている。 (i) 実行駆動シミュレーションは正確かつ詳細なものであるが、非常に遅く、設計には専門家レベルの経験が必要である。 (II) トレース駆動シミュレーションは, 高速なシミュレーションを追求するために実行トレースを再利用するが, 精度上の懸念に直面し, 大幅な高速化に失敗する。 三 深層学習(DL)に基づくシミュレーションは驚くほど高速であり、精度も極めて高いが、微構造ボトルネック解析に欠かせない適切な低レベルの微構造性能指標を提供することができない。 さらに、新しいマイクロアーキテクチャをシミュレートする際に、トレース再生とモデル再トレーニングからかなりのオーバーヘッドを導入する。 本稿では, 上記のシミュレーションパラダイムの利点と限界を再考し, DLに基づくシミュレーションを再設計するTAOを紹介した。 次に、自己注意を用いて入力機能とDLモデルを再設計し、様々なパフォーマンス指標の予測をサポートする。 第3に,マイクロアーキテクチャ非依存の埋め込み層を学習することで,異なるマイクロアーキテクチャ構成間の高速な移動学習を可能にし,従来のDLベースシミュレータの再学習オーバーヘッドを低減する手法を提案する。 以上の結果から,最新のDLベースの取り組みに対して,トレーニング時間とシミュレーション時間を18.06倍に短縮できる可能性が示唆された。

関連論文リスト

• Mechanistic Design and Scaling of Hybrid Architectures [114.3129802943915]
  我々は、様々な計算プリミティブから構築された新しいハイブリッドアーキテクチャを特定し、テストする。 本研究では,大規模計算最適法則と新しい状態最適スケーリング法則解析を用いて,結果のアーキテクチャを実験的に検証する。 我々は,MAD合成法と計算-最適パープレキシティを相関させ,新しいアーキテクチャの正確な評価を可能にする。
  論文  参考訳（メタデータ） (2024-03-26T16:33:12Z)
• Bridging the Sim-to-Real Gap with Bayesian Inference [53.61496586090384]
  データからロボットダイナミクスを学習するためのSIM-FSVGDを提案する。 我々は、ニューラルネットワークモデルのトレーニングを規則化するために、低忠実度物理プリエンスを使用します。 高性能RCレースカーシステムにおけるSIM-to-realギャップのブリッジ化におけるSIM-FSVGDの有効性を実証する。
  論文  参考訳（メタデータ） (2024-03-25T11:29:32Z)
• Accelerating Computer Architecture Simulation through Machine Learning [0.07252027234425332]
  本稿では,機械学習技術を活用したコンピュータアーキテクチャシミュレーションの高速化手法を提案する。 提案モデルは,アプリケーションの性能を予測するために,アプリケーション機能とマイクロアーキテクチャ機能の組み合わせを利用する。 アーキテクチャ探索において大きなスピードアップを提供する機械学習モデルを構築し,評価することで,我々のアプローチの有効性を実証する。
  論文  参考訳（メタデータ） (2024-02-28T23:00:57Z)
• Waymax: An Accelerated, Data-Driven Simulator for Large-Scale Autonomous Driving Research [76.93956925360638]
  Waymaxは、マルチエージェントシーンにおける自動運転のための新しいデータ駆動シミュレータである。 TPU/GPUなどのハードウェアアクセラレータで完全に動作し、トレーニング用のグラフ内シミュレーションをサポートする。 我々は、一般的な模倣と強化学習アルゴリズムのスイートをベンチマークし、異なる設計決定に関するアブレーション研究を行った。
  論文  参考訳（メタデータ） (2023-10-12T20:49:15Z)
• Continual learning autoencoder training for a particle-in-cell simulation via streaming [52.77024349608834]
  今後のエクサスケール時代は 次世代の物理シミュレーションを 高解像度で提供します これらのシミュレーションは高解像度であり、ディスク上に大量のシミュレーションデータを格納することはほぼ不可能であるため、機械学習モデルのトレーニングに影響を与える。 この研究は、ディスク上のデータなしで、実行中のシミュレーションにニューラルネットワークを同時にトレーニングするアプローチを示す。
  論文  参考訳（メタデータ） (2022-11-09T09:55:14Z)
• Use of Multifidelity Training Data and Transfer Learning for Efficient Construction of Subsurface Flow Surrogate Models [0.0]
  データ駆動サロゲートモデルを構築するには、トレーニングサンプルを提供するために数千の高忠実度シミュレーションを実行する必要がある。 本稿では,大まかなジオモデルを用いてトレーニングシミュレーションを行うフレームワークを提案する。 このネットワークは、ほとんどのトレーニングで使用される低忠実度シミュレーションよりもはるかに正確な結果を提供する。
  論文  参考訳（メタデータ） (2022-04-23T20:09:49Z)
• Data-Driven Offline Optimization For Architecting Hardware Accelerators [89.68870139177785]
  PRIMEと呼ばれるハードウェアアクセラレータを設計するための,データ駆動型オフライン最適化手法を開発した。 PRIMEは、最先端のシミュレーション駆動方式の性能を約1.54倍と1.20倍に改善し、必要な総シミュレーション時間をそれぞれ93%と99%削減する。 さらにPRIMEは、ゼロショット設定で見えないアプリケーションのための効果的なアクセラレーターを設計し、シミュレーションベースの手法を1.26倍に向上させた。
  論文  参考訳（メタデータ） (2021-10-20T17:06:09Z)
• Opportunistic Emulation of Computationally Expensive Simulations via Deep Learning [9.13837510233406]
  本稿では,APSIMモデルの機会論的モデルエミュレーションにおけるディープニューラルネットワークの利用について検討する。 我々は,APSIMモデルの4つの重要な出力(runoff, soil_loss, DINrunoff, Nleached)をエミュレートすることに重点を置いている。
  論文  参考訳（メタデータ） (2021-08-25T05:57:16Z)
• Deep Bayesian Active Learning for Accelerating Stochastic Simulation [74.58219903138301]
  Interactive Neural Process(INP)は、シミュレーションとアクティブな学習アプローチのためのディープラーニングフレームワークである。 能動的学習のために,NPベースモデルの潜時空間で計算された新しい取得関数Latent Information Gain (LIG)を提案する。 その結果,STNPは学習環境のベースラインを上回り,LIGは能動学習の最先端を達成していることがわかった。
  論文  参考訳（メタデータ） (2021-06-05T01:31:51Z)
• SimNet: Computer Architecture Simulation using Machine Learning [3.7019798164954336]
  この研究では、機械学習(ML)を使用して離散イベントシミュレーションを加速する共同作業について説明します。 提案した命令遅延予測器に基づいて,GPU加速並列シミュレータを実装した。 そのシミュレーション精度とスループットを、最先端シミュレータに対して検証し、評価する。
  論文  参考訳（メタデータ） (2021-05-12T17:31:52Z)
• STONNE: A Detailed Architectural Simulator for Flexible Neural Network Accelerators [5.326345912766044]
  STONNEはサイクル精度が高く、高度にモジュール化され、高度に拡張可能なシミュレーションフレームワークである。 一般に公開されているBSV符号化MAERIの実装の性能結果にどのように近づくかを示す。
  論文  参考訳（メタデータ） (2020-06-10T19:20:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。