論文の概要: Demystifying Map Space Exploration for NPUs
- arxiv url: http://arxiv.org/abs/2210.03731v1
- Date: Fri, 7 Oct 2022 17:58:45 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-10 15:11:16.165319
- Title: Demystifying Map Space Exploration for NPUs
- Title(参考訳): NPUのための地図空間探索
- Authors: Sheng-Chun Kao, Angshuman Parashar, Po-An Tsai, Tushar Krishna
- Abstract要約: Map Space Explorationは、Deep Neural Network(DNN)モデルの最適化されたマッピングを見つける問題である。
我々は、異なるマッパーが活用する検索技術について、第一級のリンゴとアプリの比較を行う。
次に,既存のマッパーを拡張できる2つの新しい手法を提案する。
- 参考スコア(独自算出の注目度): 4.817475305740601
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Map Space Exploration is the problem of finding optimized mappings of a Deep
Neural Network (DNN) model on an accelerator. It is known to be extremely
computationally expensive, and there has been active research looking at both
heuristics and learning-based methods to make the problem computationally
tractable. However, while there are dozens of mappers out there (all
empirically claiming to find better mappings than others), the research
community lacks systematic insights on how different search techniques navigate
the map-space and how different mapping axes contribute to the accelerator's
performance and efficiency. Such insights are crucial to developing mapping
frameworks for emerging DNNs that are increasingly irregular (due to neural
architecture search) and sparse, making the corresponding map spaces much more
complex. In this work, rather than proposing yet another mapper, we do a
first-of-its-kind apples-to-apples comparison of search techniques leveraged by
different mappers. Next, we extract the learnings from our study and propose
two new techniques that can augment existing mappers -- warm-start and
sparsity-aware -- that demonstrate speedups, scalability, and robustness across
diverse DNN models.
- Abstract(参考訳): Map Space Explorationは、アクセラレーター上でDeep Neural Network(DNN)モデルの最適化されたマッピングを見つける問題である。
計算コストが非常に高いことが知られており、ヒューリスティックスと学習に基づく手法の両方で問題を計算的に抽出できるようにする研究が活発に行われている。
しかしながら、そこには何十ものマッパー(すべて他のものよりも良いマッピングを見つけると実証的に主張する)が存在するが、研究コミュニティは、異なる検索技術がどのようにマップ空間をナビゲートするか、異なるマッピング軸が加速器のパフォーマンスと効率にどのように寄与するかに関する体系的な洞察を欠いている。
このような洞察は、(ニューラルアーキテクチャサーチによる)不規則でスパースな、新興DNNのためのマッピングフレームワークを開発する上で非常に重要であり、対応するマップ空間をより複雑にしている。
この研究では、別のマッパーを提案するのではなく、異なるマッパーが活用する検索技術について、第一級のリンゴとアプリケーションの比較を行う。
次に、我々の研究から学んだことを抽出し、様々なDNNモデル間でのスピードアップ、スケーラビリティ、堅牢性を示す既存のマッパー(ウォームスタートとスパシティアウェア)を増強できる2つの新しいテクニックを提案する。
関連論文リスト
- TopoSD: Topology-Enhanced Lane Segment Perception with SDMap Prior [70.84644266024571]
我々は、標準定義地図(SDMaps)を見るために知覚モデルを訓練することを提案する。
我々はSDMap要素をニューラル空間マップ表現やインスタンストークンにエンコードし、先行情報のような補完的な特徴を組み込む。
レーンセグメント表現フレームワークに基づいて、モデルはレーン、中心線、およびそれらのトポロジを同時に予測する。
論文 参考訳(メタデータ) (2024-11-22T06:13:42Z) - FRAME: A Modular Framework for Autonomous Map Merging: Advancements in the Field [12.247977717070773]
本稿では,エゴセントリックなマルチロボット探査における3次元点雲マップの融合について述べる。
提案手法は、最先端の場所認識と学習記述子を利用して、地図間の重複を効率的に検出する。
提案手法の有効性は,ロボット探査の複数のフィールドミッションを通じて実証された。
論文 参考訳(メタデータ) (2024-04-27T20:54:15Z) - Active Neural Topological Mapping for Multi-Agent Exploration [24.91397816926568]
マルチエージェント協調探索問題では、複数のエージェントが限られた時間で感覚信号を介して見えない環境を探索する必要がある。
トポロジカルマップは、抽象的だが不可欠な情報を持つノードとエッジのみからなる、有望な代替手段である。
深層強化学習は、高速なエンドツーエンド推論を通じて(ほぼ)最適ポリシーを学ぶ大きな可能性を示している。
マルチエージェント探索作業における探索効率の向上と一般化を目的とした,Multi-Agent Neural Topological Mapping (MANTM)を提案する。
論文 参考訳(メタデータ) (2023-11-01T03:06:14Z) - MultiScale Probability Map guided Index Pooling with Attention-based
learning for Road and Building Segmentation [18.838213902873616]
MSSDMPA-Net(Multi-Scale Supervised Dilated Multiple-Path Attention Network)を提案する。
MSSDMPA-NetはDAMIP(Dynamic Attention Map Guided Index Pooling)とDAMSCA(Dynamic Attention Map Guided Spatial and Channel Attention)という2つの新しいモジュールを備えている。
論文 参考訳(メタデータ) (2023-02-18T19:57:25Z) - Searching a High-Performance Feature Extractor for Text Recognition
Network [92.12492627169108]
優れた特徴抽出器を持つための原理を探求し,ドメイン固有の検索空間を設計する。
空間は巨大で複雑な構造であるため、既存のNASアルゴリズムを適用することはできない。
本研究では,空間内を効率的に探索する2段階のアルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-09-27T03:49:04Z) - SESS: Saliency Enhancing with Scaling and Sliding [42.188013259368766]
説明可能なAIや弱い教師付きオブジェクト検出とセグメンテーションを含む、いくつかの機械学習応用領域において、高品質な唾液マップが不可欠である。
SESS (Saliency Enhancing with Scaling and Sliding) と呼ばれる新しいサリエンシ向上手法を提案する。
これは既存のサリエンシマップ生成方法へのメソッドおよびモデル拡張である。
論文 参考訳(メタデータ) (2022-07-05T02:16:23Z) - Edge-featured Graph Neural Architecture Search [131.4361207769865]
最適GNNアーキテクチャを見つけるために,エッジ機能付きグラフニューラルアーキテクチャ探索を提案する。
具体的には、高次表現を学習するためにリッチなエンティティとエッジの更新操作を設計する。
EGNASは、現在最先端の人間設計および検索されたGNNよりも高い性能で、より優れたGNNを検索できることを示す。
論文 参考訳(メタデータ) (2021-09-03T07:53:18Z) - Fast discovery of multidimensional subsequences for robust trajectory
classification [0.2578242050187029]
軌道分類タスクは、毎日大量のモビリティデータが生成されるにつれて、より複雑になった。
高速分類アルゴリズムは、実アプリケーションのための軌道データにおける知識を発見するのに不可欠である。
本稿では,探索空間の削減とMASTERMovelets法の最適化により,サブトラジェクトリの高速発見法を提案する。
論文 参考訳(メタデータ) (2021-02-09T11:54:33Z) - CATCH: Context-based Meta Reinforcement Learning for Transferrable
Architecture Search [102.67142711824748]
CATCHは、転送可能なarChitecture searcHのための、Context-bAsed meTa強化学習アルゴリズムである。
メタラーニングとRLの組み合わせにより、CATCHは検索空間に依存しないまま、新しいタスクに効率的に適応できる。
また、ImageNet、COCO、Cityscapesの競合ネットワークとしてクロスドメインアーキテクチャサーチを扱うこともできる。
論文 参考訳(メタデータ) (2020-07-18T09:35:53Z) - A Survey on Deep Learning for Localization and Mapping: Towards the Age
of Spatial Machine Intelligence [48.67755344239951]
包括的調査を行い、深層学習を用いた局所化とマッピングのための新しい分類法を提案する。
オードメトリ推定、マッピング、グローバルローカライゼーション、同時ローカライゼーション、マッピングなど、幅広いトピックがカバーされている。
この研究がロボティクス、コンピュータビジョン、機械学習コミュニティの新たな成果を結び付けることを願っている。
論文 参考訳(メタデータ) (2020-06-22T19:01:21Z) - AutoML-Zero: Evolving Machine Learning Algorithms From Scratch [76.83052807776276]
基本数学的操作をビルディングブロックとして使うだけで,完全な機械学習アルゴリズムを自動的に発見できることが示される。
汎用的な検索空間を通じて人間のバイアスを大幅に低減する新しいフレームワークを導入することでこれを実証する。
機械学習アルゴリズムをゼロから発見する上で、これらの予備的な成功は、この分野における有望な新しい方向性を示していると信じている。
論文 参考訳(メタデータ) (2020-03-06T19:00:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。