Fugu-MT 論文翻訳(概要): GP-NAS-ensemble: a model for NAS Performance Prediction

論文の概要: GP-NAS-ensemble: a model for NAS Performance Prediction

arxiv url: http://arxiv.org/abs/2301.09231v1
Date: Mon, 23 Jan 2023 00:17:52 GMT
ステータス: 処理完了
システム内更新日: 2023-01-24 14:29:26.063921
Title: GP-NAS-ensemble: a model for NAS Performance Prediction
Title（参考訳）: GP-NASアンサンブル:NAS性能予測モデル
Authors: Kunlong Chen, Liu Yang, Yitian Chen, Kunjin Chen, Yidan Xu, Lujun Li
Abstract要約: GP-NASアンサンブルは、小さなトレーニングデータセットでニューラルネットワークアーキテクチャのパフォーマンスを予測するために提案されている。 CVPR2022第2級軽量NASチャレンジ性能予測トラックの2位にランクインする。
参考スコア（独自算出の注目度）: 6.785608131249699
License: http://creativecommons.org/licenses/by/4.0/
Abstract: It is of great significance to estimate the performance of a given model architecture without training in the application of Neural Architecture Search (NAS) as it may take a lot of time to evaluate the performance of an architecture. In this paper, a novel NAS framework called GP-NAS-ensemble is proposed to predict the performance of a neural network architecture with a small training dataset. We make several improvements on the GP-NAS model to make it share the advantage of ensemble learning methods. Our method ranks second in the CVPR2022 second lightweight NAS challenge performance prediction track.
Abstract（参考訳）: アーキテクチャの性能を評価するのに多くの時間を要するため、ニューラルネットワークサーチ(NAS)の適用をトレーニングすることなく、与えられたモデルアーキテクチャのパフォーマンスを見積もることは非常に重要である。本稿では,GP-NASアンサンブルと呼ばれる新しいNASフレームワークを提案する。 gp-nasモデルにいくつかの改良を加え,アンサンブル学習の利点を生かした。本手法はcvpr2022第2軽量nasチャレンジ性能予測トラックで第2位である。

関連論文リスト

PredNAS: A Universal and Sample Efficient Neural Architecture Search Framework [20.59478264338981]
ニューラル・アーキテクチャ・サーチ(NAS)のための汎用的で効果的なフレームワークであるPredNASを提案する。我々はニューラル予測器を性能予測器として採用する。驚いたことに、PredNASはNASベンチマークの最先端のパフォーマンスを、少数のトレーニングサンプルで達成できる。
論文参考訳（メタデータ） (2022-10-26T04:15:58Z)
Generalization Properties of NAS under Activation and Skip Connection Search [60.21582414287523]
ニューラルネットワーク探索(NAS)の一般化特性について検討する。我々は,Tangent (in)finite width regimeの下で,ニューラルカーネルの最小固有値の下(および上)境界を導出する。得られた結果がNASを誘導してトップパフォーマンスアーキテクチャを選択できるかを実験的に示す。
論文参考訳（メタデータ） (2022-09-15T12:11:41Z)
BaLeNAS: Differentiable Architecture Search via the Bayesian Learning Rule [95.56873042777316]
近年,微分可能なアーキテクチャ探索 (DARTS) が注目されている。本稿では,アーキテクチャ重みをガウス分布に緩和することにより,ニューラルネットワーク探索を分布学習問題として定式化する。ベイズ主義の原理から異なるNASがいかに恩恵を受け、探索を強化し、安定性を向上するかを実証する。
論文参考訳（メタデータ） (2021-11-25T18:13:42Z)
Weak NAS Predictors Are All You Need [91.11570424233709]
最近の予測器ベースのnasアプローチは、アーキテクチャとパフォーマンスのペアをサンプリングし、プロキシの精度を予測するという2つの重要なステップで問題を解決しようとする。私たちはこのパラダイムを、アーキテクチャ空間全体をカバーする複雑な予測子から、ハイパフォーマンスなサブスペースへと徐々に進む弱い予測子へとシフトさせます。 NAS-Bench-101 および NAS-Bench-201 で最高の性能のアーキテクチャを見つけるためのサンプルを少なくし、NASNet 検索空間における最先端の ImageNet パフォーマンスを実現します。
論文参考訳（メタデータ） (2021-02-21T01:58:43Z)
AdvantageNAS: Efficient Neural Architecture Search with Credit Assignment [23.988393741948485]
ワンショット・スパース伝播NAS(AdvantageNAS)の新たな探索戦略を提案する。アドバンテージNASは、アーキテクチャ更新の勾配推定にクレジット割り当てを導入することで検索効率を向上させるグラデーションベースのアプローチです。 NAS-Bench-201およびPTBデータセットの実験は、AdvantageNASが限られた時間予算でより高いパフォーマンスのアーキテクチャを発見することを示しています。
論文参考訳（メタデータ） (2020-12-11T05:45:03Z)
Neural Architecture Performance Prediction Using Graph Neural Networks [17.224223176258334]
グラフニューラルネットワーク(GNN)に基づくニューラルネットワーク性能予測のための代理モデルを提案する。構造不明アーキテクチャのニューラルネットワーク性能予測におけるこの代理モデルの有効性を実証する。
論文参考訳（メタデータ） (2020-10-19T09:33:57Z)
Binarized Neural Architecture Search for Efficient Object Recognition [120.23378346337311]
バイナリ化されたニューラルネットワークサーチ(BNAS)は、エッジコンピューティング用の組み込みデバイスにおいて、膨大な計算コストを削減するために、極めて圧縮されたモデルを生成する。 9,6.53%対9,7.22%の精度はCIFAR-10データセットで達成されるが、かなり圧縮されたモデルで、最先端のPC-DARTSよりも40%速い検索が可能である。
論文参考訳（メタデータ） (2020-09-08T15:51:23Z)
BRP-NAS: Prediction-based NAS using GCNs [21.765796576990137]
BRP-NASは、グラフ畳み込みネットワーク(GCN)に基づく正確な性能予測によって実現された効率的なハードウェア対応NASである提案手法はNAS-Bench-101とNAS-Bench-201の先行手法よりも優れていることを示す。また、幅広いデバイスで動作するNAS-Bench-201モデルのレイテンシデータセットであるLatBenchもリリースしました。
論文参考訳（メタデータ） (2020-07-16T21:58:43Z)
DSNAS: Direct Neural Architecture Search without Parameter Retraining [112.02966105995641]
この観測に基づいて,タスク固有のエンドツーエンドであるNASの新たな問題定義を提案する。低バイアスモンテカルロ推定でアーキテクチャとパラメータを同時に最適化する効率的な微分可能なNASフレームワークであるDSNASを提案する。 DSNASは、420GPU時間でImageNetで同等の精度(74.4%)のネットワークを発見し、総時間を34%以上削減した。
論文参考訳（メタデータ） (2020-02-21T04:41:47Z)
BNAS:An Efficient Neural Architecture Search Approach Using Broad Scalable Architecture [62.587982139871976]
我々はBCNN(Broad Convolutional Neural Network)と呼ばれる広義のスケーラブルなアーキテクチャを精巧に設計するBNAS(Broad Neural Architecture Search)を提案する。 BNASは0.19日であり、ENASよりも2.37倍安い。
論文参考訳（メタデータ） (2020-01-18T15:07:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。