論文の概要: Prediction-powered Neural Architecture Search
- arxiv url: http://arxiv.org/abs/2610.01317v1
- Date: Thu, 01 Oct 2026 08:47:36 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-03 01:19:24.012438
- Title: Prediction-powered Neural Architecture Search
- Title（参考訳）: 予測を利用したニューラルアーキテクチャ探索
- Abstract要約: PPNASは、ニューラルネットワーク探索のための予測ベースの推論アプローチである。
ZCPによって提供される順序情報を利用して、追加のペアレベルのランキング管理を構築する。
我々はPPNASをエンドツーエンドの予測器ベースNASで評価し、限られた評価予算の下で最先端を達成している。
- 参考スコア（独自算出の注目度）: 32.519238261334095
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Evaluating candidate architectures in neural architecture search (NAS) faces an inherent trade-off: on the one hand, reliable performance labels are limited because training and evaluating architectures is costly; on the other hand, zero-cost proxies (ZCPs) are cheap to compute at large scale but can be noisy. Yet, how to effectively combine these two sources of supervision remains unclear. In this paper, we propose PPNAS, a novel prediction-powered inference (PPI) approach for NAS. PPNAS fuses (1) a small set of architectures with observed performance labels and (2) a large set of architectures with ZCP information. To combine these two sources of supervision, PPNAS exploits the ordinal information provided by ZCPs to construct additional pairwise ranking supervision, while PPI debiases systematic discrepancies between ZCP-based and true performance rankings. We evaluate PPNAS in end-to-end predictor-based NAS, where it achieves state-of-the-art under limited evaluation budgets. To the best of our knowledge, PPNAS is the first prediction-powered approach for label-efficient NAS.
- Abstract（参考訳）: ニューラルネットワークサーチ(NAS)における候補アーキテクチャの評価には、固有のトレードオフがある。一方、信頼性の高いパフォーマンスラベルは、アーキテクチャのトレーニングと評価がコストがかかるため、制限されている。
しかし、これらの2つのソースを効果的に組み合わせる方法については、まだ不明である。
本稿では,NASのための新しい予測型推論(PPI)手法であるPPNASを提案する。
PPNASは(1)観測性能ラベル付きアーキテクチャの小さなセットと(2)ZCP情報付きアーキテクチャの大規模なセットを融合する。
これら2つの監督源を組み合わせるために、PPNASは、ZCPが提供した順序情報を利用して、追加のペアレベルのランキング管理を構築し、PPIはZCPベースの真のパフォーマンスランキングの体系的な相違を排除した。
我々はPPNASをエンドツーエンドの予測器ベースNASで評価し、限られた評価予算の下で最先端を達成している。
我々の知る限りでは、PPNASはラベル効率NASに対する最初の予測によるアプローチである。
関連論文リスト
- LP-NAS: Linear Programming-based Neural Architecture Search [0.18425326702824343]
本研究では,線形プログラミングに基づくNAS(LP-NAS)を提案する。
S-LP-NAS と R-LP-NAS の 2 つの計算効率の良い変種を導入する。
どちらの変種も、標準のDARTSアルゴリズムよりも高速な収束と早期探索の検証性能を実現している。
論文 参考訳（メタデータ） (2026-08-14T16:53:11Z) - GP-NAS-ensemble: a model for NAS Performance Prediction [6.785608131249699]
GP-NASアンサンブルは、小さなトレーニングデータセットでニューラルネットワークアーキテクチャのパフォーマンスを予測するために提案されている。
CVPR2022第2級軽量NASチャレンジ性能予測トラックの2位にランクインする。
論文 参考訳（メタデータ） (2023-01-23T00:17:52Z) - BaLeNAS: Differentiable Architecture Search via the Bayesian Learning
Rule [95.56873042777316]
近年,微分可能なアーキテクチャ探索 (DARTS) が注目されている。
本稿では,アーキテクチャ重みをガウス分布に緩和することにより,ニューラルネットワーク探索を分布学習問題として定式化する。
ベイズ主義の原理から異なるNASがいかに恩恵を受け、探索を強化し、安定性を向上するかを実証する。
論文 参考訳（メタデータ） (2021-11-25T18:13:42Z) - AceNAS: Learning to Rank Ace Neural Architectures with Weak Supervision
of Weight Sharing [6.171090327531059]
空間から最高のアーキテクチャを選択するためのLearning to Rank手法を紹介します。
また,スーパーネットから得られた弱いラベルのアーキテクチャ表現を事前学習することで,重み共有から弱い管理を活用することを提案する。
NASベンチマークと大規模検索空間を用いた実験により,提案手法はSOTAよりも検索コストが大幅に削減された。
論文 参考訳（メタデータ） (2021-08-06T08:31:42Z) - OPANAS: One-Shot Path Aggregation Network Architecture Search for Object
Detection [82.04372532783931]
近年、ニューラルアーキテクチャサーチ (NAS) が特徴ピラミッドネットワーク (FPN) の設計に活用されている。
本稿では,探索効率と検出精度を大幅に向上させる,ワンショットパス集約ネットワークアーキテクチャ探索(OPANAS)アルゴリズムを提案する。
論文 参考訳（メタデータ） (2021-03-08T01:48:53Z) - Weak NAS Predictors Are All You Need [91.11570424233709]
最近の予測器ベースのnasアプローチは、アーキテクチャとパフォーマンスのペアをサンプリングし、プロキシの精度を予測するという2つの重要なステップで問題を解決しようとする。
私たちはこのパラダイムを、アーキテクチャ空間全体をカバーする複雑な予測子から、ハイパフォーマンスなサブスペースへと徐々に進む弱い予測子へとシフトさせます。
NAS-Bench-101 および NAS-Bench-201 で最高の性能のアーキテクチャを見つけるためのサンプルを少なくし、NASNet 検索空間における最先端の ImageNet パフォーマンスを実現します。
論文 参考訳（メタデータ） (2021-02-21T01:58:43Z) - Evaluating Efficient Performance Estimators of Neural Architectures [17.80483885195404]
ワンショット推定器(OSEs)は、すべてのアーキテクチャ間で1つの"スーパーネット"のパラメータを共有することで、アーキテクチャのトレーニングコストを減らします。
近年,ゼロショット推定器 (ZSE) が提案され, アーキテクチャ評価コストの低減が図られている。
これらの推定器の高効率性にもかかわらず、そのような推定の質は十分に研究されていない。
論文 参考訳（メタデータ） (2020-08-07T09:56:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。