論文の概要: ZAPS: Zero-Cost Active Proxy Search for Neural Architecture Search

• arxiv url: http://arxiv.org/abs/2609.14184v1
• Date: Sat, 12 Sep 2026 23:34:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-16 07:15:05.755449
• Title: ZAPS: Zero-Cost Active Proxy Search for Neural Architecture Search
• Title（参考訳）: ZAPS: ニューラルネットワーク検索のためのゼロコストアクティブプロキシ検索
• Abstract要約: このギャップを埋める4段階のパイプラインであるZAPS(Zero- Cost Active Proxy Search)を紹介します。 ZAPSは、ProxyFitを介してオフラインでコンパクトで非冗長なプロキシサブセットを選択し、 (ii) エクスプロイトと探索のバランスをとるハイブリッドK平均戦略で検索をシードし、 (iii) ラベル付きセットが大きくなるとブート投票によって各イテレーションでプロキシを再選択し、 (iv) プロキシランクと1ホットのトポロジエンコーディングに基づいてトレーニングされたXGBoostアンサンブルを持つ候補をランク付けする。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Neural Architecture Search (NAS) automates network design, but evaluating a single candidate requires training it to convergence, making exhaustive search intractable. Zero-cost proxies estimate architecture quality at initialization in seconds, yet a single proxy is noisy, and combining several does not straightforwardly help: proxies are strongly correlated, so naive aggregation compounds their shared errors instead of averaging them out. Existing methods exploit either proxy signals or architectural topology - never both within a single active-learning framework. We introduce ZAPS (Zero-cost Active Proxy Search), a four-stage pipeline that closes this gap. ZAPS (i) selects a compact, non-redundant proxy subset offline via ProxyFit, a greedy anti-redundancy criterion; (ii) seeds the search with a hybrid K-means strategy that balances exploitation and exploration; (iii) re-selects proxies at every iteration by a bootstrapped vote as the labeled set grows; and (iv) ranks candidates with an XGBoost ensemble trained jointly on proxy ranks and one-hot topological encodings, queried through an Upper Confidence Bound (UCB) acquisition function. On NAS-Bench-201 under a budget of B=200 evaluations, ZAPS recovers 52.3% of the true top-100 architectures on CIFAR-10 and 65.8% on CIFAR-100, ahead of every baseline we consider - Random Search, Local Search, REA, BANANAS and TPE - and, on CIFAR-10, with less than half the run-to-run standard deviation of the strongest of them. The advantage is largest where evaluations are scarce: on NAS-Bench-201 it narrows as the budget grows, whereas on the harder NAS-Bench-101, which no method comes close to saturating, it widens instead. All methods are scored by a single criterion: how much of the true top-100 lies among the architectures they actually evaluated.
• Abstract（参考訳）: ニューラルアーキテクチャサーチ(NAS)はネットワーク設計を自動化するが、単一の候補を評価するには収束を訓練する必要がある。 ゼロコストプロキシは、初期化時にアーキテクチャの品質を数秒で見積もるが、単一のプロキシはノイズが多い。 既存のメソッドは、プロキシ信号またはアーキテクチャトポロジを利用する。 このギャップを埋める4段階のパイプラインであるZAPS(Zero- Cost Active Proxy Search)を紹介します。 ZAPS i)greedy反冗長基準であるProxyFitを介して、コンパクトで非冗長なプロキシサブセットをオフラインに選択する。 (二)搾取と探検のバランスをとるハイブリッドK平均戦略により探索を種付けすること。 (iii)ラベル付き集合が大きくなるにつれて、ブートストラップされた投票により、反復ごとにプロキシを再選択する。 (iv)XGBoostアンサンブルの候補はプロキシのランクと1ホットのトポロジカルエンコーディングに基づいて訓練され、アッパー信頼境界(UCB)取得機能を通じて検索される。 NAS-Bench-201では、B=200評価の予算で、ZAPSはCIFAR-10の真のトップ100アーキテクチャの52.3%、CIFAR-100の65.8%を回復し、ランダム検索、ローカルサーチ、REA、BANANAS、TPEの全てのベースラインに先んじている。 NAS-Bench-201では予算が増加するにつれて縮小するのに対し、NAS-Bench-101では、いかなる手法も飽和に近づかないため、代わりに拡大する。 真のトップ100のどれ程が、実際に評価されたアーキテクチャに含まれているか。

関連論文リスト

• CoRA-NAS: Coarse Ranking and Anchor-Residual Refinement for Neural Architecture Search [9.443798158626539]
  CoRA-NASは、静的なランク付けと低コストの学習曲線改善を組み合わせた2段階のフレームワークである。 CoRA-Rankは、等重量対数コンセンサスを通じて容量と初期化プロキシを集約する。 CoRA-Refineサンプルはこの前の領域にアンカーを配置し、初期の検証曲線を外挿し、ExtraTreesモデルで学習された残差補正を伝搬する。
  論文  参考訳（メタデータ） (2026-09-10T17:49:19Z)
• Bi-EZP: LLM-Guided Bilevel Program Evolution for Ensemble Zero-Cost Proxy Discovery [2.751603258501323]
  Bi-EZPは、プログラム発見と数値キャリブレーションを分離するバイレベルフレームワークである。 その結果,プログラム発見と数値キャリブレーションの分離は,ゼロコストプロキシの自動アンサンブル構築に有効な手法であることが示唆された。
  論文  参考訳（メタデータ） (2026-08-22T11:34:35Z)
• Claudini: Autoresearch Discovers State-of-the-Art Adversarial Attack Algorithms for LLMs [75.62489398666644]
  我々は,Claude Codeをベースとしたemphautoresearchスタイルのパイプライン citepkarpathy2026autoresearch が,新しいホワイトボックス対逆攻撃を発見できることを示した。 textbfsignantは、jailbreakで既存のすべての(30以上のメソッド)を著しく上回り、インジェクション評価を促します。
  論文  参考訳（メタデータ） (2026-03-25T16:50:56Z)
• Zero-Shot Neural Architecture Search with Weighted Response Correlation [5.953576590699768]
  重み付き応答相関(WRCor)と呼ばれる新しい学習自由度推定プロキシを提案する。 WRCorは、異なる入力サンプル間の応答の相関相関行列を用いて、推定されたアーキテクチャのプロキシスコアを算出する。 我々のNASアルゴリズムは、4GPU時間以内にImageNet-1kデータセット上で22.1%のテストエラーのあるアーキテクチャを発見できる。
  論文  参考訳（メタデータ） (2025-07-08T02:19:29Z)
• $\beta$-DARTS++: Bi-level Regularization for Proxy-robust Differentiable Architecture Search [96.99525100285084]
  DARTSに基づくNAS探索プロセス($beta$-DARTS)を正規化するための正規化手法であるBeta-Decayを提案する。 どのように動作するのか、なぜ動作するのかに関する詳細な理論的分析が提供される。
  論文  参考訳（メタデータ） (2023-01-16T12:30:32Z)
• Extensible Proxy for Efficient NAS [38.124755703499886]
  我々は、ニューラルアーキテクチャサーチ(NAS)と呼ばれるディープニューラルネットワーク(DNN)を設計するための新しいアプローチを提案する。 NASプロキシはNASの要求される計算問題に対処するために提案され、各候補アーキテクチャネットワークは1回のバックプロパゲーションしか必要としない。 Eproxy+DPSとEproxy+DPSの両方の有効性を確認した。
  論文  参考訳（メタデータ） (2022-10-17T22:18:22Z)
• Generalizing Few-Shot NAS with Gradient Matching [165.5690495295074]
  One-Shotメソッドは、1つのスーパーネットをトレーニングし、ウェイトシェアリングを通じて検索空間内の全てのアーキテクチャのパフォーマンスを近似する。 Few-Shot NASは、One-Shotスーパーネットを複数のサブスーパーネットに分割することで、ウェイトシェアリングのレベルを下げる。 Few-Shotよりも優れており、派生したアーキテクチャの精度という点では、従来の同等の手法をはるかに上回っている。
  論文  参考訳（メタデータ） (2022-03-29T03:06:16Z)
• Non-isotropy Regularization for Proxy-based Deep Metric Learning [78.18860829585182]
  本稿では,プロキシに基づくDeep Metric Learningのための非等方正則化(mathbbNIR$)を提案する。 これにより、プロキシの周囲のサンプルの非等方分布を明示的に誘導して最適化することが可能になる。 実験では、競争力と最先端のパフォーマンスを達成しながら、$mathbbNIR$の一貫性のある一般化の利点を強調している。
  論文  参考訳（メタデータ） (2022-03-16T11:13:20Z)
• ProxyBO: Accelerating Neural Architecture Search via Bayesian Optimization with Zero-cost Proxies [30.059154132130207]
  本稿では、ゼロコストプロキシを用いてニューラルネットワーク探索を高速化する効率的なベイズ最適化フレームワークであるProxyBOを提案する。 ProxyBOは3つの公開ベンチマークから5つのタスクの競争ベースラインを一貫して上回っていることを示す。
  論文  参考訳（メタデータ） (2021-10-20T08:18:16Z)
• Fewer is More: A Deep Graph Metric Learning Perspective Using Fewer Proxies [65.92826041406802]
  本稿では,グラフ分類の観点から,プロキシベースのディープグラフメトリックラーニング手法を提案する。 複数のグローバルプロキシを利用して、各クラスの元のデータポイントを総括的に近似する。 本研究では, 近接関係を接地トラス・ラベルに従って調整する, 新たな逆ラベル伝搬アルゴリズムを設計する。
  論文  参考訳（メタデータ） (2020-10-26T14:52:42Z)
• DC-NAS: Divide-and-Conquer Neural Architecture Search [108.57785531758076]
  本稿では,ディープ・ニューラル・アーキテクチャーを効果的かつ効率的に探索するためのディバイド・アンド・コンカ(DC)手法を提案する。 ImageNetデータセットで75.1%の精度を達成しており、これは同じ検索空間を使った最先端の手法よりも高い。
  論文  参考訳（メタデータ） (2020-05-29T09:02:16Z)
• EcoNAS: Finding Proxies for Economical Neural Architecture Search [130.59673917196994]
  本稿では、既存のほとんどのプロキシが、ネットワーク候補間のランク一貫性を維持する際に異なる振る舞いを示すことを観察する。 これらの観測から着想を得て、信頼性のあるプロキシを提案し、階層的なプロキシ戦略をさらに定式化する。 この戦略は、より正確な候補ネットワークにより多くの計算を費やす一方で、高速なプロキシで初期段階の未予測ネットワークを破棄する。
  論文  参考訳（メタデータ） (2020-01-05T13:29:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。