論文の概要: CoRA-NAS: Coarse Ranking and Anchor-Residual Refinement for Neural Architecture Search
- arxiv url: http://arxiv.org/abs/2609.11884v1
- Date: Thu, 10 Sep 2026 17:49:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-11 23:53:35.475389
- Title: CoRA-NAS: Coarse Ranking and Anchor-Residual Refinement for Neural Architecture Search
- Title（参考訳）: CoRA-NAS:ニューラルネットワーク検索のための粗ランク付けとアンカー残差リファインメント
- Abstract要約: CoRA-NASは、静的なランク付けと低コストの学習曲線改善を組み合わせた2段階のフレームワークである。
CoRA-Rankは、等重量対数コンセンサスを通じて容量と初期化プロキシを集約する。
CoRA-Refineサンプルはこの前の領域にアンカーを配置し、初期の検証曲線を外挿し、ExtraTreesモデルで学習された残差補正を伝搬する。
- 参考スコア（独自算出の注目度）: 9.443798158626539
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Zero-cost proxies rank architectures cheaply, but their reliability varies across search spaces. We introduce CoRA-NAS (COarse Ranking + Anchor-residual), a two-stage framework combining a static ranking prior with low-cost learning-curve refinement. CoRA-Rank aggregates capacity and structure-at-initialization proxies through an equal-weight log-rank consensus and a target-free consensus gate. CoRA-Refine samples anchors across this prior, extrapolates their early validation curves, and propagates a learned residual correction with an ExtraTrees model. The refinement uses approximately 1% of the cost of fully training the candidate set. Fully trained architecture-accuracy labels are not used to fit the ranker. One configuration is used across spaces, with space-specific architecture encodings. Across NAS-Bench-201, NAS-Bench-101, TransNAS-Bench-101, and NATS-SSS, CoRA-Refine achieves mean Spearman correlations of 0.946, 0.715, 0.786, and 0.894, respectively. Its worst-space correlation of 0.715 is the highest among the compared methods. On NAS-Bench-201/CIFAR-100, its selected architecture reaches 73.32% accuracy, near the reported ground-truth best of 73.37%. On the pure size space, refinement recovers the static prior's shortfall relative to parameter count, while remaining tied with the strongest capacity proxies within noise. The resulting framework combines cross-space ranking robustness with low-cost architecture selection.
- Abstract（参考訳）: ゼロコストプロキシは安価にランク付けするが、信頼性は検索空間によって異なる。
本稿では,CoRA-NAS(Coarse Ranking + Anchor-Residual)という2段階のフレームワークについて紹介する。
CoRA-Rankは、均等なログランクコンセンサスとターゲットフリーコンセンサスゲートを通じて容量と初期化プロキシを集約する。
CoRA-Refineサンプルはこの前の領域にアンカーを配置し、初期の検証曲線を外挿し、ExtraTreesモデルで学習された残差補正を伝搬する。
改良は、候補セットを完全に訓練するコストの約1%を使用する。
完全にトレーニングされたアーキテクチャの精度ラベルは、ローダに適合しない。
1つの構成は空間にまたがって使用され、空間固有のアーキテクチャエンコーディングを持つ。
NAS-Bench-201, NAS-Bench-101, TransNAS-Bench-101, NATS-SSSで, CoRA-Refineはそれぞれ0.946, 0.715, 0.786, 0.894のスピアマン相関が得られる。
最低空間相関は0.715であり、比較した手法の中では最高である。
NAS-Bench-201/CIFAR-100では、その選択されたアーキテクチャは73.32%の精度に達し、地上構造は73.37%と報告されている。
純粋なサイズ空間では、リファインメントはパラメータ数に対する静的先行の不足を回復するが、ノイズ内の最も強いキャパシティプロキシと結びついている。
結果として得られるフレームワークは、クロススペースなランキングロバストネスと低コストなアーキテクチャ選択を組み合わせたものだ。
関連論文リスト
- ZAPS: Zero-Cost Active Proxy Search for Neural Architecture Search [0.0]
このギャップを埋める4段階のパイプラインであるZAPS(Zero- Cost Active Proxy Search)を紹介します。
ZAPSは、ProxyFitを介してオフラインでコンパクトで非冗長なプロキシサブセットを選択し、 (ii) エクスプロイトと探索のバランスをとるハイブリッドK平均戦略で検索をシードし、 (iii) ラベル付きセットが大きくなるとブート投票によって各イテレーションでプロキシを再選択し、 (iv) プロキシランクと1ホットのトポロジエンコーディングに基づいてトレーニングされたXGBoostアンサンブルを持つ候補をランク付けする。
論文 参考訳（メタデータ） (2026-09-12T23:34:41Z) - Similarity-Guided Curriculum Fine-Tuning of LLMs for Neural Architecture Synthesis [48.83701310501069]
ニューラルアーキテクチャ探索(NAS)のためのニューラルネットワークコードにプログレッシブなカリキュラムを構築するMinHashベースの類似性スケジューリングフレームワークを導入する。
我々は,CIFAR-10画像分類におけるLEMURベンチマークにおいて,オリンピックコード7Bの枠組みを評価する。
SVHNでは,カリキュラムなしの直接ベースモデル生成により,CIFAR-10相当値よりもかなり低い精度(60.5%)で27%のSRが得られる。
論文 参考訳（メタデータ） (2026-07-13T14:14:30Z) - Amplifying, Not Learning: Fine-Tuned AI Text Detectors Amplify a Pretrained Direction [51.56484100374058]
テキスト検出器は、事前訓練された典型軸を増幅する。
タスク監督前の生エンコーダでは、3つのアーキテクチャでNYT-vs-HC3 AUROC 0.806/0.944/0.834を達成する。
RoBERTaベースでは、生のプロジェクションは微調整を超えるが、RoBERTaベースでは、フル微調整は、試験された流線型人口の双方で生よりも識別を小さくする。
論文 参考訳（メタデータ） (2026-05-20T19:08:38Z) - Zero-Shot Neural Architecture Search with Weighted Response Correlation [5.953576590699768]
重み付き応答相関(WRCor)と呼ばれる新しい学習自由度推定プロキシを提案する。
WRCorは、異なる入力サンプル間の応答の相関相関行列を用いて、推定されたアーキテクチャのプロキシスコアを算出する。
我々のNASアルゴリズムは、4GPU時間以内にImageNet-1kデータセット上で22.1%のテストエラーのあるアーキテクチャを発見できる。
論文 参考訳（メタデータ） (2025-07-08T02:19:29Z) - Generalizing Few-Shot NAS with Gradient Matching [165.5690495295074]
One-Shotメソッドは、1つのスーパーネットをトレーニングし、ウェイトシェアリングを通じて検索空間内の全てのアーキテクチャのパフォーマンスを近似する。
Few-Shot NASは、One-Shotスーパーネットを複数のサブスーパーネットに分割することで、ウェイトシェアリングのレベルを下げる。
Few-Shotよりも優れており、派生したアーキテクチャの精度という点では、従来の同等の手法をはるかに上回っている。
論文 参考訳（メタデータ） (2022-03-29T03:06:16Z) - Neural Architecture Ranker [19.21631623578852]
アーキテクチャランキングは、最近、ニューラルネットワークサーチ(NAS)のための効率的で効果的なパフォーマンス予測器を設計することを提唱されている。
成層層化にインスパイアされた予測器,すなわちニューラルランサー(NAR)を提案する。
論文 参考訳（メタデータ） (2022-01-30T04:54:59Z) - BaLeNAS: Differentiable Architecture Search via the Bayesian Learning
Rule [95.56873042777316]
近年,微分可能なアーキテクチャ探索 (DARTS) が注目されている。
本稿では,アーキテクチャ重みをガウス分布に緩和することにより,ニューラルネットワーク探索を分布学習問題として定式化する。
ベイズ主義の原理から異なるNASがいかに恩恵を受け、探索を強化し、安定性を向上するかを実証する。
論文 参考訳（メタデータ） (2021-11-25T18:13:42Z) - ZARTS: On Zero-order Optimization for Neural Architecture Search [94.41017048659664]
微分可能なアーキテクチャサーチ (DARTS) は、NASの高効率性のため、一般的なワンショットパラダイムである。
この作業はゼロオーダーの最適化に変わり、上記の近似を強制せずに探索するための新しいNASスキームであるZARTSを提案する。
特に、12ベンチマークの結果は、DARTSの性能が低下するZARTSの顕著な堅牢性を検証する。
論文 参考訳（メタデータ） (2021-10-10T09:35:15Z) - AceNAS: Learning to Rank Ace Neural Architectures with Weak Supervision
of Weight Sharing [6.171090327531059]
空間から最高のアーキテクチャを選択するためのLearning to Rank手法を紹介します。
また,スーパーネットから得られた弱いラベルのアーキテクチャ表現を事前学習することで,重み共有から弱い管理を活用することを提案する。
NASベンチマークと大規模検索空間を用いた実験により,提案手法はSOTAよりも検索コストが大幅に削減された。
論文 参考訳（メタデータ） (2021-08-06T08:31:42Z) - Semi-Supervised Neural Architecture Search [185.0651567642238]
SemiNASは、多くの未ラベルアーキテクチャを活用する半教師付きニューラルアーキテクチャサーチ(NAS)アプローチである(評価なしで、ほぼコストがかからない)。
NASBench-101で94.02%のテスト精度を達成し、同じ数のアーキテクチャを使用する場合、すべてのベースラインを上回ります。
低リソース環境では97%のインテリジェンス率、ロバストネス環境では15%のテストエラー率、ベースラインではそれぞれ9%、7%の改善を実現している。
論文 参考訳（メタデータ） (2020-02-24T17:23:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。