論文の概要: DIFFNAS: Predictor-Free Neural Architecture Search via Diffusion Model and Zero-Cost Evaluation

• arxiv url: http://arxiv.org/abs/2610.41818v1
• Date: Fri, 30 Oct 2026 14:39:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-02 22:05:31.77494
• Title: DIFFNAS: Predictor-Free Neural Architecture Search via Diffusion Model and Zero-Cost Evaluation
• Title（参考訳）: DIFFNAS:拡散モデルによる予測自由ニューラルネットワーク探索とゼロコスト評価
• Abstract要約: ゼロコスト性能プロキシによって導かれる離散グラフ拡散モデルを活用する,予測不要なNASフレームワークであるDIFFNASを紹介する。 NAS-Bench-201の実験では、DiffusionNAGと比較して探索コストを最大17.5倍に抑えつつ、事前訓練された予測器を使わずにCIFAR-10とCIFAR-100のアーキテクチャが最適であることが示されている。 これらの結果は,スケーラブルで効率的なアーキテクチャ探索のために,拡散モデルとゼロコストプロキシを組み合わせることの可能性を浮き彫りにしている。
• 参考スコア（独自算出の注目度）: 24.99743490567801
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Neural Architecture Search (NAS) has advanced the automated design of deep networks, but remains computationally expensive due to reliance on model training or performance predictors. We introduce DIFFNAS, a predictor-free NAS framework that leverages a discrete graph diffusion model guided by zero-cost performance proxies. Unlike prior diffusion-based NAS methods that require learned performance predictors, DIFFNAS conditions the generative process on training-free metrics such as MeCo and SWAP, enabling efficient architecture search with minimal computational overhead. Experiments on NAS-Bench-201 show that DIFFNAS finds the optimal architectures for CIFAR-10 and CIFAR-100 (94.37% and 73.51%) without a pretrained predictor, while reducing search cost by up to 17.5x compared to DiffusionNAG. On the MobileNetV3 search space, its accuracy is lower than that of DiffusionNAG. These results highlight the promise of diffusion models combined with zero-cost proxies for scalable and effective architecture search.
• Abstract（参考訳）: ニューラルアーキテクチャサーチ(NAS)はディープネットワークの自動設計を進歩させたが、モデルトレーニングや性能予測器に依存するため、計算コストは依然として高い。 ゼロコスト性能プロキシによって導かれる離散グラフ拡散モデルを活用する,予測不要なNASフレームワークであるDIFFNASを紹介する。 学習した性能予測器を必要とする従来の拡散ベースのNAS法とは異なり、DIFFNASはMeCoやSWAPのようなトレーニング不要なメトリクスの生成プロセスを条件とし、計算オーバーヘッドを最小限に抑えた効率的なアーキテクチャ探索を可能にする。 NAS-Bench-201の実験では、DiffusionNAGと比較して探索コストを最大17.5倍に抑えつつ、予測器なしでCIFAR-10とCIFAR-100(94.37%と73.51%)の最適アーキテクチャを見出した。 MobileNetV3検索空間では、DiffusionNAGよりも精度が低い。 これらの結果は,スケーラブルで効率的なアーキテクチャ探索のために,拡散モデルとゼロコストプロキシを組み合わせることの可能性を浮き彫りにしている。

関連論文リスト

• TG-NAS: Generalizable Zero-Cost Proxies with Operator Description Embedding and Graph Learning for Efficient Neural Architecture Search [1.7356500114422735]
  TG-NASは汎用的なモデルベースのゼロコストプロキシで、Transformerベースの演算子埋め込みジェネレータとGraph Convolutional Network(GCN)を組み合わせてアーキテクチャのパフォーマンスを予測する。 探索効率を最大300倍改善し、NAS-Bench-201で93.75%のCIFAR-10精度、DARTS空間で74.9%のImageNet Top-1精度を実現した。
  論文  参考訳（メタデータ） (2024-03-30T07:25:30Z)
• DiffusionNAG: Predictor-guided Neural Architecture Generation with Diffusion Models [56.584561770857306]
  本研究では拡散モデルに基づく新しい条件付きニューラルネットワーク生成(NAG)フレームワークDiffusionNAGを提案する。 具体的には、ニューラルネットワークを有向グラフとみなし、それらを生成するためのグラフ拡散モデルを提案する。 本研究では,2つの予測型NAS(Transferable NAS)とベイズ最適化(BO)に基づくNAS(Bayesian Optimization)の2つのシナリオにおいて,DiffusionNAGの有効性を検証する。 BOベースのアルゴリズムに統合されると、DiffusionNAGは既存のBOベースのNASアプローチ、特にImageNet 1Kデータセット上の大規模なMobileNetV3検索スペースよりも優れている。
  論文  参考訳（メタデータ） (2023-05-26T13:58:18Z)
• DrNAS: Dirichlet Neural Architecture Search [88.56953713817545]
  ディリクレ分布をモデルとした連続緩和型混合重みをランダム変数として扱う。 最近開発されたパスワイズ微分により、ディリクレパラメータは勾配に基づく一般化で容易に最適化できる。 微分可能なNASの大きなメモリ消費を軽減するために, 単純かつ効果的な進行学習方式を提案する。
  論文  参考訳（メタデータ） (2020-06-18T08:23:02Z)
• FBNetV3: Joint Architecture-Recipe Search using Predictor Pretraining [65.39532971991778]
  サンプル選択とランキングの両方を導くことで、アーキテクチャとトレーニングのレシピを共同でスコアする精度予測器を提案する。 高速な進化的検索をCPU分で実行し、さまざまなリソース制約に対するアーキテクチャと準備のペアを生成します。 FBNetV3は最先端のコンパクトニューラルネットワークのファミリーを構成しており、自動と手動で設計された競合より優れている。
  論文  参考訳（メタデータ） (2020-06-03T05:20:21Z)
• DDPNAS: Efficient Neural Architecture Search via Dynamic Distribution Pruning [135.27931587381596]
  DDPNASと呼ばれる効率よく統一されたNASフレームワークを提案する。 検索空間は動的に切断され,その分布はいくつかのエポック毎に更新される。 提案した効率的なネットワーク生成手法により,与えられた制約に対する最適なニューラルネットワークアーキテクチャを直接取得する。
  論文  参考訳（メタデータ） (2019-05-28T06:35:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。