論文の概要: Bayesian Optimization in Sequence-to-Architecture Latent Space for Zero-Shot NAS

• arxiv url: http://arxiv.org/abs/2610.06167v1
• Date: Mon, 05 Oct 2026 11:37:00 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-09 18:14:04.455474
• Title: Bayesian Optimization in Sequence-to-Architecture Latent Space for Zero-Shot NAS
• Title（参考訳）: ゼロショットNASにおけるシーケンス・ツー・アーキテクチャ遅延空間のベイズ最適化
• Abstract要約: Zero-shot Neural Searchは、従来のNASの禁止コストを取り除く。 本稿では,複数のゼロショットプロキシを1つのベイズ最適化目標に組み合わせたプロキシスカラー化を提案する。 提案した探索アルゴリズムを1万回(1つのGPUで8時間)だけ繰り返した結果,3つのタスクで最新の結果が得られるネットワークアーキテクチャが発見された。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Zero-shot Neural Architecture Search removes the prohibitive cost of traditional NAS, but its search process is typically based on the evolutionary algorithm (EA); lacking an explicit model of the objective, it often resorts to a near-random search through mutation. Bayesian Optimization offers a principled alternative by modeling the objective and aggregating information across iterations, but scales poorly to the high-dimensional, discrete, graph-structured spaces of modern NAS, restricting its use to only small networks. In this paper, we bring Bayesian Optimization to zero-shot NAS for large-scale architectures by learning a latent space via a Variational Autoencoder trained to reconstruct a novel prefix encoding of architectures and propose a proxy scalarization that combines several zero-shot proxies into a single Bayesian Optimization objective. After only 10,000 iterations of the proposed search algorithm (8 hours on a single GPU), our method found a network architecture which under the given model parameter count constraints achieves state-of-the-art results on three separate tasks -- image classification, object detection and semantic segmentation.
• Abstract（参考訳）: ゼロショットニューラルアーキテクチャサーチは従来のNASの禁止コストを取り除くが、その探索プロセスは一般的に進化的アルゴリズム(EA)に基づいている。 ベイズ最適化(Bayesian Optimization)は、目的をモデル化し、繰り返しにまたがる情報を集約する原理的な代替手段を提供するが、現代のNASの高次元で離散的なグラフ構造空間にはあまりスケールしないため、小さなネットワークに限られている。 本稿では,大規模アーキテクチャを対象としたゼロショットNASにベイズ最適化を導入し,アーキテクチャの新規なプレフィックスエンコーディングを再構築するために訓練された変分オートエンコーダを用いて潜在空間を学習し,複数のゼロショットプロキシを単一のベイズ最適化目的に組み合わせたプロキシスキャラライズを提案する。 提案手法は,提案した探索アルゴリズムの1万回 (1つのGPU上で8時間) の後に,与えられたモデルパラメータ数制約の下で,画像分類,オブジェクト検出,セマンティックセマンティックセグメンテーションの3つのタスクに対して,最先端の結果が得られるネットワークアーキテクチャを発見した。

関連論文リスト

• A Continuous Encoding-Based Representation for Efficient Multi-Fidelity Multi-Objective Neural Architecture Search [35.374871338668875]
  適応型Co-Kriging-assisted multi-fidelity multi-objective NASアルゴリズムを提案し,NASの計算コストをさらに削減した。 提案手法を用いて風速回帰モデルを作成し,都市モデルに適用した。
  論文  参考訳（メタデータ） (2025-09-02T04:31:02Z)
• SiamNAS: Siamese Surrogate Model for Dominance Relation Prediction in Multi-objective Neural Architecture Search [27.518415466908998]
  現代のニューラルネットワーク探索(NAS)は本質的に多目的であり、精度、パラメータ数、計算コストなどのトレードオフのバランスをとる。 本稿では,シームズネットワークブロックのアンサンブルを利用した新しいサロゲートモデリング手法を提案する。 SiamNASと呼ばれるフレームワークに統合されたこの設計は、検索プロセス中にコストのかかる評価をなくす。
  論文  参考訳（メタデータ） (2025-06-03T08:39:42Z)
• ZeroLM: Data-Free Transformer Architecture Search for Language Models [54.83882149157548]
  現在の自動プロキシ発見アプローチは、検索時間の拡張、データの過度なオーバーフィットへの感受性、構造的な複雑さに悩まされている。 本稿では,効率的な重み統計によるモデルキャパシティの定量化を目的とした,新しいゼロコストプロキシ手法を提案する。 本評価は,FlexiBERT ベンチマークで Spearman's rho 0.76 と Kendall's tau 0.53 を達成し,このアプローチの優位性を示すものである。
  論文  参考訳（メタデータ） (2025-03-24T13:11:22Z)
• A Pairwise Comparison Relation-assisted Multi-objective Evolutionary Neural Architecture Search Method with Multi-population Mechanism [56.09418231453024]
  ニューラルアーキテクチャサーチ(NAS)により、研究者は広大なサーチスペースを自動的に探索し、効率的なニューラルネットワークを見つけることができる。 NASは重要なボトルネックに悩まされており、探索プロセス中に多くのアーキテクチャを評価する必要がある。 SMEM-NASは,多集団構造に基づく相互比較比較支援型多目的進化アルゴリズムである。
  論文  参考訳（メタデータ） (2024-07-22T12:46:22Z)
• Multi-objective Differentiable Neural Architecture Search [58.67218773054753]
  我々は,ユーザの好みをトレードオフ性能やハードウェアメトリクスにエンコードするNASアルゴリズムを提案する。 提案手法は,既存のMOO NAS手法を,定性的に異なる検索空間やデータセットの広い範囲で性能良くする。
  論文  参考訳（メタデータ） (2024-02-28T10:09:04Z)
• HKNAS: Classification of Hyperspectral Imagery Based on Hyper Kernel Neural Architecture Search [104.45426861115972]
  設計したハイパーカーネルを利用して,構造パラメータを直接生成することを提案する。 我々は1次元または3次元の畳み込みを伴う画素レベルの分類と画像レベルの分類を別々に行う3種類のネットワークを得る。 6つの公開データセットに関する一連の実験は、提案手法が最先端の結果を得ることを示した。
  論文  参考訳（メタデータ） (2023-04-23T17:27:40Z)
• Lightweight Neural Architecture Search for Temporal Convolutional Networks at the Edge [21.72253397805102]
  この研究は特に、時系列処理のための畳み込みモデルであるTCN(Temporal Convolutional Networks)に焦点を当てている。 我々は,TNの最も特異なアーキテクチャパラメータの最適化を明示的に目標とする最初のNASツールを提案する。 提案したNASは,音声および生体信号を含む4つの実世界のエッジ関連タスクでテストする。
  論文  参考訳（メタデータ） (2023-01-24T19:47:40Z)
• Trilevel Neural Architecture Search for Efficient Single Image Super-Resolution [127.92235484598811]
  本稿では,高効率単一画像超解像(SR)のための3レベルニューラルネットワーク探索法を提案する。 離散探索空間をモデル化するために、離散探索空間に新たな連続緩和を適用し、ネットワークパス、セル操作、カーネル幅の階層的混合を構築する。 階層型スーパーネット方式による最適化を行うため,効率的な探索アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-01-17T12:19:49Z)
• Smooth Variational Graph Embeddings for Efficient Neural Architecture Search [41.62970837629573]
  本研究では,探索空間からニューラルネットワークをスムーズにエンコードし,正確に再構築できる2面変分グラフオートエンコーダを提案する。 ENASアプローチ,NAS-Bench-101およびNAS-Bench-201探索空間で定義されたニューラルネットワークに対する提案手法の評価を行った。
  論文  参考訳（メタデータ） (2020-10-09T17:05:41Z)
• Neural Architecture Generator Optimization [9.082931889304723]
  我々はまず,NASを最適ネットワーク生成器の探索問題として検討する。 本稿では,非常に多様なネットワークタイプを表現可能な,階層的でグラフベースの検索空間を提案する。
  論文  参考訳（メタデータ） (2020-04-03T06:38:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。