論文の概要: Structuring Open-Ended NAS: Semi-Automated Design Knowledge Structuring with LLMs for Efficient Neural Architecture Search

• arxiv url: http://arxiv.org/abs/2605.19247v1
• Date: Tue, 19 May 2026 01:41:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-20 15:03:09.06132
• Title: Structuring Open-Ended NAS: Semi-Automated Design Knowledge Structuring with LLMs for Efficient Neural Architecture Search
• Title（参考訳）: オープンエンディングNASの構造化: 効率的なニューラルネットワーク探索のためのLLMを用いた半自動設計知識構造化
• Authors: Yuiko Sakuma, Masakazu Yoshimura, Marcel Gröpl, Zitang Sun, Junji Otsuka, Atsushi Irie, Takeshi Ohashi,
• Abstract要約: 現在のニューラルアーキテクチャサーチ(NAS)法は、しばしば事前に定義された制限付き探索空間によって制限される。 本稿では,モデル設計の知識を半自動で構造化し,探索過程を導くことを提案する。 われわれのアプローチはまず、アーキテクチャ属性の高レベルな構造テンプレートを定義する。LLMはこのテンプレートを論文を解析し、この構造化された設計知識を具現化したリッチで多様な検索空間を作成する。 CIFAR-10, CIFAR-100, ImageNet16-120でそれぞれ0.84, 2.17, 2.35点向上した高性能アーキテクチャの発見におけるFairNADの有効性を示す。
• 参考スコア（独自算出の注目度）: 8.174501608236648
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Current neural architecture search (NAS) methods are often limited by their predefined, restrictive search spaces. While recent large language model (LLM)-assisted NAS methods enable open-ended search spaces, they often suffer from inefficient exploration due to biased or low-quality design ideas. To address these issues, we propose to semi-automatically structure model design knowledge to guide the search process. Our approach first defines a high-level structural template of architectural attributes. An LLM then populates this template by analyzing papers, creating a rich and diverse search space that embodies this structured design knowledge. To efficiently explore this vast space, we introduce FairNAD, using a multi-type mutation that enables broad exploration through mutation with fair idea sampling, Pareto-aware mutation, LLM-driven iterative mutation, and a fine-grained feedback loop. We demonstrate the effectiveness of FairNAD in discovering high-performing architectures that yield 0.84, 2.17, and 2.35 points improvement on CIFAR-10, CIFAR-100, and ImageNet16-120, respectively, compared to current state-of-the-art methods.
• Abstract（参考訳）: 現在のニューラルアーキテクチャサーチ(NAS)法は、しばしば事前に定義された制限付き探索空間によって制限される。 近年の大規模言語モデル (LLM) によるNAS手法はオープンな検索空間を実現するが, バイアスや低品質な設計思想による非効率な探索に悩まされることが多い。 これらの課題に対処するために,モデル設計知識を半自動で構造化し,探索プロセスを導くことを提案する。 私たちのアプローチはまず、アーキテクチャ属性の高レベルな構造テンプレートを定義します。 LLMは、論文を分析してこのテンプレートをポップアップさせ、この構造化された設計知識を具現化したリッチで多様な検索空間を作成する。 この広い空間を効率的に探索するために、フェアアイデアサンプリング、Pareto-aware 変異、LSM駆動反復突然変異、きめ細かいフィードバックループを用いた多型変異を用いたFairNADを導入する。 本研究では,CIFAR-10,CIFAR-100,ImageNet16-120でそれぞれ0.84,2.17,2.35点向上した高性能アーキテクチャの発見におけるFairNADの有効性を示す。

関連論文リスト

• LLM as a Tool, Not an Agent: Code-Mined Tree Transformations for Neural Architecture Search [8.58441788229967]
  安定かつオープンなモデル進化のための階層木に基づくNASフレームワークを提案する。 CIFAR-10, CIFAR-100, ImageNet16-120において既存のNAS法を0.69, 1.83, 2.68ポイント改善する。
  論文  参考訳（メタデータ） (2026-04-17T07:56:26Z)
• LM-Searcher: Cross-domain Neural Architecture Search with LLMs via Unified Numerical Encoding [55.5535016040221]
  LM-Searcherは、クロスドメインニューラルネットワーク最適化のための新しいフレームワークである。 我々のアプローチの中心は、ニューラルネットワークのための普遍的な数値文字列表現であるNCodeである。 我々のデータセットは、幅広いアーキテクチャとパフォーマンスのペアを含み、堅牢で伝達可能な学習を促進する。
  論文  参考訳（メタデータ） (2025-09-06T09:26:39Z)
• HHNAS-AM: Hierarchical Hybrid Neural Architecture Search using Adaptive Mutation Policies [5.689917817957284]
  HHNAS-AMは,多様なアーキテクチャ構成を効率的に探索する新しい手法である。 提案手法では,前回の反復からの性能フィードバックに基づいて動的に適応する突然変異戦略を採用している。 データベースID(db_id)予測タスクに対する我々のアプローチを評価する。
  論文  参考訳（メタデータ） (2025-08-20T09:56:32Z)
• SEKI: Self-Evolution and Knowledge Inspiration based Neural Architecture Search via Large Language Models [11.670056503731905]
  本稿では,新しい大規模言語モデル (LLM) に基づくニューラルアーキテクチャ探索 (NAS) 手法であるSEKIを紹介する。 現代のLLMにおけるチェーン・オブ・シント(CoT)パラダイムにインスパイアされたセキは、自己進化と知識蒸留という2つの重要な段階で動作している。
  論文  参考訳（メタデータ） (2025-02-27T09:17:49Z)
• Construction of Hierarchical Neural Architecture Search Spaces based on Context-free Grammars [66.05096551112932]
  文脈自由文法に基づく統一検索空間設計フレームワークを提案する。 それらの特性の強化と利用により,完全なアーキテクチャの探索を効果的に行うことができる。 既存のニューラルアーキテクチャ検索手法よりも検索戦略が優れていることを示す。
  論文  参考訳（メタデータ） (2022-11-03T14:23:00Z)
• Searching a High-Performance Feature Extractor for Text Recognition Network [92.12492627169108]
  優れた特徴抽出器を持つための原理を探求し,ドメイン固有の検索空間を設計する。 空間は巨大で複雑な構造であるため、既存のNASアルゴリズムを適用することはできない。 本研究では,空間内を効率的に探索する2段階のアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2022-09-27T03:49:04Z)
• Guided Evolution for Neural Architecture Search [1.0499611180329804]
  進化的ニューラルネットワーク探索(NAS)のための新しい手法を提案する。 G-EAの背後にある理論的根拠は、各世代における複数のアーキテクチャの生成と評価によって、検索空間を探索することである。 G-EAは、親突然変異による探索を強制しながら、子孫世代による最も優れたネットワークの活用を強制する。
  論文  参考訳（メタデータ） (2021-10-28T15:43:20Z)
• DrNAS: Dirichlet Neural Architecture Search [88.56953713817545]
  ディリクレ分布をモデルとした連続緩和型混合重みをランダム変数として扱う。 最近開発されたパスワイズ微分により、ディリクレパラメータは勾配に基づく一般化で容易に最適化できる。 微分可能なNASの大きなメモリ消費を軽減するために, 単純かつ効果的な進行学習方式を提案する。
  論文  参考訳（メタデータ） (2020-06-18T08:23:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。