論文の概要: HHNAS-AM: Hierarchical Hybrid Neural Architecture Search using Adaptive Mutation Policies

• arxiv url: http://arxiv.org/abs/2508.14946v1
• Date: Wed, 20 Aug 2025 09:56:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-08-22 16:26:46.038023
• Title: HHNAS-AM: Hierarchical Hybrid Neural Architecture Search using Adaptive Mutation Policies
• Title（参考訳）: HHNAS-AM:適応変異法による階層型ハイブリッドニューラルネットワーク探索
• Authors: Anurag Tripathi, Ajeet Kumar Singh, Rajsabi Surya, Aum Gupta, Sahiinii Lemaina Veikho, Dorien Herremans, Sudhir Bisane,
• Abstract要約: HHNAS-AMは,多様なアーキテクチャ構成を効率的に探索する新しい手法である。 提案手法では,前回の反復からの性能フィードバックに基づいて動的に適応する突然変異戦略を採用している。 データベースID(db_id)予測タスクに対する我々のアプローチを評価する。
• 参考スコア（独自算出の注目度）: 5.689917817957284
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Neural Architecture Search (NAS) has garnered significant research interest due to its capability to discover architectures superior to manually designed ones. Learning text representation is crucial for text classification and other language-related tasks. The NAS model used in text classification does not have a Hybrid hierarchical structure, and there is no restriction on the architecture structure, due to which the search space becomes very large and mostly redundant, so the existing RL models are not able to navigate the search space effectively. Also, doing a flat architecture search leads to an unorganised search space, which is difficult to traverse. For this purpose, we propose HHNAS-AM (Hierarchical Hybrid Neural Architecture Search with Adaptive Mutation Policies), a novel approach that efficiently explores diverse architectural configurations. We introduce a few architectural templates to search on which organise the search spaces, where search spaces are designed on the basis of domain-specific cues. Our method employs mutation strategies that dynamically adapt based on performance feedback from previous iterations using Q-learning, enabling a more effective and accelerated traversal of the search space. The proposed model is fully probabilistic, enabling effective exploration of the search space. We evaluate our approach on the database id (db_id) prediction task, where it consistently discovers high-performing architectures across multiple experiments. On the Spider dataset, our method achieves an 8% improvement in test accuracy over existing baselines.
• Abstract（参考訳）: ニューラルアーキテクチャサーチ(NAS)は、手作業で設計されたものよりも優れたアーキテクチャを発見する能力のために、大きな研究の関心を集めている。 テキスト表現の学習は、テキスト分類やその他の言語関連タスクに不可欠である。 テキスト分類で使用されるNASモデルは、ハイブリッド階層構造を持たず、検索空間が非常に大きく、大部分が冗長になるため、アーキテクチャ構造に制約がないため、既存のRLモデルは、検索空間を効率的にナビゲートできない。 また、フラットなアーキテクチャ検索を行うことで、非組織的な検索空間が生まれる。 本研究では,HHNAS-AM (Hierarchical Hybrid Neural Architecture Search with Adaptive Mutation Policies)を提案する。 本稿では,ドメイン固有のキューに基づいて検索空間を設計する検索空間を整理する,いくつかのアーキテクチャテンプレートを紹介する。 提案手法は,Q-learning を用いた前回の反復からの性能フィードバックに基づいて動的に適応する突然変異戦略を用いて,探索空間のより効率的かつ高速なトラバースを実現する。 提案モデルは完全に確率的であり,探索空間の効率的な探索を可能にする。 データベースID(db_id)予測タスクに対する我々のアプローチを評価する。 提案手法は,既存のベースラインよりも8%の精度で精度を向上する。

関連論文リスト

• Transferrable Surrogates in Expressive Neural Architecture Search Spaces [20.539222762754054]
  文脈自由文法に基づく表現型NAS探索空間における探索改善のための代理モデルトレーニングについて検討する。 i) ゼロコストプロキシメトリクスとニューラルグラフ特徴(GRAF)を用いてトレーニングされたサロゲートモデルか,あるいはオフザシェルフLMを微調整することにより,データセット内および全体にわたってアーキテクチャのパフォーマンスを予測できることを示す。
  論文  参考訳（メタデータ） (2025-04-17T14:22:28Z)
• Construction of Hierarchical Neural Architecture Search Spaces based on Context-free Grammars [66.05096551112932]
  文脈自由文法に基づく統一検索空間設計フレームワークを提案する。 それらの特性の強化と利用により,完全なアーキテクチャの探索を効果的に行うことができる。 既存のニューラルアーキテクチャ検索手法よりも検索戦略が優れていることを示す。
  論文  参考訳（メタデータ） (2022-11-03T14:23:00Z)
• Searching a High-Performance Feature Extractor for Text Recognition Network [92.12492627169108]
  優れた特徴抽出器を持つための原理を探求し,ドメイン固有の検索空間を設計する。 空間は巨大で複雑な構造であるため、既存のNASアルゴリズムを適用することはできない。 本研究では,空間内を効率的に探索する2段階のアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2022-09-27T03:49:04Z)
• Unchain the Search Space with Hierarchical Differentiable Architecture Search [42.32368267716705]
  dasベースの手法は主に繰り返し可能な細胞構造を探索することに集中し、それを複数の段階に順次積み重ねてネットワークを形成する。 細胞レベルでもステージレベルでもアーキテクチャ検索を行う階層的微分可能なアーキテクチャ検索(H-DAS)を提案する。 ステージレベルの探索では,各ステージ内の細胞数やセル間の接続など,ステージのアーキテクチャを体系的に研究する。
  論文  参考訳（メタデータ） (2021-01-11T17:01:43Z)
• AutoRC: Improving BERT Based Relation Classification Models via Architecture Search [50.349407334562045]
  BERTに基づく関係分類(RC)モデルは、従来のディープラーニングモデルよりも大幅に改善されている。 最適なアーキテクチャとは何かという合意は得られない。 BERTをベースとしたRCモデルのための包括的検索空間を設計し、設計選択を自動的に検出するためにNAS(Neural Architecture Search)手法を用いる。
  論文  参考訳（メタデータ） (2020-09-22T16:55:49Z)
• AutoSTR: Efficient Backbone Search for Scene Text Recognition [80.7290173000068]
  テキストインスタンスの多様性とシーンの複雑さのため、シーンテキスト認識(STR)は非常に難しい。 テキスト認識性能を向上させるために,データ依存のバックボーンを検索するための自動STR(AutoSTR)を提案する。 実験によると、データ依存のバックボーンを検索することで、AutoSTRは標準ベンチマークにおける最先端のアプローチより優れている。
  論文  参考訳（メタデータ） (2020-03-14T06:51:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。