論文の概要: HERCULES: Hardware-Efficient, Robust, Continual Learning Neural Architecture Search
- arxiv url: http://arxiv.org/abs/2605.04103v1
- Date: Sun, 03 May 2026 17:27:37 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-07 18:41:07.439461
- Title: HERCULES: Hardware-Efficient, Robust, Continual Learning Neural Architecture Search
- Title（参考訳）: HERCULES: ハードウェア効率、ロバスト、継続的な学習ニューラルアーキテクチャ検索
- Abstract要約: 本研究では,NAS手法の分類法を提案し,資源最適化,環境のレジリエンス,アーキテクチャの可塑性といった手法を区別する。
この分類に基づいて、これらのNAS手法の現在の展望を、ハードウェア効率、ロバスト、およびContinUal LEarning Search (HERCULES)と呼ばれる新しいフレームワークにマッピングする。
この調査では、真にデプロイ可能な、生涯学習可能なAIシステムのための、アルゴリズム、アーキテクチャ、ハードウェアソフトウェアの共同設計へのロードマップを概説する。
- 参考スコア（独自算出の注目度）: 4.373192121914541
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Neural Architecture Search (NAS) has emerged as a powerful framework for automatically discovering neural architectures that balance accuracy and efficiency. However, as AI transitions from static benchmarks to real-world deployment, the traditional focus on hardware-aware efficiency is no longer sufficient. We observe that modern NAS methods, especially those that target edge AI, are evolving to address a triple objective: Efficiency, Robustness, and Continual Learning. While efficiency ensures feasibility in resource-constrained environments, robustness guarantees reliability under environmental variabilities, and continual learning enables adaptation to sequential tasks without catastrophic forgetting. We propose a taxonomy of NAS approaches through this triple lens, distinguishing between methods targeting resource optimization, environmental resilience, and architectural plasticity. This unified perspective reveals that these axes, though often studied in isolation, are mutually reinforcing. Building on this taxonomy, we map the current landscape of these NAS methods into a new framework called Hardware-Efficient, Robust, and ContinUal LEarning Search (HERCULES). We define the desiderata, the twelve labours of HERCULES, addressing the non-trivial challenge of balancing an adequate search-space exploration with the immense computational costs of a multi-objective NAS, accounting for these crucial objectives of current AI systems. By identifying critical gaps in existing research, this survey outlines a roadmap toward integrated algorithmic, architectural, and hardware-software co-design for truly deployable, lifelong-learning AI systems.
- Abstract（参考訳）: ニューラルネットワーク検索(NAS)は、正確性と効率のバランスをとるニューラルネットワークを自動的に検出する強力なフレームワークとして登場した。
しかし、AIが静的ベンチマークから実世界のデプロイメントに移行するにつれ、ハードウェア対応の効率性に伝統的な焦点が当てられなくなった。
現代のNAS手法、特にエッジAIをターゲットにした手法は、効率性、ロバスト性、継続的な学習という3つの目標に対処するために進化している。
効率性は資源制約環境における実現可能性を保証するが、ロバスト性は環境変動下での信頼性を保証し、連続学習は破滅的な忘れをせずにシーケンシャルなタスクへの適応を可能にする。
本稿では,この3重レンズによるNASアプローチの分類法を提案し,資源最適化,環境弾力性,建築の可塑性といった手法を区別する。
この統一的な視点は、これらの軸は、しばしば孤立して研究されるが、相互に補強されていることを示している。
この分類に基づいて、これらのNASメソッドの現在の状況を、ハードウェア効率、ロバスト、ContinUal LEarning Search (HERCULES)と呼ばれる新しいフレームワークにマッピングする。
HERCULESの12の作業であるdesiderataを定義し、現在のAIシステムのこれらの重要な目的を考慮し、多目的NASの膨大な計算コストと適切な探索空間探索のバランスをとるという、非自明な課題に対処する。
既存の研究における重要なギャップを特定することで、本調査は、真にデプロイ可能な、生涯学習可能なAIシステムのための、統合されたアルゴリズム、アーキテクチャ、ハードウェアソフトウェアの共同設計に向けたロードマップを概説する。
関連論文リスト
- An Integrated Approach to Neural Architecture Search for Deep Q-Networks [1.516610503825416]
NAS-DQNは、学習したニューラルネットワーク検索コントローラを直接DRLトレーニングループに統合するエージェントである。
我々はNAS-DQNを3つの固定構造ベースラインに対して評価し、連続的な制御タスクに対してランダムな探索制御を行う。
以上の結果から,NAS-DQNは非無視の計算オーバーヘッドを発生させながら,優れた最終性能,サンプル効率,政策安定性を達成できることが示唆された。
論文 参考訳（メタデータ） (2025-10-22T07:17:31Z) - DANCE: Resource-Efficient Neural Architecture Search with Data-Aware and Continuous Adaptation [41.63918697375821]
DANCE(Dynamic Architectures with Neural Continuous Evolution)を提案する。
DANCEでは、スムーズな適応を可能にする継続的アーキテクチャ分布、効率的なサンプリングのための学習された選択ゲートを備えた統一アーキテクチャ空間、効率的なデプロイメント最適化のためのマルチステージトレーニング戦略の3つの重要なイノベーションを紹介している。
提案手法は,検索コストを大幅に削減しつつ,精度面で最先端のNAS手法より一貫して優れている。
論文 参考訳（メタデータ） (2025-07-07T05:22:55Z) - Edge-Cloud Collaborative Computing on Distributed Intelligence and Model Optimization: A Survey [58.50944604905037]
エッジクラウドコラボレーティブコンピューティング(ECCC)は、現代のインテリジェントアプリケーションの計算要求に対処するための重要なパラダイムとして登場した。
AIの最近の進歩、特にディープラーニングと大規模言語モデル(LLM)は、これらの分散システムの能力を劇的に向上させてきた。
この調査は、基本的なアーキテクチャ、技術の実現、新しいアプリケーションに関する構造化されたチュートリアルを提供する。
論文 参考訳（メタデータ） (2025-05-03T13:55:38Z) - Instructing the Architecture Search for Spatial-temporal Sequence Forecasting with LLM [18.649295352998546]
大規模言語モデル(LLM)に基づくSTSFのための新しいNAS手法を提案する。
提案手法は,STSFの既存のNAS法に対して,より優れた効率で競合効率を実現することができる。
論文 参考訳（メタデータ） (2025-03-23T08:59:04Z) - On Accelerating Edge AI: Optimizing Resource-Constrained Environments [1.7355861031903428]
リソース制約のあるエッジデプロイメントでは、厳格な計算、メモリ、エネルギー制限とハイパフォーマンスのバランスをとるAIソリューションが要求される。
本稿では,このような制約下でのディープラーニングモデルを加速するための主要な戦略について概観する。
論文 参考訳（メタデータ） (2025-01-25T01:37:03Z) - Robustifying and Boosting Training-Free Neural Architecture Search [49.828875134088904]
本稿では,多種多様なタスクにおいて,頑健で一貫したパフォーマンスの指標を開発するために,トレーニング不要なNAS (RoBoT) アルゴリズムを提案する。
注目すべきは、我々のRoBoTの期待性能が理論的に保証され、既存のトレーニングフリーNASよりも改善されることだ。
論文 参考訳（メタデータ） (2024-03-12T12:24:11Z) - Generalizable Lightweight Proxy for Robust NAS against Diverse
Perturbations [59.683234126055694]
最近のニューラルアーキテクチャサーチ(NAS)フレームワークは、与えられた条件に対して最適なアーキテクチャを見つけるのに成功している。
クリーン画像と摂動画像の両方の特徴,パラメータ,勾配の整合性を考慮した,軽量で堅牢なゼロコストプロキシを提案する。
提案手法は,多種多様な摂動にまたがる堅牢性を示す一般化可能な特徴を学習可能な,効率的かつ迅速なニューラルアーキテクチャの探索を容易にする。
論文 参考訳（メタデータ） (2023-06-08T08:34:26Z) - Learning Where To Look -- Generative NAS is Surprisingly Efficient [11.83842808044211]
本稿では,より有望な潜在部分空間からサンプルを生成することを反復的に学習する,代理予測器と組み合わせた生成モデルを提案する。
このアプローチは、クエリ量を低く保ちながら、非常に効率的で効率的なアーキテクチャ検索をもたらす。
論文 参考訳（メタデータ） (2022-03-16T16:27:11Z) - NAS-FCOS: Efficient Search for Object Detection Architectures [113.47766862146389]
簡易なアンカーフリー物体検出器の特徴ピラミッドネットワーク (FPN) と予測ヘッドを探索し, より効率的な物体検出手法を提案する。
慎重に設計された検索空間、検索アルゴリズム、ネットワーク品質を評価するための戦略により、8つのV100 GPUを使用して、4日以内に最高のパフォーマンスの検知アーキテクチャを見つけることができる。
論文 参考訳（メタデータ） (2021-10-24T12:20:04Z) - MS-RANAS: Multi-Scale Resource-Aware Neural Architecture Search [94.80212602202518]
我々は,MS-RANAS(Multi-Scale Resource-Aware Neural Architecture Search)を提案する。
我々は,検索コストの削減を図るために,ワンショットのアーキテクチャ探索手法を採用した。
我々は精度-速度トレードオフの観点から最先端の結果を得る。
論文 参考訳（メタデータ） (2020-09-29T11:56:01Z) - CATCH: Context-based Meta Reinforcement Learning for Transferrable
Architecture Search [102.67142711824748]
CATCHは、転送可能なarChitecture searcHのための、Context-bAsed meTa強化学習アルゴリズムである。
メタラーニングとRLの組み合わせにより、CATCHは検索空間に依存しないまま、新しいタスクに効率的に適応できる。
また、ImageNet、COCO、Cityscapesの競合ネットワークとしてクロスドメインアーキテクチャサーチを扱うこともできる。
論文 参考訳（メタデータ） (2020-07-18T09:35:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。