論文の概要: HERCULES: Hardware-Efficient, Robust, Continual Learning Neural Architecture Search
- arxiv url: http://arxiv.org/abs/2605.04103v1
- Date: Sun, 03 May 2026 17:27:37 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-07 18:41:07.439461
- Title: HERCULES: Hardware-Efficient, Robust, Continual Learning Neural Architecture Search
- Title(参考訳): HERCULES: ハードウェア効率、ロバスト、継続的な学習ニューラルアーキテクチャ検索
- Authors: Matteo Gambella, Fabrizio Pittorino, Manuel Roveri,
- Abstract要約: 本研究では,NAS手法の分類法を提案し,資源最適化,環境のレジリエンス,アーキテクチャの可塑性といった手法を区別する。
この分類に基づいて、これらのNAS手法の現在の展望を、ハードウェア効率、ロバスト、およびContinUal LEarning Search (HERCULES)と呼ばれる新しいフレームワークにマッピングする。
この調査では、真にデプロイ可能な、生涯学習可能なAIシステムのための、アルゴリズム、アーキテクチャ、ハードウェアソフトウェアの共同設計へのロードマップを概説する。
- 参考スコア(独自算出の注目度): 4.373192121914541
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Neural Architecture Search (NAS) has emerged as a powerful framework for automatically discovering neural architectures that balance accuracy and efficiency. However, as AI transitions from static benchmarks to real-world deployment, the traditional focus on hardware-aware efficiency is no longer sufficient. We observe that modern NAS methods, especially those that target edge AI, are evolving to address a triple objective: Efficiency, Robustness, and Continual Learning. While efficiency ensures feasibility in resource-constrained environments, robustness guarantees reliability under environmental variabilities, and continual learning enables adaptation to sequential tasks without catastrophic forgetting. We propose a taxonomy of NAS approaches through this triple lens, distinguishing between methods targeting resource optimization, environmental resilience, and architectural plasticity. This unified perspective reveals that these axes, though often studied in isolation, are mutually reinforcing. Building on this taxonomy, we map the current landscape of these NAS methods into a new framework called Hardware-Efficient, Robust, and ContinUal LEarning Search (HERCULES). We define the desiderata, the twelve labours of HERCULES, addressing the non-trivial challenge of balancing an adequate search-space exploration with the immense computational costs of a multi-objective NAS, accounting for these crucial objectives of current AI systems. By identifying critical gaps in existing research, this survey outlines a roadmap toward integrated algorithmic, architectural, and hardware-software co-design for truly deployable, lifelong-learning AI systems.
- Abstract(参考訳): ニューラルネットワーク検索(NAS)は、正確性と効率のバランスをとるニューラルネットワークを自動的に検出する強力なフレームワークとして登場した。
しかし、AIが静的ベンチマークから実世界のデプロイメントに移行するにつれ、ハードウェア対応の効率性に伝統的な焦点が当てられなくなった。
現代のNAS手法、特にエッジAIをターゲットにした手法は、効率性、ロバスト性、継続的な学習という3つの目標に対処するために進化している。
効率性は資源制約環境における実現可能性を保証するが、ロバスト性は環境変動下での信頼性を保証し、連続学習は破滅的な忘れをせずにシーケンシャルなタスクへの適応を可能にする。
本稿では,この3重レンズによるNASアプローチの分類法を提案し,資源最適化,環境弾力性,建築の可塑性といった手法を区別する。
この統一的な視点は、これらの軸は、しばしば孤立して研究されるが、相互に補強されていることを示している。
この分類に基づいて、これらのNASメソッドの現在の状況を、ハードウェア効率、ロバスト、ContinUal LEarning Search (HERCULES)と呼ばれる新しいフレームワークにマッピングする。
HERCULESの12の作業であるdesiderataを定義し、現在のAIシステムのこれらの重要な目的を考慮し、多目的NASの膨大な計算コストと適切な探索空間探索のバランスをとるという、非自明な課題に対処する。
既存の研究における重要なギャップを特定することで、本調査は、真にデプロイ可能な、生涯学習可能なAIシステムのための、統合されたアルゴリズム、アーキテクチャ、ハードウェアソフトウェアの共同設計に向けたロードマップを概説する。
関連論文リスト
- DANCE: Resource-Efficient Neural Architecture Search with Data-Aware and Continuous Adaptation [41.63918697375821]
DANCE(Dynamic Architectures with Neural Continuous Evolution)を提案する。
DANCEでは、スムーズな適応を可能にする継続的アーキテクチャ分布、効率的なサンプリングのための学習された選択ゲートを備えた統一アーキテクチャ空間、効率的なデプロイメント最適化のためのマルチステージトレーニング戦略の3つの重要なイノベーションを紹介している。
提案手法は,検索コストを大幅に削減しつつ,精度面で最先端のNAS手法より一貫して優れている。
論文 参考訳(メタデータ) (2025-07-07T05:22:55Z) - Edge-Cloud Collaborative Computing on Distributed Intelligence and Model Optimization: A Survey [58.50944604905037]
エッジクラウドコラボレーティブコンピューティング(ECCC)は、現代のインテリジェントアプリケーションの計算要求に対処するための重要なパラダイムとして登場した。
AIの最近の進歩、特にディープラーニングと大規模言語モデル(LLM)は、これらの分散システムの能力を劇的に向上させてきた。
この調査は、基本的なアーキテクチャ、技術の実現、新しいアプリケーションに関する構造化されたチュートリアルを提供する。
論文 参考訳(メタデータ) (2025-05-03T13:55:38Z) - Instructing the Architecture Search for Spatial-temporal Sequence Forecasting with LLM [18.649295352998546]
大規模言語モデル(LLM)に基づくSTSFのための新しいNAS手法を提案する。
提案手法は,STSFの既存のNAS法に対して,より優れた効率で競合効率を実現することができる。
論文 参考訳(メタデータ) (2025-03-23T08:59:04Z) - On Accelerating Edge AI: Optimizing Resource-Constrained Environments [1.7355861031903428]
リソース制約のあるエッジデプロイメントでは、厳格な計算、メモリ、エネルギー制限とハイパフォーマンスのバランスをとるAIソリューションが要求される。
本稿では,このような制約下でのディープラーニングモデルを加速するための主要な戦略について概観する。
論文 参考訳(メタデータ) (2025-01-25T01:37:03Z) - MS-RANAS: Multi-Scale Resource-Aware Neural Architecture Search [94.80212602202518]
我々は,MS-RANAS(Multi-Scale Resource-Aware Neural Architecture Search)を提案する。
我々は,検索コストの削減を図るために,ワンショットのアーキテクチャ探索手法を採用した。
我々は精度-速度トレードオフの観点から最先端の結果を得る。
論文 参考訳(メタデータ) (2020-09-29T11:56:01Z) - CATCH: Context-based Meta Reinforcement Learning for Transferrable
Architecture Search [102.67142711824748]
CATCHは、転送可能なarChitecture searcHのための、Context-bAsed meTa強化学習アルゴリズムである。
メタラーニングとRLの組み合わせにより、CATCHは検索空間に依存しないまま、新しいタスクに効率的に適応できる。
また、ImageNet、COCO、Cityscapesの競合ネットワークとしてクロスドメインアーキテクチャサーチを扱うこともできる。
論文 参考訳(メタデータ) (2020-07-18T09:35:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。