論文の概要: MOSHO: A Native Discrete Shark-Inspired Metaheuristic for Hardware-Aware Neural Architecture Search
- arxiv url: http://arxiv.org/abs/2610.33358v1
- Date: Fri, 23 Oct 2026 22:56:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 22:27:13.31118
- Title: MOSHO: A Native Discrete Shark-Inspired Metaheuristic for Hardware-Aware Neural Architecture Search
- Title(参考訳): MOSHO: ハードウェアを意識したニューラルアーキテクチャ検索のための,離散型シャークインスパイアされたメタヒューリスティック
- Abstract要約: ハードウェア対応ニューラルアーキテクチャサーチ(NAS)では、離散的な検索空間上での予測精度とデバイス固有のレイテンシを共同で最適化する必要がある。
MoSHOは独立な独立なメタヒューリスティックであり、連続運動方程式を離散的なアーキテクチャ編集演算子に置き換える。
その結果,Swarmがハードウェア対応NASにおいて,検索コストを大幅に削減して高品質な多目的ソリューション品質を実現することができることがわかった。
- 参考スコア(独自算出の注目度): 4.565838112718072
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Hardware-aware neural architecture search (NAS) requires jointly optimizing predictive accuracy and device-specific latency over discrete search spaces. While multi-objective swarm optimizers show promise, continuous formulations such as the Multi-Objective White Shark Optimizer (MOWSO) can suffer from quantization noise when rounded to integer-encoded architecture vectors. To address this limitation, we propose MOSHO (Multi-Objective Shark Hunting Optimization), a native discrete metaheuristic that replaces continuous motion equations with discrete architecture-editing operators. MOSHO integrates adaptive operator scheduling, energy-regulated restarts, and deferred crowding-distance truncation to enhance exploration and search efficiency. On the merged NAS-Bench-201/HW-NAS-Bench benchmark across 18 contexts, MOSHO achieves a median normalized hypervolume of 0.9987 and IGD+ of 0.0064, yielding Pareto fronts competitive with NSGA-II while reducing search runtime by 96.4% (0.64 s vs. 17.72 s). These results demonstrate that tailored discrete search mechanisms can enable swarm optimizers to achieve high-quality multi-objective solution quality with substantially lower search cost in hardware-aware NAS.
- Abstract(参考訳): ハードウェア対応ニューラルアーキテクチャサーチ(NAS)では、離散的な検索空間上での予測精度とデバイス固有のレイテンシを共同で最適化する必要がある。
マルチオブジェクトのSwarmオプティマイザは将来性を示すが、Multi-Objective White Shark Optimizer (MOWSO)のような連続的な定式化は、整数符号化アーキテクチャベクトルに丸められたときに量子化ノイズに悩まされる。
この制限に対処するために、連続運動方程式を離散的アーキテクチャ編集演算子に置き換える独立な離散的メタヒューリスティックであるMOSHO(Multi-Objective Shark Hunting Optimization)を提案する。
MOSHOは、適応的な演算子スケジューリング、エネルギー規制された再起動、そして、探索と探索効率を高めるために群衆距離の切り離しを統合する。
18の文脈にわたるNAS-Bench-201/HW-NAS-Benchベンチマークで、MOSHOは0.9987とIGD+が0.0064である中央正規化ハイパーボリュームを達成し、検索ランタイムを96.4%削減した(0.64 s vs. 17.72 s)。
これらの結果から,Swarmオプティマイザがハードウェア対応NASにおいて,検索コストを大幅に削減した高品質なマルチオブジェクトソリューション品質を実現することが可能であることが示唆された。
関連論文リスト
- ELASTIC: Efficient Once For All Iterative Search for Object Detection on Microcontrollers [5.162131184069973]
ELASTICは、モジュール間で周期的に最適化を交互に行う、ハードウェア対応の統一NASフレームワークである。
進化的探索における集団パススルー機構は、探索段階間の高品質な候補を保持し、より高速な収束をもたらす。
マイクロコントローラにデプロイすると、ELASTIC由来のモデルはAnalog DevicesのMCUSSDベースラインを上回り、エネルギーを最大71.6%削減し、レイテンシを最大2.4倍下げ、mAPを最大6.99ポイント改善した。
論文 参考訳(メタデータ) (2025-03-27T21:35:02Z) - Quasar-ViT: Hardware-Oriented Quantization-Aware Architecture Search for Vision Transformers [56.37495946212932]
視覚変換器(ViT)は、畳み込みニューラルネットワーク(CNN)と比較して、コンピュータビジョンタスクにおいて優れた精度を示す。
ハードウェア指向の量子化対応アーキテクチャ検索フレームワークであるQuasar-ViTを提案する。
論文 参考訳(メタデータ) (2024-07-25T16:35:46Z) - Multi-Objective Neural Architecture Search by Learning Search Space Partitions [8.4553113915588]
ニューラルアーキテクチャ探索(NAS)タスクにLaMOOと呼ばれる新しいメタアルゴリズムを実装した。
LaMOOは、観測されたサンプルからモデルを学び、検索空間を分割し、将来性のある領域に集中することによって、検索プロセスを高速化する。
現実世界のタスクでは、LaMOOの精度は97.36%、CIFAR10の#Paramsはわずか600のサンプルで1.62万である。
論文 参考訳(メタデータ) (2024-06-01T03:51:34Z) - Multi-objective Differentiable Neural Architecture Search [58.67218773054753]
我々は,ユーザの好みをトレードオフ性能やハードウェアメトリクスにエンコードするNASアルゴリズムを提案する。
提案手法は,既存のMOO NAS手法を,定性的に異なる検索空間やデータセットの広い範囲で性能良くする。
論文 参考訳(メタデータ) (2024-02-28T10:09:04Z) - FLIQS: One-Shot Mixed-Precision Floating-Point and Integer Quantization Search [50.07268323597872]
本稿では,整数浮動小数点モデルと低精度浮動小数点モデルの両方において再学習を不要とする,最初のワンショット混合量子化探索を提案する。
整数モデルでは、ImageNet上のResNet-18の精度を1.31%、ResNet-50の精度を0.90%向上させる。
従来のFP8モデルと比較して,新しい混合精度浮動小数点探索を探索し,最大0.98%改善した。
論文 参考訳(メタデータ) (2023-08-07T04:17:19Z) - Free Bits: Latency Optimization of Mixed-Precision Quantized Neural
Networks on the Edge [17.277918711842457]
混合精度量子化は、モデルサイズ、レイテンシ、統計的精度の間のトレードオフを最適化する機会を提供する。
本稿では,与えられたネットワークに対する混合精度構成の探索空間をナビゲートするハイブリッド探索手法を提案する。
ハードウェアに依存しない差別化検索アルゴリズムと、特定のハードウェアターゲットに対して遅延最適化された混合精度構成を見つけるハードウェア対応最適化で構成されている。
論文 参考訳(メタデータ) (2023-07-06T09:57:48Z) - Lightweight Neural Architecture Search for Temporal Convolutional
Networks at the Edge [21.72253397805102]
この研究は特に、時系列処理のための畳み込みモデルであるTCN(Temporal Convolutional Networks)に焦点を当てている。
我々は,TNの最も特異なアーキテクチャパラメータの最適化を明示的に目標とする最初のNASツールを提案する。
提案したNASは,音声および生体信号を含む4つの実世界のエッジ関連タスクでテストする。
論文 参考訳(メタデータ) (2023-01-24T19:47:40Z) - ZARTS: On Zero-order Optimization for Neural Architecture Search [94.41017048659664]
微分可能なアーキテクチャサーチ (DARTS) は、NASの高効率性のため、一般的なワンショットパラダイムである。
この作業はゼロオーダーの最適化に変わり、上記の近似を強制せずに探索するための新しいNASスキームであるZARTSを提案する。
特に、12ベンチマークの結果は、DARTSの性能が低下するZARTSの顕著な堅牢性を検証する。
論文 参考訳(メタデータ) (2021-10-10T09:35:15Z) - MS-RANAS: Multi-Scale Resource-Aware Neural Architecture Search [94.80212602202518]
我々は,MS-RANAS(Multi-Scale Resource-Aware Neural Architecture Search)を提案する。
我々は,検索コストの削減を図るために,ワンショットのアーキテクチャ探索手法を採用した。
我々は精度-速度トレードオフの観点から最先端の結果を得る。
論文 参考訳(メタデータ) (2020-09-29T11:56:01Z) - Latency-Aware Differentiable Neural Architecture Search [113.35689580508343]
近年、探索コストの低さと検索空間設計の柔軟性から、微分可能なニューラルネットワーク探索法が人気を博している。
しかし、これらの手法はネットワーク最適化の難しさに悩まされており、検索されたネットワークはハードウェアに不便な場合が多い。
本稿では,この問題を最適化に微分可能な遅延損失項を追加することにより,精度とレイテンシのトレードオフをバランス係数で行うことができる。
論文 参考訳(メタデータ) (2020-01-17T15:55:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。