論文の概要: AutoBSS: An Efficient Algorithm for Block Stacking Style Search
- arxiv url: http://arxiv.org/abs/2010.10261v2
- Date: Mon, 29 Mar 2021 05:08:52 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-05 05:43:24.646304
- Title: AutoBSS: An Efficient Algorithm for Block Stacking Style Search
- Title(参考訳): AutoBSS: ブロックスタックスタイル検索の効率的なアルゴリズム
- Authors: Yikang Zhang, Jian Zhang, Zhao Zhong
- Abstract要約: Block Stacking Style (BSS)は、ネットワークに無視できない影響を与える可能性がある。
近年の研究では、BSSがネットワークに無視できない影響を与えている可能性も示されており、自動で検索する効率的なアルゴリズムを設計している。
提案手法であるAutoBSSはベイズ最適化に基づく新しいAutoMLアルゴリズムである。
- 参考スコア(独自算出の注目度): 11.825952017529842
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Neural network architecture design mostly focuses on the new convolutional
operator or special topological structure of network block, little attention is
drawn to the configuration of stacking each block, called Block Stacking Style
(BSS). Recent studies show that BSS may also have an unneglectable impact on
networks, thus we design an efficient algorithm to search it automatically. The
proposed method, AutoBSS, is a novel AutoML algorithm based on Bayesian
optimization by iteratively refining and clustering Block Stacking Style Code
(BSSC), which can find optimal BSS in a few trials without biased evaluation.
On ImageNet classification task, ResNet50/MobileNetV2/EfficientNet-B0 with our
searched BSS achieve 79.29%/74.5%/77.79%, which outperform the original
baselines by a large margin. More importantly, experimental results on model
compression, object detection and instance segmentation show the strong
generalizability of the proposed AutoBSS, and further verify the unneglectable
impact of BSS on neural networks.
- Abstract(参考訳): ニューラルネットワークアーキテクチャの設計は、主に新しい畳み込み演算子やネットワークブロックの特別なトポロジ構造に焦点を当てているが、ブロック積み重ねスタイル(bss)と呼ばれる各ブロックを積み重ねる構成にはほとんど注意が払われていない。
近年の研究では、BSSがネットワークに無視できない影響を与える可能性も示されており、自動で検索する効率的なアルゴリズムを設計している。
提案手法であるAutoBSSは,Block Stacking Style Code (BSSC) の反復精錬とクラスタリングによるベイズ最適化に基づく,新しいAutoMLアルゴリズムである。
ImageNetの分類タスクでは、検索したBSSによるResNet50/MobileNetV2/EfficientNet-B0が79.29%/74.5%/77.79%に達し、元のベースラインよりも大きなマージンで上回っている。
さらに重要なことは、モデル圧縮、オブジェクト検出、インスタンスセグメンテーションの実験結果から、提案したAutoBSSの強力な一般化可能性を示し、さらにニューラルネットワークに対するBSSの予期せぬ影響を検証することである。
関連論文リスト
- Task-Oriented Real-time Visual Inference for IoVT Systems: A Co-design Framework of Neural Networks and Edge Deployment [61.20689382879937]
タスク指向エッジコンピューティングは、データ分析をエッジにシフトすることで、この問題に対処する。
既存の手法は、高いモデル性能と低いリソース消費のバランスをとるのに苦労している。
ニューラルネットワークアーキテクチャを最適化する新しい協調設計フレームワークを提案する。
論文 参考訳(メタデータ) (2024-10-29T19:02:54Z) - AdaRC: Mitigating Graph Structure Shifts during Test-Time [66.40525136929398]
テスト時間適応(TTA)は、ソースドメインに再アクセスすることなく、トレーニング済みのモデルをターゲットドメインに適応できる能力によって注目を集めている。
AdaRCは,グラフの構造シフトに効果的かつ効率的な適応を意図した,革新的なフレームワークである。
論文 参考訳(メタデータ) (2024-10-09T15:15:40Z) - Unveiling the Power of Sparse Neural Networks for Feature Selection [60.50319755984697]
スパースニューラルネットワーク(SNN)は、効率的な特徴選択のための強力なツールとして登場した。
動的スパーストレーニング(DST)アルゴリズムで訓練されたSNNは、平均して50%以上のメモリと55%以上のFLOPを削減できることを示す。
以上の結果から,DSTアルゴリズムで訓練したSNNによる特徴選択は,平均して50ドル以上のメモリと55%のFLOPを削減できることがわかった。
論文 参考訳(メタデータ) (2024-08-08T16:48:33Z) - Sequential Binary Classification for Intrusion Detection in Software Defined Networks [0.0]
侵入検知システム (IDS) は Software-Defined Networks (SDN) の重要な部分である
IDSデータセットは、標準機械学習(ML)モデルのパフォーマンスに影響を及ぼす、高いクラス不均衡に悩まされる。
この問題に対処する多クラス分類アルゴリズムとして,SBC(Sequential Binary Classification)を提案する。
論文 参考訳(メタデータ) (2024-06-10T08:34:13Z) - Sensitivity-Aware Mixed-Precision Quantization and Width Optimization of Deep Neural Networks Through Cluster-Based Tree-Structured Parzen Estimation [4.748931281307333]
本稿では,個々のニューラルネットワーク層に対して最適なビット幅と層幅を自動的に選択する革新的な探索機構を提案する。
これにより、ディープニューラルネットワークの効率が著しく向上する。
論文 参考訳(メタデータ) (2023-08-12T00:16:51Z) - The Cascaded Forward Algorithm for Neural Network Training [61.06444586991505]
本稿では,ニューラルネットワークのための新しい学習フレームワークであるCascaded Forward(CaFo)アルゴリズムを提案する。
FFとは異なり、我々のフレームワークは各カスケードブロックのラベル分布を直接出力する。
我々のフレームワークでは、各ブロックは独立して訓練できるので、並列加速度システムに容易に展開できる。
論文 参考訳(メタデータ) (2023-03-17T02:01:11Z) - Content-aware Scalable Deep Compressed Sensing [8.865549833627794]
本稿では、画像圧縮センシング問題に対処するため、CASNetと呼ばれる新しいコンテンツ対応スケーラブルネットワークを提案する。
まず,各画像領域の重要度を評価するためにデータ駆動型サリエンシ検出器を採用し,サンプリングレートアロケーションのためのサリエンシベースのブロック比アグリゲーション(BRA)戦略を提案する。
トレーニングの収束を加速し、ネットワークの堅牢性を向上させるために、SVDベースのスキームとランダム変換強化(RTE)戦略を提案する。
論文 参考訳(メタデータ) (2022-07-19T14:59:14Z) - Improved Branch and Bound for Neural Network Verification via Lagrangian
Decomposition [161.09660864941603]
ニューラルネットワークの入出力特性を公式に証明するためのブランチとバウンド(BaB)アルゴリズムのスケーラビリティを改善します。
活性化に基づく新しい分岐戦略とBaBフレームワークであるブランチとデュアルネットワーク境界(BaDNB)を提案する。
BaDNBは、従来の完全検証システムを大きなマージンで上回り、対数特性で平均検証時間を最大50倍に削減した。
論文 参考訳(メタデータ) (2021-04-14T09:22:42Z) - Encoding the latent posterior of Bayesian Neural Networks for
uncertainty quantification [10.727102755903616]
我々は,複雑なコンピュータビジョンアーキテクチャに適した効率的な深部BNNを目指している。
可変オートエンコーダ(VAE)を利用して、各ネットワーク層におけるパラメータの相互作用と潜在分布を学習する。
我々のアプローチであるLatent-Posterior BNN(LP-BNN)は、最近のBatchEnsemble法と互換性があり、高い効率(トレーニングとテストの両方における計算とメモリ)のアンサンブルをもたらす。
論文 参考訳(メタデータ) (2020-12-04T19:50:09Z) - Bayesian Optimization with Machine Learning Algorithms Towards Anomaly
Detection [66.05992706105224]
本稿では,ベイズ最適化手法を用いた効果的な異常検出フレームワークを提案する。
ISCX 2012データセットを用いて検討したアルゴリズムの性能を評価する。
実験結果から, 精度, 精度, 低コストアラームレート, リコールの観点から, 提案手法の有効性が示された。
論文 参考訳(メタデータ) (2020-08-05T19:29:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。