論文の概要: Do Newer Lightweight CNNs Perform Better Under Resource Constraints? A Controlled Multigenerational Study of Architecture, Initialization, Training Budget, and Efficiency
- arxiv url: http://arxiv.org/abs/2607.01984v1
- Date: Thu, 02 Jul 2026 10:14:07 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-03 19:45:08.786166
- Title: Do Newer Lightweight CNNs Perform Better Under Resource Constraints? A Controlled Multigenerational Study of Architecture, Initialization, Training Budget, and Efficiency
- Title（参考訳）: 資源制約下での新しい軽量CNNはより良い性能を発揮するか? アーキテクチャ、初期化、訓練予算、効率の多世代的研究
- Abstract要約: 本研究では,CIFAR-10,CIFAR-100,Tiny ImageNetの9つの軽量CNNモデルパッケージを比較した。
NVIDIA L4およびAMD 5500U CPU上で,トップ1精度,マクロF1,トップ5精度,パラメータカウント,FP32ストレージ,GMAC,バッチサイズ-1レイテンシを報告した。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Newer lightweight convolutional neural networks are often presented as improving predictive performance and deployment efficiency, but such claims require controlled evaluation. This study compares nine lightweight CNN model packages across CIFAR-10, CIFAR-100, and Tiny ImageNet under a shared downstream protocol. We report top-1 accuracy, macro F1, top-5 accuracy, parameter count, FP32 storage, GMACs, batch-size-1 latency on an NVIDIA L4 and AMD Ryzen 5 5500U CPU, peak PyTorch CUDA allocated tensor memory, and point estimate Pareto frontiers. EfficientNetV2-S achieves the highest observed top-1 accuracy on CIFAR-10 and CIFAR-100 at 97.57% and 86.98%, while RepViT-M1.0 leads Tiny ImageNet at 79.87%. EfficientNet-B0 remains within 0.22, 0.85, and 1.79 percentage points of the best result on the three datasets while using approximately 79% fewer parameters and 86% fewer GMACs than EfficientNetV2-S. It also appears on every evaluated accuracy and resource Pareto frontier, making it the most consistently competitive intermediate-budget option. MobileNetV3-Small has the lowest GMAC count, is the fastest model under both CPU thread settings, and records higher observed accuracy than MobileNetV4-Conv-S on all three datasets. Under random initialization, it leads MobileNetV4-Conv-S by 2.55, 1.76, and 0.99 points, with paired test-set intervals excluding zero for the fixed trained models. EfficientNet-B0 remains 3.29, 10.10, and 17.54 points below its pretrained counterpart after 100 epochs of scratch training, despite requiring about five times the recorded training time. SqueezeNet1.1 has the fewest parameters and lowest peak CUDA allocation, but substantially weaker accuracy. Latency rankings differ sharply between the L4 and CPU environments, showing that GMACs alone do not predict measured inference performance. Overall, newer designs provide selective rather than universal gains
- Abstract（参考訳）: より軽量な畳み込みニューラルネットワークは、予測性能とデプロイメント効率を改善するものとしてしばしば提示されるが、そのような主張は制御された評価を必要とする。
本研究では、CIFAR-10、CIFAR-100、Tiny ImageNetの9つの軽量CNNモデルパッケージを共有下流プロトコルで比較した。
我々は,トップ1精度,マクロF1,トップ5精度,パラメータカウント,FP32ストレージ,GMAC,NVIDIA L4およびAMD Ryzen 5 5500U CPU,ピークPyTorch CUDA割り当てテンソルメモリ,ポイント推定パレートフロンティアについて報告する。
効率の良いNetV2-Sは、CIFAR-10とCIFAR-100の97.57%と86.98%で、RepViT-M1.0はTiny ImageNetを79.87%でリードする。
効率的なNet-B0は3つのデータセットの最良の結果の0.22、0.85、および1.79パーセントの範囲に留まり、約79%のパラメータと86%のGMACを有効NetV2-Sよりも少ない。
また、評価されたすべての精度とリソースのParetoフロンティアに表示され、最も競争力のある中間予算オプションとなっている。
MobileNetV3-Smallは最小のGMACカウントを持ち、両方のCPUスレッド設定で最速のモデルであり、3つのデータセットでMobileNetV4-Conv-Sよりも高い観測精度を記録している。
ランダム初期化の下では、MobileNetV4-Conv-Sを2.55、1.76、0.99ポイントリードし、固定訓練モデルの0を除くペアテストセット間隔を持つ。
効率的なNet-B0は、100回のスクラッチトレーニングの後、トレーニング済みの3.29、10.10、17.54ポイント以下に留まっている。
SqueezeNet1.1は最小のパラメータと最小のCUDA割り当てを持つが、精度はかなり低い。
遅延ランキングはL4とCPU環境で大きく異なり、GMACだけが測定された推論性能を予測していないことを示している。
全体として、新しいデザインは普遍的な利得よりも選択的な利得を提供する
関連論文リスト
- STResNet & STYOLO : A New Family of Compact Classification and Object Detection Models for MCUs [3.9048771791853816]
画像分類のためのSTResNetと、リソース制約のあるプラットフォーム上での精度、効率、メモリフットプリントに最適化されたオブジェクト検出のためのSTYOLO。
STResNetMilliは、300万のパラメータだけで、Top 1の精度が70.0%に達し、MobileNetV1とShuffleNetV2を同等の計算複雑性で上回っている。
論文 参考訳（メタデータ） (2026-01-08T20:39:50Z) - Reinforce Data, Multiply Impact: Improved Model Accuracy and Robustness
with Dataset Reinforcement [68.44100784364987]
本研究では、強化データセット上でトレーニングされたモデルアーキテクチャの精度が、ユーザにとって追加のトレーニングコストなしで向上するように、データセットを改善する戦略を提案する。
ImageNet+と呼ばれるImageNetトレーニングデータセットの強化バージョンと、強化されたデータセットCIFAR-100+、Flowers-102+、Food-101+を作成します。
ImageNet+でトレーニングされたモデルは、より正確で、堅牢で、校正され、下流タスクにうまく転送されます。
論文 参考訳（メタデータ） (2023-03-15T23:10:17Z) - Efficient CNN Architecture Design Guided by Visualization [13.074652653088584]
VGNetG-1.0MPは0.99Mパラメータで67.7%、ImageNet分類データセットで1.14Mパラメータで69.2%である。
我々のVGNetF-1.5MPは64.4%(-3.2%)のトップ1の精度と66.2%(-1.4%)のトップ1の精度でガウスカーネルを追加している。
論文 参考訳（メタデータ） (2022-07-21T06:22:15Z) - EdgeNeXt: Efficiently Amalgamated CNN-Transformer Architecture for
Mobile Vision Applications [68.35683849098105]
入力テンソルを複数のチャネルグループに分割するSDTAエンコーダを導入する。
1.3Mパラメータを持つEdgeNeXtモデルでは、ImageNet-1Kで71.2%のTop-1精度を実現している。
パラメータ5.6MのEdgeNeXtモデルでは、ImageNet-1Kで79.4%のTop-1精度を実現しています。
論文 参考訳（メタデータ） (2022-06-21T17:59:56Z) - PP-PicoDet: A Better Real-Time Object Detector on Mobile Devices [13.62426382827205]
実時間物体検出器のPP-PicoDetファミリは,モバイルデバイスの物体検出において優れた性能を発揮する。
モデルは、他の一般的なモデルと比較して、精度とレイテンシのトレードオフを改善する。
論文 参考訳（メタデータ） (2021-11-01T12:53:17Z) - EfficientNetV2: Smaller Models and Faster Training [91.77432224225221]
本稿では,従来のモデルよりも高速な学習速度とパラメータ効率を有する畳み込みネットワークであるEfficientNetV2を紹介する。
トレーニング対応のニューラルネットワークアーキテクチャ検索とスケーリングを組み合わせて、トレーニング速度とパラメータ効率を共同で最適化します。
実験の結果,EfficientNetV2モデルは最先端モデルよりも最大6.8倍の速度でトレーニングできることがわかった。
論文 参考訳（メタデータ） (2021-04-01T07:08:36Z) - Res-GCNN: A Lightweight Residual Graph Convolutional Neural Networks for
Human Trajectory Forecasting [0.0]
ペデストリアンの対話的挙動をモデル化した残差グラフ畳み込みニューラルネットワーク(Res-GCNN)を提案する。
その結果、最終変位誤差(FDE)が0.65mに達すると、アートの状態を13.3%改善することが示された。
コードはGitHubで公開されている。
論文 参考訳（メタデータ） (2020-11-18T11:18:16Z) - EagleEye: Fast Sub-net Evaluation for Efficient Neural Network Pruning [82.54669314604097]
EagleEyeは、適応型バッチ正規化に基づく、シンプルだが効率的な評価コンポーネントである。
異なる破砕された構造と最終的な精度の間に強い相関関係が明らかになる。
このモジュールは、既存のプルーニングアルゴリズムをプラグインし改善するためにも一般的である。
論文 参考訳（メタデータ） (2020-07-06T01:32:31Z) - FBNetV3: Joint Architecture-Recipe Search using Predictor Pretraining [65.39532971991778]
サンプル選択とランキングの両方を導くことで、アーキテクチャとトレーニングのレシピを共同でスコアする精度予測器を提案する。
高速な進化的検索をCPU分で実行し、さまざまなリソース制約に対するアーキテクチャと準備のペアを生成します。
FBNetV3は最先端のコンパクトニューラルネットワークのファミリーを構成しており、自動と手動で設計された競合より優れている。
論文 参考訳（メタデータ） (2020-06-03T05:20:21Z) - TResNet: High Performance GPU-Dedicated Architecture [6.654949459658242]
近年開発された多くのディープラーニングモデルは、FLOPS数が少なく、ResNet50よりもImageNetの精度が高い。
本稿では、GPUトレーニングと推論効率を維持しながら、ニューラルネットワークの精度を高めることを目的としたアーキテクチャ修正のシリーズを紹介する。
我々は、従来のConvNetよりも精度と効率を向上する、TResNetと呼ばれるGPU専用モデルの新しいファミリーを紹介する。
論文 参考訳（メタデータ） (2020-03-30T17:04:47Z) - Fixing the train-test resolution discrepancy: FixEfficientNet [98.64315617109344]
本稿では,複数のトレーニング手順を用いて,効率的なNet画像分類器の性能解析を行う。
FixEfficientNetと呼ばれる結果のネットワークは、同じ数のパラメータで初期アーキテクチャを著しく上回る。
論文 参考訳（メタデータ） (2020-03-18T14:22:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。