Fugu-MT 論文翻訳(概要): Finding Optimal Kernel Size and Dimension in Convolutional Neural Networks An Architecture Optimization Approach

論文の概要: Finding Optimal Kernel Size and Dimension in Convolutional Neural Networks An Architecture Optimization Approach

arxiv url: http://arxiv.org/abs/2506.14846v1
Date: Mon, 16 Jun 2025 15:15:30 GMT
ステータス: 翻訳完了
システム内更新日: 2025-06-19 19:35:51.426893
Title: Finding Optimal Kernel Size and Dimension in Convolutional Neural Networks An Architecture Optimization Approach
Title（参考訳）: 畳み込みニューラルネットワークにおける最適カーネルサイズと次元の探索 : アーキテクチャ最適化アプローチ
Authors: Shreyas Rajeev, B Sathish Babu,
Abstract要約: 畳み込みニューラルネットワーク(CNN)におけるカーネルサイズ選択は批判的だが、しばしば見過ごされる設計決定である。本稿では,最適なカーネルサイズ決定のためのBKSEF(Best Kernel Size Estimation)を提案する。 BKSEFは情報理論、信号処理、学習理論の原理を統合することで、情報ゲイン、計算効率、精度の向上のバランスをとる。
参考スコア（独自算出の注目度）: 0.0
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Kernel size selection in Convolutional Neural Networks (CNNs) is a critical but often overlooked design decision that affects receptive field, feature extraction, computational cost, and model accuracy. This paper proposes the Best Kernel Size Estimation Function (BKSEF), a mathematically grounded and empirically validated framework for optimal, layer-wise kernel size determination. BKSEF balances information gain, computational efficiency, and accuracy improvements by integrating principles from information theory, signal processing, and learning theory. Extensive experiments on CIFAR-10, CIFAR-100, ImageNet-lite, ChestX-ray14, and GTSRB datasets demonstrate that BKSEF-guided architectures achieve up to 3.1 percent accuracy improvement and 42.8 percent reduction in FLOPs compared to traditional models using uniform 3x3 kernels. Two real-world case studies further validate the approach: one for medical image classification in a cloud-based setup, and another for traffic sign recognition on edge devices. The former achieved enhanced interpretability and accuracy, while the latter reduced latency and model size significantly, with minimal accuracy trade-off. These results show that kernel size can be an active, optimizable parameter rather than a fixed heuristic. BKSEF provides practical heuristics and theoretical support for researchers and developers seeking efficient and application-aware CNN designs. It is suitable for integration into neural architecture search pipelines and real-time systems, offering a new perspective on CNN optimization.
Abstract（参考訳）: 畳み込みニューラルネットワーク(CNN)におけるカーネルサイズ選択は、受容領域、特徴抽出、計算コスト、モデル精度に影響を与える重要な設計決定である。本稿では,BKSEF(Best Kernel Size Estimation Function)を提案する。 BKSEFは情報理論、信号処理、学習理論の原理を統合することで、情報ゲイン、計算効率、精度の向上のバランスをとる。 CIFAR-10、CIFAR-100、ImageNet-lite、ChestX-ray14、GTSRBデータセットの大規模な実験により、BKSEF誘導アーキテクチャは3.1%の精度向上と42.8%のFLOPを実現している。 2つの実世界のケーススタディは、クラウドベースのセットアップにおける医療画像分類のためのもの、エッジデバイス上での交通標識認識のためのもの、というアプローチをさらに検証している。前者は解釈可能性と精度を向上し、後者はレイテンシとモデルサイズを大幅に削減し、最小限の精度のトレードオフを実現した。これらの結果は、カーネルサイズが固定ヒューリスティックではなく、アクティブで最適化可能なパラメータであることを示している。 BKSEFは、効率的でアプリケーション対応のCNN設計を求める研究者や開発者に対して、実践的なヒューリスティックと理論的支援を提供する。ニューラルネットワーク検索パイプラインとリアルタイムシステムとの統合に適しているため、CNN最適化に関する新たな視点を提供する。

関連論文リスト

Building Efficient Lightweight CNN Models [0.0]
畳み込みニューラルネットワーク(CNN)は、その堅牢な特徴抽出能力のため、画像分類タスクにおいて重要である。本稿では,競争精度を維持しつつ軽量CNNを構築する手法を提案する。提案モデルは手書き文字MNISTで99%,ファッションMNISTで89%,パラメータは14,862,モデルサイズは0.17MBであった。
論文参考訳（メタデータ） (2025-01-26T14:39:01Z)
Task-Oriented Real-time Visual Inference for IoVT Systems: A Co-design Framework of Neural Networks and Edge Deployment [61.20689382879937]
タスク指向エッジコンピューティングは、データ分析をエッジにシフトすることで、この問題に対処する。既存の手法は、高いモデル性能と低いリソース消費のバランスをとるのに苦労している。ニューラルネットワークアーキテクチャを最適化する新しい協調設計フレームワークを提案する。
論文参考訳（メタデータ） (2024-10-29T19:02:54Z)
SpiKernel: A Kernel Size Exploration Methodology for Improving Accuracy of the Embedded Spiking Neural Network Systems [6.006032394972252]
Spiking Neural Networks(SNN)は、機械学習ベースのアプリケーションタスクに対して、超低消費電力/エネルギー消費を提供する。現在、ほとんどのSNNアーキテクチャはより高精度なモデルサイズを必要とする。カーネルサイズ探索によりSNNの精度を向上させる新しい手法であるSpike Kernelを提案する。
論文参考訳（メタデータ） (2024-04-02T06:42:14Z)
FlowNAS: Neural Architecture Search for Optical Flow Estimation [65.44079917247369]
本研究では,フロー推定タスクにおいて,より優れたエンコーダアーキテクチャを自動で見つけるために,FlowNASというニューラルアーキテクチャ探索手法を提案する。実験の結果、スーパーネットワークから受け継いだ重み付きアーキテクチャは、KITTI上で4.67%のF1-allエラーを達成していることがわかった。
論文参考訳（メタデータ） (2022-07-04T09:05:25Z)
Multi-objective Evolutionary Approach for Efficient Kernel Size and Shape for CNN [12.697368516837718]
VGGNetやResNetのようなCNNトポロジにおける最先端の開発は、ますます正確になっている。これらのネットワークは数十億の演算とパラメータを含む計算コストが高い。本稿では,畳み込み層におけるカーネルのサイズと数を削減することにより,計算資源の消費を最適化することを検討する。
論文参考訳（メタデータ） (2021-06-28T14:47:29Z)
ANNETTE: Accurate Neural Network Execution Time Estimation with Stacked Models [56.21470608621633]
本稿では,アーキテクチャ検索を対象ハードウェアから切り離すための時間推定フレームワークを提案する。提案手法は,マイクロカーネルと多層ベンチマークからモデルの集合を抽出し,マッピングとネットワーク実行時間推定のためのスタックモデルを生成する。生成した混合モデルの推定精度と忠実度, 統計モデルとルーフラインモデル, 評価のための洗練されたルーフラインモデルを比較した。
論文参考訳（メタデータ） (2021-05-07T11:39:05Z)
Random Features for the Neural Tangent Kernel [57.132634274795066]
完全接続型ReLUネットワークのニューラルタンジェントカーネル(NTK)の効率的な特徴マップ構築を提案する。得られた特徴の次元は、理論と実践の両方で比較誤差境界を達成するために、他のベースライン特徴マップ構造よりもはるかに小さいことを示しています。
論文参考訳（メタデータ） (2021-04-03T09:08:12Z)
Convolution Neural Network Hyperparameter Optimization Using Simplified Swarm Optimization [2.322689362836168]
畳み込みニューラルネットワーク(CNN)はコンピュータビジョンで広く使われている。パフォーマンスが向上したネットワークアーキテクチャを見つけるのは容易ではない。
論文参考訳（メタデータ） (2021-03-06T00:23:27Z)
DrNAS: Dirichlet Neural Architecture Search [88.56953713817545]
ディリクレ分布をモデルとした連続緩和型混合重みをランダム変数として扱う。最近開発されたパスワイズ微分により、ディリクレパラメータは勾配に基づく一般化で容易に最適化できる。微分可能なNASの大きなメモリ消費を軽減するために, 単純かつ効果的な進行学習方式を提案する。
論文参考訳（メタデータ） (2020-06-18T08:23:02Z)
FBNetV3: Joint Architecture-Recipe Search using Predictor Pretraining [65.39532971991778]
サンプル選択とランキングの両方を導くことで、アーキテクチャとトレーニングのレシピを共同でスコアする精度予測器を提案する。高速な進化的検索をCPU分で実行し、さまざまなリソース制約に対するアーキテクチャと準備のペアを生成します。 FBNetV3は最先端のコンパクトニューラルネットワークのファミリーを構成しており、自動と手動で設計された競合より優れている。
論文参考訳（メタデータ） (2020-06-03T05:20:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。