論文の概要: Engineering Resource-constrained Software Systems with DNN Components: a Concept-based Pruning Approach
- arxiv url: http://arxiv.org/abs/2604.09988v1
- Date: Sat, 11 Apr 2026 02:16:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-14 20:13:15.779371
- Title: Engineering Resource-constrained Software Systems with DNN Components: a Concept-based Pruning Approach
- Title(参考訳): DNNコンポーネントを用いたエンジニアリングリソース制約付きソフトウェアシステム:概念ベースプルーニングアプローチ
- Authors: Federico Formica, Andrea Rota, Aurora Francesca Zanenga, Andrea Bombarda, Mark Lawford, Lionel C. Briand, Claudio Menghi,
- Abstract要約: 本稿では,Deep Neural Networks (DNN) のための概念ベースプルーニング手法を提案する。
特徴、色、クラスといった人間に解釈可能な概念を使って決定を下す。
以上の結果から, コンセプトベースプルーニングは, より小さく, 効果的にDNNを生成することが示唆された。
- 参考スコア(独自算出の注目度): 5.380073435052757
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deep Neural Networks (DNNs) are widely used by engineers to solve difficult problems that require predictive modeling from data. However, these models are often massive, with millions or billions of parameters, and require substantial computational power, RAM, and storage. This becomes a limitation in practical scenarios where strict size and resource constraints must be respected. In this paper, we present a novel concept-based pruning technique for DNNs that guides pruning decisions using human-interpretable concepts, such as features, colors, and classes. This is particularly important in a software engineering context, as DNNs are integrated into systems and must be pruned according to specific system requirements. Our concept-based pruning solution analyzes neuron activations to identify important neurons from a system requirements viewpoint and uses this information to guide the DNN pruning. We assess our solution using the VGG-19 network and a dataset of 26'384 RGB images, focusing on its ability to produce small, effective pruned DNNs and on the computational complexity and performance of these pruned DNNs. We also analyzed the pruning efficiency of our solution and compared alternative configurations. Our results show that concept-based pruning efficiently generates much smaller, effective pruned DNNs. Pruning greatly improves the computational efficiency and performance of DNNs, properties that are particularly useful for practical applications with stringent memory and computational time constraints. Finally, alternative configuration options enable engineers to identify trade-offs adapted to different practical situations.
- Abstract(参考訳): ディープニューラルネットワーク(DNN)は、データから予測モデリングを必要とする難しい問題を解決するために、エンジニアによって広く使用されている。
しかし、これらのモデルはしばしば数百万から数十億のパラメータを持ち、かなりの計算能力、RAM、ストレージを必要とする。
これは、厳格なサイズとリソース制約を尊重しなければならない現実的なシナリオにおける制限となる。
本稿では,DNNのための新しい概念ベースプルーニング手法を提案する。
DNNはシステムに統合され、特定のシステム要件に従ってプルーニングされなければならないため、これは特にソフトウェアエンジニアリングの文脈において重要である。
我々の概念に基づくプルーニングソリューションは、システム要求の観点から重要なニューロンを識別するためにニューロンの活性化を分析し、この情報を用いてDNNプルーニングを誘導する。
VGG-19ネットワークと26'384 RGB画像のデータセットを用いて,小型で効果的なDNNの生成能力と,これらのDNNの計算複雑性と性能に着目したソリューションの評価を行った。
また、ソリューションのプルーニング効率を分析し、代替構成を比較した。
以上の結果から, コンセプトベースプルーニングは, より小さく, 効果的にDNNを生成することが示唆された。
プルーニングはDNNの計算効率と性能を大幅に向上させ、特に厳密なメモリと計算時間制約を持つ実用的なアプリケーションに有用な特性である。
最後に、代替設定オプションにより、エンジニアは異なる実践状況に適応したトレードオフを特定できる。
関連論文リスト
- S$^2$NN: Sub-bit Spiking Neural Networks [53.08060832135342]
スパイキングニューラルネットワーク(SNN)は、マシンインテリジェンスにエネルギー効率のよいパラダイムを提供する。
最近のバイナリSNNの進歩にもかかわらず、大規模ネットワークではストレージと計算の要求が相当に大きい。
1ビット未満の重みを表すサブビットスパイキングニューラルネットワーク(S$2$NNs)を提案する。
論文 参考訳(メタデータ) (2025-09-29T04:17:44Z) - QP-SNN: Quantized and Pruned Spiking Neural Networks [10.74122828236122]
スパイキングニューラルネットワーク(SNN)はスパイクを利用して情報をエンコードし、イベント駆動方式で運用する。
資源限定シナリオにおいて,高性能なSNNを効果的に展開することを目的とした,ハードウェアフレンドリで軽量なSNNを提案する。
論文 参考訳(メタデータ) (2025-02-09T13:50:59Z) - Hardware-Aware DNN Compression via Diverse Pruning and Mixed-Precision
Quantization [1.0235078178220354]
本稿では, プルーニングと量子化を併用してハードウェアに配慮したディープニューラルネットワーク(DNN)の自動圧縮フレームワークを提案する。
われわれのフレームワークはデータセットの平均エネルギー消費量を39%減らし、平均精度損失を1.7%減らし、最先端のアプローチを著しく上回っている。
論文 参考訳(メタデータ) (2023-12-23T18:50:13Z) - An Automata-Theoretic Approach to Synthesizing Binarized Neural Networks [13.271286153792058]
量子ニューラルネットワーク(QNN)が開発され、二項化ニューラルネットワーク(BNN)は特殊なケースとしてバイナリ値に制限されている。
本稿では,指定された特性を満たすBNNの自動合成手法を提案する。
論文 参考訳(メタデータ) (2023-07-29T06:27:28Z) - Neural network relief: a pruning algorithm based on neural activity [47.57448823030151]
重要でない接続を非活性化する簡易な重要スコア計量を提案する。
MNIST上でのLeNetアーキテクチャの性能に匹敵する性能を実現する。
このアルゴリズムは、現在のハードウェアとソフトウェアの実装を考えるとき、FLOPを最小化するように設計されていない。
論文 参考訳(メタデータ) (2021-09-22T15:33:49Z) - Pruning and Slicing Neural Networks using Formal Verification [0.2538209532048866]
ディープニューラルネットワーク(DNN)は、様々なコンピュータシステムにおいてますます重要な役割を担っている。
これらのネットワークを作成するために、エンジニアは通常、望ましいトポロジを指定し、自動トレーニングアルゴリズムを使用してネットワークの重みを選択する。
本稿では,近年のDNN検証の進歩を活用して,この問題に対処することを提案する。
論文 参考訳(メタデータ) (2021-05-28T07:53:50Z) - Learning to Solve the AC-OPF using Sensitivity-Informed Deep Neural
Networks [52.32646357164739]
最適な電力フロー(ACOPF)のソリューションを解決するために、ディープニューラルネットワーク(DNN)を提案します。
提案されたSIDNNは、幅広いOPFスキームと互換性がある。
他のLearning-to-OPFスキームとシームレスに統合できる。
論文 参考訳(メタデータ) (2021-03-27T00:45:23Z) - Widening and Squeezing: Towards Accurate and Efficient QNNs [125.172220129257]
量子化ニューラルネットワーク(QNN)は、非常に安価な計算とストレージオーバーヘッドのため、業界にとって非常に魅力的なものだが、その性能は、完全な精度パラメータを持つネットワークよりも悪い。
既存の手法の多くは、より効果的なトレーニング技術を利用して、特にバイナリニューラルネットワークの性能を高めることを目的としている。
本稿では,従来の完全精度ネットワークで高次元量子化機能に特徴を投影することで,この問題に対処する。
論文 参考訳(メタデータ) (2020-02-03T04:11:13Z) - PatDNN: Achieving Real-Time DNN Execution on Mobile Devices with
Pattern-based Weight Pruning [57.20262984116752]
粗粒構造の内部に新しい次元、きめ細かなプルーニングパターンを導入し、これまで知られていなかった設計空間の点を明らかにした。
きめ細かいプルーニングパターンによって高い精度が実現されているため、コンパイラを使ってハードウェア効率を向上し、保証することがユニークな洞察である。
論文 参考訳(メタデータ) (2020-01-01T04:52:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。