論文の概要: Loss-Aware Feature-Map Pruning in Convolutional Neural Networks Using Multi-Armed Bandits
- arxiv url: http://arxiv.org/abs/2607.22564v1
- Date: Fri, 29 May 2026 20:03:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-02 22:55:38.966159
- Title: Loss-Aware Feature-Map Pruning in Convolutional Neural Networks Using Multi-Armed Bandits
- Title(参考訳): マルチアーマッド帯域を用いた畳み込みニューラルネットワークにおけるロスアウェア特徴マッププルーニング
- Abstract要約: 畳み込みニューラルネットワークは、しばしばストレージと推論コストを増加させる冗長な特徴マップを含む。
本稿では,多腕バンディットを用いた損失認識型特徴マッププルーニングフレームワークを提案する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Convolutional neural networks often contain redundant feature maps that increase storage and inference cost. This paper presents a loss-aware feature-map pruning framework using multi-armed bandits. Feature-map pruning is structured because it removes complete convolutional output channels and their producing filters rather than isolated scalar weights. Each candidate feature map is treated as an arm. At each play time, one map is temporarily masked and evaluated on a sampled mini-batch; the map is then restored and the observed loss change is converted into a safe-removal reward. After a fixed play budget, candidate maps are ranked by learned scores and the top-k maps are permanently removed with their filters, biases and corresponding next-layer input-channel kernels. The study evaluates UCB1 and Thompson Sampling, compares them with direct/oracle-style evaluation on LeNet/MNIST, and extends the evaluation to MNIST, CIFAR-10, CIFAR-100, SVHN, CUB-200-2011 and Oxford Flowers 102. Results show that UCB1 and Thompson Sampling preserve accuracy close to unpruned models while removing feature maps and reducing convolutional computation. Friedman and Nemenyi tests show that UCB1 obtains the highest mean rank, followed by Thompson Sampling; both significantly outperform greedy and magnitude-based pruning while remaining statistically comparable to the original unpruned model.
- Abstract(参考訳): 畳み込みニューラルネットワークは、しばしばストレージと推論コストを増加させる冗長な特徴マップを含む。
本稿では,多腕バンディットを用いた損失認識型特徴マッププルーニングフレームワークを提案する。
特徴マッププルーニングは、分離されたスカラー重みではなく、完全な畳み込み出力チャネルとそれらの生成フィルタを取り除くため、構成されている。
各候補特徴写像は、アームとして扱われる。
各プレイ時に、1つのマップを一時的にマスクし、サンプル化されたミニバッチで評価し、その後マップを復元し、観察された損失変化を安全な除去報酬に変換する。
固定プレイ予算の後、候補マップは学習スコアによってランク付けされ、上位kマップはフィルタ、バイアス、および対応する次層入力チャネルカーネルによって永久に除去される。
この研究はCB1とトンプソンサンプリングを評価し、それらをLeNet/MNISTの直接/オークルスタイルの評価と比較し、MNIST, CIFAR-10, CIFAR-100, SVHN, CUB-200-2011, Oxford Flowers 102に拡張した。
その結果, UCB1とトンプソンサンプリングは, 特徴写像を除去し, 畳み込み計算を低減しつつ, 未切断モデルに近い精度を保っていることがわかった。
Friedman と Nemenyi のテストでは UCB1 が最高位を獲得し、Thompson Sampling が続く。
関連論文リスト
- ActMap: Single-Pass Uncertainty Quantification from Generation-Time Activation Maps [1.7403133838762448]
ActMapは、生成時の隠れ状態軌跡を固定された12時間s32times128$の時間統計チャネルに圧縮する表現である。
小型ビジョン変換器としてインスタンス化された軽量分類器は、各マップから推定された正当性確率をミリ秒単位で読み取る。
論文 参考訳(メタデータ) (2026-09-10T13:04:24Z) - Structured Neuron Pruning in Deep Neural Networks Using Multi-Armed Bandits [0.0]
本稿では,マルチアーム・バンディット(MAB)アルゴリズムを用いて完全ニューロンを除去する構造的プルーニングフレームワークを提案する。
このフレームワークは、Epsilon-Greedy、Softmax、UPB1、Thompson Samplingなどのポリシーをサポートし、Hedgeスタイルの乗法重みやEXP3を含む乗法重みポリシーをサポートしている。
論文 参考訳(メタデータ) (2026-05-29T19:56:54Z) - OptiMVMap: Offline Vectorized Map Construction via Optimal Multi-vehicle Perspectives [111.69010751405368]
オフラインベクトル化マップは、高精度の自動運転およびマッピングサービスの重要な基盤となっている。
既存のアプローチは、基本的に視点の不十分さに苦しむ1つのエゴ車軌道に大きく依存している。
本稿では,これらの課題に体系的に対処するために,多車種対応マップを選択型ヒューズ問題として再構成するOptiMVMapを提案する。
論文 参考訳(メタデータ) (2026-04-18T20:23:27Z) - NeRF-Det++: Incorporating Semantic Cues and Perspective-aware Depth
Supervision for Indoor Multi-View 3D Detection [72.0098999512727]
NeRF-Detは、NeRFを用いた屋内マルチビュー3次元検出において、表現学習の強化による優れた性能を実現している。
セマンティックエンハンスメント(セマンティックエンハンスメント)、パースペクティブ・アウェア・サンプリング(パースペクティブ・アウェア・サンプリング)、および順序深度監視を含む3つのソリューションを提案する。
結果として得られたアルゴリズムであるNeRF-Det++は、ScanNetV2とAR KITScenesデータセットで魅力的なパフォーマンスを示している。
論文 参考訳(メタデータ) (2024-02-22T11:48:06Z) - The Conditioning Bias in Binary Decision Trees and Random Forests and
Its Elimination [0.0]
格子特性を持つ特徴が存在する場合の条件付き演算子の選択によって生じるバイアスについて検討する。
我々は、このバイアスを排除し、決定木によるさらなる予測を必要とし、無作為な森林のコストを発生させない手法を提案する。
論文 参考訳(メタデータ) (2023-12-17T12:56:39Z) - Asynchronously Trained Distributed Topographic Maps [0.0]
分散トレーニングによって特徴マップを生成するために,N$の自律ユニットを用いたアルゴリズムを提案する。
単位の自律性は、分散探索とカスケード駆動の重み更新スキームを組み合わせることで、時間と空間のスパース相互作用によって達成される。
論文 参考訳(メタデータ) (2023-01-20T01:15:56Z) - Generalized Differentiable RANSAC [95.95627475224231]
$nabla$-RANSACは、ランダム化された堅牢な推定パイプライン全体を学ぶことができる、微分可能なRANSACである。
$nabla$-RANSACは、精度という点では最先端のシステムよりも優れているが、精度は低い。
論文 参考訳(メタデータ) (2022-12-26T15:13:13Z) - GDP: Stabilized Neural Network Pruning via Gates with Differentiable
Polarization [84.57695474130273]
ゲートベースまたは重要度に基づくプルーニング手法は、重要度が最小のチャネルを削除することを目的としている。
GDPは、各チャネルのオン・アンド・オフを制御するために、ベルやホイッスルのない畳み込み層の前に接続することができる。
CIFAR-10とImageNetデータセットを用いて行った実験は、提案したGDPが最先端のパフォーマンスを達成することを示している。
論文 参考訳(メタデータ) (2021-09-06T03:17:10Z) - CAMERAS: Enhanced Resolution And Sanity preserving Class Activation
Mapping for image saliency [61.40511574314069]
バックプロパゲーション画像のサリエンシは、入力中の個々のピクセルのモデル中心の重要性を推定することにより、モデル予測を説明することを目的としている。
CAMERASは、外部の事前処理を必要とせずに、高忠実度バックプロパゲーション・サリエンシ・マップを計算できる手法である。
論文 参考訳(メタデータ) (2021-06-20T08:20:56Z) - SCOP: Scientific Control for Reliable Neural Network Pruning [127.20073865874636]
本稿では,科学的制御を設定することにより,信頼性の高いニューラルネットワークプルーニングアルゴリズムを提案する。
冗長フィルタは、異なる特徴の逆数過程において発見できる。
提案手法では,ResNet-101のパラメータ57.8%,FLOP60.2%を削減できる。
論文 参考訳(メタデータ) (2020-10-21T03:02:01Z) - HRank: Filter Pruning using High-Rank Feature Map [149.86903824840752]
我々は高階特徴写像(HRank)を探索する新しいフィルタ刈り法を提案する。
私たちのHRankは、単一のフィルタで生成された複数の特徴マップの平均ランクが常に同じであるという発見にインスピレーションを受けています。
HRankに基づいて,低ランク特徴写像を持つプーンフィルタに数学的に定式化する手法を開発した。
論文 参考訳(メタデータ) (2020-02-24T11:50:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。