論文の概要: Partial Search in a Frozen Network is Enough to Find a Strong Lottery Ticket
- arxiv url: http://arxiv.org/abs/2402.14029v2
- Date: Mon, 3 Jun 2024 13:12:18 GMT
- ステータス: 処理完了
- システム内更新日: 2024-06-04 16:38:05.126808
- Title: Partial Search in a Frozen Network is Enough to Find a Strong Lottery Ticket
- Title（参考訳）: 冷凍ネットワークにおける部分探索は、強力なロテリチケットを見つけるのに十分である
- Authors: Hikari Otsuka, Daiki Chijiwa, Ángel López García-Arias, Yasuyuki Okoshi, Kazushi Kawamura, Thiem Van Chu, Daichi Fujiki, Susumu Takeuchi, Masato Motomura,
- Abstract要約: ランダムに密集したネットワークは、ウェイトラーニングなしで高い精度を達成する--強い宝くじ(SLT)
本稿では,所望のSLT間隔に依存しない任意の比でSLT探索空間を縮小する手法を提案する。
実験により,提案手法は高密度あるいはランダムに切断されたソースネットワークから得られたSLTよりも精度・モデル間サイズトレードオフのよいSLTを見出した。
- 参考スコア（独自算出の注目度）: 4.677449143134506
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Randomly initialized dense networks contain subnetworks that achieve high accuracy without weight learning -- strong lottery tickets (SLTs). Recently, Gadhikar et al. (2023) demonstrated that SLTs can also be found within a randomly pruned source network, thus reducing the SLT search space. However, this limits the search to SLTs that are even sparser than the source, leading to worse accuracy due to unintentionally high sparsity. This paper proposes a method that reduces the SLT search space by an arbitrary ratio independent of the desired SLT sparsity. A random subset of the initial weights is excluded from the search space by freezing it -- i.e., by either permanently pruning them or locking them as a fixed part of the SLT. In addition to reducing search space, the proposed random freezing can also provide the benefit of reducing the model size for inference. Furthermore, experimental results show that the proposed method finds SLTs with better accuracy-to-model size trade-off than the SLTs obtained from dense or randomly pruned source networks. In particular, the SLTs found in Frozen ResNets on image classification using ImageNet significantly improve the accuracy-to-search space and accuracy-to-model size trade-offs over SLTs within dense (non-freezing) or sparse (non-locking) random networks.
- Abstract（参考訳）: ランダムに初期化された高密度ネットワークには、ウェイトラーニングなしで高い精度を達成するサブネットワークが含まれている -- 強力な宝くじチケット(SLT)。近年、Gadhikarら (2023) は、SLTをランダムに刈り取ったソースネットワーク内で見つけることができ、SLTの検索スペースを削減できることを示した。しかし、これは、意図しないほど高いスパース性により、ソースよりもはるかに精度が悪く、SLTの検索を制限している。本稿では、SLTの検索スペースを所望のSLT間隔とは独立に任意の比率で縮小する手法を提案する。
探索空間の削減に加えて、提案したランダム凍結は、推論のモデルサイズを削減できる。
さらに,提案手法は,高密度あるいはランダムに切断されたソースネットワークから得られたSLTよりも精度・モデル間サイズトレードオフのよいSLTを見出した。
特に、ImageNetを用いた画像分類におけるFrozen ResNetsに見られるSLTは、密集(非凍結)またはスパース(非ロック)ランダムネットワーク内のSLTに対する精度-検索空間と精度-モデルサイズトレードオフを大幅に改善する。
関連論文リスト
- On the Sparsity of the Strong Lottery Ticket Hypothesis [8.47014750905382]
最近の研究で、任意のニューラルネットワークを正確に近似できるランダムニューラルネットワークの$N$ containsworksが示されている。
古典的セッティングにおけるStrong Lottery Ticket仮説の最初の証明を提供する。
論文 参考訳（メタデータ） (2024-10-18T06:57:37Z) - ELSA: Partial Weight Freezing for Overhead-Free Sparse Network
Deployment [95.04504362111314]
本稿では,異なるレベルの空間に容易に展開可能な深層ネットワーク構築のための実用的ソリューションであるELSAを提案する。
中心となる考え方は、重みの適切なサブセットとして、1つの高密度ネットワークに1つ以上のスパースネットワークを埋め込むことである。
予測時には、任意のスパースモデルを、予め定義されたマスクに従って単純に重みをゼロにすることができる。
論文 参考訳（メタデータ） (2023-12-11T22:44:05Z) - Lottery Pools: Winning More by Interpolating Tickets without Increasing
Training or Inference Cost [28.70692607078139]
ロッテリーチケット(LT)は、密集したネットワークの性能に合わせるために単独で訓練できる正確でまばらな作業を見つけることができる。
また,本手法は,流通シナリオとアウト・オブ・ディストリビューションシナリオの両方において,大幅な性能向上を実現していることを示す。
論文 参考訳（メタデータ） (2022-08-23T09:50:55Z) - Not All Lotteries Are Made Equal [0.0]
本研究は, モデルサイズとこれらのスパースサブネットワークの発見容易性の関係について検討する。
意外なことに、有限の予算の下では、小さなモデルの方がTicket Search(TS)の恩恵を受けることを示す実験を通して示します。
論文 参考訳（メタデータ） (2022-06-16T13:41:36Z) - Dual Lottery Ticket Hypothesis [71.95937879869334]
Lottery Ticket hypothesis (LTH)は、スパースネットワークトレーニングを調査し、その能力を維持するための新しい視点を提供する。
本稿では,LTHの当選チケットをトレーニング可能なサブネットワークとして,その性能をベンチマークとして検討する。
本稿では,簡単なスパースネットワークトレーニング戦略であるランダムスパースネットワークトランスフォーメーション(RST)を提案し,DLTHを裏付ける。
論文 参考訳（メタデータ） (2022-03-08T18:06:26Z) - Efficient Lottery Ticket Finding: Less Data is More [87.13642800792077]
Lottery ticket hypothesis (LTH) は、高密度ネットワークに対する当選チケット(希少だが批判的)の存在を明らかにする。
入場券の発見には, 列車プルー・リトラクションのプロセスにおいて, 煩雑な計算が必要となる。
本稿では、特別に選択されたデータのみを用いて、より効率的に宝くじを発見できる新しい視点を探求する。
論文 参考訳（メタデータ） (2021-06-06T19:58:17Z) - Multi-Prize Lottery Ticket Hypothesis: Finding Accurate Binary Neural
Networks by Pruning A Randomly Weighted Network [13.193734014710582]
マルチプライズチケット(MPT)の検索アルゴリズムを提案し,CIFAR-10およびImageNetデータセット上で一連の実験を行うことで試験する。
当社のMTTs-1/32は、新しいバイナリウェイトネットワーク最新(SOTA)Top-1精度(CIFAR-10では94.8%、ImageNetでは74.03%)を設定するだけでなく、それぞれ1.78%と0.76%に上る。
論文 参考訳（メタデータ） (2021-03-17T00:31:24Z) - Learning N:M Fine-grained Structured Sparse Neural Networks From Scratch [75.69506249886622]
ディープニューラルネットワーク(DNN)におけるスパーシティは、資源制約された環境でモデルを圧縮し、加速するために広く研究されている。
本稿では,N:M細粒構造スパースネットワークのスクラッチからトレーニングを初めて行う。
論文 参考訳（メタデータ） (2021-02-08T05:55:47Z) - Good Students Play Big Lottery Better [84.6111281091602]
宝くじの仮説は、高密度ニューラルネットワークは、元の高密度ネットのテスト精度に一致できる疎サブネットワークを含むことを示唆している。
近年の研究では、巻き戻し技術を用いてスパースサブネットワークが得られることが示されている。
本論文では,KDチケット (Knowledge Distillation Ticket) と呼ばれるサブネットワークを再訓練する手法を提案する。
論文 参考訳（メタデータ） (2021-01-08T23:33:53Z) - Proving the Lottery Ticket Hypothesis: Pruning is All You Need [56.25432563818297]
抽選券仮説では、ランダムなdネットワークには、独立した訓練を受けた場合、元のネットワークの性能と競合する小さなサブネットワークが含まれている。
我々は、全ての有界分布と、有界重みを持つ全ての対象ネットワークに対して、ランダム重みを持つ十分に過度にパラメータ化されたニューラルネットワークは、目標ネットワークとほぼ同じ精度のサブネットワークを、それ以上のトレーニングなしに含んでいることを証明し、さらに強い仮説を証明した。
論文 参考訳（メタデータ） (2020-02-03T07:23:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。