Fugu-MT 論文翻訳(概要): 94% on CIFAR-10 in 3.29 Seconds on a Single GPU

論文の概要: 94% on CIFAR-10 in 3.29 Seconds on a Single GPU

arxiv url: http://arxiv.org/abs/2404.00498v2
Date: Fri, 5 Apr 2024 00:09:00 GMT
ステータス: 処理完了
システム内更新日: 2024-04-08 17:55:13.482881
Title: 94% on CIFAR-10 in 3.29 Seconds on a Single GPU
Title（参考訳）: 94%がCIFAR-10で3.29秒間、シングルGPUで
Authors: Keller Jordan,
Abstract要約: CIFAR-10のトレーニング手法を導入し,3.29秒で94%,10.4秒で95%,46.3秒で96%の精度を実現した。これらのトレーニング速度に寄与する要因の1つとして、水平反転増強のデランドマイズした変種を提案する。
参考スコア（独自算出の注目度）: 1.994307489466967
License: http://creativecommons.org/licenses/by/4.0/
Abstract: CIFAR-10 is among the most widely used datasets in machine learning, facilitating thousands of research projects per year. To accelerate research and reduce the cost of experiments, we introduce training methods for CIFAR-10 which reach 94% accuracy in 3.29 seconds, 95% in 10.4 seconds, and 96% in 46.3 seconds, when run on a single NVIDIA A100 GPU. As one factor contributing to these training speeds, we propose a derandomized variant of horizontal flipping augmentation, which we show improves over the standard method in every case where flipping is beneficial over no flipping at all. Our code is released at https://github.com/KellerJordan/cifar10-airbench.
Abstract（参考訳）: CIFAR-10は機械学習で最も広く使われているデータセットの1つであり、年間数千の研究プロジェクトを促進している。 CIFAR-10は3.29秒で94%,10.4秒で95%,46.3秒で96%に達する。これらのトレーニング速度に寄与する要因の1つとして,水平転動増強のデランドマイズ版を提案する。私たちのコードはhttps://github.com/KellerJordan/cifar10-airbench.comで公開されています。

関連論文リスト

Open-VCLIP: Transforming CLIP to an Open-vocabulary Video Model via Interpolated Weight Optimization [82.75718846187685]
我々は、CLIPを強力なゼロショットビデオ分類器に変換する、シンプルで効果的なアプローチであるOpen-VCLIPを紹介する。我々は,Open-VCLIPのトレーニングが,履歴データゼロの連続学習と等価であることを示す。特に、UCF、HMDB、Kinetics-600データセットで87.9%、58.3%、81.1%のゼロショット精度を達成した。
論文参考訳（メタデータ） (2023-02-01T17:44:17Z)
Peeling the Onion: Hierarchical Reduction of Data Redundancy for Efficient Vision Transformer Training [110.79400526706081]
ビジョントランス (ViT) は近年多くのアプリケーションで成功を収めているが、その計算量とメモリ使用量によって一般化が制限されている。従来の圧縮アルゴリズムは通常、事前訓練された高密度モデルから始まり、効率的な推論のみに焦点を当てる。本稿では,3つのスパースの観点から,Tri-Level E-ViTと呼ばれるエンドツーエンドの効率的なトレーニングフレームワークを提案する。
論文参考訳（メタデータ） (2022-11-19T21:15:47Z)
BEV Lane Det: Fast Lane Detection on BEV Ground [3.230736644603395]
本研究は,CNN層とFC層のみを有する展開指向単分子3Dレーン検出器を提案する。検出器はApollo 3D Lane SyntheticデータセットとOpenLane実世界のデータセットで96 FPS実行速度で最先端の結果を達成した。
論文参考訳（メタデータ） (2022-10-12T08:22:21Z)
EfficientNeRF: Efficient Neural Radiance Fields [63.76830521051605]
我々は,3次元シーンを表現し,新しい映像を合成する効率的なNeRF法として,EfficientNeRFを提案する。本手法は, トレーニング時間の88%以上を短縮し, 200FPS以上のレンダリング速度を達成できるが, 競争精度は高い。
論文参考訳（メタデータ） (2022-06-02T05:36:44Z)
Scalable and Efficient Training of Large Convolutional Neural Networks with Differential Privacy [10.098114696565865]
大規模畳み込みニューラルネットワーク(CNN)は、差分プライベート(DP)方式でトレーニングすることが困難である。混合ゴーストクリッピングと呼ばれる畳み込み層におけるこのクリッピングの効率的かつスケーラブルな実装を提案する。 CIFAR10では96.7%、CIFAR100では83.0%の精度が$epsilon=1$でBEiTで達成され、前回の結果は94.8%と67.4%であった。
論文参考訳（メタデータ） (2022-05-21T22:01:12Z)
Data-Efficient Instance Segmentation with a Single GPU [88.31338435907304]
我々は2021年のVIPriors Instance Challengeで使用したデータ効率のセグメンテーション手法を紹介した。私たちのソリューションは、強力なツールボックスであるmmdetectionをベースにした、Swin Transformerの修正版です。本手法は,全競技者の2位である0.592のAP@0.50:0.95(medium)を達成した。
論文参考訳（メタデータ） (2021-10-01T07:36:20Z)
FNAS: Uncertainty-Aware Fast Neural Architecture Search [54.49650267859032]
強化学習(Reinforcement Learning, RL)に基づくニューラルアーキテクチャサーチ(NAS)は一般的に、収束性の向上を保証するが、巨大な計算資源の要求に悩まされる。 NASにおけるロールアウトプロセスとRLプロセスの収束を加速する汎用パイプラインを提案する。 Mobile Neural Architecture Search (MNAS)サーチスペースの実験では、提案するFast Neural Architecture Search (FNAS)が標準のRLベースのNASプロセスを10倍高速化することを示した。
論文参考訳（メタデータ） (2021-05-25T06:32:52Z)
Sample Factory: Egocentric 3D Control from Pixels at 100000 FPS with Asynchronous Reinforcement Learning [68.2099740607854]
サンプルファクトリー(Sample Factory)は、シングルマシン設定に最適化された高スループットトレーニングシステムである。我々のアーキテクチャは、非常に効率的で非同期なGPUベースのサンプリングと、オフポリシー補正技術を組み合わせています。我々は,Sample Factoryを拡張して,セルフプレイと人口ベーストレーニングをサポートし,これらのテクニックを多人数一対一シューティングゲームのための高度なエージェントの訓練に応用する。
論文参考訳（メタデータ） (2020-06-21T10:00:23Z)
Software-Level Accuracy Using Stochastic Computing With Charge-Trap-Flash Based Weight Matrix [2.580765958706854]
チャージトラップフラッシュ(CTF)メモリは飽和前に大量のレベルを持つが、非線形性は変化しない。シミュレーションにより、最適範囲の選択において、我々のシステムは正確な浮動小数点演算を用いて訓練されたモデルとほぼ同等の性能を示すことを示す。また,Q-Learningにおける価値関数近似に使用される強化学習にも応用し,約146ステップでマウンテンカー制御問題を完成させる。
論文参考訳（メタデータ） (2020-03-09T02:45:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。