論文の概要: RGB Input Pipelines: Throughput, GPU Memory, and Transformation Coverage
- arxiv url: http://arxiv.org/abs/2609.06635v1
- Date: Sun, 06 Sep 2026 14:32:59 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-12 04:59:23.67855
- Title: RGB Input Pipelines: Throughput, GPU Memory, and Transformation Coverage
- Title(参考訳): RGB入力パイプライン: スループット、GPUメモリ、変換カバレッジ
- Abstract要約: 57のレシピ、256のバッチサイズ、NVIDIA L4マシンを使用している。
すべてのパスで共有される11のレシピでは、DALIとProthentationsXは、中央値のスループットが5,029と4,679イメージ/sであり、中央値のGPUメモリは2,086と1,852 MiBである。
DALIは、22のレシピのすべてにおいて、ProbesentationsXよりも高速で、中央値のスループット比は1.18倍である。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: An image-augmentation pipeline must deliver a complete batch before a model can use it. We compare seven input paths from five libraries, starting with RGB JPEG files and ending with a synchronized CUDA float16 batch. We manually matched transformation recipes and parameters across libraries to make the workloads as comparable as possible. The experiment uses 57 selected recipes, a batch size of 256, and one NVIDIA L4 machine. Throughput and peak process GPU memory are recorded together in 759 measurements. On the 11 recipes shared by all paths, DALI and AlbumentationsX have median throughputs of 5,029 and 4,679 images/s, with median peak GPU memory of 2,086 and 1,852 MiB. Broader pairwise comparisons favor AlbumentationsX on 26/26 TorchVision recipes, 50/51 Kornia recipes, and 25/26 Pillow recipes. DALI is faster than AlbumentationsX on all 22 shared recipes, with a median throughput ratio of 1.18x. A separate census reports coverage of the 118 entries in a selected AlbumentationsX RGB catalog. The study measures input preparation at fixed settings; it does not measure model training, numerical equivalence, or the best attainable configuration of each library. Benchmark code: https://github.com/albumentations-team/benchmark.
- Abstract(参考訳): イメージ拡張パイプラインは、モデルがそれを使用する前に、完全なバッチを提供する必要がある。
RGB JPEGファイルから始まり、同期CUDAfloat16バッチで終わる5つのライブラリから入力パスを7つ比較する。
ワークロードを可能な限り同等にするために、ライブラリ間の変換レシピとパラメータを手作業でマッチングしました。
この実験では57個のレシピ、バッチサイズ256、NVIDIA L4マシンが使用されている。
スループットとピークプロセスのGPUメモリは759の計測で記録される。
すべてのパスで共有される11のレシピでは、DALIとProthentationsXは、中央値のスループットが5,029と4,679イメージ/sであり、中央値のGPUメモリは2,086と1,852 MiBである。
より広義の比較では、26/26 TorchVisionのレシピ、50/51 Korniaのレシピ、25/26 Pillowのレシピに AlbumentationsX が好まれている。
DALIは、22のレシピのすべてにおいて、ProbesentationsXよりも高速で、中央値のスループット比は1.18倍である。
別の国勢調査では、118の項目が選ばれた AlbumentationsX RGB カタログに載っていると報告されている。
本研究は, モデルトレーニング, 数値等価性, および各ライブラリの到達可能な最適構成を計測しない, 一定の設定で入力準備を測定する。
ベンチマークコード:https://github.com/albumentations-team/benchmark。
関連論文リスト
- From 80x to 385x: A Best-Matching-Unit Search at the L2 Roof, Measured Against a Symmetrically Tuned Baseline [0.0]
私は、新しいSOMアルゴリズム(SparseBin)と、それと比較されたベースラインアルゴリズム(cuSPARSE)の両方をチューニングしたプログラムを報告します。
自己組織化マップトレーニングを統括する最良マッチングユニット探索は、4つのレバーで調整された。
チューニングされたカーネルはL2バンド幅の屋根をピークの77%、他のユニットは40-65%、さらにレバーは1.3倍に制限した。
論文 参考訳(メタデータ) (2026-09-04T13:38:42Z) - A Feature-Major Codebook for Memory-Efficient Sparse-Binary Self-Organizing Maps: Scaling a MEDLINE Atlas to 1.05 Million Neurons on a Single Consumer GPU [0.0]
MEDLINEスケールで自己組織化マップを構築するのは現実的ではありません。
このボトルネックは、主にコードブックレイアウトの成果です。
実装、精度、更新ルールが固定されたレイアウトのみを変更すれば、BMU検索は4.5-8.5xに高速化される。
論文 参考訳(メタデータ) (2026-08-25T04:55:07Z) - FLASH-MAXSIM: IO-Aware Fused Kernels for Late-Interaction Scoring [2.159285655678094]
Flash-MaxSimは、テンソルを作らずに全く同じスコアを計算するIO対応カーネルである。
一致した精度ではPyTorchよりもA100では最大3.9倍高速で、推論メモリは最大16倍、トレーニングメモリは28倍高速である。
論文 参考訳(メタデータ) (2026-05-28T07:38:27Z) - FlashSampling: Fast and Memory-Efficient Exact Sampling [62.5203057469482]
FlashSamplingは正確なサンプリングプリミティブで、LMヘッドのマトゥルにサンプリングを融合し、ロジットテンソルを生成しない。
H100、H200、B200、B300 GPU全体で、FlashSamplingはカーネルレベルのデコードワークロードを高速化する。
エンドツーエンドのvLLM実験では、テストしたモデルで出力トークン当たりの時間を最大19%削減します。
論文 参考訳(メタデータ) (2026-03-16T19:37:08Z) - FuseSampleAgg: Fused Neighbor Sampling and Aggregation for Mini-batch GNNs [51.56484100374058]
FuseSampleAggは、隣人の平均アグリゲーションをGraphSAGEの1つのパスにフューズし、サンプリングする。
Operatorは決定論的であり、標準のPyTorchと統合され、CSVログからすべてのテーブルとフィギュアを再現するスクリプトが同梱されている。
論文 参考訳(メタデータ) (2025-11-17T17:57:18Z) - Breaking the Memory Barrier: Near Infinite Batch Size Scaling for Contrastive Loss [59.835032408496545]
本稿では, コントラスト損失計算を任意の小ブロックに分割するタイルベースの戦略を提案する。
分散システムの階層構造を活用するためのマルチレベルタイリング戦略も導入する。
SOTAメモリ効率のソリューションと比較すると、同等の速度を維持しながら、メモリの2桁の削減を実現している。
論文 参考訳(メタデータ) (2024-10-22T17:59:30Z) - Hardware-Aware Parallel Prompt Decoding for Memory-Efficient Acceleration of LLM Inference [23.633481089469836]
LLM(Large Language Models)の自動回帰デコーディングは、ハードウェアの性能に大きなオーバーヘッドをもたらす。
トレーニング可能なパラメータを0.0002$%しか必要とせず,A100-40GBのGPUをたった16時間で効率的にトレーニングできる並列プロンプトデコーディングを提案する。
我々のアプローチでは、最大2.49$times$ スピードアップを示し、最小のメモリオーバーヘッドは0.0004$%である。
論文 参考訳(メタデータ) (2024-05-28T22:19:30Z) - Stochastic Gradient Descent without Full Data Shuffle [65.97105896033815]
CorgiPileは階層的なデータシャッフル戦略で、完全なデータシャッフルを回避すると同時に、完全なシャッフルを実行したかのようにSGDの収束率を同等に維持する。
以上の結果から,CorgiPileは深層学習モデルと一般化線形モデルの両方において,全シャッフルベースSGDと同等の収束率を達成できることが示唆された。
論文 参考訳(メタデータ) (2022-06-12T20:04:31Z) - Adaptive Elastic Training for Sparse Deep Learning on Heterogeneous
Multi-GPU Servers [65.60007071024629]
本稿では,Adaptive SGDが4つの最先端ソリューションよりも精度が高いことを示す。
本稿では,Adaptive SGDが時間と精度で4つの最先端ソリューションより優れていることを示す。
論文 参考訳(メタデータ) (2021-10-13T20:58:15Z) - Efficient and Generic 1D Dilated Convolution Layer for Deep Learning [52.899995651639436]
幅広いパラメータをカバーする汎用的な1D畳み込み層の効率的な実装を紹介します。
特にIntel AVX-512とAVX-512 BFloat16命令を含むアーキテクチャ向けに最適化されている。
本稿では,最適化された1次元畳み込み層の性能を,実際のゲノミクスデータセットを用いたエンドツーエンドニューラルネットワークトレーニングで実証する。
論文 参考訳(メタデータ) (2021-04-16T09:54:30Z) - Accelerating Translational Image Registration for HDR Images on GPU [2.578242050187029]
シーンの複数の露出を用いてハイダイナミックレンジ画像を生成する。
画像は、両方の次元で各イメージをグローバルにシフトすることで整列する必要がある。
本研究では,GPUを用いた並列処理手法を用いて,これらの計算を最適化する。
論文 参考訳(メタデータ) (2020-07-13T16:34:05Z) - Parallel 3DPIFCM Algorithm for Noisy Brain MRI Images [3.3946853660795884]
本稿では,GPUを用いて並列環境で3DPIFCMと呼ばれる[1]で開発したアルゴリズムについて述べる。
この結果から,並列バージョンはGAIFCMアルゴリズムより最大27倍高速,GAIFCMアルゴリズムより68倍高速であることがわかった。
論文 参考訳(メタデータ) (2020-02-05T20:30:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。