論文の概要: TorchBench: Benchmarking PyTorch with High API Surface Coverage
- arxiv url: http://arxiv.org/abs/2304.14226v2
- Date: Fri, 28 Apr 2023 19:56:19 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-02 10:32:19.028550
- Title: TorchBench: Benchmarking PyTorch with High API Surface Coverage
- Title（参考訳）: torchbench: api表面カバレッジの高いpytorchのベンチマーク
- Authors: Yueming Hao, Xu Zhao, Bin Bao, David Berard, Will Constable, Adnan
Aziz, Xu Liu
- Abstract要約: 我々は、PyTorchソフトウェアスタックの性能を研究するための新しいベンチマークスイートであるTorchBenchを提案する。
TorchBenchは、PyTorchソフトウェアスタックのパフォーマンスを包括的に特徴付けることができる。
本稿では,TorchBenchの実用例を2つ紹介する。
- 参考スコア（独自算出の注目度）: 9.68698340637426
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deep learning (DL) has been a revolutionary technique in various domains. To
facilitate the model development and deployment, many deep learning frameworks
are proposed, among which PyTorch is one of the most popular solutions. The
performance of ecosystem around PyTorch is critically important, which saves
the costs of training models and reduces the response time of model inferences.
In this paper, we propose TorchBench, a novel benchmark suite to study the
performance of PyTorch software stack. Unlike existing benchmark suites,
TorchBench encloses many representative models, covering a large PyTorch API
surface. TorchBench is able to comprehensively characterize the performance of
the PyTorch software stack, guiding the performance optimization across models,
PyTorch framework, and GPU libraries. We show two practical use cases of
TorchBench. (1) We profile TorchBench to identify GPU performance
inefficiencies in PyTorch. We are able to optimize many performance bugs and
upstream patches to the official PyTorch repository. (2) We integrate
TorchBench into PyTorch continuous integration system. We are able to identify
performance regression in multiple daily code checkins to prevent PyTorch
repository from introducing performance bugs. TorchBench is open source and
keeps evolving.
- Abstract（参考訳）: ディープラーニング(DL)は、様々な領域において革命的な技術である。
モデルの開発とデプロイを容易にするために、pytorchが最も人気のあるソリューションの1つであるディープラーニングフレームワークが数多く提案されている。
PyTorch周辺のエコシステムのパフォーマンスは極めて重要であり、トレーニングモデルのコストを削減し、モデル推論のレスポンス時間を削減する。
本稿では,pytorchソフトウェアスタックの性能を研究するためのベンチマークスイートであるtorchbenchを提案する。
既存のベンチマークスイートとは異なり、torchbenchは多くの代表的なモデルを包含し、大きなpytorch apiサーフェスをカバーする。
TorchBenchは、PyTorchソフトウェアスタックのパフォーマンスを包括的に特徴付け、モデル、PyTorchフレームワーク、GPUライブラリのパフォーマンス最適化を導くことができる。
TorchBenchの実用例は2つある。
1) PyTorchにおけるGPU性能の非効率性を特定するためにTorchBenchをプロファイルした。
多くのパフォーマンスバグとアップストリームパッチを公式のPyTorchリポジトリに最適化することができます。
2) TorchBenchをPyTorch継続的インテグレーションシステムに統合する。
PyTorchレポジトリがパフォーマンスのバグを発生させないよう、毎日のコードチェックインでパフォーマンスのレグレッションを特定できます。
TorchBenchはオープンソースで、進化を続けている。
関連論文リスト
- Scorch: A Library for Sparse Deep Learning [41.62614683452247]
我々は,効率的なスパーステンソル計算をPyTorchエコシステムにシームレスに統合するライブラリであるScorchを紹介する。
Scorcherはスパーステンソルのためのフレキシブルで直感的なインターフェースを提供し、多様なスパースデータ構造をサポートする。
複数のドメインにわたる多様なディープラーニングモデルにおいて、Scorchの使いやすさとパフォーマンス向上を実証する。
論文 参考訳（メタデータ） (2024-05-27T06:59:20Z) - depyf: Open the Opaque Box of PyTorch Compiler for Machine Learning Researchers [92.13613958373628]
textttdepyfは、PyTorchコンパイラの内部動作を復号化するためのツールである。
textttdepyfは、PyTorchが生成したバイトコードを等価なソースコードに逆コンパイルする。
論文 参考訳（メタデータ） (2024-03-14T16:17:14Z) - TorchCP: A Library for Conformal Prediction based on PyTorch [9.295285907724672]
TorchCPは、ディープラーニングモデルに関する共形予測研究のためのPythonツールボックスである。
ポストホックの様々な実装と、分類および回帰タスクの訓練方法を含んでいる。
論文 参考訳（メタデータ） (2024-02-20T03:14:47Z) - torchgfn: A PyTorch GFlowNet library [56.071033896777784]
torchgfnはPyTorchライブラリで、このニーズに対処することを目指している。
環境のためのシンプルなAPIと、サンプルと損失のための有用な抽象化を提供する。
論文 参考訳（メタデータ） (2023-05-24T00:20:59Z) - Torchhd: An Open Source Python Library to Support Research on
Hyperdimensional Computing and Vector Symbolic Architectures [99.70485761868193]
我々はHD/VSA用の高性能オープンソースPythonライブラリであるTorchhdを紹介する。
Torchhdは、HD/VSAをよりアクセスしやすくし、さらなる研究とアプリケーション開発のための効率的な基盤となることを目指している。
論文 参考訳（メタデータ） (2022-05-18T20:34:25Z) - PyGOD: A Python Library for Graph Outlier Detection [56.33769221859135]
PyGODは、グラフデータの外れ値を検出するオープンソースライブラリである。
外れ値検出のための主要なグラフベースのメソッドを幅広くサポートしています。
PyGODはBSD 2-Clauseライセンスの下でhttps://pygod.orgとPython Package Index (PyPI)でリリースされている。
論文 参考訳（メタデータ） (2022-04-26T06:15:21Z) - PyHHMM: A Python Library for Heterogeneous Hidden Markov Models [63.01207205641885]
PyHHMM は Heterogeneous-Hidden Markov Models (HHMM) のオブジェクト指向Python実装である。
PyHHMMは、異種観測モデル、データ推論の欠如、異なるモデルの順序選択基準、半教師付きトレーニングなど、同様のフレームワークではサポートされない機能を強調している。
PyHHMMは、numpy、scipy、scikit-learn、およびシーボーンPythonパッケージに依存しており、Apache-2.0ライセンスの下で配布されている。
論文 参考訳（メタデータ） (2022-01-12T07:32:36Z) - PyTorchVideo: A Deep Learning Library for Video Understanding [71.89124881732015]
PyTorchVideoは、ビデオ理解タスクのためのオープンソースのディープラーニングライブラリである。
マルチモーダルデータローディング、変換、モデルを含む、ビデオ理解ツールのフルスタックをカバーする。
ライブラリはPyTorchをベースにしており、任意のトレーニングフレームワークで使用することができる。
論文 参考訳（メタデータ） (2021-11-18T18:59:58Z) - Using Python for Model Inference in Deep Learning [0.6027358520885614]
pythonで推論を実行しながら、パフォーマンスとパッケージングの制約を満たす方法を示します。
複数のPythonインタプリタを単一のプロセスで使用して,スケーラブルな推論を実現する方法を提案する。
論文 参考訳（メタデータ） (2021-04-01T04:48:52Z) - TorchKGE: Knowledge Graph Embedding in Python and PyTorch [0.0]
TorchKGEは、PyTorchのみに依存する知識グラフ(KG)組み込みのためのPythonモジュールである。
KGデータ構造、単純なモデルインターフェース、ネガティブサンプリングとモデル評価のためのモジュールを備えている。
論文 参考訳（メタデータ） (2020-09-07T09:21:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。