論文の概要: depyf: Open the Opaque Box of PyTorch Compiler for Machine Learning Researchers
- arxiv url: http://arxiv.org/abs/2403.13839v1
- Date: Thu, 14 Mar 2024 16:17:14 GMT
- ステータス: 処理完了
- システム内更新日: 2024-03-25 07:07:37.425192
- Title: depyf: Open the Opaque Box of PyTorch Compiler for Machine Learning Researchers
- Title(参考訳): depyf: 機械学習研究者のためのPyTorchコンパイラの不透明なボックスを開く
- Authors: Kaichao You, Runsheng Bai, Meng Cao, Jianmin Wang, Ion Stoica, Mingsheng Long,
- Abstract要約: textttdepyfは、PyTorchコンパイラの内部動作を復号化するためのツールである。
textttdepyfは、PyTorchが生成したバイトコードを等価なソースコードに逆コンパイルする。
- 参考スコア(独自算出の注目度): 92.13613958373628
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: PyTorch \texttt{2.x} introduces a compiler designed to accelerate deep learning programs. However, for machine learning researchers, adapting to the PyTorch compiler to full potential can be challenging. The compiler operates at the Python bytecode level, making it appear as an opaque box. To address this, we introduce \texttt{depyf}, a tool designed to demystify the inner workings of the PyTorch compiler. \texttt{depyf} decompiles bytecode generated by PyTorch back into equivalent source code, and establishes connections between in-memory code objects and their on-disk source code counterparts. This feature enables users to step through the source code line by line using debuggers, thus enhancing their understanding of the underlying processes. Notably, \texttt{depyf} is non-intrusive and user-friendly, primarily relying on two convenient context managers for its core functionality. The project is \href{https://github.com/thuml/depyf}{ openly available} and is recognized as a \href{https://pytorch.org/ecosystem/}{PyTorch ecosystem project}.
- Abstract(参考訳): PyTorch \texttt{2.x} では、ディープラーニングプログラムを高速化するコンパイラが導入された。
しかし、機械学習研究者にとって、完全な潜在能力にPyTorchコンパイラを適用することは難しい。
コンパイラはPythonバイトコードレベルで動作し、不透明なボックスとして表示される。
これを解決するために、PyTorchコンパイラの内部動作を復号化するためのツールである \texttt{depyf} を紹介します。
\texttt{depyf}は、PyTorchが生成したバイトコードを等価なソースコードに分解し、インメモリのコードオブジェクトとディスク上のソースコードオブジェクト間の接続を確立する。
この機能により、デバッガを使用してソースコードを行単位でステップスルーすることが可能になり、基盤となるプロセスに対する理解が強化される。
特に、‘texttt{depyf} は非侵襲的でユーザフレンドリで、主にコア機能に2つの便利なコンテキストマネージャに依存しています。
プロジェクトは \href{https://github.com/thuml/depyf}{ openly available} であり、 \href{https://pytorch.org/ecosystem/}{PyTorch エコシステムプロジェクトとして認識されている。
関連論文リスト
- PyMarian: Fast Neural Machine Translation and Evaluation in Python [11.291502854418098]
シーケンス・ツー・シーケンス・モデルのための C++ ベースのトレーニングおよび推論ツールキットである Marian NMT に Python インタフェースを記述した。
このインターフェースにより、Marianでトレーニングされたモデルが、Pythonで利用可能なリッチで幅広いツールに接続できるようになる。
論文 参考訳(メタデータ) (2024-08-15T01:41:21Z) - pyvene: A Library for Understanding and Improving PyTorch Models via
Interventions [79.72930339711478]
$textbfpyvene$は、さまざまなPyTorchモジュールに対するカスタマイズ可能な介入をサポートするオープンソースライブラリである。
私たちは、$textbfpyvene$が、ニューラルモデルへの介入を実行し、他のモデルとインターバルされたモデルを共有するための統一されたフレームワークを提供する方法を示します。
論文 参考訳(メタデータ) (2024-03-12T16:46:54Z) - TorchCP: A Library for Conformal Prediction based on PyTorch [9.295285907724672]
TorchCPは、ディープラーニングモデルに関する共形予測研究のためのPythonツールボックスである。
ポストホックの様々な実装と、分類および回帰タスクの訓練方法を含んでいる。
論文 参考訳(メタデータ) (2024-02-20T03:14:47Z) - TopoX: A Suite of Python Packages for Machine Learning on Topological
Domains [89.9320422266332]
TopoXはPythonのソフトウェアスイートで、トポロジ上のコンピューティングと機械学習のための信頼性とユーザフレンドリなビルディングブロックを提供する。
TopoXは、TopoNetX、TopoEmbedX、TopoModelxの3つのパッケージで構成されている。
論文 参考訳(メタデータ) (2024-02-04T10:41:40Z) - TorchProbe: Fuzzing Dynamic Deep Learning Compilers [9.324205843411352]
PyTorch 2.0はPythonで任意のディープラーニングプログラムのコンパイルをサポートする。
動的特徴を含むテストケースを生成するためのコード変換を提案する。
我々は、PyTorchコンパイラとその基盤となるテンソルコンパイラTritonの20の既知のバグを特定した。
論文 参考訳(メタデータ) (2023-10-30T23:20:47Z) - PyGOD: A Python Library for Graph Outlier Detection [56.33769221859135]
PyGODは、グラフデータの外れ値を検出するオープンソースライブラリである。
外れ値検出のための主要なグラフベースのメソッドを幅広くサポートしています。
PyGODはBSD 2-Clauseライセンスの下でhttps://pygod.orgとPython Package Index (PyPI)でリリースされている。
論文 参考訳(メタデータ) (2022-04-26T06:15:21Z) - PyHHMM: A Python Library for Heterogeneous Hidden Markov Models [63.01207205641885]
PyHHMM は Heterogeneous-Hidden Markov Models (HHMM) のオブジェクト指向Python実装である。
PyHHMMは、異種観測モデル、データ推論の欠如、異なるモデルの順序選択基準、半教師付きトレーニングなど、同様のフレームワークではサポートされない機能を強調している。
PyHHMMは、numpy、scipy、scikit-learn、およびシーボーンPythonパッケージに依存しており、Apache-2.0ライセンスの下で配布されている。
論文 参考訳(メタデータ) (2022-01-12T07:32:36Z) - PyTorchVideo: A Deep Learning Library for Video Understanding [71.89124881732015]
PyTorchVideoは、ビデオ理解タスクのためのオープンソースのディープラーニングライブラリである。
マルチモーダルデータローディング、変換、モデルを含む、ビデオ理解ツールのフルスタックをカバーする。
ライブラリはPyTorchをベースにしており、任意のトレーニングフレームワークで使用することができる。
論文 参考訳(メタデータ) (2021-11-18T18:59:58Z) - Using Python for Model Inference in Deep Learning [0.6027358520885614]
pythonで推論を実行しながら、パフォーマンスとパッケージングの制約を満たす方法を示します。
複数のPythonインタプリタを単一のプロセスで使用して,スケーラブルな推論を実現する方法を提案する。
論文 参考訳(メタデータ) (2021-04-01T04:48:52Z) - Signatory: differentiable computations of the signature and logsignature
transforms, on both CPU and GPU [13.503274710499971]
Signatoryは、シグネチャおよびログシグネチャ変換に関連する機能を計算し、実行するライブラリである。
これは、効率的な事前計算戦略など、以前のライブラリでは利用できない新機能を実装している。
ライブラリはC++のPythonラッパーとして動作し、PyTorchエコシステムと互換性がある。
論文 参考訳(メタデータ) (2020-01-03T03:15:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。