論文の概要: TorchTPU - A Hybrid Eager/Compiled Architecture for Native PyTorch Execution on TPU
- arxiv url: http://arxiv.org/abs/2610.24161v2
- Date: Tue, 20 Oct 2026 02:09:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-21 21:58:47.237251
- Title: TorchTPU - A Hybrid Eager/Compiled Architecture for Native PyTorch Execution on TPU
- Title(参考訳): TorchTPU - TPUによるネイティブPyTorch実行のためのハイブリッドイーガー/コンパイルアーキテクチャ
- Abstract要約: TorchTPUは、GoogleとMetaのオープンソースコラボレーションで、Google TPUのネイティブで原則化されたPyTorchバックエンドを導入している。
業界と競合する推論とトレーニングのパフォーマンスを提供しながら、シームレスなアウトオブボックスモデル実行とTPUマイグレーションを可能にします。
- 参考スコア(独自算出の注目度): 24.4055356206334
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: TorchTPU is an open-source collaboration between Google and Meta that introduces a native and principled PyTorch backend for Google TPUs. It enables seamless out-of-the-box model execution and TPU migration while delivering industry-competitive inference and training performance through eager execution optimizations, torch.compile integration, and native hardware acceleration.
- Abstract(参考訳): TorchTPUは、GoogleとMetaのオープンソースコラボレーションで、Google TPUのネイティブで原則化されたPyTorchバックエンドを導入している。
業界と競合する推論とトレーニングのパフォーマンスを、熱心な実行最適化、 torch.compile 統合、ネイティブハードウェアアクセラレーションを通じて、シームレスにアウト・オブ・ザ・ボックスモデルの実行とTPU移行を可能にする。
関連論文リスト
- vidax: A Unified JAX Framework for Video Generative Models on Accelerator Meshes [8.113406913714298]
オープンソースビデオ生成モデルは、ほとんどPyTorch/CUDAリファレンス実装として出荷される。
本稿では、JAX/Flax推論エンジンのvidaxと、ビデオ生成アーキテクチャのためのゼロコピーPyTorch-to-weightトランスレータを提案する。
論文 参考訳(メタデータ) (2026-09-16T03:26:45Z) - Fine-Tuning and Serving Gemma 4 31B on Google Cloud TPU: A Technical Comparison with GPU Baselines [12.398594139609207]
本稿では,Google の Gemma 4 31B モデルを TPU ハードウェア上で実現した,ファインチューニングの最初のエンドツーエンドデモを紹介する。
Google TPU v5p-8のトレーニングにLoRAを使用し、推論にTPU v6e-8(Trillium)を使用すると、GPUネイティブなトレーニングレシピの移植に必要なコードレベルの適応の完全なセットを文書化する。
論文 参考訳(メタデータ) (2026-05-25T09:51:59Z) - Scaling Tractable Probabilistic Circuits: A Systems Perspective [53.76194929291088]
PyJuiceは、いくつかの点で先行技術を改善するPCの一般的な実装設計である。
大規模PCのトレーニングでは、既存のシステムよりも1~2桁高速である。
PyJuiceは2~5倍のメモリを消費するので、より大きなモデルをトレーニングすることができます。
論文 参考訳(メタデータ) (2024-06-02T14:57:00Z) - Green AI: A Preliminary Empirical Study on Energy Consumption in DL
Models Across Different Runtime Infrastructures [56.200335252600354]
トレーニング済みのモデルを、ネイティブな開発環境とは異なる環境にデプロイするのは、一般的なプラクティスです。
これにより、インフラを含むONNXや標準フォーマットとして機能するONNXなどの交換フォーマットが導入された。
論文 参考訳(メタデータ) (2024-02-21T09:18:44Z) - Exploration of TPUs for AI Applications [0.0]
Processing Units (TPU) は、Googleが開発したディープラーニングのためのハードウェアアクセラレーターである。
本稿では、クラウドおよびエッジコンピューティングにおけるTPUを、AIアプリケーションに焦点をあてて検討することを目的とする。
論文 参考訳(メタデータ) (2023-09-16T07:58:05Z) - Harnessing Deep Learning and HPC Kernels via High-Level Loop and Tensor Abstractions on CPU Architectures [67.47328776279204]
この研究は、効率的でポータブルなDeep LearningとHigh Performance Computingカーネルを開発するためのフレームワークを導入している。
1)プロセッシングプリミティブ(TPP)を用いた計算コアの表現と,2)高レベルな宣言的手法でTPPのまわりの論理ループの表現の2つのステップでカーネルの開発を分解する。
我々は、スタンドアロンカーネルと、さまざまなCPUプラットフォームにおける最先端実装よりも優れたエンドツーエンドワークロードを使用して、このアプローチの有効性を実証する。
論文 参考訳(メタデータ) (2023-04-25T05:04:44Z) - TPU-MLIR: A Compiler For TPU Using MLIR [2.6519283973116963]
TPU-MLIRは、TPU(Processing Unit)と呼ばれるカスタムASICに、トレーニング済みニューラルネットワーク(NN)モデルをデプロイする
NNモデルはTOP方言に変換され、チップの構成に応じて異なるTPUのためにTPU方言に低下する。
MLIRパスパイプラインを使用してTPU上で最適化を行い、マシンコードを生成する方法を示す。
論文 参考訳(メタデータ) (2022-10-23T10:45:54Z) - Extending Python for Quantum-Classical Computing via Quantum
Just-in-Time Compilation [78.8942067357231]
Pythonは、その柔軟性、ユーザビリティ、可読性、開発者の生産性を重視することで有名な人気のあるプログラミング言語です。
量子ジャスト・イン・タイム・コンパイルのための堅牢なC++インフラストラクチャを通じて、異種量子古典計算を可能にするPythonの言語拡張を提案する。
論文 参考訳(メタデータ) (2021-05-10T21:11:21Z) - PyChain: A Fully Parallelized PyTorch Implementation of LF-MMI for
End-to-End ASR [65.20342293605472]
PyChainは、カルディ自動音声認識(ASR)ツールキットにおいて、いわゆるエンフィチェーンモデルのための、エンドツーエンドの格子フリー最大相互情報(LF-MMI)トレーニングの実装である。
他のPyTorchやKaldiベースのASRツールキットとは異なり、PyChainは可能な限り柔軟で軽量に設計されている。
論文 参考訳(メタデータ) (2020-05-20T02:10:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。