論文の概要: RLX: A Unified Multi-Backend Tensor Compiler and Distributed Runtime in Rust

• arxiv url: http://arxiv.org/abs/2609.37916v1
• Date: Tue, 29 Sep 2026 16:09:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:47.726809
• Title: RLX: A Unified Multi-Backend Tensor Compiler and Distributed Runtime in Rust
• Title（参考訳）: RLX: Rustのマルチバックエンドコンパイラと分散ランタイムの統合
• Abstract要約: RLXは1つのプリミティブレベル、3レベル中間表現(IR)に関するコンパイラとランタイムの役割を組み合わせる RLXはまた、スパースおよび密度線型代数拡張を通じて、科学/物理学スタイルの領域にも拡張する。
• 参考スコア（独自算出の注目度）: 3.1672987408200384
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Production machine learning (ML) stacks often split graph compilation and kernel execution across different layers and languages, making backend behavior, deployment guarantees, and performance fallbacks hard to reason about end-to-end. RLX addresses this gap with a single Rust codebase that combines compiler and runtime roles around one primitive-level, three-level intermediate representation (IR), plus a transparent dispatch contract that resolves each operator to native, common-IR, or rewritten lowering and fails compilation when legalization is not possible. The same IR targets fourteen runtime devices (cpu, metal, mlx, ane, cuda, rocm, oneapi, tpu, hexagon, gpu, vulkan, opengl, directx, webgpu) and two specialty codegen paths (Cortex-M INT8 and FPGA), ingests safetensors, GGUF, ONNX, and rten formats, supports F16/BF16/F64/C64 and quantized INT4/INT8 flows with AMP/PTQ/QAT, and scales via tensor-/pipeline-parallel collectives over TCP and RDMA transports. Beyond neural workloads, RLX also extends to scientific/physics-style domains through sparse and dense linear algebra extensions (e.g., CSR LU/CG/matvec and LAPACK- backed factorizations) and 3D Gaussian splatting operators. We evaluate RLX against PyTorch, TensorFlow, JAX, candle, burn, tch, rten, MLX, CoreML, IREE, Glow, TensorRT, and tinygrad under identical input generation and p50 measurement methodology on one host. On all-MiniLM-L6-v2, RLX-Metal is fastest at every batch (e.g., 16.6 ms at batch 32 vs. PyTorch-MPS 26.7 ms). In the MNIST training table, RLX also has the top-throughput entry (graph-fused MLP: 946,487 img/s), above NumPy+BLAS (787,349 img/s), while retaining 100% top-1 parity on reference checks (e.g., Qwen3).
• Abstract（参考訳）: プロダクション機械学習(ML)スタックは、グラフコンパイルとカーネル実行を異なるレイヤや言語で分割することが多く、バックエンドの動作、デプロイメント保証、パフォーマンスのフォールバックをエンドツーエンドについて考えるのは難しい。 RLXはこのギャップに対処するため、コンパイラとランタイムロールを1つのプリミティブレベル、3レベル中間表現(IR)で組み合わせた単一のRustコードベースと、各オペレータをネイティブ、コモン-IRに解決する透過的なディスパッチ契約、あるいはローディングの書き直し、合法化が不可能な時にコンパイルが失敗する、という課題に対処する。 同じIRは14のランタイムデバイス(cpu, metal, mlx, ane, cuda, rocm, oneapi, tpu, hexagon, gpu, vulkan, opengl, directx, webgpu)と2つの特別なコーダーパス(Cortex-M INT8, FPGA)をターゲットにしており、セーフテンソル、GGUF, ONNX, rtenフォーマットはF16/BF16/F64/C64をサポートし、量子化したINT4/INT8はAMP/PTQ/QATで流れる。 ニューラルワークロード以外にも、RLXはスパースで密度の高い線形代数拡張(例えば、CSR LU/CG/matvecおよびLAPACK-back factorizations)と3Dガウススプラッティング演算子を通じて、科学/物理学スタイルのドメインにも拡張されている。 PyTorch, TensorFlow, JAX, candle, burn, tch, rten, MLX, CoreML, IREE, Glow, TensorRT, littlegradに対するRLXの評価を行った。 全MiniLM-L6-v2では、RLX-Metalは全バッチ(例えば、バッチ32での16.6msとPyTorch-MPS 26.7ms)で最速である。 MNIST のトレーニングテーブルでは、RLX は NumPy+BLAS (787,349 img/s) の上にトップスループットエントリ (グラフ融合 MLP: 946,487 img/s) を持ち、参照チェック (e g , Qwen3) で100%トップ-1パリティを保持する。

関連論文リスト

• Cross-Backend QIEO: Universal Runtime Portability across OpenMP5, CUDA, HIP, and Multi-Language Interfaces [6.781697457234383]
  量子インスパイアされたアルゴリズムは、古典的ハードウェア上での重ね合わせ、干渉、確率的振幅進化などの量子力学的原理をエミュレートする。 このアプローチは物理量子ビットを使わずに最適化を提供し、オーダー・オブ・マグニチュード・スピードアップを実現することが示されている。 採用にとって重要な障壁は、アルゴリズムのパフォーマンスとハードウェアポータビリティの両方を提供する統一された実行フレームワークがないことである。
  論文  参考訳（メタデータ） (2026-09-25T07:25:20Z)
• AttnFuse: A Composable DSL for Compiling Attentions to Fused GPU Kernels [0.3580891736370874]
  PyTorchの最近のflex_attentionは、Pythonでカスタムの注意パターンを記述し、融合したカーネルにコンパイルすることを可能にする。 我々は、RoPEファーストクラスの操作のようなプリ・マルチプリケーション・トランスフォーメーションを実現する小さなDSLであるAttnFuseを紹介します。 AttnFuseは、RoPE+causalパターン上のflex_attentionよりも2.10$times$のスピードアップを達成する。
  論文  参考訳（メタデータ） (2026-09-11T23:55:03Z)
• Codebook Agent: Amortized Topology Design for LLM Multi-Agent Systems [67.04448659688579]
  クエリ非依存の16エントリのコードブックを開発し、上位のデコード候補を1回のバッチフォワードパスでランク付けする。 反復検索がなく、テスト時にメッセージパッシングがないため、Codebook Agentは6つのベンチマークでもっとも正確な方法である。
  論文  参考訳（メタデータ） (2026-09-02T08:10:22Z)
• SparseDitto: Customizing GPU Kernels for Different Sparsity Patterns with LLM-Based Agentic System [45.52961410486319]
  本稿では,各行列,演算子,ターゲットGPU用のGPUカーネルを構築するLLMベースのシステムであるSparseDittoを提案する。 SparseDittoは、統一設計フレームワークでSpMV、SpMM、SpGEMMをサポートする。 生成されたSpMMカーネルは、最大3.39倍のフルバッチGCNトレーニングを加速する。
  論文  参考訳（メタデータ） (2026-08-05T16:41:03Z)
• FusionML: Prefill, Not Decode - Mechanism and Boundaries of CPU+GPU Co-Execution on Unified-Memory Apple Silicon [0.0]
  私たち自身を含む以前の試みは、失敗に終わり、あるいは正確で確立された勝利を生み出しました。 MLXの遅延グラフスケジューラは、クロスストリーム作業を行う CPU ストリーム操作が1つの評価グラフ内で非マテリアル化された GPU 結果を消費する場合、行分割行列は、物質化された入力で x1.38 を高速に実行する。 デコードでは利益が得られず、共有帯域幅によるバウンドは追加されない。
  論文  参考訳（メタデータ） (2026-07-24T11:42:17Z)
• Scaling DoRA: High-Rank Adaptation via Factored Norms and Fused Kernels [83.99688944263843]
  DoRA(Weight-De Low-Rank Adaptation)は、LoRAを方向から分離することで拡張する。 d_in = 8192 とランク r = 384 では、単一のモジュールのノルムは bf16 で512MB の過渡的なワーキングメモリを必要とする。 因子ノルムは、二乗ノルムを O(d_out r + r2) 中間体を通して計算可能な基底、交差、およびグラマー項に分解し、密積を除去する。
  論文  参考訳（メタデータ） (2026-03-23T17:57:24Z)
• BurTorch: Revisiting Training from First Principles by Coupling Autodiff, Math Optimization, and Systems [56.16884466478886]
  BurTorchは、単一ノードワークステーション上でのディープラーニング(DL)トレーニングを最適化するために設計された、コンパクトな高性能フレームワークである。 BurTorchは最小限の設計を採用し、これらの状況下では、古典的なコンパイルされたプログラミング言語がDL研究において重要な役割を果たすことを証明している。
  論文  参考訳（メタデータ） (2025-03-18T00:52:12Z)
• JaxMARL: Multi-Agent RL Environments and Algorithms in JAX [105.343918678781]
  我々は、GPU対応の効率と多くの一般的なMARL環境のサポートを組み合わせた、最初のオープンソースPythonベースのライブラリであるJaxMARLを紹介します。 我々の実験は、壁時計時間の観点から、JAXベースのトレーニングパイプラインが既存のアプローチの約14倍高速であることを示している。 また、人気の高いStarCraft Multi-Agent ChallengeのJAXベースの近似的な再実装であるSMAXを紹介し、ベンチマークする。
  論文  参考訳（メタデータ） (2023-11-16T18:58:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。