論文の概要: GLASS: Architecture-Tuned, Composable, Device-Side Linear Algebra for Edge Robotics and Beyond
- arxiv url: http://arxiv.org/abs/2609.28179v1
- Date: Wed, 23 Sep 2026 14:23:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-25 00:05:18.061668
- Title: GLASS: Architecture-Tuned, Composable, Device-Side Linear Algebra for Edge Robotics and Beyond
- Title(参考訳): GLASS:エッジロボティクスとそれ以上のアーキテクチャ、構成可能、デバイスサイドの線形代数
- Abstract要約: GLASSはヘッダのみのC++ライブラリで、スレッド、ワープ、ブロック、幾何学的な計算を1つの構成可能なデバイスAPIで提供する。
実装の選択、実行範囲、起動パッキングを、オフライン計測によって決定されたアーキテクチャ固有の配置決定として扱い、コンパイル時に静的に解決する。
- 参考スコア(独自算出の注目度): 10.263005327884745
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: GPU robotics lacks the reusable numerical infrastructure of mature CPU stacks, instead relying on compiler frameworks that introduce overhead or repeatedly reimplementing numerical libraries. To address this, we introduce GLASS (GPU Linear Algebra Simple Subroutines), a header-only CUDA C++ library that provides thread-, warp-, block-, and NVIDIA-backed implementations of robotics-scale linear algebra and geometric computations under one composable device API. GLASS treats implementation choice, execution scope, and launch packing as architecture-specific placement decisions determined by offline measurement and resolved statically at compile time. This is critical as the best and worst placements differ by a median of 4.9x (max 81x), with 145 of 396 recommended placements changing between a Jetson AGX Orin and an RTX 5090, and 162 of 396 versus an AGX Xavier. These stakes are highest at the edge as GLASS's advantage over the best of PyTorch and JAX is as much as 73x on the Orin versus 12x on the RTX 5090. GLASS is released open source with independent numerical oracles and source-bound local-GPU test attestation. Finally, integrating GLASS with published robotics systems both exposed a pre-existing numerical bug and improved embedded runtimes by up to 1.5x.
- Abstract(参考訳): GPUロボティクスは、成熟したCPUスタックの再利用可能な数値インフラストラクチャを欠いている。
GLASS(GPU Linear Algebra Simple Subroutines)は,1つの構成可能なデバイスAPIの下で,ロボットスケールの線形代数と幾何計算をスレッド,ワープ,ブロック,NVIDIAが支援する実装を提供する,ヘッダのみのCUDA C++ライブラリである。
GLASSは、実装の選択、実行範囲、起動パッキングを、オフライン計測によって決定されたアーキテクチャ固有の配置決定として扱い、コンパイル時に静的に解決する。
最高と最悪の配置は4.9倍(最大81倍)で、ジェットソンAGXオーリンとRTX 5090の間で145の推奨配置が変更され、396の162はAGX Xavierと異なる。
これらの株は、GLASSのPyTorchに対する優位性と、JAXがOrinの最大73倍、RTX 5090の最大12倍である。
GLASSは独立した数値オラクルとソースバウンドのローカルGPUテストアテストを備えたオープンソースである。
最後に、GLASSと公開されたロボティクスシステムを統合することで、既存の数値バグと、組み込みランタイムを最大1.5倍改善した。
関連論文リスト
- AsmEvo: Agentic Assembly-Level Optimization of AMD GPU Kernels with Functional Equivalence Verification [21.700338424307517]
本稿では,AMD GPUカーネル用のエージェント組立レベルウェアAsmEvoを紹介する。
AsmEvoは、コードオブジェクトのリカバリ、メタデータのリカバリ、プロファイリングガイド付きホットウィンドウの編集、正確性に制限されたタイミング、パッチのフォールバックを組み合わせたものだ。
MI308Xでは、AsmEvoは選ばれた30のBenchカーネルの29を改良し、平均1.35倍、最大3.88倍のスピードアップを達成した。
論文 参考訳(メタデータ) (2026-08-21T03:34:22Z) - Are LLM-Generated GPU Kernels Production-Ready? A Trace-Driven Benchmark and Optimization Agent [10.241408048987038]
既存のGPUカーネル生成ベンチマークは、デプロイされたワークロードから分岐する合成またはキュレートされたソースから問題を引き出す。
Atrex-Benchは、30の演算子と440の形状が、計算限定のメモリリッチGPUのフルクラスタ生産推定トレースから直接サンプリングされるベンチマークである。
論文 参考訳(メタデータ) (2026-07-16T03:49:50Z) - CodegenBench: Can LLMs Write Efficient Code Across Architectures? [17.06172900876354]
汎用プログラミングとGPUアクセラレーション環境のためのコード生成タスクにおいて,大規模言語モデル (LLM) が広く評価されている。
CodegenBenchは、3つの異なるハードウェアプラットフォームにわたる効率的な並列コードの生成を評価するために設計されたベンチマークスイートである。
論文 参考訳(メタデータ) (2026-06-01T12:55:10Z) - Scaling DoRA: High-Rank Adaptation via Factored Norms and Fused Kernels [83.99688944263843]
DoRA(Weight-De Low-Rank Adaptation)は、LoRAを方向から分離することで拡張する。
d_in = 8192 とランク r = 384 では、単一のモジュールのノルムは bf16 で512MB の過渡的なワーキングメモリを必要とする。
因子ノルムは、二乗ノルムを O(d_out r + r2) 中間体を通して計算可能な基底、交差、およびグラマー項に分解し、密積を除去する。
論文 参考訳(メタデータ) (2026-03-23T17:57:24Z) - Benchmarking Predictive Coding Networks -- Made Simple [48.652114040426625]
機械学習における予測符号化ネットワーク(PCN)の効率性とスケーラビリティの問題に取り組む。
そこで我々は,PCXと呼ばれる,パフォーマンスと簡易性を重視したライブラリを提案する。
我々は,PCNの既存アルゴリズムと,生物工学的な深層学習コミュニティで普及している他の手法を併用して,このようなベンチマークを広範囲に実施する。
論文 参考訳(メタデータ) (2024-07-01T10:33:44Z) - Bridging the Gap Between Domain-specific Frameworks and Multiple Hardware Devices [2.9694650164958802]
本稿では,ドメイン固有のフレームワークと複数のハードウェアデバイスとのギャップを効果的に埋める手法を提案する。
このフレームワークは、ディープラーニング、古典的な機械学習、X86、ARM、RISC-V、IoTデバイス、GPUにわたるデータ分析をサポートする。
これは、Scikit-learn、Hummingbird、Spark、およびパンダといった既存のソリューションよりも優れており、驚くべきスピードアップを実現している。
論文 参考訳(メタデータ) (2024-05-21T04:24:47Z) - JaxMARL: Multi-Agent RL Environments and Algorithms in JAX [105.343918678781]
我々は、GPU対応の効率と多くの一般的なMARL環境のサポートを組み合わせた、最初のオープンソースPythonベースのライブラリであるJaxMARLを紹介します。
我々の実験は、壁時計時間の観点から、JAXベースのトレーニングパイプラインが既存のアプローチの約14倍高速であることを示している。
また、人気の高いStarCraft Multi-Agent ChallengeのJAXベースの近似的な再実装であるSMAXを紹介し、ベンチマークする。
論文 参考訳(メタデータ) (2023-11-16T18:58:43Z) - INR-Arch: A Dataflow Architecture and Compiler for Arbitrary-Order
Gradient Computations in Implicit Neural Representation Processing [66.00729477511219]
計算グラフとして表される関数を考えると、従来のアーキテクチャはn階勾配を効率的に計算する上で困難に直面している。
InR-Archは,n階勾配の計算グラフをハードウェア最適化データフローアーキテクチャに変換するフレームワークである。
1.8-4.8x と 1.5-3.6x の高速化を CPU と GPU のベースラインと比較した結果を示す。
論文 参考訳(メタデータ) (2023-08-11T04:24:39Z) - HDCC: A Hyperdimensional Computing compiler for classification on
embedded systems and high-performance computing [58.720142291102135]
この研究は、HDC分類メソッドの高レベルな記述を最適化されたCコードに変換する最初のオープンソースコンパイラである、ネームコンパイラを紹介している。
nameは現代のコンパイラのように設計されており、直感的で記述的な入力言語、中間表現(IR)、再ターゲット可能なバックエンドを備えている。
これらの主張を裏付けるために,HDC文献で最もよく使われているデータセットについて,HDCCを用いて実験を行った。
論文 参考訳(メタデータ) (2023-04-24T19:16:03Z) - FlexGen: High-Throughput Generative Inference of Large Language Models
with a Single GPU [89.2451963569343]
FlexGenは、単一のコモディティGPU上で大きな言語モデル(LLM)推論を実行するための世代エンジンである。
1つの16GB GPU上でOPT-175Bを実行する場合、FlexGenは最先端のオフロードシステムに比べてスループットが大幅に向上する。
HELMベンチマークでは、FlexGenは7つの代表サブシナリオに16GBのGPUで30Bモデルを21時間でベンチマークすることができる。
論文 参考訳(メタデータ) (2023-03-13T05:19:28Z) - HipaccVX: Wedding of OpenVX and DSL-based Code Generation [3.7825095480141986]
OpenVXはコンピュータビジョンアプリケーションのためのグラフ実行標準である。
OpenVXはNvidia GTX GPUのスループットを2倍にし、Xilinx Zynq FPGAのリソース使用量を50%削減できることを示す。
また,提案するコンパイラフレームワークであるHipaccVXは,最新のNvidia VisionWorksやHalide-HLSよりも優れた結果が得られることを示す。
論文 参考訳(メタデータ) (2020-08-26T10:30:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。