論文の概要: SOLAR: AI-Powered Speed-of-Light Performance Analysis
- arxiv url: http://arxiv.org/abs/2606.26383v1
- Date: Wed, 24 Jun 2026 21:09:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-26 18:46:32.08301
- Title: SOLAR: AI-Powered Speed-of-Light Performance Analysis
- Title（参考訳）: SOLAR: AIによる光速性能解析
- Abstract要約: SOLARは、検証済みのSOL境界を自動的にPyTorchおよびJAXソースコードから導き出すフレームワークである。
SOLARは、包括的な演算子と言語カバレッジを提供し、観察されたSOL違反をゼロで検証された境界を生成し、境界を絞り、最適化の洞察を表面化する多要素解析を提供する。
- 参考スコア（独自算出の注目度）: 29.63112552893854
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: How fast could a deep-learning model run on target hardware, and how far is today's implementation from that limit? These questions are central to software, hardware, and algorithm optimizations. Speed-of-Light (SOL) analysis answers them by computing a workload's theoretical minimum execution time on a given architecture. Yet deriving SOL bounds remains manual, error-prone, and disconnected from rapid model development. To close this gap, we introduce SOLAR, a framework that automatically derives validated SOL bounds from PyTorch and JAX source code. SOLAR leverages both generative and deterministic components in its flow: an LLM frontend translates any source programs into an executable Affine Loop IR, validated by output comparison; a deterministic flow lifts the IR into an einsum graph; and an analytical backend computes unfused, fused, and cache-aware SOL bounds. SOLAR provides comprehensive operator and language coverage, produces validated bounds with zero observed SOL violations, and offers multi-fidelity analysis that tightens bounds and surfaces optimization insights. We evaluate SOLAR across KernelBench, JAX/Flax models, and robotics workloads. These experiments demonstrate four use cases: headroom analysis at multiple fidelity levels, identifying optimization opportunities, cross-platform exploration, and inverse-roofline hardware provisioning.
- Abstract（参考訳）: ディープラーニングモデルはターゲットハードウェア上でどの程度の速さで動作し、今日の実装はその制限からどれくらい離れているのか?
これらの問題は、ソフトウェア、ハードウェア、アルゴリズムの最適化の中心である。
Speed-of-Light (SOL) 分析は、与えられたアーキテクチャ上でのワークロードの理論的最小実行時間を計算することで、それらに答える。
しかし、SOL境界の導出は手動で、エラーが発生し、迅速なモデル開発から切り離されたままである。
このギャップを埋めるために、PyTorchとJAXソースコードから検証済みのSOL境界を自動的に抽出するフレームワークであるSOLARを紹介します。
LLMフロントエンドは、任意のソースプログラムを実行可能なAffine Loop IRに変換し、出力比較によって検証し、決定論的フローはIRをEinsumグラフに上げ、分析的バックエンドは未使用、融合、キャッシュ対応のSOL境界を計算する。
SOLARは、包括的な演算子と言語カバレッジを提供し、観察されたSOL違反をゼロで検証された境界を生成し、境界を絞り、最適化の洞察を表面化する多要素解析を提供する。
我々は、KernelBench、JAX/Flaxモデル、ロボティクスワークロードにわたるSOLARを評価した。
これらの実験は、複数の忠実度レベルでのヘッドルーム分析、最適化の機会の特定、クロスプラットフォーム探索、逆ルーフラインハードウェアプロビジョニングの4つのユースケースを実証している。
関連論文リスト
- TELLER: Non-intrusive Cross-Layer Root-Cause Analysis for LLM Inference [47.62941623025392]
本稿では,非侵入的でログ対応なLLM推論フレームワークであるTELLERについて紹介する。
TELLERはモデルバイナリを変更することなく、NVTX/CUPTIトレースとサービスログを収集する。
リクエスト毎のコールチェーンツリーを再構築し、ログ行と対応する実行ステップをアライメントする。
これらの表現に加えて、TELLERは数値的候補のローカライゼーションとマルチモーダルな根起因モデルを組み合わせる。
論文 参考訳（メタデータ） (2026-08-03T09:39:11Z) - CodegenBench: Can LLMs Write Efficient Code Across Architectures? [17.06172900876354]
汎用プログラミングとGPUアクセラレーション環境のためのコード生成タスクにおいて,大規模言語モデル (LLM) が広く評価されている。
CodegenBenchは、3つの異なるハードウェアプラットフォームにわたる効率的な並列コードの生成を評価するために設計されたベンチマークスイートである。
論文 参考訳（メタデータ） (2026-06-01T12:55:10Z) - SOL-ExecBench: Speed-of-Light Benchmarking for Real-World GPU Kernels Against Hardware Limits [33.140868197031985]
SOL-ExecBenchは、124生産モデルと新興AIモデルから抽出された235の最適化問題のベンチマークである。
SOLARによって計算された解析的導出光速度(SOL)境界に対して性能を測定する。
我々は、リリース定義スコアベースラインと、候補カーネルを閉じたハードウェアSOLとの間のギャップを定量化するSOLスコアを報告する。
論文 参考訳（メタデータ） (2026-03-19T17:30:02Z) - $\
abla$-Reasoner: LLM Reasoning via Test-Time Gradient Descent in Latent Space [71.23672814629448]
$nabla$-Reasonerは、トークンログに対する差別化可能な最適化をデコードループに統合する反復生成フレームワークである。
$nabla$-Reasonerは、挑戦的な数学的推論ベンチマークで20%以上の精度の向上を実現している。
論文 参考訳（メタデータ） (2026-03-05T08:42:54Z) - PymooLab: An Open-Source Visual Analytics Framework for Multi-Objective Optimization using LLM-Based Code Generation and MCDM [0.0]
PymooLabは、textitpymoo上に構築されたオープンソースのビジュアル分析環境である。
単一の再現可能なワークフローで構成、実行監視、正式な決定サポートを統合する。
計算集約的な研究のために、PymooLab は JAX を通したネイティブなテキストピモオ加速経路に依存している。
論文 参考訳（メタデータ） (2026-03-02T00:56:32Z) - ProfInfer: An eBPF-based Fine-Grained LLM Inference Profiler [4.191309912359899]
最新の推論エンジンのためのきめ細かな非侵入型プロファイリングフレームワークを開発した。
私たちのシステムは、ソースの変更や再コンパイルなしに、複数のレイヤにわたるランタイム関数にプローブをアタッチします。
収集されたトレースを演算子、グラフ、タイムライン、ハードウェアカウンタトレンドのリッチな視覚化に変換する。
論文 参考訳（メタデータ） (2026-01-28T16:39:38Z) - Rethinking Testing for LLM Applications: Characteristics, Challenges, and a Lightweight Interaction Protocol [83.83217247686402]
大言語モデル(LLM)は、単純なテキストジェネレータから、検索強化、ツール呼び出し、マルチターンインタラクションを統合する複雑なソフトウェアシステムへと進化してきた。
その固有の非決定主義、ダイナミズム、文脈依存は品質保証に根本的な課題をもたらす。
本稿では,LLMアプリケーションを3層アーキテクチャに分解する: textbftextitSystem Shell Layer, textbftextitPrompt Orchestration Layer, textbftextitLLM Inference Core。
論文 参考訳（メタデータ） (2025-08-28T13:00:28Z) - Pangu Embedded: An Efficient Dual-system LLM Reasoner with Metacognition [95.54406667705999]
Pangu Embeddedは、Ascend Neural Processing Units (NPU) 上で開発された効率的なLarge Language Model (LLM) 推論器である。
既存の推論最適化 LLM でよく見られる計算コストと推論遅延の問題に対処する。
単一の統一モデルアーキテクチャ内で、迅速な応答と最先端の推論品質を提供する。
論文 参考訳（メタデータ） (2025-05-28T14:03:02Z) - AIvaluateXR: An Evaluation Framework for on-Device AI in XR with Benchmarking Results [55.33807002543901]
我々は,XRデバイス上で動作する大規模言語モデル(LLM)をベンチマークするための総合評価フレームワークであるAIvaluateXRを提案する。
我々はMagic Leap 2、Meta Quest 3、Vivo X100s Pro、Apple Vision Proという4つのXRプラットフォームに17個の選択されたLSMをデプロイし、広範囲な評価を行います。
本稿では,3次元最適性理論に基づく統一評価手法を提案する。
論文 参考訳（メタデータ） (2025-02-13T20:55:48Z) - LLM Inference Unveiled: Survey and Roofline Model Insights [62.92811060490876]
大規模言語モデル(LLM)推論は急速に進化しており、機会と課題のユニークなブレンドを提示している。
本調査は, 研究状況を要約するだけでなく, 屋上モデルに基づく枠組みを導入することによって, 従来の文献レビューから際立っている。
このフレームワークは、ハードウェアデバイスにLSMをデプロイする際のボトルネックを特定し、実用上の問題を明確に理解する。
論文 参考訳（メタデータ） (2024-02-26T07:33:05Z) - Operator Fusion in XLA: Analysis and Evaluation [1.2183405753834562]
XLAは最も一般的な機械学習(ML)コンパイラである。
XLAにおける核融合決定が実際どのように異なるかを示す。
最大10.56倍の高速化が可能なXLAカーネル融合戦略を実装した。
論文 参考訳（メタデータ） (2023-01-30T17:03:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。