論文の概要: M100: An Orchestrated Dataflow Architecture Powering General AI Computing
- arxiv url: http://arxiv.org/abs/2604.17862v1
- Date: Mon, 20 Apr 2026 06:19:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-21 21:52:52.725654
- Title: M100: An Orchestrated Dataflow Architecture Powering General AI Computing
- Title(参考訳): M100: 汎用AIコンピューティングを活用したオーケストレーションデータフローアーキテクチャ
- Authors: Yan Xie, Changkui Mao, Changsong Wu, Chao Lu, Chao Suo, Cheng Qian, Chun Yang, Danyang Zhu, Hengchang Xiong, Hongzhan Lu, Hongzhen Liu, Jiafu Liu, Jie Chen, Jie Dai, Junfeng Tang, Kai Liu, Kun Li, Lipeng Ge, Meng Sun, Min Luo, Peng Chen, Peng Wang, Shaodong Yang, Shibin Tang, Shibo Chen, Weikang Zhang, Xiao Ling, Xiaobo Du, Xin Wu, Yang Liu, Yi Jiang, Yihua Jin, Yin Huang, Yuli Zhang, Zhen Yuan, Zhiyuan Man, Zhongxiao Yao,
- Abstract要約: M100は、自律運転(AD)、大規模言語モデル(LLM)、インテリジェントヒューマンインタラクションにおけるAI推論のパフォーマンスが高く、費用対効果の高いアーキテクチャである。
M100はデータフロー並列アーキテクチャを採用し、コンパイラとアーキテクチャの共同設計が計算をオーケストレーションする。
テンソル計算は、コンパイラとランタイム管理されたデータストリームによって駆動される。
- 参考スコア(独自算出の注目度): 38.198130859057834
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: As deep learning-based AI technologies gain momentum, the demand for general-purpose AI computing architectures continues to grow. While GPGPU-based architectures offer versatility for diverse AI workloads, they often fall short in efficiency and cost-effectiveness. Various Domain-Specific Architectures (DSAs) excel at particular AI tasks but struggle to extend across broader applications or adapt to the rapidly evolving AI landscape. M100 is Li Auto's response: a performant, cost-effective architecture for AI inference in Autonomous Driving (AD), Large Language Models (LLMs), and intelligent human interactions, domains crucial to today's most competitive automobile platforms. M100 employs a dataflow parallel architecture, where compiler-architecture co-design orchestrates not only computation but, more critically, data movement across time and space. Leveraging dataflow computing efficiency, our hardware-software co-design improves system performance while reducing hardware complexity and cost. M100 largely eliminates caching: tensor computations are driven by compiler- and runtime-managed data streams flowing between computing elements and on/off-chip memories, yielding greater efficiency and scalability than cache-based systems. Another key principle was selecting the right operational granularity for scheduling, issuing, and execution across compiler, firmware, and hardware. Recognizing commonalities in AI workloads, we chose the tensor as the fundamental data element. M100 demonstrates general AI computing capability across diverse inference applications, including UniAD (for AD) and LLaMA (for LLMs). Benchmarks show M100 outperforms GPGPU architectures in AD applications with higher utilization, representing a promising direction for future general AI computing.
- Abstract(参考訳): ディープラーニングベースのAI技術が勢いを増すにつれ、汎用AIコンピューティングアーキテクチャの需要は増え続けている。
GPGPUベースのアーキテクチャは、さまざまなAIワークロードに汎用性を提供するが、効率性とコスト効率が不足することが多い。
さまざまなドメイン特化アーキテクチャ(DSA)は、特定のAIタスクに優れていますが、広範囲のアプリケーションにまたがる拡張や、急速に進化するAIの状況への適応に苦労しています。
M100はLi Autoの反応であり、自律運転(AD)、大規模言語モデル(LLM)、インテリジェントなヒューマンインタラクションにおけるAI推論のためのパフォーマンスが高く費用効率のよいアーキテクチャであり、今日の最も競争力のある自動車プラットフォームに不可欠なドメインである。
M100はデータフロー並列アーキテクチャを採用しており、コンパイラアーキテクチャの共同設計は計算だけでなく、時間と空間をまたいだデータ移動をオーケストレーションする。
データフローの計算効率を活用することで、ハードウェアとソフトウェアの共同設計は、ハードウェアの複雑さとコストを低減しつつ、システムパフォーマンスを改善します。
テンソル計算は、コンピュータ要素とオン/オフチップメモリの間を流れる、コンパイラとランタイム管理されたデータストリームによって駆動され、キャッシュベースのシステムよりも効率とスケーラビリティが向上する。
もうひとつの重要な原則は、コンパイラ、ファームウェア、ハードウェア間でのスケジューリング、発行、実行のための適切な操作の粒度を選択することだった。
AIワークロードの共通点を認識して、テンソルを基本データ要素として選択しました。
M100は、UniAD(AD用)やLLaMA(LLM用)など、さまざまな推論アプリケーションにまたがる汎用AIコンピューティング能力を示している。
ベンチマークによると、M100はADアプリケーションにおいてGPGPUアーキテクチャを高い利用率で上回り、将来の汎用AIコンピューティングの有望な方向性を示している。
関連論文リスト
- The Role of Advanced Computer Architectures in Accelerating Artificial Intelligence Workloads [0.0]
人工知能(AI)の顕著な進歩は、コンピュータアーキテクチャにおける同時革命と基礎的に結びついている。
AIモデル、特にDeep Neural Networks(DNN)が複雑化するにつれ、その膨大な計算要求により、従来のアーキテクチャは限界に達している。
本稿では、現代のAIワークロードを加速するために設計されたアーキテクチャのランドスケープを分析し、この共進化の構造化されたレビューを提供する。
論文 参考訳(メタデータ) (2025-11-13T06:26:39Z) - Engineering.ai: A Platform for Teams of AI Engineers in Computational Design [8.217119500224284]
計算設計におけるAIエンジニアのチームのためのプラットフォームであるEngineering.aiを紹介します。
このフレームワークは階層的なマルチエージェントアーキテクチャを採用しており、チーフエンジニアが特殊エージェントをコーディネートする。
このシステムはFreeCAD、Gmsh、OpenFOAM、CalculiX、BPM音響解析を統合し、並列多分野シミュレーションを可能にする。
論文 参考訳(メタデータ) (2025-10-31T08:00:48Z) - xLLM Technical Report [57.13120905321185]
我々は,知的かつ効率的なLarge Language Model (LLM)推論フレームワークであるxLLMを紹介する。
xLLMは、新しい分離されたサービスエンジンアーキテクチャを構築する。
xLLM-Engineは、システムとアルゴリズムの設計を最適化し、コンピュータリソースを完全に飽和させる。
論文 参考訳(メタデータ) (2025-10-16T13:53:47Z) - EPS-MoE: Expert Pipeline Scheduler for Cost-Efficient MoE Inference [49.94169109038806]
本稿では,既存の並列処理方式を超越したMoE用パイプラインスケジューラであるEPS-MoEを紹介する。
その結果,既存の並列推論手法と比較して,プリフィルスループットは52.4%向上した。
論文 参考訳(メタデータ) (2024-10-16T05:17:49Z) - Inference Optimization of Foundation Models on AI Accelerators [68.24450520773688]
トランスフォーマーアーキテクチャを備えた大規模言語モデル(LLM)を含む強力な基礎モデルは、ジェネレーティブAIの新たな時代を支えている。
モデルパラメータの数が数十億に達すると、実際のシナリオにおける推論コストと高いレイテンシーが排除される。
このチュートリアルでは、AIアクセラレータを用いた補完推論最適化テクニックに関する包括的な議論を行っている。
論文 参考訳(メタデータ) (2024-07-12T09:24:34Z) - Memory Is All You Need: An Overview of Compute-in-Memory Architectures for Accelerating Large Language Model Inference [2.9302211589186244]
大規模言語モデル(LLM)は自然言語処理を変換し、機械が人間のようなテキストを生成し、意味のある会話を行うことを可能にする。
計算と記憶能力の発達はムーアの法則の廃止によってさらに悪化している。
コンピュート・イン・メモリ(CIM)技術は、メモリ内でアナログ計算を直接実行することにより、AI推論を加速するための有望なソリューションを提供する。
論文 参考訳(メタデータ) (2024-06-12T16:57:58Z) - Using the Abstract Computer Architecture Description Language to Model
AI Hardware Accelerators [77.89070422157178]
AI統合製品の製造者は、製品のパフォーマンス要件に適合するアクセラレータを選択するという、重大な課題に直面します。
抽象コンピュータアーキテクチャ記述言語(ACADL)は、コンピュータアーキテクチャブロック図の簡潔な形式化である。
本稿では,AIハードウェアアクセラレーションのモデル化にACADLを用いること,DNNのマッピングにACADL記述を使用し,タイミングシミュレーションのセマンティクスを解説し,性能評価結果の収集を行う。
論文 参考訳(メタデータ) (2024-01-30T19:27:16Z) - Edge AI without Compromise: Efficient, Versatile and Accurate
Neurocomputing in Resistive Random-Access Memory [0.0]
我々は,RRAM CIMを用いた最初のマルチモーダルエッジAIチップであるNeuRRAMを提案する。
計算ビット精度の異なる先行技術よりも, 5 倍のエネルギー効率を 5 倍から 8 倍に向上することを示す。
この作業は、高度に効率的で再構成可能なエッジAIハードウェアプラットフォームを構築するための道を開くものだ。
論文 参考訳(メタデータ) (2021-08-17T21:08:51Z) - AIPerf: Automated machine learning as an AI-HPC benchmark [17.57686674304368]
自動機械学習(AutoML)を利用したエンドツーエンドベンチマークスイートを提案する。
アルゴリズムを並列かつ柔軟な方法で実装し、多様なシステムにおける効率性と最適化の可能性を保証する。
フレキシブルなワークロードと単一のメトリックによって、私たちのベンチマークはAI-HPCのスケールとランク付けが容易になります。
論文 参考訳(メタデータ) (2020-08-17T08:06:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。