論文の概要: Agentic Design Space Exploration for Joint Hardware Configuration Selection and Mapping of AI Inference Workloads on Heterogeneous Edge SoCs
- arxiv url: http://arxiv.org/abs/2610.07191v1
- Date: Mon, 05 Oct 2026 18:08:58 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 02:58:29.581237
- Title: Agentic Design Space Exploration for Joint Hardware Configuration Selection and Mapping of AI Inference Workloads on Heterogeneous Edge SoCs
- Title(参考訳): 異種エッジSoC上のAI推論ワークロードのハードウェア構成選択とマッピングのためのエージェント設計空間探索
- Abstract要約: 我々は、異種システムオンチップ上のAI推論のための共同作業負荷マッピングとPU構成選択を行うエージェントDSEフローであるTraceDSEを提案する。
TraceDSEは、2つの最先端のBBOツールを一貫して上回り、NSGA-IIよりもフロンティアハイパーボリュームを最大35%改善し、ベイズ最適化より最大68%向上した。
- 参考スコア(独自算出の注目度): 3.321416302449881
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Modern edge Systems-on-Chip (SoCs) integrate heterogeneous processing units (PUs) such as CPUs, GPUs, and NPUs, each with distinct performance and energy characteristics. Deploying AI inference workloads on them under real-time latency and energy constraints requires jointly mapping workloads to PUs and configuring each PU (e.g., selecting the number of active cores and the operating frequency). This joint space grows combinatorially, making exhaustive search infeasible. Most prior work on design space exploration (DSE) applies black-box optimization (BBO) such as evolutionary search, where each evaluation returns only aggregate metrics such as latency and energy. Recent LLM-guided DSE relies on the same sparse feedback. We observe that this limits its efficiency: it offers no insight into the design space or the reasons a design choice performs the way it does, and it leaves the reasoning abilities of LLMs largely unused. We present TraceDSE, an agentic DSE flow that performs joint workload mapping and PU configuration selection for AI inference on heterogeneous SoCs. TraceDSE is an iterative proposer-critic loop driven by richer feedback in the form of system execution traces. The LLM proposer agent generates candidate mappings and PU configurations for hardware evaluation. The LLM critic agent, equipped with programmatic trace-analysis tools, analyzes the traces to identify bottlenecks and suggest targeted refinements. This loop yields deeper insight into each design point, higher-quality decisions, and a more effective search. Across four AI inference workloads (models of varying complexity and a multi-model pipeline) on an Intel Meteor Lake SoC, TraceDSE consistently outperforms two state-of-the-art BBO tools, improving Pareto frontier hypervolume by up to 35% over NSGA-II and up to 68% over Bayesian optimization, while requiring ~6-9x fewer hardware evaluations.
- Abstract(参考訳): 現代のエッジシステム・オン・チップ(SoC)はCPU、GPU、NPUなどの異種処理ユニット(PU)をそれぞれ異なる性能とエネルギー特性で統合している。
リアルタイムレイテンシとエネルギ制約の下でAI推論ワークロードをデプロイするには、ワークロードをPUに共同でマッピングし、各PUを設定する必要がある(例えば、アクティブコアの数と運用頻度を選択する)。
この結合空間は組合せ的に成長し、徹底的な探索が不可能になる。
設計空間探索(DSE)に関するほとんどの以前の研究は、進化的探索のようなブラックボックス最適化(BBO)を適用しており、各評価は遅延やエネルギーといった集約的なメトリクスのみを返す。
最近のLDM誘導DSEは、同じスパースフィードバックに依存している。
設計空間や設計選択がそれを行う理由についての洞察を得られず、LLMの推論能力はほとんど使われていない。
異種SoC上のAI推論のための共同作業負荷マッピングとPU構成選択を行うエージェントDSEフローであるTraceDSEを提案する。
TraceDSEは、システム実行トレースの形式でよりリッチなフィードバックによって駆動される反復的なプロジェクタ批判ループである。
LLMプロジェクタエージェントは、ハードウェア評価のための候補マッピングとPU構成を生成する。
LLM批判エージェントは、プログラム的なトレース分析ツールを備えており、ボトルネックを特定するためにトレースを分析し、ターゲットの洗練を提案する。
このループは、それぞれの設計点、高品質な決定、より効果的な検索について深い洞察を与える。
Intel Meteor Lake SoC上の4つのAI推論ワークロード(さまざまな複雑性のモデルとマルチモデルパイプライン)の中で、TraceDSEは、2つの最先端のBBOツールを一貫して上回り、NSGA-IIよりも最大35%、ベイズ最適化より最大68%改善し、ハードウェア評価を6~9倍削減する。
関連論文リスト
- Hybrid Workflow Composition for Extreme-Scale Data Processing: A Case Study on the HL-LHC (Extended Version) [0.5156484100374059]
本稿では,タスクセットの粒度とシステムレベルの制約の相互作用を特徴付けるための新しいシミュレーションフレームワークを提案する。
その結果、ハイブリッド合成戦略はスループットを最大3.8倍に向上し、ネットワークオーバーヘッドを14.9倍削減できることがわかった。
論文 参考訳(メタデータ) (2026-07-29T13:07:31Z) - Optimizing AI Inference Across the Deployment Stack [0.8913544654492699]
本稿では,デプロイメントスタック全体にわたる推論最適化の統一的解析処理について述べる。
我々は、精度、レイテンシ、スループット、メモリフットプリント、エネルギに関する制約付き多目的問題としてデプロイメントを定式化する。
我々はJetson AGX Orinや5つの推論フレームワークを含むエッジプラットフォームからエビデンスを合成する。
論文 参考訳(メタデータ) (2026-07-01T15:26:09Z) - InferenceBench: A Benchmark for Open-Ended LLM Inference Optimization by AI Agents [15.892896819368751]
InferenceBenchでは、エージェントがOpenAI互換の推論サーバをデプロイし、LLM推論の速度を最適化する必要がある。
3つの最適化シナリオは、推論のボトルネックを区別する。
エージェントは、単純なPyTorchベースラインよりも確実に改善する。
全体としてInferenceBenchは、エージェントがオープンなAIエンジニアリング環境で操作できることを反映している。
論文 参考訳(メタデータ) (2026-05-20T15:55:21Z) - optimize_anything: A Universal API for Optimizing any Text Parameter [98.42497715725356]
単一タスク検索をサポートする1つのAIベースの最適化システム、クロスプロブレム転送によるマルチタスク検索、および目に見えない入力への一般化を示す。
LLMに基づく検索によるテキストの最適化は汎用的な問題解決パラダイムであることを示す。
論文 参考訳(メタデータ) (2026-05-19T10:18:12Z) - On the Role of Feedback in Test-Time Scaling of Agentic AI Workflows [71.92083784393418]
エージェントAI(自律的な計画と行動を行うシステム)は広く普及しているが、複雑なタスクにおけるタスクの成功率は低いままである。
推論時のアライメントは、サンプリング、評価、フィードバックの3つのコンポーネントに依存します。
本稿では,様々な形態の批判から抽出されたフィードバックを繰り返し挿入するIterative Agent Decoding(IAD)を紹介する。
論文 参考訳(メタデータ) (2025-04-02T17:40:47Z) - Automated and Holistic Co-design of Neural Networks and ASICs for Enabling In-Pixel Intelligence [4.063480188363124]
放射能検出のための可読ASICなどの極端エッジAIシステムは、厳密なハードウェア制約の下で動作しなければならない。
理想的なソリューションを見つけることは、爆発的に拡張されたデザイン空間から最適なAIとASIC設計の選択を特定することを意味する。
論文 参考訳(メタデータ) (2024-07-18T17:58:05Z) - Benchmarking End-To-End Performance of AI-Based Chip Placement Algorithms [77.71341200638416]
ChiPBenchはAIベースのチップ配置アルゴリズムの有効性を評価するために設計されたベンチマークである。
評価のために、さまざまなドメイン(CPU、GPU、マイクロコントローラなど)から20の回路を集めました。
その結果, 単点アルゴリズムの中間距離が支配的であったとしても, 最終的なPPA結果は満足できないことがわかった。
論文 参考訳(メタデータ) (2024-07-03T03:29:23Z) - Multi-Agent Reinforcement Learning for Microprocessor Design Space
Exploration [71.95914457415624]
マイクロプロセッサアーキテクトは、高性能でエネルギー効率の追求において、ドメイン固有のカスタマイズにますます頼っている。
この問題に対処するために,Multi-Agent RL (MARL) を利用した別の定式化を提案する。
評価の結果,MARLの定式化は単エージェントRLのベースラインよりも一貫して優れていた。
論文 参考訳(メタデータ) (2022-11-29T17:10:24Z) - Task-Oriented Sensing, Computation, and Communication Integration for
Multi-Device Edge AI [108.08079323459822]
本稿では,AIモデルの分割推論と統合センシング通信(ISAC)を併用した,新しいマルチインテリジェントエッジ人工レイテンシ(AI)システムについて検討する。
推定精度は近似的だが抽出可能な計量、すなわち判別利得を用いて測定する。
論文 参考訳(メタデータ) (2022-07-03T06:57:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。