論文の概要: AIPC: Evidence-Guided Agent Workflows for PyTorch Project Deployment
- arxiv url: http://arxiv.org/abs/2610.34890v1
- Date: Mon, 26 Oct 2026 06:10:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 22:27:13.769987
- Title: AIPC: Evidence-Guided Agent Workflows for PyTorch Project Deployment
- Title（参考訳）: AIPC: PyTorchプロジェクトのデプロイのためのEvidence-Guided Agentワークフロー
- Abstract要約: 我々はPyTorch推論プロジェクトをデプロイするためのエージェント手法であるAIPC(AI Porting & Conversion)を提案する。
Qualcomm QAIRTのデバイス上でのNPUパスに対して,視覚,音声,LLM,拡散モデル間でAIPCを評価する。
- 参考スコア（独自算出の注目度）: 9.256351623715288
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deploying and optimizing a PyTorch inference project on a dedicated accelerator, especially an on-device NPU, requires more than using a framework device API as with CUDA. The project must be converted into hardware-runtime artifacts and adapted to the target toolchain and application interface. Differences in model formats, quantization flows, operator support, and toolchain interfaces create cross-layer problems spanning PyTorch/ONNX models, toolchains, runtimes, and device execution. LLM Agents can invoke tools to address such problems, but may drift because of insufficient domain knowledge, large configuration and repair spaces, or poor path selection. We propose AIPC (AI Porting & Conversion), an Agent method for deploying PyTorch inference projects. AIPC combines structured Skills with toolchain, runtime, and profiling evidence to drive cross-layer diagnosis and repair, organizing model adaptation, artifact building, on-target execution, accuracy repair, and performance optimization into one deployment flow. We evaluate AIPC on the on-device NPU path of Qualcomm QAIRT across vision, speech, LLM, and diffusion models. In two optimization cases, 6/7 Skill-arm Whisper-Small runs meet predefined accuracy and latency criteria versus 0/6 control runs, while YOLO-Worldv2 achieves a 2.791x end-to-end speedup versus 1.599x for the control. Under a pre-fixed deployment contract, Skill, tool permissions, and check conditions, some runs achieve zero in-run human intervention (0-HITL). We also examine Qwen3.8-27B as a locally deployable model for driving an Agent workflow.
- Abstract（参考訳）: 専用のアクセラレータ、特にデバイス上のNPUにPyTorch推論プロジェクトをデプロイし、最適化するには、CUDAのようにフレームワークデバイスAPIを使用する以上のことが必要になる。
プロジェクトはハードウェア実行時のアーティファクトに変換し、ターゲットのツールチェーンとアプリケーションインターフェースに適応する必要があります。
モデルフォーマット、量子化フロー、オペレータのサポート、ツールチェーンインターフェースの違いは、PyTorch/ONNXモデル、ツールチェーン、ランタイム、デバイス実行にまたがるクロスレイヤの問題を生成する。
LLMエージェントはそのような問題に対処するためのツールを起動することができるが、ドメイン知識の不足、大規模な設定と修復スペースの不足、あるいは経路選択が不十分なため、ドリフトする可能性がある。
我々はPyTorch推論プロジェクトをデプロイするためのエージェント手法であるAIPC(AI Porting & Conversion)を提案する。
AIPCは構造化スキルとツールチェーン、ランタイム、プロファイリングエビデンスを組み合わせることで、クロスレイヤの診断と修復、モデル適応の組織化、アーティファクト構築、オンターゲット実行、正確性修復、パフォーマンス最適化をひとつのデプロイメントフローに統合する。
Qualcomm QAIRTのデバイス上でのNPUパスに対して,視覚,音声,LLM,拡散モデル間でAIPCを評価する。
2つの最適化ケースでは、6/7のSkill-arm Whisper-Smallが0/6の制御実行に対して、事前定義された精度とレイテンシの基準を満たし、YOLO-Worldv2は2.791xのエンドツーエンドのスピードアップを達成する。
事前修正されたデプロイメント契約、スキル、ツールパーミッション、チェック条件の下では、一部は実行中のヒューマン介入(0-HITL)をゼロにする。
また、エージェントワークフローを駆動するためのローカルデプロイ可能なモデルとして、Qwen3.8-27Bについても検討する。
関連論文リスト
- Evaluating Local Language Model Agents for Reproducible Data Engineering: An Empirical Software Engineering Study of Mobility Workflows [74.39138492851343]
大規模言語モデル(LLM)エージェントは、ソフトウェアやデータエンジニアリングアシスタントとしてますます使われている。
ローカルオープンウェイトエージェントが正しい再現可能なデータエンジニアリングアーティファクトを作成できるかどうかを評価する。
論文 参考訳（メタデータ） (2026-10-08T08:26:46Z) - Goal-Persistent Coding Agents as Scientific Performance Engineers: A Fixed-Radius Nearest-Neighbor Case Study [0.0]
符号化エージェントは、多くのツール使用ターンで永続的な目的を追求することができるが、汎用エージェントが厳密な科学的パフォーマンスエンジニアリングを行うことができるという証拠は依然として限られている。
既製のCodexとClaude Codeのエージェントが最寄りの粒子追跡を最適化するリポジトリスケールケーススタディを提案する。
論文 参考訳（メタデータ） (2026-09-25T20:32:33Z) - From PyTorch to the NPU: LLM-Agent-Driven Model Conversion Across Heterogeneous Inference Runtimes [0.4499833362998488]
Edge AIモデルデプロイメントは、モデル変換、オペレータ互換性処理、ランタイム統合、精度検証を含む、多段階のエンジニアリングプロセスである。
これまではQualcomm AIのエージェントベースの自動化を実証していたが、Intel OpenVINO、Rockchip RKNN、NVIDIART、ONNXPCなど、より広範なエッジランタイム推論プラクティスでは、独自のツールチェーンと最適化戦略が提示されている。
論文 参考訳（メタデータ） (2026-09-23T02:34:21Z) - Speculative Interaction Agents: Building Real-Time Agents with Asynchronous I/O and Speculative Tool Calling [64.40340291543971]
我々は,小さなエッジスケールモデルとのリアルタイムインタラクションを実現するための投機的インタラクションエージェントを提案する。
また、ストリーミング入力と非同期応答を処理するためにモデルを適応させるクロックベースのトレーニング手法を提案する。
このアプローチは、Qwen2.5-3B-InstructとLlama-3.2-3B-Instructモデルを複数のツール呼び出しベンチマークで1.6-2.2$times$ Speedupを提供する。
論文 参考訳（メタデータ） (2026-05-13T11:20:52Z) - ExecuTorch -- A Unified PyTorch Solution to Run AI Models On-Device [9.328077533565924]
ExecuTorchはエッジAIのための統合PyTorchネイティブデプロイメントフレームワークである。
これは、異質な計算環境にまたがる機械学習モデルのシームレスなデプロイを可能にする。
論文 参考訳（メタデータ） (2026-05-05T18:59:31Z) - GTA-2: Benchmarking General Tool Agents from Atomic Tool-Use to Open-Ended Workflows [90.35728421223673]
GTA-2はジェネラル・ツール・エージェント(GTA)の階層的なベンチマークである
現実世界の認証に基づいて構築され、実際のユーザクエリ、デプロイツール、マルチモーダルコンテキストを活用する。
実験では、フロンティアモデルは既に原子タスクに苦戦しているが、トップモデルは14.39%の成功しか達成していない。
論文 参考訳（メタデータ） (2026-04-17T05:36:00Z) - AIPC: Agent-Based Automation for AI Model Deployment with Qualcomm AI Runtime [0.0]
本稿では,AIモデル展開の制約付き自動化のためのAIエージェント駆動型アプローチであるAIPCを紹介する。
標準化された検証可能なステージへのデプロイを分解し、デプロイドメインの知識をエージェントの実行に注入する。
PyTorchから実行可能なQNN/SNPE推論へのデプロイを7～20分以内に完了し、構造的に定期的な視覚モデルを実現する。
論文 参考訳（メタデータ） (2026-04-16T06:15:56Z) - Toward Automated Virtual Electronic Control Unit (ECU) Twins for Shift-Left Automotive Software Testing [0.0]
自動車ソフトウェアは、ハードウェアの可用性をますます上回り、遅延統合と高価なハードウェア・イン・ザ・ループ(HiL)ボトルネックを強制する。
InnoRegioChallengeは、仮想テストと統合環境が物理的なハードウェアが存在する前に実際のソフトウェアバイナリを実行するのに十分早く電子制御ユニット(ECU)の動作を再現できるかどうかを調査した。
本稿では,エージェント型フィードバック駆動型ワークフローを用いて,システムC/TLM2.0で命令精度の高いプロセッサモデルを生成するプロトタイプを報告する。
論文 参考訳（メタデータ） (2026-02-20T11:03:46Z) - AgentScope: A Flexible yet Robust Multi-Agent Platform [66.64116117163755]
AgentScopeは、メッセージ交換をコアコミュニケーションメカニズムとする、開発者中心のマルチエージェントプラットフォームである。
豊富な構文ツール、組み込みエージェントとサービス機能、アプリケーションのデモとユーティリティモニタのためのユーザフレンドリなインターフェース、ゼロコードプログラミングワークステーション、自動プロンプトチューニング機構により、開発とデプロイメントの両方の障壁は大幅に低下した。
論文 参考訳（メタデータ） (2024-02-21T04:11:28Z) - An Adaptive Device-Edge Co-Inference Framework Based on Soft
Actor-Critic [72.35307086274912]
高次元パラメータモデルと大規模数学的計算は、特にIoT(Internet of Things)デバイスにおける実行効率を制限する。
本稿では,ソフトポリシーの繰り返しによるエフェキシット点,エフェキシット点,エンフェキシット点を生成する離散的(SAC-d)のための新しい深層強化学習(DRL)-ソフトアクタ批判法を提案する。
レイテンシと精度を意識した報酬設計に基づいて、そのような計算は動的無線チャンネルや任意の処理のような複雑な環境によく適応でき、5G URLをサポートすることができる。
論文 参考訳（メタデータ） (2022-01-09T09:31:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。