論文の概要: AgentDP: Towards Automated Model Deployment for Heterogeneous Embedded AI Applications
- arxiv url: http://arxiv.org/abs/2610.30760v1
- Date: Thu, 22 Oct 2026 05:29:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-24 02:08:44.224841
- Title: AgentDP: Towards Automated Model Deployment for Heterogeneous Embedded AI Applications
- Title(参考訳): AgentDP: 異種組み込みAIアプリケーションのためのモデル展開自動化を目指す
- Abstract要約: AgentDPは、Large Language Model (LLM)エージェントでモデル最適化と適応(O&A)を完全に自動化することで、トレーニング済みのAIモデルを異種組み込みデバイスにデプロイすることを目的としている。
AgentDPは、手動のO&Aと比較してモデル全体の適応時間を最大80%削減し、ベースラインよりも高いタスク精度(平均で13%以上)を達成する。
- 参考スコア(独自算出の注目度): 17.49724992739061
- License: http://creativecommons.org/publicdomain/zero/1.0/
- Abstract: This paper presents AgentDP, which aims to deploy pre-trained AI models on heterogeneous embedded devices by fully automating model optimization and adaptation (O&A) with Large Language Model (LLM) agents. AgentDP not only significantly reduces human effort via automation but also enhances model inference efficacy by integrating LLMs with device-specific domain knowledge. To deliver a robust automation framework, AgentDP develops novel solutions to address three key technical challenges: 1) To help users elicit clear requirements, we propose a user requirement standardization module; 2) To mitigate the execution environment mismatch between AI models and heterogeneous embedded devices, we design an operator-aware model partition paradigm that enables different parts of the model to be efficiently executed on distinct inference engines. 3) To avoid re-searching optimization hyperparameters for new tasks, we propose a configuration reuse module that heuristically retrieves previous hyperparameter configurations for efficient reuse. Extensive experiments demonstrate that by fully automating the entire O&A process, AgentDP reduces entire model adaptation time by up to 80% compared with manual O&A while achieving higher task accuracy (more than 13% on average) than the baselines. Additionally, a comprehensive user study also exhibits the robust generalizability of AgentDP in adapting to different user requirements for heterogeneous embedded devices.
- Abstract(参考訳): 本稿では,Large Language Model (LLM)エージェントによるモデル最適化と適応(O&A)を完全自動化することにより,未学習のAIモデルを異種組み込みデバイスに展開することを目的としたAgentDPを提案する。
AgentDPは、自動化による人間の労力を大幅に削減するだけでなく、LLMとデバイス固有のドメイン知識を統合することで、モデル推論の有効性を高める。
堅牢な自動化フレームワークを提供するため、AgentDPは3つの重要な技術的課題に対処する新しいソリューションを開発した。
1) 要求の明確化を支援するため,ユーザ要求標準化モジュールを提案する。
2)AIモデルと不均一な組込みデバイス間の実行環境のミスマッチを軽減するため,モデルの異なる部分を異なる推論エンジン上で効率的に実行できるようにする演算子対応モデル分割パラダイムを設計する。
3)新しいタスクに対する最適化ハイパーパラメータの再探索を避けるため,従来のハイパーパラメータ設定をヒューリスティックに回収し,効率的な再利用を行う構成再利用モジュールを提案する。
大規模な実験では、AgentDPはO&Aプロセス全体を完全に自動化することで、手動のO&Aと比較してモデル全体の適応時間を最大80%削減し、ベースラインよりも高いタスク精度(平均13%以上)を達成する。
さらに、包括的ユーザスタディでは、異種組み込みデバイスに対する異なるユーザ要求に適応する上で、AgentDPの堅牢な一般化性も示している。
関連論文リスト
- Model-Driven Discipline for Multi-Agent LLMs: Requirement-to-Verification Generation of Traceable System Models [62.62160094849002]
RADIANTは、MDEとMulti-Agent Large Language Modelを組み合わせたエンジニアリング方法論である。
工学的なフェーズにまたがる異種モデルを自動的に生成する。
正確かつ自動的な変更インパクト分析を提供する。
論文 参考訳(メタデータ) (2026-07-18T08:50:55Z) - EmboCoach-Bench: Benchmarking AI Agents on Developing Embodied Robots [68.29056647487519]
Embodied AIは、高忠実度シミュレーションと大規模データ収集によって実現されている。
しかし、このスケーリング能力は、労働集約的な手作業の監視に依存しているため、いまだにボトルネックになっている。
実装ポリシーを自律的に構築するための LLM エージェントの能力を評価するベンチマークである textscEmboCoach-Bench を紹介する。
論文 参考訳(メタデータ) (2026-01-29T11:33:49Z) - ComAgent: Multi-LLM based Agentic AI Empowered Intelligent Wireless Networks [62.031889234230725]
6Gネットワークは複雑な層間最適化に依存している。
数学の定式化に高レベルの意図を手動で翻訳することは、まだボトルネックである。
我々はマルチLLMエージェントAIフレームワークであるComAgentを紹介する。
論文 参考訳(メタデータ) (2026-01-27T13:43:59Z) - Jenius Agent: Towards Experience-Driven Accuracy Optimization in Real-World Scenarios [0.9069311779417014]
本稿では,実体験に基づくエージェントフレームワークを提案する。
Jenius-Agentという名前のエンドツーエンドフレームワークは、3つの重要な最適化と統合されている。
実験によると、タスクの精度が20%向上し、トークンコストが削減され、レスポンスレイテンシが低下し、起動障害が発生している。
論文 参考訳(メタデータ) (2026-01-05T07:35:12Z) - Agent2World: Learning to Generate Symbolic World Models via Adaptive Multi-Agent Feedback [51.22403664895878]
Agent2Worldは、強力な推論時ワールドモデル生成を実現するツール拡張マルチエージェントフレームワークである。
また、マルチエージェントフィードバックの生成を基盤にすることで、教師付き微調整のためのデータエンジンとしても機能する。
論文 参考訳(メタデータ) (2025-12-26T18:54:14Z) - OptiMindTune: A Multi-Agent Framework for Intelligent Hyperparameter Optimization [0.0]
本稿では,ハイパーパラメータをインテリジェントかつ効率的に最適化する新しいマルチエージェントフレームワークOptiMindTuneを紹介する。
私たちは、GoogleのGeminiモデルによって、Recommender Agent、Evaluator Agent、Decision Agentという3つの専門AIエージェントの協調的なインテリジェンスを活用しています。
我々のフレームワークは、高度な大規模言語モデルと適応検索の原則を統合し、スケーラブルでインテリジェントなAutoMLを実現する。
論文 参考訳(メタデータ) (2025-05-25T16:05:41Z) - Intelligent Mobile AI-Generated Content Services via Interactive Prompt Engineering and Dynamic Service Provisioning [55.641299901038316]
AI生成コンテンツは、ネットワークエッジで協調的なMobile AIGC Service Providers(MASP)を編成して、リソース制約のあるユーザにユビキタスでカスタマイズされたコンテンツを提供することができる。
このようなパラダイムは2つの大きな課題に直面している: 1) 生のプロンプトは、ユーザーが特定のAIGCモデルで経験していないために、しばしば生成品質が低下する。
本研究では,Large Language Model (LLM) を利用してカスタマイズしたプロンプトコーパスを生成する対話型プロンプトエンジニアリング機構を開発し,政策模倣に逆強化学習(IRL)を用いる。
論文 参考訳(メタデータ) (2025-02-17T03:05:20Z) - A Multi-AI Agent System for Autonomous Optimization of Agentic AI Solutions via Iterative Refinement and LLM-Driven Feedback Loops [3.729242965449096]
本稿では,産業間におけるエージェントAIソリューションを自律的に最適化するフレームワークを提案する。
このフレームワークは、仮説を自律的に生成し、テストすることで、人間の入力なしに最適な性能を達成する。
ケーススタディでは、アウトプットの品質、妥当性、動作性が大幅に改善された。
論文 参考訳(メタデータ) (2024-12-22T20:08:04Z) - SensiX++: Bringing MLOPs and Multi-tenant Model Serving to Sensory Edge
Devices [69.1412199244903]
エッジデバイス上でMLOpsを統合した,適応モデル実行のためのマルチテナントランタイムを提案する。
S SensiX++は、高度にモジュール化されたコンポーネント化と、明確な抽象化によるデータ操作の外部化と、システム全体のオーケストレーションのためのドキュメント中心の宣言という、2つの基本原則で運用されている。
SensiX++のさまざまな自動化コンポーネントの全体的なスループットと定量化メリットについて報告し、運用の複雑さを著しく低減し、エッジデバイスへの組み込みモデルのデプロイ、アップグレード、再構成、提供の労力を削減する効果を実証する。
論文 参考訳(メタデータ) (2021-09-08T22:06:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。