論文の概要: Design Methodology and Performance Trade-offs Management for Distributed and Compound AI Systems

• arxiv url: http://arxiv.org/abs/2606.14350v1
• Date: Fri, 12 Jun 2026 11:09:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-15 16:00:42.872016
• Title: Design Methodology and Performance Trade-offs Management for Distributed and Compound AI Systems
• Title（参考訳）: 分散複合AIシステムの設計手法と性能トレードオフ管理
• Authors: Milos Gravara, Andrija Stanisic, Stefan Nastic,
• Abstract要約: 複合AIシステムは、明示的な制御ロジックを通じて、分散AIシステムとして複数のモデル、アルゴリズム、ツールを編成することで、このシフトを実現する。 本稿では、この空間をワークフロートポロジと構成選択という2つの次元に沿って整理し、8つのデザインパターンを識別する設計方法論を提案する。
• 参考スコア（独自算出の注目度）: 1.1470070927586018
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Artificial Intelligence (AI) systems must typically satisfy service-level objectives including accuracy, latency, and cost. The prevailing model-centric approaches select a monolithic model at design time and apply identical computation regardless of input difficulty, cannot decompose tasks across specialized components, and have knowledge that is fixed at training time. During runtime, this can lead to performance degradation and increasing costs. Because the model is the main design variable, it determines the majority of system behavior, coupling operational objectives to a single design-time choice. Addressing these limitations requires shifting from model-centric to system-centric design. Compound AI systems realize this shift by orchestrating multiple models, algorithms, and tools as distributed AI systems through explicit control logic. The performance of such systems depends on their workflow topology, the models assigned to each task, and the parameters governing runtime behavior. We present a design methodology that organizes this space along two dimensions, workflow topology and configuration selection, and identifies eight design patterns, each consolidating techniques to address a specific limitation of monolithic deployment. We validate our methodology through three case studies. Across our case studies, Compound AI configurations approach accuracy of monolithic models within 2.5 to 4 percentage points while reducing latency by up to 60% and cost by up to 71%. We show that model selection and parameter configuration jointly determine system performance, but the resulting design space grows combinatorially, as workflows compose more patterns and components. Thus, we identify five open challenges that define a roadmap from manually configured prototypes towards systems that automatically discover and maintain SLO-compliance in Compound and Distributed AI systems.
• Abstract（参考訳）: 人工知能(AI)システムは通常、正確性、レイテンシ、コストなど、サービスレベルの目的を満たさなければならない。 一般的なモデル中心のアプローチでは、設計時にモノリシックモデルを選択し、入力困難に関係なく同じ計算を適用し、特定のコンポーネント間でタスクを分解することができず、訓練時に固定された知識を持つ。 実行中は、パフォーマンスの低下とコストの増大につながる可能性がある。 モデルが主な設計変数であるため、システムの振る舞いの大部分を決定し、運用上の目的を単一の設計時選択に結合する。 これらの制限に対処するには、モデル中心からシステム中心の設計に移行する必要がある。 複合AIシステムは、明示的な制御ロジックを通じて、分散AIシステムとして複数のモデル、アルゴリズム、ツールを編成することで、このシフトを実現する。 このようなシステムの性能は、ワークフロートポロジ、各タスクに割り当てられたモデル、実行時の振る舞いを管理するパラメータに依存する。 本稿では,この空間をワークフロートポロジと構成選択という2つの側面に沿って整理する設計方法論を提案する。 3つのケーススタディを通して方法論を検証する。 ケーススタディ全体で、複合AI構成は、2.5から4ポイント以内のモノリシックモデルの精度にアプローチし、レイテンシを最大60%削減し、コストを最大71%削減します。 モデル選択とパラメータ設定が協調してシステム性能を決定することを示すが、ワークフローがより多くのパターンやコンポーネントを構成するため、結果として得られる設計空間は組合せ的に成長する。 そこで我々は,手動で構成したプロトタイプから,複合型および分散型AIシステムにおけるSLO準拠を自動的に検出・維持するシステムへのロードマップを定義するオープンな5つの課題を特定した。

関連論文リスト

• PLAIground: SLO-Driven Runtime Model Selection for Compound AI Systems in the Edge-Cloud-Space Continuum [1.0499611180329804]
  複合AIシステムは、正確性、レイテンシ、コストに関して、厳格なサービスレベルオブジェクト(SLO)を満たす必要があります。 既存の分散および複合AIフレームワークは、ランタイムモデル選択をサポートしない。 本稿では,複合AIシステムの実行時モデル選択を可能にするフレームワークPLAIgroundを提案する。
  論文  参考訳（メタデータ） (2026-06-12T11:34:51Z)
• Dynamic Model Routing and Cascading for Efficient LLM Inference: A Survey [4.273936276295959]
  多様な機能、コスト、ドメインを持つ大規模言語モデル(LLM)は、推論時にインテリジェントなモデル選択に重要なニーズを生み出している。 クエリ特性に基づいてモデルを適応的に選択する動的ルーティングシステムが,この課題の解決策として登場した。 本稿では,最先端のマルチLLMルーティングとカスケード手法の体系的解析を行う。
  論文  参考訳（メタデータ） (2026-02-23T21:57:27Z)
• Performance and Complexity Trade-off Optimization of Speech Models During Training [5.335528687192602]
  音声機械学習では、ニューラルネットワークモデルは通常、固定された層の大きさと構造を持つアーキテクチャを選択することで設計される。 全体的なアーキテクチャは通常、タスクの事前の知識によってガイドされるが、個々のレイヤのサイズは、しばしば選択される。 プルーニング法とは異なり,本手法では,対象の性能・複雑さのトレードオフに対して,モデルサイズを動的に最適化する。
  論文  参考訳（メタデータ） (2026-01-20T08:00:05Z)
• AnaFlow: Agentic LLM-based Workflow for Reasoning-Driven Explainable and Sample-Efficient Analog Circuit Sizing [1.2617078020344616]
  サンプル効率と説明可能なアナログ回路サイズのための新しいエージェントAIフレームワークを提案する。 AnaFlowフレームワークは、複雑さの異なる2つの回路で実証されており、サイズタスクを完全に完了することができる。 固有の説明可能性により、アナログ設計空間探索の強力なツールとなり、アナログEDAの新しいパラダイムとなる。
  論文  参考訳（メタデータ） (2025-11-05T18:24:01Z)
• Barbarians at the Gate: How AI is Upending Systems Research [58.95406995634148]
  システム研究は、新しいパフォーマンス指向アルゴリズムの設計と評価に長年注力してきたが、AI駆動のソリューション発見には特に適している、と私たちは主張する。 このアプローチをAI駆動システム研究(ADRS)と呼び、ソリューションを反復的に生成し、評価し、洗練する。 我々の研究結果は、AI時代のシステム研究の実践に急激な適応の必要性と破壊的な可能性を浮き彫りにしている。
  論文  参考訳（メタデータ） (2025-10-07T17:49:24Z)
• Compositional Generative Inverse Design [69.22782875567547]
  入力変数を設計して目的関数を最適化する逆設計は重要な問題である。 拡散モデルにより得られた学習エネルギー関数を最適化することにより、そのような逆例を避けることができることを示す。 N-body 相互作用タスクと2次元多面体設計タスクにおいて,実験時に学習した拡散モデルを構成することにより,初期状態と境界形状を設計できることを示す。
  論文  参考訳（メタデータ） (2024-01-24T01:33:39Z)
• Multi-Agent Reinforcement Learning for Microprocessor Design Space Exploration [71.95914457415624]
  マイクロプロセッサアーキテクトは、高性能でエネルギー効率の追求において、ドメイン固有のカスタマイズにますます頼っている。 この問題に対処するために,Multi-Agent RL (MARL) を利用した別の定式化を提案する。 評価の結果,MARLの定式化は単エージェントRLのベースラインよりも一貫して優れていた。
  論文  参考訳（メタデータ） (2022-11-29T17:10:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。