論文の概要: Atlas: Optimizing Deployment of Compound AI Workflows on Heterogeneous Clusters

• arxiv url: http://arxiv.org/abs/2609.04513v1
• Date: Thu, 03 Sep 2026 22:01:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-07 18:15:23.839463
• Title: Atlas: Optimizing Deployment of Compound AI Workflows on Heterogeneous Clusters
• Title（参考訳）: Atlas: 異種クラスタへの複合AIワークフローのデプロイを最適化する
• Abstract要約: 複合AIトポロジは、複数のAIモデルとソフトウェアコンポーネントの調整にますます利用されている。 それぞれのワークフローステージが異なるモデルバリエーションとリソース要件を公開することができるため、このアプローチはデプロイメントの柔軟性を実現する。 デプロイメントは、SLOを満たすために、複合AIワークフローステージ毎にAIモデルを選択し、それらを異種クラスタに配置する実行計画を選択する必要がある。 我々は、SLO制約の下で複合AIデプロイメントを最適化するフレームワークであるAtlasを紹介した。
• 参考スコア（独自算出の注目度）: 1.1470070927586018
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Compound AI workflows are increasingly used to serve complex AI tasks by coordinating multiple AI models and software components. This approach enables deployment flexibility, as each workflow stage can expose different model variants and resource requirements, but it also expands the deployment choices. A deployment must choose an execution plan that selects AI models for each compound AI workflow stage and places them on a heterogeneous cluster in order to satisfy SLOs. Deployment optimizers therefore need estimates to compare many candidate plans and identify feasible ones. System metrics can often be profiled per stage and composed according to workflow topology, but accuracy cannot, as errors and information loss at upstream stages affect the accuracy of downstream stages. Existing approaches either profile complete configurations end to end, which scales poorly, or use product-based accuracy surrogates that treat stages as independent and can misrank candidate plans. We introduce Atlas, a framework for optimizing compound AI deployments under SLO constraints. Atlas uses MAP, a Markovian Accuracy Predictor, to estimate configuration accuracy from local conditional accuracy transitions between adjacent workflow stages. MAP discretizes intermediate outputs into accuracy buckets and composes transition profiles according to workflow topology, giving the optimizer an accuracy estimate without exhaustive end-to-end profiling. Atlas formulates execution-plan selection as a mixed-integer linear program that maximizes predicted accuracy subject to SLOs. Across four compound AI workflows, MAP achieves Spearman correlation up to 0.947 while reducing profiling cost by up to 2.6x relative to exhaustive end-to-end profiling. Guided by MAP, the Atlas optimizer selects execution plans within 0.03 of oracle accuracy while reducing deployment cost by up to 42% through heterogeneous placement.
• Abstract（参考訳）: 複合AIワークフローは、複数のAIモデルとソフトウェアコンポーネントを調整することで、複雑なAIタスクに役立っている。 このアプローチは、各ワークフローステージが異なるモデル変種とリソース要件を公開することができるため、デプロイメントの柔軟性を可能にするが、デプロイメントの選択も拡大する。 デプロイメントは、SLOを満たすために、複合AIワークフローステージ毎にAIモデルを選択し、それらを異種クラスタに配置する実行計画を選択する必要がある。 したがって、デプロイオプティマイザは、多くの候補プランを比較し、実現可能なプランを特定するために見積もりを必要とします。 システムメトリクスは、しばしばステージ毎にプロファイルされ、ワークフロートポロジに従って構成されるが、上流の段階でのエラーや情報損失が下流のステージの精度に影響を与えるため、正確性は得られない。 既存のアプローチでは、プロファイルの完全な構成が終了し、スケールが低くなるか、あるいはステージを独立したものとして扱う製品ベースの精度サロゲートを使用することで、候補プランを誤ったものにすることができる。 我々は、SLO制約の下で複合AIデプロイメントを最適化するフレームワークであるAtlasを紹介した。 Atlasは、Markovianの精度予測器MAPを使用して、隣のワークフローステージ間のローカル条件の精度遷移から構成精度を推定する。 MAPは中間出力を精度バケットに分解し、ワークフロートポロジに従って遷移プロファイルを構成する。 Atlasは、SLOの予測精度を最大化する混合整数線形プログラムとして実行計画選択を定式化する。 4つの複合AIワークフロー全体で、MAPはSpearman相関を0.947まで達成し、徹底的なエンドツーエンドプロファイリングと比較して、プロファイリングコストを最大2.6倍に削減する。 MAPによってガイドされたAtlasオプティマイザは、オラクルの精度0.03以内の実行計画を選択し、異種配置によるデプロイメントコストを最大42%削減する。

関連論文リスト

• Task-to-Model Optimization for Enterprise LLM Coding Assistants: A Data-Driven Framework for Cost-Optimal Routing [5.00725149774706]
  エンタープライズAIコーディングアシスタントは、相当な推論費用を発生させ、トークンコストの最小化は、再試行、エスカレーション、開発者待ち時間を含むと、エンドツーエンドコストの削減に失敗することが多い。 実運用におけるモデル選択を最適化するためのデータ駆動手法であるタスク・ツー・モデル最適化(T2MO)を提案する。 私たちは、各開発者セッションを、発見、分類、難易度を評価、プロダクション風のハーネスでベンチマークし、品質とレイテンシの制約の中でそれを完了できる最も安価なモデルにルーティングできるタスクとして扱います。
  論文  参考訳（メタデータ） (2026-08-09T06:57:53Z)
• Identifying unique developers in OSS projects: A family of models [41.460411434639916]
  OSSでは、コミットメタデータは名前とEメールに限られており、同じ開発者が複数のエイリアスの下に現れる可能性がある。 OSS開発者の重複解消のために,スケーラブルで正確なパイプラインの構築を目標としています。
  論文  参考訳（メタデータ） (2026-06-06T10:48:28Z)
• VineLM: Trie-Based Fine-Grained Control for Agentic Workflows [4.984467399543813]
  VineLMは、モデル選択プレフィックスの注釈付きトリエとして実行可能な実行を表す。 VineLMは、モデル選択プレフィックスの注釈付きトリエとして実行可能な実行を表す。
  論文  参考訳（メタデータ） (2026-04-09T15:31:22Z)
• Chimera: Latency- and Performance-Aware Multi-agent Serving for Heterogeneous LLMs [62.17306142810532]
  ヘテロジニアスLSMクラスタ上で動作するマルチエージェントワークフローの予測スケジューリングシステムであるChimeraを提案する。 Chimeは最高のレイテンシをトレースし、エンドツーエンドのレイテンシを1.2-2.4$times$で削減し、タスクパフォーマンスを平均8.0-9.5ポイント改善する。
  論文  参考訳（メタデータ） (2026-03-23T17:01:42Z)
• Compass: Optimizing Compound AI Workflows for Dynamic Adaptation [1.9116784879310027]
  複雑なAI運用デプロイメントは、さまざまな負荷下での正確性、レイテンシ、コスト目標を満足させなければなりません。 既存のアプローチは、単に正確性のために最適化されており、ワークロード条件の変更を考慮していない。 オフライン最適化とオンライン適応による動的構成切り替えを可能にする新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-03-21T13:40:48Z)
• ProAct: Agentic Lookahead in Interactive Environments [56.50613398808361]
  ProActは、2段階のトレーニングパラダイムを通じて、エージェントが正確なルックアヘッド推論を内部化することを可能にするフレームワークである。 そこでは,環境に基づく探索から得られたトラジェクトリの微調整をエージェントが行うGLAD(Grounded LookAhead Distillation)を紹介する。 また,政策段階のアルゴリズムを改良する補助値推定器であるモンテカルロ批判(MC-Critic)を提案する。
  論文  参考訳（メタデータ） (2026-02-05T05:45:16Z)
• CLIDD: Cross-Layer Independent Deformable Description for Efficient and Discriminative Local Feature Representation [6.478456907626643]
  CLIDD (Cross-Layer Independent Deformable Description) は、独立な特徴階層から直接サンプリングすることで、優れた特徴性を実現する手法である。 リアルタイム性能を確保するため,ハードウェア対応のカーネル融合戦略を実装した。 軽量アーキテクチャとトレーニングプロトコルを統合するスケーラブルなフレームワークを開発する。
  論文  参考訳（メタデータ） (2026-01-14T07:03:01Z)
• PIPA: Preference Alignment as Prior-Informed Statistical Estimation [57.24096291517857]
  本稿では、RLフリーな統一確率的フレームワークであるPIPA(Pior-Informed Preference Alignment)を紹介する。 PIPAはペアデータとアンペアデータの両方に対応し、回答とステップレベルのアノテーションを提供する。 異なる種類の事前情報を統合することにより,PIPA-MとPIPA-Nの2種類のPIPAを開発した。
  論文  参考訳（メタデータ） (2025-02-09T04:31:30Z)
• Benchmarking Agentic Workflow Generation [80.74757493266057]
  複数面シナリオと複雑なグラフワークフロー構造を備えた統合ワークフロー生成ベンチマークであるWorfBenchを紹介する。 また,サブシーケンスとサブグラフマッチングアルゴリズムを利用したシステム評価プロトコルWorfEvalを提案する。 我々は、生成されたタスクが下流のタスクを強化し、推論中により少ない時間で優れたパフォーマンスを達成することを観察する。
  論文  参考訳（メタデータ） (2024-10-10T12:41:19Z)
• MAP: Low-compute Model Merging with Amortized Pareto Fronts via Quadratic Approximation [80.47072100963017]
  Amortized Pareto Front (MAP) を用いた新しい低演算アルゴリズム Model Merging を導入する。 MAPは、複数のモデルをマージするためのスケーリング係数のセットを効率的に識別し、関連するトレードオフを反映する。 また,タスク数が比較的少ないシナリオではベイジアンMAP,タスク数の多い状況ではNested MAPを導入し,計算コストを削減した。
  論文  参考訳（メタデータ） (2024-06-11T17:55:25Z)
• Meta-Generating Deep Attentive Metric for Few-shot Classification [53.07108067253006]
  本稿では,新しい数ショット学習タスクのための特定のメトリックを生成するための,新しい深度メタジェネレーション手法を提案する。 本研究では,各タスクの識別基準を生成するのに十分なフレキシブルな3層深い注意ネットワークを用いて,メトリクスを構造化する。 特に挑戦的なケースでは、最先端の競合他社よりも驚くほどパフォーマンスが向上しています。
  論文  参考訳（メタデータ） (2020-12-03T02:07:43Z)
• Online Model Selection for Reinforcement Learning with Function Approximation [50.008542459050155]
  我々は、$tildeO(L5/6 T2/3)$ regretで最適な複雑性に適応するメタアルゴリズムを提案する。 また、メタアルゴリズムは、インスタンス依存の後悔境界を著しく改善することを示す。
  論文  参考訳（メタデータ） (2020-11-19T10:00:54Z)
• Progressive Identification of True Labels for Partial-Label Learning [112.94467491335611]
  部分ラベル学習(Partial-label Learning, PLL)は、典型的な弱教師付き学習問題であり、各トレーニングインスタンスには、真のラベルである候補ラベルのセットが設けられている。 既存のほとんどの手法は、特定の方法で解決しなければならない制約付き最適化として精巧に設計されており、計算複雑性をビッグデータにスケールアップするボトルネックにしている。 本稿では,モデルと最適化アルゴリズムの柔軟性を備えた分類器の新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2020-02-19T08:35:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。