論文の概要: Compass: Optimizing Compound AI Workflows for Dynamic Adaptation

• arxiv url: http://arxiv.org/abs/2603.20821v1
• Date: Sat, 21 Mar 2026 13:40:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-24 19:11:39.10304
• Title: Compass: Optimizing Compound AI Workflows for Dynamic Adaptation
• Title（参考訳）: Compass: 動的適応のための複合AIワークフローの最適化
• Authors: Milos Gravara, Juan Luis Herrera, Stefan Nastic,
• Abstract要約: 複雑なAI運用デプロイメントは、さまざまな負荷下での正確性、レイテンシ、コスト目標を満足させなければなりません。 既存のアプローチは、単に正確性のために最適化されており、ワークロード条件の変更を考慮していない。 オフライン最適化とオンライン適応による動的構成切り替えを可能にする新しいフレームワークを提案する。
• 参考スコア（独自算出の注目度）: 1.9116784879310027
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Compound AI is a distributed intelligence approach that represents a unified system orchestrating specialized AI/ML models with engineered software components into AI workflows. Compound AI production deployments must satisfy accuracy, latency, and cost objectives under varying loads. However, many deployments operate on fixed infrastructure where horizontal scaling is not viable. Existing approaches optimize solely for accuracy and do not consider changes in workload conditions. We observe that compound AI systems can switch between configurations to fit infrastructure capacity, trading accuracy for latency based on current load. This requires discovering multiple Pareto-optimal configurations from a combinatorial search space and determining when to switch between them at runtime. We present Compass, a novel framework that enables dynamic configuration switching through offline optimization and online adaptation. Compass consists of three components: COMPASS-V algorithm for configuration discovery, Planner for switching policy derivation, and Elastico Controller for runtime adaptation. COMPASS-V discovers accuracy-feasible configurations using finite-difference guided search and a combination of hill-climbing and lateral expansion. Planner profiles these configurations on target hardware and derives switching policies using a queuing theory based model. Elastico monitors queue depth and switches configurations based on derived thresholds. Across two compound AI workflows, COMPASS-V achieves 100% recall while reducing configuration evaluations by 57.5% on average compared to exhaustive search, with efficiency gains reaching 95.3% at tight accuracy thresholds. Runtime adaptation achieves 90-98% SLO compliance under dynamic load patterns, improving SLO compliance by 71.6% over static high-accuracy baselines, while simultaneously improving accuracy by 3-5% over static fast baselines.
• Abstract（参考訳）: 複合AIは、エンジニアリングされたソフトウェアコンポーネントをAIワークフローに組み込んだ、特殊なAI/MLモデルをオーケストレーションする、統一されたシステムを表す分散インテリジェンスアプローチである。 複雑なAI運用デプロイメントは、さまざまな負荷下での正確性、レイテンシ、コスト目標を満足させなければなりません。 しかし、水平スケーリングが不可能な固定インフラストラクチャ上では、多くのデプロイメントが動作する。 既存のアプローチは、単に正確性のために最適化されており、ワークロード条件の変更を考慮していない。 複雑なAIシステムは、インフラストラクチャのキャパシティに合うように構成を切り替えることができ、現在の負荷に基づいてレイテンシのトレーディング精度が向上する。 これにより、組合せ検索空間から複数のPareto-optimal構成を発見し、実行時にそれを切り替えるタイミングを決定する必要がある。 オフライン最適化とオンライン適応による動的構成切り替えを可能にする新しいフレームワークであるCompassを提案する。 Compassは、設定発見のためのCompASS-Vアルゴリズム、ポリシー導出の切り替えのためのPlanner、実行時適応のためのElastico Controllerの3つのコンポーネントで構成されている。 CompASS-Vは,有限差分探索法と丘登上法と側方展開法の組み合わせにより,精度の高い構成を求める。 Plannerは、これらの構成をターゲットハードウェア上でプロファイルし、キューイング理論に基づくモデルを使用してスイッチングポリシーを導出する。 Elasticoはキューの深さを監視し、派生しきい値に基づいて設定を切り替える。 2つの複合AIワークフロー全体で、CompASS-Vは構成評価を平均で57.5%削減しつつ、100%リコールを達成する。 実行時適応は、動的負荷パターン下で90-98%のSLOコンプライアンスを実現し、静的な高速ベースラインに対して71.6%のSLOコンプライアンスを改善し、同時に静的な高速ベースラインに対して3-5%の精度向上を実現している。

関連論文リスト

• Generative Control as Optimization: Time Unconditional Flow Matching for Adaptive and Robust Robotic Control [33.03635235189535]
  動作合成を反復的最適化に変換する時間非条件フレームワークGeCOについて紹介する。 テスト時間推論は、単純な状態に対して収束開始早期に基づいて計算を割り当てる適応的なプロセスとなり、難しい状態に対してはより長く精製する。 我々は,GeCOを標準シミュレーションベンチマークで検証し,pi0シリーズのVision-Language-Action(VLA)モデルにシームレスなスケーリングを示す。
  論文  参考訳（メタデータ） (2026-03-18T15:27:17Z)
• AdaFuse: Accelerating Dynamic Adapter Inference via Token-Level Pre-Gating and Fused Kernel Optimization [84.25316984309725]
  動的スパース構造とパラメータ効率のよいアダプタ(例えばLoRA)の統合は、大規模言語モデル(LLM)を拡張するための強力な技術である。 計算負荷は最小限に抑えられるが、計算のレイテンシが急上昇し、復号速度が2.5倍以上遅くなる。 AdaFuseはアルゴリズムと基盤となるハードウェアシステムとの緊密な協調設計に基づいて構築されたフレームワークで、効率的な動的アダプタ実行を実現する。
  論文  参考訳（メタデータ） (2026-03-12T12:46:42Z)
• Relatron: Automating Relational Machine Learning over Relational Databases [50.94254514286021]
  本稿では, RDL と DFS を共有設計空間に統合し, 多様な RDB タスクを対象としたアーキテクチャ中心の検索を行う。 RDLはDFSを一貫して上回り、高いタスク依存性を持つ。(2)タスク全体において単一のアーキテクチャが支配的であり、タスク認識モデル選択の必要性を強調し、精度は選択アーキテクチャの信頼性の低いガイドである。
  論文  参考訳（メタデータ） (2026-02-26T02:45:22Z)
• RISER: Orchestrating Latent Reasoning Skills for Adaptive Activation Steering [62.63376387138257]
  本稿では,アクティベーション空間における大規模言語モデル(LLM)推論を適応的に制御するプラグイン・アンド・プレイ介入フレームワークを提案する。 RISERは再利用可能な推論ベクトルのライブラリを構築し、軽量ルータを使用して各入力に対して動的に構成する。 ルーターは、タスクレベルの報酬の下で強化学習を通じて最適化され、緊急かつ構成的な方法で潜在する認知的プリミティブを活性化する。
  論文  参考訳（メタデータ） (2026-01-14T08:04:33Z)
• Learning to Coordinate: Distributed Meta-Trajectory Optimization Via Differentiable ADMM-DDP [4.880846795915428]
  多様なタスクやエージェント構成に適応するために,L2C(Learning to Coordinate)を提案する。 L2CはADMM-DDPパイプラインを通じてエンドツーエンドを分散的に区別する。 最先端の手法よりも高速な勾配計算を実現する。
  論文  参考訳（メタデータ） (2025-09-01T17:17:05Z)
• TSLA: A Task-Specific Learning Adaptation for Semantic Segmentation on Autonomous Vehicles Platform [60.378160142579]
  NVIDIAtextsuperscripttextregistered DRIVE PX 2.0のようなターゲットプラットフォームにデプロイする場合、計算コストを考慮することが重要です。 我々の目標は、自律運転ハードウェアの計算能力と特定のシナリオに応じてセマンティックセグメンテーションネットワークをカスタマイズすることである。
  論文  参考訳（メタデータ） (2025-08-17T08:09:13Z)
• POLARON: Precision-aware On-device Learning and Adaptive Runtime-cONfigurable AI acceleration [0.0]
  本研究は,効率的な乗算累積演算を行うSIMD対応マルチ精度MACエンジンを提案する。 このアーキテクチャは、計算精度をワークロードの感度に合わせるための層適応的精度戦略を取り入れている。 その結果,PDPは最大で2倍,資源使用量は3倍に改善した。
  論文  参考訳（メタデータ） (2025-06-10T13:33:02Z)
• Complexity-Aware Training of Deep Neural Networks for Optimal Structure Discovery [0.0]
  本稿では、トレーニング中に、トレーニング済みのネットワークを適用せずに機能するディープニューラルネットワークのユニット・レイヤ・プルーニングとレイヤ・プルーニングを組み合わせた新しいアルゴリズムを提案する。 本アルゴリズムは, 学習精度とプルーニングレベルを最適に交換し, ユニットプルーニングと計算量とパラメータ複雑性のバランスをとる。 提案アルゴリズムは,ネットワークに対応する最適化問題の解に収束することを示す。
  論文  参考訳（メタデータ） (2024-11-14T02:00:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。