論文の概要: AutoScout: Structured Optimization for Automating ML System Configuration

• arxiv url: http://arxiv.org/abs/2603.11603v1
• Date: Thu, 12 Mar 2026 06:56:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-13 14:46:25.933571
• Title: AutoScout: Structured Optimization for Automating ML System Configuration
• Title（参考訳）: AutoScout: MLシステム構成の自動化のための構造化最適化
• Authors: Jimmy Shong, Yuhan Ding, Yihan Jiang, Liheng Jing, Haonan Chen, Gaokai Zhang, Aditya Akella, Fan Lai,
• Abstract要約: AutoScoutは機械学習トレーニング、微調整、推論のための汎用システムである。 ハイインパクトな設定を優先し、様々な忠実度を持つシミュレータをアンサンブルする。 高性能な設定を一貫して定義し、専門家が調整した設定よりも2.7-3.0$timesのトレーニングスピードアップを実現している。
• 参考スコア（独自算出の注目度）: 12.657466158068972
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Machine learning (ML) systems expose a rapidly expanding configuration space spanning model-parallelism strategies, communication optimizations, and low-level runtime parameters. End-to-end system efficiency is highly sensitive to these choices, yet identifying high-performance configurations is challenging due to heterogeneous feature types (e.g., sparse and dense parameters), conditional dependencies (e.g., valid execution parameters only under specific upstream decisions), and the high search (profiling) cost. Existing approaches either optimize a narrow subset of configuration dimensions or rely on ad-hoc heuristics that fail to generalize as configuration spaces continue to grow. We present AutoScout, a general-purpose systems configurator for ML training, fine-tuning, and inference. It formulates the system configuration as a mixed-discrete/continuous optimization problem with hierarchical dependencies and introduces a hybrid optimization framework that jointly refines sparse structural decisions and dense execution parameters. To reduce profiling cost, AutoScout adaptively prioritizes high-impact configuration features and ensembles simulators with varying fidelity. Across diverse models, hardware platforms, and deployment objectives, AutoScout consistently identifies high-performance configurations, achieving 2.7-3.0$\times$ training speedup over expert-tuned settings.
• Abstract（参考訳）: 機械学習(ML)システムは、モデル並列性戦略、通信最適化、低レベルのランタイムパラメータにまたがる、急速に拡大する構成空間を公開する。 エンド・ツー・エンドのシステム効率は、これらの選択に非常に敏感であるが、不均一な特徴タイプ(例えばスパースと高密度パラメータ)、条件依存(例えば、特定の上流決定の下でのみ有効な実行パラメータ)、高検索(プロファイリング)コストにより、高性能な構成を特定することは困難である。 既存のアプローチは構成空間の狭い部分集合を最適化するか、構成空間が拡大し続けるにつれて一般化に失敗するアドホックなヒューリスティックに依存している。 本稿では、MLトレーニング、微調整、推論のための汎用システム構成ツールであるAutoScoutを紹介する。 システム構成を階層的な依存関係を持つ混合離散/連続最適化問題として定式化し、疎結合な構造決定と厳密な実行パラメータを共同で洗練するハイブリッド最適化フレームワークを導入する。 プロファイリングコストを削減するため、AutoScoutは高インパクトな設定機能を適応的に優先順位付けし、様々な忠実度でシミュレータをアンサンブルする。 多様なモデル、ハードウェアプラットフォーム、デプロイメントの目的を越えて、AutoScoutは、常に高性能な設定を識別し、2.7-3.0$\times$のトレーニングスピードアップを達成した。

関連論文リスト

• AIConfigurator: Lightning-Fast Configuration Optimization for Multi-Framework LLM Serving [16.664502126572856]
  AIConfiguratorは、Large Language Model(LLM)推論のための統一されたパフォーマンスモデリングシステムである。 GPUベースのプロファイリングを必要とせずに、迅速なフレームワークベースの構成検索を可能にする。 これは、高密度モデルのパフォーマンスを最大40%向上させる優れたサービス構成を特定する。
  論文  参考訳（メタデータ） (2026-01-09T20:03:57Z)
• Optimas: Optimizing Compound AI Systems with Globally Aligned Local Rewards [98.0983122471875]
  複合システムの効率的な最適化のための統一的なフレームワークであるOptimasを提案する。 各イテレーションにおいて、Optimasはローカルリワード関数(LRF)を効率よく適用し、各コンポーネントのローカル報酬を最大化しながら、この特性を維持する。 我々は,5つの実世界の化合物システムに対して広範な評価を行い,オプティマスが11.92%の平均的な改善によって強いベースラインを上回っていることを示す。
  論文  参考訳（メタデータ） (2025-07-03T07:12:48Z)
• CURE: Simulation-Augmented Auto-Tuning in Robotics [15.943773140929856]
  本稿では、因果的な設定オプションを識別するCUREを提案する。 CUREは、様々な構成オプションとロボットのパフォーマンス目標との間の因果関係を抽象化する。 物理ロボットとシミュレーションの両方で実験を行うことにより,CUREの有効性と伝達性を示す。
  論文  参考訳（メタデータ） (2024-02-08T04:27:14Z)
• Parameter Optimization with Conscious Allocation (POCA) [4.478575931884855]
  ハイパーバンドベースの機械学習アプローチが最も効果的である。 私たちは出席します。 新人 Conscious Allocation (POCA) は、入力を適応的に割り当てるハイパーバンドベースのアルゴリズムである。 ハイパーパラメータの構成に予算を割り当てます POCAは、両方の設定で強い設定を高速に見つける。
  論文  参考訳（メタデータ） (2023-12-29T00:13:55Z)
• AutoPEFT: Automatic Configuration Search for Parameter-Efficient Fine-Tuning [77.61565726647784]
  ニューラルアーキテクチャ検索の進歩により,自動PEFT設定選択のためのAutoPEFTを提案する。 本稿では,AutoPEFTが検出した構成が既存のPEFT法よりも大幅に優れており,FFTと同等かそれ以上であることを示す。
  論文  参考訳（メタデータ） (2023-01-28T08:51:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。