論文の概要: MLOS: An Infrastructure for Automated Software Performance Engineering
- arxiv url: http://arxiv.org/abs/2006.02155v2
- Date: Thu, 4 Jun 2020 11:10:53 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-26 07:56:12.885661
- Title: MLOS: An Infrastructure for Automated Software Performance Engineering
- Title（参考訳）: MLOS: ソフトウェアパフォーマンスエンジニアリングを自動化するインフラストラクチャ
- Authors: Carlo Curino, Neha Godwal, Brian Kroth, Sergiy Kuryata, Greg Lapinski,
Siqi Liu, Slava Oks, Olga Poppe, Adam Smiechowski, Ed Thayer, Markus Weimer,
Yiwen Zhu
- Abstract要約: MLOSは,ソフトウェアパフォーマンスエンジニアリングを民主化する,MLベースのインフラストラクチャと方法論である。
MLOSは、継続的、インスタンスレベル、堅牢で、追跡可能なシステムの最適化を可能にする。
MLOSのコアインフラストラクチャをオープンソース化する過程で、私たちは学術機関と協業して、Software 2.0とMLOSのアイデアに関する教育プログラムを作成しています。
- 参考スコア（独自算出の注目度）: 14.244308246225744
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Developing modern systems software is a complex task that combines business
logic programming and Software Performance Engineering (SPE). The later is an
experimental and labor-intensive activity focused on optimizing the system for
a given hardware, software, and workload (hw/sw/wl) context.
Today's SPE is performed during build/release phases by specialized teams,
and cursed by: 1) lack of standardized and automated tools, 2) significant
repeated work as hw/sw/wl context changes, 3) fragility induced by a
"one-size-fit-all" tuning (where improvements on one workload or component may
impact others). The net result: despite costly investments, system software is
often outside its optimal operating point - anecdotally leaving 30% to 40% of
performance on the table.
The recent developments in Data Science (DS) hints at an opportunity:
combining DS tooling and methodologies with a new developer experience to
transform the practice of SPE. In this paper we present: MLOS, an ML-powered
infrastructure and methodology to democratize and automate Software Performance
Engineering. MLOS enables continuous, instance-level, robust, and trackable
systems optimization. MLOS is being developed and employed within Microsoft to
optimize SQL Server performance. Early results indicated that component-level
optimizations can lead to 20%-90% improvements when custom-tuning for a
specific hw/sw/wl, hinting at a significant opportunity. However, several
research challenges remain that will require community involvement. To this
end, we are in the process of open-sourcing the MLOS core infrastructure, and
we are engaging with academic institutions to create an educational program
around Software 2.0 and MLOS ideas.
- Abstract（参考訳）: 現代のシステムソフトウェアの開発は、ビジネスロジックプログラミングとソフトウェアパフォーマンスエンジニアリング(SPE)を組み合わせた複雑なタスクである。
後者は、所定のハードウェア、ソフトウェア、ワークロード(hw/sw/wl)コンテキストに対するシステムの最適化に焦点を当てた、実験的かつ労働集約的な活動である。
今日のSPEは、特殊なチームによるビルド/リリースフェーズで行われ、呪われています。
1)標準化・自動化ツールの欠如
2) hw/sw/wl コンテキスト変更として重要な繰り返し処理。
3) ひとつのワークロードやコンポーネントの改善が他に影響を与える可能性がある)チューニングによって引き起こされる脆弱性。
結果として、コストのかかる投資にもかかわらず、システムソフトウェアは最適な運用ポイント外にあることが多い。
データサイエンス(DS)の最近の発展は、DSツールと方法論を新しい開発者エクスペリエンスと組み合わせて、SPEの実践を変革する機会を示唆している。
本稿では、ソフトウェアパフォーマンスエンジニアリングを民主化し自動化するためのmlベースのインフラストラクチャと方法論であるmlosについて述べる。
MLOSは継続的、インスタンスレベル、堅牢で、追跡可能なシステムの最適化を可能にする。
MLOSは、SQL Serverのパフォーマンスを最適化するためにMicrosoft内で開発され、採用されている。
初期の結果は、コンポーネントレベルの最適化が特定のhw/sw/wlをカスタマイズする際の20%-90%の改善につながることを示唆しており、大きなチャンスを示唆している。
しかし、コミュニティの関与を必要とするいくつかの研究課題が残っている。
この目的のために、私たちはMLOSコアインフラストラクチャをオープンソース化する過程にあり、学術機関と協業して、Software 2.0とMLOSのアイデアに関する教育プログラムを作成しています。
関連論文リスト
- LLM-Generated Microservice Implementations from RESTful API Definitions [3.740584607001637]
本稿では,Large Language Models (LLMs) を用いて,APIファーストのソフトウェア開発を自動化するシステムを提案する。
システムはOpenAPI仕様を生成し、そこからサーバコードを生成し、実行ログとエラーメッセージを分析するフィードバックループを通じてコードを精査する。
このシステムは、ソフトウェア開発サイクルをスピードアップする上で、ソフトウェア開発者、アーキテクト、組織に利益をもたらす可能性がある。
論文 参考訳（メタデータ） (2025-02-13T20:50:33Z) - Lingma SWE-GPT: An Open Development-Process-Centric Language Model for Automated Software Improvement [62.94719119451089]
Lingma SWE-GPTシリーズは、現実世界のコード提出活動から学び、シミュレーションする。
Lingma SWE-GPT 72BはGitHubの30.20%の問題を解決する。
論文 参考訳（メタデータ） (2024-11-01T14:27:16Z) - LLMs in the Imaginarium: Tool Learning through Simulated Trial and Error [54.954211216847135]
既存の大規模言語モデル(LLM)は30%から60%の範囲でしか正当性に至らない。
試行錯誤(STE)を模擬したツール拡張LDMの生物学的なインスピレーション法を提案する。
STEは、試行錯誤、想像力、記憶という、生物学的システムにおけるツール使用行動の成功のための3つの重要なメカニズムを編成する。
論文 参考訳（メタデータ） (2024-03-07T18:50:51Z) - CRAFT: Customizing LLMs by Creating and Retrieving from Specialized
Toolsets [75.64181719386497]
大規模言語モデル(LLM)のためのツール作成・検索フレームワークであるCRAFTを提案する。
タスク用に特別にキュレートされたツールセットを作成し、複雑なタスクを解決する能力を高めるためにこれらのセットからツールを取得するコンポーネントをLLMに装備する。
本手法はフレキシブルに設計されており,既製のLCMを細かな調整なしに未確認領域やモダリティに適応するためのプラグアンドプレイ方式を提供する。
論文 参考訳（メタデータ） (2023-09-29T17:40:26Z) - Towards an MLOps Architecture for XAI in Industrial Applications [2.0457031151514977]
機械学習(ML)は、業務の改善、効率の向上、コスト削減を支援するため、産業分野で人気の高いツールとなっている。
残りのMLOps(Machine Learning Operations)の課題のひとつは、説明の必要性だ。
我々はMLOpsソフトウェアアーキテクチャを開発し、ML開発とデプロイメントプロセスに説明とフィードバック機能を統合するという課題に対処した。
論文 参考訳（メタデータ） (2023-09-22T09:56:25Z) - LAMM: Language-Assisted Multi-Modal Instruction-Tuning Dataset,
Framework, and Benchmark [81.42376626294812]
本稿では,Language-Assisted Multi-Modalインストラクションチューニングデータセット,フレームワーク,ベンチマークを提案する。
我々の目標は、MLLMのトレーニングと評価のための成長するエコシステムとしてLAMMを確立することです。
本稿では,2次元および3次元視覚のための広範囲な視覚タスクをカバーする包括的データセットとベンチマークを提案する。
論文 参考訳（メタデータ） (2023-06-11T14:01:17Z) - Operationalizing Machine Learning: An Interview Study [13.300075655862573]
私たちは18人の機械学習エンジニア(MLE)と半構造化インタビューを行い、多くのアプリケーションで作業しています。
私たちのインタビューでは、運用MLデプロイメントの成功を管理する変数として、Velocity、Validation、Versioningの3つを公開しています。
ML実験の成功、デプロイメント、運用パフォーマンスの維持に関する一般的なプラクティスを要約します。
論文 参考訳（メタデータ） (2022-09-16T16:59:36Z) - Exploring the potential of flow-based programming for machine learning
deployment in comparison with service-oriented architectures [8.677012233188968]
理由のひとつは、データ収集と分析に関するアクティビティのために設計されていないインフラストラクチャである、と私たちは論じています。
本稿では,データストリームを用いたフローベースのプログラミングを,ソフトウェアアプリケーション構築に広く使用されるサービス指向アーキテクチャの代替として検討する。
論文 参考訳（メタデータ） (2021-08-09T15:06:02Z) - Characterizing and Detecting Mismatch in Machine-Learning-Enabled
Systems [1.4695979686066065]
機械学習システムの開発と展開は依然として課題だ。
本論文では,エンドツーエンドのML対応システム開発における知見とその意義について報告する。
論文 参考訳（メタデータ） (2021-03-25T19:40:29Z) - Technology Readiness Levels for Machine Learning Systems [107.56979560568232]
機械学習システムの開発とデプロイは、現代のツールで簡単に実行できますが、プロセスは一般的に急ぎ、エンドツーエンドです。
私たちは、機械学習の開発と展開のための実証済みのシステムエンジニアリングアプローチを開発しました。
当社の「機械学習技術準備レベル」フレームワークは、堅牢で信頼性が高く、責任あるシステムを確保するための原則的なプロセスを定義します。
論文 参考訳（メタデータ） (2021-01-11T15:54:48Z) - Technology Readiness Levels for AI & ML [79.22051549519989]
機械学習システムの開発は、現代的なツールで容易に実行できるが、プロセスは通常急いで、エンドツーエンドで実行される。
エンジニアリングシステムは、高品質で信頼性の高い結果の開発を効率化するために、明確に定義されたプロセスとテスト標準に従います。
我々は、機械学習の開発と展開のための実証されたシステムエンジニアリングアプローチを提案する。
論文 参考訳（メタデータ） (2020-06-21T17:14:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。