論文の概要: EasyMLServe: Easy Deployment of REST Machine Learning Services
- arxiv url: http://arxiv.org/abs/2211.14417v1
- Date: Sat, 26 Nov 2022 00:42:51 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-29 19:14:43.002419
- Title: EasyMLServe: Easy Deployment of REST Machine Learning Services
- Title(参考訳): EasyMLServe: REST機械学習サービスのデプロイを容易にする
- Authors: Oliver Neumann, Marcel Schilling, Markus Reischl, Ralf Mikut
- Abstract要約: 私たちは、RESTインターフェースと一般的なローカルまたはWebベースのGUIを使用して、クラウドに機械学習サービスをデプロイするためのEasyMLServeソフトウェアフレームワークにコントリビュートします。
我々は,実世界の2つのアプリケーション,すなわちエネルギー時系列予測とセルインスタンスのセグメンテーションにフレームワークを適用した。
- 参考スコア(独自算出の注目度): 0.745554610293091
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Various research domains use machine learning approaches because they can
solve complex tasks by learning from data. Deploying machine learning models,
however, is not trivial and developers have to implement complete solutions
which are often installed locally and include Graphical User Interfaces (GUIs).
Distributing software to various users on-site has several problems. Therefore,
we propose a concept to deploy software in the cloud. There are several
frameworks available based on Representational State Transfer (REST) which can
be used to implement cloud-based machine learning services. However, machine
learning services for scientific users have special requirements that
state-of-the-art REST frameworks do not cover completely. We contribute an
EasyMLServe software framework to deploy machine learning services in the cloud
using REST interfaces and generic local or web-based GUIs. Furthermore, we
apply our framework on two real-world applications, \ie, energy time-series
forecasting and cell instance segmentation. The EasyMLServe framework and the
use cases are available on GitHub.
- Abstract(参考訳): さまざまな研究領域では、データから学習することで複雑なタスクを解決できるため、機械学習のアプローチを採用している。
しかし、機械学習モデルのデプロイは簡単ではなく、開発者はローカルにインストールされgui(graphical user interface)を含む完全なソリューションを実装する必要がある。
様々なユーザーへのソフトウェア配布にはいくつかの問題がある。
そこで我々は,ソフトウェアをクラウドに展開する概念を提案する。
クラウドベースの機械学習サービスを実装するために使用できる、representational state transfer(rest)に基づいたいくつかのフレームワークがある。
しかしながら、科学的ユーザのための機械学習サービスには、最先端のRESTフレームワークが完全にカバーしていないという特別な要件があります。
私たちは、RESTインターフェースと一般的なローカルまたはWebベースのGUIを使用して、クラウドに機械学習サービスをデプロイするためのEasyMLServeソフトウェアフレームワークにコントリビュートします。
さらに, 実世界の2つのアプリケーション, \ie, energy time-series forecasting, cell instance segmentation に適用した。
EasyMLServeフレームワークとユースケースはGitHubで公開されている。
関連論文リスト
- OS-ATLAS: A Foundation Action Model for Generalist GUI Agents [55.37173845836839]
OS-AtlasはGUIグラウンディングとOODエージェントタスクに優れた基礎的なGUIアクションモデルである。
現在までに1300万以上のGUI要素を含む、オープンソースのクロスプラットフォームGUI基盤コーパスをリリースしています。
論文 参考訳(メタデータ) (2024-10-30T17:10:19Z) - AutoGLM: Autonomous Foundation Agents for GUIs [51.276965515952]
我々は、グラフィカルユーザインタフェース(GUI)を介してデジタルデバイスを自律的に制御するための基礎エージェントとして設計された、ChatGLMファミリーの新しいシリーズであるAutoGLMを紹介する。
実世界のGUIインタラクションのための実践的基礎エージェントシステムとしてAutoGLMを開発した。
評価では、AutoGLMが複数のドメインにまたがって有効であることを示す。
論文 参考訳(メタデータ) (2024-10-28T17:05:10Z) - StraightLine: An End-to-End Resource-Aware Scheduler for Machine Learning Application Requests [2.8172171019058387]
StraightLineは、機械学習アプリケーションのためのエンドツーエンドのリソース対応スケジューラである。
リクエストをそのユニークな特性に基づいてインテリジェントに配置する。
モデルデプロイメントのレスポンス時間と失敗率を大幅に削減できます。
論文 参考訳(メタデータ) (2024-07-25T15:58:56Z) - TaskWeaver: A Code-First Agent Framework [50.99683051759488]
TaskWeaverは、LLMで動く自律エージェントを構築するためのコードファーストフレームワークである。
ユーザ要求を実行可能なコードに変換し、ユーザ定義プラグインを呼び出し可能な関数として扱う。
リッチなデータ構造、フレキシブルなプラグイン利用、動的プラグイン選択のサポートを提供する。
論文 参考訳(メタデータ) (2023-11-29T11:23:42Z) - Heterogeneous Decentralized Machine Unlearning with Seed Model
Distillation [47.42071293545731]
情報セキュリティ法は、訓練された機械学習モデルによって忘れられる無条件の権利を持つユーザーを許した。
蒸留したシードモデルを用いて,すべてのクライアントに対して,消去可能なアンサンブルを構築する,HDUSと呼ばれる分散アンラーニングフレームワークを設計する。
論文 参考訳(メタデータ) (2023-08-25T09:42:54Z) - MLExchange: A web-based platform enabling exchangeable machine learning
workflows [41.066688323596374]
MLExchangeプロジェクトは、MLと計算リソースを科学的な発見に使用する、深遠なMLバックグラウンドを持たない科学者や施設のユーザのためのツールを備えた共同プラットフォームを構築することを目的としている。
プラットフォーム全体あるいは個々のサービスは、ラップトップ(通常は単一ユーザ)から、多くのユーザによって(同時に)アクセスされた高性能クラスタまで、さまざまなスケールのサーバに簡単にデプロイできます。
論文 参考訳(メタデータ) (2022-08-20T21:36:11Z) - SOLIS -- The MLOps journey from data acquisition to actionable insights [62.997667081978825]
本稿では,基本的なクロスプラットフォームテンソルフレームワークとスクリプト言語エンジンを使用しながら,すべての要件をサポートする統合デプロイメントパイプラインとフリー・ツー・オペレートアプローチを提案する。
しかし、このアプローチは、実際のプロダクショングレードシステムに機械学習機能を実際にデプロイするために必要な手順やパイプラインを提供していない。
論文 参考訳(メタデータ) (2021-12-22T14:45:37Z) - Large-Scale Intelligent Microservices [24.99695289157708]
我々は、データベース操作を拡張してWebサービスプリミティブを含むApache Sparkベースのマイクロサービスオーケストレーションフレームワークを紹介します。
音声、視覚、検索、異常検出、テキスト分析などのインテリジェントなサービスに対して大規模なクライアントを提供する。
論文 参考訳(メタデータ) (2020-09-17T03:38:28Z) - Serverless inferencing on Kubernetes [0.0]
我々は、サーバレス機械学習推論ソリューションを提供するために、KNativeサーバレスパラダイムに基づいて構築されたKFServingプロジェクトについて議論する。
GPUベースの推論を自動スケーリングする際の課題の解決方法を示し、本番環境での使用から学んだ教訓について論じる。
論文 参考訳(メタデータ) (2020-07-14T21:23:59Z) - A Privacy-Preserving Distributed Architecture for
Deep-Learning-as-a-Service [68.84245063902908]
本稿では,ディープラーニング・アズ・ア・サービスのための分散アーキテクチャを提案する。
クラウドベースのマシンとディープラーニングサービスを提供しながら、ユーザの機密データを保存できる。
論文 参考訳(メタデータ) (2020-03-30T15:12:03Z) - FlexServe: Deployment of PyTorch Models as Flexible REST Endpoints [6.730473762151365]
現代のソフトウェアシステムへの人工知能機能の統合は、クラウドベースのサービスと表現型状態転送アーキテクチャを使用することで、ますます単純化されている。
モデル証明とモデル進化に対する制御の欠如に関する不十分な情報は、厳格なセキュリティ要件を持つ多くの運用環境において、これらのサービスをより広く採用する上で障害となる。
論文 参考訳(メタデータ) (2020-02-29T18:51:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。