論文の概要: Towards Architecting Sustainable MLOps: A Self-Adaptation Approach
- arxiv url: http://arxiv.org/abs/2404.04572v1
- Date: Sat, 6 Apr 2024 09:38:04 GMT
- ステータス: 処理完了
- システム内更新日: 2024-04-09 20:29:27.168596
- Title: Towards Architecting Sustainable MLOps: A Self-Adaptation Approach
- Title(参考訳): 持続可能なMLOpsの構築に向けて - 自己適応アプローチ
- Authors: Hiya Bhatt, Shrikara Arun, Adyansh Kakran, Karthik Vaidhyanathan,
- Abstract要約: 機械学習オペレーション(MLOps)は、MLSの適応性と技術的持続性を向上させることで、有望なソリューションを提供する。
本稿では,MLOpsの持続可能性を高めるためのMAPE-Kループを通じて,MLOpsアーキテクチャに自己適応原則を組み込んだ新しいアプローチを提案する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In today's dynamic technological landscape, sustainability has emerged as a pivotal concern, especially with respect to architecting Machine Learning enabled Systems (MLS). Many ML models fail in transitioning to production, primarily hindered by uncertainties due to data variations, evolving requirements, and model instabilities. Machine Learning Operations (MLOps) offers a promising solution by enhancing adaptability and technical sustainability in MLS. However, MLOps itself faces challenges related to environmental impact, technical maintenance, and economic concerns. Over the years, self-adaptation has emerged as a potential solution to handle uncertainties. This paper introduces a novel approach employing self-adaptive principles integrated into the MLOps architecture through a MAPE-K loop to bolster MLOps sustainability. By autonomously responding to uncertainties, including data, model dynamics, and environmental variations, our approach aims to address the sustainability concerns of a given MLOps pipeline identified by an architect at design time. Further, we implement the method for a Smart City use case to display the capabilities of our approach.
- Abstract(参考訳): 今日のダイナミックな技術状況において、サステナビリティは特に機械学習対応システム(MLS)のアーキテクチャに関して重要な関心事として現れています。
多くのMLモデルは本番環境への移行に失敗し、主にデータのバリエーション、要求の進化、モデルの不安定さによる不確実性によって妨げられる。
機械学習オペレーション(MLOps)は、MLSの適応性と技術的持続性を向上させることで、有望なソリューションを提供する。
しかし、MLOps自体が環境への影響、技術的保守、経済的懸念に関連する課題に直面している。
長年にわたり、不確実性に対処する潜在的な解決策として自己適応が出現してきた。
本稿では,MLOpsの持続可能性を高めるためのMAPE-Kループを通じて,MLOpsアーキテクチャに自己適応原則を組み込んだ新しいアプローチを提案する。
データ、モデルダイナミクス、環境変動などの不確実性に自律的に対応することで、設計時にアーキテクトが特定した特定のMLOpsパイプラインの持続可能性に関する懸念に対処することを目的としています。
さらに,スマートシティのユースケースに対して,我々のアプローチの能力を示す手法を実装した。
関連論文リスト
- EcoMLS: A Self-Adaptation Approach for Architecting Green ML-Enabled Systems [1.0923877073891446]
ソフトウェアシステム内での省エネの可能性で認識されている自己適応技術は、マシンラーニングの実現可能なシステムにおいて、まだ広く研究されていない。
本研究は、インテリジェントランタイム適応によるMLSサステナビリティ向上の可能性を明らかにする。
論文 参考訳(メタデータ) (2024-04-17T14:12:47Z) - Reimagining Self-Adaptation in the Age of Large Language Models [0.9999629695552195]
本稿では、ジェネレーティブAI(GenAI)を用いて、アーキテクチャ適応の有効性と効率を高めるためのビジョンを提案する。
そこで我々は,Large Language Models (LLMs) が文脈依存適応戦略を自律的に生成できることを提案する。
我々の研究結果は、GenAIがソフトウェアシステムの動的適応性とレジリエンスを改善する大きな可能性を持っていることを示唆している。
論文 参考訳(メタデータ) (2024-04-15T15:30:12Z) - Tuning-Free Accountable Intervention for LLM Deployment -- A
Metacognitive Approach [55.613461060997004]
大規模言語モデル(LLM)は、自然言語処理タスクの幅広い領域にわたる変換的進歩を触媒している。
我々は,自己認識型誤り識別と訂正機能を備えたLLMを実現するために,textbfCLEARと呼ばれる革新的なテキストメタ認知手法を提案する。
論文 参考訳(メタデータ) (2024-03-08T19:18:53Z) - Entropy-Regularized Token-Level Policy Optimization for Large Language
Models [76.02428537504323]
大規模言語モデル(LLM)は、対話的な意思決定タスクにおいてインテリジェントなエージェントとして期待されている。
本稿では,トークンレベルでのLLMの最適化に適したエントロピー拡張RL法である,エントロピー正規化トークンレベル最適化(ETPO)を導入する。
その結果,ETPO は CodeLlama-7B モデルで有効な性能向上を実現し,RLHF から受け継いだ変種 PPO ベースラインを超越していることがわかった。
論文 参考訳(メタデータ) (2024-02-09T07:45:26Z) - Solution-oriented Agent-based Models Generation with Verifier-assisted
Iterative In-context Learning [10.67134969207797]
エージェントベースのモデル(ABM)は、仮説的な解決策やポリシーの提案と検証に不可欠なパラダイムである。
大きな言語モデル(LLM)は、ドメイン間の知識とプログラミング能力をカプセル化することで、このプロセスの難しさを軽減できる可能性がある。
SAGEは、ターゲット問題に対する自動モデリングおよびソリューション生成のために設計された、汎用的なソリューション指向のABM生成フレームワークである。
論文 参考訳(メタデータ) (2024-02-04T07:59:06Z) - HAZARD Challenge: Embodied Decision Making in Dynamically Changing
Environments [93.94020724735199]
HAZARDは、火災、洪水、風などの3つの予期せぬ災害シナリオで構成されている。
このベンチマークにより、さまざまなパイプラインで自律エージェントの意思決定能力を評価することができる。
論文 参考訳(メタデータ) (2024-01-23T18:59:43Z) - Bridging the Gap: Towards an Expanded Toolkit for ML-Supported Decision-Making in the Public Sector [6.693502127460251]
我々は,MLモデルの要件と公共セクターの意思決定のギャップを埋めることを目的として,主要な技術的課題の包括的概要を提示する。
我々は、モデルと運用環境を接続するMLパイプラインの要点に集中する。
これらの課題は、因果ML、ドメイン適応、不確実性定量化、多目的最適化を含む、新たな方法論の進歩と結びついている。
論文 参考訳(メタデータ) (2023-10-29T17:44:48Z) - Incorporating Neuro-Inspired Adaptability for Continual Learning in
Artificial Intelligence [59.11038175596807]
継続的な学習は、現実世界に強い適応性を持つ人工知能を強化することを目的としている。
既存の進歩は主に、破滅的な忘れを克服するために記憶安定性を維持することに焦点を当てている。
本稿では,学習の可塑性を改善するため,パラメータ分布の古い記憶を適切に減衰させる汎用的手法を提案する。
論文 参考訳(メタデータ) (2023-08-29T02:43:58Z) - Towards Self-Adaptive Machine Learning-Enabled Systems Through QoS-Aware
Model Switching [1.2277343096128712]
本稿では,機械学習モデルバランサの概念を提案し,複数のモデルを用いてMLモデルに関連する不確実性を管理する。
AdaMLSは、この概念を活用し、従来のMAPE-Kループを拡張した新しい自己適応手法である。
予備的な結果は、AdaMLSが保証において、単純で単一の最先端モデルを上回ることを示唆している。
論文 参考訳(メタデータ) (2023-08-19T09:33:51Z) - Robots That Ask For Help: Uncertainty Alignment for Large Language Model
Planners [85.03486419424647]
KnowNoは、大きな言語モデルの不確実性を測定し、調整するためのフレームワークである。
KnowNoは、タスク完了に関する統計的保証を提供する共形予測理論に基づいている。
論文 参考訳(メタデータ) (2023-07-04T21:25:12Z) - AI Maintenance: A Robustness Perspective [91.28724422822003]
我々は、AIライフサイクルにおけるロバストネスの課題を強調し、自動車のメンテナンスに類似させることで、AIのメンテナンスを動機付ける。
本稿では,ロバストネスリスクの検出と軽減を目的としたAIモデル検査フレームワークを提案する。
我々のAIメンテナンスの提案は、AIライフサイクル全体を通して堅牢性評価、状態追跡、リスクスキャン、モデル硬化、規制を促進する。
論文 参考訳(メタデータ) (2023-01-08T15:02:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。