論文の概要: SMOCS: A Streaming Framework for Simplified Deployment, Monitoring, and Optimization of ML Systems in Production
- arxiv url: http://arxiv.org/abs/2607.02731v1
- Date: Thu, 02 Jul 2026 19:43:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-07 22:26:29.408436
- Title: SMOCS: A Streaming Framework for Simplified Deployment, Monitoring, and Optimization of ML Systems in Production
- Title(参考訳): SMOCS: 運用におけるMLシステムのデプロイ、監視、最適化を簡単にするためのストリーミングフレームワーク
- Abstract要約: 機械学習は、科学施設のリアルタイムモニタリング、最適化、制御において大きな可能性を証明している。
運用環境におけるMLモデルのデプロイとメンテナンスは、依然として重要なエンジニアリング上の課題である。
私たちは、この課題に3つのコントリビューションを通じて対処する、Kafkaベースのコンテナ化フレームワークであるSMOCSを紹介します。
- 参考スコア(独自算出の注目度): 0.7537220883022466
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Machine learning has demonstrated significant potential for real-time monitoring, optimization, and control of scientific facilities. However, deploying and maintaining ML models in operational environments remains a substantial engineering challenge. Each facility presents unique data protocols, non-standard formats, and infrastructure constraints, forcing teams to rebuild integration pipelines for every new application. We present SMOCS (Streaming Monitoring Optimization and Control System), a Kafka-based containerized framework that addresses this challenge through three contributions: 1) a layered abstraction over Apache Kafka that separates infrastructure from application logic, 2) a three-thread agent architecture that temporally decouples data ingestion, model training, and real-time inference enabling continuous online learning from live data streams, and 3) a configuration-driven deployment model that enables domain experts to operate ML pipelines without software engineering expertise. SMOCS is facility platform-agnostic, fault-isolated by design, and horizontally scalable through Docker containerization. The framework is publicly available as open-source software on the Jefferson Lab Github.
- Abstract(参考訳): 機械学習は、科学施設のリアルタイムモニタリング、最適化、制御において大きな可能性を証明している。
しかし、運用環境でのMLモデルのデプロイとメンテナンスは、依然として重要なエンジニアリング上の課題である。
各施設には独自のデータプロトコル、非標準フォーマット、インフラストラクチャの制約があり、新しいアプリケーションごとに統合パイプラインを再構築せざるを得ない。
SMOCS(Streaming Monitoring Optimization and Control System)は、Kafkaベースのコンテナ化フレームワークで、この課題に3つのコントリビューションを通じて対処しています。
1) インフラストラクチャとアプリケーションロジックを分離するApache Kafka上のレイヤ抽象化。
2)データ取り込み、モデルトレーニング、リアルタイム推論を時間的に切り離し、ライブデータストリームから連続的なオンライン学習を可能にする3スレッドエージェントアーキテクチャ。
3) ソフトウェアエンジニアリングの専門知識を必要とせずに、ドメインの専門家がMLパイプラインを運用できる構成駆動デプロイメントモデル。
SMOCSは、プラットフォームに依存しず、設計によってフォールトアイソレーションされ、Dockerコンテナ化を通じて水平方向にスケーラブルである。
このフレームワークは、ジェファーソンラボGithubでオープンソースソフトウェアとして公開されている。
関連論文リスト
- A Domain-Driven Design Simulator for Business Logic-Rich Microservice Systems [0.5729426778193398]
ビジネス論理に富んだシステムの開発には、データの一貫性と分散調整の間の複雑なトレードオフをナビゲートする必要がある。
現在のアーキテクチャシミュレータはドメインセマンティクスよりもネットワークメトリクスを優先している。
我々は、コアビジネスロジックを通信やトランザクションインフラストラクチャから分離するtextitDomain-Driven Design(DDD)マイクロサービスシミュレータを導入します。
論文 参考訳(メタデータ) (2026-05-01T23:36:26Z) - Operationalization of Machine Learning with Serverless Architecture: An Industrial Operationalization of Machine Learning with Serverless Architecture: An Industrial Implementation for Harmonized System Code Prediction [0.0]
本稿では、データ取り込み、トレーニング、デプロイメント、監視、再トレーニングからイベント駆動パイプラインとマネージドサービスまで、完全なMLライフサイクルをオーケストレーションするサーバレスMLOpsフレームワークを提案する。
本研究では,グローバル取引において税関当局が使用する標準化コードに,短い非構造化製品記述をマッピングするコンプライアンスクリティカルなタスクである,調和システム(HS)コード予測の産業的実装を通じて,実践的適用性を実証する。
私たちのソリューションは、複数のディープラーニングアーキテクチャを埋め込んだカスタムテキストを使用します。
論文 参考訳(メタデータ) (2026-02-19T05:59:55Z) - Nimbus: A Unified Embodied Synthetic Data Generation Framework [51.55989844555466]
データボリュームと多様性のスケーリングは、インボディードインテリジェンスを一般化するために重要である。
我々は、異種ナビゲーションと操作パイプラインを統合するために設計された統合合成データ生成フレームワークであるNimbusを紹介する。
評価の結果,Nimbusは最適化されていないベースラインに比べてエンドツーエンドのスループットが2~3倍向上していることがわかった。
論文 参考訳(メタデータ) (2026-01-29T09:27:31Z) - ABC-Bench: Benchmarking Agentic Backend Coding in Real-World Development [72.4729759618632]
本稿では,現実的かつ実行可能なワークフロー内でエージェントバックエンドコーディングを評価するベンチマークであるABC-Benchを紹介する。
オープンソースリポジトリから8つの言語と19のフレームワークにまたがる224の実践的なタスクをキュレートしました。
我々の評価は、最先端モデルでさえ、これらの総合的なタスクに対して信頼性の高いパフォーマンスを提供するのに苦労していることを示している。
論文 参考訳(メタデータ) (2026-01-16T08:23:52Z) - AIConfigurator: Lightning-Fast Configuration Optimization for Multi-Framework LLM Serving [16.664502126572856]
AIConfiguratorは、Large Language Model(LLM)推論のための統一されたパフォーマンスモデリングシステムである。
GPUベースのプロファイリングを必要とせずに、迅速なフレームワークベースの構成検索を可能にする。
これは、高密度モデルのパフォーマンスを最大40%向上させる優れたサービス構成を特定する。
論文 参考訳(メタデータ) (2026-01-09T20:03:57Z) - Let It Flow: Agentic Crafting on Rock and Roll, Building the ROME Model within an Open Agentic Learning Ecosystem [90.17610617854247]
本稿では,エージェントモデルの生産パイプラインを最適化する基盤インフラであるエージェント学習エコシステム(ALE)を紹介する。
ALEは、重量最適化のためのトレーニング後のフレームワークであるROLL、軌道生成のためのサンドボックス環境マネージャであるROCK、効率的なコンテキストエンジニアリングのためのエージェントフレームワークであるiFlow CLIの3つのコンポーネントで構成されている。
ROMEはALEが基盤として100万件以上のトラジェクトリをトレーニングしたオープンソースエージェントです。
論文 参考訳(メタデータ) (2025-12-31T14:03:39Z) - Training Report of TeleChat3-MoE [77.94641922160359]
この技術的レポートは、主に、フロンティアモデルサイズへの信頼性と効率的なスケーリングを可能にする、基礎となるトレーニングインフラストラクチャを提示する。
本稿では,ハードウェアプラットフォーム間の整合性を確保するため,演算子レベルとエンドツーエンドの数値検証精度の体系的手法を詳述する。
解析的推定と整数線形プログラミングを利用した並列化フレームワークも提案され,多次元並列化の構成を最適化する。
論文 参考訳(メタデータ) (2025-12-30T11:42:14Z) - Scalable Engine and the Performance of Different LLM Models in a SLURM based HPC architecture [3.746889836344766]
本研究は、SLURM(Simple Linux Utility for Resource Management)に基づく高性能コンピューティングアーキテクチャについて詳述する。
動的リソーススケジューリングとコンテナ化のシームレスな統合は、CPU、GPU、メモリをマルチノードクラスタで効率的に管理するために活用されている。
その結果,大規模HPCインフラストラクチャ上でのLLM推論は,より効率的で応答性が高く,耐故障性に優れた。
論文 参考訳(メタデータ) (2025-08-25T09:11:27Z) - In Situ Framework for Coupling Simulation and Machine Learning with
Application to CFD [51.04126395480625]
近年、流体力学計算を容易にする機械学習(ML)の多くの成功例が報告されている。
シミュレーションが大きくなるにつれて、従来のオフライン学習のための新しいトレーニングデータセットの生成は、I/Oとストレージのボトルネックを生み出します。
この作業は、この結合を単純化し、異種クラスタでのその場トレーニングと推論を可能にするソリューションを提供する。
論文 参考訳(メタデータ) (2023-06-22T14:07:54Z) - SOLIS -- The MLOps journey from data acquisition to actionable insights [62.997667081978825]
本稿では,基本的なクロスプラットフォームテンソルフレームワークとスクリプト言語エンジンを使用しながら,すべての要件をサポートする統合デプロイメントパイプラインとフリー・ツー・オペレートアプローチを提案する。
しかし、このアプローチは、実際のプロダクショングレードシステムに機械学習機能を実際にデプロイするために必要な手順やパイプラインを提供していない。
論文 参考訳(メタデータ) (2021-12-22T14:45:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。