論文の概要: ML-On-Rails: Safeguarding Machine Learning Models in Software Systems A Case Study

• arxiv url: http://arxiv.org/abs/2401.06513v1
• Date: Fri, 12 Jan 2024 11:27:15 GMT
• ステータス: 処理完了
• システム内更新日: 2024-01-15 19:47:36.944499
• Title: ML-On-Rails: Safeguarding Machine Learning Models in Software Systems A Case Study
• Title（参考訳）: ML-On-Rails: ソフトウェアシステムにおける機械学習モデルの保護
• Authors: Hala Abdelkader, Mohamed Abdelrazek, Scott Barnett, Jean-Guy Schneider, Priya Rani, Rajesh Vasa
• Abstract要約: 機械学習モデルを保護するためのプロトコルであるML-On-Railsを紹介する。 ML-On-Railsは、さまざまなMLタスクのための明確に定義されたエンドポイントインターフェースを確立し、MLプロバイダとMLコンシューマ間のコミュニケーションを明確にする。 実世界のMoveReminderアプリケーションのケーススタディを通じてプロトコルを評価する。
• 参考スコア（独自算出の注目度）: 4.087995998278127
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Machine learning (ML), especially with the emergence of large language models (LLMs), has significantly transformed various industries. However, the transition from ML model prototyping to production use within software systems presents several challenges. These challenges primarily revolve around ensuring safety, security, and transparency, subsequently influencing the overall robustness and trustworthiness of ML models. In this paper, we introduce ML-On-Rails, a protocol designed to safeguard ML models, establish a well-defined endpoint interface for different ML tasks, and clear communication between ML providers and ML consumers (software engineers). ML-On-Rails enhances the robustness of ML models via incorporating detection capabilities to identify unique challenges specific to production ML. We evaluated the ML-On-Rails protocol through a real-world case study of the MoveReminder application. Through this evaluation, we emphasize the importance of safeguarding ML models in production.
• Abstract（参考訳）: 機械学習(ML)、特に大規模言語モデル(LLM)の出現により、様々な産業が大幅に変化した。 しかし、MLモデルプロトタイプからソフトウェアシステム内での本番環境への移行にはいくつかの課題がある。 これらの課題は、主に安全性、セキュリティ、透明性の確保に取り組み、その後、mlモデルの全体的な堅牢性と信頼性に影響を与える。 本稿では、MLモデルを保護するためのプロトコルであるML-On-Railsを紹介し、異なるMLタスクのための明確に定義されたエンドポイントインターフェースを確立し、MLプロバイダとMLコンシューマ(ソフトウェアエンジニア)間のコミュニケーションを明確にする。 ML-On-Railsは、本番ML固有の固有の課題を特定するために検出機能を組み込むことで、MLモデルの堅牢性を高める。 実世界のMoveReminderアプリケーションのケーススタディにより, ML-On-Railsプロトコルの評価を行った。 この評価を通じて、プロダクションにおけるMLモデルの保護の重要性を強調した。

関連論文リスト

• LLaVA-KD: A Framework of Distilling Multimodal Large Language Models [70.19607283302712]
  本稿では,l-MLLMからs-MLLMへ知識を伝達する新しいフレームワークを提案する。 具体的には,l-MLLMとs-MLLMの視覚的テキスト出力分布のばらつきを最小限に抑えるために,MDist(Multimodal Distillation)を導入する。 また,S-MLLMの可能性を完全に活用するための3段階学習手法を提案する。
  論文  参考訳（メタデータ） (2024-10-21T17:41:28Z)
• CoCA: Regaining Safety-awareness of Multimodal Large Language Models with Constitutional Calibration [90.36429361299807]
  マルチモーダルな大言語モデル (MLLM) は、視覚的な入力を含む会話への関与において顕著な成功を収めている。 視覚的モダリティの統合は、MLLMが悪意のある視覚的入力に影響を受けやすいという、ユニークな脆弱性を導入している。 本稿では,出力分布を校正することでMLLMの安全性を向上するCoCA技術を紹介する。
  論文  参考訳（メタデータ） (2024-09-17T17:14:41Z)
• A Large-Scale Study of Model Integration in ML-Enabled Software Systems [4.776073133338119]
  機械学習(ML)とそのシステムへの組み込みは、ソフトウェア集約システムのエンジニアリングを大きく変えた。 伝統的に、ソフトウェアエンジニアリングは、ソースコードやそれらを作成するプロセスなど、手作業で作成したアーティファクトに焦点を当てている。 我々は、GitHub上で2,928以上のオープンソースシステムをカバーする、実際のML対応ソフトウェアシステムに関する最初の大規模な研究を提示する。
  論文  参考訳（メタデータ） (2024-08-12T15:28:40Z)
• Verbalized Machine Learning: Revisiting Machine Learning with Language Models [63.10391314749408]
  言語化機械学習(VML)の枠組みを紹介する。 VMLはパラメータ空間を人間の解釈可能な自然言語に制限する。 我々は,VMLの有効性を実証的に検証し,VMLがより強力な解釈可能性を実現するためのステップストーンとして機能することを期待する。
  論文  参考訳（メタデータ） (2024-06-06T17:59:56Z)
• When Code Smells Meet ML: On the Lifecycle of ML-specific Code Smells in ML-enabled Systems [13.718420553401662]
  本研究の目的は、ML特有のコードの臭いとして知られる、特定の品質関連関心事の出現と進化を調査することである。 具体的には、実際のML対応システムにおいて、ML特有のコードの臭いを経験的に分析して研究する計画を提案する。 探索的研究を行い、ML対応システムの大規模なデータセットをマイニングし、約337のプロジェクトに関する400万件のコミットを分析します。
  論文  参考訳（メタデータ） (2024-03-13T07:43:45Z)
• MLGuard: Defend Your Machine Learning Model! [3.4069804433026314]
  機械学習アプリケーションのコントラクトを指定する新しいアプローチであるMLGuardを提案する。 私たちの仕事は、MLアプリケーションの構築と安全性の監視に必要な、包括的なフレームワークを提供することを目的としています。
  論文  参考訳（メタデータ） (2023-09-04T06:08:11Z)
• Vulnerability of Machine Learning Approaches Applied in IoT-based Smart Grid: A Review [51.31851488650698]
  機械学習(ML)は、IoT(Internet-of-Things)ベースのスマートグリッドでの使用頻度が高まっている。 電力信号に注入された逆方向の歪みは システムの正常な制御と操作に大きな影響を及ぼす 安全クリティカルパワーシステムに適用されたMLsgAPPの脆弱性評価を行うことが不可欠である。
  論文  参考訳（メタデータ） (2023-08-30T03:29:26Z)
• Scaling up Trustless DNN Inference with Zero-Knowledge Proofs [47.42532753464726]
  本稿では,MLモデル推論を非インタラクティブに検証する,最初の実用的なImageNet-scale法を提案する。 フル解像度のImageNetモデルに対する有効な推論のZKSNARK証明を初めて提供し、79%のトップ5精度を実現した。
  論文  参考訳（メタデータ） (2022-10-17T00:35:38Z)
• Practical Machine Learning Safety: A Survey and Primer [81.73857913779534]
  自動運転車のような安全クリティカルなアプリケーションにおける機械学習アルゴリズムのオープンワールド展開は、さまざまなML脆弱性に対処する必要がある。 一般化エラーを低減し、ドメイン適応を実現し、外乱例や敵攻撃を検出するための新しいモデルと訓練技術。 我々の組織は、MLアルゴリズムの信頼性を異なる側面から向上するために、最先端のML技術を安全戦略にマッピングする。
  論文  参考訳（メタデータ） (2021-06-09T05:56:42Z)
• Learning by Design: Structuring and Documenting the Human Choices in Machine Learning Development [6.903929927172917]
  本稿では,機械学習モデル作成における熟考と規範的選択を概説する8つの設計質問からなる手法を提案する。 本手法は,方法論的透明性を通じた批判的評価を支援するなど,いくつかの利点がある。 本手法は,MLモデルの開発において,ML実践者が選択や仮定を構造化し,正当化する上で有効であると考えている。
  論文  参考訳（メタデータ） (2021-05-03T08:47:45Z)
• MLDemon: Deployment Monitoring for Machine Learning Systems [10.074466859579571]
  ML Deployment Monitoritoring のための新しいアプローチ MLDemon を提案します。 MLDemonはラベル付けされていない機能と少数のオンデマンドラベル付きサンプルを統合して、リアルタイムの見積を生成する。 多様な分布のドリフトとモデルを持つ時間データセットでは、MLDemonは既存のモニタリングアプローチを大幅に上回っている。
  論文  参考訳（メタデータ） (2021-04-28T07:59:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。