論文の概要: Ensuring Robustness in ML-enabled Software Systems: A User Survey
- arxiv url: http://arxiv.org/abs/2510.18292v1
- Date: Tue, 21 Oct 2025 04:51:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-10-25 03:08:12.925922
- Title: Ensuring Robustness in ML-enabled Software Systems: A User Survey
- Title（参考訳）: ML対応ソフトウェアシステムにおけるロバスト性を保証する: ユーザ調査
- Authors: Hala Abdelkader, Mohamed Abdelrazek, Priya Rani, Rajesh Vasa, Jean-Guy Schneider,
- Abstract要約: ML-On-Railsプロトコルは、実運用におけるML対応システムの堅牢性と信頼性を高めるように設計されている。
OOD検出、敵攻撃検出、入力バリデーション、説明可能性などの重要なセーフガードを統合している。
HTTPステータスコードを使用して、モデル結果とエラーの報告の透明性を高めるための、モデルからソフトウェアへの通信フレームワークも含まれている。
- 参考スコア（独自算出の注目度）: 1.9582269909285637
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Ensuring robustness in ML-enabled software systems requires addressing critical challenges, such as silent failures, out-of-distribution (OOD) data, and adversarial attacks. Traditional software engineering practices, which rely on predefined logic, are insufficient for ML components that depend on data and probabilistic decision-making. To address these challenges, we propose the ML-On-Rails protocol, a unified framework designed to enhance the robustness and trustworthiness of ML-enabled systems in production. This protocol integrates key safeguards such as OOD detection, adversarial attack detection, input validation, and explainability. It also includes a model-to-software communication framework using HTTP status codes to enhance transparency in reporting model outcomes and errors. To align our approach with real-world challenges, we conducted a practitioner survey, which revealed major robustness issues, gaps in current solutions, and highlighted how a standardised protocol such as ML-On-Rails can improve system robustness. Our findings highlight the need for more support and resources for engineers working with ML systems. Finally, we outline future directions for refining the proposed protocol, leveraging insights from the survey and real-world applications to continually enhance its effectiveness.
- Abstract（参考訳）: ML対応ソフトウェアシステムの堅牢性を保証するには、サイレント障害、アウト・オブ・ディストリビューション(OOD)データ、敵攻撃といった重要な課題に対処する必要がある。
事前定義されたロジックに依存する従来のソフトウェアエンジニアリングプラクティスは、データや確率的意思決定に依存するMLコンポーネントには不十分である。
これらの課題に対処するために,ML対応システムの堅牢性と信頼性を高めるために設計された統合フレームワークであるML-On-Railsプロトコルを提案する。
このプロトコルは、OOD検出、敵攻撃検出、入力検証、説明可能性などのキーセーフガードを統合している。
HTTPステータスコードを使用して、モデル結果とエラーの報告の透明性を高めるための、モデルからソフトウェアへの通信フレームワークも含まれている。
そこで我々は,ML-On-Railsのような標準化されたプロトコルがシステムの堅牢性を改善する方法を強調した。
私たちの調査結果は、MLシステムを扱うエンジニアに対して、より多くのサポートとリソースの必要性を浮き彫りにしている。
最後に,提案プロトコルを改良するための今後の方向性を概説し,調査および実世界のアプリケーションからの洞察を活用して,その有効性を継続的に向上する。
関連論文リスト
- A Scoping Review of Machine Learning Applications in Power System Protection and Disturbance Management [5.539105299550525]
このスコーピングレビューは、電力系統保護と外乱管理における機械学習(ML)応用に関する最近の文献を合成する。
i) 保護タスクにおけるML研究の範囲を評価すること、(ii) さまざまな運用シナリオにわたるMLパフォーマンスを評価すること、(iii) グリッド条件の進化に適した方法を特定すること、の3つの主要な目的に対処する。
論文 参考訳（メタデータ） (2025-09-10T23:19:28Z) - Training Language Models to Generate Quality Code with Program Analysis Feedback [66.0854002147103]
大規模言語モデル(LLM)によるコード生成は、ますます本番環境で採用されているが、コード品質の保証には失敗している。
実運用品質のコードを生成するためにLLMにインセンティブを与える強化学習フレームワークであるREALを提案する。
論文 参考訳（メタデータ） (2025-05-28T17:57:47Z) - Engineering Trustworthy Machine-Learning Operations with Zero-Knowledge Proofs [1.7723990552388873]
Zero-Knowledge Proofs (ZKPs) は、検証済みの計算を通じて、機密性の高いモデルの詳細やデータを明らかにすることなく、要求の遵守を証明できる暗号化ソリューションを提供する。
我々は、AI検証と検証パイプラインにおけるアプリケーションに不可欠な5つの重要な特性(非対話性、透過的なセットアップ、標準表現、簡潔性、および後セキュリティ)を特定します。
論文 参考訳（メタデータ） (2025-05-26T15:39:11Z) - Enhancing LLM Reliability via Explicit Knowledge Boundary Modeling [41.19330514054401]
大規模言語モデル(LLM)は、不一致の自己認識に起因する幻覚の傾向にある。
本稿では,高速かつ低速な推論システムを統合し,信頼性とユーザビリティを調和させる明示的知識境界モデリングフレームワークを提案する。
論文 参考訳（メタデータ） (2025-03-04T03:16:02Z) - Towards a Probabilistic Framework for Analyzing and Improving LLM-Enabled Software [0.0]
大規模言語モデル(LLM)対応システムは、ソフトウェア工学において重要な課題である。
本稿では,これらのシステムを体系的に解析し,改善するための確率的枠組みを提案する。
論文 参考訳（メタデータ） (2025-01-10T22:42:06Z) - MLGuard: Defend Your Machine Learning Model! [3.4069804433026314]
機械学習アプリケーションのコントラクトを指定する新しいアプローチであるMLGuardを提案する。
私たちの仕事は、MLアプリケーションの構築と安全性の監視に必要な、包括的なフレームワークを提供することを目的としています。
論文 参考訳（メタデータ） (2023-09-04T06:08:11Z) - Vulnerability of Machine Learning Approaches Applied in IoT-based Smart Grid: A Review [51.31851488650698]
機械学習(ML)は、IoT(Internet-of-Things)ベースのスマートグリッドでの使用頻度が高まっている。
電力信号に注入された逆方向の歪みは システムの正常な制御と操作に大きな影響を及ぼす
安全クリティカルパワーシステムに適用されたMLsgAPPの脆弱性評価を行うことが不可欠である。
論文 参考訳（メタデータ） (2023-08-30T03:29:26Z) - Recursively Feasible Probabilistic Safe Online Learning with Control Barrier Functions [60.26921219698514]
CBFをベースとした安全クリティカルコントローラのモデル不確実性を考慮した再構成を提案する。
次に、結果の安全制御器のポイントワイズ実現可能性条件を示す。
これらの条件を利用して、イベントトリガーによるオンラインデータ収集戦略を考案する。
論文 参考訳（メタデータ） (2022-08-23T05:02:09Z) - Practical Machine Learning Safety: A Survey and Primer [81.73857913779534]
自動運転車のような安全クリティカルなアプリケーションにおける機械学習アルゴリズムのオープンワールド展開は、さまざまなML脆弱性に対処する必要がある。
一般化エラーを低減し、ドメイン適応を実現し、外乱例や敵攻撃を検出するための新しいモデルと訓練技術。
我々の組織は、MLアルゴリズムの信頼性を異なる側面から向上するために、最先端のML技術を安全戦略にマッピングする。
論文 参考訳（メタデータ） (2021-06-09T05:56:42Z) - Robust Machine Learning Systems: Challenges, Current Trends,
Perspectives, and the Road Ahead [24.60052335548398]
機械学習(ML)技術は、スマートサイバーフィジカルシステム(CPS)とIoT(Internet-of-Things)によって急速に採用されています。
ハードウェアとソフトウェアの両方のレベルで、さまざまなセキュリティと信頼性の脅威に脆弱であり、その正確性を損ないます。
本稿では、現代のMLシステムの顕著な脆弱性を要約し、これらの脆弱性に対する防御と緩和技術の成功を強調する。
論文 参考訳（メタデータ） (2021-01-04T20:06:56Z) - Technology Readiness Levels for AI & ML [79.22051549519989]
機械学習システムの開発は、現代的なツールで容易に実行できるが、プロセスは通常急いで、エンドツーエンドで実行される。
エンジニアリングシステムは、高品質で信頼性の高い結果の開発を効率化するために、明確に定義されたプロセスとテスト標準に従います。
我々は、機械学習の開発と展開のための実証されたシステムエンジニアリングアプローチを提案する。
論文 参考訳（メタデータ） (2020-06-21T17:14:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。