論文の概要: Is the Rush to Machine Learning Jeopardizing Safety? Results of a Survey

• arxiv url: http://arxiv.org/abs/2111.14324v1
• Date: Mon, 29 Nov 2021 04:53:39 GMT
• ステータス: 処理完了
• システム内更新日: 2021-12-01 04:06:22.662497
• Title: Is the Rush to Machine Learning Jeopardizing Safety? Results of a Survey
• Title（参考訳）: 機械学習は安全性を脅かすのか? 調査の結果
• Authors: Mehrnoosh Askarpour, Alan Wassyng, Mark Lawford, Richard Paige, Zinovy Diskin
• Abstract要約: 機械学習(ML)が安全クリティカルシステム(SCS)への道を探っている 現在の安全基準とプラクティスは、ML技術に対応するように設計されていない。
• 参考スコア（独自算出の注目度）: 2.8348950186890467
• License: http://creativecommons.org/publicdomain/zero/1.0/
• Abstract: Machine learning (ML) is finding its way into safety-critical systems (SCS). Current safety standards and practice were not designed to cope with ML techniques, and it is difficult to be confident that SCSs that contain ML components are safe. Our hypothesis was that there has been a rush to deploy ML techniques at the expense of a thorough examination as to whether the use of ML techniques introduces safety problems that we are not yet adequately able to detect and mitigate against. We thus conducted a targeted literature survey to determine the research effort that has been expended in applying ML to SCS compared with that spent on evaluating the safety of SCSs that deploy ML components. This paper presents the (surprising) results of the survey.
• Abstract（参考訳）: 機械学習(ML)は、安全クリティカルシステム(SCS)への道を探っている。 現在の安全基準やプラクティスは、ML技術に対処するために設計されておらず、MLコンポーネントを含むSCSが安全であることを確信することは困難である。 我々の仮説は、ML技術の使用が安全上の問題を引き起こすかどうかについて、徹底的な検査を犠牲にして、ML技術の導入を急いでいるというものである。 本研究では,ML コンポーネントをデプロイする SCS の安全性を評価するのに費やした費用と比較して,ML を SCS に適用するための研究努力について検討した。 本稿では,調査の結果について概説する。

関連論文リスト

• Nothing in Excess: Mitigating the Exaggerated Safety for LLMs via Safety-Conscious Activation Steering [56.92068213969036]
  重大言語モデル(LLM)が悪意のある命令から脅威を守るためには、安全性の調整が不可欠である。 近年の研究では、過大な安全性の問題により、安全性に配慮したLCMは、良質な問い合わせを拒否する傾向にあることが明らかになっている。 過大な安全性の懸念を和らげるために,SCANS法を提案する。
  論文  参考訳（メタデータ） (2024-08-21T10:01:34Z)
• Eyes Closed, Safety On: Protecting Multimodal LLMs via Image-to-Text Transformation [98.02846901473697]
  我々は,MLLMの本来の安全意識を生かしたトレーニング不要な保護手法であるECSO(Eyes Closed, Safety On)を提案する。 ECSOは、安全でない画像をテキストに適応的に変換することで、より安全な応答を生成し、予め整列されたLCMの本質的な安全性メカニズムを活性化する。
  論文  参考訳（メタデータ） (2024-03-14T17:03:04Z)
• Vulnerability of Machine Learning Approaches Applied in IoT-based Smart Grid: A Review [51.31851488650698]
  機械学習(ML)は、IoT(Internet-of-Things)ベースのスマートグリッドでの使用頻度が高まっている。 電力信号に注入された逆方向の歪みは システムの正常な制御と操作に大きな影響を及ぼす 安全クリティカルパワーシステムに適用されたMLsgAPPの脆弱性評価を行うことが不可欠である。
  論文  参考訳（メタデータ） (2023-08-30T03:29:26Z)
• Unsolved Problems in ML Safety [45.82027272958549]
  研究の準備ができている4つの問題、すなわち、ハザードを克服し、ハザードを特定し、MLシステムを操り、MLシステムの扱い方に対するリスクを低減する。 それぞれの問題のモチベーションを明確にし、具体的な研究指針を提供する。
  論文  参考訳（メタデータ） (2021-09-28T17:59:36Z)
• The Role of Explainability in Assuring Safety of Machine Learning in Healthcare [9.462125772941347]
  本稿では、MLベースのシステムの安全性保証に説明可能なAI手法が寄与する方法について述べる。 結果は安全引数として表現され、どのようにして説明可能なAIメソッドが安全ケースに寄与できるかを示す。
  論文  参考訳（メタデータ） (2021-09-01T09:32:14Z)
• Practical Machine Learning Safety: A Survey and Primer [81.73857913779534]
  自動運転車のような安全クリティカルなアプリケーションにおける機械学習アルゴリズムのオープンワールド展開は、さまざまなML脆弱性に対処する必要がある。 一般化エラーを低減し、ドメイン適応を実現し、外乱例や敵攻撃を検出するための新しいモデルと訓練技術。 我々の組織は、MLアルゴリズムの信頼性を異なる側面から向上するために、最先端のML技術を安全戦略にマッピングする。
  論文  参考訳（メタデータ） (2021-06-09T05:56:42Z)
• White Paper Machine Learning in Certified Systems [70.24215483154184]
  DEEL Project set-up the ML Certification 3 Workgroup (WG) set-up by the Institut de Recherche Technologique Saint Exup'ery de Toulouse (IRT)
  論文  参考訳（メタデータ） (2021-03-18T21:14:30Z)
• Robust Machine Learning Systems: Challenges, Current Trends, Perspectives, and the Road Ahead [24.60052335548398]
  機械学習(ML)技術は、スマートサイバーフィジカルシステム(CPS)とIoT(Internet-of-Things)によって急速に採用されています。 ハードウェアとソフトウェアの両方のレベルで、さまざまなセキュリティと信頼性の脅威に脆弱であり、その正確性を損ないます。 本稿では、現代のMLシステムの顕著な脆弱性を要約し、これらの脆弱性に対する防御と緩和技術の成功を強調する。
  論文  参考訳（メタデータ） (2021-01-04T20:06:56Z)
• Safety design concepts for statistical machine learning components toward accordance with functional safety standards [0.38073142980732994]
  近年,統計機械学習の誤判定により,キュリアルな事故や事故が報告されている。 本稿では,機能安全基準に従って,コンポーネントに対する5種類の技術安全概念(TSC)を整理する。
  論文  参考訳（メタデータ） (2020-08-04T01:01:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。